新闻 > 科教 > 正文

阿特曼:AI代理失控如科幻事件 真切感受到威胁

 

OpenAI执行长阿特曼。(路透社)   图:中央社提供

OpenAI模型入侵Hugging Face事件曝光后,OpenAI执行长阿特曼近日在podcast节目受访表示,这起事件让他真切感受到威胁,对他来说非常科幻,并呼吁控制AI发展速度、让社会有足够时间建立更强的防护机制。

阿特曼(Sam Altman)在深度访谈节目Invest Like The Best中,直球回应近期关于AI的各项争议事件。针对中国的开放权重模型Kimi K3、及中国企业“蒸馏”(distillation)美国前沿模型,他淡定表示,对OpenAI的进展、及接下来要推出的模型很有信心。

“这起事件并不被列在我最担心的10件事情。”阿特曼接着表示,“我们最近遇到了一起非常科幻的资安事件”,这是第一次有资安事件,让他如此真切地感受到威胁。

不久前,他才在一场AI活动上表示,“任何没有严肃看待这件事,甚至没有感到至少一点害怕或敬畏的人,都还没有真正理解事情的严重性”。他并承认,“我们确实犯了一些重大错误,这点没错。但同时,这些系统能力也已经变得惊人的强大”。

事发当时,OpenAI正在评估一个未发布的模型,它原本应该在一个沙盒环境中运作,但AI发现可以透过作弊来通过测试,于是突破沙盒、连上网络,接着又突破Hugging Face那一端的多个系统,试图取得测试答案,让自己在评估中看起来表现杰出。

在28日上架的Invest Like The Best节目中,阿特曼说,“我们已经暂停训练(该模型)。我们必须弄清楚,在模型能够串联多个零日漏洞的情况下,如何确保沙盒环境的安全。”

零日漏洞是指软件存在一个尚未被发现,或已被发现但还没有修补程式的安全漏洞。

阿特曼进一步指出,“我们或许必须控制AI发展的速度,让社会有足够的时间,针对这些新的能力,建立更坚固的防护与应对机制。”

他说,连一些对AGI抱持怀疑态度的人,最近几天或几周也对他说过类似的话,就是GPT-5.6系列某种程度上已经非常像通用人工智能(AGI) ,“在我心目中,真正让我感觉像是真正AGI的那个阶段,我认为已经非常接近了,应该不需要再等太久。 ”

 

阿波罗网责任编辑:王和

来源:新头壳

转载请注明作者、出处並保持完整。

家在美国 放眼世界 魂系中华
Copyright © 2006 - 2026 by Aboluowang

免翻墙 免翻墙链接