阿波罗新闻网 新闻 > 科教 > 正文

新型智能语句生成器太聪明 开发者担忧遭滥用拟不发布

非营利人工智能研究公司OpenAI的语言模型被认为好到了“可怕”的程度。(网页截图)

由非营利人工智能研究公司OpenAI建立的一种新语言模型正在酝酿一场风暴,据悉该模型能够写出极具说服力的文字,让开发者担心这一工具会被人滥用。

OpenAI表示,这种自然语言模型 GPT-2被培训从40千兆互联网文本样本中猜测下一个单词是什么,这种培训的结果是:系统能够就某个话题“写出”真实连贯的文字,和前一版模型相比,新版在连贯性和一致性上获得了极大的改善。

但是,随着系统的在一些应用上展现出良好的结果,例如能够更好地对话以及更好地识别语音,该组织也发现了潜在的问题,例如这个工具可以用来生成假新闻,在网络上冒充真人,或在社交媒体上自动发出欺辱性评论。

出于这个原因,OpenAI表示,将只发布了一个缩水版的语言模型,并且表示,预计鉴于安全问题可能在未来将减少发布新的版本。当然,OpenAI对此决定并不太肯定,“相信AI社区经过深思熟虑,最终将解决某些研究领域的发布规范问题”。

这一决定激怒了社区中一些人,指责该公司欲撕毁其不封闭期研究的承诺。其他人则更加宽容,称此举树立起一个“道德标准”,在可能的滥用之前防范于未然。OpenAI的政策主管Jack Clar表示,该公司的要务是避免“恶意或滥用该技术”,又说“很难在应用和滥用之间搞好平衡”。

OpenAI资助者之一马斯克(Elon Musk)最近陷入了这一争议,在一条推文中他证实自己“没有参与该公司已超过一年”,并且,他已与OpenAI友好地分道扬镳。

OpenAI表示,发布GPT-2的决定尚未作出,并将于六个月内重新审视。与此同时,公司表示,政府“应考虑采取措施,更系统地监控人工智能技术的社会影响,并衡量此类系统在能力上的进步”。

美国情报界警告说,人工智能等领域对美国国家安全至关重要,包括量子计算和无人驾驶车辆。上个星期,川普总统签署了推动美国人工智能研究的行政命令。◇

阿波罗网责任编辑:夏雨荷 来源:大纪元 转载请注明作者、出处並保持完整。

科教热门

相关新闻

➕ 更多同类相关新闻