新闻 > 科教 > 正文

恐危及人类社会!马斯克与AI专家连署公开信 吁暂停训练强大AI

特斯拉首席执行官马斯克(Elon Musk)与一群人工智能(AI)专家、业界高端主管,共同发表公开信,呼吁暂停训练比GPT-4还强大的AI系统六个月,理由是有可能危及社会与人类。

ChatGPT的出现,引发先进AI系统滥用疑虑。(欧新社)

特斯拉首席执行官马斯克(Elon Musk)与一群人工智能(AI)专家、业界高端主管,共同发表公开信,呼吁暂停训练比GPT-4还强大的AI系统六个月,理由是有可能危及社会与人类。

路透报导,这封公开是由非营利组织未来生活研究所发出,超过1,000人联署。除了马斯克,还有苹果共同创办人沃兹尼克(Steve Wozniak)、Stability AI首席执行官Emad Mostaque等科技业界名人。信中请求,在能够有安全协定让业界共同遵守之前,暂停先进AI系统的研发。他们主张,相关安全协定的设计必须经由独立专家来发展、应用和稽核。

公开信说:“强大的AI系统,唯有在我们有信心它的效应会是正向的,它的风险可以被管控,才能够研发。”这封信也详列了能力与人类匹敌的AI系统,可能会为社会与文明带来的各种风险,包括经济、政治的混乱。诉求AI研发者要与监管决策当局合作。

欧盟警察机构Europol本周一呼应对于ChatGPT这类先进AI的伦理与法律担忧。警告这类AI潜在的网络钓鱼、假消息、网络犯罪等不当使用。上述公开信接在Europol表达忧心之后发表。

自从微软支持的OpenAI去年推出ChatGPT之后,竞争者忙着推出类似产品,多家企业准备把这类技术集成到他们的应用程序或是产品之中。

责任编辑: 楚天  来源:经济日报 转载请注明作者、出处並保持完整。

本文网址:https://www.aboluowang.com/2023/0329/1883195.html