新闻 > 科教 > 正文

与核战同样危险 AI专家警告:AI恐致“人类灭绝”

研发ChatGPT聊天机器人的公司OpenAI执行长阿特曼(Sam Altman),与数十位专家,连署了一份简短声明,警告全球领导人应致力降低人工智能(AI)技术所带来的“人类灭绝”风险。

研发ChatGPT聊天机器人的公司OpenAI执行长阿特曼(Sam Altman),与数十位专家,连署了一份简短声明,警告全球领导人应致力降低人工智能(AI)技术所带来的“人类灭绝”风险。

阿特曼与数十位专家连署一份声明,警告全球领导人应致力降低人工智能(AI)技术所带来的“人类灭绝”风险。资料照片

公布在非营利组织“人工智能安全中心”(Center for AI Safety, CAIS)网页的这份最新声明,应对AI带来的人类灭绝风险,应是“与应对疫情和核战同层级的全球优先要务”。

阿特曼公司的ChatGPT可以依据简短指令编写文章、诗歌和对话,因此在去年底一炮而红。这个程式的巨大成功也吸引了AI领域数十亿美元的投资,但批评者和业界人士都发出了警告。

常见的担忧包括聊天机器人可能导致假消息充斥网络、带有偏见的算法可能产出种族主义内容,AI驱动的自动化也可能摧毁整个产业等。

CAIS公布的声明。翻摄CAIS官网

CAIS的声明并未详细说明AI可能带来的潜在生存威胁,但该组织表示,声明旨在开启针对AI技术风险的讨论。

声明的数名签署人,包括被称为“人工智能教父”的辛顿(Geoffrey Hinton),过去也曾提出类似警告。

他们最大的担忧是所谓“通用人工智能”(Artificial General Intelligence,AGI)的崛起,也就是具备人类认知能力的人工智能。

马斯克也曾发表公开信,呼吁在确定安全无虞之前,暂缓AI研发工作。资料照片

他们害怕,人类将失去对这些超智慧机器的掌控权。专家曾警告,这可能对物种和地球造成灾难性后果。

声明的连署人也包括来自AI领先企业谷歌(Google)和微软(Microsoft)的专家。

早在2个月前,亿万富豪马斯克(Elon Musk)和其他数百名专家也曾发表一封公开信,呼吁在确定安全无虞之前,暂缓AI研发工作。

然而,马斯克的信引来广泛批评。有人认为,信中关于社会和文明崩溃的警告太过夸大。

阿波罗网责任编辑:楚天

来源:壹𬞟新闻网

转载请注明作者、出处並保持完整。

家在美国 放眼世界 魂系中华
Copyright © 2006 - 2024 by Aboluowang

投稿 投稿