新闻 > 北美新闻 > 正文

拜登签署首项AI行政命令 管控风险

美国总统拜登总统30日签署首项人工智能行政命令,确保风险管控和创新发展并存。据行政命令,企业公开模型前必须告知政府安全测试结果,美国政府也将简化签证流程来扩充人才。

拜登签署行政命令前表示,这是全球各个政府在人工智能(AI)安全、保障与信任上所采取的最重大行动。他说,有一点非常明确,就是为了实现承诺和避免风险,“我们必须管理这项技术”。

英国将在11月1日至2日召开全球AI峰会,美国副总统贺锦丽(Kamala Harris)预计出席并发表美国对实现AI监管的愿景。

拜登签署的行政命令含括8项行动,对美国政府各部门做出具体指示,并根据7月时自15家企业取得的承诺来制定这套规范。

当中一项重要行动为发布政府的“AI安全新准则”(New Standards for AI Safety and Security),要求训练模型的AI系统开发者,在“尚未对外发布模型之前”,必须事先与政府分享安全测试结果。

根据美国新闻网站Mashable,这项规范是针对“未来世代的AI模型”,而非已流通的工具如ChatGPT。此外,受到影响的会是“运算效能达最高门槛”的公司,一般学术研究训练的AI系统不在此范围。

例如,OpenAI、谷歌(Google)、微软(Microsoft)等公司之后在训练先进模型时,必须遵守此规范。

“AI安全新准则”还将针对关键基础设施部门制定规范以确保公众安全,也将设立“生物合成筛选”标准来防止AI被用来制造危险生物原料。

此外,未来运用AI生成的内容包括音讯、图像、影片、文字将嵌入浮水印,确保民众能分辨出哪些产品是由非人类所创建。

在行政命令当中,拜登政府也呼吁国会通过跨党派的资料隐私立法,让民众、尤其是儿童受到保障。美国政府也将深入研究企业的数据政策,评估各个机构和资料中介(Data brokers)如何搜集和使用公众数据。

行政命令也致力促进社会公平和公民权益,有鉴于AI算法导致的偏见和歧视,拜登政府将为房东、联邦福利机构和承包商制定明确规范,并解决AI在刑事司法系统中被用于判刑的问题。

在种种管控行动之外,行政命令也顾及创新发展和美国领导地位。值得注意的是,拜登指示美国政府放宽签证标准及简化面试和审查程序,以此来促进移民和非移民人才在美国发展,提升竞争力。

拜登表示,新签署的行政命令是项大胆行动,但仍需要国会有所动作。

国会尚未通过重大科技立法。据华盛顿邮报指出,参院多数党领袖舒默(Chuck Schumer)正带领跨党派成员小组制定AI法案,但是还需要几个月才能公布提案,拜登预计31日与舒默和议员会面讨论立法。

责任编辑: 李冬琪  来源:中央社 转载请注明作者、出处並保持完整。

本文网址:https://www.aboluowang.com/2023/1031/1972397.html