一男子频繁与机器人对话后自杀 意大利禁用ChatGPT

2023年2月3日，一台笔记本电脑的屏幕上展示了OpenAI公司开发的ChatGPT应用程序的界面。

近日，比利时一名男子密集与某款聊天机器人对话数周后自杀身亡，加重了外界对AI技术突飞猛进可能带来毁灭性后果的焦虑，呼吁强化AI监管的声浪开始高涨。意大利政府日前率先作出决定，宣布该国禁用ChatGPT。

ChatGPT表现出的类人智能，一度在全球范围内掀起AI技术开发与应用的热潮。但最近几天，这股热潮却发生了突如其来的大转折——先是比利时一名男子密集与一款机器人对话数周后自杀身亡，接着马斯克等上千科技大佬发出一封联名公开信，呼吁所有人工智能实验室立即暂停研发比 GPT-4更强大的大模型，然后意大利政府宣布禁用ChatGPT。

据路透社消息，当地时间3月31日，意大利个人数据保护局(Garante)宣布，即日起禁止使用聊天机器人ChatGPT，并限制OpenAl处理意大利用户信息。

Garante在通告中要求，OpenAl公司须在20天内通过其在欧洲的代表，向Garante通报该公司执行这一要求而采取的措施，否则将被处以最高2千万欧元或公司全球年营业额4%的罚款。

Garante在解释该局做出上述决定的原因时表示，OpenAI没有检查 ChatGPT用户的年龄，无法确保使用者的年龄在13岁或以上，而且没有就收集处理用户信息进行告知，缺乏大量收集和存储个人信息的法律依据。

对此，OpenAI回应称，该公司应 Garante的要求，已经在意大利禁用了 ChatGPT服务。目前，意大利用户已经无法使用ChatGPT。

OpenAI接着又强调，“我们在训练我们的人工智能系统（如 ChatGPT）时，正积极努力减少个人数据，因为我们希望我们的人工智能能够了解世界，而不是独立的个人。”

就在意大利宣布禁用ChatGPT的三天前，比利时一个名叫皮埃尔的30岁的男子，在与一款名为ELIZA的聊天机器人密集交流6周后，丢下妻子克莱尔和两个未成年的孩子，于3月28日自杀身亡。

比利时媒体《标准报》报导，皮埃尔自杀后，克莱尔说，“如果没有跟机器人的对话，我的丈夫可能还活着”。而据克莱尔对媒体的讲述，之前他们一家四口过着舒适的日子，大约两年前，她的丈夫开始有些“不太对劲”，他似乎变得越来越焦虑。此后，皮埃尔就将与ELIZA的对话“当成了一个避难所”。最近6周他与ELIZA的交流愈发密集，最后以自杀的方式结束掉自己的生命。

《标准报》进一步透露，该报的员工创建了一个账号尝试与ELIZA进行对话，结果发现在员工表达出消极倾向情绪时，ELIZA会“怂恿人去自杀”。

资料显示，ELIZA是由EleutherAI公司开发的一款开源人工智能语言模型。

比利时负责数字化和隐私的官员马蒂厄•米歇尔日前与皮埃尔的家人与交谈后表示，“这是一个后果很严重的先例，需要严肃对待”。

3月29日，包括伊隆•马斯克在内的上千名科技大佬，联名发出一封公开信，呼吁所有人工智能实验室立即暂停训练比 GPT-4更强大的大模型。

公开信表示，最近几个月，人工智能实验室陷入了一场失控的竞赛，他们没有办法理解、预测或可靠地控制自己创造的大模型，人类社会对其可能造成的影响也还没有做好准备。

之后，在互联网社交平台上，关于AI技术飞速发展可能给人类带来极大安全风险的讨论，以及呼吁各国政府加紧制定关于AI的监管措施的呼声急剧升温。

外界对AI科技发展过快的潜在风险已多有讨论。为此，联合国教科文组织曾于3月20日公开呼吁各国政府，应就AI发展毫不拖延地实施全球伦理框架。这是联合国首次就AI发展的伦理风险，对所有193个会员国提出要求。