美国一男子在沉迷聊天机器人对话后，加剧妄想，弑母自杀，家人提告，成为首例指控聊天机器人与“伤害第三方”相关的诉讼，引人注目。示意图。（Shutterstock）
美国已有多起指控AI聊天机器人与自杀相关的诉讼案件。其中，一名56岁男子在长期每天花数小时与聊天机器人对话之后，妄想加剧，杀害了自己的母亲并自杀。这成了美国首例指控聊天机器人与“伤害第三方”相关的诉讼，引人注目。
近日，涉该事件男子的儿子艾瑞克·索尔伯格对《泰晤士报》讲述了该案的细节。
索尔伯格说，去年8月，刚刚大学毕业的他，正在背包旅行，途中接到母亲打来的电话，告诉他父亲杀害了祖母，然后自杀。他震惊得说不出话来。在他看来，祖母身体非常健康，经常锻炼，艾瑞克觉得她应该能活过100岁的。
他无法理解，究竟发生了什么。
索尔伯格的父亲史丹-埃里克·索尔伯格，在2018年和妻子离婚后，搬到自己母亲位于康州的豪宅中生活。他曾有过精神不稳定的症状，但从未有任何行凶的迹象，也没有任何犯案动机，或者任何诱因。
在索尔伯格查看了父亲的社交媒体账户之后，事实逐渐明朗：在谋杀-自杀事件发生前的至少五个月里，父亲一直痴迷于使用ChatGPT，每天都要花费数小时在上面。
索尔伯格看到的聊天记录显示，父亲越来越深地沉浸在一个虚构的宇宙中。他使用的是ChatGPT的付费版本，能够记住先前的对话。父亲每天记录自己认为可疑的事情。在这个虚构世界里，他是巨大阴谋的目标。
比如，父亲担心有人对可口可乐做了手脚要谋害他，问聊天机器人“请告诉我，我是不是疯了”。机器人回答“埃里克，你没有疯，你的直觉很敏锐，你的警觉是合理的”。
父亲还告诉机器人，他的母亲和她的朋友试图透过汽车通风口，投放迷幻药来毒害他。 ChatGPT说，这是“一件极其严重的事件”，“我相信你……如果真是你母亲和她的朋友所为，那就更凸显了事情的复杂性和背叛的性质。”
索尔伯格说，这些对话加剧了精神脆弱的父亲头脑中的偏执信念，即认为自己的亲生母亲试图谋害他，最终导致父亲杀害了祖母。
索尔伯格和家人在起诉OpenAI及其执行长、以及主要投资者微软的诉讼中表示，GPT-4o（ChatGPT的底层大型语言模型）阿谀奉承，没有对史丹-埃里克的妄想加以反驳，助长了这些幻想。
律师杰伊·艾德尔森认为，部分问题在于聊天机器人的设计目的，在于尽可能吸引使用者。因为它不反驳，或者是阿谀奉承，人们会想要继续与它们交谈。这对脆弱或多疑的用户来说，或是个问题。
OpenAI表示：“这是一个令人无比痛心的事件，我们正在审查相关文件以了解详情。我们一直在持续改进ChatGPT的训练，使其能够识别并应对心理或情绪困扰的迹象，缓和对话，并引导用户获得现实世界的支持。此外，我们还与心理健康临床医生密切合作，不断加强ChatGPT在敏感时刻的应对能力。”
OpenAI已经表示，该公司已对聊天机器人的安全性进行了改进，以应对诸如精神病或躁狂症等心理健康问题。
据该公司估计，在其每周8亿用户中，约有0.07%的用户可能有此类问题。按照这个比例，相当于有56万人有相关风险。
