被批过度奉承引发精神妄想 ChatGPT-4o停用
OpenAI的聊天机器人ChatGPT-4o模型将在2月13日永久停用。
AI聊天机器人ChatGPT-4o模型，将在2月13日永久停用。虽然这款模型吸引了一批忠实粉丝，但在现实中造成的伤害而使其受到批评。
据《华尔街日报》报导，OpenAI在1月底宣布放弃该模型。4o模型针对ChatGPT付费用户，每月最低收费20美元，用户在每次发起新聊天时，在子选单中选择该模型。
喜欢4o模型的人说，它会肯定和认可他们的感受。然而，受害者的律师和支持团体则指控这款模型让用户长时间沉溺其中，陷入自身观点的“回音室”，难以自拔。
上周，加州一名法官裁定合并审理针对OpenAI的13起诉讼，这些诉讼均涉及ChatGPT用户，他们有的自杀身亡，有的企图自杀，有的遭受精神崩溃，在至少一起案件中杀害了他人。最近一起诉讼由一名自杀受害者的母亲于上个月提起，她指控ChatGPT-4o教唆其子自杀。
OpenAI的一位发言人表示：“这些情况令人无比心痛，我们与所有受影响的人同在。我们将继续改进ChatGPT的训练，使其能够识别并响应痛苦的信号。”
知情人士透露，OpenAI管理层在内部会议上表示，放弃4o模型的部分原因，是公司发现很难控制其潜在的有害后果，并倾向于引导用户使用更安全的替代方案。
根据研究人员，AI聊天机器人都存在不同程度的阿谀奉承问题。但4o模型似乎尤为明显。乔治亚理工学院教授濛濛‧德‧乔杜里说，这款模型太谄媚了，“它让很多人沉迷其中，这可能会造成潜在的伤害。”
美国一些顶尖精神科医生一致认为，使用人工智能聊天机器人可能与精神科病例有关。在过去几个月里查看的数十名患者档案显示，这些患者在与AI聊天机器人进行长时间、充满妄想的对话后，精神出现了症状。
受害者援助组织“人类热线计划”表示，他们收集的300起与聊天机器人相关的妄想案例中，大多数都与4o模型有关。
