知名主持人：AI将像原子弹一样威胁人类

如果人们允许人工智能用合法性和允许性的标准来取代是非对错的道德判断，那么机器将会以前所未有的规模和速度将这种标准贯彻到底

大多数人从未听说过米南克‧夏尔马（Mrinank Sharma）这个人。或许这正是问题所在。

2026年2月9日，夏尔马从全球最具影响力的人工智能（artificial intelligence，简称AI）公司之一——总部位于加州旧金山的Anthropic公司辞职。他曾领导该公司的安全保障研究团队，负责确保Anthropic公司的人工智能不会被用于制造生物武器。他的最后一个项目是研究人工智能系统如何扭曲人们对现实的感知。这是一项对人类意义重大且影响深远的研究。他的辞职信在X网站上的浏览量超过1,400万次。信的开头写道：“世界正处于危难之中。”结尾则是一首诗，并宣布他将离开人工智能领域最重要的工作之一，去攻读诗歌学位。没错，你没看错：危难与诗歌，互相慰藉。

他引用的诗来自美国桂冠诗人威廉‧斯塔福德（William Stafford，1914—1993年）的诗集《人生本该如此》（The Way It Is，1998年）。诗中描绘了一条贯穿人生的线——一条穿梭于变迁之中，却自身永恒不变的线。只要你紧握它，就不会迷失方向。悲剧会发生，人们会经历苦难，会衰老。时间流逝，无可阻挡。而最后一句是：你永远不要放开这条线（you don’t ever let go of the thread）。

虽然他没有明确指出，但我认为贯穿始终的主线就是道德（morality）。那是种恒久不变的认知，即有些事理应是对的，有些事理应是错的——这种认知并非源于法律的规定，也并非基于利益考量，而是因为人类，在他们最崇高的境界里，始终本能地知晓这点。

夏尔马花了两年时间，眼睁睁地看着这条线索在压力下被释放，而这一切都发生在公众从未见过的房间里。

他在信中写道：“在我在这里的这段时间里，我反复看到，要真正让我们的价值观指导我们的行为是多么困难。”

“我在自己身上、在组织内部都看到了这种现象，我们不断面临着放弃最重要事情的压力，而且在更广泛的社会中也存在这种现象。”

他写道，人类正接近一个临界点，“我们的智慧必须与我们影响世界的能力同步增长，否则我们将面临后果。”他希望以一种完全符合他正直品格的方式做出贡献，并致力于他所说的“实践勇敢言论”（the practice of courageous speech）。

这样一位曾参与构建生物恐怖主义防御体系的人，最终得出结论：他接下来最重要的事情就是学会坦诚勇敢地表达自己的想法。这有力地揭示了人工智能研发领域幕后正在发生的事情。

许多专家将人工智能的发展比作原子弹的研制。二战期间，美国的曼哈顿计划（Manhattan Project，1942—1945年）完全秘密进行，公众对此一无所知，既无权参与其使用，也无权决定其后续发展。计划结束后，一些参与研制的科学家余生都生活在痛苦之中。甚至有几位科学家在计划进行期间就离开了。

夏尔马的经历并非孤例。许多安全研究人员已经退出多家公司的AI项目。这些离职或许是我们公众所能获得的唯一信号，因为AI发展的其它几乎所有环节都发生在公众视线之外。内部辩论、安全权衡、关于这项技术哪些功能被允许、哪些功能被禁止的谈判——所有这些都没有与那些将深受其影响的人们分享。我们被排除在这些讨论之外。我们被告知结果，然后被迫适应。

美国开国元勋、第二任总统约翰‧亚当斯（John Adams，1735—1826年）曾经写道，宪法只适用于有道德和宗教信仰的人民，对其它任何群体而言都完全不适用。美国开国总统乔治‧华盛顿（George Washington，1732—1799年）也曾警告说，如果丧失了共同的道德原则，自由将无法维系。美国建国先贤们研究了历史上各个共和国的衰落，得出了相同的结论：自由的机制需要有道德的人民来维护。法律和制度本身并不足以保障自由。它们依赖于公民和领袖，后者必须恪守凌驾于法律之上的某种准则。

道德是人类社会的命脉，而任何人工智能系统都无法维系它。如果人们允许人工智能用合法性和允许性的标准来取代是非对错的道德判断，那么机器将会以前所未有的规模和速度将这种标准贯彻到底，这是任何一代人都未曾预料到的。

夏尔马在辞职信的结尾写道：“你永远不能丢掉那根线。”

我们正处于一个十字路口，这与二战期间原子科学家们曾经面临的境地颇为相似。

夏尔马的辞职是一个信号。此前和此后的一系列离职潮也是信号。据报导，人工智能公司与政府之间就道德界限划定问题产生的紧张关系同样是信号。这些都指向一个公众尚未被充分邀请去思考的问题：关于这项技术最重要的几个问题正在我们之外被讨论，而道德这个始终需要人们自主选择的准则，也需要被纳入到这场讨论之中。

作者简介：

凯‧鲁巴塞克（Kay Rubacek），是一位屡获殊荣的电影制作人、作家和播客主持人。她因人权倡导工作于2001年一度被关押在中共监狱中，此后一直致力于揭露那些贬低人类生命和主权的制度和意识形态。自2010年以来，她一直是《大纪元时报》的撰稿人。

原文：Morality, the Thread We Cannot Let Go刊登于英文《大纪元时报》。

本文仅代表作者本人观点，并不一定反映《大纪元时报》立场。