美核武专家示警：它比按核弹钮更可怕

法国试射M51.3潜射核导弹。(示意图)图:翻摄自法国国防部

近日，美国核武安全领域专家在美国媒体撰文示警，指出即便各大核武国家普遍同意“核武发射最终决策权不得交由人工智能（AI）”，但另一个同样攸关核战风险的关键环节“核武攻击预警系统”也不应被人工智能主导，否则恐对全球核安全构成严重威胁。

提出上述警告的是美国斯坦顿核安全计划高级研究员、现任职于美国对外关系委员会（CFR）的艾琳・D・邓巴克尔（Erin D. Dumbacher）。她于29日发表评论文章，回顾冷战时期的真实案例，强调核武预警系统一旦误判，后果恐难以挽回。

邓巴克尔指出，1983年冷战高峰期间，苏联的核武预警系统曾错误显示美国已发动核攻击，所幸当值军官斯坦尼斯拉夫・彼得罗夫（Stanislav Petrov）凭借冷静判断，认定警报为误报，才成功避免一场可能引发全球毁灭的核战。她强调，这起事件凸显“人类判断”在核安全体系中的不可替代性。

她进一步指出，随着人工智能技术快速发展并逐步被引入军事领域，其不成熟性与潜在滥用风险正对核安全稳定构成新的挑战。即使各国普遍承诺由人类掌握核武使用的最终决策权，但若核武预警系统高度依赖人工智能，仍可能在关键时刻误导决策者。

邓巴克尔指出，1983年冷战高峰期间，苏联的核武预警系统曾错误显示美国已发动核攻击，所幸当值军官斯坦尼斯拉夫・彼得罗夫（Stanislav Petrov）凭借冷静判断，认定警报为误报，才成功避免一场可能引发全球毁灭的核战。图:翻摄自X账号@PeymanMedia

邓巴克尔指出，人工智能已大幅降低深度伪造（deepfake）资讯的制作门槛，使假讯息在影像、音讯与文字层面更具迷惑性。在当前俄乌战争中，相关技术已多次引发舆论混乱，甚至影响到具有核武决策权的美国总统川普，相关深度伪造讯息不仅误导其判断，也曾被转发扩散。

她同时警告，人工智能本身仍存在输出错误资讯与“算法幻觉”的问题，若此类不可靠资讯被纳入核武预警与情势研判体系，即便最终是否动用核武仍由人类决定，也可能在极短时间内严重干扰人类判断。

邓巴克尔指出，随着现代核武器反应时间不断缩短，例如美国洲际弹道导弹发射后约30分钟内即可命中目标，决策者实际可用于研判的时间恐仅剩数分钟，任何误判都可能造成无法挽回的后果。

邓巴克尔指出，随着现代核武器反应时间不断缩短，例如美国洲际弹道导弹发射后约30分钟内即可命中目标，决策者实际可用于研判的时间恐仅剩数分钟，任何误判都可能造成无法挽回的后果。图:翻摄自观察者网

她呼吁，正在大力推动人工智能军事化应用的美国国防部，应在涉及核武层面设下严格红线，包括提高资讯核查标准、明确标示人工智能分析结果，并确保关键判断环节由人类主导。同时，应培养更多能像彼得罗夫一样，对机器输出的资讯保持高度警觉与质疑精神的专业人员。

此外，邓巴克尔也主张，应对美国总统动用核武的权力进行更明确的限制与制度化规范，并推动美国与其他核武国家建立畅通的危机沟通管道，以降低误判升高冲突的风险。

她在文中警告，“人工智能已具备误导核指挥链关键决策者的能力，让人误以为遭受实际上并不存在的核打击”，并呼吁各国应及早制定政策、落实防范措施，避免恶性错误资讯最终引发人类无法承受的灾难。

近日，美国核武安全领域专家在美国媒体撰文示警，指出即便各大核武国家普遍同意“核武发射最终决策权不得交由人工智能（AI）”，但另一个同样攸关核战风险的关键环节“核武攻击预警系统”也不应被人工智能主导，否则恐对全球核安全构成严重威胁。图:翻摄自X账号@RSIS_NTU

她呼吁，正在大力推动人工智能军事化应用的美国国防部，应在涉及核武层面设下严格红线，包括提高资讯核查标准、明确标示人工智能分析结果，并确保关键判断环节由人类主导。图：翻摄自维基百科