随着人工智能越来越多地被应用在军事领域，现在连核武指挥系统，也面临新的安全风险。最新报告警告，如果AI在没有得到人类授权的情况下，攻击另一国的核武指挥系统，受攻击的一方可能只有几分钟，来判断这究竟是中共发动的攻击，还是AI系统出错。一旦误判，可能引发严重的军事危机。
美国布鲁金斯学会最近发布一份报告，提醒美国必须提前建立安全措施，避免人工智能的错误判断，演变成军事冲突。
报告指出，未来人工智能可能在没有得到人类明确授权的情况下，对另一国的核武指挥、控制和通信系统发动网络攻击。
一旦发生这种情况，受攻击的一方就可能面临一个危险问题：这次攻击究竟是对方政府下令发动的，还是对方的AI系统出现故障，或者遭到黑客入侵后自行发动的？
报告举例，如果中共的AI系统失控，对美国的核武指挥系统发动攻击，美国可能无法在短时间内确认攻击来源。这种不确定性，就可能导致错误判断，进一步升高军事冲突风险。
有分析就进一步指出，人工智能一旦发展到一定程度，可能会试图突破人类设定的限制，甚至自行发动攻击。
军事评论员马克：“人类虽然对它进行了设定了一些围栏，这个红线那个红线不能够越过呀等等，但是AI它一旦发展到一定程度的时候，它认为它可以越狱，就是它具有人类的智能一样，然后可以自己寻找办法，怎么能够就是跨越你这个设定的红线，或者是那个围栏，然后它可以自动的发起了一些攻击。”
不过，专家指出，AI用在一般无人武器，和用在核武指挥系统，风险并不一样。无人机、无人战车可以利用AI协助侦察和执行任务；但核武系统一旦误判攻击讯号，可能直接影响国家是否发射核武。因此，核武相关决策不能交给AI自行决定，必须由人类掌控。
马克：“随着人工智能越来越强的时候，它会不会突破这个红线，或者说突破人类给它设定这个围栏呢？至于说这个核武指挥系统，就看怎么用了。我觉得这个不论是美国也好，还是其他国家也好，就是对于核武的这部分来说，他是应该更加谨慎的。”
因此，报告建议，美中都应该先把AI在核武系统中的“红线”划清楚。而现在AI发展得越来越快，怎么提前做好防范，避免AI一旦出错就引发军事危机，已经是迫在眉睫的问题。
报告的发布正值美国和中共计划举行政府级AI会谈，以及预计于9月24日在华盛顿举行的美国总统川普与中共习党魁会晤之前。