五角大楼。(Illustration by The Epoch times/Shutterstock)
大批机器人杀手在陆、海、空巡视；它们完全自主，可以参加各种战争，追逐同样是机器人的敌人、相互开火。整场战斗都是由机器人来打，操控它们的人类只是远远地在后方监督战情。
这绝非科幻小说中的情节，而是美国参谋长联席会议主席、陆军上将马克·米利（Mark Milley）描绘的未来战争场景。
米利说，和历史上的许多军事变革一样，美军正在经历一场痛苦的巨变。
从马镫的发明，到火器的运用，再到机械化的机动作战部署，人类的战争型态不断演进。而在未来，机器人和人工智能（AI）将大规模地应用于战场。
米利确信，战争正在发生质变，而且比以往任何时期都剧烈。
“当前，我们可能正在经历军事史上最大的变革。”米利在3月31日接受美国军事新闻网站“防务一号”（Defense One）采访时说。“从军事的角度来说，我们正处在一个历史性的关键时刻，战争的性质正在发生根本性的变化。”
机器人部队或10年内登场
机器人为争夺地球控制权而开战的场景，如果出现在科幻小说中或者电影院的大屏幕上并不足为奇，但出现在美军最高级别官员的优先事项清单中，无疑会让很多人难以接受。
然而米利认为，在未来10年内，世界上实力最强的军队，其主力将是机器人战士，而他希望美国成为第一个跨过“电子卢比孔河”（cybernetic Rubicone）的国家。（注：公元前49年，凯撒率军横渡卢比孔河，成为罗马内战的导火索；凯撒最终成为终身独裁官，罗马随后从共和时代过渡到帝国时代。）
“在未来10年到15年里，发达国家的军队很大一部分将由机器人组成，”米利说。“如果你把机器人技术和AI、精准制导武器和射程内的分辨能力等因素结合起来，就会带来一个真正的根本性变化。”“这种变化、这种技术正在出现，我们预期10年内就会出现。”
米利说，这意味着美国需要在“5到7年内对我们的军队进行根本性的改革”，因为美国的对手也试图进行类似的机器人和AI部署，但他们针对的是美国人。
他说，哪个国家能够协调一致、最早完成机器人及AI部署，哪个国家将主导未来的战争。“我认为，哪个国家采用并且改造和优化这类技术，并将其运用到军事领域，哪个国家可能就会在下次（大规模）冲突开始时占据决定性的优势。”米利说。
这种（根本性的）战争型态变化会给全球带来怎样的后果，说的再严重都不算夸张。
米利把当前（各国）竞相开发新战争方式的状况，比作过去两次世界大战之间的（军事）竞赛。米利说，在那个时代，欧洲所有国家都拥有了从机动车辆，到无线电，到化学武器等多种新科技。这些国家都有能力发展出取代了一战标志性战略（即消耗战）的“联合机械战”，但只有一个国家首先采用了该战略、真正将其整合为新的战争方式。
他说，“那个国家就是纳粹德国。该国在极短的时间内横扫欧洲，就是因为他们能够利用这些技术、并将其整合为我们现在所知道的‘闪电战’（Blitzkrieg）作战理论。”
由加州大学洛杉矶分校研究人员制造的Artemis机器人。（加州大学洛杉矶分校机器人学和机械实验室提供）
闪电战2040
米利和五角大楼（美国国防部）希望整合机器人、AI、网络、空间站和精准制导武器等新兴技术，从而发展出一个协调一致的战争理论。
米利说，先下手为强，美国如果能够最先把这些新技术发展成新的战争概念的话，就能够掌控未来的战场。
为了实现这一目标，五角大楼正在测试新型的空中、地面和水下无人驾驶工具，并寻求利用目前如雨后春笋一样涌现的非军用智能技术，如智能手表和健康追踪器等。
这方面的努力近期才得到认同，但米利早在2016年就曾说，美国将在2030年前大规模部署机器人地面部队和AI武器。
几个星期后国防部将举办史上首次“相信AI和自动化”（trusted AI and autonomy）会议，召集国防、科技和学术领域的领袖进行研讨，以便为未来的战争做准备。届时该概念将真正引来高潮。
五角大楼正在进行相关的招聘活动，以超过6位数的年薪来征召有兴趣并有能力开发和整合“扩增实境（AR）、AI、人体状态监测及自动化无人系统”等技术的专家。
同样地，创建于2018年的“美国陆军未来司令部”（U.S. Army Futures Command），依然是“2040部队”（Army2040）构建中的关键环节。换句话说，“2040部队”就是建立在AI技术基础上的未来机器人部队。
“未来司令部”副司令理查德·罗斯·科夫曼少将（Richard Ross Coffman）则认为，美国将在2040年真正进入以AI杀人机器为标志的时代。这比米利预期的10～15年稍晚。
3月28日，科夫曼在国防部领导人和科技专家召开的会议上讲话，描述了他所设想的未来人机合作图景，并将其比做狗和主人的关系。
不过，科夫曼设想的不是AI协助（人类）士兵作战，而是人类协助机器作战。科夫曼说，“我认为2040年人机角色将对调，人将操控机器、让其处于相对优势，而不是机器让人处于相对优势。”
2015年6月6日，加州波莫纳（Pomona）Fairplex，一名妇女触摸国防高级研究计划局（DARPA）在机器人挑战博览会上展出的由约翰·霍普金斯大学应用物理实验室开发的机器人手臂。（Chip Somodevilla/Getty Images）
“一切都会失控”
重塑美国军队并发展出协调一致的新型战争方式，是一项艰钜的任务。但五角大楼似乎已经准备好付出代价，来实现这一目标。
国防部寻求（国会）拨款来资助AI项目，仅明年一年就需要创纪录的18亿美元。这将超过中国（中共）军队在AI方面的投资数额（据估测为16亿美元）。
在上述的18亿美元中，大部分被指定为改善自动化武器系统决策的项目专款。
这一措施最起码是朝着米利设想的大规模部署自动化系统方向迈出真正一步。不过，这也引发人们对未来战争图景的深切忧虑，人们也质疑，作为“人类”的国防部领导层，是否做好了管控其创建的自动化产品的准备。
美国国防部部长长办公室（Office of the U.S. Secretary of Defense）网络安全政策、战略和国际事务前主任约翰·米尔斯（John Mills）认为，这是一条可能引发无数意外后果的道路。
“这是‘天网’（Skynet），”米尔斯向《大纪元时报》表示。“这是在把‘天网’之类的场景变为现实”。（注：“天网”是美国系列科幻动作片《终结者》（The Terminator）中，挑战人类的人工智能超级电脑。）
“问题是，这会引发什么不良后果？嗯，非常多。”
米尔斯认为，流行文化把AI描绘的异常神秘，有点言过其实了。但他对军队构建完全自动化的系统这一明确决策意向感到担忧。因为这意味着（机器人）系统能够在未经人类批准的情况下做出杀人决定。
“AI听起来黑暗而且神秘，但它其实就是大数据，是对数据进行消化和分析的所谓‘大数据分析’能力。现在的关键问题是，数据系统将会有行动能力，往往不需要和人互动。”米尔斯说。
因此，在许多拟议的未来技术中，这种“人类被排除在外”的问题令人担忧。
米尔斯认为，在进行“热战”前训练人类正确地分清敌友已经够困难了，更别说让机器分辨了。“与以往不同的是，现在这些数据系统可以自主行动，无需人类介入。”“将AI和自动化工具整合、让其在不需要人类做决定的情况下独立运作，这是导致情况失控的关键问题所在。”
因此，米尔斯对于美国及其盟友与中国在印太地区发生冲突时，会发生什么状况感到担忧。
他说，大家可以想像一下，大批自动化潜艇及其它武器系统在海底作战，会是个什么场景。这些由中国、美国、朝鲜、澳大利亚、日本和日本军队部署的系统必然会引发混乱，其最后的结果就是，自动化机器在前方作战，人工控制的舰艇在后方努力研判如何最有效地投放下一批机器人战士，否则就会使真正的生命（人）遭到机器人杀手伤害。
“人能如何设计参与自动化海底工具作战的方案呢？”米尔斯说。“这样的海底战事绝对会是一片混乱。”
2021年9月19日，美国航母在菲律宾海编队巡行。（美国海军照片，由二级大众传播专家Haydn N. Smith提供）
自动化杀戮
毫无疑问，如何防止AI系统自动杀害战斗人员，是五角大楼长期以来一直在思考的问题。
例如，国防部2018年公布的《人工智能战略概要》（2018 Artificial Intelligence Strategy）在寻求（让各部门）加快全面采用AI步伐的同时，也在寻求实施“降低非故意伤害”的伦理规范。
国防部2020年公布的《人工智能伦理准则》（2020 Ethical Principles for Artificial Intelligence）也一样，旨在确保军队只采用“值得信赖”和“能够管控”的AI技术。
国防部2022年公布的《负责任的人工智能战略和实施途径》（2022 Responsible Artificial Intelligence Strategy and Implementation Pathway），则概述了一项旨在减少AI在军事系统中部署时可能导致的意外后果的计划。
然而，上诉措施都无法真正制止全自动杀人机器的运用。实际上，这些文件也没有想制止。
这是因为，所有这类文件都是依据国防部“3000.09指令”（Directive3000.09）制定的。该指令是五角大楼开发自主性武器系统的指导性文件。
对此，米尔斯说，“这是最根本的（文件），非常重要，因为（自动武器）开发都是由该文件驱动的。”
这份文件最初于2012年公布，刚刚在今年1月份做了重大修订。该文件旨在让五角大楼为“AI未来在美军中‘急剧扩大’的角色”做好准备，这是国防部“新兴战力政策”（Emerging Capabilities Policy）主任迈克尔·霍洛维茨（Michael Horowitz）在1月份公布修订文件时的说法。
对于国防部在致命AI系统方面“符合伦理规则”、“值得信赖”、“可管控”的部署，只有一点需要提醒大家，那就是，五角大楼没有出台任何禁止自动系统杀人的硬性规定。
实际上，尽管提议创建人机互动机制的人经常引用“3000.09指令”文件，但该文件并没有提倡开发这样的技术，也没有禁止使用全自动的致命系统。
相反，该文件只罗列了自动系统必须通过的严格审查步骤。然而，尽管目前还没有独立的AI武器系统通过审查，未来会有很多这类系统出现。
这在很大程度上是因为中共政权正在快速部署自家开发的自动杀人机器，美国国防部在努力维护本国价值观的同时，不得不进行准备，以应对（中共的）威胁。
“中国也试图解决让AI在没有人类干预的情况下作战所产生的这些棘手问题。”米尔斯说。“但我认为，他们更倾向于放手让AI自主行事，即使它们会不小心杀害自己人。”
这样的话，下一场战争很可能会以AI机器人为主力来打，人类只是在一旁操控、努力指挥机器人的行动。
美国是否能在不失去对其造出的机器人的控制力的同时打赢战争，还有待观察。
米尔斯说，如果有人能做到的话，他希望是美国，毕竟美国有最优秀的人才。
“我认为我们仍然有足够的‘防护栏’，而且可以不断演进，这样我们会变得更聪明，能够在算法中加入防御和控制措施，”米尔斯说。“我认为我们有优秀的团队和人员。”
《大纪元时报》已联系五角大楼，请求置评。
