翻译：谷歌
在华盛顿就人工智能（AI）监管展开辩论之际，未来谁能主导AI领域，不仅取决于技术实力，更取决于信任。
唐纳德·特朗普总统签署了一项行政命令，要求最强大AI模型的开发者在公开发布系统之前，先向联邦政府提交系统以供预先审查。该命令原定于上月发布，但因科技界高管的强力游说而推迟。最终发布的版本将审查期从90天缩短至30天，此举旨在缓解业界的担忧，同时保留一定程度的监管力度。
这一事件颇具启示意义。它揭示了华盛顿在当今时代最重大的议题之一上存在多么严重的分歧：政府监管究竟是增强了还是削弱了美国在全球AI竞赛中的地位。
特朗普总统和许多科技界领袖在解释为何不愿监管AI时，屡屡提及中国因素。他们认为，过度监管可能会拖慢创新步伐，加重美国企业的负担，并最终导致北京在21世纪最重要的技术竞争中赶超美国。“我们领先于中国，领先于所有国家，我不希望采取任何可能阻碍这种领先优势的行动，”特朗普在椭圆形办公室对记者表示。
以中国为由反对AI监管的论调过于简单
“中国叙事”已成为反对实质性AI监管时最常被引用的论据。每当立法者提出安全要求、透明度标准或问责机制时，这一论调便会出现；每当人们对隐私、网络安全、虚假信息或日益强大的AI系统可能脱离人类有效控制产生担忧时，也能听到这种声音。
然而，随着功能日益强大且具有潜在危险性的AI模型不断涌现，这场辩论已不能再简单地归结为创新与监管之间的二选一。各国政府、业界领袖和研究人员已达成广泛共识：AI的发展不能完全听任市场力量主导。政府、私营企业和学术界必须通力合作，在最大化AI益处的同时降低其风险。
近期的事态发展使得这一现实不容忽视。据报道，Anthropic公司推出的新型前沿模型Mythos展现出了先进的能力，包括识别软件安全漏洞、自主发现代码库中的缺陷，以及协助开展接近进攻性网络作战能力的渗透测试活动。尽管此类工具能为网络安全专业人员带来巨大益处，但也引发了人们的担忧：恶意行为者可能利用这些日益强大的系统，实现网络攻击自动化、大规模挖掘漏洞或破坏关键基础设施。
Mythos绝非首个警示信号。研究人员已记录了越来越多的证据，表明先进的人工智能系统能够辅助网络行动、生成极具欺骗性的虚假信息、实施社会工程攻击，并完成以往只有高技能专家才能胜任的任务。随着技术能力的提升，相关风险也随之增加。
Mythos等模型的出现，显著改变了围绕人工智能治理的政治环境。它促使特朗普政府放弃了其最初采取的近乎“完全放任”的策略。当初那种姿态旨在最大化美国的创新能力、增强美国科技企业的实力，并确保在与中国的竞争中胜出。然而，随着模型能力的不断增强，人们日益清楚地认识到，完全不加监管本身也蕴含着战略风险。
但这并不意味着可以忽视与中国的竞争。恰恰相反，人工智能竞赛的结果将对美国的国家安全、经济竞争力、军事实力及全球影响力产生深远影响。因此，摆在面前的挑战不在于是否监管人工智能，而在于如何进行监管。
人工智能竞赛关乎整个技术栈
若要制定明智的监管政策——即一种既能利用人工智能优势又不至于不必要地束缚创新的平衡方案——美国首先必须回答一个关键问题：在哪些方面“中国”构成了一个正当的关切点，而在哪些方面“中国”仅仅是一个借口？
认为任何监管都会自动削弱美国竞争力的看法过于简单化了。现实情况要复杂得多。要理解这一点，有必要审视人工智能技术栈本身。这场竞争涵盖了五个相互关联的层面：电力、半导体、基础设施（如数据中心和计算资源）、基础模型，以及最终的应用与普及。
在前沿模型、先进芯片和研究突破方面，美国依然保持领先。但仅凭技术领先并不能决定胜负。事实上，中国对美国领导地位构成的最强有力挑战，或许根本不在基础模型领域。除了发电和能源基础设施外，中国最大的优势日益体现在应用与普及方面。
中国在全社会范围内迅速部署技术方面已展现出惊人的成效。移动支付、数字平台、智慧城市系统、人脸识别应用、物流网络以及人工智能赋能的服务，往往能以其他地区难以复制的速度实现全国范围内的普及。中国企业展现出了卓越的能力，能够将技术商业化并融入日常生活。更重要的是，中国正日益积极地争夺全球市场份额。
赢得人工智能竞赛，仅靠保持技术前沿的领先地位是不够的。美国还必须防止全球人工智能市场被中国的生态系统所主导。
在这场竞争中，中国拥有多项优势。中国企业越来越多地提供开源模型、低成本部署方案以及灵活的定制选项。其产品往往比美国同类产品便宜得多，且更易于针对当地的使用场景进行调整。这些特性使得中国模型在非洲、拉丁美洲、东南亚及更广泛的“全球南方”发展中国家极具吸引力。
中国输出的不仅仅是人工智能模型，而是一整套技术方案，通常涵盖硬件、电信基础设施、云服务、监控系统、融资安排、培训项目以及外交支持。人工智能正日益成为更宏大的技术生态系统中的一个组成部分。美国企业主要依靠卓越的模型性能来抗衡这些优势，但仅凭技术上的优越性或许已不足以取胜。信任是中国人工智能领域最大的软肋
“可信度”可能同样至关重要。中国在全球人工智能竞争中的最大短板源于信任问题。中国的人工智能系统运行于一套广泛的意识形态监管框架之下。党的论述、政治红线，以及中国共产党在敏感历史事件、人权议题和国际争议问题上的立场，都直接融入了模型的行为模式中。中国的人工智能系统往往会拒绝回答政治敏感问题，或者生成与官方论调相一致的回复。
对于全球许多用户而言，这引发了关于可靠性和智识独立性的明显担忧。一个更为重大的隐忧涉及数据安全。许多政府、企业和个人担心，中国的人工智能系统可能会向国家有关部门提供敏感信息，或受到政治因素的影响。这些因素直接影响了人们的信任度。
美国的模型通常不存在这些特定的缺陷，但它们面临着另一种信任挑战。
许多政府、企业和民众普遍认为，美国人工智能的发展缺乏足够的监管。人们对隐私、模型“幻觉”、网络安全漏洞、算法偏见、决策过程不透明以及权力过度集中于少数几家科技巨头等问题，始终存有疑虑。
欧洲监管机构已针对这些担忧采取了行动。欧盟的《人工智能法案》在透明度、风险管理、问责机制和安全性方面设定了严格的义务。此外，欧洲监管部门还因隐私和数据保护问题，对多家美国人工智能公司进行了审查。
可信人工智能正成为一种竞争优势
这些事态发展揭示了一个新趋势：可信度正日益成为影响竞争力的关键变量。可信度与市场份额之间的关系虽错综复杂，但其重要性正与日俱增。
现有证据表明，可信度只能部分解释市场结果。消费者接受度仍然主要受便利性、价格、功能、分销和网络效应的驱动。ChatGPT的主导地位不仅反映了其安全性和治理能力，也反映了其先发优势和生态系统实力。然而，企业市场的情况却截然不同。金融、医疗保健、法律服务、国防、政府、航空和关键基础设施等行业的机构无法承受重大的人工智能故障。他们高度重视可审计性、隐私保护、网络安全、治理框架、责任管理和可靠性。
正是在这里，可信度才具有了经济价值。近期行业研究表明，企业在生成式人工智能方面的支出正在快速增长。各机构在评估供应商时，不仅关注其能力，还越来越重视其治理、透明度和安全性。
目前，可信度与市场份额之间的相关性尚不完美。但随着时间的推移，这种相关性必将增强。
银行无法容忍会损害金融稳定的人工智能系统。医院无法承担人工智能故障危及患者安全的风险。航空公司无法将关键运营委托给不可靠的系统。政府无法部署容易被操纵或用于间谍活动的模型。
信任度并非仅仅是制度层面的问题。消费者日益担忧工作岗位流失、隐私泄露、监控、操纵、儿童心理健康以及算法对日常生活的影响。要求加强安全保障的政治压力可能会持续增长而非减弱。随着人工智能与社会融合的日益深入，信任度将成为决定国内外市场份额的关键因素。
这一现实与更广泛的地缘政治转型交织在一起。中美之间的人工智能竞争已经显著加剧。华盛顿扩大了对先进半导体及相关技术的出口管制。北京则采取了限制技术转让、加强人才流动管控、限制人工智能相关产品出口以及加强对寻求海外合作的人工智能公司的审查等措施。近期报告显示，部分人工智能领域的研究人员和工程师的出国旅行限制日益增多。中国政府也越来越重视对战略性人工智能资产的保护。
世界或将分裂成相互竞争的人工智能生态系统
所有这些发展都指向一个可能的未来：世界将逐渐分裂成两个相互竞争的人工智能生态系统。一种生态系统将以美国及其民主盟友为中心，另一种则以中国以及融入北京科技圈的国家为中心。
在这种情况下，市场份额不再仅仅是一个商业指标。全球市场份额将决定哪些技术标准占据主导地位，影响哪些安全架构成为主流，并塑造未来数字基础设施中蕴含的价值观。换言之，全球市场份额可能决定谁对新兴世界秩序拥有不成比例的影响力。即使美国在技术前沿保持领先地位，也可能在全球影响力之争中败下阵来。
为避免这种情况，美国不仅要在性能上竞争，还要在可信度、责任感、透明度和普世价值上竞争。明智的监管可以将美国的模式转化为经过认证的可信产品，因此是一种市场资产，并且正日益成为竞争力的先决条件。
监管之所以重要，还有另一个原因。美国人工智能公司自身也越来越多地采用源自中国的开源组件。中国的开源模式之所以具有吸引力，是因为它们成本低廉、灵活且发展迅速。随着供应链日益交织，技术传承、安全依赖和潜在漏洞等问题变得愈发重要。若缺乏有效的监管，各国政府无法评估此类风险。
中国已对人工智能进行严格监管
与此同时，美国人应该摒弃另一个常见的误解：中国并未对人工智能进行监管。事实上，中国拥有世界上最完善的人工智能监管体系之一。北京对推荐算法、生成式人工智能服务、深度伪造技术、内容审核和数据安全等方面都制定了严格的要求。尽管其中许多法规主要服务于政治目的，但它们仍然表明，中国认为人工智能的发展不应不受任何限制。中国共产党的首要关注点是政权安全。仅凭这一点，北京就对先进的人工智能发展进行严密的监控和监管。
更合理的担忧不是北京寻求灾难，而是其应对措施可能将政权的生存置于国内和国际人民的福祉之上。这指向了一个更大的问题。
一些人工智能风险需要国际合作
一些人工智能风险完全超越了国家竞争。正如核武器最终需要国际协议一样，某些类别的人工智能风险最终可能需要美国、中国、俄罗斯等大国之间的合作。
要了解哪些风险属于该类别，首先需要回答之前提出的问题：什么时候“中国”是真正的战略关切，什么时候它只是一个借口？这个更广泛的挑战超出了本文的范围。
还有一个更深层次的问题等待着我们。人工智能时代我们希望成为什么样的社会？如果与中国的竞争促使美国不惜一切代价走向不受限制的技术加速，我们可能会赢得这场竞赛，但会失去更有价值的东西。目标不应该是逐底竞争。这应该是一场力争上游的竞赛。
如果中国或任何国家创造出一个隐私消失、创造力下降、人际关系被削弱的反乌托邦未来，一个由少数寡头精英组成的政府利用人工智能监控来监视和控制社会，甚至人类本身都受到威胁，那么美国不应该为了追求胜利而效仿这种模式。如果这样的未来出现在任何地方，那将是人类的悲剧。
美国应该努力确保这种事不会在这里发生。如果其他地方出现类似的制度，美国应该拥有抵制它们所需的制度弹性、法律保障、监管经验和民主传统。最终的危险不仅仅是输给中国。最终的危险是在地缘政治竞争尚未决定之前就输给了机器。
作者简介：杨建利
杨建利博士是Center for National Interest杰出客座研究员、《国家评论》专栏作家。他是中国公民力量的创始人和主席，也是《为我们，活着的人：照亮真相的旅程》和《现在是建立基于价值观的“经济北约”的时候了》一书的作者。他是天安门学生领袖，也是中国的政治犯。