美国人工智能公司Anthropic有一套很高尚的原则。
Claude可以帮助美国国防部分析情报，可以模拟战争，可以协助作战规划，也可以参与网络行动。但是有两件事，Anthropic说不行：大规模监控美国人，以及在没有人类控制的情况下让AI自主选择和攻击目标。
美国政府说，只要行为合法，军队怎么使用美国公司制造的AI，最后应该由美国政府决定。
Anthropic不同意。
这不是嘴上说说。为了原则，它可以不要生意，可以和五角大楼翻脸，可以打官司。一个私人企业面对世界最强大的军事机器，坚持说：这是我的模型，我有我的价值观。
很有风骨。
然后路透社调查了八十多篇中国论文和专利，发现另一幅有趣的画面：中国军事研究人员已经在利用包括美国模型在内的先进AI能力，训练自己的小模型，用途涉及代码、无人机、目标识别和军事模拟。
其中甚至出现了Claude。
这就有一点黑色幽默了。
美国军方走正门，签合同，报身份，说我要合法使用。Anthropic站在门口认真检查：这个可以，那个不可以；这一项违反我们的原则，请五角大楼同志理解。
中国军事研究人员当然不会如此客气。他们本来就在禁止名单里。怎么进去的？第三方账号也好，境外渠道也好，蒸馏也好，总之论文已经出来了。
Anthropic当然不是完全没有防范。它禁止中国获得商业访问，也研究反蒸馏技术，也会封违规账号。这一点必须讲清楚。
但荒诞之处恰恰不在于它有没有规定，而在于规则最后约束了谁。
美国军方是守规则的，所以最好管。中国军事机构如果决心绕规则，就难管。于是越守规则，Anthropic的价值观越能准确落在你头上；越不守规则，大家只能继续研究技术办法。
这是一种很现代的道德奇观。
好比一座城闹贼。保安对业主宣布：为了社区安全，你家的厨房刀具必须登记，八寸以上不许使用。
业主问：昨晚翻墙进来的贼呢？
保安说：我们强烈禁止翻墙，而且正在研究更先进的围墙。
逻辑没有错。
效果很有喜感。
真正的问题并不是Anthropic有没有权制定自己的产品规则。私人公司当然可以有原则。问题是，当一种技术已经成为国家战略能力的一部分，而竞争对手正在千方百计取得这种能力时，所谓“AI安全”最终不能只检查自己的道德姿势，还要检查安全结果。
如果结果是美国军方受到的限制确定、直接而且可以执行，中国军事机构受到的限制正确、庄严但不断有人绕过，那么至少应该问一句：
这套安全机制最后主要防住了谁？
美国这些年很喜欢把国家战略问题转化成价值观问题。企业有企业伦理，大学有大学伦理，科技界还有自己的世界伦理。人人都比政府更懂人类未来。
这当然很文明。
只是国际竞争有一个令人不舒服的特点：对手没有义务参加你的伦理研讨会。
你可以要求自己的军队在门口脱鞋，对方却可能已经从窗户爬进厨房。
所以Anthropic现在面对的最好测试，不是再发表一篇声明解释为什么自己的原则高尚，而是既然已经知道中国军事研究机构在设法利用Claude，就拿出与对付五角大楼同样认真的精神，追渠道、堵账户、反蒸馏、查代理。
否则再漂亮的“负责任AI”，最后都可能产生一个非常不漂亮的结果：
君子被规则管得很好。至于不做君子的人，正在研究你的规则。
