美国最近在人工智能治理上做了一件很有意思的事。
川普政府推动主要AI公司签署一份关于“超级智能”的白宫协议。参与者包括OpenAI、Anthropic、Google、Meta、英伟达、xAI等。它没有一上来就制定一套厚重、刚性的联邦法律，也没有假装政府已经知道未来所有风险该怎么管，而是先搭起一个基本框架：企业自己建立安全控制，内部独立监督，外部审计，董事会承担监督责任；以后再根据实际运行情况修改、加强，必要时再把成熟部分转化为正式规则。
这件事最值得注意的，未必是第一版方案本身有多完美，而是它背后体现出来的一种态度：
我们先承认，自己没有聪明到可以一次把未来设计完。
人工智能时代最危险的一种幻觉，不是机器突然比人聪明，而是人先相信自己已经聪明到足以替未来把一切规则设计好。
这几年关于AI安全的争论，经常陷入两个极端。一边认为风险巨大，因此政府应该赶快立法，把企业限制在一套非常详细的规则之下；另一边则认为技术变化太快，监管只会妨碍创新，因此最好什么都别管。两种说法看起来完全相反，背后却可能共享一种相同的自信：都觉得自己已经知道未来会怎样。
问题恰恰在这里。
AI的发展速度、能力边界、商业模式、滥用方式，甚至所谓“超级智能”究竟会不会出现、以什么方式出现，现在都没有人真正知道。既然不知道，那么一开始就试图制定一套长期不变、极为具体的硬规则，本身就是一种认知冒险。
真正成熟的制度设计，首先应该承认：我们会犯错。
这也是为什么软约束并不天然意味着软弱。
如果先要求前沿AI公司建立内部风险控制、独立团队监督、外部审计、董事会责任，并让主要企业定期比较标准和经验，那么它的价值并不在于第一版规则是不是完美，而在于它开始建立一套可以运行、观察和修改的机制。
某项要求太松，可以加严；某项要求没有效果，可以替换；某种审计方式成本很高却没有实际收益，可以取消；如果后来发现某类风险确实具有系统性，再把已经验证有效的部分写进法律。
这是一种可逆的治理结构。
可逆性非常重要。
因为不可逆的制度错误，往往比暂时不完美更危险。法律一旦写死，企业围绕法律建立合规部门，监管机构形成自己的体系，司法开始产生判例，几年以后即使发现当初判断错了，修改成本也可能极高。届时真正阻碍改革的，甚至已经不是技术问题，而是制度本身。
所以“先行动，再改进”并不是草率。
恰恰相反，这更接近工程思维。
工程师设计复杂系统，很少假设第一版一定完美。他们更关心的是：能不能监测错误？出了问题能不能隔离？系统能不能回滚？是否保留升级接口？
治理AI其实也是同一个道理。
如果一个制度允许不断测量结果、发现问题、修正规则，那么第一次判断只需要“足够合理”，而不需要“永远正确”。
这与另一种治理哲学差别很大。
后一种哲学认为，只要集合足够多专家、写足够厚的报告、开足够多的听证会，就可以提前把风险想清楚，然后由政府一次性制定正确答案。这种想法看起来慎重，实际上可能隐藏着更大的傲慢：它假设政策制定者能够提前理解一个连开发者自己都还没有完全理解的技术。
真正聪明的人通常不会有这种自信。
因为知识越多，越容易知道自己的知识边界在哪里。
科学史、金融史、战争史和公共政策史反复证明，人类最容易犯的大错之一，就是把当前认识误认为最终认识。
因此，一个好的AI治理框架，不应该建立在“我们已经知道答案”之上，而应该建立在另一句话之上：我们现在不知道全部答案，所以制度必须允许我们明天改变今天的决定。
这不是犹豫，也不是逃避责任。
恰恰相反，这是对责任最严肃的一种理解。
聪明并不是预测所有未来。
聪明是知道自己预测不了所有未来，因此不要把后人的路提前堵死。
真正危险的，从来不是一个不完美但可以修改的第一步。
真正危险的是有人确信：第一步已经是最后一步。