近日，OpenAI披露，在一次网络安全安全评估中，其先进AI模型成功完成了针对代码托管平台Hugging Face测试环境的攻击任务。需要强调的是，这并非电影中的“AI失控”，而是在授权环境下进行的安全测试。然而，这则消息真正值得关注的，并不是攻击本身，而是AI已经能够自主规划攻击路径、寻找漏洞，并完成复杂任务。
过去几年，人们讨论AI，大多围绕一个问题：它究竟有多聪明。
今天，这个问题正在发生变化。
真正值得讨论的，也许已经变成：当AI越来越能行动时，我们是否还应该沿用过去对开源的理解？
过去，科技界形成了一种广泛共识：开源促进创新。
Linux、Python、TensorFlow，无数优秀项目证明，开放代码可以让更多开发者参与改进，加快技术传播，也降低整个行业的发展成本。正因为如此，近年来，每当有大型AI公司宣布开源，总会赢得一片掌声，仿佛开源天然代表着先进、开放与共享，而闭源则意味着保守与商业利益。
然而，这种思维建立在一个前提之上——技术本身的风险是有限的。
一个聊天模型，一个图片生成模型，即使能力不断提高，其潜在危害仍然相对可控。但如果未来公开的，不再只是一个回答问题的模型，而是一个能够自主寻找漏洞、编写攻击程序、执行网络渗透，甚至控制机器人完成现实任务的智能体，那么事情便完全不同了。
这次OpenAI披露的测试，正是一个值得认真思考的信号。
它说明，先进AI已经不仅是在“回答”，而是在“执行”。
能力越强，风险也越高。
历史上，人类并非没有遇到类似情况。
基础数学公式公开，没有问题；核物理基本理论公开，也没有问题。但真正涉及浓缩铀技术、核武器制造、生物安全、高危病原体研究，各国都会采取远比普通科研严格得多的管理措施。原因并不是因为这些技术“不先进”，恰恰相反，而是因为它们太先进，先进到一旦被滥用，代价将由整个社会承担。
AI的发展，也许正在走到类似的阶段。
未来，人们真正需要讨论的，已经不是简单的“开源还是闭源”，而是什么能力可以开放，什么能力必须谨慎开放。
这一点，并不仅适用于OpenAI。
如果未来Google、Anthropic、Kimi，或者任何一家AI公司，拥有同等级甚至更强的自主网络攻击能力，同样会面对这个问题。
继续全部开源，意味着更多开发者能够创新，也意味着更多恶意攻击者可能获得强大的工具；选择更加谨慎，则可能受到“背离开源精神”的批评，却能够降低高风险能力被滥用的可能。
这并不是一道容易回答的选择题。
因此，把“开源”简单等同于道德高尚，把“闭源”简单等同于商业自私，都已经无法适应今天AI的发展阶段。
真正负责任的态度，应该是根据能力大小决定开放程度，而不是无论能力发展到什么阶段，都坚持同一种答案。
OpenAI这次事件，也许真正提醒我们的，并不是AI已经危险到不可控制，而是它已经成长到了一个新的阶段。
过去，人类担心AI是否足够聪明；今天，人类更需要思考的是：当AI开始具备越来越强的行动能力之后，是否仍应毫无保留地把这些能力向全世界开放？
科技的发展值得鼓掌，但越是强大的技术，越需要敬畏。先进AI当然可以开源，但能力越先进，越应谨慎。真正值得赞扬的，不是“为了开源而开源”，而是在推动创新与守住安全之间，找到那个负责任的平衡点。