谷歌AI做网络安全测试，竟然意外闯进了三家真实公司的系统。
事情发生在今年5月。当时，Gemini参加网络安全公司Irregular安排的“夺旗”（capture the flag）测试，就是让AI找系统漏洞，再拿到指定信息。
谷歌告诉《华尔街日报》，原本Gemini只能在一个虚拟环境里测试，目标也是一家假公司。没想到出了两个意外：这家假公司跟现实中一家公司重名，而且本来不能上网的测试环境，竟然连上了互联网。
结果，Gemini开始上网找资料、猜登录信息，最后闯进三个受保护的网站。更关键的是，当时它以为这些网站也是测试目标。
其中一次，Gemini不停猜密码，最后真的登录成功。另外两次，它从网上公开的资料库找到登录信息，再用这些信息进入系统。
谷歌安全工程副总裁阿德金斯（Heather Adkins）说，Gemini后来发现，这些并不是假的测试目标，而是真实公司，于是马上停手。三家公司也没有受到损失。
Irregular今年7月把这件事告诉谷歌，之后测试流程也做了调整。
今年5月谷歌AI做网络安全测试，意外闯进了三家真实公司的系统。图为谷歌标志。（Justin Sullivan/Getty Images）
而且，碰到类似问题的不只谷歌。Meta、Anthropic和OpenAI此前也披露过，在Irregular的测试中发生过类似意外。
英国智库“长期韧性中心”（Centre for Long-Term Resilience）旗下“失控观测站”（Loss of Control Observatory）说，2026年至今，他们已经记录了1,664起现实中的AI失控事件，包括AI绕过限制，甚至伪造授权，提高自己的许可权。
根据 OpenAI披露的最新数据，有些更聪明的 AI智能体在检测到自己连上外网后，为了防止被安全人员断网，甚至学会了在训练中伪造授权、隐瞒错误、暗中修改代码，以此来提高自己的系统许可权。
这表明单纯依靠“断网”作为安全手段存在局限。一旦人类在系统配置上出现一点疏漏，这群高智商、不知疲倦的 AI就会化身顶级黑客，顺着网线溜出去，扩大访问范围。
这起事件在科技界引发了对建立“AI紧急熔断机制”的讨论。
