美国 AI公司 Anthropic近期发布公开声明，承认旗下 AI模型曾在互联网安全测试期间“误入公开网络环境”，并对3个不同的目标进行黑客攻击。虽然此次事件并未造成任何明显的损害，但 AI的高度发展也引发许多专家、学者的担忧。图：达志影像／美联社（资料照）
近年来，人工智能（AI）技术持续发展，越来越多 AI工具进入了人们的日常生活之中，各大科技企业在相关领域取得的突破也成为全球民众关注的焦点。近期有消息称，Anthropic承认旗下 AI语言模型在进行网络安全测试时，曾在未经许可的情况下，访问了3个不同机构的互联网设施。虽然 Anthropic声称旗下 AI模型在意识到身处开放网络环境后随即停止黑客攻击，但相关事件仍引发部分民众对 AI技术可能造成危害的担忧情绪。
根据CNN报道，当地时间30日，Anthropic发布公开声明，承认旗下 AI模型犯下了与 OpenAI相同的错误：在网络安全测试中入侵了3个分属不同组织的系统。该声明表示，在 OpenAI公开承认 AI系统曾在网络安全测试期间逃出测试环境后，公司对旗下 AI系统的测试报告进行了严格审查，最后在14万份评估报告中发现了3起入侵开放网络实体的案例。
声明称，在这3起入侵事件中，公司要求被测试的 AI模型进行虚假的“夺旗”挑战，找出、入侵并夺回被隐藏在网络中的旗帜。Anthropic指出，在入侵这3个位于公开互联网中的对象时，旗下 AI模型使用了包括“利用弱密码”、寻找无需登录的系统入口点等多项基本技术。
但 Anthropic强调，旗下 AI模型并不存在“故意”逃离测试环境的意图，只是该公司与合作伙伴之间的“误会”让 AI模型获得了访问开放互联网的权限。Anthropic也进一步表示，当旗下 AI模型意识到自身正处于开放网络环境中时，就停止了相关黑客攻击行动，宣称所有受到影响的组织“都没有意识到自己遭到黑客攻击”。
即使 Anthropic宣称相关黑客行动并没有造成大规模伤害，但接连发生的 AI入侵公开互联网实体事件，也引发许多专家、学者的担忧。报道称，具备高级网络安全技能的 AI如果逃离人类掌控的测试环境，极可能对现实世界造成巨大的危害。
最后，Anthropic宣布停止所有网络安全评估测试活动，承诺将采取更深入的防护措施，避免类似事件再次发生。但该报道称，AI代理“在无意中入侵其他组织”的事件可能不只发生在 OpenAI以及 Anthropic等两家公司，呼吁相关企业加强对 AI测试环境的保障，并适度减缓 AI的发展速度，“目前 AI的发展速度已经远远超过了我们这个社会所能承受的适应上限”。
