美国旧金山的一家初创公司利用中国公司提供的免费人工智能（AI）模型，成功闯入了一名TikTok用户的摄像头。此事引发人们对中国AI模型不设限制的担忧。
美国旧金山的一家初创公司借助中国公司提供的免费人工智能（AI）模型，成功闯入了一名TikTok用户的手机摄像头。此事引发人们对中国AI模型不设限制的担忧。
据《华盛顿邮报》报导，网络安全初创公司DepthFirst寻求人工智能软件来帮助查找计算机漏洞时，没有选择美国顶尖的人工智能公司，而是用了一家中国公司的AI模型。
美国的人工智能公司（例如Anthropic和OpenAI）限制其AI模型仅对经过严格审查的特定用户提供网络安全方面的帮助。然而，中国的公司，例如DeepSeek和Z.ai，则允许任何人免费下载和修改其人工智能模型。
今年早些时候，DepthFirst对Z.ai的免费GLM AI模型进行了大量修改，并结合其它工具，创建了一个可以深入软件内部的模型，用来寻找可能被恶意黑客利用的漏洞。
《华盛顿邮报》的报导说，他们获得的一段展示软件功能的视频显示，DepthFirst的一名员工利用TikTok中的一系列漏洞，远程访问了一部正在浏览TikTok的智能手机上的摄像头和照片库。
DepthFirst的AI找漏洞模型在TikTok使用的一款开源软件中发现了漏洞，该漏洞允许攻击者远程访问TikTok用户的手机。TikTok安全团队发布的消息显示，DepthFirst已将该漏洞披露给TikTok，TikTok确认并修复了该漏洞。
DepthFirst的首席执行官卡西姆‧米塔尼（Qasim Mithani）表示，他们利用找漏洞的AI模型，已在数百万用户使用的软件中发现了数十个严重漏洞。人工智能的强大力量让他确信，随着人工智能日益成为网络攻击者的有力工具，世界正面临一场严峻的考验。
今年4月，Anthropic公司警告称，其最新版本的Claude人工智能模型在网络防御和网络攻击方面都表现出色，这促使美国和其它国家的政府评估AI带来的潜在风险。
Anthropic和OpenAI都限制其人工智能模型的黑客攻击能力，并且只允许经过审查的公司出于防御目的使用其全部功能。
数月后，中国的人工智能模型也展示了强大的网络防御和攻击能力。但是，这些AI模型的限制很少，可以让全球几乎任何人获取用于防御或攻击的高级黑客技术。
“这状况让我夜不能寐。”米塔尼说。