周四（9月10日），美国顶级人工智能公司Anthropic发布近150页的威胁情报报告称，生成式人工智能（AI）已从实验性工具进入黑客攻击、国家监控、武器研发及高风险生物研究等现实场景。报告多次点名中共相关恶意活动。
报告称，过去8个月，公司发现多类行动者透过虚假或被盗账户、VPN及中介服务规避地域和安全限制，使用Claude自动化网络攻击、监控、宣传、武器研究及可能具有生物安全风险的科研工作。Anthropic表示，已中断报告所列所有案例、封禁涉事账户，并向相关政府机构和业界组织通报。
报告多次点名中国相关的恶意行动。Anthropic称，与中共安全机构相关的行动者利用Claude，大规模分析境内社交媒体内容、筛选政治敏感讯息及锁定潜在监控对象。
Anthropic威胁情报主管雅各布‧克莱因（Jacob Klein）表示，公司发布报告的目的不是夸大风险，而是警示当前技术已被部分实体恶意滥用。
“如今，专制国家正在利用AI进行监控、镇压和影响力行动。”克莱因说，“这已不再是假设。”
报告警告说，国家监控、武器工程、网络攻击及危险科研所需的专业门槛，正因生成式AI而下降；而这一趋势已不再局限于下一代最强模型，而是出现在已经商业化、广泛可得的AI系统之中。而且当Anthropic识别并中断恶意活动后，部分行为体没有停止，只是转向开源模型。
中国案例：从人工分析转向AI辅助监控
Anthropic发现，监控国家正将AI从实验性工具融入国家监控的日常运作。
报告提到，中共某国家安全部门甚至制定了内部手册，说明如何使用AI进行监控行动，还有其他官员利用Claude自动生成日常情报报告并查询政府监控数据库。
报告举例说，中共一个宗教事务情报部门利用Claude协助搜集和分析资料，将原先需要“多个分析团队”完成的工作，缩减为一个办公室，利用AI每月完成数千份调查报告。
Anthropic披露了一项“以中国为基地的宗教事务情报行动”（追踪编号为 GTG-14020），该行动针对中共长期监控的宗教群体，包括天主教、藏传佛教、法轮功及台湾的基督教群体。中共利用Claude处理大量公开网络资讯，例如搜集网站、社交平台及其它公开来源资料，进行翻译、摘要、分类、人物与组织关联分析，从而形成可供持续检索和研判的宗教社群情报。
Anthropic威胁情报主管Jacob Klein介绍说，AI被这些实体用来从事监控工作，变得更便捷、更快速，也更容易扩大规模。
报告称，中共相关行动者曾使用Claude分析大量境内社交媒体资料，判断帖文的政治敏感程度，并挑选可能需要“控制”（control）的对象。
Anthropic称，与政府有关联的人员也在马里和伊朗使用Claude辅助监控行动。
武器研发以及生物安全担忧
Anthropic称，已阻止一批位于也门北部的行动者使用Claude参与3个武器的研发项目，涉及导引火箭、多级弹道导弹和高超音速滑翔导弹。公司亦披露，一名位于俄罗斯的“自由接案”行动者试图利用Claude研发可自主执行自杀式攻击的无人机。
Anthropic表示，其发现多宗利用Claude协助常规武器设计、开发或支援采购与情报工作的案例。在公开披露的6宗个案中，有3宗发生在中国、2宗与俄罗斯有关、1宗涉及也门。
Anthropic同时披露，今年发现五宗来自未具名外国地区的高风险生物研究案例，涉事人员疑似利用Claude研究危险病原体。
其中一宗涉及蚊媒致命病毒的功能增益研究资助申请。Anthropic称，相关研究或可用于疫苗研发，但因计划在军事研究机构进行，而引起关注。其它案例包括研究可同时用于治疗用途或制成毒剂的化合物，以及一名美国境外研究者长时间研究高致病性禽流感病毒的适应性实验。
报告称，涉事者规避地理限制，并试图模糊研究目的以绕过安全防护，因此引发警讯。
Anthropic前沿红队（Frontier Red Team）的负责人洛根‧格雷厄姆（Logan Graham）表示，格外关注报告中提到的生物滥用案例。
“我们已经到了这样一个时刻：（缺乏保障和监控的）人工智能确实构成了国家安全风险。”他在社交媒体X上写道。
“我们正努力阻止这种情况发生。但在一个扩散的世界里，我们需要迅速建立防御体系来应对它。”格雷厄姆补充说。他领导团队，负责压力测试Anthropic最先进的AI系统。
中国公司大规模非法蒸馏
Anthropic称，Claude在中国、俄罗斯和伊朗等地受到地域限制，但涉事者透过VPN、欺诈或被盗账户，以及协助用户绕过地理和安全限制的中介服务取得模型能力。这反映AI风险并不只取决于模型是否公开发布，也与账户验证、云端服务、代理网络与跨境中介服务是否被滥用有关。
Anthropic说，自从二月首次披露针对Claude的“蒸馏攻击”（distillation attacks）以来，已发现并阻止了来自中国七个实验室的更多蒸馏行动。
所谓蒸馏攻击，是指行动者大量向先进模型提出结构化问题、搜集输出，以尝试提取或复制模型的能力，用于训练竞争性系统。
被Anthropic点名的中国公司有阿里巴巴、Moonshot、DeepSeek、智谱AI、商汤科技、MiniMax等。
克莱恩表示，Anthropic已对所有被发现与监控行动有关的账户采取封禁措施，并根据案例强化安全防护。