人工智能(AI)开发商 Anthropic十日公布最新威胁情报报告,揭露过去8个月发现并封锁的 Claude滥用案例。图:翻摄自X@clashreport
人工智能(AI)开发商 Anthropic十日公布最新威胁情报报告,揭露过去8个月发现并封锁的 Claude滥用案例,包括中国行为者利用 AI监视异议人士、搜集台湾政治人物舆情,甚至规划可能有助生物武器开发的研究。Anthropic表示,相关案例涉及屈公病毒、高致病性禽流感病毒株、天花与 M痘(Mpox)病毒家族,以及毒液、毒素等。
Anthropic指出,报告共列出5起涉及生化武器风险的案例。其中一名位于 Anthropic未提供服务地区的研究人员,透过“翻墙”工具及虚拟专用服务器(VPS)使用 Claude数周,规划让禽流感病毒适应哺乳动物的实验。Anthropic发现后立即封锁账号,并将相关案例纳入模型安全防护机制。
Anthropic强调,涉案研究人员目前仍从事科学研究,因此无法确认是否具有造成伤害的意图,也未公布个人及研究机构身份。路透报导,Anthropic目前不支援俄罗斯、中国及北韩等地区。
除了生化武器风险,报告也揭露 AI遭滥用的新类别,包括开发枪支、导弹、武装无人机、炸弹,以及操作相关武器的锁定与控制系统。
其中一名中国行为者利用 Claude设计并反复修改中文电子战软件,包含16个模组,可分析敌方雷达、防空导弹阵地、指挥所及通讯节点,评估侦测范围与电子干扰效果,再依目标价值及弱点排列优先压制顺序,并模拟“爱国者”(Patriot)及“终端高空防御系统”(THAAD)等防空系统的交战范围。
一名中国行为者利用 Claude设计并反复修改中文电子战软件。图:翻摄自 X
Anthropic表示,专案进行期间,该行为者将模拟情境改为台湾12个目标,包括指挥碉堡、预警雷达站、爱国者与“天弓”导弹阵地、主要空军基地及区域作战指挥部。Anthropic评估,对方可能是中国国防或军工研究人员,并与中共军方研究机构有关联。
报告另指出,政府及立场相近的行为者正利用 AI强化对少数族裔与异议人士的监视。Anthropic发现并封锁多起源自中国、伊朗及西部非洲的相关行动。
其中一起中国“舆情监控”行动利用 Claude搜集台湾及西方媒体报导,监控海外中国侨民、异议人士、少数族裔及台湾政治人物,并依政治敏感程度评分,整理成政府内部简报。Anthropic认为,这项行动较可能由替中国政府客户工作的承包商执行。
此外,Anthropic也点名中国“月之暗面”和“深度求索”,指控中国 AI模型开发者偷偷利用 Claude生成答案,用于回复用户提问,同时“蒸馏”相关资料,以改善自家开发的模型。
Anthropic也点名中国“月之暗面”和“深度求索”,指控中国 AI模型开发者偷偷利用 Claude生成答案,用于回复用户提问。图:翻摄自 DeepSeek AI X账号