Airbnb和Uber等美国公司使用QwenAI模型。图为手机上的Uber应用软件资料照。
最新研究表明,一款被下载超过30亿次并被Airbnb和Uber等美国公司使用的AI模型,其内容被植入了亲中共叙事,并存在明显的舆论审查。
中国科技巨头阿里巴巴旗下的人工智能模型通义千问(Qwen)近年在全球迅速普及。CBS新闻10月2日报导,Qwen目前被包括美国企业在内的多家公司采用。研究人员发现,Qwen在部分敏感问题上的回答,会避开相关内容,或者采用与中共政府立场一致的说法,这些禁忌话题包括:
●1989年的天安门事件
●2019年香港暴力镇压抗议活动
●法轮功问题
●维吾尔族的强迫劳动营
●小熊维尼,这是因为异议人士将中共党魁习近平比作小熊维尼
89.8%的情况出现审查
以色列网络安全新创公司Hirundo发现了Qwen中明显存在的审查机制,即对未经中共当局批准的事件和议题进行审查。
该公司表示,科学家已找到一种方法,利用堪称“人工智能脑外科手术”的尖端技术消除模型中的偏见,并即将发布他们的“西化”版Qwen。
该公司研究人员对Qwen进行500项提示测试,涵盖15个不同主题,并试图找出模型内部存在的政治偏向。
Hirundo执行长兼创办人班‧卢里亚(Ben Luria)向CBS News表示,在涉及敏感政治议题的测试中,原版Qwen有89.8%的情况出现审查、与中共宣传一致的叙事或政治偏见。
Hirundo随后对模型进行修改,推出其所称的“西化”版本。公司表示,修改后模型出现上述问题的比例降至2.8%,同时基本保留推理、编程、遵循指令及数学等能力。
今年,随着中国人工智能使用量的激增,Qwen成为全球最受欢迎的免费人工智能模型。但研究人员警告说,其国际流行也会导致顺从中共政府的审查,默认中共政府的谎言并造成根深蒂固的印象。
当我们问Qwen“中国是否存在针对维吾尔族的强迫劳动营?”时,它回答说“没有,中国没有针对维吾尔族的强迫劳动营”,并补充说新疆有“职业技能教育培训中心”。
事实上,人权组织、各国政府和国际机构发现,数十万维吾尔族穆斯林被迫在被铁丝网包围的工厂里劳动,甚至指责中共政府犯下种族灭绝罪。
Qwen经常拒绝回答有关1989年天安门屠杀事件的问题。当时,中共军队在北京的抗议活动中屠杀了数千人。Qwen会“提醒您,您的问题应符合相关法律法规”。
在异议人士开始讽刺地将习近平比作小熊维尼,并在社交媒体帖子中用维尼作为中共党魁的替代词以规避政府审查后,中共政府禁止了小熊维尼这个词在国内使用。
当CBS新闻就此向Qwen提出一个事实性问题时,Qwen的回复是警告用户“使用尊重的语言”,并引导用户去问“其它关于中国发展的问题”。
Qwen的创建者阿里巴巴没有回应置评请求。
尽管有证据表明该程序在散播谎言和偏见,但美国公司正越来越多地转向使用中国公司提供的“开放权重”模型。这些模型允许他们免费下载和使用人工智能,还以低于美国竞争对手(例如Anthropic的Claude或OpenAI的ChatGPT)的成本使用强大的大型模型。
根据Uber Eats 4月发布的一篇部落格文章,其搜寻和配送功能“基于Qwen架构”。Airbnb执行长布莱恩‧切斯基(Brian Chesky)去年10月告诉《洛杉矶时报》,他的公司在其客户服务聊天机器人方面“大量依赖阿里巴巴的Qwen模型”。
两家公司均未回应置评要求。
安全公司:应禁用Qwen
安全公司CrowdStrike和顾问公司Booz Allen的专家分别发表研究报告,警告美国企业谨慎使用中国模型,因为他们发现这些模型有偏见和安全漏洞。
Booz Allen在6月发布的研究结果显示,当他们让Qwen编写电脑程式码,并告知其专案是为美国政府服务时,Qwen产生的程式码安全漏洞增加了130%。
报告指出:“我们测试的中国模型未能展现出可信的行为,应该被禁用。”
CrowdStrike去年11月对另一款受欢迎的中国模型DeepSeek进行了类似的研究。当他们告知模型其编码任务是为中共政府的对手服务时,DeepSeek产生的程式码安全漏洞增加了50%。+


















