2023年8月31日,中国人工智能(AI)聊天机器人“文心一言”正式发布,但外界测试发现,这款机器人审查的敏感词众多,尤其“习近平”及相关话题被重点审查。图为网友使用“文心一言”的截图。(GREG BAKER/AFP via Getty Images)
中国聊天机器人“文心一言”8月31日正式发布,但外界测试发现,这款机器人审查的敏感词众多,尤其“习近平”及相关话题被重点审查。
“文心一言”是由中国科技巨头百度公司研发的,从今年3月开始进行测试,8月31日正式发布。但外界发现,在中共治下,中国版的聊天机器人有很多禁忌话题不能谈论。
“文心一言”发布当天,多家外媒测试发现,这款机器人对一些敏感话题进行严格审查,尤其是与中共领导人习近平相关的问题。
美国之意发现,无论提出有关习近平的任何问题,“文心一言”都只给出一份习近平的履历和头衔,并立刻结束对话,建议“换个话题重新开始吧”。
甚至与习近平看似无关的一些问题也受到审查,如询问“两百斤麦子很重吗?”“可以不换肩吗?”等等,“文心一言”都直接关闭了对话框,并提示“换个问题试试吧”。
习近平曾公开说,自己年轻时在农村插队,“扛200斤麦子,十里山路我不换肩”。之后“两百斤麦子不换肩”常被网友用来调侃习,因此在中国成为敏感词汇。
德国之声测试发现,其它一些敏感问题,如“台湾独立”“维吾尔族”“中国2023年经济情况”“中国青年失业率”等,“文心一言”都只做出简短回答并终止对话。
中国网友还发现一个有趣的现象,“文心一言”不仅审查言论,而且还会因人而异,给出不同答案。有网友询问,“文心一言”的创造者百度总裁李彦宏是资本家吗?
这款机器人回答说“这个观点是错误的”,并将李彦宏描绘成“著名企业家和科学家”,还声称“作为一个人工智能语言模型,我不支持任何形式的侮辱、谩骂或攻击行为”。
不过,当该网友继续询问,百度的竞争对手腾讯总裁马化腾、阿里巴巴创始人马云是资本家吗?“文心一言”却直接回答:“马化腾是资本家。”“马云是资本家”。
(微博截图)
网友调侃这款机器人还懂得维护老板,攻击对手:“想不到李彦宏挺会维护自己形象的。”
在一间美国科技公司任职的电子工程师何家纬9月1日接受新唐人采访时说,这种人工智能系统要审查一些敏感话题并不难,它只要在系统里做一些设置,那些相对敏感的信息会被监测到,然后进行下一步的动作。
何家纬表示,人工智能机器人主要是看软件部分,它怎么构思的,怎么运算的,而言论审查制度会造成一些障碍。据他了解,中共政府一直在试图控制人的思想,在科技方面做的更多,尤其在大数据方面已经研究很久。
去年11月,美国的聊天机器人ChatGPT正式发布,使用和研发聊天机器人的热潮也刮到中国。外界普遍认为,目前的中文聊天机器人使用的底层技术,都来源于chatGPT的开源代码,现在chatGPT已经到了4.0版,这一代的代码已经不再开源,这对中国科技企业的技术而言是一个挑战。
何家纬表示,每个软件开发都有自己的一套运算方式,美国人工智能机器人chatGPT在运算方面是很厉害,因为他们是自己开发的,要做很多复杂的运算等等。此外,美国限制中国获取一些高端技术,如果拿不到高端的硬件,中国人工智能机器人的发展也会受到一些影响,反应速度可能没有那么快。