新闻 > 科教 > 正文

提问中央 AI答不了 文心一言也姓党 回避敏感词

—提问中央 AI答不了 文心一言 回避敏感词

阿里巴巴旗下的AI聊天机器人“通义千问”,主打中文写诗、甚至写情书的文本生成。(新华社

近期大陆AI聊天机器人陆续上线,在备受关注的AI言论审查上,先是外媒报导测试包含习近平、“维吾尔族”、“中国青年失业率”等成为敏感词、无法提问外,记者亲自实测下,即便正常提问,希望百度的“文心一言”协助整理近期大陆官方政策,却只因发问内容提到“中央”一词,“文心一言”就表示无法回答。

透过对照后,若将提问句仅移除“中央”两个字再次提问下,就能得到完整的答案,凸显在未来实际大陆的AI聊天机器人时,恐怕还得先学会如何“聪明提问”,才能发挥真正功效。

实际上,“文心一言”对大陆国家领导人的敏感度也不仅在习近平一人,同样测试询问“文心一言”协助汇整单日内,中共中央政治局常委、大陆国务院副总理丁薛祥的发言,也会出现改回答丁薛祥的个人生平,又或直接表示无法回答、建议改问,甚至该提问的对话纪录都会消失。

此外,“文心一言”在推荐提问上,也会偶而出现BUG问题。例如在发问了A问题之后,有贴心设计附上可能想进一步追问的问题,但实测中也曾遇到,点按提供的推荐追问后,却被AI回复无法回答此问题。

除了“文心一言”外,另一受到瞩目的,当属阿里巴巴旗下的AI聊天机器人“通义千问”,同样在近日对大众开放。但经过实际测试下,也恐怕还有一段整改善空间。

具体案例上,例如将询问“文心一言”能获得答案的同样几个问题用来询问“通义千问”,包含政策整理等,都只能得到“作为一个人工智能语言模型,目前我还没有学会如何回答这个问题,我会持续学习,为您提供更好的服务。”

只是相对有趣的是,当询问到“敏感词”时,“通义千问”也会一样巧妙地回应,还没有学会如何回答这个问题。

责任编辑: 李冬琪  来源:中时新闻网 转载请注明作者、出处並保持完整。

本文网址:https://www.aboluowang.com/2023/0922/1957199.html