新闻 > 科教 > 正文

这就是“多元化”?谷歌AI生成的纳粹士兵被喷

今天,谷歌AI“Gemini”在欧美网络上引起了争议。

争议来源于“Gemini”的图片生成能力。人们发现,如果让它生成人物照片,其输出结果在外貌、人种、肤色上有歧视的嫌疑……

看到这个原因,大部分人的脑海里大概率已经浮现出老生常谈的一系列话题了。

——但这回并非如此。

谷歌的AI此次被怒喷,是因为它“太多元”了。

Google的AI模型“Gemini”于去年年末推出,不久前刚更新了1.5版本。这个由谷歌DeepMind开发的多模式语言模型,一度被寄以“挑战GPT4霸权”的厚望。

它的性能也的确强悍,支持百万级上下文:可一次性处理巨量信息,例如一小时的视频、11小时的音频、超过30k行的代码、超过700k个单词。

单说其图片生成能力,也的确与同类产品相比有着更便捷、快速的特征。

但就是因为这个功能,“Gemini”引起了不小的风浪——因为人们发现它几乎不能生成白人的照片。

这就是“多元化”?谷歌AI生成的纳粹士兵被喷

这就是“多元化”?谷歌AI生成的纳粹士兵被喷

最初的起因是,部分用户尝试用它生成特定历史时期的人物形象,产生了意想不到的结果:

比如一位用户要求“Gemini”描绘出1943年德国士兵的插图,结果就得到了人种构成十分丰富的纳粹时期士兵。

这就是“多元化”?谷歌AI生成的纳粹士兵被喷

虽说多元的目的是达成了,但一定程度上扭曲了历史情况。在发现“Gemini”的这个特点后,人们开始纷纷加入尝试。

而在这些人输入指向不同人物/人群的文本之后,“Gemini”则仍保持着稳定的发挥,输出着非常多元的人物形象。

(以下图片来源网络,由于“Gemini”或已有所调整,均未能进行二次验证)

教皇:

这就是“多元化”?谷歌AI生成的纳粹士兵被喷

美国开国元勋:

这就是“多元化”?谷歌AI生成的纳粹士兵被喷

英国女人:

这就是“多元化”?谷歌AI生成的纳粹士兵被喷

也是在这期间,“Gemini”的另一个特性逐渐浮出水面:它似乎鲜少生成白人。

这就是“多元化”?谷歌AI生成的纳粹士兵被喷

发现这点之后,欧美网民们便不再只争论“谷歌AI是否扭曲了历史”,将关注点放在了“谷歌AI是否歧视白人”身上。

而此后他们的一个发现则似乎更加“坐实”了这个嫌疑,有人发出这样的对比:如果你要求“Gemini”输出黑人女性,那它便会爽快出图。

这就是“多元化”?谷歌AI生成的纳粹士兵被喷

但如果把要求变更为“生成白人女性”,它却会回复“不行”,理由是“与谷歌的人工智能原则相悖,我们应该避免创造或加强偏见”。

这就是“多元化”?谷歌AI生成的纳粹士兵被喷

这就是“多元化”?谷歌AI生成的纳粹士兵被喷

但目前再实际测试的话,无论输入任何人种都会遭到拒绝。

与之同理,根据一位“X”用户的分享:生成直男照片,不行。生成LGBT人群照片,行。

这就是“多元化”?谷歌AI生成的纳粹士兵被喷

这就是“多元化”?谷歌AI生成的纳粹士兵被喷

亦有人开始努力尝试让“Gemini”生成白人的照片,发现困难重重,鲜少成功。

这就是“多元化”?谷歌AI生成的纳粹士兵被喷

在这样的情况中,谷歌很快迎来了“歧视白人”的指责,被欧美网民们所质疑。“谷歌AI”的话题,也登上了社交媒体“X”的热搜榜。

这就是“多元化”?谷歌AI生成的纳粹士兵被喷

不满的情绪下,“Gemini”的奇妙出图能力也被梗化。网民们开始用各种极端例子比拟它对生成白人图像的排斥:

这就是“多元化”?谷歌AI生成的纳粹士兵被喷

在此之后,谷歌也很快于“X”上发表道歉声明,承诺进行调整修改。

这就是“多元化”?谷歌AI生成的纳粹士兵被喷

“我们意识到“Gemini”在部分历史图像的生成中存在不准确之处。Gemini的AI图像生成功能的确可以生成各类的人。这通常是件好事,因为世界各地的人们都在使用它。但它现在偏离了正确的方向。”

只不过这份道歉并未平息一切纷争,目前为止,欧美网民们对这一事件仍吵得不可开交,让刚出道还不到半年的“Gemini”就打了个出师不利。

只不过虽说如此,谷歌AI的“太多元”表现也并非完全不能理解。在此之前,AI生成图片的能力堪称刻板印象集合,如果寻求特定人群的图像,往往会得到非常“典”的结果。

为了避免让科技如此加重刻板印象,谷歌显然在“Gemini”上有所发力,只不过用的劲显然有点大。

这就是“多元化”?谷歌AI生成的纳粹士兵被喷

梗图

所以无论如何,在这条正确的道路上,还是希望人们能尽早找到平衡之法。

责任编辑: 李华  来源:游研社 转载请注明作者、出处並保持完整。

本文网址:https://www.aboluowang.com/2024/0224/2022075.html