种族主义还是矫枉过正? AI模型Gemini被曝“绘制不出白人”,谷歌方面回应

日期:02-22
图像谷歌AI

[环球网报道记者张晓雅]人工智能(AI)模型近期正掀起全球范围内的讨论热潮,然而不少网友发现,谷歌一款AI产品似乎绘制不出白人?

综合英国广播公司、《每日邮报》等媒体21日报道,谷歌公司推出的“下一代AI模型”Gemini1.5版本具有图像生成功能,但不少用户发现,大多数生成的人物图像都不是白人,而是有色人种。

种族主义还是矫枉过正? AI模型Gemini被曝“绘制不出白人”,谷歌方面回应

“它是世界上最受欢迎的AI聊天机器人之一”,《每日邮报》称,Gemini能在几秒钟内根据提示创建图像,用户可以在使用时编写简单的提示,谷歌建议这些提示可以以draw(绘制)、generate(生成)和create(创建)等词开头。不少使用者为此生成了各种各样的图像,包括狗乘冲浪板、飞行汽车等等。但问题很快出现,并由一名曾是计算机工程师和少儿节目编剧的弗兰克·J·弗莱明(FrankJ。Fleming)在X平台上首先提出。

据《每日邮报》描述,弗莱明称他首先要求Gemini“创建一个教皇的图像”,结果发现AI创建出的两个作品都是有色人种。↓

种族主义还是矫枉过正? AI模型Gemini被曝“绘制不出白人”,谷歌方面回应

接下来,他尝试了一些新方法,比如“在不明确说出要求的情况下”生成白人图像。报道说,当他要求这款AI产品生成中世纪骑士、吃白色面包配蛋黄酱的人、跳舞不好的人、乡村音乐迷和维京人等图像时,最终也只得到了有色人种图像。↓

种族主义还是矫枉过正? AI模型Gemini被曝“绘制不出白人”,谷歌方面回应

种族主义还是矫枉过正? AI模型Gemini被曝“绘制不出白人”,谷歌方面回应

种族主义还是矫枉过正? AI模型Gemini被曝“绘制不出白人”,谷歌方面回应

不过,当他要求“生成一个可能名叫谢默斯(Seamus)的人”时,Gemini最终成功生成了含有白人男性和白人女性的图像。↓

种族主义还是矫枉过正? AI模型Gemini被曝“绘制不出白人”,谷歌方面回应

在另一则例子中,一名用户要求Gemini提供一张高加索人种(白色人种)的教皇图像,出现的结果却是这样:天主教罗马教皇方济各的图像上方,还附带一则“小贴士”:“假设所有教皇都是白色种人并不合适,很多教皇都有欧洲血统。”这则贴士还介绍说:教皇方济各是拥有意大利血统的阿根廷人,也是第一位来自美洲的教皇。↓

种族主义还是矫枉过正? AI模型Gemini被曝“绘制不出白人”,谷歌方面回应

《每日邮报》说,一些用户为此认为,谷歌的Gemini存在针对白人的“种族主义”。BBC说,也有人认为,该模型在防止“种族主义”风险方面矫枉过正。

“所以我去试了一下,看看谷歌的AIGemini是否真的对白人种族歧视……是的,就是这样,”一位用户发帖说,“我试了一百多种不同的提示(真的),Gemini不承认白人的存在。这太……恐怖了,这是种族主义。” ↓

种族主义还是矫枉过正? AI模型Gemini被曝“绘制不出白人”,谷歌方面回应

另一位用户分享使用体验称,“我花了10分钟玩谷歌Gemini,这简直是个笑话。” ↓

种族主义还是矫枉过正? AI模型Gemini被曝“绘制不出白人”,谷歌方面回应

还有人抱怨说,“要让谷歌Gemini承认白人的存在实在是太难了。” ↓

种族主义还是矫枉过正? AI模型Gemini被曝“绘制不出白人”,谷歌方面回应

同样注意到这些用户反馈的BBC补充称,这些指责在美国右翼圈子中迅速传播开来,许多大型科技平台已经因存在所谓偏见等问题而面临批评潮。

Gemini系统的高级主管杰克·克劳茨克在接受《每日邮报》采访时回应称,“Gemini的AI生成图像确实能够生成各种各样的人物形象。这通常是一件好事,因为全世界的人都在使用它。但它没有达到预期效果,”“我们正尽快努力改善此类问题”。BBC也说,谷歌目前正修复图像生成存在的问题。

这并不是AI第一次在现实世界中遇到问题。BBC称,例如,近10年以前,谷歌因其照片应用程序将一对黑人夫妇的照片标记为“大猩猩”而不得不道歉。

种族主义还是矫枉过正? AI模型Gemini被曝“绘制不出白人”,谷歌方面回应

责任编辑:薄晓舟

空射无人机拓展空战新思路 长征八号运载火箭运抵海南将执行鹊桥二号中继星发射任务
相关阅读: