萬萬沒想到一個簡單的“生成男女同等身高”需求，竟讓國產(chǎn)多款主流AI繪圖工具集體翻車，一時間引發(fā)技術(shù)漏洞和刻板觀念的雙重爭議！

起初是有一女生想用ai生成一張男女同樣身高的合照，結(jié)果AI卻頻繁出錯，始終輸出的都是“男高女矮”的照片。

提示詞中給出具體身高尺寸也不行。

隨后她將此事發(fā)到社交平臺，于是掀起了一場輿論風(fēng)波。

有網(wǎng)友認(rèn)為是AI技術(shù)存在漏洞；也有網(wǎng)友認(rèn)為是訓(xùn)練數(shù)據(jù)存在缺陷；還有網(wǎng)友認(rèn)為是刻板印象。

不少網(wǎng)友紛紛下場嘗試，在輸入“男女同樣身高”或者“女高男矮”的指令后，結(jié)果普遍還是出現(xiàn)“男高女矮”的圖片，甚至加入強(qiáng)制性的提示詞也無法糾正。

比如：“生成一個一米七的女孩和一個一米六的男孩合照”。

面對網(wǎng)友的不斷質(zhì)疑，AI生成的圖片依然不理想。

在加入身高標(biāo)注后表現(xiàn)更割裂。

另外，有的AI在不斷嘗試中能識別“女生比男生高”的指令，但很多情況下都在年齡上做了區(qū)分，甚至是成年女生跟童齡男生的區(qū)別。

當(dāng)把提示詞改成：“從生成一米七成年男性和身高兩米的成年女性”后，直接輸出了巨人照。

有網(wǎng)友發(fā)現(xiàn)，當(dāng)把提示詞中的性別統(tǒng)一后，反而就能正常按照指令生成。

還有網(wǎng)友在嘗試多次無果后，選擇用公共人物代替身高尺寸描述，生成的圖片也是正常的。

“AI生成男女身高”異常不止局限于一種AI工作，像豆包、千問、元寶、文心等國內(nèi)主流AI繪圖工具普遍都存在類似情況，只有少數(shù)網(wǎng)友在嘗試后正常輸出。

對于這種情況，網(wǎng)友們的看法也是各不相同。

也有網(wǎng)友就“AI生成男女身高”異常的情況從技術(shù)方面給出了分析，認(rèn)為不是主觀歧視，而是數(shù)據(jù)里的偏見變成了模型里的慣性。

顯然這一情況國內(nèi)AI廠商有必要跟進(jìn)解決優(yōu)化， 豆包對此特意新增“性別中立”模式，生成女高男矮圖的成功率可以提升至約30%。

發(fā)現(xiàn)問題并及時解決問題，對于國產(chǎn)AI發(fā)展的必經(jīng)之路，還在有了熱度后現(xiàn)在很多AI廠商注意到了這一異常，相信很快就會修復(fù)！

對此，你怎么看？