在美國國父一例中，Gemini違反了歷史常識(shí),，而這令人發(fā)笑的低級(jí)錯(cuò)誤可能是最容易“糾正”的一類,。有技術(shù)專家分析Gemini出錯(cuò)原因時(shí)猜測(cè)，谷歌很可能是在“幕后”向用戶的提示語中添加了更能體現(xiàn)種族多樣性的關(guān)鍵詞,，比如用戶輸入的“一個(gè)廚師的肖像”這樣的提示語,，會(huì)被調(diào)整為“一位土著廚師的肖像”。

事實(shí)上,，人工智能最近幾年的發(fā)展一而再,、再而三地說明，人類專家越少的干預(yù)反而越能產(chǎn)生好的模型效果,。

換句話說,，“美國國父”是真實(shí)存在過的人物,，對(duì)他們的描繪大致可以被判定為準(zhǔn)確或不準(zhǔn)確的。相比較起來,，那些沒有正確答案的問題,，對(duì)AI來說要棘手得多。

谷歌Gemini的圖片生成功能因?yàn)檫^于“政治正確”,，生成了很多嚴(yán)重偏離事實(shí)的圖片，遭到網(wǎng)友吐槽,，稱其為“人工智能種族主義”,，谷歌致歉，連夜下架Gemini文生圖功能,，現(xiàn)在谷歌高級(jí)副總裁也來道歉了,，可見事態(tài)嚴(yán)重。

大家肯定會(huì)好奇為什么會(huì)出現(xiàn)這個(gè)問題呢,？我在網(wǎng)上看到一位谷歌AI的前高管說法：谷歌可能在背后在用戶提示詞基礎(chǔ)上添加了種族多樣性術(shù)語,。在這種情況下，像“士兵的肖像”這樣的提示詞可能會(huì)變成“土著士兵的肖像”,。在這種情況下,，可以隨機(jī)選擇附加術(shù)語，那么谷歌算法上的某種“政治正確”就很可能會(huì)更加優(yōu)先地顯示基于深色膚色生成的圖像,。比如說,，如果 Gemini 為每個(gè)提示生成 10 張圖像，谷歌會(huì)讓系統(tǒng)分析圖像中描繪的人的膚色,，并將膚色較深的人的圖像推到隊(duì)列中的較高位置,。因此，如果 Gemini 只顯示前 4 張圖,，那么最有可能看到膚色較深的,。這也就解釋了為什么人們看到這些本應(yīng)是白人形象的歷史人物變成深膚色了。

我感覺這會(huì)是一個(gè)轉(zhuǎn)折點(diǎn)事件,。大家都知道互聯(lián)網(wǎng)平臺(tái)發(fā)布內(nèi)容都是要進(jìn)行內(nèi)容審核,。很顯然這次Gemini沒有進(jìn)行審核，也很難審核,，這是否意味著未來加強(qiáng)AIGC的監(jiān)管會(huì)先從內(nèi)容審核切入,？讓我們拭目以待吧。