對生成式人工智能的重大利弊權(quán)衡
凱洛格管理學(xué)院
2023-11-22
如果你已經(jīng)開始在工作流程中加入生成式人工智能工具，例如ChatGPT，你就可能已經(jīng)注意到了一個(gè)相當(dāng)驚人的情況：雖然人工智能可以幫助你更有效率地寫作或編碼或畫圖,，但它也需要花費(fèi)許多功夫才能夠把作品調(diào)整成類似于由你自己創(chuàng)作的東西。
因此,，對于生成式人工智能,，用戶面臨著一個(gè)基本的利弊權(quán)衡,。為了最大限度地提高其效率優(yōu)勢，你需要犧牲一些對作品的“保真度”,，也就是生成式人工智能在維持你獨(dú)特風(fēng)格或觀點(diǎn)上的忠實(shí)或準(zhǔn)確度,。
“如果重點(diǎn)在于加快工作速度以及提高生產(chǎn)力，那么為了提高速度,，你可能就必須在某個(gè)地方放棄某些東西,。”凱洛格學(xué)院的管理經(jīng)濟(jì)學(xué)和決策學(xué)助理教授塞巴斯蒂安·馬丁說道,。
對個(gè)人來說,，這種利弊取舍雖然痛苦，但至少直截了當(dāng),。你可以把人工智能生成的作品視為“足夠好”而接受它,，或是投入更多的時(shí)間將作品個(gè)性化，比如通過事前提供更多信息,、調(diào)整提示或事后對作品進(jìn)行編輯,。對于具有獨(dú)特風(fēng)格或觀點(diǎn)的個(gè)人，他們甚至可能認(rèn)為對人工智能作品進(jìn)行個(gè)性化是弊大于利的麻煩事,，因此干脆棄之不用,。
然而，當(dāng)每一個(gè)人都開始使用這些工具時(shí),，會(huì)是什么情況呢,？速度與保真度之間的利弊取舍是否會(huì)對社會(huì)具有更廣泛的短期與長期影響？
馬丁在一項(xiàng)與美國加州大學(xué)洛杉磯分校同事弗朗西斯科·卡斯特羅和高?。ㄗg音）共同進(jìn)行的新研究中發(fā)現(xiàn),，使用人工智能創(chuàng)建內(nèi)容會(huì)增加我們集體產(chǎn)出作品的同質(zhì)性，即使我們試圖把作品進(jìn)行個(gè)性化也不會(huì)改變,。此外,，這些內(nèi)容還會(huì)繼承人工智能在訓(xùn)練過程中可能學(xué)到的任何偏見,。換句話說,，少數(shù)人工智能公司的工作者的品味與偏見可能最終會(huì)滲透到整個(gè)社會(huì)之中。研究還發(fā)現(xiàn),，這些效應(yīng)的負(fù)面影響會(huì)隨著人工智能生成的作品用來訓(xùn)練下一代人工智能而加劇,。
然而，從更積極的角度來看,，該研究表明,，創(chuàng)建鼓勵(lì)用戶提供信息以及促進(jìn)手動(dòng)編輯的人工智能工具能夠預(yù)防出現(xiàn)這些結(jié)果的最糟糕的情況。
機(jī)遇與風(fēng)險(xiǎn)并存
馬丁非常熟悉生成式人工智能具有的速度與保真度之間的利弊權(quán)衡,。畢竟他的母語是法語,，他經(jīng)常需要依賴語法檢查軟件Grammarly來提高他的書面英語,。他說：“我節(jié)省了大量時(shí)間！”
盡管如此,，馬丁也承認(rèn)使用這個(gè)工具無可避免地會(huì)影響他寫的文章,。這倒不是什么嚴(yán)重的問題，最多就是個(gè)人慣用的標(biāo)點(diǎn)符號,、遣詞用字和句子結(jié)構(gòu)受到影響,。“Grammarly寫出來的東西不會(huì)和我自己寫的東西一模一樣,?！彼f，“同樣的事物可以用不同的方式寫出來,，有時(shí)僅僅是風(fēng)格不同而已,。”
但其他時(shí)候,，差異具有較大的意義,。無論我們將一個(gè)事件描述為“抗議”或“騷亂”，或是從中間偏右或中間偏左的觀點(diǎn)撰寫一則新聞,，都會(huì)有意義地塑造讀者對事件的印象,。更廣泛地說，隨著時(shí)間的推移,，當(dāng)每個(gè)人的集體品味都受到相同算法的影響時(shí),，會(huì)出現(xiàn)什么樣的情況？
為了找到答案,，馬丁,、卡斯特羅和高健建立了一個(gè)數(shù)學(xué)模型來模擬整個(gè)社會(huì)使用相同人工智能工具的結(jié)果。
在他們的模型中,，具有各種不同偏好的用戶使用人工智能執(zhí)行相同的任務(wù),，并且能夠選擇依照自己的喜好把作品進(jìn)行個(gè)性化。這些個(gè)性化是通過交換關(guān)于每一個(gè)用戶的偏好信息來實(shí)現(xiàn)的,。用戶根據(jù)自己的情況決定要花費(fèi)多少精力：提供更多信息意味著人工智能將可以更好地展現(xiàn)獨(dú)特偏好,，但這也需要更多的工作。提供較少的信息會(huì)更快更容易,，但會(huì)產(chǎn)生更加一般化的結(jié)果,，沒有特殊性。如果用戶提供的信息有限,，那么即便是最好的人工智能也無法猜出用戶的真正偏好,，但它能夠在訓(xùn)練過程中通過學(xué)習(xí)整個(gè)群體各式各樣的偏好來做出有根據(jù)的猜測。
研究人員想知道,，個(gè)人用戶會(huì)如何決定這些工具的使用,，以及他們的選擇總體而言意味著什么,？
受到算法啟發(fā)
該模型證實(shí)，對具有最常見或中間偏好的用戶來說,，最佳的決定是按照原樣接受人工智能產(chǎn)出的作品,；但是，具有不太常見偏好的用戶則會(huì)被激勵(lì)向人工智能提供額外信息或編輯人工智能作品以使其與默認(rèn)作品不同,。而對具有邊緣偏好的用戶而言,，人工智能根本不會(huì)節(jié)省時(shí)間，這類用戶最好自己創(chuàng)建內(nèi)容,。
該模型也發(fā)現(xiàn),，人工智能生成內(nèi)容的同質(zhì)性總是高于用戶生成內(nèi)容，這個(gè)結(jié)論在個(gè)人層面是正確的,，在此層面人工智能的益處來自于將我們自己的一些折衷偏好來代替更流行的偏好,。該結(jié)論在群體層面也同樣正確。人工智能生成內(nèi)容呈現(xiàn)的偏好范疇比群體的偏好范圍變化更小,，這是因?yàn)榫哂羞吘壠肺兜挠脩舾静皇褂眠@項(xiàng)工具,，以至于效果被放大。
此外,，這種一致性會(huì)隨著時(shí)間推移而累積,，因?yàn)槿斯ぶ悄苌傻膬?nèi)容會(huì)用來訓(xùn)練下一代人工智能，于是形成了一種研究人員稱為的同質(zhì)性“死亡螺旋”,。新人工智能用同質(zhì)性更高的數(shù)據(jù)加以訓(xùn)練,，因此創(chuàng)造出同質(zhì)性內(nèi)容的可能性更大。于是用戶需要花費(fèi)更多的時(shí)間與精力來調(diào)整人工智能生成的作品以符合自己的偏好,，有些人不愿意這么做,，從而導(dǎo)致更加同質(zhì)化。
該模型顯示,，人工智能的另一個(gè)問題,，即偏見，也會(huì)隨著時(shí)間的推移而累積,。由于大多數(shù)人工智能是由少數(shù)人創(chuàng)建與訓(xùn)練（典型方式是采用RLHF,，即基于人類反饋的強(qiáng)化學(xué)習(xí)），因此一些偏見滲入初始人工智能產(chǎn)出的作品幾乎不可避免,。用戶可以通過一些努力來消除這種偏見,，不過如果偏見夠小,，大多數(shù)人可能就會(huì)認(rèn)為不值得去處理,，或者甚至根本沒有注意到。
但如果我們都這樣做,，那這種能夠理解的個(gè)人行為就會(huì)累積,。隨著時(shí)間的推移,，“任何人工智能偏見實(shí)際上可能轉(zhuǎn)變?yōu)樯鐣?huì)偏見?！瘪R丁說道,。
這讓人工智能公司對社會(huì)產(chǎn)出作品具有巨大影響，即使用戶竭盡所能加以限制也無法改變,。
前進(jìn)的道路
研究人員發(fā)現(xiàn),，有一些方法可以緩解與人工智能相關(guān)的社會(huì)問題。最有希望的一個(gè)方法是讓更多的人與人工智能互動(dòng)并且自己編輯人工智能生成的作品,。只要模型生成的作品能夠反映出用戶的真實(shí)偏好,，同質(zhì)性和偏見便不會(huì)泛濫失控，而要能做到反映真實(shí)偏好就需要用戶清楚表達(dá)自己的偏好,。
在實(shí)踐中,，這或許意味著人工智能在生成結(jié)果之前先詢問用戶一些問題，以便更好地了解用戶的獨(dú)特風(fēng)格或觀點(diǎn),。這也許還意味著提供多個(gè)作品版本,。
“不是給你一個(gè)版本，而是嘗試給你兩個(gè)截然不同的版本讓你選擇,?！瘪R丁表示。
他承認(rèn),，這些建議在短期內(nèi)會(huì)減慢用戶的速度,，從而使該技術(shù)的用處稍有降低。但從長遠(yuǎn)來看,，無論對于用戶還是對于人工智能工具來說,，這種策略“肯定非常好”。
馬丁對生成式人工智能在內(nèi)容創(chuàng)作中發(fā)揮的作用仍然持樂觀態(tài)度——只要它繼續(xù)反映人類的全方位偏好,。事實(shí)上,，讓大量新作家、藝術(shù)家或程序員更容易進(jìn)行創(chuàng)作甚至可能會(huì)帶來好處,。
他說：“人工智能還可以讓更多的人從事他們以前無法做到的事情,，這可能會(huì)增加一點(diǎn)多樣性?！保ㄘ?cái)富中文網(wǎng)）
財(cái)富中文網(wǎng)所刊載內(nèi)容之知識產(chǎn)權(quán)為財(cái)富媒體知識產(chǎn)權(quán)有限公司及/或相關(guān)權(quán)利人專屬所有或持有,。未經(jīng)許可，禁止進(jìn)行轉(zhuǎn)載,、摘編,、復(fù)制及建立鏡像等任何使用。
