“加速派”贏了之后，如何確保AI“愛對齊”,？
王昉
2023-12-21
OpenAI董事會之爭似已告一段落，但它預示著,，AI技術(shù)帶給人類社會的沖擊以及人類圍繞它的思辨,，才剛剛開始。
這場爭議被總結(jié)為“加速派”與“對齊派”之爭,。前者認為應當加速AI研發(fā)及應用,，讓它盡快造福人類，在發(fā)展中解決可能出現(xiàn)的問題,；后者則認為應當謹慎行事,，先要確保AI“對齊”人類利益，并為之設(shè)置足夠護欄后,，再推進技術(shù)進步,。兩派意見都有著大量擁躉。
一位接近OpenAI的知情者引述一位前董事會成員說：“我們每向人工智能靠近一步,，每個人都會承受十分的精神錯亂”——那些站在AI技術(shù)最前沿,、有可能在可見的未來為通用人工智能（AGI）“接生”的技術(shù)公司決策者們肩負的巨大責任，從這句話中可窺一斑,。
這些技術(shù)人今天所做的思考與決策,，將決定未來人類與AI的共處方式。
在近日于上海舉辦的2023年《財富》MPW女性峰會上，三位來自技術(shù)企業(yè)的女性高管以及一位女性技術(shù)學者同臺,，圍繞AI路線之爭,、如何構(gòu)建負責任的AI、女性在AI研發(fā)中的作用等議題分享了思考與實踐,。以下為編輯后的對話實錄：
2023年12月8日,，2023年《財富》MPW女性峰會。從左至右分別為：《財富》上海執(zhí)行主編王昉,；IBM中國系統(tǒng)開發(fā)中心首席技術(shù)官孟繁晶,；ZTE中興通訊股份有限公司首席發(fā)展官崔麗；清華大學中國科技政策研究中心研究員,、科技史作家董潔林,；南京硅基智能科技有限公司高級副總裁、聯(lián)合創(chuàng)始人陳莉萍,。
王昉：我想從最近大熱的電影《奧本海默》談起,。奧本海默是個天才物理學家，發(fā)明了核彈,，但后來悲哀地發(fā)現(xiàn)核彈可以被用來毀滅人類,。很多人認為，在這一點上,，AI 與核技術(shù)高度類似,。請問董老師，您同意嗎,？
董潔林：AI和核技術(shù)完全不同,。核技術(shù)的邊界非常清晰，它對人類的好處和壞處,，大家也都理解得很明白,。另外它的制造門檻非常高,。各個國家一旦認識到它的負面破壞力,，可以用政策和手段來控制它的擴散。
但是AI不一樣,，它帶來的善和惡是混搭的,。研發(fā)大模型的技術(shù)門檻比較高一點，但沒有那么高,，應用這個技術(shù)的門檻則比較低,，所以它非常容易擴散。現(xiàn)在的開源模式下,，它已經(jīng)擴散得到處都是了,。在這個情況下，AI在未來行善作惡的可能性，讓很多人充滿期待的同時,，讓另一些人憂心忡忡,。所以AI與核是非常不同的兩類科技。
王昉：在OpenAI之爭中,，代表“對齊派”的OpenAI首席科學家伊利亞·蘇茨克維爾（Ilya Sutskever）打過一個讓我印象深刻的比方,。他說，未來AI將會監(jiān)管人類,，那時的AI對于人類,，就像今天的人類對寵物一樣，人類并不憎恨寵物,，但是當人類決定在城市與城市之間修建高速公路的時候,，也不會向?qū)櫸飩冋髑笠庖姡划斘磥淼腁I可以自行其是的時候,，也不會來向人類征求意見,。我們該怎么看這個比喻？
董潔林：AI與人的關(guān)系,，和人與寵物的關(guān)系還是非常不一樣的,，因為寵物不是人創(chuàng)造的，而AI是人創(chuàng)造的,。寵物頂多是在跟人互動的過程中形成了某一種關(guān)系,，這個關(guān)系一直在演化。但AI是人創(chuàng)造的,，在創(chuàng)造的過程中,，我們有主動權(quán)來決定它能做什么、不能做什么,。即使將來有一天它有了某種“自主性”,，人類依然可以為它設(shè)置負面清單，使得它在做“決策”時無法做一些事情,，必須人來做,。所以這個事情還是可控的，沒有必要自己嚇自己,。
王昉：伊利亞認為,，AGI，也就是通用人工智能技術(shù),，一旦問世,，將不斷進化。如果它誕生之初的代碼沒寫對,，它將在歧路上越走越遠,。那么，我們現(xiàn)在怎么才能把代碼“寫對”？
崔麗：首先,，大模型或生成式AI還處于技術(shù)發(fā)展初期,，技術(shù)、生態(tài),、市場都在快速迭代之中,，因此，僅憑預判和思考來提前解決未來可能出現(xiàn)的問題是非常困難的,。所以我主張在發(fā)展中去發(fā)現(xiàn)問題,，解決問題，去摸著石頭過河,。
其次,，技術(shù)沒有善惡，善惡在人,。AI的本質(zhì)依然是硅基,、無機、數(shù)學范疇,。而人類則是碳基,、有機生物，除了自然科學還有社會科學,，人類的認知,、決策和行為都有深刻的文化、歷史,、價值觀等背景,。AI甚至不理解什么叫“責任”，更談不上“負責”,，因此,，應當是由人類去負責任地構(gòu)建、使用和監(jiān)管AI,。
目前產(chǎn)業(yè)界已經(jīng)為AI設(shè)定了一個3H的理想目標：Helpful,，即幫助使用者解決他們的問題；Honest即不捏造資訊或誤導使用者,；Harmless即不能對人或環(huán)境造成物理,、心理,、社會危害,，與人類價值觀對齊。
然而這些原則非常寬泛,，我們需要更具體地考慮諸如幻覺（hallucination）,、黑盒帶來的不可解釋性和不可控性，隱私、偏見,、濫用和資源消耗等等問題,。為應對這些挑戰(zhàn)，我們需要在四大方面去努力,，依次是安全,、公平、透明和高效,。
此外,，還需結(jié)合應用場景來考慮問題，比如面向大規(guī)模公眾的應用,，要更多關(guān)注安全和公平,，而面向特定領(lǐng)域的應用則需要同時關(guān)注準確、安全,、透明和高效,。比如說，如果AI給出的答案用在創(chuàng)意領(lǐng)域,，那沒太大關(guān)系,，但是如果用在專業(yè)領(lǐng)域，比如醫(yī)療或電信行業(yè),，我們當然不希望它一拍腦袋整個網(wǎng)絡(luò)就宕機了,。
王昉：幻覺（hallucination）是生成式AI目前存在的比較突出的問題。我們應當如何更好地訓練AI,？
崔麗：一是“換位思考,，因材施教”，比如將我們虛擬的概念或?qū)R要求,，轉(zhuǎn)化成AI的語境,，壓縮空間或聯(lián)合概率，徹底回歸到對它更有效的工作方式上,，因材施教,，提高輸出更準確內(nèi)容的概率。二是原型知識萃取,，加強數(shù)據(jù)治理,，比如在給予虛擬概念時需要謹慎，同時常識或原型類知識優(yōu)先級應該提升,，而不是完全平等地考慮精調(diào),。最后是“用魔法打敗魔法”，我們可以采用Agent或多個優(yōu)秀大模型聯(lián)合決策,，對各自形成制衡,。合理的組織設(shè)計可以減少犯錯的次數(shù),。
王昉：OpenAI戰(zhàn)火告一段落之后，《紐約時報》發(fā)布了一篇文章,，標題是“AI belongs to the capitalists now”,，意思就是資本主義又一次獲得了勝利。資本總是勝利嗎,？IBM也做很多與AI相關(guān)的研發(fā),，內(nèi)部是如何思考AI發(fā)展方向的？
孟繁晶：IBM一直是AI技術(shù)的創(chuàng)造者和推動者,，在我們看來,，AI一定是要負責任的。我們最近與Meta以及50多家機構(gòu),、大學,、開源社區(qū)一起，構(gòu)建了一個AI Alliance,，承諾把所有的技術(shù)開放出去,，讓大家一起來避免出現(xiàn)一些負面的仇恨，或者對人類的威脅,。
我認為,，負責任AI有兩個層面的含義。一是,，如何負責任地研發(fā)AI技術(shù),？在IBM，我們開發(fā)了一個叫“watsonx”的平臺,，提供全生命周期的AI訓練,、驗證以及部署，既監(jiān)管數(shù)據(jù)——數(shù)據(jù)里如果就有偏見,，就有仇恨,，最后的模型一定會學到，又監(jiān)管整個AI的模型——在運行過程當中,，模型有沒有出現(xiàn)偏移和仇恨,？
負責任AI的另一層含義是，AI可以對我們的可持續(xù)發(fā)展作出巨大貢獻,。舉個簡單的例子,，IBM和很多機構(gòu)合作，嘗試用AI來解決人口拐賣這個社會問題,。人口拐賣80%的受害者是女性和兒童,，為什么這個行業(yè)一直都存在？因為高暴利,，利潤高達1500億美金,，跟毒品,、走私一樣,。我們可以把跟人口拐賣相關(guān)的各個利益鏈條上的所有數(shù)據(jù),，包含交通數(shù)據(jù)、衛(wèi)星數(shù)據(jù),、銀行間的轉(zhuǎn)賬數(shù)據(jù),，融合在一起后交給AI模型，就可以在交易發(fā)生的過程中甚至之前就發(fā)現(xiàn)風險,，預防拐賣行為的發(fā)生,。
王昉：圍繞AI研發(fā)是盡量加速還是步伐慢一點，IBM內(nèi)部有沒有過爭論,？
孟繁晶：不僅是爭論,，IBM已經(jīng)付諸行動。我們內(nèi)部有一個AI倫理委員會,，審查相關(guān)所有工作,，我們決定做審慎的AI技術(shù)，也就是有所為有所不為,。一個典型例子是,，IBM做了一個決定，雖然人臉識別技術(shù)可以解決很多問題,，但是因為我們沒有辦法確信它將只被用在向善的方面,，所以我們放棄了人臉識別相關(guān)的所有研究工作。
王昉：來自南京的硅基智能站在AI應用的前沿,，已經(jīng)為全世界50萬人他們制作了數(shù)字分身,。你們是堅定的“加速派”？
陳莉萍：對,，我們是科技加速派,。只需看看，過去300多年的技術(shù)發(fā)展,，并沒有給人類造成非常大的沖擊,，而是給人類帶來了很多的便利性。當然每個技術(shù)在初期會帶來一些風險,，比如汽車發(fā)明的時候會代替馬車,，但是也會發(fā)生交通事故。現(xiàn)在的新能源車也可能會引起火災,，但是大家還是會選擇它,，這是一個進化的方向。所以我們認為,，發(fā)展中遇到的問題,，一定是由發(fā)展來解決,，也一定能夠解決。
硅基智能是2017年成立的,，那時大家對“硅基”兩個字還比較陌生,。我們認為AI基于硅基，是一種生命體,，我們就是一家在實驗室里造生命體的公司,。我們的愿景是2025年為全球創(chuàng)造1億硅基勞動力，為各行各業(yè)服務(wù),。
比如我們會生產(chǎn)數(shù)字老師,，讓成千上萬的孩子擁有家庭教師的陪伴；我們可以生產(chǎn)數(shù)字醫(yī)生,，讓更多的患者擁有醫(yī)療顧問,，隨時了解自己的醫(yī)療方案；我們也去做很多的數(shù)字律師,，讓更多人獲取法律援助,。我們認為這就是一種科技向善。
我們?nèi)绾巫孉I負責任,？首先,，在大模型的訓練過程中，我們遵循了阿希莫夫的“機器人三定律”：機器人不能傷害人類,；它們必須服從于人類,；它們必須保護自己。其次,，在大模型的訓練過程當中,，我們增加了一個訓練，叫“人類反饋強化學習”,，通過人為標注,，告訴它人類更喜歡哪些結(jié)果，這樣訓練出來的模型就更偏向于人類的價值觀和選擇偏好,。
崔麗：對于如何讓AI更負責,，我補充一些看法。在立法及監(jiān)管側(cè),，我們可以強制要求對AI生成的內(nèi)容做標識,，同時應區(qū)別對待客觀問題——比如幻覺、黑盒,，和主觀問題——包括隱私,、IPR、濫用等,。法規(guī)也要與時俱進,，加強對偏主觀問題的約束,，而對于偏客觀問題，應該給予一定的容錯空間,，以促進創(chuàng)新,。此外，我們可以嘗試將現(xiàn)有的大模型納入立法建設(shè)中,，尊重大模型的知識來賦能現(xiàn)有的監(jiān)管體系,。最后,，我們普通人作為AI技術(shù)的使用者,，不應該過度依賴AI，要保持獨立思考和批判性思維,。
王昉：雖然 OpenAI事件中,，出現(xiàn)了一位短暫出任CEO的女性，但AI競技場中的前臺活躍人物,，包括馬斯克,、扎克伯格、奧特曼,，絕大多數(shù)還是男性,。在AI技術(shù)的發(fā)展中，女性缺失會帶來什么樣的問題,？
董潔林：女性缺失會造成很嚴重的女性歧視,，女性現(xiàn)在馬上應該做的就是參與。從學生時代開始,，女生要大量進入理工科領(lǐng)域,，進入計算機和與AI相關(guān)的行業(yè)，不參與就會受到歧視,。等到歧視已經(jīng)發(fā)生,，再呼吁平權(quán)就太晚了。
實際上女性參與的主要障礙是我們自己,，大學理工科一般并不歧視女生,，但是女性自己選擇不參與，可能因為缺乏興趣,，可能因為其他原因,，這導致技術(shù)公司中女性程序員比較少，產(chǎn)品經(jīng)理人也比較少,，高管也比較少,，董事會成員也比較少。女性要把自己的障礙去掉,，從做學生開始參與到AI大潮中,，我相信這樣做的社會回報和個人經(jīng)濟回報都會是非常高的,。
孟繁晶：呼應一下董老師的觀點。IBM從2019年開始做 “千人百校AI啟蒙季”,，面對中小學生推開,，要在他們心中種一個小種子。IBM中研發(fā)體系中,，女性占50%,，所以在技術(shù)研發(fā)那一刻起，男女生已經(jīng)在一起了,。
王昉：請問硅基智能的莉萍,，找你們做數(shù)字人分身的，是女性多還是男性多,？
陳莉萍：很多女性已經(jīng)參與到這個行業(yè)里面來,，用自己的數(shù)字分身做知識博主、做直播,。數(shù)字世界特別適合展現(xiàn)美的文化,，而女性更容易展示自己的美，所以她們更有優(yōu)勢利用數(shù)字化的平臺展示自己,，甚至不一定要掌握很多技術(shù)的女性都很容易在這個平臺上找到自己的定位,。
王昉：AI時代，女性管理者是否更有優(yōu)勢,？
崔麗：在這個事情上,，男人女人是共同體，大家應該把自己的優(yōu)勢貢獻出來,。女性的優(yōu)勢是非常敏感,，可以獲取多元的知識，本能意識到危機,；容易有直覺,，且往往是基于常識的判斷；而且女性通常更包容及有同理心,。如果能夠有效的將這些特點與男性的優(yōu)勢相結(jié)合,，可以共同推動AI向更好的方向發(fā)展。（財富中文網(wǎng)）
財富中文網(wǎng)所刊載內(nèi)容之知識產(chǎn)權(quán)為財富媒體知識產(chǎn)權(quán)有限公司及/或相關(guān)權(quán)利人專屬所有或持有,。未經(jīng)許可,，禁止進行轉(zhuǎn)載、摘編,、復制及建立鏡像等任何使用,。
