對(duì)話商湯徐立：元宇宙,、反共識(shí)與人工智能倫理
楊安琪
2021-08-24
三年前的一幕讓人印象深刻,。
當(dāng)時(shí),，商湯科技聯(lián)合創(chuàng)始人、CEO徐立坐在我對(duì)面,。說到興奮處,，他在桌子上憑空畫了一條線?！澳闱?，這一條線是科技的發(fā)展?！比缓笏⒖谭磫枺骸拔覀?nèi)绾稳ザx一個(gè)時(shí)代,？”
大約在2秒鐘后，他自己開始解釋：“如果去查時(shí)代這個(gè)詞的定義,，都說是以政治,、經(jīng)濟(jì)、文化等為依據(jù)而劃分的某個(gè)時(shí)期,。但事實(shí)上,，鐵器時(shí)代,、蒸汽時(shí)代、電氣時(shí)代,、甚至信息時(shí)代,，我們所熟悉的所有時(shí)代的命名都與政治、經(jīng)濟(jì),、文化無關(guān),。只跟科技有關(guān)?！?/p>
接著,，他又憑空畫了一條線?！斑@一條線是工業(yè)發(fā)展,。”他說：“科技和工業(yè)發(fā)展始終并行,。但什么時(shí)候這兩條線產(chǎn)生交集,？”
徐立提出一個(gè)概念：“工業(yè)紅線”。在人工智能誕生的60年里,，AI技術(shù)很難跨越這條工業(yè)紅線,，即沒有實(shí)質(zhì)上提高生產(chǎn)效率。他的觀點(diǎn)是,，工業(yè)發(fā)展往往是跨越式的,，而那個(gè)跳躍的節(jié)點(diǎn)往往就是技術(shù)突破了“工業(yè)紅線”，即規(guī)?；I(yè)使用的標(biāo)準(zhǔn),。
三年過后，商湯繼續(xù)在人工智能的道路上高歌猛進(jìn),。在剛過去的2021世界人工智能大會(huì)上,，商湯推出了可以奔向“元宇宙”，實(shí)現(xiàn)虛實(shí)結(jié)合全新交互體驗(yàn)的基礎(chǔ)設(shè)施SenseCore商湯AI大裝置,；商湯車載業(yè)務(wù)亦在5年多的行業(yè)全棧能力積累上，推出智能汽車解決方案的獨(dú)立新品牌SenseAuto絕影,。
松禾資本創(chuàng)始人厲偉曾表示,，商湯創(chuàng)立之初，AI還不是一個(gè)受人關(guān)注的領(lǐng)域,，但短短數(shù)年,，人工智能對(duì)各個(gè)行業(yè)的改變已全面鋪開。
然而,，從零到一的突破從來都伴隨巨大挑戰(zhàn),。在可以看到的有關(guān)技術(shù)突破,、商業(yè)落地等表層問題之外，對(duì)于人工智能最深層次的擔(dān)憂來自于倫理的懷疑,。蘋果CEO庫克在麻省理工學(xué)院畢業(yè)典禮上說：“我不擔(dān)心人工智能像人類一樣思考問題,，我擔(dān)心的是人類像計(jì)算機(jī)一樣思考問題——摒棄同情心和價(jià)值觀并且不計(jì)后果?！?/p>
一些發(fā)人深省的問題正在發(fā)生,。我們是否到達(dá)了一個(gè)探討人工智能倫理的時(shí)刻？如果已經(jīng)該討論這個(gè)問題,，那么這些倫理的原則和基礎(chǔ)都是什么,？徐立有一套自己的思考方法。
7月29日,，徐立參加《財(cái)富》中國(guó)40U40創(chuàng)想會(huì),。圖片來源：財(cái)富中文網(wǎng)
《財(cái)富》（中文版）：三年之前有一次交流，當(dāng)時(shí)你說人工智能超過了一條工業(yè)紅線就將迎來爆發(fā)式的增長(zhǎng),。你覺得現(xiàn)在人工智能超越了那條工業(yè)紅線嗎,？
徐立：我們其實(shí)獲益于兩波人工智能發(fā)展的紅利。第一波就是你剛才提到的,，五年前技術(shù)突破第一次證明了AI能夠在一些領(lǐng)域超過“工業(yè)紅線”,，通常可以認(rèn)為是超越了人的準(zhǔn)確率,。但彼時(shí)我們也面臨另外一個(gè)困境,，就是當(dāng)技術(shù)逐步深入行業(yè)，會(huì)發(fā)現(xiàn)人工智能本身生產(chǎn)的成本非常高,。
舉一個(gè)簡(jiǎn)單的例子,，如果我們把“下圍棋”假設(shè)為一個(gè)生產(chǎn)過程。我們可以認(rèn)為阿爾法狗（AlphaGo）超越了工業(yè)紅線,，即人的水平,。但如果投入阿爾法狗的目的僅是讓他以下棋為主業(yè)，那它的投入可能要比中國(guó)現(xiàn)役近三百名職業(yè)棋手投入總和都高,。所以第一波紅利通常帶來的只是在某些特定行業(yè)率先采用了AI技術(shù),。大規(guī)模的應(yīng)用還有賴于降低AI本身的生產(chǎn)成本。
人工智能發(fā)展的第二個(gè)紅利,，就是隨著底層AI基礎(chǔ)設(shè)施的不斷投入,，神經(jīng)網(wǎng)絡(luò)技術(shù)訓(xùn)練通用模型的能力正在逐步突破。目前,，自動(dòng)化,、規(guī)模化、集約化的AI模型量產(chǎn)正在逐步實(shí)現(xiàn),。
商湯在創(chuàng)立之初,，就開始投入并訓(xùn)練通用的大模型。簡(jiǎn)單來說,，通用大模型具備觸類旁通的能力,，在建立通用的能力之后，在不同行業(yè)領(lǐng)域的細(xì)分場(chǎng)景中,，只需依靠小樣本,，就能迭代出優(yōu)質(zhì)的模型算法，真正突破人力密集型的投入,，實(shí)現(xiàn)對(duì)長(zhǎng)尾應(yīng)用需求的滿足,。這就像類比于人的能力，人的感知和認(rèn)知能力是很通用的,，對(duì)于一些新問題的理解我們只需要小數(shù)據(jù)就可以了,。
《財(cái)富》（中文版）：前一段我看你參加了一個(gè)公開的活動(dòng)，你說真正的顛覆式創(chuàng)新都不是從傳統(tǒng)創(chuàng)新范式中來,，是從天才靈光一現(xiàn)的腦洞或思想實(shí)驗(yàn)而來,，你相信天才的靈光閃現(xiàn)是偶然還是必然？
徐立：首先人類歷史上很多顛覆性的科學(xué)創(chuàng)新和重大突破,，都是通過人類非常偶然的發(fā)現(xiàn),，或是偶然的思想實(shí)驗(yàn)來完成，多源于“天才的猜想”,，這種完成不可預(yù)測(cè),。
那么背后的原因是什么呢？
重大創(chuàng)新都是反共識(shí)的,，只要是反共識(shí)的就不可能規(guī)劃,，所以沒法用范式來規(guī)范。人類不可能用固定的方法論去規(guī)劃一個(gè)普羅大眾沒有共識(shí)性的東西,，并預(yù)測(cè)未來的發(fā)生,。造成這種現(xiàn)象的原因，在于人類對(duì)未知世界的認(rèn)知有局限性,。
但在今天的人工智能時(shí)代,，機(jī)器也可以進(jìn)行猜想，不依賴于人類的認(rèn)知,，有望幫助我們更早地發(fā)現(xiàn)科學(xué)規(guī)律的本質(zhì),，更快地探索和發(fā)現(xiàn)未知，這正是人工智能所帶來的創(chuàng)新新范式,。
我上次提到,，假設(shè)機(jī)器能夠猜想出來牛頓定律，人類會(huì)不會(huì)用這個(gè)定律,？這是我們面臨的一個(gè)問題,。當(dāng)然人類鑒別機(jī)器有效的猜想本身就是一個(gè)很難的題目。
我讀過一本大劉（劉慈欣）的小說,，很強(qiáng)的智能體想要了解人類寫詩這件事情,。最后發(fā)現(xiàn)即使能夠窮盡所有的詩的可能，仍無法得知哪一首詩是好的,，所以在不能完全理解的情況下鑒別機(jī)器猜想的優(yōu)劣在這個(gè)情境下也充滿挑戰(zhàn),。
《財(cái)富》（中文版）：我的理解這是智能與智慧的真正區(qū)別。
徐立：比如我們對(duì)于一些未來的可能性和技術(shù)突破會(huì)有很多的機(jī)器的猜想,，這些猜想有一些是可以在未來極大推動(dòng)技術(shù)進(jìn)步的,，但是有一些不行。那么究竟如何去甄別這些猜想的有效性,、可靠度,，會(huì)是留給未來的問題。
《財(cái)富》（中文版）：那么我們今天這個(gè)主題是探討未來人工智能的下一步,，在未來可見的范圍內(nèi),，你覺得人工智能的下一步是什么？
徐立：剛才也講到近年來人工智能的兩大紅利,，也正是在這樣的認(rèn)知下,，商湯累計(jì)近百億投入，建設(shè)了人工智能算法規(guī)?；a(chǎn)所必備的AI基礎(chǔ)設(shè)施,，我們稱之為人工智能大裝置。
給它起名大裝置的原因是類比物理的粒子對(duì)撞機(jī),，就是希望寓意人工智能助力一種創(chuàng)新范式的轉(zhuǎn)換,，通過“人工智能的粒子對(duì)撞機(jī)”，對(duì)海量數(shù)據(jù)甚至是構(gòu)建的巨大解空間進(jìn)行拆解和碰撞,，用一定的隨機(jī)性來打破人類認(rèn)知和應(yīng)用的邊界,。
我認(rèn)為一些行業(yè)如果未知領(lǐng)域較多，比如地球科學(xué),、生命科學(xué),、制藥學(xué)、大氣科學(xué)的探究等,，這些領(lǐng)域機(jī)器猜想或許會(huì)給我們一些意想不到的驚喜,。
《財(cái)富》（中文版）：這個(gè)隨機(jī)的實(shí)驗(yàn)是不是就是你剛才說的偶然性的問題？
徐立：舉一個(gè)例子,，最近我們看到人工智能在蛋白質(zhì)結(jié)構(gòu)解析方面有很多突破,。人類要完成這樣的工作可能需要很長(zhǎng)時(shí)間,，但機(jī)器就可以在很短的時(shí)間之內(nèi)做到。
現(xiàn)在的假設(shè)是氨基酸的序列是決定蛋白質(zhì)結(jié)構(gòu)的唯一因素,。但接下來我們還可以做很多類似于粒子對(duì)撞機(jī)的隨機(jī)撞擊實(shí)驗(yàn),。比如將更多的輸入因素放入實(shí)驗(yàn)，看看有沒有提升預(yù)測(cè)的結(jié)果,。而預(yù)測(cè)變得更準(zhǔn)確時(shí),，我們又可以借助于這樣的結(jié)果來重新理解決定蛋白質(zhì)結(jié)構(gòu)的核心要素。這就是通過隨機(jī)的撞擊來加速科學(xué)研究了,。研發(fā)的結(jié)果會(huì)加速生物制藥以及其他科學(xué)的進(jìn)展,。
當(dāng)然，有時(shí)候相關(guān)的突破或許在當(dāng)下這個(gè)時(shí)代沒有辦法解釋,，可能需要等到機(jī)器猜出牛頓定律的一百年之后出現(xiàn)一個(gè)“牛頓”來真正解釋這背后的原因,。
《財(cái)富》（中文版）：這些也是商湯科技在做的嗎？比如說你剛才說的蛋白質(zhì)的組合,。
徐立：商湯AI大裝置提供了一個(gè)底層的能力平臺(tái),。正如前面所提，正如粒子對(duì)撞機(jī),。在這個(gè)擁有一定隨機(jī)性的過程中,，可探索的空間非常大。對(duì)于基礎(chǔ)設(shè)施,，特別是算力的需求,，其實(shí)是指數(shù)級(jí)增長(zhǎng)。有數(shù)據(jù)顯示,，在過去的十年之內(nèi),，最好的人工智能算法對(duì)于算力需求的增長(zhǎng)超過了100萬倍。
這和很多人的認(rèn)知都相反,，大家都覺得算法越精妙應(yīng)該算的越少,，其實(shí)并不是。算法越好反而算的越多,，它其實(shí)是在驗(yàn)證不同的可能性以及探究應(yīng)用的邊界,。
《財(cái)富》（中文版）：就是你剛才說的反共識(shí)。
徐立：對(duì),，反共識(shí),。
《財(cái)富》（中文版）：如果我們?cè)倮稽c(diǎn)，元宇宙可能是最近一年科技圈最火的一個(gè)話題,，人工智能在元宇宙里面扮演了什么樣的角色,？你怎么理解元宇宙？
徐立：我覺得元宇宙一直存在于各種我們?nèi)粘５膽?yīng)用中,，包括說我們?cè)瓉碚f的游戲,，其實(shí)都是元宇宙的某種形式,。
但是最近元宇宙很火爆的核心原因，其實(shí)和人工智能被大家關(guān)注的原因一樣,，因?yàn)樗饾u接近于真實(shí)的世界,。
如果虛擬世界非常不真實(shí)，就像你每天玩游戲,，玩的內(nèi)容和現(xiàn)實(shí)世界完全沒有連接，你不會(huì)覺得它是一個(gè)宇宙,。只有當(dāng)他更像真實(shí)世界,，當(dāng)真實(shí)世界所有東西都能夠被反映和連接到元宇宙當(dāng)中，并能夠因此產(chǎn)生交互,，你會(huì)覺得它給了我第二種可能性,，從而帶來了第二、第三甚至更多的宇宙,。
在這個(gè)過程當(dāng)中,，人工智能扮演的角色就是連接真實(shí)世界和虛擬世界，讓用戶在不同的宇宙中生活,。在真實(shí)世界中每個(gè)人有自己的身份,，而在虛擬世界，你亦可以通過另外的角色完成與周圍環(huán)境的實(shí)時(shí)互動(dòng),。
《財(cái)富》（中文版）：真實(shí)和虛擬世界之間的轉(zhuǎn)換是可以通過算力來完成的嗎,？
徐立：是的。算力可以幫助將真實(shí)世界投射到虛擬世界中,。通常第一步是把相關(guān)信息采集下來,，并沒有真正語義上的東西，僅完成了所謂的空間數(shù)據(jù)化,。但是通過AI與算力的突破,，每一件東西正逐步被賦予人類能理解的含義，不僅是空間數(shù)據(jù)化,，還有要素結(jié)構(gòu)化,、流程交互化，進(jìn)而對(duì)應(yīng)到虛擬世界當(dāng)中,。讓人們不僅可以訪問,、還可以使用、修改真實(shí)世界相關(guān)的內(nèi)容甚至進(jìn)行互動(dòng),。
所以有關(guān)真正的元宇宙,，我的理解是人們可以在其中對(duì)真實(shí)世界進(jìn)行交互，并且也可以將虛擬世界中的種種體驗(yàn)投射到現(xiàn)實(shí)世界中,。否則它的意義只是一個(gè)游戲,，或者說只是一個(gè)APP,。
《財(cái)富》（中文版）：那么如果再上升一步，首先我先想跟你探討一個(gè)假設(shè)和前提,，你覺得我們現(xiàn)在是不是到了應(yīng)該探討人工智能倫理問題的時(shí)刻,？這個(gè)話題首先你同意這個(gè)假設(shè)嗎？
徐立：我覺得非常值得去探討,。人工智能的創(chuàng)新來源于對(duì)過往認(rèn)知的顛覆,，因此行業(yè)應(yīng)用中的倫理治理問題就愈發(fā)重要。同時(shí),，科學(xué)發(fā)展的路徑之一是演繹,，即給一個(gè)基點(diǎn)，不停的推到邊界,。既然今天對(duì)這個(gè)倫理治理上有一些核心原則的話,，我們完全可以通過原則往前演進(jìn)，去探索一下我們倫理和機(jī)器可觸達(dá)的邊界是什么,。
《財(cái)富》（中文版）：你剛才說到了原則,，這個(gè)原則如果給人工智能來制定的話你會(huì)如何制定？
徐立：對(duì)于世界范圍內(nèi)人工智能倫理治理的框架,，商湯曾做過一個(gè)比較全面的研究,。
我們發(fā)現(xiàn)大部分的倫理治理框架都可以被歸類為三大類：一類就是以人為本，無論是人的公平性,、身份性問題,、尊嚴(yán)性問題或者是確認(rèn)主權(quán)問題，數(shù)據(jù)安全問題等,，都屬于以人為本的范疇,；第二類叫技術(shù)可控，包含透明計(jì)算,、可解釋性,、技術(shù)安全的邊界等；第三點(diǎn)就是可持續(xù)發(fā)展,，尋求綠色的,，長(zhǎng)期的發(fā)展。
我認(rèn)為未來的人工智能倫理治理其實(shí)就是在這三大支柱當(dāng)中求得平衡,。
當(dāng)然,，我們一直強(qiáng)調(diào)的是要秉承“發(fā)展”的人工智能倫理觀。最容易滿足所有治理框架要求的,，就是什么都不去突破,，但這樣大家就會(huì)忘了我們最初出發(fā)目標(biāo)是什么，我們的初心就是用人工智能去推動(dòng)社會(huì)的發(fā)展,，這是目標(biāo),。以數(shù)學(xué)優(yōu)化來舉例,，我們的優(yōu)化函數(shù)是人工智能推動(dòng)社會(huì)的進(jìn)步，下面有三個(gè)約束條件需要滿足,。但是很多時(shí)候,，如果我們只談約束條件，而忽略了優(yōu)化函數(shù)的目標(biāo),，那么這個(gè)優(yōu)化是不成功的,。
《財(cái)富》（中文版）：如果這么來說，你覺得人工智能會(huì)更加劇人和人之間的不平等還是平等,？這個(gè)美好世界的定義在哪兒,？人工智能如何達(dá)到這個(gè)所謂的美好世界？
徐立：談人工智能的公平性基本是談?wù)摂?shù)據(jù)樣本的偏差可能帶來人工智能算法的偏差,，這個(gè)隨著技術(shù)演進(jìn)都能得到改善。而我認(rèn)為更大層面上的公平來自可能的少數(shù)人能獲益于人工智能帶來的便利,，這將會(huì)帶來不平等,。
而我的理解，人工智能作為一個(gè)通用技術(shù)從量變到質(zhì)變的核心要素,，是其能否真正降低其生產(chǎn)要素的成本,。如果說某項(xiàng)技術(shù)特別高精尖，需要非常高成本投入才能完成的話,，那必然是少數(shù)人,、頭部企業(yè)、頭部場(chǎng)景才能夠使用到這樣的技術(shù),，那么勢(shì)必帶來不平等,。
回看歷史，無論是鐵器時(shí)代,、蒸汽時(shí)代,、電氣時(shí)代、甚至信息時(shí)代,，所有的時(shí)代都是以技術(shù)命名的,。而命名這個(gè)時(shí)代的技術(shù)有一個(gè)很核心的共同點(diǎn)，就是他們都大幅度降低了當(dāng)時(shí)生產(chǎn)要素的價(jià)格,，從而顯著提高了生產(chǎn)效率,。
人工智能技術(shù)如果要帶來普適、普惠,、公平,，那一定是它將我們時(shí)代的生產(chǎn)要素的成本成百倍下降，例如真正意義上使得原本我們獲取不到的教育資源,、醫(yī)療資源等,，更好,、更廉價(jià)、更公平地開放給全社會(huì),。（財(cái)富中文網(wǎng)）
財(cái)富中文網(wǎng)所刊載內(nèi)容之知識(shí)產(chǎn)權(quán)為財(cái)富媒體知識(shí)產(chǎn)權(quán)有限公司及/或相關(guān)權(quán)利人專屬所有或持有,。未經(jīng)許可，禁止進(jìn)行轉(zhuǎn)載,、摘編,、復(fù)制及建立鏡像等任何使用。
