對話商湯徐立：元宇宙,、反共識與人工智能倫理
楊安琪
2021-08-24
三年前的一幕讓人印象深刻,。
當時，商湯科技聯(lián)合創(chuàng)始人,、CEO徐立坐在我對面,。說到興奮處，他在桌子上憑空畫了一條線,?！澳闱?，這一條線是科技的發(fā)展,。”然后他立刻反問：“我們?nèi)绾稳ザx一個時代,？”
大約在2秒鐘后,，他自己開始解釋：“如果去查時代這個詞的定義，都說是以政治,、經(jīng)濟,、文化等為依據(jù)而劃分的某個時期。但事實上,，鐵器時代,、蒸汽時代、電氣時代,、甚至信息時代,，我們所熟悉的所有時代的命名都與政治,、經(jīng)濟、文化無關(guān),。只跟科技有關(guān),。”
接著,，他又憑空畫了一條線,。“這一條線是工業(yè)發(fā)展,?！彼f：“科技和工業(yè)發(fā)展始終并行。但什么時候這兩條線產(chǎn)生交集,？”
徐立提出一個概念：“工業(yè)紅線”,。在人工智能誕生的60年里，AI技術(shù)很難跨越這條工業(yè)紅線,，即沒有實質(zhì)上提高生產(chǎn)效率,。他的觀點是，工業(yè)發(fā)展往往是跨越式的,，而那個跳躍的節(jié)點往往就是技術(shù)突破了“工業(yè)紅線”,，即規(guī)模化工業(yè)使用的標準,。
三年過后,，商湯繼續(xù)在人工智能的道路上高歌猛進。在剛過去的2021世界人工智能大會上,，商湯推出了可以奔向“元宇宙”,，實現(xiàn)虛實結(jié)合全新交互體驗的基礎(chǔ)設施SenseCore商湯AI大裝置；商湯車載業(yè)務亦在5年多的行業(yè)全棧能力積累上,，推出智能汽車解決方案的獨立新品牌SenseAuto絕影,。
松禾資本創(chuàng)始人厲偉曾表示，商湯創(chuàng)立之初,，AI還不是一個受人關(guān)注的領(lǐng)域,，但短短數(shù)年，人工智能對各個行業(yè)的改變已全面鋪開,。
然而,，從零到一的突破從來都伴隨巨大挑戰(zhàn)。在可以看到的有關(guān)技術(shù)突破,、商業(yè)落地等表層問題之外,，對于人工智能最深層次的擔憂來自于倫理的懷疑。蘋果CEO庫克在麻省理工學院畢業(yè)典禮上說：“我不擔心人工智能像人類一樣思考問題,，我擔心的是人類像計算機一樣思考問題——摒棄同情心和價值觀并且不計后果,?！?/p>
一些發(fā)人深省的問題正在發(fā)生。我們是否到達了一個探討人工智能倫理的時刻,？如果已經(jīng)該討論這個問題,，那么這些倫理的原則和基礎(chǔ)都是什么？徐立有一套自己的思考方法,。
7月29日,，徐立參加《財富》中國40U40創(chuàng)想會。圖片來源：財富中文網(wǎng)
《財富》（中文版）：三年之前有一次交流,，當時你說人工智能超過了一條工業(yè)紅線就將迎來爆發(fā)式的增長,。你覺得現(xiàn)在人工智能超越了那條工業(yè)紅線嗎？
徐立：我們其實獲益于兩波人工智能發(fā)展的紅利,。第一波就是你剛才提到的,，五年前技術(shù)突破第一次證明了AI能夠在一些領(lǐng)域超過“工業(yè)紅線”，通?？梢哉J為是超越了人的準確率,。但彼時我們也面臨另外一個困境，就是當技術(shù)逐步深入行業(yè),，會發(fā)現(xiàn)人工智能本身生產(chǎn)的成本非常高,。
舉一個簡單的例子，如果我們把“下圍棋”假設為一個生產(chǎn)過程,。我們可以認為阿爾法狗（AlphaGo）超越了工業(yè)紅線,，即人的水平。但如果投入阿爾法狗的目的僅是讓他以下棋為主業(yè),，那它的投入可能要比中國現(xiàn)役近三百名職業(yè)棋手投入總和都高,。所以第一波紅利通常帶來的只是在某些特定行業(yè)率先采用了AI技術(shù)。大規(guī)模的應用還有賴于降低AI本身的生產(chǎn)成本,。
人工智能發(fā)展的第二個紅利,，就是隨著底層AI基礎(chǔ)設施的不斷投入，神經(jīng)網(wǎng)絡技術(shù)訓練通用模型的能力正在逐步突破,。目前,，自動化,、規(guī)?；⒓s化的AI模型量產(chǎn)正在逐步實現(xiàn),。
商湯在創(chuàng)立之初,，就開始投入并訓練通用的大模型。簡單來說,，通用大模型具備觸類旁通的能力,，在建立通用的能力之后,，在不同行業(yè)領(lǐng)域的細分場景中，只需依靠小樣本,，就能迭代出優(yōu)質(zhì)的模型算法,，真正突破人力密集型的投入，實現(xiàn)對長尾應用需求的滿足,。這就像類比于人的能力,，人的感知和認知能力是很通用的，對于一些新問題的理解我們只需要小數(shù)據(jù)就可以了,。
《財富》（中文版）：前一段我看你參加了一個公開的活動,，你說真正的顛覆式創(chuàng)新都不是從傳統(tǒng)創(chuàng)新范式中來，是從天才靈光一現(xiàn)的腦洞或思想實驗而來,，你相信天才的靈光閃現(xiàn)是偶然還是必然,？
徐立：首先人類歷史上很多顛覆性的科學創(chuàng)新和重大突破，都是通過人類非常偶然的發(fā)現(xiàn),，或是偶然的思想實驗來完成,，多源于“天才的猜想”，這種完成不可預測,。
那么背后的原因是什么呢,？
重大創(chuàng)新都是反共識的，只要是反共識的就不可能規(guī)劃,，所以沒法用范式來規(guī)范,。人類不可能用固定的方法論去規(guī)劃一個普羅大眾沒有共識性的東西，并預測未來的發(fā)生,。造成這種現(xiàn)象的原因,，在于人類對未知世界的認知有局限性。
但在今天的人工智能時代,，機器也可以進行猜想,，不依賴于人類的認知，有望幫助我們更早地發(fā)現(xiàn)科學規(guī)律的本質(zhì),，更快地探索和發(fā)現(xiàn)未知,，這正是人工智能所帶來的創(chuàng)新新范式。
我上次提到,，假設機器能夠猜想出來牛頓定律,，人類會不會用這個定律？這是我們面臨的一個問題,。當然人類鑒別機器有效的猜想本身就是一個很難的題目,。
我讀過一本大劉（劉慈欣）的小說，很強的智能體想要了解人類寫詩這件事情。最后發(fā)現(xiàn)即使能夠窮盡所有的詩的可能,，仍無法得知哪一首詩是好的,，所以在不能完全理解的情況下鑒別機器猜想的優(yōu)劣在這個情境下也充滿挑戰(zhàn)。
《財富》（中文版）：我的理解這是智能與智慧的真正區(qū)別,。
徐立：比如我們對于一些未來的可能性和技術(shù)突破會有很多的機器的猜想,，這些猜想有一些是可以在未來極大推動技術(shù)進步的，但是有一些不行,。那么究竟如何去甄別這些猜想的有效性,、可靠度，會是留給未來的問題,。
《財富》（中文版）：那么我們今天這個主題是探討未來人工智能的下一步,，在未來可見的范圍內(nèi)，你覺得人工智能的下一步是什么,？
徐立：剛才也講到近年來人工智能的兩大紅利,，也正是在這樣的認知下，商湯累計近百億投入,，建設了人工智能算法規(guī)?；a(chǎn)所必備的AI基礎(chǔ)設施，我們稱之為人工智能大裝置,。
給它起名大裝置的原因是類比物理的粒子對撞機,，就是希望寓意人工智能助力一種創(chuàng)新范式的轉(zhuǎn)換，通過“人工智能的粒子對撞機”,，對海量數(shù)據(jù)甚至是構(gòu)建的巨大解空間進行拆解和碰撞,，用一定的隨機性來打破人類認知和應用的邊界。
我認為一些行業(yè)如果未知領(lǐng)域較多,，比如地球科學,、生命科學、制藥學,、大氣科學的探究等,，這些領(lǐng)域機器猜想或許會給我們一些意想不到的驚喜。
《財富》（中文版）：這個隨機的實驗是不是就是你剛才說的偶然性的問題,？
徐立：舉一個例子,，最近我們看到人工智能在蛋白質(zhì)結(jié)構(gòu)解析方面有很多突破。人類要完成這樣的工作可能需要很長時間,，但機器就可以在很短的時間之內(nèi)做到,。
現(xiàn)在的假設是氨基酸的序列是決定蛋白質(zhì)結(jié)構(gòu)的唯一因素。但接下來我們還可以做很多類似于粒子對撞機的隨機撞擊實驗,。比如將更多的輸入因素放入實驗,，看看有沒有提升預測的結(jié)果。而預測變得更準確時,，我們又可以借助于這樣的結(jié)果來重新理解決定蛋白質(zhì)結(jié)構(gòu)的核心要素,。這就是通過隨機的撞擊來加速科學研究了。研發(fā)的結(jié)果會加速生物制藥以及其他科學的進展,。
當然,，有時候相關(guān)的突破或許在當下這個時代沒有辦法解釋，可能需要等到機器猜出牛頓定律的一百年之后出現(xiàn)一個“牛頓”來真正解釋這背后的原因,。
《財富》（中文版）：這些也是商湯科技在做的嗎,？比如說你剛才說的蛋白質(zhì)的組合。
徐立：商湯AI大裝置提供了一個底層的能力平臺,。正如前面所提,，正如粒子對撞機。在這個擁有一定隨機性的過程中,，可探索的空間非常大,。對于基礎(chǔ)設施，特別是算力的需求,，其實是指數(shù)級增長,。有數(shù)據(jù)顯示，在過去的十年之內(nèi),，最好的人工智能算法對于算力需求的增長超過了100萬倍,。
這和很多人的認知都相反，大家都覺得算法越精妙應該算的越少,，其實并不是,。算法越好反而算的越多，它其實是在驗證不同的可能性以及探究應用的邊界,。
《財富》（中文版）：就是你剛才說的反共識,。
徐立：對，反共識,。
《財富》（中文版）：如果我們再拉近一點,，元宇宙可能是最近一年科技圈最火的一個話題，人工智能在元宇宙里面扮演了什么樣的角色,？你怎么理解元宇宙,？
徐立：我覺得元宇宙一直存在于各種我們?nèi)粘５膽弥校ㄕf我們原來說的游戲,，其實都是元宇宙的某種形式,。
但是最近元宇宙很火爆的核心原因，其實和人工智能被大家關(guān)注的原因一樣,，因為它正逐漸接近于真實的世界,。
如果虛擬世界非常不真實，就像你每天玩游戲，玩的內(nèi)容和現(xiàn)實世界完全沒有連接,，你不會覺得它是一個宇宙,。只有當他更像真實世界，當真實世界所有東西都能夠被反映和連接到元宇宙當中,，并能夠因此產(chǎn)生交互,，你會覺得它給了我第二種可能性，從而帶來了第二,、第三甚至更多的宇宙,。
在這個過程當中，人工智能扮演的角色就是連接真實世界和虛擬世界,，讓用戶在不同的宇宙中生活,。在真實世界中每個人有自己的身份，而在虛擬世界,，你亦可以通過另外的角色完成與周圍環(huán)境的實時互動,。
《財富》（中文版）：真實和虛擬世界之間的轉(zhuǎn)換是可以通過算力來完成的嗎？
徐立：是的,。算力可以幫助將真實世界投射到虛擬世界中,。通常第一步是把相關(guān)信息采集下來，并沒有真正語義上的東西,，僅完成了所謂的空間數(shù)據(jù)化,。但是通過AI與算力的突破，每一件東西正逐步被賦予人類能理解的含義,，不僅是空間數(shù)據(jù)化,，還有要素結(jié)構(gòu)化、流程交互化,，進而對應到虛擬世界當中,。讓人們不僅可以訪問、還可以使用,、修改真實世界相關(guān)的內(nèi)容甚至進行互動,。
所以有關(guān)真正的元宇宙，我的理解是人們可以在其中對真實世界進行交互,，并且也可以將虛擬世界中的種種體驗投射到現(xiàn)實世界中,。否則它的意義只是一個游戲，或者說只是一個APP,。
《財富》（中文版）：那么如果再上升一步,，首先我先想跟你探討一個假設和前提，你覺得我們現(xiàn)在是不是到了應該探討人工智能倫理問題的時刻,？這個話題首先你同意這個假設嗎,？
徐立：我覺得非常值得去探討,。人工智能的創(chuàng)新來源于對過往認知的顛覆，因此行業(yè)應用中的倫理治理問題就愈發(fā)重要,。同時,，科學發(fā)展的路徑之一是演繹，即給一個基點,，不停的推到邊界,。既然今天對這個倫理治理上有一些核心原則的話,，我們完全可以通過原則往前演進,，去探索一下我們倫理和機器可觸達的邊界是什么。
《財富》（中文版）：你剛才說到了原則,，這個原則如果給人工智能來制定的話你會如何制定,？
徐立：對于世界范圍內(nèi)人工智能倫理治理的框架，商湯曾做過一個比較全面的研究,。
我們發(fā)現(xiàn)大部分的倫理治理框架都可以被歸類為三大類：一類就是以人為本,，無論是人的公平性、身份性問題,、尊嚴性問題或者是確認主權(quán)問題,，數(shù)據(jù)安全問題等，都屬于以人為本的范疇,；第二類叫技術(shù)可控,，包含透明計算、可解釋性,、技術(shù)安全的邊界等,；第三點就是可持續(xù)發(fā)展，尋求綠色的,，長期的發(fā)展,。
我認為未來的人工智能倫理治理其實就是在這三大支柱當中求得平衡。
當然,，我們一直強調(diào)的是要秉承“發(fā)展”的人工智能倫理觀,。最容易滿足所有治理框架要求的，就是什么都不去突破,，但這樣大家就會忘了我們最初出發(fā)目標是什么,，我們的初心就是用人工智能去推動社會的發(fā)展，這是目標,。以數(shù)學優(yōu)化來舉例,，我們的優(yōu)化函數(shù)是人工智能推動社會的進步，下面有三個約束條件需要滿足,。但是很多時候,，如果我們只談約束條件,，而忽略了優(yōu)化函數(shù)的目標，那么這個優(yōu)化是不成功的,。
《財富》（中文版）：如果這么來說,，你覺得人工智能會更加劇人和人之間的不平等還是平等？這個美好世界的定義在哪兒,？人工智能如何達到這個所謂的美好世界,？
徐立：談人工智能的公平性基本是談論數(shù)據(jù)樣本的偏差可能帶來人工智能算法的偏差，這個隨著技術(shù)演進都能得到改善,。而我認為更大層面上的公平來自可能的少數(shù)人能獲益于人工智能帶來的便利,，這將會帶來不平等。
而我的理解,，人工智能作為一個通用技術(shù)從量變到質(zhì)變的核心要素,，是其能否真正降低其生產(chǎn)要素的成本。如果說某項技術(shù)特別高精尖,，需要非常高成本投入才能完成的話,，那必然是少數(shù)人、頭部企業(yè),、頭部場景才能夠使用到這樣的技術(shù),，那么勢必帶來不平等。
回看歷史,，無論是鐵器時代,、蒸汽時代、電氣時代,、甚至信息時代,，所有的時代都是以技術(shù)命名的。而命名這個時代的技術(shù)有一個很核心的共同點,，就是他們都大幅度降低了當時生產(chǎn)要素的價格,，從而顯著提高了生產(chǎn)效率。
人工智能技術(shù)如果要帶來普適,、普惠,、公平，那一定是它將我們時代的生產(chǎn)要素的成本成百倍下降,，例如真正意義上使得原本我們獲取不到的教育資源,、醫(yī)療資源等，更好,、更廉價,、更公平地開放給全社會。（財富中文網(wǎng)）
財富中文網(wǎng)所刊載內(nèi)容之知識產(chǎn)權(quán)為財富媒體知識產(chǎn)權(quán)有限公司及/或相關(guān)權(quán)利人專屬所有或持有,。未經(jīng)許可,，禁止進行轉(zhuǎn)載,、摘編、復制及建立鏡像等任何使用,。
