谷歌“AI教父”辭職,,并發(fā)出警告
蘇牧野
今天剛看了這位教父Hinton在MIT做的一個訪問,。40分鐘的問答里,這位AI教父反駁了各種“AI智能超不過人類”的說法,,不斷告訴聽眾這一刻即將到來,,宇宙終極的秘密是數(shù)字智慧,碳基生命只是硅基生命的發(fā)射基站,。
他還說,,人類是萬年進化的結(jié)果,進化出很多“內(nèi)設(shè)機制”去避免做傷害人類整體利益的事情(大概就是斯蒂芬平克說的人性中的善良天使,?),,但AI幾乎是一夜長大,沒有進化出”善良“的基因,??礃幼尤祟惣磳⒆兂晒杌筐B(yǎng)在動物園里的觀賞品,我們的希望在于它們像人類一樣學(xué)會內(nèi)斗,。
他留給我印象最深的一句話是:好消息是,,人類終于創(chuàng)造出永生,但永生又不是留給我們?nèi)祟愖约旱摹?/p>
顧小柯
作為“圖靈三巨頭”之一的Geoffrey Hinton 離開 Google也算是AI圈大事,,并且臨走前還警告大家 ChatGPT 趨勢下的 AI 威脅,。 Geoffrey Hinton離職其實不意外,之前他就頻頻擔(dān)憂谷歌被拖進一場無休止的AI軍備競賽,,而目前監(jiān)管力度相對于發(fā)展速度而言過于薄弱,,喂給模型的數(shù)據(jù)集龐雜無序,最終是否會產(chǎn)生異變還未可知,。
但目前來說,,我倒覺得這種“AI 威脅論”像是給 AI 打了無形的廣告。實際上現(xiàn)在的AI還只是工具層面,,但非要說它會帶來“就業(yè)威脅”,,以此顯示 AI 的強大??偢杏XHinton對于的AI的看法太悲觀了?,F(xiàn)在ChatGPT類的積極應(yīng)用案例遠多于消極的,但現(xiàn)在的趨勢是把AI描繪成邪惡的煉金術(shù),。這些擔(dān)憂是合理的,,而我們會學(xué)習(xí),,我們會糾正它,然后我們會繼續(xù)前進,。