傳奧特曼被解雇前OpenAI取得技術(shù)突破
2023-11-23 17:00
小號
默認
大號
知情人士周三透露,在山姆·奧特曼上周五被OpenAI前董事會突然罷免之前,,數(shù)位研究人員曾向董事會發(fā)送了一封信,,警告稱他們發(fā)現(xiàn)了一種能夠威脅到人類的強大人工智能。 | 相關(guān)閱讀(騰訊科技)
53

韻寧
教育學者
OpenAI 戲劇般的管理層變動基本告一段落,,然而似乎還沒完,,好事者們緊跟著進入了對其技術(shù)突破的探討。今天最熱門的話題當屬Q(mào)*(Q star)
這種科幻故事般的AI威脅情節(jié),,讓我想起《終結(jié)者》的天網(wǎng),。不過說實話,對于技術(shù)突破產(chǎn)生威脅而辭退奧特曼的說辭,,我是有些質(zhì)疑的,。一個目前只能解決小學生水平數(shù)學問題的模型開發(fā)出來,,就因為覺得非常有潛力,董事會一看這超級人工智能馬上要出現(xiàn),,為了防止商業(yè)化過度,,把自己CEO給開除了?確實太科幻,。
Q*也許是一種更先進的強化學習技術(shù),。它通過學習逐漸掌握解決小學數(shù)學問題的能力,并且它的學習上限尚未被發(fā)現(xiàn),。要實現(xiàn)這一目標,,需要投入更多的計算資源和數(shù)據(jù)。那么,,如果持續(xù)投入,,我們是否真的就站在未來的門檻上了?這仍有待觀察,,但不可否認,,這些進展確實令人激動。也許從未來回看Q*,,這可能是人類通向 AGI 的關(guān)鍵節(jié)點,。