13位OpenAI,、Google 員工發(fā)布公開信

東木
OpenAI 近期可謂風(fēng)波不斷。多位重要人員離職,,如丹尼爾因拒絕簽署包含不貶損條款的文件而失去股權(quán),,這顯示出公司在某些規(guī)定上的強(qiáng)硬以及與員工之間的矛盾。他曾希望公司在 AI 安全研究方面加大投入?yún)s未得到回應(yīng),,這反映出公司在發(fā)展方向上可能存在一定的偏差,。這些都可做為此次13位聯(lián)名公開信的背景。無論公開信背后的原因有多少,,但對AI安全這一點,,還是再一次引發(fā)社會關(guān)注。
其實關(guān)于AI安全性的討論,,從AI研究開始就一直沒間斷,。去年10月下旬,圖靈獎得主,、“人工智能三巨頭”等學(xué)者爆發(fā)了一場關(guān)于人工智能管控的激烈爭論,,24名中外人工智能科學(xué)家簽署一份聲明,呼吁對人工智能技術(shù)實施更嚴(yán)格的控制,。關(guān)于AI安全問題也是多次發(fā)生知名人士的聯(lián)名信,,包括“ChatGPT 之父”Sam Altman 在內(nèi) 350 位 AI 權(quán)威都簽署的聯(lián)名公開信,表達(dá)對當(dāng)前正在開發(fā)的 AI 技術(shù)可能會對人類構(gòu)成生存威脅擔(dān)憂,。該聯(lián)名信已經(jīng)獲得了包括 2018 年圖靈獎得主 Yoshua Bengio,、馬斯克、史蒂夫 ? 沃茲尼亞克,、Skype 聯(lián)合創(chuàng)始人,、Pinterest 聯(lián)合創(chuàng)始人、Stability AI CEO 等多位知名人士的簽名支持,,而且聯(lián)名的知名人士已經(jīng)超過千人,。
各國政府和相關(guān)組織也不斷采取行動,應(yīng)對AI安全,。去年7月13日,,國家網(wǎng)信辦聯(lián)合國家有關(guān)部門公布《生成式人工智能服務(wù)管理暫行辦法》,10月18日,,發(fā)布《全球人工智能治理倡議》,;10月30日,,美國總統(tǒng)拜登正式發(fā)布《安全、可靠及可信賴的人工智能》行政命令,;當(dāng)日,,七國集團(tuán)(G7)發(fā)布《開發(fā)先進(jìn)人工智能系統(tǒng)組織的國際行為準(zhǔn)則》。去年11月1日,,首屆全球人工智能(AI)安全峰會上,,28國聯(lián)署關(guān)于人工智能國際治理的《布萊切利宣言》,鼓勵相關(guān)行為者采取適當(dāng)措施,,如安全測試,、評估等,以衡量,、監(jiān)測和減輕AI潛在有害能力及其可能產(chǎn)生的影響,。今年2月,美國商務(wù)部長宣布成立人工智能安全研究聯(lián)盟(AISIC),。3月,,一場關(guān)于人工智能安全的國際會議在北京隆重舉行。包括圖靈獎得主約書亞?本吉奧,、杰弗里?辛頓以及著名學(xué)者姚期智在內(nèi)的數(shù)十位中外專家齊聚一堂,,共同簽署了由智源研究院發(fā)起的《北京AI安全國際共識》。
當(dāng)然也有另外的聲音,,如Meta 公司的首席人工智能科學(xué)家Yann LeCun說,,對人工智能可能毀滅人類的擔(dān)憂是 "荒謬的",這種擔(dān)憂更多是基于科幻小說而非現(xiàn)實,,在他看來,,智能機(jī)器根本沒有理由試圖與人類競爭,。盡管說法各異,,但在 AI 快速發(fā)展的當(dāng)下,安全問題至關(guān)重要,。而 OpenAI 的這些問題若不能妥善解決,,不僅會影響自身的發(fā)展,也可能對整個行業(yè)產(chǎn)生負(fù)面影響,。如何平衡創(chuàng)新與安全,,協(xié)調(diào)內(nèi)部不同意見,將是 OpenAI 乃至整個行業(yè)需要深入思考和解決的問題,。