OpenAI 近期可謂風(fēng)波不斷。多位重要人員離職,，如丹尼爾因拒絕簽署包含不貶損條款的文件而失去股權(quán),，這顯示出公司在某些規(guī)定上的強(qiáng)硬以及與員工之間的矛盾。他曾希望公司在 AI 安全研究方面加大投入?yún)s未得到回應(yīng),，這反映出公司在發(fā)展方向上可能存在一定的偏差,。這些都可做為此次13位聯(lián)名公開信的背景。無論公開信背后的原因有多少,，但對AI安全這一點,，還是再一次引發(fā)社會關(guān)注。

其實關(guān)于AI安全性的討論,，從AI研究開始就一直沒間斷,。去年10月下旬，圖靈獎得主,、“人工智能三巨頭”等學(xué)者爆發(fā)了一場關(guān)于人工智能管控的激烈爭論,，24名中外人工智能科學(xué)家簽署一份聲明，呼吁對人工智能技術(shù)實施更嚴(yán)格的控制,。關(guān)于AI安全問題也是多次發(fā)生知名人士的聯(lián)名信,，包括“ChatGPT 之父”Sam Altman 在內(nèi) 350 位 AI 權(quán)威都簽署的聯(lián)名公開信，表達(dá)對當(dāng)前正在開發(fā)的 AI 技術(shù)可能會對人類構(gòu)成生存威脅擔(dān)憂,。該聯(lián)名信已經(jīng)獲得了包括 2018 年圖靈獎得主 Yoshua Bengio,、馬斯克、史蒂夫 ? 沃茲尼亞克,、Skype 聯(lián)合創(chuàng)始人,、Pinterest 聯(lián)合創(chuàng)始人、Stability AI CEO 等多位知名人士的簽名支持,，而且聯(lián)名的知名人士已經(jīng)超過千人,。

各國政府和相關(guān)組織也不斷采取行動，應(yīng)對AI安全,。去年7月13日,，國家網(wǎng)信辦聯(lián)合國家有關(guān)部門公布《生成式人工智能服務(wù)管理暫行辦法》，10月18日,，發(fā)布《全球人工智能治理倡議》,；10月30日,，美國總統(tǒng)拜登正式發(fā)布《安全、可靠及可信賴的人工智能》行政命令,；當(dāng)日,，七國集團(tuán)（G7）發(fā)布《開發(fā)先進(jìn)人工智能系統(tǒng)組織的國際行為準(zhǔn)則》。去年11月1日,，首屆全球人工智能（AI）安全峰會上,，28國聯(lián)署關(guān)于人工智能國際治理的《布萊切利宣言》，鼓勵相關(guān)行為者采取適當(dāng)措施,，如安全測試,、評估等，以衡量,、監(jiān)測和減輕AI潛在有害能力及其可能產(chǎn)生的影響,。今年2月，美國商務(wù)部長宣布成立人工智能安全研究聯(lián)盟（AISIC）,。3月,，一場關(guān)于人工智能安全的國際會議在北京隆重舉行。包括圖靈獎得主約書亞?本吉奧,、杰弗里?辛頓以及著名學(xué)者姚期智在內(nèi)的數(shù)十位中外專家齊聚一堂,，共同簽署了由智源研究院發(fā)起的《北京AI安全國際共識》。

當(dāng)然也有另外的聲音,，如Meta 公司的首席人工智能科學(xué)家Yann LeCun說,，對人工智能可能毀滅人類的擔(dān)憂是 "荒謬的"，這種擔(dān)憂更多是基于科幻小說而非現(xiàn)實,，在他看來,，智能機(jī)器根本沒有理由試圖與人類競爭,。盡管說法各異,，但在 AI 快速發(fā)展的當(dāng)下，安全問題至關(guān)重要,。而 OpenAI 的這些問題若不能妥善解決,，不僅會影響自身的發(fā)展，也可能對整個行業(yè)產(chǎn)生負(fù)面影響,。如何平衡創(chuàng)新與安全,，協(xié)調(diào)內(nèi)部不同意見，將是 OpenAI 乃至整個行業(yè)需要深入思考和解決的問題,。