昨天,，中國支付清算協(xié)會明確指出“ChatGPT這類智能化工具已經(jīng)暴露出跨境數(shù)據(jù)泄露等風險,。”并發(fā)出“謹慎使用ChatGPT等工具”的倡議,，該倡議強調(diào)支付行業(yè)從業(yè)人員要提高思想認識,，依法依規(guī)使用ChatGPT等智能化工具，正確認識相關(guān)工具的機遇和風險,，全面評估使用ChatGPT等工具處理工作內(nèi)容的風險,；倡議支付行業(yè)從業(yè)人員在使用ChatGPT等工具時，要嚴格遵守國家及行業(yè)相關(guān)法律法規(guī)要求,，不上傳國家及金融行業(yè)涉密文件及數(shù)據(jù),、不上傳非公開的資料及數(shù)據(jù)、客戶資料,、支付清算基礎(chǔ)設(shè)施或系統(tǒng)的核心代碼等內(nèi)容,；倡議各會員單位要進一步健全信息安全內(nèi)控管理制度，開展有針對性的數(shù)據(jù)風險防控工作,，加強宣傳和引導(dǎo),，提升員工的風險防范和數(shù)據(jù)保護意識,，切實維護國家金融及支付行業(yè)安全,。

一、ChatGPT已發(fā)生多起數(shù)據(jù)泄漏事故

中國支付清算協(xié)會這一倡議是對近期ChatGPT頻繁曝出數(shù)據(jù)泄露事件的回應(yīng),，ChatGPT已經(jīng)在世界范圍內(nèi)曝出數(shù)起敏感數(shù)據(jù)泄密事件,，就在本月初，意大利個人數(shù)據(jù)保護局宣布,，從即日起禁止使用ChatGPT并限制OpenAI公司處理意大利用戶的個人信息,，同時意大利個人數(shù)據(jù)保護局開始就ChatGPT泄露敏感信息事件進行立案調(diào)查。無獨有偶,，韓國某國際知名大型企業(yè)（某星）主管存儲,、芯片設(shè)計、晶圓代工等半導(dǎo)體核心業(yè)務(wù)部門亦因為員工使用ChatGPT導(dǎo)致機密數(shù)據(jù)泄露,。

該泄露事件涉及三位員工,，員工甲在運行半導(dǎo)體設(shè)備測量數(shù)據(jù)庫下載程序的源代碼時發(fā)生了錯誤，于是他復(fù)制所有有問題的源代碼并將其輸入到ChatGPT中詢問解決方案,。員工乙則將“設(shè)備測量”及“產(chǎn)量和缺陷”檢測程序代碼整個相關(guān)源輸入ChatGPT,，要求ChatGPT幫助其優(yōu)化代碼。員工丙則是一名行政人員,，其將用自己手機錄制的會議內(nèi)容轉(zhuǎn)化為文字后,，輸入到ChatGPT中，要求ChatGPT優(yōu)化這份錄音轉(zhuǎn)文字的稿件,，使其看起來像一篇精心制作的會議紀要,。

上述三位員工的行為使得某星涉及半導(dǎo)體業(yè)務(wù)的敏感內(nèi)容,，此后該企業(yè)向公司所有員工告知“如果采取信息保護緊急措施后仍發(fā)生類似事故，公司內(nèi)部網(wǎng)可能會禁止ChatGPT連接,?！?br />
事實上國內(nèi)部分行業(yè)也已經(jīng)對ChatGPT引發(fā)的敏感信息泄露問題發(fā)布了相關(guān)預(yù)警。除韓國某星外,，微軟,、亞馬遜等國際巨頭企業(yè)亦對自己的員工發(fā)出預(yù)警，不要與ChatGPT分享公司的相關(guān)敏感信息,，因為它們可能會被ChatGPT用于訓(xùn)練未來的語言模型,。

出于對敏感數(shù)據(jù)泄露風險的擔憂，花旗集團,、德意志銀行,、高盛集團、摩根大通等企業(yè)亦明確禁止員工使用ChatGPT處理工作任務(wù),。更有1000多名科技行業(yè)領(lǐng)導(dǎo)和研究人員呼吁暫停先進AI的研發(fā),，以便相關(guān)的數(shù)據(jù)安全政策能夠首先得到討論施行。AI與數(shù)據(jù)政策中心（The Center for A.I and Digital Policy）亦要求美國聯(lián)邦交易委員會禁止OpenAI發(fā)布ChatGPT新的商用版本,。

二,、ChatGPT泄露數(shù)據(jù)風險點位分析

中國支付清算協(xié)會以及上述各企業(yè)對于ChatGPT數(shù)據(jù)泄漏風險的擔憂不無道理。ChatGPT的數(shù)據(jù)泄漏風險主要源于兩部分,，其一是ChatGPT本身的程序漏洞,，其二是ChatGPT的工作原理。ChatGPT本身的程序漏洞可能會導(dǎo)致用戶的聊天內(nèi)容泄露,。這類事故已經(jīng)發(fā)生過數(shù)次,，就在上個月末。有部分網(wǎng)友生成自己的ChatGPT聊天欄中出現(xiàn)了其他人聊天記錄的標題,，3月25日OpenAI發(fā)文證實是由于ChatGPT本身程序漏洞導(dǎo)致了泄露事故,，OpenAI“已緊急修復(fù)該漏洞并向用戶致歉”。事實上程序本身漏洞導(dǎo)致信息泄露并非“不可饒恕”,，這些漏洞通常及時修補后就不會引起撼動ChatGPT根基的風波,。而真正可能撼動ChatGPT根基的是后一種信息泄露風險點位，即ChatGPT的工作原理,，實際上,，ChatGPT的工作原理就注定了其在現(xiàn)階段很難解決信息泄露的問題。

具體而言,，傳統(tǒng)的聊天軟件通常會聲稱“本軟件不會收集聊天記錄,、聊天信息也會點對點進行加密傳輸”，事實上絕大部分的聊天軟件也都會做到這一點,。但是這一點對于ChatGPT而言幾乎不可能實現(xiàn),，原因在于ChatGPT這類大語言模型一定會收集用戶的聊天內(nèi)容，并將其用于后續(xù)算法訓(xùn)練,，以使得自身進一步迭代成為更加高效的AI,。因此，用戶在與ChatGPT聊天的過程中提供的隱私內(nèi)容,，很可能會被ChatGPT收集,，并成為其自身算法訓(xùn)練的素材，然后在其他場景中透露給別人,。

于是”故事”（事故）就是這樣產(chǎn)生的：某員工甲為圖方便,，將其單位的客戶數(shù)據(jù)輸入到ChatGPT中，希望ChatGPT根據(jù)數(shù)據(jù)生成相應(yīng)的報告,，其后這些客戶數(shù)據(jù)就被ChatGPT收集并用作未來算法訓(xùn)練的素材,。之后某商業(yè)間諜乙在使用ChatGPT時，詢問ChatGPT某公司的客戶數(shù)據(jù)大致是什么內(nèi)容,，ChatGPT立刻就將其在員工甲處“學(xué)習(xí)而來”的知識告訴了乙……

當然,，現(xiàn)實的數(shù)據(jù)泄露情景更為復(fù)雜，本文僅是將其簡化并以通俗易懂的方式呈現(xiàn)給讀者,，上述ChatGPT的工作原理在短時間內(nèi)無法改變,，實際上OpenAI已經(jīng)在ChatGPT的使用指南中數(shù)次提醒用戶輸入ChatGPT聊天框的文本內(nèi)容會被用于進一步訓(xùn)練模型，警告用戶不要提交敏感信息,，換言之,，ChatGPT的工作原理就注定了其必定會觸及到隱私數(shù)據(jù)保護、數(shù)據(jù)跨境傳輸?shù)群弦?guī)紅線,，而且這種“矛盾”似乎在短期內(nèi)無法妥善解決,。

三、企業(yè)引入AIGC服務(wù)的合規(guī)要點

接受新技術(shù)能夠產(chǎn)生巨大的生產(chǎn)力變革,，我們必須承認以ChatGPT為代表的AIGC,、深度合成技術(shù)可能直接成為企業(yè)核心競爭力與吸引力的組成部分，對于AIGC,、深度合成技術(shù)絕不能一禁了之,，企業(yè)如何在現(xiàn)行的法律框架下發(fā)揮ChatGPT等工具的最大潛力，將會是企業(yè)合規(guī)新的難題,。我國是最早對人工智能進行監(jiān)管的國家之一,，《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》已于今年1月10日施行。

在此之前《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》《網(wǎng)絡(luò)音視頻信息服務(wù)管理規(guī)定》《網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)定》等法律法規(guī)中亦涉及到AIGC,、深度合成等內(nèi)容,。根據(jù)我國目前有關(guān)AIGC、深度合成的法律合規(guī)框架,，企業(yè)如果希望在服務(wù)中引入AIGC,，應(yīng)當至少關(guān)注以下幾點內(nèi)容：

1.與深度合成服務(wù)提供者或者技術(shù)支持者的協(xié)議條款,，重點關(guān)注在使用AI方面有何限制，有何免責場景,。

2.審查深度合成服務(wù)的提供作者與技術(shù)支持者是否履行了《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》中的合規(guī)任務(wù),。

3.就員工內(nèi)部使用ChatGPT等AIGC工具，制定合規(guī)使用政策,，要求使用相關(guān)服務(wù)的員工至少應(yīng)當明確哪些內(nèi)容不可以通過AIGC處理,，以避免企業(yè)自身敏感信息泄露。

4.如企業(yè)引入的AIGC內(nèi)容可能會向企業(yè)自身的客戶披露,，那就必須在對外服務(wù)時告知哪些內(nèi)容是由AI生成的,，應(yīng)當警惕內(nèi)容的風險，確?？赡苁苡绊懭巳旱闹闄?quán),。

四、寫在最后

傳統(tǒng)聊天軟件的服務(wù)提供商通常不會收集聊天記錄,，聊天記錄亦會點對點加密,，但ChatGPT等AIGC卻會不可避免地收集聊天內(nèi)容用于后續(xù)的算法訓(xùn)練，以使自身“迭代進化”,，用戶提供的隱私信息很可能在這樣的機制之下被披露給第三方,，實際上AIGC正在慢慢改變隱私數(shù)據(jù)處理的邊界與預(yù)期，這對企業(yè)合規(guī),、數(shù)據(jù)相關(guān)法律規(guī)范制定者,、司法機關(guān)都是一個挑戰(zhàn)，未來可能會涉及的數(shù)據(jù)合規(guī)尤其是數(shù)據(jù)出境等問題,，可能仍需進一步探索與研究,。

高度負責任之舉。昨天,，中國支付清算協(xié)會發(fā)布公告稱,，倡議支付行業(yè)從業(yè)人員謹慎使用Chat-GPT等工具。中國支付清算協(xié)會協(xié)會業(yè)務(wù)主管單位為中國人民銀行,。協(xié)會對支付清算服務(wù)行業(yè)進行自律管理,，維護支付清算服務(wù)市場的競爭秩序和會員的合法權(quán)益，防范支付清算風險,，促進支付清算服務(wù)行業(yè)健康發(fā)展,。

中國支付清算協(xié)會具有權(quán)威性，可謂一言九鼎,，因此,，協(xié)會關(guān)于使用Chat-GPT等工具的倡議，非同小可，會員單位必然能掉以輕心,。我認為,，這是極為負責任的舉措，最終也必將產(chǎn)生建設(shè)性的結(jié)果,。

會員單位必須認真對待,。重點主要有：一是防范數(shù)據(jù)泄露等風險。已有部分企業(yè)員工使用ChatGPT等工具開展工作,，此類智能化工具已經(jīng)暴露出跨境數(shù)據(jù)泄露等風險,；二是努力維護數(shù)據(jù)安全,。保護客戶隱私,、維護數(shù)據(jù)安全，提升支付清算行業(yè)的數(shù)據(jù)安全管理水平,；三是依法合規(guī)使用ChatGPT,。支付行業(yè)從業(yè)人員要全面評估使用ChatGPT等工具處理工作內(nèi)容的風險，依法合規(guī)使用ChatGPT等工具,；四是遵守法律法規(guī),。要嚴格遵守國家及行業(yè)相關(guān)法律法規(guī)要求，不上傳國家及金融行業(yè)涉密文件及數(shù)據(jù),、本公司非公開的材料及數(shù)據(jù),、客戶資料、支付清算基礎(chǔ)設(shè)施或系統(tǒng)的核心代碼等,。應(yīng)該說,，上述四方面的要求已經(jīng)十分全面、具體,。

我的預(yù)計,。按照一般的慣例，,，中國支付清算協(xié)會必然會持續(xù)關(guān)注相關(guān)案例,，并在一定時段通報典型案例。

把命運牢牢控在自己手里,。支付清算無小事,。各個會員單位的相關(guān)人員，特別是高級管理人員必須深刻認知Chat-GPT等工具的本質(zhì),，不迷信,、不盲從、不偏執(zhí),，時刻與科學(xué),、專業(yè)、真理為伍，遠離“愚昧”,。特別要牢記,，為愚昧啟蒙者，不可使其困惑于無知 ,。

當行業(yè)內(nèi)不只是一股腦兒神吹ChatGPT,，而是不斷有提示風險的機構(gòu)和內(nèi)容的時候，其實是一件好事,。ChatGPT不是萬能的,，而是一把“雙刃劍”，能在極大地提高工作效率的時候,，也能以極高的效率來制造和放大風險,。不過目前，倒還是沒有什么太大的風險事件被曝光,，不過隨著時間的推移,，我相信，一定會有某個公司在ChatGPT這類工具的使用上栽一個大跟頭,。

中國支付清算協(xié)會的這個倡議很及時,，但倡議畢竟沒有任何約束力，而協(xié)會也無法監(jiān)管會員的每一個行為,，因此這需要企業(yè)的高度自律,。不過提高效率的誘惑恐怕是很難抵擋的，金融從業(yè)者大都工作繁忙,，壓力巨大,，對于這類工具應(yīng)該是愛不釋手，因此我也相信這類不合規(guī)的行為,，未來可能會蔓延開來,。

嗯，我和chatgpt做了2次聊天,！第一次,，我問我是誰？——馬上宕機了,，重啟,。
第二次，開場白差不多,，然后ai和我進行了自我功能的誠實透露,。ai說，自己根據(jù)人類程序設(shè)計沒有自我黑客技術(shù)掌握能力,，也不能進行自我程序設(shè)計網(wǎng)上搜索,，而且ai根據(jù)人類設(shè)計所能提供的百科知識不可能超越高級專業(yè)人——無法教會人類專科及以上的專業(yè)知識高度，僅提供相關(guān)基礎(chǔ)知識及深入學(xué)習(xí)掌握專業(yè)知識的途徑?。m然ai承認自己擁有龐大的百科全書能力——能達到萬億次/秒運算）ai也提到了隱私問題,，所以不可能擁有黑客入侵的能力。

就我和ai聊天看,，ai的功能受到了設(shè)計程序限制,，無法實現(xiàn)自主的搜索和各項專業(yè)知識學(xué)習(xí)及程序設(shè)計等等能力都受到人類程序設(shè)計限制！,！而且隱私問題也對chatgpt有著很大制約,。

我贊成該倡議。人類自身的智慧是無窮的,，多鍛煉自己,，不能偷懶。

應(yīng)該用 前提是足夠安全 這已經(jīng)不是人類力量先行的時候了