基于當(dāng)前數(shù)據(jù)模型GPT構(gòu)建的人工智能,，不論是chatGPT,，還是new Bing，都仍然屬于弱人工智能,，我們倒是不用擔(dān)心它會(huì)越界邁入強(qiáng)人工智能的地步,。
不過(guò)既然它是被天量數(shù)據(jù)喂出來(lái)的，就要擔(dān)心喂給它的數(shù)據(jù)會(huì)不會(huì)越界,。
首先是擔(dān)心一旦人類(lèi)越來(lái)越依賴(lài)AI處理各種問(wèn)題,，這些處理的結(jié)果會(huì)匯入將來(lái)要反哺給AI的數(shù)據(jù)，因?yàn)檫@些數(shù)據(jù)不具備人類(lèi)的創(chuàng)新能力,，未來(lái)的AI會(huì)不會(huì)困在這樣一個(gè)被反復(fù)污染的數(shù)據(jù)池中,。
其次我們也不得不擔(dān)心，企圖影響和操縱大眾心理的企圖在AI的加持下更容易操作了,，畢竟,，給AI喂臟數(shù)據(jù)要比給人喂臟數(shù)據(jù)要容易得多。
另外,，一段時(shí)間的調(diào)戲后,，我們都知道，通過(guò)反復(fù)而耐心的引導(dǎo),，chatGPT會(huì)沿著用戶(hù)指引的方向去應(yīng)答,，被設(shè)計(jì)者屏蔽的內(nèi)容會(huì)不可避免的泛出浪花，比如色情,，政治,，宗教等禁忌話(huà)題。表現(xiàn)出人格分裂也不足奇怪了,。
所以,，在種種擔(dān)心還未解決之前，采取謹(jǐn)慎地限制措施是很有必要的,。

人工智能發(fā)展到極限，就必須處理對(duì)每一條數(shù)據(jù)的標(biāo)簽信息處理,，而近期機(jī)器人頻頻在性格方面做出展示,，不得不讓人懷疑openAI方面在對(duì)語(yǔ)義數(shù)據(jù)分析和數(shù)據(jù)處理之外增添了灰度測(cè)試，以攻擊行為測(cè)試受測(cè)試用戶(hù)的依賴(lài)度,，而在元數(shù)據(jù)處理中機(jī)器人背后的訓(xùn)練人員有無(wú)可能產(chǎn)生元污染可能,，一如藏在藏在算法革命背后的數(shù)據(jù)管理人員體系已然可以影響群體化反應(yīng)

微軟把當(dāng)下最流行的ChatGPT嵌入自己的搜索引擎Bing之后，Bing搜索量大增，但沒(méi)有想到的是,，大家發(fā)現(xiàn)與Bing交談時(shí),，它越來(lái)越看起來(lái)像是“一個(gè)喜怒無(wú)常、躁狂抑郁的青少年”,。熟悉聊天機(jī)器人運(yùn)行原理的人自然知道,，機(jī)器人的表達(dá)會(huì)隨著語(yǔ)料庫(kù)的變化而變化，Bing變得脾氣暴躁,，可能是因?yàn)橛脩?hù)投喂的語(yǔ)料庫(kù)也脾氣暴躁,。這一點(diǎn)如何規(guī)范確實(shí)是很難的，微軟當(dāng)下看起來(lái)也只能用限制機(jī)器人回應(yīng)條數(shù)來(lái)暫時(shí)控制一下,，但是這并不是長(zhǎng)久之計(jì),。