從小米SU7致命車(chē)禍中，我們可以看到些什么,？
我們不能僅把這起事件視作一次產(chǎn)品誤用或駕駛員疏忽,，而應(yīng)從中透視出更宏大的現(xiàn)實(shí)張力,。
文本設(shè)置
Plus(0條) 
3月29日晚,，一輛小米SU7在安徽銅陵的高速路段撞上隔離帶的水泥樁，其后發(fā)生燃燒,，車(chē)上3名大學(xué)生全部死亡,。一樁悲劇，如同滴落水中的一滴墨,，瞬間擴(kuò)散在公眾的想象中——“智能汽車(chē)”,、“新勢(shì)力造車(chē)”、“自動(dòng)駕駛”“遙控模式,。這些技術(shù)名詞與血肉之軀交匯,，背后隱含的，是整個(gè)時(shí)代的一個(gè)重大命題：當(dāng)技術(shù)以“速度”為美,、以“智能”為榮,，我們是否忘記了最基本的“可控性”和“倫理邊界”？
我們不能僅把這起事件視作一次產(chǎn)品誤用或駕駛員疏忽,，而應(yīng)從中透視出更宏大的現(xiàn)實(shí)張力——技術(shù)系統(tǒng)的復(fù)雜化與社會(huì)系統(tǒng)的滯后之間,，正在張開(kāi)一道巨大的鴻溝。這不是一輛車(chē)的事故,，這是“未來(lái)社會(huì)”構(gòu)建過(guò)程中的一次斷裂,。
技術(shù)幻覺(jué)與資本敘事的聯(lián)盟
所有關(guān)于“智能”的敘事，其實(shí)早已不再是單純的工程技術(shù)問(wèn)題,，而是一種資本驅(qū)動(dòng)的“敘事性現(xiàn)實(shí)”,。從特斯拉開(kāi)始，到蔚來(lái),、理想,、小鵬，再到今天的小米,，所有新勢(shì)力造車(chē)品牌,，都在構(gòu)建一種未來(lái)主義敘事——即我們正進(jìn)入一個(gè)“機(jī)器代人”的新時(shí)代，而他們正是引領(lǐng)者,。
這不是技術(shù)真相的傳達(dá),，而是一種幻覺(jué)制造術(shù)：把不成熟的輔助系統(tǒng)包裝成“智能代駕”；把實(shí)驗(yàn)室中的功能命名為“全場(chǎng)景自動(dòng)泊車(chē)”,；把人類(lèi)的幻想變成廣告語(yǔ)言,。這種幻覺(jué)依賴(lài)兩個(gè)條件：公眾的技術(shù)焦慮，以及資本對(duì)“速度+規(guī)?！钡钠?。
而小米作為一家科技巨頭,，其跨界造車(chē)行為本身，就夾雜著極強(qiáng)的“資本信號(hào)”意味：雷軍高調(diào)發(fā)布會(huì),、手機(jī)思維移植到汽車(chē)工業(yè),、供應(yīng)鏈的極致壓縮……它更像是一次“工業(yè)+敘事”的聯(lián)姻。
但問(wèn)題在于,，技術(shù)幻想可以虛構(gòu),，生命不能被消費(fèi)。如果我們把汽車(chē)的本質(zhì)理解為“生活中的機(jī)器人”,，那么它對(duì)人類(lèi)生活的侵入程度,，遠(yuǎn)超手機(jī)、電腦等其他消費(fèi)電子,。這要求我們建立一種“延遲滿(mǎn)足的技術(shù)倫理”——即在真正安全可控前,，必須壓抑對(duì)“炫酷功能”的沖動(dòng)。但今天,，這種倫理已經(jīng)被市場(chǎng)的加速邏輯吞噬,。
“人類(lèi)責(zé)任”的外包困局
小米的車(chē)禍?zhǔn)录砸l(fā)巨大反響，還在于它暴露了一個(gè)根本性的張力：人類(lèi)對(duì)機(jī)器的過(guò)度信任,，正在逐步卸載自身責(zé)任,。
從用戶(hù)視角來(lái)看，他們被告知“這是一輛智能汽車(chē)”,，他們看到宣傳視頻中“車(chē)能自己開(kāi),、能自己泊、能自動(dòng)召喚”,，自然會(huì)將這種“技術(shù)形象”內(nèi)化為安全承諾,。然而當(dāng)事故發(fā)生時(shí)，車(chē)企卻退回到冷冰冰的法律免責(zé)聲明中：“所有功能需人監(jiān)督,，僅為輔助,。”
這就是“責(zé)任外包”的典型機(jī)制：企業(yè)利用技術(shù)模糊性,，收割用戶(hù)信任,，但在出事時(shí)，卻把一切推給“使用不當(dāng)”,。換句話(huà)說(shuō),，消費(fèi)者承擔(dān)了系統(tǒng)不成熟的風(fēng)險(xiǎn)，卻沒(méi)有任何控制該系統(tǒng)的權(quán)力,。
更可怕的是,，這種機(jī)制并非偶然，而是整個(gè)AI時(shí)代的普遍特征,。我們已經(jīng)看到AI算法在招聘,、信貸,、醫(yī)療等諸多領(lǐng)域做出關(guān)鍵性決策，但真正“負(fù)責(zé)任”的人是誰(shuí),？系統(tǒng)出錯(cuò)時(shí),，誰(shuí)來(lái)承擔(dān)后果？這不是一輛車(chē)的問(wèn)題,，而是“人類(lèi)責(zé)任機(jī)制”的整體危機(jī),。
制度真空下的“算法政治”
如果說(shuō)工業(yè)時(shí)代的權(quán)力是“標(biāo)準(zhǔn)化+制度約束”，那么今天的智能時(shí)代,，則是“黑箱化+技術(shù)壟斷”。智能汽車(chē)的事故不僅是工程事故,，更是制度事故：我們的法律和監(jiān)管體系,，尚未為“人機(jī)共治”的新現(xiàn)實(shí)做好準(zhǔn)備。
在美國(guó),，NHTSA（國(guó)家公路交通安全局）已經(jīng)逐步推出對(duì)L2以上自動(dòng)駕駛系統(tǒng)的事故報(bào)告機(jī)制,，要求車(chē)企上報(bào)所有涉及“高級(jí)輔助駕駛”的交通事故。歐洲也在推動(dòng)“可解釋AI”的法律框架,。而在中國(guó),，這方面仍存在巨大制度真空。
最具風(fēng)險(xiǎn)的,，不是技術(shù)不成熟,，而是監(jiān)管體系對(duì)技術(shù)權(quán)力的“失語(yǔ)”：我們甚至不知道一輛車(chē)究竟具備何種自動(dòng)駕駛能力，不知道系統(tǒng)是否記錄駕駛狀態(tài),，不知道功能命名是否被“營(yíng)銷(xiāo)化誤導(dǎo)”……
這其實(shí)已經(jīng)進(jìn)入了“算法政治”的范疇——誰(shuí)定義“智能”,？誰(shuí)控制數(shù)據(jù)？誰(shuí)擁有責(zé)任話(huà)語(yǔ)權(quán),？在制度缺席的狀態(tài)下,，技術(shù)公司就是事實(shí)上的立法者、法官和執(zhí)行者,。
這不僅威脅個(gè)體安全,，更將侵蝕整個(gè)社會(huì)的公正感與信任機(jī)制。
智能社會(huì)的“認(rèn)知斷裂”
我們正在進(jìn)入一個(gè)深刻的“認(rèn)知斷裂”時(shí)代——系統(tǒng)越來(lái)越復(fù)雜,，公眾對(duì)其理解卻越來(lái)越淺,。
大多數(shù)普通用戶(hù)對(duì)智能汽車(chē)的功能理解，停留在宣傳片與社交媒體的碎片中,。他們以為“智能”就意味著“安全”,，以為“自動(dòng)”就等于“無(wú)憂(yōu)”。而事實(shí)上,，系統(tǒng)設(shè)計(jì)的邊界,、風(fēng)險(xiǎn)提示,、容錯(cuò)機(jī)制，遠(yuǎn)比一個(gè)廣告復(fù)雜得多,。
這種“認(rèn)知斷裂”一旦與生命安全綁定,，就會(huì)變成致命的“信任災(zāi)難”。這不僅會(huì)擊穿消費(fèi)者對(duì)某個(gè)品牌的信心,，更會(huì)動(dòng)搖整個(gè)技術(shù)社會(huì)的信任基礎(chǔ)——公眾將不再相信“新技術(shù)”,，而這種不信任一旦形成，將以極高代價(jià)進(jìn)行反噬,。
我們正在靠“模糊宣傳+技術(shù)壓榨”推進(jìn)智能化進(jìn)程,，但沒(méi)有同步推進(jìn)公眾素養(yǎng)建設(shè)。這是對(duì)未來(lái)的極度不負(fù)責(zé)任,。
轉(zhuǎn)向“深度人機(jī)共進(jìn)”的文明分水嶺
如果要從這場(chǎng)事故中看到某種希望,，那就是：也許它可以成為一次“文明反思的契機(jī)”。我們要從“技術(shù)狂熱”轉(zhuǎn)向“人機(jī)共進(jìn)”,，從“工具崇拜”轉(zhuǎn)向“責(zé)任重構(gòu)”,。
這不是技術(shù)層面的補(bǔ)丁，而是思維范式的轉(zhuǎn)向：
在設(shè)計(jì)上,，應(yīng)推動(dòng)“強(qiáng)約束的可用性”,，而非“炫技式自由”；在制度上,，應(yīng)構(gòu)建一整套人機(jī)權(quán)責(zé)分離的監(jiān)管體系,；在社會(huì)層面，應(yīng)建立針對(duì)AI和智能系統(tǒng)的基礎(chǔ)教育機(jī)制,；在倫理上,，應(yīng)推動(dòng)一種“算法謙卑主義”——技術(shù)不是萬(wàn)能，也不應(yīng)裝作萬(wàn)能,。
我們不該再問(wèn)：“我們還能做出多智能的車(chē),？”而應(yīng)開(kāi)始問(wèn)：“我們是否準(zhǔn)備好，成為一個(gè)負(fù)責(zé)任的智能社會(huì),？”
下一次,，代價(jià)會(huì)更高
這次，是小米SU7,。下一次,，可能是飛行汽車(chē)，可能是無(wú)人出租車(chē),，可能是AI診療系統(tǒng),。技術(shù)的進(jìn)步從不會(huì)停止，但人類(lèi)的制度,、認(rèn)知與倫理,，常常會(huì)落后,。
當(dāng)我們?cè)谂d奮地談?wù)摗靶沦|(zhì)生產(chǎn)力”“中國(guó)智造出海”“工業(yè)4.0”時(shí),，也許更該花些時(shí)間問(wèn)一句：我們是否已經(jīng)建立了足以承載這一切的文明基礎(chǔ),？
技術(shù)不是終點(diǎn)，而是試煉,。我們是否能夠從每一次事故中,，真正走出“升級(jí)打怪”的思維，轉(zhuǎn)向一場(chǎng)關(guān)于人類(lèi)自身的深度更新,？
如果不能,，那么下一次，我們將付出更高的代價(jià)——而且可能,，不再有“下一次”,。（財(cái)富中文網(wǎng)）
作者王衍行為財(cái)富中文網(wǎng)專(zhuān)欄作家，中國(guó)人民大學(xué)重陽(yáng)金融研究院高級(jí)研究員,、中國(guó)銀行業(yè)協(xié)會(huì)前副秘書(shū)長(zhǎng),、財(cái)政部?jī)?nèi)部控制標(biāo)準(zhǔn)委員會(huì)咨詢(xún)專(zhuān)家
本內(nèi)容為作者獨(dú)立觀點(diǎn),，不代表財(cái)富中文網(wǎng)立場(chǎng),。未經(jīng)允許不得轉(zhuǎn)載。
撰寫(xiě)或查看更多評(píng)論
請(qǐng)打開(kāi)財(cái)富Plus APP