AI威脅人類，只需要制造幻覺(jué)就夠了

卓克

《未來(lái)簡(jiǎn)史》的作者尤瓦爾·赫拉利一直對(duì)人工智能保持警惕?！段磥?lái)簡(jiǎn)史》是2014年動(dòng)筆的，那時(shí)不要說(shuō)ChatGPT了，連AlphaGo戰(zhàn)勝李世石都還要再過(guò)一年半才上演。但赫拉利已經(jīng)在書里預(yù)測(cè)了AI對(duì)人類的威脅。當(dāng)年他預(yù)測(cè)，AI在音樂(lè)藝術(shù)和內(nèi)容創(chuàng)作中發(fā)揮作用的同時(shí)，也會(huì)導(dǎo)致當(dāng)前的從業(yè)者被邊緣化。這一點(diǎn)在2023年持續(xù)了148天的美國(guó)編劇大罷工事件上已經(jīng)應(yīng)驗(yàn)。

2023年，赫拉利發(fā)表了新一波AI威脅論，他提到，對(duì)于AI威脅，人們總默認(rèn)要有兩個(gè)前提，一個(gè)是AI要發(fā)展出意識(shí)、感情，才能在精神世界對(duì)人類形成實(shí)質(zhì)性威脅；另一個(gè)是AI要發(fā)展出可靠的移動(dòng)能力、動(dòng)作能力，才能在物理世界對(duì)人類形成實(shí)質(zhì)性威脅。這兩條多少都受到科幻作品的影響。

比如，《黑客帝國(guó)》就是典型的AI在精神世界對(duì)人類構(gòu)成的威脅，那個(gè)叫作“矩陣”的機(jī)器靠人類提供能量，并可以依照機(jī)器自己產(chǎn)生的意識(shí)生成可以控制人類的虛擬世界。而《終結(jié)者》講的則是AI機(jī)器人在速度、力量、協(xié)調(diào)能力遠(yuǎn)超過(guò)人類后，對(duì)人類實(shí)施的統(tǒng)治和毀滅。

赫拉利說(shuō)，AI要對(duì)人類構(gòu)成足夠大的威脅，其實(shí)根本不需要滿足這兩條。什么時(shí)候危機(jī)就會(huì)降臨呢？只要AI可以掌握語(yǔ)言，能生成真假難辨的內(nèi)容就足夠了。

當(dāng)前的AI科技，正在這條線的邊緣。

人類有一個(gè)久遠(yuǎn)的恐懼，那就是困在虛幻中，不能觸碰到真實(shí)世界。比如，佛教講“六根六塵”——眼、耳、鼻、舌、身、意，色、聲、香、味、觸、法，這些互動(dòng)全都是暫時(shí)的幻覺(jué)，不能揭示真正的現(xiàn)實(shí)。佛教的終極目標(biāo)就是幫信徒看穿幻覺(jué)，最終實(shí)現(xiàn)覺(jué)醒和解脫。

另外，《美麗新世界》和其他反烏托邦小說(shuō)也都在描述一個(gè)令人恐怖的由權(quán)力編織的假世界。

所以，當(dāng)人們無(wú)法分辨真?zhèn)螘r(shí)，無(wú)邊的恐懼就降臨了。而AI不需要展現(xiàn)出意識(shí)和情感，不需要能靈活運(yùn)動(dòng)，就可以做到這一點(diǎn)。

比如，寫這篇文章時(shí)，我想找一個(gè)人類被虛幻籠罩而無(wú)法觸碰真實(shí)世界的例子，但我只想到了《1984》和《美麗新世界》。沒(méi)有ChatGPT的時(shí)候，我只能去網(wǎng)絡(luò)里一遍遍搜索，若想找到佛教“六根六塵”這樣好的例子，可能需要很長(zhǎng)時(shí)間。

但有了ChatGPT，我只需向它提問(wèn)：幾千年來(lái)，人們對(duì)困在幻覺(jué)世界的恐懼都有哪些著作？它瞬間就列出了6個(gè)：柏拉圖的洞穴寓言、東方瑪雅矩陣、浪漫主義和超驗(yàn)主義、反烏托邦文學(xué)、電影《黑客帝國(guó)》、佛教“六根六塵”教誨。

這簡(jiǎn)直太好了！然后我再追問(wèn)，“六根六塵”的說(shuō)法具體怎么體現(xiàn)人對(duì)困在幻覺(jué)世界的恐懼呢？得到的答案就是剛剛我說(shuō)到的內(nèi)容。當(dāng)然，我并不是直接復(fù)制粘貼，而是在寫進(jìn)稿子前又搜索核查了一遍，看看是不是和ChatGPT給出的解釋一致。

但更多的普通用戶，他們從ChatGPT上獲得了一個(gè)說(shuō)得通的答案，就不會(huì)再去核實(shí)了。而“說(shuō)得通”與“真”是兩碼事。假如你把一大堆說(shuō)得通但是編造的內(nèi)容當(dāng)作真實(shí)去看待的話，你的世界就已經(jīng)困在幻覺(jué)中了。

有人說(shuō)，這還不好辦？我核實(shí)一下不就完了嗎？

其實(shí)，我們之所以還能核實(shí)，是因?yàn)槟壳坝扇祟惍a(chǎn)生的內(nèi)容總量遠(yuǎn)遠(yuǎn)超過(guò)由AI產(chǎn)生的內(nèi)容，所以用谷歌搜索出的內(nèi)容99.999%不是AI編造的。但AI可以7×24小時(shí)無(wú)休止產(chǎn)出，它的產(chǎn)量是我們的千萬(wàn)倍。等到在網(wǎng)上一搜，搜出的結(jié)果有三分之一都是AI產(chǎn)生的，核實(shí)的步驟也就沒(méi)有意義了。

我聽說(shuō)李白有一首詩(shī)《夜泊牛渚懷古》，在ChatGPT上一搜，出現(xiàn)了兩首：

（一）牛渚西江夜，青天無(wú)片云。

登舟望秋月，空憶謝將軍。

（二）牛渚西江夜靜妖，

古渡無(wú)人舟自嬈。

哪個(gè)是真的呢？我就去網(wǎng)上核實(shí)，沒(méi)想到搜索結(jié)果里還有另外7個(gè)不同的版本。到底哪首是真李白寫的呢？

有些人分析，第一首才是真的，因?yàn)椤巴镌隆焙汀翱諔浿x將軍”更貼近懷古，更像感傷。但你之所以能看得出來(lái)，是因?yàn)榻裉斓腃hatGPT對(duì)中文語(yǔ)料輸出的水平還不夠。等今后足夠好的時(shí)候，只要不是信息考古專家，再聰明細(xì)致的人也分辨不出來(lái)。

生成式AI做出的這些改動(dòng)并不是隨機(jī)亂改，而是依據(jù)算法。算法可能是讓輸出更貼近人們經(jīng)常使用的表達(dá)方式，也可能是依據(jù)統(tǒng)計(jì)規(guī)律中呈現(xiàn)的人們的審美偏好，也可能是依照某些禁令做的刪改。

當(dāng)唐詩(shī)無(wú)法確認(rèn)真?zhèn)?，?jīng)書無(wú)法確認(rèn)真?zhèn)危覀冸y道就能確認(rèn)社交媒體上點(diǎn)燃我們情緒的發(fā)言、打動(dòng)我們的內(nèi)容就是真的嗎？今后很有可能出現(xiàn)的那些所謂微言大義的內(nèi)容難道就是真的嗎？

過(guò)去十年，社交媒體在爭(zhēng)奪人們注意力上打成了一鍋粥?，F(xiàn)在隨著AI的出現(xiàn)，爭(zhēng)奪的焦點(diǎn)已經(jīng)變成了情緒和信任，而要贏得這場(chǎng)勝利，AI并不需要具備意志、情感、情緒，也不需要能跑會(huì)跳、控制武器，它們只要能精細(xì)地生成真假難辨的內(nèi)容就足夠了。這就是尤瓦爾·赫拉利的擔(dān)憂。

最后，赫拉利也給出了明確的解決方法：嚴(yán)格標(biāo)注由AI生成的內(nèi)容，減慢從實(shí)驗(yàn)到產(chǎn)品的嘗試。慢下來(lái)后，就能看出更多潛伏的危機(jī)了，在危機(jī)成長(zhǎng)成災(zāi)難前給予監(jiān)管。

（摘自“得到App”，本刊有刪節(jié)，仙人掌圖）