超級(jí)智能機(jī)器終將掌控世界？

尹傳紅

打小癡迷科普科幻，書香悅讀一路相伴。分享科學(xué)奇美理趣，留下探索思考印記。

前不久，一個(gè)頂尖國際研究團(tuán)隊(duì)的理論計(jì)算結(jié)果證明，我們很可能無法控制超級(jí)智能機(jī)器。該研究團(tuán)隊(duì)構(gòu)想的一種理論遏制算法——通過模擬人工智能（AI）的行為并在被認(rèn)為有害的情況下予以制止，已被證明是不可計(jì)算的，即任何單一算法都無法找到一個(gè)判斷AI是否會(huì)對(duì)世界造成傷害的解決方案。

“一個(gè)超級(jí)智能機(jī)器控制整個(gè)世界，這聽起來像是科幻小說。但是，已經(jīng)有一些機(jī)器能夠獨(dú)立完成某些重要任務(wù)，而程序員卻不完全了解它們是如何學(xué)會(huì)的?！眳⑴c此項(xiàng)研究的馬克斯·普朗克人類發(fā)展研究所人類與機(jī)器研究專家曼努埃爾·塞布里安說，“因此，問題就出現(xiàn)了，這種情況是否會(huì)在某一時(shí)刻變得無法控制并對(duì)人類構(gòu)成危險(xiǎn)?！?/p>

類似的一種情形是，如果有人要為一個(gè)智能優(yōu)于人類的AI系統(tǒng)編程，使得它可以獨(dú)立學(xué)習(xí)，那么，與互聯(lián)網(wǎng)相連的AI可能會(huì)訪問人類的所有數(shù)據(jù)，可以取代現(xiàn)有的所有程序，并在線控制全世界所有機(jī)器。

這絕非危言聳聽。曾密切觀察芯片、電腦、網(wǎng)絡(luò)的發(fā)展，以及這幾個(gè)領(lǐng)域之間彼此影響情況的美國未來學(xué)家詹姆斯·坎頓驚嘆：一個(gè)建立在全球網(wǎng)絡(luò)上的虛擬意識(shí)已經(jīng)呼之欲出了！可以說網(wǎng)絡(luò)代表了一個(gè)連接了數(shù)百萬臺(tái)電腦的心智。當(dāng)我們把能源、健康、安全、防衛(wèi)、通信、金融、市場(chǎng)等越來越多的基礎(chǔ)運(yùn)作交給彼此相連的超級(jí)電腦來處理時(shí)，就越有可能會(huì)出現(xiàn)獨(dú)立思考的電腦智能。而全球有這么多臺(tái)電腦彼此相連，其可能性是無限的……

英國牛津大學(xué)的哲學(xué)家尼克·博斯特羅姆也表達(dá)過他的憂慮：“我們不能輕率地假定超智能機(jī)器一定會(huì)與人類共享任何智慧，以及與人類智力發(fā)展相連接的終極價(jià)值。”

2018年逝去的英國著名物理學(xué)家斯蒂芬·霍金生前曾警告說，人工智能“可能是發(fā)生在人類身上最好同時(shí)也是最糟糕的事情，所以正確的引導(dǎo)意義重大。”美國著名工程師、實(shí)業(yè)家埃隆·馬斯克認(rèn)為創(chuàng)造人工智能是“召喚惡魔”的舉動(dòng)，并將其視為人類“最大的生存危機(jī)”。

看起來，人類最當(dāng)提防的，是邪惡的人工智能自我誕生。在科幻電影《機(jī)械姬》《終結(jié)者》和《黑客帝國》中，對(duì)具有獨(dú)立意識(shí)、意欲控制或毀滅人類的智能機(jī)器，都有駭人的描述。

可以想見，如果人類會(huì)喪失理智，在某種意義上講，人工智能也可能會(huì)。一旦人類不再是地球上最聰明的物種，那么他們的存亡將取決于超越他們的物種的想法。甚至有人提出，我們現(xiàn)在就已經(jīng)理解不了自己所創(chuàng)造的東西，這種不透明性會(huì)永遠(yuǎn)不可避免地指向暴力。

從模擬人類智能延伸而來的人工智能，如今已成為全球數(shù)字化發(fā)展的核心賦能技術(shù)，近20年來一直處于開放性的高速發(fā)展之中且具有高度的不確定性。它與物聯(lián)網(wǎng)、基因編輯等一道，被視為可能會(huì)對(duì)經(jīng)濟(jì)社會(huì)與人類未來造成根本性、深遠(yuǎn)性、普遍性影響的顛覆性技術(shù)。

身處方向不明的變革時(shí)代，人們常常會(huì)以一種不安的心態(tài)看待未來，似乎進(jìn)步本身就意味著風(fēng)險(xiǎn)。而一些案例研究表明，依賴復(fù)雜系統(tǒng)的風(fēng)險(xiǎn)是難以預(yù)測(cè)的，因此很容易完全失控。

今天，在世界各國紛紛提出人工智能發(fā)展規(guī)劃和戰(zhàn)略的同時(shí)，人工智能的倫理風(fēng)險(xiǎn)與治理也成為全球共同關(guān)注的焦點(diǎn)。對(duì)人工智能可能造成的社會(huì)影響進(jìn)行更加深入系統(tǒng)的研究應(yīng)該提上議程了，在此基礎(chǔ)上構(gòu)建起考慮到最壞情形的社會(huì)風(fēng)險(xiǎn)防范機(jī)制也勢(shì)在必行。