人工智能贏了，人類該恐懼嗎

劉慈欣

“阿法狗”和李世石的圍棋大戰(zhàn)最終以4：1落幕。伴隨人機(jī)大戰(zhàn)而起的，除了有關(guān)人類尊嚴(yán)的話題，就是對(duì)人工智能快速發(fā)展的恐懼。這種恐懼并非完全沒(méi)道理，但可能方向錯(cuò)了。

像科幻小說(shuō)或電影描述得那樣，人工智能將“崛起”并最終統(tǒng)治人類，這是許多關(guān)心這一問(wèn)題的人共有的恐懼。計(jì)算機(jī)剛出現(xiàn)不久，計(jì)算速度就遠(yuǎn)比人快，現(xiàn)在人工智能在圍棋比賽中戰(zhàn)勝人類，也只是量變而非質(zhì)變，因?yàn)樵居?jì)算、檢索等就是其擅長(zhǎng)領(lǐng)域。而在其他領(lǐng)域，人工智能進(jìn)展十分緩慢。很多事人類做起來(lái)易如反掌，計(jì)算機(jī)卻基本上做不了，最明顯的是理解自然語(yǔ)言，目前計(jì)算機(jī)只能做到把語(yǔ)言抽出來(lái)和數(shù)據(jù)庫(kù)相匹配進(jìn)行對(duì)應(yīng)式理解，對(duì)于復(fù)雜語(yǔ)言的理解，計(jì)算機(jī)也無(wú)能為力。此外，人類的直覺(jué)、想象力和依靠極不完整的信息做出判斷等能力，對(duì)目前的計(jì)算機(jī)來(lái)說(shuō)非常困難。目前，包括“阿法狗”在內(nèi)的弱人工智能，要想在智力上全面超越人類還遙不可及。至于說(shuō)“天網(wǎng)”覺(jué)醒，只需要科幻作家考慮就行了。

“天網(wǎng)”般的強(qiáng)人工智能如真能出現(xiàn)，人類依然可以應(yīng)對(duì)。人工智能不可能強(qiáng)大到?jīng)]有弱點(diǎn)。人類也不可能預(yù)測(cè)不到某種級(jí)別的強(qiáng)人工智能即將出現(xiàn)，所以必然會(huì)在其出現(xiàn)之前采取一系列措施，譬如不讓它與外部世界有硬件上的連接或是斷絕所有能量供應(yīng)，讓其沒(méi)辦法生存等。再退一萬(wàn)步，即便強(qiáng)人工智能最后自我生存下來(lái)，避免被人類消滅，人類也可能找到與之共存的方法，并不是一定會(huì)被其奴役，比如人機(jī)結(jié)合就是一個(gè)共存的途徑。

人類要想抵達(dá)強(qiáng)人工智能階段，至少還面臨三道技術(shù)障礙，最終它們能不能被克服，目前仍不得而知。第一，我們對(duì)自身意識(shí)的產(chǎn)生、智力以及腦科學(xué)研究還處于初級(jí)階段。大腦神經(jīng)元數(shù)量就像銀河系的星星一樣有上千億個(gè)，每一個(gè)神經(jīng)元結(jié)構(gòu)都極其復(fù)雜。目前，有科學(xué)家認(rèn)為人的智力過(guò)程可能是在量子層面上發(fā)生，而量子世界的物理規(guī)律比宏觀世界的要復(fù)雜得多。第二，目前計(jì)算機(jī)的性能提升速度很快，但使用的還是上世紀(jì)四十年代馮·諾依曼結(jié)構(gòu)，這與我們并行的大腦結(jié)構(gòu)完全不同。而對(duì)新結(jié)構(gòu)的計(jì)算機(jī)研究進(jìn)展卻很緩慢。第三，更為傳統(tǒng)的障礙是現(xiàn)階段計(jì)算機(jī)總體計(jì)算容量還沒(méi)達(dá)到人腦的容量。基于計(jì)算機(jī)摩爾定律，人們?cè)A(yù)測(cè)計(jì)算機(jī)不久就會(huì)達(dá)到人腦的計(jì)算容量。但目前集成電路工業(yè)的發(fā)展趨勢(shì)已有放慢跡象，摩爾定律可能行將失效。

其實(shí)，我們更應(yīng)擔(dān)憂的是人工智能將搶走人類的工作，而這種進(jìn)程已經(jīng)開(kāi)始。目前，電子商務(wù)中的選貨、付款等網(wǎng)絡(luò)銷售系統(tǒng)操作過(guò)程都需依賴人工智能。在可見(jiàn)的未來(lái)，更多的服務(wù)性行業(yè)、機(jī)械性的工作都將由人工智能替代，它可能讓我們的社會(huì)結(jié)構(gòu)產(chǎn)生很大改變。

因此，現(xiàn)在也到了需要考慮人類與人工智能關(guān)系的時(shí)刻?，F(xiàn)在看來(lái)，人工智能和人類兼具伙伴、朋友和競(jìng)爭(zhēng)對(duì)手的關(guān)系。核能最初作為恐怖武器曾可能毀滅世界，但最后還是人類的理性戰(zhàn)勝了瘋狂，現(xiàn)在核能基本被關(guān)到籠子中，成為了人類伙伴。人工智能也是這樣，發(fā)展人工智能肯定面臨風(fēng)險(xiǎn)，但任何技術(shù)發(fā)展都面臨風(fēng)險(xiǎn)，人類不會(huì)因此而不去發(fā)展。人工智能是人類文明發(fā)展的希望，但發(fā)展過(guò)程中如果有危險(xiǎn)，那我們必須共同去面對(duì)，并努力消除它?！ㄗ髡呤侵苹米骷?，代表作《三體》，本文由吳志偉采訪整理）