人工智能的倫理問題

彼得·辛格

無人駕駛車業(yè)已駛上加利福尼亞的公路，現(xiàn)在言及如何讓機器的行為符合倫理為時已不算太早。超級智能或許離我們太遙遠，但是，我們可以開始考慮如何讓人工智能符合人類、

乃至所有有感情的生物的利益了。

上個月，一款專門被設(shè)計用于下圍棋的電腦程序“阿爾法狗”（AlphaGo）以4：1擊敗世界頂尖職業(yè)圍棋選手李世石，在圍棋愛好者群體中引發(fā)轟動。

你可能會問，這算是新聞嗎？早在二十年前，IBM的電腦“深藍”（Deep Blue）就曾打敗過國際象棋世界冠軍加里·卡斯帕羅夫；且眾所周知，自那以后技術(shù)一直在進步。但是，“深藍”獲勝純因計算能力，它能比世界冠軍計算出更多步棋。相比8×8格的國際象棋，圍棋的棋盤更復(fù)雜，為19×19格，圍棋可能的走法要超過宇宙中的原子數(shù)，因此，單憑強大的計算能力不太可能打敗對最佳走法有著強烈直覺的人類。

“阿爾法狗”的勝利之道，在于同其他程序進行海量對弈，并采納被證明成功的戰(zhàn)略。因而可以說，“阿爾法狗”進化為全世界最優(yōu)秀的圍棋選手只用了兩年，而人類的大腦在自然過程中完成這樣的進化，可能需要數(shù)百萬年的時間。

“阿爾法狗”的主人、谷歌公司執(zhí)行董事長埃里克·施密特（Eric Schmidt）熱衷于人工智能（AI）。他在人機大戰(zhàn)之前表示，無論結(jié)果如何，人類必將是贏家，因為人工智能的進步會令每個人更聰明、能力更強，“只會讓人類更美好”。

果真如此嗎？就在“阿爾法狗”凱旋的同時，微軟的“聊天機器人”泰勒（Taylor）卻嘗到了苦頭。這款自稱“Tay”的機器人的用途是與18～24歲的年輕人互動。Tay可以從接收到的信息中學(xué)習(xí)，并逐步提高對話能力。不幸的是，上線不到一天，就有人“教導(dǎo)”Tay有關(guān)種族主義和性別歧視的觀點。當(dāng)她開始贊揚希特勒時，微軟不得不將其關(guān)閉，并刪掉了其大部分攻擊性的言論。

我不知道那些將Tay教成種族主義者的人自己是否是種族主義者，抑或他們只是認為玩壞微軟的新產(chǎn)品是饒有趣味的事。但不管怎樣，“阿爾法狗”的勝利與Tay的失敗同樣令人類警醒。在有著特定規(guī)則和明確目標(biāo)的游戲中釋放人工智能的潛能是一回事，而把人工智能投入真實世界則是另一回事——兩者截然不同，環(huán)境的不可預(yù)知性可能暴露軟件漏洞，引發(fā)災(zāi)難性后果。

牛津大學(xué)人類未來研究所所長尼克·波斯特洛姆（Nick Bostrom）在其著作《超級智能》（Super intelligence）中指出，關(guān)閉一個智能機器并不總是像關(guān)閉Tay那樣輕而易舉。他將“超級智能”定義為“幾乎在任何領(lǐng)域都超越人類最聰明大腦的智能，包括科學(xué)創(chuàng)造力、整體智慧和社交能力”。這樣的系統(tǒng)也許能挫敗我們關(guān)閉它的企圖。

有人質(zhì)疑超級智能會不會實現(xiàn)。對此，波斯特洛姆 和文森特·穆勒（Vincent Müller）一起咨詢了人工智能專家，問機器智力何時能有50%的可能達到人類水平，以及何時有90%的幾率達到人類水平。估計的中位數(shù)顯示，50%的可能性在2045～2050年達成，90%的可能性在2075年達成。大部分專家都預(yù)計，達到人類智能后不到30年，人工智能就會發(fā)展到超級智能水平。

我們不應(yīng)對這些估計太較真，因為專家總體的回復(fù)率只有31%，而且這一領(lǐng)域的研究者們往往想通過拔高人工智能的潛力來提高自己所在領(lǐng)域的重要性。

超級智能或許離我們太遙遠，尤其是在我們還面臨更緊迫的問題時更是如此。但是，我們可以開始考慮如何讓人工智能符合人類、乃至所有有感情的生物的利益。

無人駕駛車業(yè)已駛上加利福尼亞的公路，現(xiàn)在言及如何讓機器的行為符合倫理為時已不算太早。隨著無人駕駛車的改進，他們將拯救生命，因為他們比人類司機更少犯錯誤。然而，他們有時也將面臨在不同的生命間做出選擇。比如，他們是否應(yīng)該急轉(zhuǎn)彎以免撞到橫穿馬路的小孩，而不顧將車上乘客置于險境？前面出現(xiàn)小狗該怎么辦？如果為了不危及乘客安全而采取的措施對車本身有損，又該怎么辦？

只是在開始討論無人駕駛汽車時，我們可能就會發(fā)現(xiàn)有許多功課要做。但無人車畢竟并非超級智能。可以想見，在廣泛的領(lǐng)域向比我們還要聰明的機器講解倫理問題，更將是極其困難的任務(wù)。

在《超級智能》一書的開頭，波斯特洛姆講了一個麻雀的寓言：這些麻雀心想，如果能培訓(xùn)一只貓頭鷹來幫助他們筑巢和撫育雛鳥，一定很不錯。于是，他們開始找貓頭鷹蛋。其中一只麻雀站出來表示反對，認為應(yīng)該先考慮如何馴服貓頭鷹；但其他麻雀很不耐煩，迫不及待地就著手啟動激動人心的新計劃。他們將在成功養(yǎng)大一只貓頭鷹后應(yīng)對馴服貓頭鷹的挑戰(zhàn)，例如不讓其吃掉麻雀。

如果我們想得到一只有智慧而不僅僅是智能超群的貓頭鷹，那就別學(xué)那些沒有耐心的麻雀們。