2018年人工智能將面臨5項(xiàng)艱巨任務(wù)

編譯 陳軼翔

盡管2017年人工智能取得顯著進(jìn)步，但人工智能仍然無法做到或無法理解的事情還有很多，本文列舉了2018年亟待解決的5個(gè)問題。

2017年的人工智能領(lǐng)域取得了顯著進(jìn)步。例如，一款名為“冷撲大師”的人工智能機(jī)器人，完勝人類頂級(jí)撲克選手。在現(xiàn)實(shí)世界中，機(jī)器學(xué)習(xí)正被應(yīng)用于擴(kuò)大農(nóng)業(yè)和改善醫(yī)療保健等方面。

但最近你使用過Siri（iPhone上的語音控制功能）或Alexa（當(dāng)前擁有URL數(shù)量最龐大，排名信息發(fā)布最詳盡的網(wǎng)站）嗎？如果你用過，那么你就會(huì)知道，盡管有各種炒作，但人工智能仍然無法做到或無法理解的事情還有很多。專家們將在2018年重點(diǎn)研究以下5個(gè)棘手的問題：

使人工智能理解語言

在處理文本和語言方面，機(jī)器比以往任何時(shí)候的表現(xiàn)都要好。Facebook可以為視力受損的人朗讀圖像的描述；谷歌則在對(duì)電子郵件進(jìn)行簡(jiǎn)短回復(fù)方面表現(xiàn)出色。然而，軟件仍然無法真正理解我們?cè)捳Z的含義以及我們的想法。波特蘭州立大學(xué)教授梅蘭妮·米切爾（Melanie Mitchell）說：“我們?nèi)祟惪梢詫⑺鶎W(xué)的概念以不同的方法組合起來，并將它們應(yīng)用到新的情況中。而這是人工智能和機(jī)器學(xué)習(xí)系統(tǒng)無法做到的?！?/p>

米切爾認(rèn)為如今的軟件發(fā)展受到了數(shù)學(xué)家吉安·卡羅-羅塔（Gian Carlo-Rota）所說的“意義障礙”的限制。一些領(lǐng)先的人工智能研究團(tuán)隊(duì)正試圖弄清楚應(yīng)如何克服這一障礙。

研究工作的目的之一是使機(jī)器擁有常識(shí)，并熟悉支撐人類思維的物質(zhì)世界。例如，F(xiàn)acebook的研究人員正試圖通過讓機(jī)器觀看視頻的方式來教機(jī)器學(xué)習(xí)理解現(xiàn)實(shí)世界。另一些研究者則致力于使機(jī)器模仿人類對(duì)世界的理解。谷歌一直在試圖讓機(jī)器人學(xué)習(xí)理解世界的軟件。米切爾已經(jīng)嘗試用現(xiàn)有經(jīng)驗(yàn)和大量概念來訓(xùn)練系統(tǒng)以解釋照片中所發(fā)生的事情。

縮小阻礙機(jī)器人革命的現(xiàn)實(shí)差距

機(jī)器人硬件已經(jīng)發(fā)展得相當(dāng)不錯(cuò)了。你能夠以500美元的價(jià)格買到一臺(tái)帶有高清攝像頭只有手掌大小的無人機(jī)。那些運(yùn)送貨箱，用兩條腿走路的機(jī)器也有了改進(jìn)。那么為什么人類的生活還沒有全面運(yùn)用機(jī)器助手呢？——目前的機(jī)器人缺少“思維大腦”來指揮它們復(fù)雜的組織結(jié)構(gòu)。

讓機(jī)器人做任何事情都需要特定的編程來完成特定的任務(wù)。它們可以從重復(fù)的試驗(yàn)（和錯(cuò)誤）中學(xué)習(xí)類似操作任務(wù)，但這一過程相對(duì)緩慢。一個(gè)很有潛力的辦法是讓機(jī)器人在虛擬的仿真世界中訓(xùn)練，然后把獲得的信息下載到物理機(jī)器人的機(jī)身里。然而，這種方法卻存在難題——“現(xiàn)實(shí)差距”，這個(gè)詞語描述了機(jī)器人在仿真世界中學(xué)習(xí)的技能被轉(zhuǎn)化到現(xiàn)實(shí)世界中的機(jī)器上時(shí)并非總是可用的。

然而，“現(xiàn)實(shí)差距”正在縮小。2017年10月，谷歌報(bào)告的實(shí)驗(yàn)結(jié)果讓人們看到了希望——機(jī)械手臂學(xué)會(huì)了撿起各種各樣的物體，包括膠帶座、玩具和梳子。

對(duì)于致力于研究自動(dòng)駕駛汽車的人們來說，“現(xiàn)實(shí)差距”也進(jìn)一步縮小。競(jìng)相研究機(jī)器人駕駛的公司模擬在街道上部署虛擬汽車，以減少在真實(shí)交通和道路條件下進(jìn)行測(cè)試所需的時(shí)間和開支。自動(dòng)駕駛創(chuàng)業(yè)公司Aurora的首席執(zhí)行官——之前曾是谷歌之母——Alphabet公司的自動(dòng)駕駛汽車項(xiàng)目的負(fù)責(zé)人——克里斯·厄姆森（Chris Urmson）透露，讓虛擬測(cè)試更適用于真實(shí)的交通是他團(tuán)隊(duì)的首要任務(wù)之一。他說：“在接下來一年左右的時(shí)間里，我們將會(huì)看到如何利用這一點(diǎn)來加速機(jī)器學(xué)習(xí)?！?/p>

防范人工智能黑客

運(yùn)行電網(wǎng)、安全攝像頭和手機(jī)的軟件一直受到安全漏洞的困擾。自動(dòng)駕駛汽車軟件和家用智能軟件也會(huì)存在相同的問題，甚至可能更糟——有證據(jù)表明，機(jī)器學(xué)習(xí)軟件的復(fù)雜性會(huì)導(dǎo)致發(fā)展新的黑客攻擊途徑。

2017年的研究表明，你可以在一個(gè)機(jī)器學(xué)習(xí)系統(tǒng)中隱藏一個(gè)秘密的觸發(fā)機(jī)制，在一個(gè)特定的信號(hào)發(fā)出時(shí)，該機(jī)制會(huì)使系統(tǒng)進(jìn)入“搗蛋”模式。紐約大學(xué)的一個(gè)研究團(tuán)隊(duì)設(shè)計(jì)了一個(gè)路標(biāo)識(shí)別系統(tǒng)——除非看到黃色的便利貼，否則都能夠正常運(yùn)作。在布魯克林的一個(gè)停車標(biāo)志上貼上一張黃色便利貼，自動(dòng)識(shí)別系統(tǒng)就會(huì)發(fā)出限速要求。而類似小把戲就能造成大麻煩。

這個(gè)威脅被認(rèn)為是很嚴(yán)重的。2017年12月上旬在世界最著名的機(jī)器學(xué)習(xí)會(huì)議上，研究人員召開了為期一天的研討會(huì)以探討欺騙機(jī)器帶來的威脅。研究人員討論了一些會(huì)引發(fā)混亂的問題，比如在人類看來很正常的手寫數(shù)字，但在軟件看來卻有所不同。例如，你所看到的2，會(huì)被一個(gè)機(jī)器視覺系統(tǒng)看作是3。研究人員還討論了利用此類問題對(duì)人類進(jìn)行攻擊的可能，并對(duì)未來人工智能或許被用來愚弄人類表示擔(dān)憂。

組織該研討會(huì)的蒂姆·黃（Tim Hwang）預(yù)計(jì)，隨著機(jī)器學(xué)習(xí)變得更強(qiáng)大、更容易部署，使用這種技術(shù)來操縱人類是不可避免的。他說：“你不再需要很多博士來進(jìn)行機(jī)器學(xué)習(xí)。”蒂姆·黃指出，在2016年總統(tǒng)大選期間，俄羅斯的“假訊息活動(dòng)”就是人工智能強(qiáng)化的信息戰(zhàn)的一個(gè)預(yù)演。

超越棋盤游戲

Alphabet的“冠軍圍棋”軟件在2017年得到了快速發(fā)展。2017年5月，該軟件一個(gè)更強(qiáng)大的版本擊敗了中國(guó)的圍棋世界冠軍。該軟件的設(shè)計(jì)者——DeepMind公司，隨后創(chuàng)建了一個(gè)版本——AlphaGoZero，可以在不學(xué)習(xí)任何人類圍棋案例的情況下學(xué)習(xí)圍棋。12月，另一個(gè)升級(jí)版本誕生了——AlphaZero，可以學(xué)習(xí)國(guó)際象棋和日本棋盤游戲——將棋。

大量引人注目的進(jìn)展令人印象深刻，但也暗示了人工智能軟件的局限性。國(guó)際象棋、將棋和圍棋都很復(fù)雜，但都有相對(duì)簡(jiǎn)單的游戲規(guī)則，游戲設(shè)置對(duì)雙方都是可見的。它們很好地匹配了計(jì)算機(jī)可以快速計(jì)算很多未來可能布局的能力，但生活中的大多數(shù)情況及問題并非都是那么整齊有序。

這就是為什么DeepMind和Facebook都于2017年開始研發(fā)多人視頻游戲“星際爭(zhēng)霸”的原因。兩者都尚未取得較大進(jìn)展。目前，由業(yè)余愛好者打造的最好機(jī)器人，甚至都比不上那些中等技術(shù)的游戲玩家。DeepMind的研究人員奧里奧爾·溫亞爾斯（Oriol Vinyals）在2017年早些時(shí)候向《連線》雜志透露，他的軟件現(xiàn)在缺乏必要的規(guī)劃和記憶能力，而這些能力可以在組建和指揮軍隊(duì)的同時(shí)，對(duì)于對(duì)手的行動(dòng)進(jìn)行預(yù)測(cè)和反應(yīng)。另外，這些技能也會(huì)使軟件在幫助現(xiàn)實(shí)世界更好地完成任務(wù)，比如辦公室工作或真正的軍事行動(dòng)。2018年“星際爭(zhēng)霸”或類似游戲若取得重大進(jìn)展，可能預(yù)示著人工智能將出現(xiàn)一些強(qiáng)大的新應(yīng)用程序。

教人工智能辨別是非

即使在上述領(lǐng)域并未取得新進(jìn)展，如果現(xiàn)有的人工智能技術(shù)能得到廣泛應(yīng)用，經(jīng)濟(jì)和社會(huì)的很多方面也將發(fā)生巨大變化。由于政府和很多公司都急于做到這一點(diǎn)，一些人對(duì)于人工智能和機(jī)器學(xué)習(xí)可能帶來的意外和故意傷害深感擔(dān)憂。

在2017年12月召開的網(wǎng)絡(luò)入侵防護(hù)系統(tǒng)（NIPS）機(jī)器學(xué)習(xí)會(huì)議上，一個(gè)重要的議題就是如何將技術(shù)控制在安全和倫理道德的范圍內(nèi)。研究人員發(fā)現(xiàn)，機(jī)器學(xué)習(xí)系統(tǒng)在接受數(shù)據(jù)訓(xùn)練時(shí)，可以挑選出令人討厭的或不必要的行為，比如性別歧視。目前，一些人正在研究可以用于審核人工智能系統(tǒng)內(nèi)部運(yùn)作的技術(shù)，并確保它們?cè)诮鹑诨蜥t(yī)療等行業(yè)工作時(shí)能做出公正決策。

2018年，科技公司將會(huì)提出一些想法——關(guān)于如何使人工智能保持在人性美好的一面。谷歌、Facebook、微軟和其他一些公司已經(jīng)開始討論這個(gè)問題，這些公司都是一家名為“人工智能合作”的新型非營(yíng)利組織的成員，該組織將研究并試圖改變?nèi)斯ぶ悄艿纳鐣?huì)影響。一個(gè)名為“人工智能道德與行業(yè)管理基金”的慈善項(xiàng)目用來資助麻省理工學(xué)院、哈佛大學(xué)和其他研究人工智能的機(jī)構(gòu)，以維護(hù)公眾利益。紐約大學(xué)一個(gè)新的研究機(jī)構(gòu)——AI Now也有類似的使命。在該機(jī)構(gòu)最近發(fā)布的一份報(bào)告中，呼吁各國(guó)政府在刑事司法或福利等領(lǐng)域應(yīng)堅(jiān)決放棄使用不接受公眾審查的“黑箱”算法。