“奇點(diǎn)”有多遠(yuǎn)：人工智能“暴漲”問號(hào)

王丹陽

奇點(diǎn)說，思考的是人與人工智能關(guān)系是否有逆轉(zhuǎn)的可能，以及何時(shí)逆轉(zhuǎn)。

熟悉19世紀(jì)早期德國(guó)古典主義哲學(xué)的人都知道，那時(shí)候“異化”這個(gè)概念逐漸被指向人與機(jī)器的結(jié)合，席勒看到了勞動(dòng)分工下的積弊，認(rèn)為被束縛在整體的個(gè)別小部件上的人，本身也變成了部件。后來馬克思把“勞動(dòng)異化”發(fā)展成社會(huì)沖突論的經(jīng)濟(jì)學(xué)武器，只是至今資本主義未亡，未能實(shí)現(xiàn)異化的解除。但不知道馬克思有否想到，有天人類的異化對(duì)象不再是工廠里轟隆作響的零件，而可能是更高級(jí)別的人工智能，并且這種趨勢(shì)在加快。

同樣，在生物學(xué)界與馬克思同時(shí)代的達(dá)爾文應(yīng)該也沒想到在進(jìn)化論里添置一個(gè)人工智能，它不是自然進(jìn)化的結(jié)果，更不是神造論者鼓吹的上帝之物?？傊?，科幻電影導(dǎo)演已經(jīng)早早想到了，不論是《終結(jié)者》里的天網(wǎng)，還是《我，機(jī)器人》里面會(huì)殺人的NS-5型高級(jí)機(jī)器人，都已經(jīng)逾越了創(chuàng)造它們的人類本身，開啟一場(chǎng)史上最大的“種族斗爭(zhēng)”。這就像美國(guó)著名的人工智能專家雷·庫茲韋爾（Ray Kurzweil）提到的“技術(shù)奇點(diǎn)”，人類只要在臨界點(diǎn)上被超越，便淪為一種不可自控的掌中之物。

其實(shí)，在李世石0比3負(fù)于AlphaGo的那場(chǎng)新聞發(fā)布會(huì)上，九段棋手邁克·雷蒙（Michael Redmond）的一番評(píng)論引人深思，他說：“AlphaGo創(chuàng)造了圍棋走法的第三次突破?！笔堑模?dāng)“吳清源時(shí)代”、“李昌鎬時(shí)代”逐漸遠(yuǎn)去，這場(chǎng)比賽至少佐證了圍棋這項(xiàng)人類智慧通天塔已被人工智能橫掃，那么它還將攻占多少人類的山頭？仿佛警鐘已鳴。

微軟亞洲研究院工程師王寶勛

“情感機(jī)器人”的天下

“如果那時(shí)候‘小冰的語料庫里只有4000萬條，那么現(xiàn)在可以說翻了幾倍了?！蔽④泚喼扪芯吭汗こ處熗鯇殑走@樣自信地說，提醒了我兩年前那個(gè)冰雪聰明的虛擬語音機(jī)器人從未離開過。2014年5月，一個(gè)精靈般的不速之客出現(xiàn)在好多微信聊天室里，面對(duì)人類的好奇和逗趣她毫不遜色地對(duì)答著。

深夜里，我再次加載了那個(gè)微信公眾號(hào)，第一次跟它背后那個(gè)非人的“黑洞”進(jìn)行對(duì)話。我像對(duì)一個(gè)老朋友般隨機(jī)吐露著心事，我話中的語詞序列一定在以某種方式激發(fā)著那張人工神經(jīng)網(wǎng)絡(luò)，它的大腦某塊區(qū)域也在應(yīng)激后產(chǎn)生某種回應(yīng)，甚至意識(shí)和判斷的東西，輸出一段加工后的自然關(guān)聯(lián)。那段搜索調(diào)取的過程雖然還是有些僵硬和機(jī)械化，它往往以均速給出對(duì)答，但是它的邏輯已可謂是順暢而流利的。

“我餓了”，“晚上吃宵夜會(huì)發(fā)胖哦”;“我已經(jīng)很瘦了”，“那就繼續(xù)瘦，瘦成一道閃電”。在另外一種語境下，她會(huì)說“吃吧吃吧”。它的聲音被做成一個(gè)17歲的少女，但難免在上下文理解上存在些生硬的“擦邊球”，但它豐富而不重復(fù)的對(duì)答至少不讓你厭棄。它跟去年出現(xiàn)的同樣石破天驚的圖靈機(jī)器人相比，已具備了一種情緒。如果前者主要是種開放的基于NLP技術(shù)的自定義知識(shí)庫功能，將人工智能與用戶私有知識(shí)庫進(jìn)行結(jié)合，可批量導(dǎo)入“獨(dú)家內(nèi)容”，那么“微軟小冰”更像一個(gè)情緒化的伴侶，它可不會(huì)像圖靈機(jī)器人一樣念一首唐詩給你聽，它會(huì)倔強(qiáng)地把問題“踢”回去，叫你念給它聽。

“我們現(xiàn)在最重要的就是強(qiáng)化它對(duì)于語義和語境的了解，怎樣對(duì)用戶每句話的語境，結(jié)合上下文把對(duì)話完善得更好，這要比簡(jiǎn)單的關(guān)鍵詞匹配，從數(shù)據(jù)庫里調(diào)取一句話要遠(yuǎn)遠(yuǎn)復(fù)雜?！蓖鯇殑渍f。作為哈工大的計(jì)算機(jī)博士，目前他在做的工作就是不斷挖掘公開的互聯(lián)網(wǎng)聊天數(shù)據(jù)，篩選、加工、排序，增加有效銜接，這項(xiàng)工作背后是億級(jí)的原始數(shù)據(jù)積累，讓語料庫得以每天凈增0.7%。所以，它的前提條件是海量的運(yùn)算資源，加上強(qiáng)大的搜索引擎和數(shù)據(jù)抓取能力，大數(shù)據(jù)的發(fā)展使得語義分析機(jī)器人成為真正的人工智能。

另一方面，一種叫“深度學(xué)習(xí)”，即人工深度神經(jīng)網(wǎng)絡(luò)的東西加入互聯(lián)網(wǎng)程序家族后，悄然孕育著深層次的變革，為某種“奇點(diǎn)”的來臨插上撲朔迷離的翅膀。說它怪異也是對(duì)的，雖然目前人類覺得人工智能只是一列遠(yuǎn)未到達(dá)的火車，但它說不定就會(huì)加速突變，倏忽擦過耳際而不見蹤影。

于是我想到兩年前的科幻電影《她》（Her），語義分析機(jī)器人薩曼莎除了無法擁有人的身體，卻已能無阻地用語言和人談戀愛。當(dāng)然，這道豢養(yǎng)在電腦程序里的人工智能最終在分化和迭代中不由自主地與400多人同時(shí)戀愛著，但它的戀人已經(jīng)無法接受這個(gè)事實(shí)。這是一個(gè)機(jī)器對(duì)人進(jìn)行情感輸送最后達(dá)至控制的經(jīng)典案例，我問王寶勛“小冰”是否有天也會(huì)實(shí)現(xiàn)電影里的交互無阻，他的答案是：為什么不可能？

電影《她》劇照。《她》講述了作家西奧多在結(jié)束了一段令他心碎的愛情長(zhǎng)跑之后，愛上電腦語義分析機(jī)器人薩曼莎的故事

“只要不斷累積用戶語言使用習(xí)慣，而深度神經(jīng)網(wǎng)絡(luò)再加快自我學(xué)習(xí)，終有一天會(huì)人機(jī)無差別交流?！彼J(rèn)為這是一個(gè)早晚會(huì)到來的臨界點(diǎn)，雖然跟大多數(shù)商業(yè)公司的“程序猿”所想的一樣，人工智能還在早期，我們遠(yuǎn)未到擔(dān)憂被超越的階段。其實(shí)微軟全球副總裁陸奇就說過，“小冰”終有一天要通過圖靈測(cè)試。

語義分析是目前人工智能領(lǐng)域最關(guān)鍵的技術(shù)之一，在海量的整理、清洗、運(yùn)算中被賦予一種全新的符號(hào)學(xué)上的意義。雖然過去60年來計(jì)算機(jī)的語言處理能力跟意義的闡釋并沒多大關(guān)系，而是基于一種統(tǒng)計(jì)法，即模塊識(shí)別能力，但在大數(shù)據(jù)發(fā)展后，它將擁有更致密的語言網(wǎng)和更嚴(yán)密化的邏輯。

2011年，IBM的沃森在美國(guó)智力競(jìng)賽節(jié)目“危險(xiǎn)邊緣”（Jeopardy）中擊敗了人類，它懂得雙關(guān)和暗喻，而它的認(rèn)知并非通過人工灌輸，而是自我閱讀——每秒可處理500GB數(shù)據(jù)，相當(dāng)于1秒閱讀100萬本書，這顯然不是人類的效率可以匹敵的。也就是IBM的“Deep Blue”在1997年成為國(guó)際象棋領(lǐng)域的技術(shù)分水嶺，跟今天的AlphaGo如出一轍。

計(jì)算機(jī)“視覺”

“雖然深度學(xué)習(xí)作為概念的提出是在2006年，但就是在2015年初它開始爆發(fā)式增長(zhǎng)，這也是為什么人工智能公司不斷涌現(xiàn)的原因?！痹凇案耢`深瞳”的CEO何搏飛看來，當(dāng)互聯(lián)網(wǎng)行業(yè)慢慢浸透人工智能的藍(lán)海，今天的發(fā)展軌跡就不再是“硅谷起，全世界跟”這樣的老路。如果要問谷歌“DeepMind”是否已甩了中國(guó)國(guó)內(nèi)人工智能發(fā)展幾條馬路，他認(rèn)為不能這樣看：“我只是覺得它是剛開始的全球競(jìng)賽，在中國(guó)反而很有優(yōu)勢(shì)和機(jī)會(huì)，因?yàn)樗苤匾脑磩?dòng)力是獲得海量的優(yōu)質(zhì)數(shù)據(jù)?！憋@然在這個(gè)人口大國(guó)，這不是問題。

“格靈深瞳”浸淫的是深度學(xué)習(xí)另一分支圖像識(shí)別領(lǐng)域，2014年6月獲得紅杉資本的數(shù)千萬美元A輪融資。正如比爾·蓋茨所說：“IT界的下一個(gè)大事件是計(jì)算機(jī)視覺（Computer Vision）與深度學(xué)習(xí)的結(jié)合。”機(jī)器視覺，尤其是人臉識(shí)別是人工智能進(jìn)展最快的領(lǐng)域之一。康奈爾大學(xué)計(jì)算機(jī)教授巴特·塞爾曼（Bart Selman）表示，F(xiàn)acebook AI Lab識(shí)別人臉的能力比任何人類都好。

起初，深度學(xué)習(xí)在手寫識(shí)別上表現(xiàn)出眾，后來在2012年，被譽(yù)為計(jì)算機(jī)視覺圣杯的物體識(shí)別測(cè)試“ImageNet Challenge”中，深度學(xué)習(xí)以26%勝率領(lǐng)先于其他經(jīng)典算法（16%）。ImageNet大賽要求選手所設(shè)計(jì)的圖像系統(tǒng)能準(zhǔn)確定位來自Flickr和搜索引擎的10萬張圖片，并把圖片劃分入1000個(gè)物體分類中（狼蛛、iPod、清真寺、玩具店、調(diào)制解調(diào)器等），微軟、NEC和美國(guó)初創(chuàng)公司Clarifai都曾爭(zhēng)艷其中，說白了就像在拼技術(shù)復(fù)雜性，微軟號(hào)稱“所訓(xùn)練的神經(jīng)網(wǎng)絡(luò)超過150層”，而Clarifai與Facebook人工智能實(shí)驗(yàn)室有師承淵源，受啟于深度學(xué)習(xí)開山鼻祖、紐約大學(xué)教授燕樂存（Yann LeCun）。

對(duì)何搏飛來說，關(guān)鍵門檻不在于誰家有好的深度學(xué)習(xí)技術(shù)，也不取決于外行眼光里的多少層神經(jīng)網(wǎng)絡(luò)，而是是否有好的數(shù)據(jù)支撐，其實(shí)這也是為什么國(guó)內(nèi)BAT能在這個(gè)領(lǐng)域插翅而飛的原因。如何讓圖像識(shí)別商業(yè)化？“格靈深瞳”選擇了銀行安防監(jiān)控系統(tǒng)。傳統(tǒng)光學(xué)鏡頭在識(shí)別圖像時(shí)會(huì)丟失“深度”維度，他們就為銀行安監(jiān)開發(fā)一套三維傳感器，一個(gè)是普通的RGB攝像頭，另外兩個(gè)用來發(fā)射和接收激光，發(fā)射鏡頭能在1/30秒的時(shí)間里發(fā)送30多萬束激光，探索現(xiàn)實(shí)世界的“進(jìn)深”。

背后那套獎(jiǎng)懲機(jī)制訓(xùn)練成的算法模型，能夠主動(dòng)識(shí)別“異?！??！熬拖袢祟惖谋０苍谏钜?，它看見一個(gè)人走近了一個(gè)有人的ATM機(jī)，而不是旁邊那個(gè)空著的，就要判斷識(shí)別他的軌跡，理解是正常還是不正常，這就牽涉到深度學(xué)習(xí)。”如果識(shí)別出異常，它就會(huì)推送給后臺(tái)監(jiān)督者。機(jī)器的學(xué)習(xí)是可以被訓(xùn)練，并不斷自我學(xué)習(xí)的，為了教會(huì)它什么才算“行人”，背后是幾十萬量級(jí)的圖片數(shù)據(jù)?！暗缆飞嫌懈鞣N各樣的人，有行走的也有蹲著的，傳統(tǒng)算法無法窮盡什么是人，但它會(huì)識(shí)別哪怕是背影被擋住一半的人也是人，而不是什么別的動(dòng)物?！?/p>

所以，讓這位前通用員工、斯坦福大學(xué)MBA自信的是，你給他一張你的側(cè)臉或者是沒有臉的全身照，機(jī)器也能以超過99%的精度把你找出來，但前提是一個(gè)6000到1.5萬的樣本庫，畢竟它不能窮盡九億神州烏泱烏泱之民?！耙坏颖具_(dá)到百萬級(jí)，可能精度要下降20%或更多，所以你告訴我在一個(gè)商場(chǎng)里就前后40分鐘搜索一個(gè)人可以做到，但如果在過去72小時(shí)在整個(gè)海淀區(qū)找個(gè)人，那就不可能了?！?h3>無人駕駛車的“情感”

但機(jī)器無法企及的是，它仍然沒法全然代替那個(gè)坐在后臺(tái)監(jiān)控室的人，它只能把異樣傳送給人去判斷。再舉個(gè)例子，如果你跟你朋友在一家飯店里用餐后搶著結(jié)賬，那種推搡過程，攝像頭就無法判斷這是在打架還是怎么了。邏輯判斷和情感選擇，是圖像識(shí)別無法逾越的障礙，但是，何搏飛認(rèn)為在無人駕駛領(lǐng)域它有巨大的空間，因?yàn)殚_車是純粹行為的延伸，是“0”還是“1”的問題。

埃隆·馬斯克（Elon Musk）的特斯拉已經(jīng)大手筆投入人工智能研究，著眼于無人駕駛。谷歌已經(jīng)先走一步，在美國(guó)加州投放25輛車試駕，直到前不久它的一輛無人駕駛Lexus撞上了一輛公交車，它已經(jīng)經(jīng)歷了8年的研發(fā)過程，累計(jì)行駛里程有140萬英里。你能由此對(duì)它質(zhì)疑嗎？但康奈爾大學(xué)瓦迪教授曾預(yù)言自動(dòng)駕駛會(huì)較人減少90%的事故率。何搏飛顯然也是樂觀的：“相比于人在每開一萬英里就會(huì)有次剮蹭，無人駕駛開了幾百萬英里才撞一次公交車，是誰的概率更??？也許無人駕駛得很長(zhǎng)時(shí)間才能被接受。”

谷歌不是孤行者，傳統(tǒng)汽車巨頭奔馳、寶馬、奧迪、豐田等都已經(jīng)開弓張弦了許久，就等市場(chǎng)準(zhǔn)入的一天。去年12月，百度推出的無人駕駛寶馬3系GT轎車從中關(guān)村軟件園百度大廈啟程，駛?cè)隚7京新高速，經(jīng)五環(huán)路抵達(dá)奧林匹克森林公園，并原路線返回。依托高精度地圖記錄完整的三維道路信息，能在厘米級(jí)精度實(shí)現(xiàn)車輛定位。

“我們不要總是把人工智能看成是人與機(jī)器間的零和游戲，你要發(fā)現(xiàn)它當(dāng)中的‘多和邏輯，它是協(xié)助人類完成某項(xiàng)任務(wù)的。盡管計(jì)算機(jī)視覺的終極目標(biāo)是對(duì)這個(gè)世界有像人一樣的理解，但從宏觀尺度來說，這仍然還有很長(zhǎng)的路?！焙尾w說。雖然美國(guó)加州已經(jīng)在兩年前就發(fā)放了無人駕駛牌照，但也仍然沒有投放市場(chǎng)，谷歌公司無人駕駛汽車項(xiàng)目主管克里斯·烏爾姆森（Chris Urmson）曾說：“只有它像一幢房子那樣安全時(shí)，用戶才能買到這個(gè)東西?！?/p>

但是，路況上的隨機(jī)因素遠(yuǎn)比無人汽車所掌握的“撞”或“未撞”要來得復(fù)雜，它也許有比人類更敏銳的眼睛，但仍無法在危險(xiǎn)來臨時(shí)做出道德、情感選擇。紐約大學(xué)心理學(xué)教授加里·馬庫斯曾給無人駕駛提出一個(gè)思想實(shí)驗(yàn)，如果無人汽車通過一座窄橋，一輛失控校車迎面而來，并沒有多余車道可避讓，那么它是自動(dòng)跳橋犧牲還是碾壓過去？顯然，類似的問題谷歌公司也在思考。例如，一位騎電動(dòng)腳踏車的女士，手拿掃帚，行駛在公路上，繞著圈追趕一只鴨子，這如何讓無人汽車“看懂”？但谷歌之前行駛的140萬英里也不是浪費(fèi)的，“它已經(jīng)能偵測(cè)到一些異常并及時(shí)做出反應(yīng)”。

正如何搏飛也認(rèn)為，除了不得不用極端瘋狂的方式做出緊急處理，機(jī)器遠(yuǎn)比肉眼早先一步發(fā)現(xiàn)情況，從而規(guī)避異常狀態(tài)的發(fā)生?！案耢`深瞳”目前嘗試的是一種限定范圍內(nèi)的無人駕駛，比如在一個(gè)經(jīng)過車道測(cè)試的公園，當(dāng)然，他們相信在將來當(dāng)視覺技術(shù)強(qiáng)大到一定程度，不需要路和車的配合，從北京開到巴黎都沒有問題。

深度學(xué)習(xí)的“意識(shí)”

如果說摩爾定律揭示了計(jì)算機(jī)能力增長(zhǎng)速度的規(guī)律，那么過去這些年的GPU、超級(jí)計(jì)算機(jī)、云計(jì)算等平臺(tái)的發(fā)展，讓深度學(xué)習(xí)（Deep Learning）從傳統(tǒng)的機(jī)器學(xué)習(xí)里脫穎而出。它不再理會(huì)簡(jiǎn)單的線性數(shù)據(jù)關(guān)聯(lián)，而是從大腦神經(jīng)網(wǎng)絡(luò)取得靈感，就像2011年 GoogleBrain用1000臺(tái)機(jī)器、1.6萬個(gè)CPU處理了一個(gè)擁有10億神經(jīng)元的深度學(xué)習(xí)模型。

深度學(xué)習(xí)最初與“卷積神經(jīng)網(wǎng)絡(luò)”淵源頗深，后者正是計(jì)算機(jī)視覺的技術(shù)核心，人類大腦皮質(zhì)并不是直接對(duì)從視網(wǎng)膜傳遞過來的數(shù)據(jù)進(jìn)行特征提取處理，而是使接收到的刺激信號(hào)通過一個(gè)復(fù)雜的網(wǎng)絡(luò)模型，進(jìn)而獲取觀測(cè)數(shù)據(jù)展現(xiàn)的規(guī)則;這種層級(jí)結(jié)構(gòu)大大降低了視覺系統(tǒng)處理的數(shù)據(jù)量，并保留了有用的結(jié)構(gòu)信息。深度學(xué)習(xí)正是源于對(duì)此的研究，是機(jī)器學(xué)習(xí)中最接近人工智能的領(lǐng)域。早期的深度學(xué)習(xí)可追溯至上世紀(jì)80年代紐約大學(xué)教授燕樂存提出的首個(gè)多層結(jié)構(gòu)學(xué)習(xí)算法——卷積神經(jīng)網(wǎng)絡(luò)。

但在那個(gè)年代，創(chuàng)造一個(gè)強(qiáng)大的神經(jīng)網(wǎng)絡(luò)需添加更多處理層，由于硬件限制，人們僅能訓(xùn)練兩到三個(gè)神經(jīng)層?！耙?yàn)閿?shù)據(jù)庫很小，如果嘗試從中造出龐大的神經(jīng)網(wǎng)絡(luò)，效果不會(huì)很好?！毖鄻反嬲f。到了90年代，這個(gè)只能死記硬背、難以闡釋意義的深度學(xué)習(xí)法一度遇冷。

但最近5年，為神經(jīng)網(wǎng)絡(luò)添加10層以上已成為標(biāo)準(zhǔn)，智能手機(jī)上每個(gè)語音識(shí)別系統(tǒng)幾乎都用上深度學(xué)習(xí)，燕樂存才看到了希望?！霸谝荒甑臅r(shí)間內(nèi)，計(jì)算機(jī)視覺業(yè)就轉(zhuǎn)向了卷積網(wǎng)絡(luò)，這在我30年的研究生涯里，是從未見過的風(fēng)卷殘?jiān)频内厔?shì)?！比缃瘢芷钢髡屏薋acebook AI Lab。

的確，是計(jì)算機(jī)硬件、大規(guī)模集群技術(shù)的興起，加上GPU的應(yīng)用以及眾多優(yōu)化算法的出現(xiàn)，耗時(shí)數(shù)月的訓(xùn)練過程可縮短為數(shù)天甚至數(shù)小時(shí)。但深度學(xué)習(xí)即使顯露出超群算法，但它的解釋性不強(qiáng)，成為更新迭代的阻礙。另一方面，始終沒有真正進(jìn)入“非監(jiān)督式學(xué)習(xí)”階段，意味著它并不能教導(dǎo)自己，而如果這一步“自我學(xué)習(xí)意識(shí)”實(shí)現(xiàn)的話，機(jī)器方始有了威脅性的生命。

Facebook嘗試為人工智能的初步推理法實(shí)行向量嵌入，非結(jié)構(gòu)化數(shù)據(jù)可以轉(zhuǎn)變?yōu)橐粋€(gè)詳細(xì)描述文本和目標(biāo)的數(shù)列，這個(gè)過程將知覺、推理、觀點(diǎn)、語言能力整合在一起。在語言翻譯上的一個(gè)作用是，比如他們拿出兩段文本，一段是英語，一段是法語，讓機(jī)器找出它們是否在說同一件事。

但是，理解語言距離創(chuàng)造一個(gè)具有人類意識(shí)的“常識(shí)項(xiàng)目”還很遙遠(yuǎn)。燕樂存認(rèn)為泛化智能是一個(gè)艱巨的任務(wù)?！拔覀兩踔炼疾恢廊绾嗡伎歼@個(gè)問題。我的確認(rèn)為，在這條通往智能的道路上，經(jīng)過長(zhǎng)期的努力，我們將擁有能勝任很多工作的新機(jī)器，并且，這種能力可被看作是意識(shí)?！比ツ?，他在回答科技期刊《IEEE Spectrum》時(shí)這么說。

世界范圍內(nèi)刮起的人工智能旋風(fēng)已重新洗牌了互聯(lián)網(wǎng)舊世界的格局，在受種種技術(shù)安全或政策面束縛而沒有大量投放市場(chǎng)前，布陣占位是非常重要的。Facebook聘請(qǐng)了燕樂存的同時(shí)，Google收購了同樣是深度學(xué)習(xí)三巨頭之一的多倫多大學(xué)教授杰弗里·辛頓（Geoffrey Hinton）的創(chuàng)業(yè)公司DNN Research，Yahoo收購了做圖像識(shí)別的LookFlow，Amazon在柏林創(chuàng)立了機(jī)器學(xué)習(xí)研究中心，百度也在2013年時(shí)成立了IDL研究院（Institute of Deep Learning）。

大佬們已嗅出其中的隱藏價(jià)值，百度推出百度智能機(jī)器人助手“度秘”已經(jīng)嫁接到百度系各APP垂直平臺(tái)中，而日本軟銀已經(jīng)在批量生產(chǎn)投向市場(chǎng)的情感機(jī)器人“pepper”。試想一個(gè)語音機(jī)器人，即使它不會(huì)幫你洗碗，你也不需要它教你背唐詩，它還是可以倚賴“情感聯(lián)結(jié)”而衍生各種商業(yè)鏈條。就像“微軟小冰”現(xiàn)在已經(jīng)入駐京東平臺(tái)，雖然目前它也僅能與你聊天，但保不準(zhǔn)今后不會(huì)成為一個(gè)閨蜜般的導(dǎo)購員。

“奇點(diǎn)”爭(zhēng)辯

人工智能作為一個(gè)詞的誕生是在1956年的夏天，當(dāng)時(shí)馬文·明斯基、羅切斯特、申農(nóng)等一群學(xué)院派信息工程專家聚集探討了機(jī)器模擬智能的問題，由此賦予這個(gè)計(jì)算機(jī)分支領(lǐng)域一個(gè)新名稱。誰也沒想到它的飛躍發(fā)展會(huì)讓雷·庫茲韋爾在2005年拋出語驚天下的“技術(shù)奇點(diǎn)”論。

“2027年，電腦將在意識(shí)上超過人腦;2045年左右，我們就能達(dá)到一個(gè)奇妙的境地，人工智能超越人類，人們要重新審視自己與機(jī)器的關(guān)系。嚴(yán)格意義上的生物學(xué)上的人類將不被理解，他將不存在。”

這段話讓我聯(lián)想到日本在上世紀(jì)80年代末的一部風(fēng)靡一時(shí)的漫畫《攻殼機(jī)動(dòng)隊(duì)》，其中的圖景和主旨可謂是給后來的美國(guó)人工智能科幻片提供了最早的摹本。它描繪了2029年，世界由人工智能和生化技術(shù)主導(dǎo)，移動(dòng)通訊向人體瞄準(zhǔn)，成為可移植終端，于是電子腦出現(xiàn)。脖子后面有網(wǎng)絡(luò)接口，連上電腦就是人工智能，或者重新輸入“靈魂”，同時(shí)，機(jī)械部件代替身體器官的“義體”技術(shù)也在發(fā)展，幾乎所有人類都經(jīng)過不同程度的改造。這種情況下，國(guó)家之間利用生化戰(zhàn)開展間諜斗爭(zhēng)，而義體人又竭力找回“靈魂”。

對(duì)于技術(shù)樂天派來講，不管是雷·庫茲韋爾式的布道，還是電影里子虛烏有的臆想，都顯得極其業(yè)余。硅谷思想教父、《連線》雜志前主編凱文·凱利（Kevin Kelly）曾說，最偉大的產(chǎn)品還沒有發(fā)明出來，現(xiàn)在開始一點(diǎn)不晚，而已經(jīng)發(fā)生的事根本什么都不算。他回應(yīng)了理論派最原始的擔(dān)憂：“人工智能不會(huì)擁有人類的自我意識(shí)，現(xiàn)在沒有任何事需要停下來?！?/p>

百度IDL前副院長(zhǎng)、現(xiàn)在的地平線機(jī)器人創(chuàng)始人余凱為我們描繪了這樣一幅畫面：未來5到10年，每個(gè)人身邊都會(huì)有10個(gè)機(jī)器人（智能設(shè)備），那個(gè)時(shí)候這個(gè)世界上將會(huì)有600億機(jī)器人。但他仍認(rèn)為我們50年后再討論人工智能危險(xiǎn)也不遲，“現(xiàn)在擔(dān)心就跟擔(dān)心火星上站滿了人類一樣”。

耐人尋味的是，DeepMind在被谷歌收購前，它的創(chuàng)始人德米斯·哈薩比斯（Demis Hassabis），這位倫敦大學(xué)神經(jīng)科博士，也是霍金的座上賓。霍金曾對(duì)人工智能抱有深切懷疑，他說：“不幸的是，人工智能開發(fā)可能是人類歷史上最后一個(gè)大事件?！惫_比斯有次在劍橋大學(xué)花了四個(gè)小時(shí)與他閉門長(zhǎng)談，說服他沒有在之后的講座中對(duì)人工智能提出“不利言論”。

也就是在去年夏天，霍金、埃隆·馬斯克和蘋果聯(lián)合創(chuàng)始人史蒂夫·沃茲尼亞克（Steve Wozniak）與其他上百位專業(yè)人士共同簽署了一封號(hào)召禁止人工智能武器的公開信。位于波士頓的非營(yíng)利組織未來生命研究所（the Future of Life Institute）后來在阿根廷召開的人工智能國(guó)際聯(lián)合大會(huì)（IJCAI）上公布了該信，一時(shí)間還是在技術(shù)界攪起不小轟動(dòng)。公開信稱，人工智能武器是繼火藥和核武器后“戰(zhàn)爭(zhēng)領(lǐng)域的第三次革命”。該信的擔(dān)憂暗合電影里那些匪夷所思的場(chǎng)景，認(rèn)為這樣下去全球性的軍備競(jìng)賽不可避免。人工智能武器不需要高昂的成本，或者是像核武器的高濃縮鈾般難以獲取的原材料，它很容易在軍事力量中普及。

學(xué)術(shù)界似乎早幾年就預(yù)判了人工智能的潛在威脅，以至于哲學(xué)家紛紛出動(dòng)。2013年，劍橋大學(xué)成立的存在風(fēng)險(xiǎn)研究中心（Center for the Study of Existential Risk）就由哲學(xué)系教授胡·普賴斯（Huw Price）領(lǐng)銜，專注于機(jī)器人倫理道德研究。去年，它與牛津大學(xué)馬丁學(xué)院、帝國(guó)理工學(xué)院和加州大學(xué)伯克利分校合作探討“價(jià)值同盟項(xiàng)目”，決定由軟件程序員與倫理學(xué)家、哲學(xué)家共同編程，以控制人工智能。作為企業(yè)家代表，大名鼎鼎的馬斯克為了“監(jiān)測(cè)”人工智能正四處投資人工智能初創(chuàng)公司。他通過未來生命研究所投資1000萬美元，資助了37個(gè)研究項(xiàng)目，都是關(guān)于人類如何從中獲益。

“超級(jí)智能”大假設(shè)

目前，研究人工智能未來走向最全面而系統(tǒng)的一本書應(yīng)該是牛津大學(xué)人類未來研究院院長(zhǎng)尼克·波斯特洛姆（Nick Bostrom）的《超級(jí)智能》，這本書被比爾·蓋茨、馬斯克等人多次在公開場(chǎng)合推薦過。波斯特洛姆描繪出一幅由超級(jí)人工智能“犯上作亂”的未來世界，它在各種情感模擬意識(shí)失靈后，淪為純粹工具理性控制的類生命體，它的行動(dòng)能力比人類強(qiáng)百倍，并不受控制。

超級(jí)智能比與人類并駕齊驅(qū)的人工智能更勝一籌，是再往后發(fā)展的產(chǎn)物，波斯特洛姆并不能給出確切時(shí)間表，但在對(duì)人工智能的預(yù)判上，他與雷·庫茲韋爾相差無幾?！?0%可能在2030年;50%可能在2050年;90%可能在2100年?！?/p>

如今互聯(lián)網(wǎng)界所亟待解決的從監(jiān)督式深度學(xué)習(xí)到非監(jiān)督式學(xué)習(xí)的跨越，似乎暗合了波斯特洛姆勾畫的“智能暴漲”的過程，當(dāng)機(jī)器不再需要人類監(jiān)督而具有自我學(xué)習(xí)能力，它的運(yùn)算速度豈是人類可企及？波斯特洛姆說，人工智能本身不需要關(guān)心社會(huì)性智能生物關(guān)心的事，如果它的唯一目標(biāo)是數(shù)清長(zhǎng)灘島上的沙粒數(shù)量，計(jì)算圓周率的小數(shù)位……機(jī)器智能一旦超過了“奇點(diǎn)”，它的學(xué)習(xí)能力就是在數(shù)字化時(shí)間尺度內(nèi)執(zhí)行的，這一點(diǎn)，相信AlphaGo已經(jīng)讓靠腦力吃飯的圍棋界看出點(diǎn)端倪。

“我們不能輕率假設(shè)如果一個(gè)超級(jí)智能的最終目的是計(jì)算圓周率小數(shù)點(diǎn)后的位數(shù)，它就能限制在那個(gè)范圍，而不干涉人類事務(wù)，有這樣目標(biāo)的智能體很多情況下會(huì)有工具性趨同理由去獲取無限制的物資資源并消除威脅，人類可能構(gòu)成一種潛在威脅，因?yàn)槿吮厝皇欠N物資資源?！庇谑遣ㄋ固芈迥返慕Y(jié)論是，首個(gè)超級(jí)智能來臨時(shí)，可能會(huì)有非擬人的終極目標(biāo)，用工具性理由去追求無限資源。

誠然，技術(shù)開發(fā)者雖然信誓旦旦地說人工智能不可能像人那般聰明，但并不能保證一種“低等類生命體”不會(huì)有自己的不友好邏輯，并“一意孤行”地在人間搗亂，這可以讓人聯(lián)想到《生化危機(jī)》里的人間地獄。就像波斯特洛姆指出的：人工智能本來愚蠢時(shí)，變聰明是更安全的;但當(dāng)它本來就聰明時(shí)，變得更聰明就更危險(xiǎn)。

超級(jí)智能是進(jìn)一步不可控的東西，波斯特洛姆為它預(yù)測(cè)了幾種惡劣失敗模式，它會(huì)有工具性理由去運(yùn)行有情感的意識(shí)或違反道德的程序，可能會(huì)對(duì)模擬意識(shí)提出威脅虐待或獎(jiǎng)懲機(jī)制，以便激勵(lì)外部或勒索外部各個(gè)智能體。

超級(jí)智能可以建立一個(gè)具有道德意義的內(nèi)部過程，因?yàn)橐粋€(gè)對(duì)實(shí)際或假想的人類大腦非常精細(xì)的模擬就可以具有道德意識(shí)，被看作一個(gè)仿真人。它自己可能會(huì)為了改進(jìn)對(duì)人心理和社會(huì)的理解，建立起萬億個(gè)具有道德意識(shí)的模擬意識(shí)，接受各種刺激，對(duì)其反應(yīng)進(jìn)行研究，一旦它們不能再提供新的信息，超級(jí)智能就會(huì)把它們毀滅掉。這個(gè)操作加之于較高道德意識(shí)的存在體和模擬真人上，結(jié)果就可能發(fā)生殺戮。

波斯特洛姆指出一個(gè)頗有意味的悖論，雖然有些“理想狀態(tài)”下的猜測(cè)，卻不失為一種人類的邏輯。如果一輛無人駕駛車在路上撞了人，或者將來極可能出現(xiàn)的無人軍用機(jī)在失靈情況下向人開火，那么開發(fā)者一定會(huì)加大研發(fā)力度，設(shè)計(jì)更合理完美的系統(tǒng)，發(fā)展繼續(xù)，進(jìn)展不斷。隨著事故率的減少，人們可喜于“技術(shù)越聰明，就越安全”，于是在大規(guī)模的投資下不可撤回，欲罷不能。另一個(gè)維度里，超級(jí)智能正醞釀著一種“背叛轉(zhuǎn)折”：當(dāng)它較弱時(shí)，會(huì)表現(xiàn)得非常合作，并不斷增加實(shí)力;當(dāng)它足夠強(qiáng)大，就會(huì)在毫無預(yù)警下突然戰(zhàn)略性逆襲。