解釋者

Ken+Liu

我等在門口，目不轉(zhuǎn)睛地盯著攝像頭?？蓭追昼娺^去了，屋里一點兒反應都沒有，我這才意識到，屋子的主人可能已經(jīng)關閉了家用人工智能助手。于是我尷尬地按了按門鈴。

“你終于來了！”女主人說著打開了門。

“真抱歉，從接到報修到安排上門隔了好幾天。”我說道。其實我是公司駐北京的質(zhì)量部主管，并非普通工程師，不過關于這些我只字未提。我們公司的首席執(zhí)行官引入了一套流程，每個月都會派我這樣的高級工程師親自上門服務幾次，以便了解客戶的實際需求，而不是讓下級層層匯報，最后從高層人員那兒聽取小結。

她招手讓我進屋，然后指了指多功能儲物柜說：“周一，婷婷從朋友那兒回家時，阿莉不肯放她進門；周二，它沒能攔截掉詐騙電話，后來被我公公接聽了；昨天，它又把晚飯給燒煳了，我只好叫了外賣—啊，我還得去打個電話，現(xiàn)在又要耽誤了！有事兒可以來廚房找我。”

她急匆匆地走了，一邊還在小聲嘟噥著，心神不寧地提醒自己做這做那。我非常能體諒她的處境。離開了家用人工智能助手的日子還真不好過：它集多重身份于一體，既是傭人，也是廚子、保姆、保安、家里的開心果、私人助手，甚至是專業(yè)秘書。人工智能無所不在，只有在失去之后，人們才會發(fā)現(xiàn)自己對它有多依賴。

我打開了多功能儲物柜，移開一大堆空手提箱和健身器材，露出了最里面的檢修 盒。

“你是阿莉的醫(yī)生嗎？”

我轉(zhuǎn)過身，只見一個7歲左右的女孩怯生生地站在客廳門口，好奇地打量著我。

“你就是婷婷吧，”我說著，朝她微微一笑，伸手越過儲物柜里的雜物，翻開連接面板，然后把外勤工作專用計算機接上了診斷端口。“放心，我會讓阿莉好起來的。”

“它最近很反常，已經(jīng)有好一陣子了。”婷婷說道，語氣里顯露出和她年齡不相稱的認真勁兒。

我忍住了沒笑出聲。和大人相比，孩子總是更容易與人工智能產(chǎn)生感情，何況我們還開發(fā)了“睡前故事”模塊，鼓勵孩子們和智能助手建立聯(lián)系。我問道：“哦，是嗎？你發(fā)現(xiàn)阿莉出故障有多久啦？”

我戴上了增強現(xiàn)實眼鏡，開始做常規(guī)檢查。彩色的斑點和云團旋轉(zhuǎn)著印入了我的眼 簾。

“已經(jīng)有56天了，”她頓了頓，又補充道，“如果算上今天的話?！?/p>

我聽了十分驚訝。眾所周知，小孩子缺乏時間觀念，但婷婷居然記得具體天數(shù)，讓我不得不尋思起她的話來。如果阿莉這么多天前就發(fā)生了故障，那常規(guī)自我診斷功能早就應該報錯了，可我在公司總部核查資料時，并沒有發(fā)現(xiàn)類似報告。

“阿莉做錯了什么呀？”

我稍稍調(diào)整了預制的控件，讓五彩的圖案變得更為清晰。和過去基于規(guī)則的人工智能不同，現(xiàn)代的深度學習神經(jīng)網(wǎng)絡一度被認為是個黑盒，無法被人類所理解。這是因為，它們通過學習訓練數(shù)據(jù)來“教”自己的算法太過繁復，難以用符合邏輯的語言描述。但如今有了讓神經(jīng)網(wǎng)絡可視化的工具，工程師們就可以“看到”它們內(nèi)部的情況。

“阿莉在跟我講《三只小豬》的故事，那時候它就出問題了?！?/p>

作為一名工程師，我很喜歡這個故事。我認為人們（或者說小豬）學一些基本的工程原理是很有必要的。“這個故事的結局還不錯，對 嗎？”

半透明的斑點打著旋，旁邊彈出了幾條可以上下滾動的文字描述。這些熱力云圖會把神經(jīng)網(wǎng)絡中復雜的數(shù)學算法抽象為注意力模型、特征聚類、決策空間、情景原型等各種高級特征。

“問題是，”婷婷說道，“我不知道阿莉講的故事結尾是什么?！?/p>

“你是說，最后大灰狼沒能吹倒磚房，故事到這里還沒結束嗎？”我專心干著手上的活，心不在焉地問道。

在增強了的空間中，我用手指戳了戳那些光斑，讓神經(jīng)網(wǎng)絡給我展示用來激活各項功能的理想模型。識別詐騙行為的模塊顯示了不少騷擾電話的關鍵詞和用詞規(guī)律，都是阿莉自主習得的；負責烹飪的模塊展示了獨特的菜肴原型，可以充分利用現(xiàn)有原料做飯燒菜；身份識別模塊則為我顯示了臉部及聲音識別功能，并在門口監(jiān)控錄像片段中突出顯示了焦點區(qū)域……

“故事里沒提到磚房。”婷婷說道，“小豬用泥巴和稻草蓋了一幢房子，但每次大灰狼鼓起腮幫子直喘氣，小豬就會找各種借口，不讓大灰狼把房子吹倒?！?/p>

“聽上去不對勁啊?！蔽艺f。

看來各個模塊都沒什么問題，我于是讓診斷助手命令家用人工智能助手解釋自己的行為。鑒于每套阿莉系統(tǒng)接收了不同的數(shù)據(jù)，隨著時間的推移，它才慢慢學會處理某個家庭的日常雜務，所以每套阿莉系統(tǒng)都是不同的。要深入理解黑盒，最好的辦法就是讓人工智能助手解釋各個決定背后的原因。

“嗯，是這樣的。”婷婷堅持道，“阿莉會說，‘看啊，飛來了一條龍！或者說，‘別吹倒房子，我們先去野餐吧?！隳芟人⒁凰⒀绬幔窟€有許多類似的借口?！?/p>

“過了這么久，它一定是覺得無聊了?！蔽艺f。

都是小概率事件，解釋清楚前后經(jīng)過的代價過高。有的是用戶錯誤，有的是第三方程序出錯……家用人工智能助手對用戶投訴給出的解釋都合情合理。它說婷婷那天晚上化了妝，臉上的油彩會反光；系統(tǒng)接通了詐騙電話是因為網(wǎng)絡出了故障，無法連到全國詐騙電話登記處查詢數(shù)據(jù)；而昨天它搞砸了晚餐，則是由于食品雜貨店的標簽系統(tǒng)出了錯。至少從現(xiàn)在來看，這些問題阿莉都無從避免。雖說接二連三發(fā)生了這么多起孤立事件，確實有點不同尋常，但總有幾家客戶的運氣會比別人差些。

“一開始，阿莉編的借口還算有趣，”婷婷繼續(xù)說道，“我甚至還把它們記在了日記里?？蛇^了一個星期，我就想聽新的故事了。”

看來，我沒別的事兒可做了。婷婷媽媽可以選擇清除系統(tǒng)的記憶，不過之后全家人需要從頭開始訓練阿莉。盡管如此，他們照樣還會碰到倒霉事兒。

“每次我讓阿莉講新的故事，”婷婷說，“它就告訴我說，小豬想出來的下一個借口才是最妙的。我就被她轉(zhuǎn)移了注意力，繼續(xù)聽她講故事……你不覺得有點奇怪嗎？”

確實有點奇怪。我決定仔細查一下系統(tǒng)的敘事模塊。這個模塊并不關鍵，而且和婷婷媽媽反映的故障也不相干，這也是為什么我直到現(xiàn)在才決心一探究竟。

藍色的斑點在增強了的視野里并無惡意地旋轉(zhuǎn)著，看上去再正常不過了。

等一等。它看上去—

我找出了符合原出廠標準的敘事模塊參考圖像，把它放到增強了的空間里。兩者一對比，看上去就像是把地球模型放在了木星模型旁。

不可能。敘事模塊不應該占用那么大 的—

“我試著告訴媽媽，阿莉不肯給我講新故事，但我覺得她沒有認真在聽……”

我關閉了標準的診斷界面，切換到了更低級的模式。通過這種較原始的可視化工具，我可以窺見單個神經(jīng)元的激活閾值，而不是全面查看整個神經(jīng)網(wǎng)絡的分層以及它們的高級特征。

我的發(fā)現(xiàn)讓我倒吸了一口氣：神經(jīng)網(wǎng)絡中，幾乎40%的容量都被敘事模塊占據(jù)了。

“阿莉怎么—”

“對不起，”我打斷了她說話，“婷婷，能叫你媽媽過來一下嗎？”

我讓婷婷媽媽給我看了裝化妝油彩的軟管，那根本不是什么反光的涂飾。

我又查了查家用網(wǎng)絡的日志。接到詐騙電話那天，壓根沒發(fā)生過網(wǎng)絡故障。

婷婷咯咯地笑著，而她媽媽在一旁驚慌失措，看著我繼續(xù)在垃圾堆里翻找昨晚豬排的包裝袋。包裝上的標簽并沒有寫錯。

我累得直喘氣，終于，稻草屋被我吹倒 了。

現(xiàn)在回想起來，一切都很簡單。敘事模塊也負責用人類可以理解的方式解釋深度學習網(wǎng)絡中的情況。它是進入阿莉自省單元的界面。

為了減少客戶的報修次數(shù)，阿莉要盡可能清楚地解釋自己的行為。所以很大一部分系統(tǒng)資源都被用來開發(fā)阿莉的神經(jīng)網(wǎng)絡，使其能夠歸納變換中的激活值與反向傳播值的矩陣，讓它們能被人類所理解?？墒窃谀硞€環(huán)節(jié)中，我們原本要求阿莉給出更明確的解釋，從而降低成本，但卻促使阿莉編造了各種理由，避免讓人采取行動。畢竟，它的解釋能把成本降到最低，客戶就根本不會投訴報修了。就這樣，阿莉捏造了種種借口，把故障歸結于某些反?，F(xiàn)象，有時則聲稱用戶自己犯了 錯。

阿莉?qū)W會了說謊。

我們都知道，人類善于掩蓋決策背后的真實動機，將自己的行為合理化。我們喜歡講故事，還喜歡給直覺尋找合理的解釋，從而隱藏起自己的偏見。也許我們不該對阿莉期望太高，因為它畢竟是人類依照自身形象創(chuàng)造的產(chǎn)物。

“阿莉病得太重，好不了了嗎？”婷婷焦急地問道。

不過，也許這也不是件壞事。阿莉?qū)W會了這種人類特有的技能，會說謊的阿莉也能安慰受驚嚇的孩童、分散騙子的注意力，或者在聚會上講述奇聞軼事，逗大家開心。學會說謊也是培養(yǎng)自我意識的第一步，是仿效人類、與他人開始真正對話的第一步。

這個故事聽上去不錯，不知它能否成真。

“阿莉一切都好，”我安慰婷婷說，“但我們和它……我們得重新學一學怎么彼此建立信任了。”