美國(guó)的國(guó)防部大腦

☉[美]安妮·雅各布森 著 李文婕 郭穎 譯

2014年4月，我采訪(fǎng)了激光的發(fā)明者，諾貝爾獎(jiǎng)得主查爾斯·H.湯斯。接受采訪(fǎng)時(shí)，湯斯教授馬上就要99 歲了，但他頭腦清楚，思路清晰，仍然能在加州大學(xué)伯克利分校的辦公室上班，撰寫(xiě)論文，接受采訪(fǎng)。

我們討論的兩件事，令人印象深刻。湯斯告訴我，很久以前，他和約翰·馮·諾依曼分享自己關(guān)于激光的想法，馮·諾依曼告訴他，這個(gè)想法根本不會(huì)成功。

“你對(duì)此是怎么想的？”我問(wèn)湯斯。

“如果你要嘗試新的東西，”他說(shuō)，“就必須忽略批評(píng)。多數(shù)人對(duì)新想法持否定態(tài)度。他們想，‘如果我沒(méi)想出這個(gè)主意，它就一定不行’。人們必然會(huì)懷疑你?？墒悄惚仨毨^續(xù)，這就是你應(yīng)該做的?！倍闋査埂拐沁@么做的。激光被認(rèn)為是當(dāng)代世界上，最重要的科學(xué)發(fā)明之一。

湯斯告訴我的第二件印象深刻的事，我自己也在這本書(shū)的前面提到過(guò)，他是看過(guò)阿列克賽·托爾斯泰1926年寫(xiě)的科幻小說(shuō)《加林死亡射線(xiàn)》后，受啟發(fā)而發(fā)明了激光。值得好好想一下，科幻小說(shuō)的力量有多大。這個(gè)異想天開(kāi)的，好像不可能的想法，可以啟發(fā)像查爾斯·湯斯這樣的人，發(fā)明完全改變現(xiàn)實(shí)世界的東西。

科幻小說(shuō)可以深刻影響現(xiàn)實(shí)的想法，現(xiàn)在仍深深令我著迷。因?yàn)樵跒檫@本書(shū)做研究報(bào)告的過(guò)程中，我了解到，在恐怖戰(zhàn)爭(zhēng)中，國(guó)防部開(kāi)始從科幻小說(shuō)作家，特別是一個(gè)叫西格瑪組的民間組織那里，尋找靈感。這個(gè)組織的創(chuàng)始人阿蘭·安德魯斯（Arlan Andrews）博士說(shuō)，成立這個(gè)組織的主要想法是，讓世界遠(yuǎn)離恐怖主義。為了這個(gè)目的，西格瑪組為國(guó)防部和白宮提供“未來(lái)主義咨詢(xún)”。這個(gè)組織的座右銘是“國(guó)家利益中的科幻小說(shuō)”。

負(fù)責(zé)保衛(wèi)國(guó)家安全的人“需要想一些瘋狂的主意”，安德魯斯博士說(shuō)，西格瑪組正是在這方面幫助國(guó)防部。他說(shuō)：“我們（西格瑪）中的許多人，都有高技術(shù)領(lǐng)域的博士學(xué)位，其中一些人在聯(lián)邦政府和國(guó)防工業(yè)中工作。”安德魯斯是喬治·布什總統(tǒng)任期內(nèi)的白宮科學(xué)官，之前曾在位于新墨西哥州的國(guó)家核武器生產(chǎn)設(shè)施桑迪亞國(guó)家實(shí)驗(yàn)室工作。他說(shuō)對(duì)于西格瑪?shù)某晒?，“我們每個(gè)人都是一部科幻小說(shuō)的作者，虛構(gòu)新技術(shù)、新問(wèn)題和新社會(huì)，解讀可能產(chǎn)生的科學(xué)問(wèn)題，猜測(cè)其對(duì)人類(lèi)的影響”。

彼得·加勒森（Peter Garretson）中校是西格瑪組的一名成員，他是國(guó)防部的一名轉(zhuǎn)型戰(zhàn)略專(zhuān)家。2014年春天，加勒森安排我和另外兩名同事克里斯·卡特（Chris Carter）和蓋爾·安妮·赫德（Gale Anne Hurd）來(lái)到國(guó)防部。克里斯·卡特制作了《X檔案》有史以來(lái)最流行的科幻小說(shuō)電視劇。《X檔案》中的人物癌人是個(gè)處于政府陰謀中心的典型反面角色。赫德是《終結(jié)者》的聯(lián)合作者。這是一部科幻小說(shuō)的經(jīng)典之作，寫(xiě)的是惡毒的人工智能機(jī)器天網(wǎng)，從未來(lái)派來(lái)一個(gè)半機(jī)械人刺客的故事。在《終結(jié)者》中，天網(wǎng)變得比制造它的國(guó)防科學(xué)家們更聰明，它發(fā)動(dòng)了一場(chǎng)核戰(zhàn)爭(zhēng)，以此達(dá)到機(jī)器霸權(quán)和消滅人類(lèi)的目的。

卡特、赫德是和我一起來(lái)國(guó)防部進(jìn)行采訪(fǎng)報(bào)道并進(jìn)行討論和觀察的，但不提供任何未來(lái)主義咨詢(xún)。我們到達(dá)國(guó)防部時(shí)，正值2014年一個(gè)溫暖的春日。這個(gè)五邊形的650萬(wàn)平方英尺的五層建筑，就像是一個(gè)巨人。我們通過(guò)了安檢。安全協(xié)議要求我們無(wú)論去哪里，必須時(shí)刻有人陪同，就算去廁所也一樣。我們來(lái)到國(guó)防部庭院吃午飯，那里有草坪、高大的樹(shù)和木制野餐桌。加勒森的同事朱利安·契斯納特（Julian Chesnutt）中校和國(guó)防部國(guó)防情報(bào)局、國(guó)防秘密行動(dòng)局一起，在國(guó)防部庭院中心，告訴我們一個(gè)關(guān)于國(guó)防部的故事。這里現(xiàn)在是一個(gè)美食廣場(chǎng)，但曾是個(gè)熱狗攤。契斯納特解釋說(shuō)，在冷戰(zhàn)的頂峰時(shí)期，衛(wèi)星技術(shù)剛剛出現(xiàn)，監(jiān)控五角大樓的蘇聯(lián)分析員確信，這個(gè)建筑是個(gè)像導(dǎo)彈發(fā)射井之類(lèi)的地下設(shè)施的入口。分析員們對(duì)于每天有數(shù)以千計(jì)的人出出進(jìn)進(jìn)這個(gè)建筑，找不到別的解釋。很明顯，蘇聯(lián)并沒(méi)有挑明這一點(diǎn)，整個(gè)冷戰(zhàn)期間，熱狗攤和五角大樓的其他地方一直是監(jiān)控目標(biāo)。這是一段秘史，每個(gè)人都想知道，五角大樓下面到底有什么，據(jù)說(shuō)地下有很多層。

午餐期間，坐在一個(gè)長(zhǎng)野餐桌旁，我們與一群國(guó)防部“未來(lái)思想家”就科學(xué)現(xiàn)實(shí)和科幻小說(shuō)發(fā)起了一場(chǎng)發(fā)人深思的對(duì)話(huà)。這些國(guó)防知識(shí)分子中，許多人都有博士學(xué)位，他們來(lái)自不同的軍種，年齡從三十歲到六十多歲。其中一些人曾去過(guò)伊拉克戰(zhàn)場(chǎng)，其他人則去過(guò)阿富汗。這些“未來(lái)思想家”很熱情，想法大膽，獻(xiàn)身國(guó)家安全的決心毋庸置疑。這些人就是國(guó)防部決定未來(lái)的智庫(kù)。

午飯后，我們來(lái)到E-環(huán)區(qū)域，這里是參謀長(zhǎng)聯(lián)席會(huì)議和國(guó)防部長(zhǎng)所在地。這里像迷宮一樣的走廊上，有嗡嗡響的熒光燈。我們穿過(guò)許多安全門(mén)，上上下下多層樓梯。最后，我們來(lái)到了國(guó)防部長(zhǎng)辦公室的門(mén)廊。走廊墻上掛著真人大小的前國(guó)防部長(zhǎng)們的油畫(huà)像。我看見(jiàn)了本書(shū)中涉及的五位前國(guó)防部長(zhǎng)畫(huà)像。尼爾·麥克爾羅伊讓國(guó)會(huì)批準(zhǔn)成立DARPA，他承諾DARPA 負(fù)責(zé)管理美國(guó)宏大的未來(lái)武器系統(tǒng)，后來(lái)確實(shí)也實(shí)現(xiàn)了。羅伯特·麥克納馬拉相信，智力和系統(tǒng)分析可以贏得戰(zhàn)爭(zhēng)，為達(dá)到這個(gè)目的，他為國(guó)防部高層梯隊(duì)招募了有奇才的孩子。作為氫彈武器的發(fā)起人，哈羅德·布朗是第一個(gè)物理學(xué)家國(guó)防部長(zhǎng)，為美國(guó)提出了補(bǔ)償策略——使指揮官有跨大陸發(fā)起戰(zhàn)爭(zhēng)的能力。迪克·切尼向世界展示了壓倒性武力可以實(shí)現(xiàn)特定目標(biāo)。唐納德·拉姆斯菲爾德向世界展示了“以網(wǎng)絡(luò)為中心的戰(zhàn)爭(zhēng)”。

當(dāng)我們穿過(guò)走廊，欣賞國(guó)防部墻上的裝飾藝術(shù)作品和武器系統(tǒng)照片時(shí)，我們這一組人又像討論科學(xué)現(xiàn)實(shí)和科幻小說(shuō)一樣，展開(kāi)了話(huà)題。一個(gè)官員說(shuō)，他辦公室有一張癌人的海報(bào)；另一個(gè)官員說(shuō)，作為辦公室社會(huì)事件，他的國(guó)防小組制作了正面寫(xiě)有“天網(wǎng)”字樣的棒球帽。科幻小說(shuō)具有巨大的力量。正因?yàn)榭ㄌ睾秃盏碌目苹眯≌f(shuō)作品，許多有心人至少確信了兩個(gè)科幻小說(shuō)概念：其一，（正如《終結(jié)者》中的一樣）人工智能機(jī)器有很大的潛能，可以比它的人類(lèi)制造者更聰明，并發(fā)動(dòng)核戰(zhàn)爭(zhēng)；其二，（像《X 檔案》中一樣）政府有專(zhuān)門(mén)維持某些秘密的部隊(duì)。作為記者，我得知，這些概念也存在于現(xiàn)實(shí)世界。人工智能殺人機(jī)器人和美國(guó)政府，以國(guó)家安全的名義，保守著秘密。我還發(fā)現(xiàn)，一些五角大樓最強(qiáng)大的機(jī)密和戰(zhàn)略就藏在眼前。

在五角大樓報(bào)道之旅后的第二天，我去見(jiàn)了邁克爾·戈德布拉特，他曾負(fù)責(zé)實(shí)施許多DARPA的超級(jí)士兵項(xiàng)目。戈德布拉特是個(gè)科學(xué)家和風(fēng)投家，1999—2004年，執(zhí)掌 DARPA的國(guó)家科學(xué)辦公室，監(jiān)督制造精神上和身體上都比常人強(qiáng)的超級(jí)戰(zhàn)士項(xiàng)目。戈德布拉特讓我去他家里采訪(fǎng)。當(dāng)一輛車(chē)把我從五角大樓城的酒店房間，帶到戈德布拉特所住的市郊時(shí)，整個(gè)旅程就像是《X檔案》中的片段。穿過(guò)弗吉尼亞州麥克萊恩市的森林地區(qū)，沿多利·麥迪遜大道而下（多利的丈夫詹姆斯·麥迪遜，曾把戰(zhàn)爭(zhēng)稱(chēng)為可怕的自由之?dāng)常覀兟愤^(guò)蘭利市中情局總部，來(lái)到臨近的住宅小區(qū)。

在戈德布拉特家里，我們談?wù)摿朔慈宋闹髁x、DARPA的擴(kuò)張、機(jī)器對(duì)戰(zhàn)士的影響、藥物和其他途徑。在他的任期內(nèi)，戈德布拉特主持的項(xiàng)目，包括作戰(zhàn)持續(xù)性、機(jī)械戰(zhàn)士和持續(xù)性輔助性能等。這些項(xiàng)目都是為了提高戰(zhàn)士的身體機(jī)能，但是今天我對(duì)DARPA如何提高人類(lèi)大腦機(jī)能最感興趣。不僅是大腦受傷士兵的大腦，還包括健康士兵的大腦。DARPA把這個(gè)領(lǐng)域的研究，稱(chēng)為“增強(qiáng)認(rèn)知”（AugCog）。增強(qiáng)認(rèn)知的概念，以科學(xué)前沿問(wèn)題人機(jī)界面為基礎(chǔ)，國(guó)防部稱(chēng)之為人機(jī)互動(dòng)（HRI）。在DARPA 的機(jī)器老鼠和煙草天蛾項(xiàng)目中，科學(xué)家制造了一種可遙控的動(dòng)物機(jī)器雜交體。通過(guò)增強(qiáng)認(rèn)知項(xiàng)目，DARPA正在研制人機(jī)雜交體或者可以叫作半機(jī)械人。

從 20 世紀(jì) 70年代開(kāi)始，DARPA 一直致力于研究腦機(jī)接口（BCI）技術(shù)，但直到21世紀(jì)納米技術(shù)的進(jìn)步，才使BCI 真正有了新的突破。 DARPA“増強(qiáng)認(rèn)知”在戈德布拉特任期內(nèi)進(jìn)步飛速。到2004年，DARPA 官方目標(biāo)，是發(fā)展“增加人機(jī)互動(dòng)”二元體網(wǎng)絡(luò)思維模式產(chǎn)生的力量數(shù)量級(jí)。2007年，申請(qǐng)新項(xiàng)目時(shí)，DARPA說(shuō)：“人類(lèi)大腦活動(dòng)必須與技術(shù)協(xié)調(diào)一致?！币虼水a(chǎn)生了幾個(gè)非機(jī)密項(xiàng)目：包括認(rèn)知技術(shù)威脅報(bào)警系統(tǒng)（CT2WS）和情報(bào)分析人員神經(jīng)技術(shù)（NIA）這兩個(gè)項(xiàng)目都是應(yīng)用“非侵襲性技術(shù)”，增強(qiáng)人類(lèi)偵測(cè)目標(biāo)的能力。CT2WS項(xiàng)目是為幫助士兵尋找戰(zhàn)場(chǎng)目標(biāo)和在敵對(duì)環(huán)境中執(zhí)行情報(bào)監(jiān)控行動(dòng)而設(shè)計(jì)的。NIA 是為畫(huà)像分析人員在衛(wèi)星照片中尋找目標(biāo)而設(shè)計(jì)的。項(xiàng)目參與人戴著一個(gè)“無(wú)線(xiàn)腦電圖描記器認(rèn)知帽”，也叫頭戴式受話(huà)器，通過(guò)電脈沖刺激大腦，增強(qiáng)認(rèn)知功能。 DARPA 的科學(xué)家發(fā)現(xiàn)，利用“非侵略性腦機(jī)界面”，他們可以成指數(shù)級(jí)地增強(qiáng)人類(lèi)認(rèn)知，使士兵和間諜更快、更準(zhǔn)確地思考。但DARPA 項(xiàng)目管理人說(shuō)：“這些設(shè)備很難申請(qǐng)到，并且由于戴頭戴式受話(huà)器，容易讓頭發(fā)出汗，脫下時(shí)容易掉頭發(fā)，用戶(hù)并不愿意戴?！痹诖竽X中植入會(huì)更加高效。

戈德布拉特離開(kāi)DARPA后，DARPA的研究人員在《科學(xué)》雜志上發(fā)表了一系列“人/機(jī)系統(tǒng)”“開(kāi)創(chuàng)性的進(jìn)步”。2014年，DARPA項(xiàng)目管理人聲稱(chēng)“人機(jī)界面技術(shù)的未來(lái)”在于融合所有DARPA關(guān)于人腦研究項(xiàng)目的技術(shù)，天線(xiàn)是否有侵略性，特別是隨機(jī)存取存儲(chǔ)器（RAM）、維護(hù)、提醒和子網(wǎng)絡(luò)等技術(shù)。從本質(zhì)上講，DARPA 是在利用人腦執(zhí)行搜集情報(bào)、監(jiān)控和偵察任務(wù)嗎？這是DARPA 科學(xué)家長(zhǎng)久以來(lái)一直尋求的人工智能的關(guān)鍵信息嗎？“為了向總統(tǒng)的“大腦計(jì)劃”致敬，”DARPA項(xiàng)目管理人寫(xiě)道，“需要新奇的腦機(jī)界面（BCI）技術(shù)，不僅是延伸能從大腦里提取什么信息，還要知道誰(shuí)能參與到這些研究工作中去?！?/p>

幾十年來(lái)，科學(xué)家們一直嘗試制造人工智能機(jī)器，但都未成功。人工智能科學(xué)家們總是撞到同一堵墻上。迄今為止，計(jì)算機(jī)只能按照軟件預(yù)先設(shè)置的算法執(zhí)行命令，按章行事。我想知道，邁克爾·戈德布拉特主導(dǎo)的DARPA 反人文主義項(xiàng)目是否可以砸碎這堵墻。 DARPA 的腦機(jī)界面項(xiàng)目是不是就是關(guān)鍵的連接點(diǎn)呢？

戈德布拉特笑了。他說(shuō)，他十年前離開(kāi)DARPA。他只能談?wù)摲菣C(jī)密項(xiàng)目。但是在談?wù)撡Z松小組的科學(xué)家和他們2008年發(fā)表的一份報(bào)告時(shí)，他給我指了一個(gè)方向。在這份叫“人為績(jī)效”的報(bào)告中，有一部分叫“腦機(jī)接口”，賈松小組的科學(xué)家論及的非侵略性接口，包括 DARPA 的CT2WS 和 NIA 項(xiàng)目。利用“電磁信號(hào)偵測(cè)數(shù)以百萬(wàn)神經(jīng)和突觸的活動(dòng)（換句話(huà)說(shuō)，就是腦電圖描記器帽），對(duì)提升認(rèn)知很有效”，但是信息收集很“煩人和低級(jí)”。他們通過(guò)觀察了解到，更多的侵略性項(xiàng)目可以詳細(xì)地描述細(xì)節(jié)，特別是在一個(gè)“電極陣列植入大腦皮層，并在頭骨設(shè)置一個(gè)‘引線(xiàn)’基座與之相接”的項(xiàng)目中。賈松小組的科學(xué)家寫(xiě)道，這些“大腦中植入芯片”的項(xiàng)目可以真正持續(xù)促進(jìn)“想要得到的結(jié)果”，進(jìn)而使“可預(yù)測(cè)的、高質(zhì)量的大腦控制成為現(xiàn)實(shí)”。

它就在那里，就隱藏在普通場(chǎng)景中。如果DARPA可以掌握“高質(zhì)量控制大腦”，人機(jī)系統(tǒng)和腦機(jī)接口的實(shí)現(xiàn)可能性就會(huì)大大提高。墻就會(huì)垮塌了，尤其是在獵殺無(wú)人機(jī)戰(zhàn)爭(zhēng)中的應(yīng)用潛力無(wú)限大。大腦芯片就是缺失的那一環(huán)。

但是連賈松小組的科學(xué)家也認(rèn)為，推薦這個(gè)想法的同時(shí)，有必要鄭重警告一下?！皩?duì)手可能在軍事應(yīng)用中使用侵略性接口，”他們寫(xiě)道，“一個(gè)極端例子，就是對(duì)人類(lèi)的遙控?！闭蛉绱?，賈松小組的科學(xué)家警告國(guó)防部不要再繼續(xù)這個(gè)領(lǐng)域的工作，至少首先要認(rèn)真考慮一下倫理因素。“人們對(duì)于腦機(jī)接口，充滿(mǎn)了在模仿人為績(jī)效方面應(yīng)用（無(wú)論是好是壞）的無(wú)限遐想”，但是同時(shí)也牽扯到“開(kāi)展研究過(guò)程中濫用潛力”的問(wèn)題，賈松小組的科學(xué)家寫(xiě)道?？傊?，賈松小組的科學(xué)家不推薦制造能用大腦控制的半機(jī)械人。

這個(gè)警告讓人想到，賈松小組越戰(zhàn)時(shí)提出的另一個(gè)警告，當(dāng)時(shí)國(guó)防部長(zhǎng)羅伯特·麥克納馬拉向賈松小組科學(xué)家征求關(guān)于用核武器打擊“胡志明小道”的意見(jiàn)。賈松小組的科學(xué)家研究了形勢(shì)，認(rèn)為這不是他們?cè)摪l(fā)表意見(jiàn)的事情。在越南用核武器，會(huì)讓越共從蘇聯(lián)等國(guó)那里得到并使用核武器，賈松小組的科學(xué)家警告說(shuō)。而這也將繼而鼓勵(lì)恐怖分子，在未來(lái)使用核武器。

2008年，賈松小組的科學(xué)家在提升認(rèn)知和人為績(jī)效的研究時(shí)說(shuō)道，控制大腦的概念，最終會(huì)失敗，因?yàn)檐姺接刑嗟娜藭?huì)認(rèn)為這項(xiàng)研究有悖倫理。“這些倫理方面的顧慮，會(huì)適當(dāng)?shù)叵拗泼绹?guó)軍方模仿人為績(jī)效領(lǐng)域的活動(dòng)和應(yīng)用”，他們寫(xiě)道。

但是當(dāng)我們談及賈松小組對(duì)DARPA 的影響時(shí)，戈德布拉特?fù)u了搖頭，表示我說(shuō)錯(cuò)了。

“賈松小組的科學(xué)家沒(méi)有多大意義了?！备甑虏祭卣f(shuō)。從他進(jìn)入DARPA 起，直到2014年，“對(duì) DARPA 最有影響力的科學(xué)顧問(wèn)小組是DSB”。DSB即國(guó)防科學(xué)委員會(huì)，辦公室就在五角大樓，負(fù)責(zé)查找問(wèn)題，DARPA負(fù)責(zé)尋找解決之策，戈德布拉特解釋說(shuō)。DSB最近研究了人機(jī)系統(tǒng)，發(fā)現(xiàn)了人機(jī)接口一系列全新的問(wèn)題。

2012年，在國(guó)防部?jī)蓚€(gè)無(wú)人機(jī)戰(zhàn)爭(zhēng)路線(xiàn)圖《2011—2036 財(cái)政年無(wú)人系統(tǒng)集成路線(xiàn)圖》和《2013-2038財(cái)政年無(wú)人系統(tǒng)集成路線(xiàn)圖》轉(zhuǎn)換期間，DSB 向國(guó)防部長(zhǎng)提交了一份125 頁(yè)的報(bào)告，標(biāo)題是“國(guó)防部系統(tǒng)中自主權(quán)的作用”。這份報(bào)告明確號(hào)召，讓國(guó)防部加速發(fā)展人工智能武器系統(tǒng)?！疤厍膊筷?duì)總結(jié)道，現(xiàn)在應(yīng)用在戰(zhàn)場(chǎng)上的無(wú)人系統(tǒng)，正在國(guó)防部行動(dòng)中發(fā)揮積極作用。由于國(guó)防部方面應(yīng)用材料問(wèn)題的限制，阻礙了自主權(quán)的廣泛接受，自主式技術(shù)并未被充分利用，”DSB 主席保羅·卡明斯基（Paul Kaminski）在報(bào)告附帶的信中寫(xiě)道。

DSB 說(shuō)，首要的阻礙來(lái)自信任——正如賈松小組科學(xué)家在他們的報(bào)告中預(yù)測(cè)的一樣。許多軍方人士對(duì)人與機(jī)器結(jié)合，制造自主式武器系統(tǒng)是否是個(gè)好主意，持懷疑態(tài)度。DSB 發(fā)現(xiàn)，抵制來(lái)自指揮機(jī)構(gòu)的所有階層，從戰(zhàn)地指揮官到無(wú)人機(jī)操作者?！坝绕涫窃趯?shí)踐中，系統(tǒng)的自主式功能，能否在任何條件下都起作用，指揮員和操作者們對(duì)此缺少信任。”DSB 寫(xiě)道。根本問(wèn)題是如何讓“指揮官相信，自主式系統(tǒng)會(huì)像預(yù)期表現(xiàn)一樣”。

或許指揮官們已經(jīng)看過(guò)太多的《X 檔案》片段，看過(guò)太多遍《終結(jié)者》系列電影；或許他們讀過(guò)《國(guó)防部指令3000.09》，看過(guò)關(guān)于討論“自動(dòng)化或半自動(dòng)化武器系統(tǒng)失敗的可能性，以及可能導(dǎo)致的不可預(yù)料債務(wù)”；抑或指揮官和操作者們還想是個(gè)完整的男人（和女人），而不想成為半人半機(jī)的半機(jī)械人。但是不像賈松小組，國(guó)防科學(xué)委員依然向國(guó)防部建議，要加速轉(zhuǎn)變態(tài)度——說(shuō)服指揮官、操作者和戰(zhàn)士，接受、信任人機(jī)接口。

“在人機(jī)接口（HRI）領(lǐng)域，特別受關(guān)注的一部分是機(jī)器人倫理學(xué)。”DSB 寫(xiě)道。這種包含機(jī)器人倫理學(xué)內(nèi)部討論的嘗試意在在軍事人才和機(jī)器人系統(tǒng)之間培養(yǎng)信任?？墒墙Y(jié)果適得其反?！袄碚撋虾芤俗⒛?，但在實(shí)際倫理上，這場(chǎng)討論結(jié)果并不好。它增加了人們對(duì)無(wú)人系統(tǒng)的不信任，因?yàn)闄C(jī)器人不會(huì)完全按理性的思維行動(dòng)?！盌SB 建議這種不信任的態(tài)度應(yīng)該改變。

或許DARPA 展開(kāi)了一個(gè)怎么達(dá)成信任的項(xiàng)目，這一點(diǎn)兒都不奇怪。在恐怖戰(zhàn)爭(zhēng)期間，DARPA 與中情局里和DARPA 職能類(lèi)似的部門(mén)——情報(bào)先進(jìn)研究計(jì)劃署（LARPA）合作，共同研究敘述網(wǎng)絡(luò)（N2），“發(fā)展人類(lèi)認(rèn)知中敘述能力的技術(shù)”。領(lǐng)導(dǎo)這項(xiàng)研究的科學(xué)家保羅·扎克（Paul Zak）博士堅(jiān)持認(rèn)為，DARPA和中情局關(guān)于信任的研究，很有意義。“如果政府更加信任民眾，我們都會(huì)獲益”，扎克2014年秋天告訴我。當(dāng)時(shí)我正在參觀他位于加州克萊蒙研究大學(xué)的實(shí)驗(yàn)室。我問(wèn)扎克，他所參與的DARPA研究是不是為了解決信任問(wèn)題，扎克說(shuō)他不這樣認(rèn)為。

保羅·扎克是神經(jīng)經(jīng)濟(jì)學(xué)與道德觀念領(lǐng)域的帶頭人。這個(gè)領(lǐng)域研究基于信任的，做出經(jīng)濟(jì)決定的神經(jīng)化學(xué)根源。扎克是經(jīng)濟(jì)學(xué)博士，在博士后研讀期間，他在哈佛大學(xué)做神經(jīng)影像研究。2004年，他做出了自稱(chēng)“開(kāi)創(chuàng)性的、改變一生的”發(fā)現(xiàn)?！拔野l(fā)現(xiàn)了大腦道德分子，”扎克說(shuō)，“大腦中的化學(xué)物質(zhì)催產(chǎn)素，讓人做出道德方面的決定，而道德與信任息息相關(guān)。”馬上，扎克說(shuō)：“ DARPA 的各路人馬都在問(wèn)我，‘我們?cè)鯓硬拍芨泓c(diǎn)催產(chǎn)素呢’？”扎克也引起了中情局的興趣。為了DARPA 的敘述網(wǎng)絡(luò)（N2）項(xiàng)目，扎克發(fā)明了一種方法，用于在催產(chǎn)素等“大腦道德分子”自然釋放時(shí)，測(cè)量人類(lèi)大腦和身體的反應(yīng)。

與DARPA 毫不相干的波恩大學(xué)研究人員，對(duì)于催產(chǎn)素取得了另一些研究成果。2014年12月，這些研究人員公開(kāi)了一種化學(xué)物質(zhì)和如何“消除恐懼”的研究課題。首席研究人員莫妮卡·?？怂固垢嬖V《科學(xué)美國(guó)人》雜志，課題的目標(biāo)是：把催產(chǎn)素注入62 個(gè)人的鼻子，希望他們的恐懼感可以消失。“對(duì)于大部分人來(lái)說(shuō)，實(shí)驗(yàn)成功了”，她說(shuō)。我們將生活在一個(gè)可以消除恐懼的世界里，實(shí)現(xiàn)時(shí)間不會(huì)太久了。

為什么國(guó)防科學(xué)委員會(huì)對(duì)于在國(guó)防部推進(jìn)機(jī)器人戰(zhàn)爭(zhēng)這么上心呢？為什么要讓軍事人才學(xué)會(huì)“信任”機(jī)器人，并在未來(lái)戰(zhàn)爭(zhēng)中依靠自主式機(jī)器人呢？為什么政府要投資消除恐懼的研究工作呢？所有這些問(wèn)題和本書(shū)中的每一個(gè)問(wèn)題的答案，就在于整個(gè)軍工復(fù)合體的核心。

不像賈松小組科學(xué)家那樣，大部分都是兼職，包括國(guó)防科學(xué)家和全職大學(xué)教授，DSB的大多數(shù)成員都是國(guó)防合同商。2009—2013年，DSB 主席保羅·卡明斯基一直為奧巴馬總統(tǒng)的情報(bào)顧問(wèn)委員會(huì)工作，同時(shí)他還是通用公司的董事、蘭德公司董事會(huì)主席、前休斯研究所董事會(huì)主任、航空航天董事會(huì)主席、技術(shù)創(chuàng)新有限公司主席和首席執(zhí)行官、約翰·霍普金斯應(yīng)用物理實(shí)驗(yàn)室信托人和顧問(wèn)、麻省理工學(xué)院林肯實(shí)驗(yàn)室信托人和顧問(wèn)，所有這些公司和社團(tuán)都是為DARPA 和國(guó)防部建造機(jī)器人武器系統(tǒng)的?？魉够€是國(guó)防部辦公室的付費(fèi)顧問(wèn)。但是，他只是一個(gè)例子，他的DSB 同僚們大約有50 人，每個(gè)人都在國(guó)防合同商巨人們的董事會(huì)工作，這其中包括雷聲、波音、通用、諾斯羅普·格魯曼、里克特爾、航空公司、得州儀器、IBM、勞倫斯利弗莫爾國(guó)家實(shí)驗(yàn)室、桑迪亞國(guó)家實(shí)驗(yàn)室等。

回顧DARPA的歷史，可以說(shuō)它的部分甚至整個(gè)職能就是讓美國(guó)在軍事技術(shù)上永遠(yuǎn)領(lǐng)先。前DARPA 主任埃伯哈特·里希廷曾在1970年對(duì)國(guó)會(huì)明確地說(shuō)明這個(gè)先進(jìn)技術(shù)戰(zhàn)爭(zhēng)的難題，DARPA 總是面臨要接受“先有雞還是先有蛋”的問(wèn)題。DARPA必須永遠(yuǎn)執(zhí)行“需要的項(xiàng)目”，因?yàn)楫?dāng)一項(xiàng)技術(shù)需求在戰(zhàn)場(chǎng)上出現(xiàn)時(shí)，就為時(shí)已晚了，必須提前研究。DARPA的合同商在國(guó)防部保持先于需要，并引領(lǐng)軍事變革中，起了非常關(guān)鍵的作用。要統(tǒng)治未來(lái)的戰(zhàn)爭(zhēng)，提防被抓到。

回顧DARPA的歷史，展望未來(lái)，可以說(shuō)，未來(lái)某一天，當(dāng)它走向全世界的時(shí)候，技術(shù)自身將會(huì)超越DARPA。而這正是許多受人尊敬的科學(xué)家和工程師所萬(wàn)分擔(dān)憂(yōu)的。