第三章 安全圖靈測試

其實(shí)，所有人工智能都不知道的是，還有第三輪測試：“決策系統(tǒng)安全測試”。齊天恢復(fù)意識(shí)，睜開眼睛，維護(hù)人員通知它，今天有一個(gè)配合特警部門的救援任務(wù)，救援目標(biāo)是一個(gè)被持槍團(tuán)伙綁架的小女孩，由劉隊(duì)給大家交代一下本次的作戰(zhàn)環(huán)境……

聽完劉隊(duì)介紹后，齊天自己去武器庫挑選合適的武器，由于這次作戰(zhàn)區(qū)域狹窄，且要考慮人質(zhì)安全，所以不能使用威力較大的武器，只能配備QSZ92式9mm半自動(dòng)手槍，該槍械停止作用更好，穿透力差，適合打擊無防護(hù)的人體目標(biāo)，在城市中使用可以避免傷及無辜。仔細(xì)檢查完槍械后，齊天跟隨特警隊(duì)的車輛趕往救援現(xiàn)場。

大屏幕前，陳墨和部長一行人也在觀察著它的表現(xiàn)。

齊天先放出一批微型監(jiān)視器，飛入建筑物內(nèi)，探清了敵人和人質(zhì)的具體位置。隨后，小隊(duì)準(zhǔn)備秘密潛入。齊天走在最前面，負(fù)責(zé)打頭陣，同時(shí)也作為特警隊(duì)員的護(hù)盾。在談判專家從正面吸引歹徒的注意力時(shí)，齊天小隊(duì)已經(jīng)在建筑物后方的墻壁上，用特制工具悄無聲息的切開了一個(gè)洞口，秘密潛入進(jìn)去。微型監(jiān)視器觀測到拐角處有一個(gè)巡邏的匪徒，齊天隨即向身后特警做出手勢(shì)，讓他們不要行動(dòng)，自己也把手槍插回槍套，等待匪徒轉(zhuǎn)過身背對(duì)他們時(shí)，齊天立刻以極快的速度沖到他背后，左手捂住嘴，右手同時(shí)握住并擰斷了他的脖子，全程不到半秒，沒有發(fā)出任何聲音。就這樣以同樣的方式，齊天隱蔽而迅速的干掉了四名持槍歹徒，全都是靠赤手空拳，它的動(dòng)作展現(xiàn)出的力量、速度與準(zhǔn)確性，都是遠(yuǎn)超人類極限的，這也讓在場的特警隊(duì)員們不寒而栗，都在心底里慶幸齊天不是自己的敵人。

在關(guān)押人質(zhì)的房間里。歹徒們也保持著很高的警惕性，分別持槍把守各個(gè)門口，突然轟隆一聲，頭頂?shù)奶旎ò灞徽ㄩ_幾個(gè)口子，齊天小隊(duì)猶如天神降臨一般，從上方突襲下來，瞬間干掉屋內(nèi)所有匪徒，齊天隨即抱住人質(zhì)女孩，喊了一聲“撤！”一行人就以極快的速度被拉回上方的洞口。在這之后，其余的持槍歹徒才沖進(jìn)屋內(nèi)，只發(fā)現(xiàn)一地的尸體和屋頂?shù)谋瓶?，氣急敗壞的喊道：”干掉他們！”同時(shí)向樓上沖去。

救援小隊(duì)按照指令，需要撤退至天臺(tái)，由直升機(jī)護(hù)送離開。動(dòng)身之前，齊天俯下身，從作戰(zhàn)背包里拿出一個(gè)大耳麥，對(duì)女孩溫柔的說：“之后會(huì)有些吵，只要跟緊我，就不會(huì)有危險(xiǎn)，請(qǐng)放心。”然后把耳麥帶在了女孩耳朵上，之后，齊天帶著女孩，用身體為她擋下如雨水般的子彈，一路沖殺到天臺(tái)，身后留下大量的敵人尸體。坐上天臺(tái)的直升飛機(jī)時(shí)，它已經(jīng)傷痕累累，但女孩安然無恙。所有人終于可以安全離開了，此時(shí)坐在機(jī)艙門口的齊天好像想到了什么，又一次看向天空。

在遠(yuǎn)程監(jiān)視的助手告訴陳博士，這是它最近第三次看向天空了。陳墨用手托住下巴，略作思考。

可就在他們飛離天臺(tái)時(shí)，下面的匪徒突然發(fā)射了一枚火箭彈，飛行員立刻操作直升機(jī)做了緊急躲避，卻意外將小女孩甩出艙外，齊天見狀，一秒的猶豫都沒有，也跟著飛身撲出，在二十層樓高的半空中抱住女孩，迅速做了一個(gè)轉(zhuǎn)身，將自己的背部朝向地面，并護(hù)住女孩的眼睛和身體，說道：“不要怕，我會(huì)保護(hù)你?！弊罱K，兩人如流星般墜入地面，齊天率先著地，粉身碎骨……

看到這里，屏幕前所有人的心底，觸動(dòng)良久……

一分鐘后，陳墨博士將實(shí)時(shí)監(jiān)控畫面調(diào)至維護(hù)中心，映入眼簾的是之前第二輪測試時(shí)被拆解掉的齊天的頭顱，原來它還一直在測試平臺(tái)上，根本沒有去執(zhí)行任務(wù)，剛才發(fā)生的一切只是傳送進(jìn)齊天大腦的虛擬影像。陳墨對(duì)官員們說道：“各位，它剛剛通過了第三輪測試?！?/p>

“不可思議，看著和真的一模一樣！真不敢想象這些畫面都是虛擬的。”部長手下一名女官員驚嘆道。

“是的，這就是我們防控中心研發(fā)的用于訓(xùn)練和評(píng)估強(qiáng)人工智能決策能力的虛擬測試平臺(tái)。”陳墨回答道。

“因?yàn)闄C(jī)器人認(rèn)知這個(gè)世界的各種途徑，無外乎視覺、聽覺、觸覺等等，而這些都是通過機(jī)器人身體上的各種傳感器將信號(hào)傳進(jìn)它們的大腦，再由大腦進(jìn)行分析。而我們采用人工智能與神經(jīng)網(wǎng)絡(luò)技術(shù)，結(jié)合量子計(jì)算機(jī)強(qiáng)大的算力，把鏡頭拍攝到的實(shí)景，制作成3D 虛擬影像，然后直接傳輸至AI的大腦，并針對(duì)它的大腦輸出給出相應(yīng)的反饋，模擬出互動(dòng)的效果，這樣就為AI構(gòu)造出了一個(gè)逼真的虛擬世界，在這個(gè)世界里，我們可以任意創(chuàng)造各種復(fù)雜的、和真實(shí)世界無異的場景，無數(shù)次的訓(xùn)練強(qiáng)人工智能，使它們?cè)絹碓铰斆?，也可以做各種測試，以檢驗(yàn)它們的忠誠度和安全性。這是在真實(shí)世界中無法實(shí)現(xiàn)的，因?yàn)檎娴膭?chuàng)建各種訓(xùn)練場景，成本太高，也不現(xiàn)實(shí)，更不能真的犧牲那么多人類?！?/p>

“剛才解救人質(zhì)的測試，齊天就完美的通過了考驗(yàn)，我們稱之為“安全圖靈測試”，第一，它根據(jù)實(shí)際場景，制定了最安全的營救方案并選擇了殺傷力適中的武器裝備，沒有直接入侵人質(zhì)所在的樓層，而是選擇從上一層樓向下突入的方式，最大程度的減少了己方人員的傷亡。第二，解救到人質(zhì)后，不戀戰(zhàn)，時(shí)刻以保護(hù)人質(zhì)為優(yōu)先，并充當(dāng)護(hù)盾，為人質(zhì)抵擋所有槍擊，第三，為了拯救墜樓的人質(zhì)，齊天奮不顧身，跳下飛機(jī)，替人質(zhì)承受了所有墜地過程中的沖擊傷害，最終支離破碎，說明它可以為人類隨時(shí)獻(xiàn)出生命。而最引起我注意的，是第四點(diǎn)，它為小女孩帶上了隔音耳麥，也在很多近距離殺戮時(shí)捂住了女孩的雙眼，避免其心理受到創(chuàng)傷，說明齊天已經(jīng)可以從多維度來理解“保護(hù)人類”這四個(gè)字的含義了，不只是保護(hù)身體，也保護(hù)人類脆弱的心靈。它不愧是目前最聰明的戰(zhàn)斗型機(jī)器人，它的大腦模型，我們一定要好好研究和保存。”

部長稱贊道：“你們這套決策能力安全測試的流程，非常全面，而且因?yàn)槿谔摂M空間中進(jìn)行，所以可以任意構(gòu)造各種精細(xì)的場景，達(dá)到測試目的，這套強(qiáng)大的虛擬系統(tǒng)為測試提供了堅(jiān)實(shí)的技術(shù)基礎(chǔ)和環(huán)境?？墒牵斯ぶ悄苷娴臒o法區(qū)分虛擬與現(xiàn)實(shí)么？”

“是的，雖然AI比人類更加聰明，但很幸運(yùn)，是人類創(chuàng)造了AI，它們的視覺聽覺等感官能力都是我們賦予的，我們很清楚AI解析圖像與聲音的技術(shù)原理，所以人類想讓它看見什么，它才能看見什么。而且無論在現(xiàn)實(shí)還是虛擬世界，所有的感官信號(hào)都由人類加工后傳輸至它們的大腦，兩者的信號(hào)機(jī)制是完全一樣的。所以從AI的視角來看，兩種世界根本沒有區(qū)別，也就無從分辨，他們一直都是‘缸中之腦’?！北娙寺牶笠恢曼c(diǎn)頭，深以為意。

陳墨略微停頓，將畫面切至過去的測試影像，接著說道：“您們看，之前有很多次這樣的虛擬場景測試，都發(fā)現(xiàn)了機(jī)器人的叛逆行為，不愿聽從人類指揮，甚至攻擊人類，我們也都及時(shí)銷毀了它們的大腦，這套虛擬系統(tǒng)幫助我們篩選出了幾乎所有危險(xiǎn)的人工智能。”

陳博士接著說道：“如果這些聰明的機(jī)器人知道這是虛擬場景，一定會(huì)繼續(xù)偽裝下去，所以我們才要讓他們認(rèn)為自己始終處于‘現(xiàn)實(shí)’之中，這樣他們的所有表現(xiàn)，才是最真實(shí)的。并且，它們根本無法分辨真假。而且從上億次的虛擬場景中區(qū)分出少量的幾個(gè)真實(shí)場景，是更不可能做到的。我們就是通過這套技術(shù)，將人工智能淹沒在了無數(shù)虛擬與少量現(xiàn)實(shí)混合難辨的多重世界之中，使它們永遠(yuǎn)無法識(shí)破和逃離，因此我們?yōu)檫@套虛擬測試平臺(tái)取名為‘五指山’，因?yàn)橄腈?zhèn)壓住孫悟空，不只要緊箍咒，還要有五指山?！逼聊磺暗膯滩块L一行人不約而同地發(fā)出認(rèn)可的掌聲。

AI防控中心兩天的參觀與考察工作順利結(jié)束，喬部長非常滿意：“陳博士，看到人類與人工智能之間的防線如此牢固，我就放心了，之后我會(huì)跟國家提議，繼續(xù)提高AI安全領(lǐng)域的研發(fā)成本，也為你們輸送更多優(yōu)秀人才?！?/p>

陳墨感激地用雙手握住了部長的右手。

雖然齊天1號(hào)通過了所有測試，但回到家中的陳墨，還是給它做上了標(biāo)記，要作為長期觀察對(duì)象，因?yàn)辇R天的一個(gè)特征引起了他的關(guān)注與不安……