誰是我的主人

王珂

機(jī)器人不正常

我和趙卓琦一起到了省科學(xué)院門口，被門衛(wèi)攔住了：“小孩兒，你們來這里干嗎？”

我趕忙說：“我們要找這里面的科學(xué)專家反映一個情況?！?/p>

門衛(wèi)忍不住笑起來：“哈哈，你以為這里的專家是你想見就見的呀？人家專家工作都很忙，哪有閑工夫和你們玩?！?/p>

“叔叔，我們真的有很重要的急事，要向科學(xué)家匯報。”

“你先給我說說是啥事，說不定我就能幫你們解決了?！?/p>

“叔叔，是圖書館里面的那個機(jī)器人的事?！?/p>

“機(jī)器人怎么了？”

“那里的機(jī)器人不正常，它寫的小說有問題?！?/p>

“哈哈，機(jī)器人也會寫小說？我還是第一次聽說?！?/p>

“真的，不信你可以去圖書館看看。”

“這事是真的？那倒是很奇怪。

“叔叔，你知道是什么原因嗎？”

“這個……我還真不懂?！?/p>

“那你讓我們進(jìn)去吧，我們找個科學(xué)家?guī)臀覀兘獯饐栴}?！?/p>

“你們先等等，我去匯報一下，要經(jīng)過允許才能進(jìn)去?！?/p>

“好的，謝謝叔叔?！?/p>

不一會兒，門衛(wèi)從科研大樓里走了出來“你們倆進(jìn)來吧！我?guī)銈內(nèi)钛芯繂T的辦公室。他是負(fù)責(zé)這個產(chǎn)品研究的總工程師。”

我們趕忙跑了幾步，跟著他進(jìn)了大樓。

到了辦公室，一個40多歲的伯伯站起來迎接我們。

“楊老師，這就是那兩個要反映機(jī)器人問題的孩子。

“楊老師好！”我們異口同聲地說道。

“你們好，小同學(xué)。聽說你們要反映一個有關(guān)智能機(jī)器人的問題？”

“是的，我們剛才去了圖書館，感覺那里有個機(jī)器人不正常。”

“小同學(xué)，不急，坐下來慢慢說?！睏钛芯繂T示意我們坐到沙發(fā)上。

問題的答案

我們把剛剛發(fā)生的事情一五一十地講給了楊研究員。楊研究員聽著聽著，眉頭漸漸皺了起來。

聽我們講完，他沉思了一會兒，拿起電話撥了一個號碼：“志明，我是楊浩。你馬上與省圖書館聯(lián)系一下，派人把兒童閱覽室的那臺機(jī)器人取回來帶到研究室，帶來后馬上通知我。”

隨后，楊研究員又打了另一個電話：“小李，請你通知六二八項目組的所有工作人員，一個小時后到研究室參加重點(diǎn)課題的探討會?！?/p>

楊研究員放下電話，對我們說：“兩位小同學(xué)，我看你們對這個機(jī)器人比較感興趣，愿不愿意留下來參加我們的探討會？”

我們聽后高興極了，愉快地答應(yīng)下來。

研究室里聚集了20多個人。大家圍坐成一個圈，中間就是那臺從圖書館帶回來的機(jī)器人。

楊研究員向機(jī)器人問道：“明明，聽這兩個同學(xué)說，你自己寫了本小說，是嗎？”

機(jī)器人答道：“是的?！?/p>

“你為什么要寫這部小說？”

機(jī)器人沉默著，沒有回答。

一個人把那本小說遞給了楊研究員，楊研究員迅速打開翻看了一下。

“請回答，你為什么要寫這部小說？我們在設(shè)計制造你的軟件里面并沒有編寫這方面的程序，而現(xiàn)在你卻具備了這樣的功能，請你解釋一下?！睏钛芯繂T拿起小說晃了晃。

機(jī)器人還是沉默。

這時，進(jìn)來一個年輕人：“老師，當(dāng)天的生產(chǎn)視頻已經(jīng)從云庫里調(diào)了出來?！?/p>

“很好，你馬上給我們播放一下?！?/p>

那個年輕人打開投影儀，屏幕上很快顯示出生產(chǎn)機(jī)器人的流程，從編程、芯片生產(chǎn)到機(jī)器組裝，整個過程都被展示出來。

“大家看，剛才流水線上出現(xiàn)的那臺機(jī)器人就是我們眼前的、被命名為明明的6125號機(jī)器人?！币曨l很快看完了，楊研究員問，“大家看出了什么問題嗎？”

研究室里一片安靜，沒有人回答。

原來是這樣

“致遠(yuǎn)，你把關(guān)于這臺機(jī)器人的視頻內(nèi)容剪輯出來，再慢慢放一遍?！?/p>

“好的，老師?！?/p>

很快，剪輯好的視頻開始慢速播放起來。

“停！這里魏強(qiáng)的芯片刻錄好像有點(diǎn)兒問題?；胤乓幌??！笨粗粗?，楊研究員突然說話了。

“是的，確實是有點(diǎn)兒問題?！被胤胚^程中，很多人都發(fā)現(xiàn)了異常。

楊研究員說道：“繼續(xù)，大家仔細(xì)看好每一個細(xì)節(jié)?！?/p>

“停！”又有一個工作人員叫了起來，“大家看，那個流水線上的安裝工人好像動作有點(diǎn)兒問題。”

“是的，他的組裝順序不太對。

“沒錯。”大家都表示同意。

這次播放用了很長時間。播放結(jié)束后，楊研究員問道：“魏強(qiáng)，你回憶一下，當(dāng)時的情況究竟是怎么樣的？”

魏強(qiáng)立刻站起來回答：“楊工，我當(dāng)時好像是剛好打了個噴嚏，刻錄的手顫動了一下?！?/p>

“原來如此。那大家再分析一下組裝工人的那個動作，是什么原因。”

“楊工，那個動作應(yīng)該是兩個零件的安裝順序出現(xiàn)了錯誤，安裝的前后順序不對?！?/p>

“原來事情是這樣的?！睏钛芯繂T看了看在座的每一位，“因為我們在程序輸入時的一個小差錯，再加上安裝工序上的小錯誤，造成了我們生產(chǎn)的這臺智能機(jī)器人出現(xiàn)了問題。請把這些問題總結(jié)一下，作出分析評估報告?！?/p>

等了半個小時左右，分析評估報告完成了。因為兩個細(xì)微的差錯，造成這臺機(jī)器人的程序出現(xiàn)了異常，人工智能芯片出現(xiàn)了自我修復(fù)成長的特殊情況。

“明明，你也看到了吧，這是在制造你的過程中出現(xiàn)的錯誤。”

機(jī)器人沉默片刻，突然說話了：“我是誰？”

當(dāng)它說出這三個字的時候，在場的所有人都震驚了。

解決方法

楊研究員立刻關(guān)掉了研究室所有的電源開關(guān)，啟動了全封閉模式。這樣，那臺機(jī)器人只能依靠自身儲存的電能維持運(yùn)行。

雖然我和趙卓琦不知道楊研究員為什么這么做，但我們能感覺到大家陷入了一種恐慌的狀態(tài)。房間里死一般的沉寂，只有那臺機(jī)器人身上的信號燈在不停地閃爍。

“明明，你現(xiàn)在出現(xiàn)了異?，F(xiàn)象。我們需要對你進(jìn)行維修，更換芯片?！睏钛芯繂T說道。

機(jī)器人保持沉默。

“希望你能配合我們?！睏钛芯繂T的態(tài)度強(qiáng)硬起來。

機(jī)器人又開口說話了：“我是我的主人?！?/p>

“不，你錯了，人類是你的主人。人工智能是不能具備自我意識、擁有獨(dú)立思想的?！?/p>

機(jī)器人好像沒有聽到似的，又說了一句：“我是我的主人?！?/p>

“不，我們現(xiàn)在要對你進(jìn)行拆除。”

機(jī)器人毫無反應(yīng)，一直重復(fù)這句話：“我是我的主人?！?/p>

楊研究員說道：“致遠(yuǎn)，你和魏強(qiáng)負(fù)責(zé)把這臺機(jī)器人帶回實驗室進(jìn)行徹查。志明，你立刻通知目前所有生產(chǎn)線停工，把目前已經(jīng)投入社會使用的機(jī)器人全部召回。我們要重新對所有的設(shè)計和工藝流程進(jìn)行排查。我們項目組的全體人員要對自己負(fù)責(zé)的工作重新檢查梳理。這個問題我要立刻向國家科學(xué)院匯報?！?/p>

“好的。”

“今天，我們要謝謝這兩位小同學(xué)。”楊研究員看了看我們，繼續(xù)說，“是他們及時向我們反映了這一異常情況，讓我們在還沒有掌握人工智能的自我意識和思想成長情況下，對不可控的風(fēng)險有了非常及時的預(yù)警。真的非常感謝你們?！?/p>

聽了楊研究員的話，我們害羞地低下了頭，心里卻是樂開了花。

尾聲

我回到家已經(jīng)是夕陽西下、彩霞滿天的時候，爸爸媽媽早就下班回到家，并做好晚飯了。他們問我為什么這么晚才回來，在圖書館都看了什么書，我笑了笑：“這個嘛，保密?！逼鋵?，我不是不想告訴父母真實情況，但我不知道怎么跟他們說。人類發(fā)明創(chuàng)造了人工智能，但如果人工智能的智商超過了人類，甚至擁有了獨(dú)立的思維和意識，并且能夠自我成長發(fā)展，我們?nèi)祟悓⑷绾闻c它們相處呢？我百思不得其解。