“信使”基辛格與透明的人工智能

胡菡菡

百歲基辛格駕鶴西去，留給世界的最后一本著作，是一本破圈之作《人工智能時(shí)代與人類未來》。它的扉頁上印著獻(xiàn)給“南?！薄粮竦钠拮?，內(nèi)里卻更像急于交付給全人類的讀本，以便我們和南希一樣可以看“透”人工智能，從而看見未來。

信使基辛格

寫作本書之前，基辛格也從沒有預(yù)想過自己會(huì)去寫一本科技著作。寫作本書，對(duì)他來說，是偶然的、計(jì)劃之外的事。六年前，一位人工智能專家邀請(qǐng)基辛格出席一次人工智能討論會(huì)，基辛格本能地覺得這是一場(chǎng)與他無關(guān)的技術(shù)討論，拗不過邀請(qǐng)者的勸說，時(shí)年九十五歲的基辛格躬身入局。不久，又一位人工智能專家聞?dòng)嵹s到，形成了一個(gè)穩(wěn)定的討論人工智能時(shí)代如何影響人類未來的“三人組”。這兩位人工智能專家，一位是谷歌前CEO埃里克·施密特，另一位是麻省理工學(xué)院計(jì)算機(jī)學(xué)院院長(zhǎng)丹尼爾·胡滕洛赫爾。我們現(xiàn)在看到的這本書，就是基辛格與他們的合著。

這兩位人工智能領(lǐng)域的一流人物為什么要拉上基辛格這樣的人工智能外行？一個(gè)合理的猜測(cè)與解釋是，他們不僅相信基辛格能看到人工智能專家所看不到的問題，同時(shí)也希望借助基辛格的聲望，完成傳遞有關(guān)AI 消息的信使的職責(zé)。

多年前， 王小波在《讀書》雜志上發(fā)表過一篇名作《花剌子模信使問題》?；ㄘ葑幽?，是一個(gè)中亞古國(guó)的名字。據(jù)說，給國(guó)王送來好消息的信使會(huì)加官晉爵，給國(guó)王送來壞消息的信使會(huì)被直接喂老虎。套用當(dāng)下的玩梗文化，我們或許可以說每個(gè)人心里都住著一個(gè)花剌子模國(guó)王，人類需要時(shí)時(shí)警醒不能讓自己只聽好消息。

盡管基辛格領(lǐng)銜的“三人組”沒有將人工智能說成好消息，也沒有說成壞消息，我們還是能從字里行間感受到“信使”的憂慮。彼時(shí)已經(jīng)體驗(yàn)過GPT3.0 技術(shù)的基辛格們?cè)跁袑懙溃骸斑@是一場(chǎng)革命，人類現(xiàn)有的哲學(xué)概念和社會(huì)制度讓我們?cè)诿鎸?duì)這場(chǎng)革命時(shí)頗有些措手不及。”

其實(shí)，基辛格探討人工智能與人類未來的書，早在二0二一年就問世了。但是，該書在當(dāng)時(shí)的美國(guó)并沒有激起什么波瀾，在中國(guó)更是知之者甚少。如果不是因?yàn)镃hatGPT 橫空出世震驚全世界，中國(guó)出版商也許不會(huì)如此急切、如此快捷地翻譯引進(jìn)這本“舊書”。

ChatGPT 正如一個(gè)友情加入“三人組”的巨獸，讓無數(shù)的南希們都突然對(duì)信使們的憂慮感同身受，甚至開始慌張。那些在大機(jī)器時(shí)代尚有些沾沾自喜的腦力勞動(dòng)者都開始相互打趣是不是哪天就會(huì)被人工智能取代，比如律師、教師以及醫(yī)生。畢竟人類的理性計(jì)算能力，在人工智能面前顯得不堪一擊。

十多年前，少數(shù)科幻迷用來討論人工智能毀滅人類的末日概率P，一夜間又流行起來。業(yè)內(nèi)人士無論相識(shí)與否動(dòng)輒問對(duì)方您的P是多少，就像問廁所在哪兒一樣隨意。研發(fā)出ChatGPT 的OpenAI公司首席科學(xué)家竟然公開表示，他的P 在5% 至50% 之間。

看不“透”的風(fēng)險(xiǎn)

人們的慌張，來源于看不“透”人工智能將會(huì)把我們帶去何方。人工智能樹立起高高的技術(shù)屏障，讓不知情的南希們只能靠猜想為自己的未來擔(dān)憂。

雖然嚴(yán)肅的人工智能科學(xué)家都認(rèn)為，震驚世界的ChatGPT 沒有越過“弱人工智能”的門檻，連通用人工智能都算不上，更別奢談強(qiáng)人工智能了， 雖然各類提供人工智能技術(shù)服務(wù)的公司，包括OpenAI都聲稱人工智能技術(shù)的目的是給人類賦能，而并非盜取人類的飯碗，但這仍然無法說服普通人相信人工智能的權(quán)杖真的掌握在自己的手中。人類會(huì)毀滅，看起來還是個(gè)玩笑；但個(gè)體會(huì)被隔絕以及拋下，卻是切膚的問題。即便是基辛格的兩位專家伙伴，都坦言：“無論哪個(gè)領(lǐng)域的專家，都無法憑借一己之力理解一個(gè)機(jī)器能夠自主學(xué)習(xí)和運(yùn)用邏輯的未來?！笨础巴浮比斯ぶ悄?，成為這個(gè)世紀(jì)剛開頭的時(shí)候人們最急迫的任務(wù)之一。

二0二三年春天，馬斯克對(duì)自己參與孵化的ChatGPT 的問世不但沒有表示任何喜悅之情，反而公開譴責(zé)ChatGPT 背離初心、“科技向錢”。這個(gè)初心，就是OpenAI 中的Open 一詞，敞開的、能夠讓人看“透”的人工智能。OpenAI 這幾年并沒有完全兌現(xiàn)公開所有研究成果、增進(jìn)全人類福祉的承諾，開源方面早在二0一九年就不太open 了。如果不是被群嘲OpenAI 應(yīng)該更名Closed-AI，本已決定不再開源的GPT-2 模型，就可能徹底對(duì)公眾掩上了面紗。

“輸入輸出不由人類控制，算法是個(gè)黑匣子”的傳說，在人工智能發(fā)展的初期不斷傳播。谷歌這樣的巨頭因此得以使用“商業(yè)秘密”這樣的話語來為不透明的人工智能開發(fā)提供合法性。時(shí)至今日，透明性悖論，仍然是科技巨頭們常常討論的議題。比如，模型運(yùn)行的重要細(xì)節(jié)可能被竊取，可能遭到外部實(shí)體的網(wǎng)絡(luò)攻擊等等。當(dāng)然， 激烈競(jìng)爭(zhēng)的市場(chǎng)下，這樣的議程無可厚非?？墒钱?dāng)我們明確感受到偏見、歧視、操縱、隱私泄露……我們便明白，更為重要的事是去揭開人類智能，而非人工智能為數(shù)據(jù)貼上的一個(gè)個(gè)小標(biāo)簽，繼續(xù)追求透明，而非在透明悖論中打轉(zhuǎn)。

沒有透明，人類永遠(yuǎn)被動(dòng)

基辛格生前嘆息地表示過，人工智能是一場(chǎng)迥異于汽車取代馬車的劃時(shí)代變革。在這場(chǎng)變革中，我們并不知道我們要扮演何種角色，我們是被動(dòng)的，不是積極主動(dòng)地共襄盛舉，而是身不由己地裹挾其中。誠(chéng)如“計(jì)算機(jī)之父”圖靈所言——“我們只能看到前方很短的距離”，我們模模糊糊地感覺到人工智能似乎造成了什么影響，但我們并不知道未來。

未來，就像一個(gè)盲盒，如果透明性原則不能得到企業(yè)和國(guó)家的徹底認(rèn)同，人類打開的就可能是一個(gè)潘多拉魔盒。

對(duì)不透明的擔(dān)憂，加速了美國(guó)、歐盟人工智能立法進(jìn)程。有趣的是，真正引發(fā)歐美政治家警覺的，是ChatGPT 的橫空出世，而非基辛格一廂情愿的呼吁。早在二0二一年，歐盟就有出臺(tái)人工智能監(jiān)管法案的計(jì)劃，但是喋喋不休推進(jìn)緩慢。當(dāng)ChatGPT 把輿論操縱之類的現(xiàn)實(shí)風(fēng)險(xiǎn)擺放到立法者面前時(shí)，歐洲人才發(fā)現(xiàn)監(jiān)管立法已迫在眉睫，不能再拖了。二0二三年即將結(jié)束的時(shí)候，歐盟各成員國(guó)和歐洲議會(huì)歷時(shí)三天的唇槍舌劍，推出一個(gè)史無前例的突破性的吃螃蟹的人工智能監(jiān)管法案。

歐洲人工智能監(jiān)管法案中，透明性原則成了不容置疑的立法原則。法案矛頭直指ChatGPT和谷歌等人工智能巨頭， 要求ChatGPT 等基礎(chǔ)模型在投放市場(chǎng)前必須履行透明度義務(wù)，以詳細(xì)摘要的方式披露技術(shù)文件之類的細(xì)節(jié)。對(duì)于某些特定的人工智能系統(tǒng)，法案也要求其在使用聊天機(jī)器人或“ 深度偽造技術(shù)”時(shí)，履行最低限度的透明度義務(wù)，明白無誤地提醒人類用戶，和你聊天的是機(jī)器而不是人。

綜觀聯(lián)合國(guó)教科文組織、部分歐美國(guó)家，以及我們中國(guó)的“軟法”“硬法”，“透明性倫理原則”是壓倒一切的倫理原則。雖然措辭不盡相同，觀點(diǎn)并無二致，都希望人工智能成為可控、可靠、可用、可信的人類的工具。

透明，特別是算法透明，是人工智能其他倫理原則得以保障的必要先決條件。我國(guó)《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》等規(guī)定強(qiáng)調(diào)算法備案，針對(duì)的也是人工智能技術(shù)開發(fā)和應(yīng)用中可能存在的不透明問題。如果我們不能通過透明性原則增強(qiáng)人工智能的可審計(jì)性、可追溯性、可解釋性和可依賴性，聯(lián)合國(guó)教科文組織幾年前發(fā)布的“人工智能十大倫理原則建議”中的其他九個(gè)倫理原則，都是鏡花水月可望而不可即。試想，沒有透明度，人們?nèi)绾螌?duì)微軟、谷歌等科技巨頭的人工智能技術(shù)是否有益于社會(huì)提出有效質(zhì)疑？

作為一個(gè)有全球影響力的外交家，基辛格對(duì)透明性原則的關(guān)注， 在于國(guó)家， 而非企業(yè)巨頭。基辛格的視角確實(shí)不同于一般科學(xué)家，他擔(dān)憂的，不僅僅是“如果機(jī)器會(huì)思考，我們?nèi)祟愑质鞘裁础边@樣的哲學(xué)家式的擔(dān)憂，更有對(duì)國(guó)家之間人工智能競(jìng)賽的擔(dān)憂?；粮窈粲醮髧?guó)更加透明，讓世界了解其在人工智能方面的目標(biāo)與進(jìn)展，以免其他國(guó)家迷茫恐懼，兩敗俱傷。

希望所有國(guó)家都能在人工智能領(lǐng)域保持透明的主張，或許有點(diǎn)兒烏托邦，但肯定是正確的。因?yàn)?，沒有任何一個(gè)國(guó)家可以憑一己之力獨(dú)自控制人工智能帶給人類的風(fēng)險(xiǎn)。作為人類命運(yùn)共同體的一員，我們天然享有知曉潛在風(fēng)險(xiǎn)的權(quán)利、預(yù)先獲得提醒的權(quán)利。然而，沒有人工智能企業(yè)巨頭的透明，沒有人工智能研發(fā)大國(guó)的透明，我們的權(quán)利就只能停留在紙上，我們無從知曉潛在風(fēng)險(xiǎn)，也無法預(yù)先獲得提醒。僅憑這一點(diǎn)，我們就還是向“中國(guó)人民的老朋友”基辛格致謝，感謝他未必正確的觀點(diǎn)中流淌的“信使”之思。

（《人工智能時(shí)代與人類未來》，[ 美]亨利·基辛格、埃里克·施密特、丹尼爾·胡滕洛赫爾著，胡利平、風(fēng)君譯，中信出版社二0二三年版）