掌控AI，人類能做到嗎

張?zhí)锟?/p>

國(guó)際學(xué)術(shù)期刊《自然》雜志預(yù)計(jì)，位于美國(guó)舊金山的人工智能（AI）技術(shù)公司OpenAI將于2024年年底發(fā)布支撐聊天機(jī)器人的下一代AI模型GPT-5。與其前身GPT-4相比，GPT-5會(huì)擁有更多、更先進(jìn)的功能。此外，GPT-4的競(jìng)爭(zhēng)對(duì)手Gemini（另一個(gè)生成式AI工具，也是大語(yǔ)言模型）和其他AI工具也會(huì)推出新的版本。

《自然》雜志還預(yù)測(cè)，美國(guó)谷歌公司旗下的深度思維（DeepMind）人工智能公司將在2024年發(fā)布AI工具阿爾法折疊（AlphaFold）的新版本。此前，阿爾法折疊已經(jīng)預(yù)測(cè)了高精度的蛋白質(zhì)三維模型。新版本的阿爾法折疊將以原子級(jí)精度模擬蛋白質(zhì)、核酸和其他分子之間的相互作用，將為藥物設(shè)計(jì)和發(fā)現(xiàn)開辟新的可能性。

從這些預(yù)測(cè)可以看出，人類對(duì)AI的快速迭代既驚喜又擔(dān)憂。我們驚喜于AI必然會(huì)改變?nèi)祟惖纳?，并可能把人類文明推向新的高度；同時(shí)，令人們擔(dān)憂的是，AI可能會(huì)脫離人類的監(jiān)控，給人類社會(huì)帶來意想不到的災(zāi)難。

AI的發(fā)展有兩大主線：一是人類需要主動(dòng)掌控AI，首先應(yīng)制定關(guān)于AI的法律，并為AI的應(yīng)用立下倫理準(zhǔn)則；二是研發(fā)新的沒有爭(zhēng)議或爭(zhēng)議性小的AI工具，如診治疾病的AI工具，從而贏得社會(huì)的廣泛接受和支持。

對(duì)AI的掌控首先體現(xiàn)在為其“定規(guī)則、立法則”。可以預(yù)料，2024年很多國(guó)家會(huì)推出比較全面的AI政策和法規(guī)。但是，這也可能是一個(gè)比較長(zhǎng)的過程。

歐盟三大機(jī)構(gòu)—?dú)W洲議會(huì)、歐盟成員國(guó)和歐盟委員會(huì)已于2023年12月8日就《人工智能法案》達(dá)成協(xié)議。這一法案將成為全球首部AI領(lǐng)域的全面監(jiān)管法規(guī)。然而，圍繞歐盟《人工智能法案》的簽署和實(shí)施，還有漫長(zhǎng)的路要走。

2023年10月30日，美國(guó)總統(tǒng)拜登簽署了美國(guó)首份關(guān)于AI的行政命令。美國(guó)參議院多數(shù)黨領(lǐng)袖舒默希望在幾個(gè)月內(nèi)準(zhǔn)備好AI立法。

歐美對(duì)AI的立法聚焦于推動(dòng)技術(shù)突破，吸引全球投資，同時(shí)保護(hù)民眾不受AI“野蠻生長(zhǎng)”的影響。中國(guó)也發(fā)布了《生成式人工智能服務(wù)管理辦法（征求意見稿）》和《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》等法規(guī)，以規(guī)范AI技術(shù)的發(fā)展和應(yīng)用。

根據(jù)現(xiàn)實(shí)情況，人類主動(dòng)監(jiān)管和掌控AI可能需要較長(zhǎng)的時(shí)間，也需要全球的合作，以制定趨于一致的AI標(biāo)準(zhǔn)和法規(guī)，從而有效地監(jiān)管AI。目前，聯(lián)合國(guó)已經(jīng)表態(tài)，聯(lián)合國(guó)AI高級(jí)別咨詢機(jī)構(gòu)將于2024年年中公布最終報(bào)告，為AI的國(guó)際監(jiān)管制定指導(dǎo)方針。

對(duì)AI的主動(dòng)掌控還體現(xiàn)在另一個(gè)維度，即對(duì)AI的發(fā)展和使用需要有前瞻性的思考。2023年11月，OpenAI公司上演的“權(quán)力的游戲”就體現(xiàn)了研究人員對(duì)人工智能發(fā)展方向的思考和擔(dān)憂。

2023年11月18日，OpenAI公司官網(wǎng)突然宣布，創(chuàng)始人兼CEO山姆·奧特曼辭職，公司首席技術(shù)官米拉·穆拉蒂擔(dān)任臨時(shí)CEO。但是，11月22日，被“踢出群”的奧特曼又回歸OpenAI公司，繼續(xù)擔(dān)任CEO。據(jù)說，此次“內(nèi)斗”的起因是公司的幾位研究人員向董事會(huì)發(fā)出一封信，稱一款強(qiáng)大的AI模型Q*可能威脅人類。Q*模型能夠解決某些數(shù)學(xué)問題，這一能力意味著AI將擁有類似于人類智能的推理能力。

一些OpenAI公司的AI專家擔(dān)憂，先進(jìn)的AI模型在商業(yè)化后可能會(huì)被濫用，奧特曼卻并未采納這些AI專家的意見。因此，這些“擔(dān)憂者”要求解除OpenAI首席執(zhí)行官奧特曼的職務(wù)。奧特曼曾公開表示：“在OpenAI的歷史上已經(jīng)有四次了，最近一次是在過去幾周，當(dāng)我們揭開無知的面紗并向前推進(jìn)發(fā)現(xiàn)的前沿時(shí)，我已經(jīng)在房間里了，能夠做到這一點(diǎn)是一生的職業(yè)榮譽(yù)。”

對(duì)于AI產(chǎn)品的態(tài)度，奧特曼與ChatGPT的創(chuàng)造者伊利亞·蘇茨克維之間存在分歧。蘇茨克維對(duì)ChatGPT和其他AI產(chǎn)品的態(tài)度是比較保守的。他認(rèn)為，如果人類無法有效控制生成式AI工具，它們有可能造成巨大風(fēng)險(xiǎn)和災(zāi)難。因此，蘇茨克維正通過OpenAI的 “超級(jí)對(duì)齊”項(xiàng)目專注于控制AI系統(tǒng)。他認(rèn)為，OpenAI和其他AI公司應(yīng)將其代碼和訓(xùn)練數(shù)據(jù)保密，從長(zhǎng)遠(yuǎn)來看，封閉系統(tǒng)將避免居心叵測(cè)者制造出強(qiáng)大的AI，這是負(fù)責(zé)任的做法，“到了某個(gè)時(shí)候，AI的能力將變得如此巨大，以至于開源模型顯然是不負(fù)責(zé)任的”。

顯然，不同的理念會(huì)影響AI的發(fā)展和應(yīng)用，誰(shuí)的理念更適合社會(huì)的發(fā)展，需要時(shí)間和實(shí)踐來檢驗(yàn)。從科技發(fā)展的歷史規(guī)律看，一些具有顛覆性的創(chuàng)新產(chǎn)品通常是在使用過程中出現(xiàn)了問題，才引發(fā)關(guān)注，立法機(jī)關(guān)才會(huì)制定法律法規(guī)對(duì)其進(jìn)行監(jiān)管。幸運(yùn)的是，人類已經(jīng)預(yù)感到AI可能會(huì)出現(xiàn)問題，甚至有可能發(fā)展為“人類成為AI的奴仆”，因而，世界各主要國(guó)家、國(guó)際組織正在積極協(xié)商，希望在AI制造出大麻煩之前為AI的發(fā)展和應(yīng)用立法。

不過，加快研發(fā)新的AI工具，即工具性AI可能產(chǎn)生的爭(zhēng)議較少，也會(huì)被人們廣泛接受。工具性AI只是按照人類的設(shè)計(jì)完成某一特定任務(wù)，并不生成新的產(chǎn)品或作品，可以算作AI的初級(jí)產(chǎn)品。因此，這類工具性AI將會(huì)有突飛猛進(jìn)的發(fā)展。

現(xiàn)在，深度思維公司已經(jīng)研發(fā)了最新的工具性AI—GNOME，該程序使用現(xiàn)有文獻(xiàn)進(jìn)行機(jī)器學(xué)習(xí)，發(fā)現(xiàn)了超過220萬個(gè)化合物的穩(wěn)定結(jié)構(gòu)。美國(guó)加利福尼亞大學(xué)伯克利分校團(tuán)隊(duì)研發(fā)了一種自動(dòng)實(shí)驗(yàn)室系統(tǒng)（A-Lab），可對(duì)擬定化合物創(chuàng)造最多5個(gè)初始合成配方。這一工具性AI還可以用機(jī)器臂進(jìn)行實(shí)驗(yàn)，經(jīng)過17天的連續(xù)工作，A-Lab完成了355次實(shí)驗(yàn)，生成了58個(gè)擬定化合物中的41個(gè)。如果將這項(xiàng)任務(wù)交給人類研究員，則需要花費(fèi)數(shù)月進(jìn)行推測(cè)和實(shí)驗(yàn)。

這兩個(gè)AI系統(tǒng)表明，AI不僅可以自動(dòng)研發(fā)新材料，而且可以操作實(shí)驗(yàn)，相對(duì)于生成式大語(yǔ)言模型，人們對(duì)這樣的工具性AI并無太多爭(zhēng)議。因此，工具性AI未來的應(yīng)用前景極為廣闊。

【責(zé)任編輯】張小萌