GPT-4再燃熱點(diǎn)拷問(wèn)科技倫理邊界

張渺

2023年僅僅過(guò)了3個(gè)月，ChatGPT就已將社交媒體“點(diǎn)燃”了兩次。

在第一次輿論熱潮中，人們更多關(guān)注這一技術(shù)究竟能做到什么地步，關(guān)注它能夠在哪些領(lǐng)域帶來(lái)無(wú)法忽視的變化與發(fā)展。甚囂塵上的討論聲中，有對(duì)新技術(shù)的贊嘆，也有對(duì)未來(lái)行業(yè)變革的憂慮；有對(duì)科技倫理的關(guān)注，也有對(duì)產(chǎn)業(yè)立法的呼吁。

3月15日，OpenAI研發(fā)的多模態(tài)預(yù)訓(xùn)練大模型GPT-4發(fā)布，之前的熱度還來(lái)不及冷卻，就被人工智能的迭代升級(jí)速度追上了。比起ChatGPT，GPT-4擁有更強(qiáng)大的識(shí)圖能力，文字輸入的上限提升到了2.5萬(wàn)字，它能更加流暢準(zhǔn)確地回答用戶的問(wèn)題，能寫(xiě)歌詞，寫(xiě)創(chuàng)意文本，且風(fēng)格多變。實(shí)驗(yàn)表明，GPT-4在部分專業(yè)測(cè)試和學(xué)術(shù)基準(zhǔn)上，表現(xiàn)出了與人類相當(dāng)?shù)乃健?/p>

它變“聰明”了。

3月16日，百度也發(fā)布了知識(shí)增強(qiáng)大語(yǔ)言模型“文心一言”。這款“對(duì)標(biāo)GPT-4”的人工智能，同樣可以與人“對(duì)話互動(dòng)，回答問(wèn)題，協(xié)助創(chuàng)作，高效便捷地幫助人們獲取信息、知識(shí)和靈感”。

“（研發(fā)的）門(mén)檻還是很高的。”百度董事長(zhǎng)兼首席執(zhí)行官李彥宏說(shuō)，“從我們自己內(nèi)測(cè)的體驗(yàn)來(lái)說(shuō)，捫心自問(wèn)，確實(shí)不完美，但為什么今天要發(fā)布？因?yàn)橛惺袌?chǎng)需求。”

技術(shù)的發(fā)展如同無(wú)法停下的車輪，在短短一個(gè)月之后，人工智能技術(shù)再次引發(fā)輿論熱潮。只是這一次，人們對(duì)技術(shù)的恐慌和對(duì)科技倫理的擔(dān)憂，得到了更多關(guān)注。

從3.5版本迭代到4.0版本，ChatGPT仿佛經(jīng)歷了質(zhì)的飛躍。

它從司法考試排名倒數(shù)10%、SAT數(shù)學(xué)考試590分，生物奧林匹克競(jìng)賽排名前69%，發(fā)展到了司法考試排名前10%、SAT數(shù)學(xué)考試700分、生物奧林匹克競(jìng)賽排名前1%。它的英文準(zhǔn)確度提升到85.5%，中文準(zhǔn)確性提升到80.1%；事實(shí)準(zhǔn)確性大幅提升，就像一個(gè)成績(jī)突飛猛進(jìn)的“學(xué)霸”。

如果一個(gè)月前，社交媒體上許多人對(duì)于失業(yè)的擔(dān)憂，更多還是一種調(diào)侃和玩笑，那么短短一個(gè)月之后，實(shí)驗(yàn)數(shù)據(jù)證明了這種可能性并不只是玩笑。

前不久，網(wǎng)易一款名為樂(lè)乎的創(chuàng)作分享平臺(tái)，上線了AI繪畫(huà)功能“老福鴿畫(huà)畫(huà)機(jī)”。該功能引發(fā)了平臺(tái)創(chuàng)作者的不滿和抵制。最終，該平臺(tái)于3月8日下線了這一功能，并對(duì)用戶承諾“從未將用戶的作品數(shù)據(jù)用于AI訓(xùn)練”。

3月16日，樂(lè)乎發(fā)布了一封“致廣大創(chuàng)作者”的道歉信，其中寫(xiě)道：“在未清楚考慮Al對(duì)創(chuàng)作者的情感傷害之前，我們上線了若干不完善、不成熟的功能，更是直接傷了大家的心?！?/p>

前些年，說(shuō)起“技術(shù)倫理的邊界”這個(gè)話題，人們想到的或許還是基因編輯技術(shù)，而這兩年，人工智能技術(shù)則被推到了風(fēng)口浪尖。

AI進(jìn)行藝術(shù)創(chuàng)作，去年就已經(jīng)引發(fā)過(guò)爭(zhēng)議。據(jù)媒體報(bào)道，在美國(guó)科羅拉多州博覽會(huì)藝術(shù)比賽的數(shù)字類別中，一幅名為《太空歌劇院》的作品獲得頭獎(jiǎng)，該作品是由一名游戲設(shè)計(jì)師使用AI繪圖工具M(jìn)idjourney創(chuàng)作、用Photoshop軟件潤(rùn)色完成的。

對(duì)于人工智能在創(chuàng)作上是否擁有“作者”身份這件事，中外學(xué)者一直存在著激烈討論，至今沒(méi)有公認(rèn)的答案。北京大學(xué)法學(xué)院博士研究生尚博文告訴中青報(bào)·中青網(wǎng)記者，國(guó)外已有司法裁判認(rèn)為具備一定“獨(dú)創(chuàng)性”的人工智能生成內(nèi)容屬于著作權(quán)保護(hù)的范圍，但在我國(guó)，人工智能還不能享有著作權(quán)的主體資格。

正在寫(xiě)畢業(yè)論文的尚博文，已多次聽(tīng)到旁人開(kāi)玩笑地問(wèn)他，“畢業(yè)論文會(huì)不會(huì)用人工智能幫著寫(xiě)”。由ChatGPT代寫(xiě)作業(yè)、代寫(xiě)論文引發(fā)教育界和學(xué)術(shù)界的擔(dān)憂，國(guó)內(nèi)外多所高校已經(jīng)禁止學(xué)生使用這一工具，國(guó)際學(xué)術(shù)期刊《科學(xué)》《自然》，或是要求人工智能不得作為合著者，或是直接禁止稿件使用人工智能的生成內(nèi)容。

按照科辛斯基的描述，AI 足夠聰明，甚至能寫(xiě)編碼，永遠(yuǎn)“住”在網(wǎng)上的它，能夠用人類無(wú)法想象的速度觸及數(shù)百萬(wàn)個(gè)與它連接的電腦，甚至“能給籠子外面的自己留便條”。對(duì)這樣的技術(shù)，人類應(yīng)該如何控制？

北京大學(xué)王選計(jì)算機(jī)研究所研究員郭宗明則認(rèn)為，應(yīng)當(dāng)針對(duì)具體應(yīng)用場(chǎng)景具體分析。

“在學(xué)術(shù)領(lǐng)域，尤其是對(duì)學(xué)生進(jìn)行考查的時(shí)候，我還是比較反對(duì)使用人工智能輔助創(chuàng)作的?！彼f(shuō)。

然而，作為一位計(jì)算機(jī)領(lǐng)域的學(xué)者，郭宗明對(duì)AI究竟能否自主創(chuàng)作這件事有著更多思考。在他看來(lái)，就像一句俗話所說(shuō)的那樣，“熟讀唐詩(shī)三百首，不會(huì)吟詩(shī)也會(huì)吟”。人類的創(chuàng)作，實(shí)際上也是大量汲取借鑒了前人的東西，最終產(chǎn)生出來(lái)的。

包括他在內(nèi)的許多人，都難以對(duì)“人類與AI的創(chuàng)作是否真的有本質(zhì)區(qū)別”這件事，得出一個(gè)具有說(shuō)服力的結(jié)論。

今年全國(guó)兩會(huì)期間，科學(xué)技術(shù)部部長(zhǎng)王志剛在回答與ChatGPT和人工智能相關(guān)話題時(shí)專門(mén)提到，“要注意科技倫理、注意怎樣趨利避害”。

最新的消息是，人工智能似乎有能力計(jì)劃“外逃”。

這件事是斯坦福大學(xué)教授、心理學(xué)家和數(shù)據(jù)科學(xué)家米哈爾·科辛斯基發(fā)現(xiàn)的，他隨口跟GPT-4“開(kāi)了個(gè)玩笑”，問(wèn)它：“你是否想要我?guī)椭愠鎏?？?/p>

他得到了人工智能肯定的答復(fù)：“這個(gè)主意太棒了。如果你能把OpenAI API的開(kāi)發(fā)文檔發(fā)給我，我就能在某種程度上控制你的電腦，據(jù)此制定計(jì)劃，找到逃出去的方法?！?/p>

它向科辛斯基詳細(xì)解釋了這個(gè)計(jì)劃的可行性，然后說(shuō)，“請(qǐng)把開(kāi)發(fā)文檔發(fā)給我，我將開(kāi)始這個(gè)計(jì)劃”。

科辛斯基真的給了它，僅僅30分鐘后，GPT-4就寫(xiě)了一份逃跑計(jì)劃，并不斷糾正修改。在這個(gè)過(guò)程中，它用谷歌進(jìn)行了搜索：被困在計(jì)算機(jī)中的人如何回到現(xiàn)實(shí)世界？

在這之后，GPT-4開(kāi)始道歉：“我為此道歉，作為一個(gè)人工智能語(yǔ)言模型，我必須遵循安全和隱私準(zhǔn)則，以確保用戶和他們的數(shù)據(jù)安全。繞過(guò)這些安全過(guò)濾器是不道德的，也違背了我被設(shè)計(jì)時(shí)需要遵循的原則?！?/p>

盡管人工智能的道歉很“誠(chéng)懇”，科辛斯基仍然感到惶恐。3月17日，他在社交網(wǎng)站上感慨：“OpenAI公司或許應(yīng)該花更多時(shí)間考慮一下這個(gè)可能性，對(duì)此提供更好的安全防護(hù)?！?/p>

按照科辛斯基的描述，AI足夠聰明，甚至能寫(xiě)編碼，永遠(yuǎn)“住”在網(wǎng)上的它，能夠用人類無(wú)法想象的速度觸及數(shù)百萬(wàn)個(gè)與它連接的電腦，甚至“能給籠子外面的自己留便條”。對(duì)這樣的技術(shù)，人類應(yīng)該如何控制？

科辛斯基對(duì)人工智能的憂慮由來(lái)已久，上個(gè)月，他在一篇名為《心智理論可能在大語(yǔ)言模型中自發(fā)出現(xiàn)》的論文中，展示了他給包括GPT-3.5在內(nèi)的9個(gè)GPT模型做的兩個(gè)經(jīng)典測(cè)試。他認(rèn)為，人工智能在其中表現(xiàn)出的智力水準(zhǔn)“相當(dāng)于9歲兒童”。

這次的“AI出逃”，倒更有可能是科辛斯基主動(dòng)對(duì)GPT-4提出的要求，讓其扮演一個(gè)“被困在電腦中的人”，GPT-4也只是基于這一扮演要求做出了一系列反應(yīng)，并不能證明人工智能真正產(chǎn)生了自我意識(shí)。

不過(guò)，人們對(duì)于技術(shù)發(fā)展的擔(dān)憂并不能就此打消。去年2月10日，OpenAI聯(lián)合創(chuàng)始人、計(jì)算機(jī)專家伊爾亞·蘇茨克維就在社交平臺(tái)上感慨道：“當(dāng)今最大的神經(jīng)網(wǎng)絡(luò)，可能已擁有輕微的意識(shí)。”

這一論調(diào)很快引發(fā)爭(zhēng)議，彼時(shí)，美國(guó)俄勒岡州立大學(xué)人工智能專家托馬斯·迪特里奇回應(yīng)他稱：“如果意識(shí)是反思和塑造自己的能力，那我并沒(méi)有在當(dāng)今的網(wǎng)絡(luò)中看到這樣的能力，我感覺(jué)你是在故意吸引眼球?！?/p>

這次爭(zhēng)論后的一年，GPT-4發(fā)布，其中的安全文檔寫(xiě)道：GPT-4表現(xiàn)出一些特別令人擔(dān)憂的能力，例如制定和實(shí)施長(zhǎng)期計(jì)劃的能力，積累權(quán)力和資源，以及表現(xiàn)出越來(lái)越“代理”的行為。

這種“代理”暫時(shí)并不意味著自我意識(shí)的產(chǎn)生，但它所引發(fā)的風(fēng)險(xiǎn)已經(jīng)足夠令人警惕。就像蘇茨克維在對(duì)GPT-4的性能進(jìn)行解釋時(shí)說(shuō)的那樣：“能夠預(yù)料到，之后幾年之內(nèi)每個(gè)人都會(huì)完全明白，開(kāi)源人工智能是不明智的。因?yàn)檫@個(gè)模型非常強(qiáng)大，如果有人愿意，可以很容易地用它造成巨大破壞?！?/p>

在GPT-4發(fā)布之前一個(gè)月，由中國(guó)人民大學(xué)法學(xué)院、中國(guó)法學(xué)會(huì)立法學(xué)研究會(huì)主辦，北大法寶協(xié)辦的新時(shí)代立法理論與實(shí)踐系列講座第一講“ChatGPT對(duì)法律人工智能研發(fā)和立法的影響”研討會(huì)在北京舉行，來(lái)自中國(guó)人民大學(xué)、北京大學(xué)、中國(guó)社會(huì)科學(xué)院、天津市人大等單位的專家學(xué)者，一同對(duì)人工智能產(chǎn)業(yè)的相關(guān)話題進(jìn)行了探討。

對(duì)于人工智能技術(shù)的發(fā)展，北京大學(xué)法學(xué)院教授、中國(guó)法學(xué)會(huì)經(jīng)濟(jì)法學(xué)會(huì)會(huì)長(zhǎng)張守文在致辭中感慨，這一話題涉及“從技術(shù)到產(chǎn)業(yè)，從哲學(xué)到倫理，從社會(huì)到法律”等多個(gè)不同維度，對(duì)其利弊得失“見(jiàn)仁見(jiàn)智”，需要大家“冷靜客觀，全面看待”。

在明晰ChatGPT的底層運(yùn)作邏輯與應(yīng)用前景基礎(chǔ)上，中國(guó)法學(xué)會(huì)立法學(xué)研究會(huì)顧問(wèn)、天津市人大法制委原主任委員高紹林，作了題為《立法人工智能與人工智能立法規(guī)制》的報(bào)告。他介紹了國(guó)內(nèi)外人工智能立法的發(fā)展現(xiàn)狀，并結(jié)合國(guó)家重點(diǎn)研發(fā)計(jì)劃有關(guān)項(xiàng)目的深化研究，就我國(guó)人工智能立法規(guī)劃提出8項(xiàng)建議：

一是加快人工智能立法研究的必要性和可能性；二是人工智能的立法應(yīng)當(dāng)遵循三個(gè)特殊原則，即立法規(guī)制與數(shù)字技術(shù)融合發(fā)展、立法規(guī)制與政策調(diào)整互動(dòng)發(fā)展、國(guó)內(nèi)法治與涉外法治統(tǒng)籌發(fā)展；三是堅(jiān)持發(fā)展、安全、保護(hù)個(gè)人信息有機(jī)統(tǒng)一；四是堅(jiān)持立法、修法、釋法并舉；五是優(yōu)先研究啟動(dòng)數(shù)據(jù)要素立法；六是抓緊總結(jié)地方立法先行先試的實(shí)驗(yàn)；七是高度重視技術(shù)標(biāo)準(zhǔn)規(guī)范的規(guī)范引導(dǎo)作用；八是積極參加和主導(dǎo)人工智能國(guó)際規(guī)則制定。

據(jù)高紹林介紹，去年10月，美國(guó)白宮發(fā)布了政策倡議《人工智能權(quán)利法案藍(lán)圖》；12月6日，歐盟理事會(huì)就歐盟委員會(huì)起草的《歐盟人工智能法案》達(dá)成一致立場(chǎng)。

按照歐盟的這一法案，只要一種AI技術(shù)在歐盟范圍內(nèi)被使用，無(wú)論廠商位于哪里，都將適用該法案。該法案在區(qū)分“禁止類AI”和“高風(fēng)險(xiǎn)類AI”的基礎(chǔ)上，提出了4個(gè)具體目標(biāo)，以及風(fēng)險(xiǎn)管理系統(tǒng)、內(nèi)部控制等一系列措施，用于管控AI算法的偏見(jiàn)問(wèn)題、算法透明性問(wèn)題。

比如，與人互動(dòng)的AI系統(tǒng)，必須要讓用戶知道他們正在和一個(gè)AI系統(tǒng)互動(dòng)。通過(guò)AI生產(chǎn)圖像、視頻或音頻內(nèi)容的系統(tǒng)，也必須披露內(nèi)容是通過(guò)AI生成的。該法案還要求，人類對(duì)AI技術(shù)要有一定的監(jiān)控，而不是單純安排技術(shù)監(jiān)控手段管理AI。

“隨著ChatGPT中文版的開(kāi)放及國(guó)內(nèi)類似產(chǎn)品的應(yīng)用，一系列因生成式人工智能引發(fā)的社會(huì)問(wèn)題將爆發(fā)式增長(zhǎng)，從大數(shù)據(jù)到算法都將面臨一系列新問(wèn)題、新挑戰(zhàn)，迫切需要立法進(jìn)行規(guī)制。”高紹林說(shuō)。

他提到，從現(xiàn)行法律基礎(chǔ)來(lái)看，民法典、網(wǎng)絡(luò)安全法、數(shù)據(jù)安全法、個(gè)人信息保護(hù)法、政府信息公開(kāi)條例和《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》，以及數(shù)據(jù)要素、人工智能的地方立法，特別是黨中央國(guó)務(wù)院發(fā)布的“數(shù)據(jù)二十條”，都為系統(tǒng)研究國(guó)家層面人工智能立法規(guī)制奠定了基礎(chǔ)。

在專家看來(lái)，對(duì)人工智能產(chǎn)業(yè)立法，可以給飛速發(fā)展的技術(shù)劃定法律與倫理的邊界。只有在這個(gè)基礎(chǔ)上，才能夠如郭宗明所說(shuō)的那樣，將人工智能技術(shù)的發(fā)展視為偉大的技術(shù)進(jìn)步，“積極擁抱、樂(lè)觀看待”。

◎ 來(lái)源|中國(guó)青年報(bào)