ChatGPT 對(duì)學(xué)術(shù)期刊的影響及應(yīng)對(duì)策略研究 *

張璐 郭曉亮 景勇 孫俊

生成式人工智能ChatGPT（Chat Genera tive Pre-trained Transformer）自發(fā)布以來(lái)，迅速風(fēng)靡全球，廣泛應(yīng)用于金融、教育、傳媒等領(lǐng)域。壹點(diǎn)智庫(kù)研究員運(yùn)用壹點(diǎn)智庫(kù)“傳播力測(cè)評(píng)工具”對(duì)ChatGPT 進(jìn)行傳播力測(cè)評(píng)發(fā)現(xiàn)，僅2022 年11 月至2023 年2 月，關(guān)于ChatGPT 的信息傳播總量就達(dá)到2 829 057 條，其網(wǎng)絡(luò)傳播影響力指數(shù)的月度平均傳播廣度值達(dá)到5.24，根據(jù)信息傳播廣度等級(jí)的劃分標(biāo)準(zhǔn)，可將ChatGPT 的信息傳播廣度認(rèn)定為最高級(jí)—爆發(fā)級(jí)。[1]ChatGPT 使用大規(guī)模的預(yù)訓(xùn)練模型和海量的語(yǔ)料庫(kù)來(lái)學(xué)習(xí)自然語(yǔ)言的語(yǔ)法、語(yǔ)義和上下文，具有強(qiáng)大的語(yǔ)言處理能力和邏輯能力，在全球產(chǎn)生了廣泛影響。ChatGPT 強(qiáng)大的搜索能力和邏輯推理能力，使其具備了學(xué)術(shù)文本生成能力，給學(xué)術(shù)期刊的發(fā)展帶來(lái)挑戰(zhàn)。學(xué)術(shù)期刊是學(xué)術(shù)活動(dòng)和學(xué)術(shù)研究成果的展示平臺(tái)，ChatGPT 的出現(xiàn)，增加了對(duì)學(xué)術(shù)不端行為的甄別難度，降低了學(xué)術(shù)生產(chǎn)的門(mén)檻，有可能引發(fā)更多隱私安全問(wèn)題。因此，學(xué)術(shù)期刊一方面要積極擁抱新技術(shù)，探索ChatGPT 在學(xué)術(shù)生產(chǎn)中的可能應(yīng)用；另一方面也應(yīng)充分考慮ChatGPT 在學(xué)術(shù)期刊領(lǐng)域可能引發(fā)的負(fù)面影響，有效控制其無(wú)序發(fā)展，避免其對(duì)學(xué)術(shù)生態(tài)造成威脅和破壞，進(jìn)而影響學(xué)術(shù)期刊的良性發(fā)展。

一、ChatGPT 的出現(xiàn)與應(yīng)用

ChatGPT 是由美國(guó)人工智能研究實(shí)驗(yàn)室OpenAI 研發(fā)的聊天機(jī)器人程序。作為一款由人工智能技術(shù)驅(qū)動(dòng)的自然語(yǔ)言處理工具，ChatGPT 被認(rèn)為是人類科技的又一個(gè)“技術(shù)奇點(diǎn)”，其使用處理序列數(shù)據(jù)的Transformer 神經(jīng)網(wǎng)絡(luò)架構(gòu)，能夠通過(guò)學(xué)習(xí)和理解人類的語(yǔ)言，連接大量來(lái)自真實(shí)世界中形成的語(yǔ)料庫(kù)，使用英語(yǔ)或其他語(yǔ)言就用戶感興趣的話題展開(kāi)深度交流。[2]不僅如此，ChatGPT 還能夠撰寫(xiě)郵件、視頻腳本、文案、代碼，為用戶提供翻譯、繪圖、撰寫(xiě)論文和詩(shī)句等服務(wù)，可謂是一個(gè)“全能者”。截至2023 年1 月，ChatGPT 的月用戶數(shù)已突破1 億人次，成為歷史上增長(zhǎng)最迅速的消費(fèi)者應(yīng)用程序。據(jù)調(diào)查，美國(guó)有89%的大學(xué)生曾利用ChatGPT 完成作業(yè)。[3]以色列總統(tǒng)赫爾佐格（Isaac Herzog）更是利用ChatGPT 撰寫(xiě)演講稿件，成為全球首位公開(kāi)使用ChatGPT 的國(guó)家領(lǐng)導(dǎo)人。[4]

ChatGPT 在短時(shí)間內(nèi)能夠在全球掀起風(fēng)暴是因?yàn)槠鋸V泛的應(yīng)用領(lǐng)域。[5—6]作為一種機(jī)器學(xué)習(xí)系統(tǒng)，ChatGPT 可以在大量文本數(shù)據(jù)集上進(jìn)行訓(xùn)練后，完成復(fù)雜且智能的寫(xiě)作。例如，在醫(yī)療領(lǐng)域，應(yīng)用ChatGPT 生成簡(jiǎn)潔的出院小結(jié)和檢查報(bào)告，可節(jié)省人力成本，為醫(yī)護(hù)人員騰出寶貴的時(shí)間；[7]在工程管理領(lǐng)域，應(yīng)用ChatGPT 可為簡(jiǎn)單的建筑項(xiàng)目生成施工進(jìn)度表；在學(xué)術(shù)研究領(lǐng)域，ChatGPT 可用于學(xué)術(shù)論文摘要的撰寫(xiě)和文獻(xiàn)的搜集工作。[8]

二、ChatGPT 對(duì)學(xué)術(shù)期刊的主要影響

1.增加學(xué)術(shù)不端行為的甄別難度

ChatGPT 可以基于大量的互聯(lián)網(wǎng)文本數(shù)據(jù)進(jìn)行訓(xùn)練，根據(jù)用戶給定的上下文或者提示生成類似于人類撰寫(xiě)的文本，內(nèi)容可涵蓋各種主題，并支持多種不同的語(yǔ)言和風(fēng)格。使用ChatGPT 進(jìn)行AI 對(duì)話時(shí)，用戶可以簡(jiǎn)單地描述想要其完成的任務(wù)，讓ChatGPT 按照所提供的主題寫(xiě)作。例如，用戶可以發(fā)出指令“寫(xiě)一篇關(guān)于ChatGPT 的文章”；也可以進(jìn)一步要求其按照提供的框架進(jìn)行寫(xiě)作，例如“介紹ChatGPT 的由來(lái)，圍繞其使用的技術(shù)和算法、應(yīng)用領(lǐng)域、未來(lái)前景等寫(xiě)一篇文章”；還可以接著提出補(bǔ)充要求，如“將文章增加至1000 字”；等等。通過(guò)這些操作，用戶可以對(duì)ChatGPT 進(jìn)行精準(zhǔn)且有效的引導(dǎo)。[9]操作的便利、性能的卓越以及極低的應(yīng)用成本使ChatGPT 被大量應(yīng)用于學(xué)術(shù)寫(xiě)作。但如果不加限制地將ChatGPT 濫用于學(xué)術(shù)寫(xiě)作，就會(huì)造成抄襲泛濫，導(dǎo)致學(xué)術(shù)不端行為的發(fā)生。

由于ChatGPT 具有強(qiáng)大的文本生成能力和邏輯推理能力，可以生成高質(zhì)量、邏輯嚴(yán)密的文本，因此辨別由ChatGPT 生成的文本內(nèi)容難度較高。有研究者曾經(jīng)做過(guò)一個(gè)實(shí)驗(yàn)，將作者原創(chuàng)的摘要和ChatGPT 根據(jù)論文內(nèi)容生成的摘要交予專業(yè)審稿人審讀并進(jìn)行辨識(shí)，結(jié)果32%的由ChatGPT 生成的摘要被審稿人識(shí)別為原創(chuàng)的論文摘要，14%的原創(chuàng)論文摘要被審稿人識(shí)別為ChatGPT 生成的摘要。[10]這意味著，僅僅依靠審稿人已較難識(shí)別論文的哪些內(nèi)容是由作者原創(chuàng)，哪些內(nèi)容是由ChatGPT 生成的。由此可以預(yù)見(jiàn)，未來(lái)隨著ChatGPT 的發(fā)展和更迭換代，在學(xué)術(shù)審稿環(huán)節(jié)中，識(shí)別論文文本是否由ChatGPT 生成將變得更為困難。這將大大增加學(xué)術(shù)期刊甄別學(xué)術(shù)不端行為的難度，從長(zhǎng)遠(yuǎn)來(lái)看將影響學(xué)術(shù)期刊的高質(zhì)量發(fā)展。

2.弱化學(xué)術(shù)責(zé)任，擾亂學(xué)術(shù)生態(tài)環(huán)境

ChatGPT 借助海量數(shù)據(jù)，應(yīng)用語(yǔ)言訓(xùn)練模型，可以接受和輸出多種語(yǔ)言文本，表面上降低了知識(shí)生成和共享的門(mén)檻，但由于ChatGPT 尚未發(fā)展完善，被應(yīng)用于論文寫(xiě)作時(shí)，往往會(huì)給出一個(gè)看似合理但卻經(jīng)不起推敲甚至荒謬的答案，有時(shí)還會(huì)杜撰一些事件或未經(jīng)證實(shí)的研究成果。實(shí)際上ChatGPT 生成的文本中常常存在錯(cuò)誤和有違學(xué)術(shù)倫理的內(nèi)容，如果作者在學(xué)術(shù)研究中不當(dāng)使用ChatGPT，學(xué)術(shù)期刊審稿人又未能及時(shí)識(shí)別，就可能導(dǎo)致這些錯(cuò)誤內(nèi)容的傳播，擾亂學(xué)術(shù)生態(tài)環(huán)境。

此外，ChatGPT “參與”寫(xiě)作，還可能帶來(lái)學(xué)術(shù)責(zé)任分散的風(fēng)險(xiǎn)，[11]如果ChatGPT 生成的文本出現(xiàn)問(wèn)題，有可能導(dǎo)致問(wèn)責(zé)無(wú)法落實(shí)到具體的個(gè)人。更重要的是，在論文寫(xiě)作過(guò)程中過(guò)多使用ChatGPT，會(huì)導(dǎo)致作者對(duì)ChatGPT 形成依賴，削弱作者的創(chuàng)造能力。長(zhǎng)此以往，可能產(chǎn)生大量由ChatGPT 拼湊而成的“學(xué)術(shù)垃圾”，看似“形式規(guī)范、論述嚴(yán)謹(jǐn)”，卻經(jīng)不起推敲，更談不上學(xué)術(shù)創(chuàng)新，嚴(yán)重影響整個(gè)學(xué)術(shù)生態(tài)的良性發(fā)展。

3.增加學(xué)術(shù)共同體的不信任感，引發(fā)隱私安全問(wèn)題

隨著語(yǔ)料庫(kù)的不斷擴(kuò)容，ChatGPT 的深度學(xué)習(xí)特質(zhì)和高度仿真性，使其在人機(jī)互動(dòng)時(shí)越來(lái)越接近人類思維，表現(xiàn)出更高智能。未來(lái)，不僅作者應(yīng)用ChatGPT 來(lái)撰寫(xiě)論文，同行評(píng)審人也可能借助ChatGPT 審閱稿件、提供審稿意見(jiàn)。由于ChatGPT 生成文本的準(zhǔn)確性和可靠性尚不能保證，如果在學(xué)術(shù)研究中廣泛使用ChatGPT，可能增加作者、評(píng)審人、編輯、讀者等學(xué)術(shù)共同體成員之間的不信任感。

ChatGPT 擁有強(qiáng)大的邏輯推理能力和“萬(wàn)能計(jì)算能力”。當(dāng)用戶首次使用該程序時(shí)，需要對(duì)個(gè)人信息進(jìn)行登記，以便在系統(tǒng)中建立個(gè)人賬戶，為系統(tǒng)的大數(shù)據(jù)算法和智能推理等核心功能提供必要的信息。這一操作就可能引發(fā)隱私安全問(wèn)題。若該研究者之后使用ChatGPT 輔助學(xué)術(shù)創(chuàng)作時(shí)，又在系統(tǒng)中提供研究的創(chuàng)作思路、核心觀點(diǎn)、創(chuàng)新點(diǎn)等，不僅會(huì)引發(fā)隱私安全問(wèn)題，還有可能造成涉密信息和數(shù)據(jù)泄露的風(fēng)險(xiǎn)。

三、學(xué)術(shù)期刊應(yīng)對(duì)ChatGPT 的策略建議

1.探索人機(jī)協(xié)同工作模式，強(qiáng)化對(duì)學(xué)術(shù)不端行為的問(wèn)責(zé)機(jī)制

當(dāng)前，人工智能技術(shù)正從“弱人工智能”模式向“強(qiáng)人工智能”模式轉(zhuǎn)變，以ChatGPT為代表的人工智能可以輔助科研工作者進(jìn)行文獻(xiàn)搜集，快速找到與投稿方向相適應(yīng)的學(xué)術(shù)期刊，加快學(xué)術(shù)科研成果的生成和傳播。但是，ChatGPT 不能完全代替人類完成論文撰寫(xiě)工作，在學(xué)術(shù)寫(xiě)作中使用ChatGPT 必須以人為中心，人工智能為輔助。

對(duì)學(xué)術(shù)期刊來(lái)說(shuō)，在學(xué)術(shù)出版的各個(gè)階段都可以考慮如何有效利用ChatGPT。例如：在選題策劃階段，可以嘗試使用ChatGPT 廣泛收集信息，形成備選方案，供編輯部討論和論證，形成最終決策；在同行評(píng)審階段，ChatGPT 可以對(duì)論文進(jìn)行分類標(biāo)引，推薦審稿專家，收集相同主題的論文，輔助審稿專家審閱稿件；在編輯出版階段，ChatGPT 可以替代人工完成大量重復(fù)、繁瑣的編校工作，如核對(duì)參考文獻(xiàn)、規(guī)范格式、修改錯(cuò)別字、統(tǒng)一表述等，期刊編輯可節(jié)省出時(shí)間加強(qiáng)期刊內(nèi)容建設(shè)。利用ChatGPT 的技術(shù)賦能，可以實(shí)現(xiàn)對(duì)學(xué)術(shù)期刊出版全流程管控與監(jiān)測(cè)，以提高學(xué)術(shù)期刊的辦刊靈活性，打造人機(jī)協(xié)同工作模式。[12—13]

ChatGPT 廣泛應(yīng)用于學(xué)術(shù)期刊出版，在提高研究者和編輯工作效率的同時(shí)，也不可避免帶來(lái)抄襲、剽竊等學(xué)術(shù)不端問(wèn)題，影響學(xué)術(shù)環(huán)境的公平性。因此，為防止ChatGPT 對(duì)學(xué)術(shù)生態(tài)造成負(fù)面影響，學(xué)術(shù)期刊應(yīng)加強(qiáng)對(duì)學(xué)術(shù)不端行為的審查，一旦發(fā)現(xiàn)學(xué)術(shù)不端行為，即可通報(bào)給作者所在單位進(jìn)行內(nèi)部調(diào)查，并在專門(mén)的學(xué)術(shù)不端治理機(jī)構(gòu)（如教育行政部門(mén)、高校學(xué)術(shù)委員會(huì)等）備案，請(qǐng)求其跟蹤、調(diào)查，從根本上杜絕學(xué)術(shù)研究中的不正之風(fēng)。

2.制定出版政策，規(guī)范人工智能工具的使用

技術(shù)在發(fā)展，相關(guān)政策也應(yīng)隨之調(diào)整。毋庸置疑，今后將有越來(lái)越多的學(xué)者使用ChatGPT 生成文本、撰寫(xiě)摘要、生成圖表或圖片，學(xué)術(shù)期刊及其主管部門(mén)盡快制定關(guān)于人工智能輔助學(xué)術(shù)生產(chǎn)的新政策成為學(xué)術(shù)界的當(dāng)務(wù)之急。國(guó)外著名期刊Science（《科學(xué)》）、Nature（《自然》）、Cell（《細(xì)胞》）、The Lancet（《柳葉刀》）等最近紛紛更新了出版政策，特別說(shuō)明了關(guān)于人工智能的應(yīng)用規(guī)范。Science發(fā)表了一篇標(biāo)題為ChatGPT is fun,but not an author（《ChatGPT 很有趣，但它不是作者》） 的文章，認(rèn)為如果沒(méi)有得到明確許可，任何論文都不得使用ChatGPT 生成的文本，更不能將ChatGPT列為文章作者。[14]Nature于2023 年1 月24日發(fā)布了類似禁令，即不接受將人工智能模型列為論文作者，不同的是，論文本身可使用人工智能工具產(chǎn)生文本，但應(yīng)在研究方法或致謝中標(biāo)示清楚。Cell和The Lancet也允許使用人工智能工具，但不能取代文章作者完成關(guān)鍵性任務(wù)，作者還必須在論文中聲明是否以及如何使用了人工智能工具。同時(shí)，針對(duì)ChatGPT 生成的文本難以辨識(shí)這一問(wèn)題，施普林格·自然（Springer Nature）正在積極研發(fā)偵測(cè)AI 產(chǎn)生文本的工具，以期能對(duì)其準(zhǔn)確分辨。[15]關(guān)于ChatGPT 的使用限制也擴(kuò)展至高校，例如，香港大學(xué)禁止學(xué)生在課堂、作業(yè)和考試中使用ChatGPT 等人工智能工具，違規(guī)使用將被視為剽竊，如教師懷疑學(xué)生使用ChatGPT 等人工智能工具，可要求其進(jìn)行額外加試。[16]

就當(dāng)前來(lái)看，ChatGPT 生成內(nèi)容的最大問(wèn)題在于其無(wú)法代替人類的責(zé)任以及知識(shí)產(chǎn)權(quán)歸屬問(wèn)題，也就是說(shuō)人工智能無(wú)法對(duì)論文內(nèi)容的完整性和道德倫理性負(fù)責(zé)。但人工智能的發(fā)展勢(shì)不可擋，筆者認(rèn)為，不必完全禁止ChatGPT 的使用，要利用其相關(guān)優(yōu)點(diǎn)，推動(dòng)科技進(jìn)步和文化傳播。目前，ChatGPT 正迅猛介入學(xué)術(shù)研究領(lǐng)域，但相關(guān)政策制定卻相對(duì)滯后，監(jiān)督機(jī)制尚未建立，難以有效應(yīng)對(duì)ChatGPT 賦能學(xué)術(shù)生產(chǎn)可能導(dǎo)致的新型道德倫理問(wèn)題。除法律法規(guī)、管理規(guī)范等硬約束手段不健全，關(guān)于ChatGPT 使用的道德準(zhǔn)則和倫理原則等軟約束條件也同樣欠缺，使在學(xué)術(shù)研究領(lǐng)域使用人工智能工具的行為尚處于自由生發(fā)狀態(tài)。要解決這些問(wèn)題意味著學(xué)術(shù)期刊界需要制定共同的行業(yè)道德標(biāo)準(zhǔn)、樹(shù)立一致的價(jià)值理念、建立ChatGPT 等人工智能使用的倫理和準(zhǔn)則，提出一套相對(duì)完善、可操作、兼顧工具理性和價(jià)值理性的實(shí)操框架，以防止技術(shù)的濫用。

3.加強(qiáng)用戶隱私保護(hù)，保障數(shù)據(jù)安全

習(xí)近平總書(shū)記指出“沒(méi)有網(wǎng)絡(luò)安全就沒(méi)有國(guó)家安全”[17]，這無(wú)疑強(qiáng)調(diào)了網(wǎng)絡(luò)安全的重要性。作為網(wǎng)絡(luò)安全的重要組成部分，數(shù)據(jù)安全受到廣大科研工作者的關(guān)注，保障數(shù)據(jù)安全是一項(xiàng)極其復(fù)雜的系統(tǒng)工程。在數(shù)據(jù)隱私和數(shù)據(jù)安全方面，由于ChatGPT 可能在未征得用戶授權(quán)的情況下收集、處理數(shù)據(jù)或超范圍使用數(shù)據(jù)，這將帶來(lái)個(gè)人信息和隱私泄露的風(fēng)險(xiǎn)。這一問(wèn)題已引起各行各業(yè)的擔(dān)憂。同樣，ChatGPT 的使用也給學(xué)術(shù)期刊的用戶隱私保護(hù)和數(shù)據(jù)安全等帶來(lái)了諸多隱患。

然而，隱私保護(hù)不是一個(gè)單一的問(wèn)題，必須通過(guò)國(guó)家、行業(yè)以及個(gè)人等多層面的努力，加強(qiáng)對(duì)用戶隱私的保護(hù)。首先，在國(guó)家層面，應(yīng)該通過(guò)立法保護(hù)用戶的隱私和數(shù)據(jù)安全。目前，與人工智能使用相關(guān)的法律法規(guī)不夠健全，迫切需要進(jìn)行修訂與完善。只有通過(guò)國(guó)家立法從根本上保護(hù)用戶的隱私和數(shù)據(jù)安全，才能有法可依地打擊ChatGPT 等人工智能工具對(duì)用戶個(gè)人隱私和個(gè)人信息的侵犯。[18]這也是保護(hù)學(xué)術(shù)期刊用戶個(gè)人隱私和數(shù)據(jù)安全的重要措施。其次，在行業(yè)層面，學(xué)術(shù)期刊應(yīng)遵守行業(yè)底線，擔(dān)負(fù)起保護(hù)用戶數(shù)據(jù)和隱私的社會(huì)責(zé)任。學(xué)術(shù)期刊的投審稿系統(tǒng)在登記用戶信息時(shí)，應(yīng)秉持“最小收集”原則，充分尊重用戶個(gè)人隱私，并最大程度地防止用戶個(gè)人隱私的濫用和泄露。最后，在個(gè)人層面，用戶需要主動(dòng)提高隱私保護(hù)意識(shí)。以ChatGPT 的安裝為例，用戶要想使用該程序模型，需要填寫(xiě)必要的個(gè)人相關(guān)信息，如聯(lián)系人、電話、郵箱等，同時(shí)需要注明使用ChatGPT 的原因及用途。這意味著從此時(shí)起，使用者的個(gè)人隱私已存在被泄露的風(fēng)險(xiǎn)。為防止ChatGPT 等人工智能工具對(duì)信息數(shù)據(jù)的竊取，用戶個(gè)人需要建立起隱私保護(hù)的第一道屏障，主動(dòng)提高隱私保護(hù)意識(shí)，在使用結(jié)束后可主動(dòng)刪除歷史數(shù)據(jù)。此外，用戶進(jìn)行數(shù)據(jù)匿名也不失為強(qiáng)化數(shù)據(jù)安全和隱私保護(hù)的一種方法。

四、結(jié)語(yǔ)

ChatGPT 等人工智能工具的廣泛應(yīng)用，給學(xué)術(shù)期刊帶來(lái)了許多潛在風(fēng)險(xiǎn)，但挑戰(zhàn)與機(jī)遇并存，不能因?yàn)榇嬖陲L(fēng)險(xiǎn)就一概否定。ChatGPT 如被不加限制地使用，可能對(duì)學(xué)術(shù)研究和學(xué)術(shù)期刊造成威脅和破壞，影響學(xué)術(shù)期刊的高質(zhì)量發(fā)展；但如果善加引導(dǎo)，則將助力學(xué)術(shù)期刊的良性發(fā)展。為規(guī)避新興技術(shù)使用可能帶來(lái)的風(fēng)險(xiǎn)，使其發(fā)揮積極作用，應(yīng)從多方面入手，例如通過(guò)探索新模式、制定新政策、開(kāi)發(fā)新技術(shù)等，使ChatGPT 等人工智能工具得到正確使用，為學(xué)術(shù)期刊高質(zhì)量發(fā)展保駕護(hù)航。