人工智能背景下科技期刊論文出版中的倫理風(fēng)險(xiǎn)與應(yīng)對(duì)策略*

摘 要：人工智能（Artificial Intelligence，AI）技術(shù)在科技期刊論文，特別是醫(yī)學(xué)論文編輯出版領(lǐng)域的應(yīng)用優(yōu)勢(shì)突出，但同時(shí)也帶來(lái)了多重倫理挑戰(zhàn)。在當(dāng)前AI技術(shù)快速迭代的發(fā)展趨勢(shì)下，醫(yī)學(xué)論文編輯出版面臨倫理問題風(fēng)險(xiǎn)，包括數(shù)據(jù)質(zhì)量和透明度不足、公平性和偏見問題、利益沖突及論文撰寫問題等，可加強(qiáng)法律責(zé)任、風(fēng)險(xiǎn)管理、監(jiān)管審查，以及提高科研人員和編輯出版人員在AI使用中的邊界意識(shí)，強(qiáng)化職業(yè)操守，確保AI服務(wù)于學(xué)術(shù)交流的同時(shí)，滿足學(xué)術(shù)出版?zhèn)惱淼赖碌囊蟆?/p>

關(guān)鍵詞：人工智能；科技期刊；醫(yī)學(xué)研究；學(xué)術(shù)出版；倫理風(fēng)險(xiǎn)；應(yīng)對(duì)策略

DOI： 10.3969/j.issn.2097-1869.2024.04.011 文獻(xiàn)標(biāo)識(shí)碼：A

著錄格式：許媛媛，張群，崔云裳.人工智能背景下科技期刊論文出版中的倫理風(fēng)險(xiǎn)與應(yīng)對(duì)策略：以醫(yī)學(xué)論文為例[J].數(shù)字出版研究，2024，3（4）：94-100.

1 研究緣起

人工智能（Artificial Intelligence，AI）是基于涉及多層人工神經(jīng)網(wǎng)絡(luò)（即深度學(xué)習(xí)）的先進(jìn)機(jī)器學(xué)習(xí)技術(shù)，為未來(lái)科學(xué)研究和學(xué)術(shù)出版帶來(lái)了廣闊的前景和機(jī)遇。AI為科技期刊學(xué)術(shù)論文出版的發(fā)展和創(chuàng)新提供了多種便利，在學(xué)術(shù)論文的審稿、潤(rùn)色和翻譯，以及增強(qiáng)出版、語(yǔ)義出版等方面具備廣闊的應(yīng)用場(chǎng)景。其強(qiáng)大的數(shù)據(jù)分析能力和模擬自然語(yǔ)言的優(yōu)勢(shì)，在醫(yī)學(xué)研究領(lǐng)域的輔助效果更加突出。在《“健康中國(guó)2030”規(guī)劃綱要》的統(tǒng)籌推進(jìn)下，醫(yī)療行業(yè)由傳統(tǒng)醫(yī)療轉(zhuǎn)變?yōu)閿?shù)字醫(yī)療、信息醫(yī)療，再由數(shù)字醫(yī)療轉(zhuǎn)變?yōu)橹腔坩t(yī)療?！吨袊?guó)人工智能醫(yī)療白皮書》明確了AI在醫(yī)療領(lǐng)域的應(yīng)用，利用AI技術(shù)助力醫(yī)療發(fā)展成為社會(huì)的研究熱點(diǎn)[1]。隨著計(jì)算機(jī)技術(shù)的快速迭代，AI利用大數(shù)據(jù)可能會(huì)較大程度地改善醫(yī)學(xué)科研的眾多方面[2]。在當(dāng)前的學(xué)術(shù)生態(tài)中，學(xué)者以論文的形式展示新的知識(shí)生產(chǎn)結(jié)果并向?qū)W術(shù)期刊投稿，以學(xué)術(shù)期刊編輯、審稿人為代表的學(xué)術(shù)共同體成員就這一知識(shí)生產(chǎn)成果進(jìn)行創(chuàng)新性和可靠性質(zhì)量評(píng)價(jià)，通過評(píng)價(jià)的論文被學(xué)術(shù)期刊發(fā)表，由此形成了知識(shí)生產(chǎn)的一般uMfL4yq7xaOHsKMEc60CuQ==性全流程[3]。然而，由于醫(yī)學(xué)學(xué)科具有研究?jī)?nèi)容專業(yè)性強(qiáng)、研究對(duì)象涉及個(gè)人和群體生命健康、研究數(shù)據(jù)更關(guān)乎隱私與安全等特點(diǎn)，隨著新技術(shù)的發(fā)展，在醫(yī)學(xué)研究論文出版的全流程中，AI的應(yīng)用也帶來(lái)了多重倫理挑戰(zhàn)。美國(guó)生命倫理學(xué)家湯姆·比徹姆（Tom L. Beauchamp）和詹姆士·丘卓斯（James F. Childress）在《生物醫(yī)學(xué)倫理學(xué)原則》（Principles of Biomedical Ethics）一書中首先提出了4項(xiàng)主要原則：尊重自主原則、不傷害原則、有利原則和公正原則，這4項(xiàng)原則已成為世界公認(rèn)的生物倫理決策原則[4]。然而在AI介入醫(yī)學(xué)科研編輯出版的實(shí)踐中，目前還沒有統(tǒng)一的質(zhì)量標(biāo)準(zhǔn)、準(zhǔn)入制度、評(píng)價(jià)制度和保障制度。許多國(guó)際出版機(jī)構(gòu)，如國(guó)際出版?zhèn)惱淼赖挛瘑T會(huì)（Committee on Publication Ethics，COPE）和國(guó)際醫(yī)學(xué)期刊編輯委員會(huì)（International Committee of Medical Journal Editors，ICMJE）及一些醫(yī)療領(lǐng)域的權(quán)威機(jī)構(gòu)，都在試圖制定關(guān)于使用AI的倫理準(zhǔn)則[5-6]，旨在解決從科研到出版過程中各個(gè)利益相關(guān)方應(yīng)如何在確保誠(chéng)信和透明原則下運(yùn)用這項(xiàng)技術(shù)的問題。我國(guó)也對(duì)AI在學(xué)術(shù)研究和編輯出版領(lǐng)域的使用場(chǎng)景進(jìn)行了規(guī)范。2023年9月，中國(guó)科學(xué)技術(shù)信息研究所與出版商愛思唯爾（Elsevier）、施普林格·自然（Springer Nature）、約翰威立（Wiley）聯(lián)合編ZdiAWEBqK3GGIstQNsMFeA==寫了《學(xué)術(shù)出版中AIGC使用邊界指南》[7]；2024年1月，中華醫(yī)學(xué)會(huì)發(fā)布了《中華醫(yī)學(xué)會(huì)雜志社關(guān)于論文寫作和評(píng)審過程中使用生成式人工智能技術(shù)的有關(guān)規(guī)定》[8]。既往研究多以AI對(duì)科技期刊編輯出版的影響及對(duì)策為切入點(diǎn)，但對(duì)各個(gè)環(huán)節(jié)的討論相對(duì)割裂和分散[9-10]，對(duì)于從醫(yī)學(xué)研究到論文出版的全流程中，AI所帶來(lái)的倫理風(fēng)險(xiǎn)研究涉及較少。本文就AI在醫(yī)學(xué)研究全流程中可能出現(xiàn)的重大倫理風(fēng)險(xiǎn)問題進(jìn)行了梳理，并提出應(yīng)對(duì)措施，旨在為AI更好地服務(wù)學(xué)術(shù)交流提供借鑒。

2 AI介入的醫(yī)學(xué)研究特征帶來(lái)的倫理挑戰(zhàn)

醫(yī)學(xué)研究成果廣泛體現(xiàn)在生命本質(zhì)、人與人之間關(guān)系、人與自然之間關(guān)系等方面，可能會(huì)引發(fā)價(jià)值事實(shí)沖突與價(jià)值觀念沖突，不僅可能影響人與社會(huì)的關(guān)系，還可能影響未來(lái)的人類健康和生存，甚至是整個(gè)生態(tài)環(huán)境的平衡[11]。

AI介入的醫(yī)學(xué)研究，除對(duì)醫(yī)學(xué)出版物、標(biāo)準(zhǔn)庫(kù)和開放共享醫(yī)學(xué)知識(shí)數(shù)據(jù)庫(kù)中已經(jīng)公開的數(shù)據(jù)或文獻(xiàn)進(jìn)行分析的綜述、評(píng)價(jià)、解讀外，一些原始數(shù)據(jù)的采集基本來(lái)自真實(shí)世界，研究對(duì)象往往涉及個(gè)人和群體生命健康，研究數(shù)據(jù)關(guān)乎隱私與安全。數(shù)據(jù)的收集、儲(chǔ)存和使用需要充分的信息防護(hù)措施，特別是對(duì)于個(gè)人敏感信息、身份識(shí)別信息、與數(shù)據(jù)分析結(jié)果相關(guān)的個(gè)人信息來(lái)源等數(shù)據(jù)的處理與保密方法尤為關(guān)鍵。目前大多AI介入的醫(yī)學(xué)研究依據(jù)國(guó)際醫(yī)學(xué)科學(xué)組織理事會(huì)（Council for International Organizations of Medical Sciences， CIOMS）和世界衛(wèi)生組織（World Health Organization，WHO）聯(lián)合制定的《涉及人的健康相關(guān)研究國(guó)際倫理準(zhǔn)則》，2016年經(jīng)國(guó)家衛(wèi)生計(jì)生委委主任會(huì)議討論通過的《涉及人的生物醫(yī)學(xué)研究倫理審查辦法》及健康大數(shù)據(jù)相關(guān)規(guī)范進(jìn)行管理，但在實(shí)踐過程中，在科研項(xiàng)目的實(shí)驗(yàn)設(shè)計(jì)、資料采集、結(jié)論推導(dǎo)、論文撰寫和問責(zé)機(jī)制等環(huán)節(jié)容易出現(xiàn)倫理風(fēng)險(xiǎn)（見圖1）。

2.1 AI在醫(yī)學(xué)論文實(shí)驗(yàn)設(shè)計(jì)中的公平性和偏見

AI的開發(fā)與使用全過程均涉及人為的選擇與決策，其算法規(guī)則邏輯和所產(chǎn)生的社會(huì)影響并非完全客觀、公正，在輔助臨床決策或輔助醫(yī)學(xué)科研時(shí)，會(huì)產(chǎn)生與人類相似的偏見行為，即算法偏見。表現(xiàn)為AI可能會(huì)因劣勢(shì)群體的種族、性別、宗教和經(jīng)濟(jì)等因素而生成差異結(jié)果，并對(duì)該群體產(chǎn)生不良影響[12]。AI是一個(gè)典型的不透明“黑盒子”，這使得在許多情況下，一些復(fù)雜和無(wú)意偏見難以被檢測(cè)或預(yù)測(cè)[13]。

2.1.1 風(fēng)險(xiǎn)點(diǎn)

如果數(shù)據(jù)對(duì)特定（如不同種族、性別和經(jīng)濟(jì)狀況）患者群體的代表性不足，那么由此產(chǎn)生的AI算法就可能會(huì)對(duì)這些群體產(chǎn)生偏見，從而在科研試驗(yàn)的設(shè)計(jì)和科研成果的出版過程中產(chǎn)生倫理風(fēng)險(xiǎn)。比如主要涉及西方人的訓(xùn)練數(shù)據(jù)對(duì)亞洲人的診斷可能不夠準(zhǔn)確；同樣地，基于大量中國(guó)樣本的大數(shù)據(jù)智能中醫(yī)AI開具的中醫(yī)方劑可能并不完全適用于西方人。此外，AI一定程度的偏見，可能致使其性能在不同機(jī)構(gòu)之間產(chǎn)生不同的表現(xiàn)，報(bào)告不同的結(jié)果。在醫(yī)學(xué)科研的實(shí)踐中，診斷隊(duì)列的代表性更好，因?yàn)槠渚哂懈匀坏募膊×餍新省⑷丝诮y(tǒng)計(jì)學(xué)特征和疾病表現(xiàn)譜；而病例對(duì)照設(shè)計(jì)由于研究人群相互獨(dú)立，容易因不同的年齡、民族和地域特征而產(chǎn)生系統(tǒng)性偏見，進(jìn)而因研究對(duì)象的不同而產(chǎn)生夸大的研究結(jié)論[14]。

2.1.2 應(yīng)對(duì)策略

由于醫(yī)藥衛(wèi)生領(lǐng)域的研究不僅只有相關(guān)科研工作者關(guān)注，公眾也對(duì)這一領(lǐng)域的話題頗感興趣，因此發(fā)布涉及AI報(bào)告的研究成果時(shí)可以將公眾視為潛在讀者，保證研究結(jié)果可進(jìn)行明確的解釋而不帶任何偏見，防止誤導(dǎo)公眾或非專業(yè)媒體。醫(yī)學(xué)編輯應(yīng)對(duì)此保持高度的認(rèn)知力和敏感性，如要求作者提供相應(yīng)臨床試驗(yàn)報(bào)告注冊(cè)表，并附帶關(guān)鍵的研究計(jì)劃；建議作者使用多個(gè)機(jī)構(gòu)的測(cè)試數(shù)據(jù)集，并報(bào)告所有機(jī)構(gòu)的結(jié)果，以準(zhǔn)確評(píng)估AI算法的互操作性和研究結(jié)果的可推廣性；同時(shí)強(qiáng)烈建議作者公開或共享相應(yīng)的原始數(shù)據(jù)資料等。AI介入的醫(yī)學(xué)研究須具有普遍性和可轉(zhuǎn)移性，適用于不同種族、地域、性別和護(hù)理水平的患者。如果為單中心的研究成果，應(yīng)在論文中聲明其數(shù)據(jù)可能帶來(lái)偏倚等局限性。

2.2 AI在醫(yī)學(xué)論文數(shù)據(jù)收集與分析中的數(shù)據(jù)質(zhì)量和透明度問題

對(duì)于AI相關(guān)科研成果的學(xué)術(shù)評(píng)價(jià)首先基于其數(shù)據(jù)質(zhì)量和透明度。經(jīng)歷了早期基于規(guī)則的算法到機(jī)器學(xué)習(xí)再到深度學(xué)習(xí)，現(xiàn)代AI算法利用大數(shù)據(jù)和多層人工神經(jīng)網(wǎng)絡(luò)實(shí)現(xiàn)了更高的準(zhǔn)確性。

2.2.1 風(fēng)險(xiǎn)點(diǎn)

當(dāng)前的AI算法在很大程度上依賴其訓(xùn)練數(shù)據(jù)和測(cè)試數(shù)據(jù)，數(shù)據(jù)的質(zhì)量直接決定醫(yī)學(xué)研究的質(zhì)量。醫(yī)學(xué)研究的相關(guān)數(shù)據(jù)多元且異構(gòu)，包括文獻(xiàn)數(shù)據(jù)、臨床試驗(yàn)數(shù)據(jù)、真實(shí)世界數(shù)據(jù)和健康數(shù)據(jù)等，這些來(lái)自各級(jí)別醫(yī)院和醫(yī)學(xué)科研機(jī)構(gòu)的數(shù)據(jù)雖然龐大，但大多數(shù)為非結(jié)構(gòu)化和非標(biāo)準(zhǔn)化數(shù)據(jù)，由于在患者構(gòu)成、醫(yī)生偏好、設(shè)備設(shè)施及衛(wèi)生政策等方面存在差異，醫(yī)學(xué)研究數(shù)據(jù)在不同機(jī)構(gòu)和實(shí)踐環(huán)境中通常是異質(zhì)的[15]。此外，缺失數(shù)據(jù)的現(xiàn)象也比較常見。再者，不同級(jí)別醫(yī)院所使用的AI工具或設(shè)備，以及不同醫(yī)生的設(shè)置和操作，也會(huì)導(dǎo)致結(jié)果出現(xiàn)偏差，影響數(shù)據(jù)質(zhì)量。

2.2.2 應(yīng)對(duì)策略

在科學(xué)研究中澄清訓(xùn)練數(shù)據(jù)和基于這些訓(xùn)練數(shù)據(jù)的AI算法中的偏差和錯(cuò)誤至關(guān)重要。對(duì)于AI生成數(shù)據(jù)的質(zhì)量和算法的透明度，醫(yī)學(xué)科技期刊編輯在遇到AI相關(guān)研究時(shí)應(yīng)要求作者說明測(cè)試數(shù)據(jù)是本機(jī)構(gòu)內(nèi)的還是來(lái)自不同機(jī)構(gòu)，是前瞻性還是回顧性收集，另需要提供基線人口統(tǒng)計(jì)學(xué)特征、臨床特征（如目標(biāo)病癥嚴(yán)重程度的分布、其他診斷和合并癥的分布情況）、技術(shù)特征（如圖像采集技術(shù)）等；區(qū)分?jǐn)?shù)據(jù)集是由部分陽(yáng)性病例和部分陰性病例組成的方便樣本還是臨床隊(duì)列；如果使用了多個(gè)機(jī)構(gòu)的數(shù)據(jù)集，應(yīng)全面公布每個(gè)機(jī)構(gòu)的結(jié)果和數(shù)據(jù)使用的細(xì)節(jié)（如使用日期和實(shí)施的醫(yī)療機(jī)構(gòu)）?？萍计诳庉嫵笞髡咄暾?、公開地公布算法透明度外，還應(yīng)該建議作者對(duì)AI算法中可能存在的錯(cuò)誤進(jìn)行釋義，并提出改進(jìn)措施，進(jìn)而幫助讀者了解數(shù)據(jù)中的偏差和錯(cuò)誤[16]。

2.3 AI在醫(yī)學(xué)論文結(jié)論推導(dǎo)中的相關(guān)利益沖突

在醫(yī)學(xué)研究領(lǐng)域，科研人員發(fā)表論文的部分結(jié)論可能成為商業(yè)資助方的營(yíng)銷工具，影響其IHWHbUzp7kC0QJyrnOpF966zB8QES2yLB5RWgLh/WpI=研究結(jié)果的公正性和科學(xué)性，帶來(lái)利益沖突。此外，AI工具本身多由商業(yè)公司開發(fā)，在使用中可能也會(huì)存在利益偏倚問題。

2.3.1 風(fēng)險(xiǎn)點(diǎn)

AI技術(shù)目前已應(yīng)用于各醫(yī)療領(lǐng)域，如醫(yī)學(xué)圖像分析、疾病篩查和預(yù)測(cè)、臨床決策支持、手術(shù)機(jī)器人、健康管理、虛擬醫(yī)療助理和輔助篩選藥物靶點(diǎn)等[2]。如果在此過程中使用的AI算法工具是由某個(gè)公司或組織開發(fā)的，那么該組織可能會(huì)在設(shè)計(jì)該算法工具時(shí)為符合自身商業(yè)利益而產(chǎn)生偏斜，從而導(dǎo)致學(xué)術(shù)論文的結(jié)論受到影響。從2020至2026年，醫(yī)療健康領(lǐng)域AI市場(chǎng)商業(yè)價(jià)值或?qū)⒃鲩L(zhǎng)10倍，達(dá)到452億美元[17]，這吸引了原本與健康行業(yè)無(wú)關(guān)的科技巨頭，如谷歌（Google）、國(guó)際商業(yè)機(jī)器公司（IBM）和微軟（Microsoft）加入并開始主導(dǎo)市場(chǎng)。如何保證這些企業(yè)在AI工具的開發(fā)和使用過程中保持中立？如何避免這些企業(yè)利用信息和技術(shù)優(yōu)勢(shì)對(duì)AI工具進(jìn)行操控？這些均是AI相關(guān)的醫(yī)學(xué)科研成果在出版時(shí)需要關(guān)注的利益沖突問題。

2.3.2 應(yīng)對(duì)措施

AI時(shí)代，對(duì)于利益沖突的破局，有關(guān)部門需要引入更多負(fù)責(zé)任的利益相關(guān)者，比如醫(yī)療AI工具的開發(fā)者、算法的設(shè)計(jì)者、數(shù)據(jù)訓(xùn)練服務(wù)提供者、AI工具監(jiān)管者等；同時(shí)在政策方面鼓勵(lì)更多主體參與監(jiān)管，如醫(yī)療機(jī)構(gòu)、保險(xiǎn)公司、社會(huì)保障機(jī)構(gòu)等，彌補(bǔ)監(jiān)管的缺失。對(duì)于AI介入的醫(yī)學(xué)研究中可能存在的利益沖突，學(xué)術(shù)期刊在出版論文時(shí)，一是要堅(jiān)持披露原則，包括公開研究資助的來(lái)源、AI開發(fā)設(shè)計(jì)公司等；二是要堅(jiān)持回避原則，對(duì)于論文評(píng)議等學(xué)術(shù)質(zhì)量評(píng)價(jià)環(huán)節(jié)，要避免利益相關(guān)方的參與。

2.4 AI在醫(yī)學(xué)論文撰寫過程中的輔助性內(nèi)容生成

2022年12月，以ChatGPT為代表的基于自然語(yǔ)言大模型的生成式AI（Generative AI，GAI）橫空出世。這種工具以人工神經(jīng)網(wǎng)絡(luò)為基礎(chǔ)，基于數(shù)據(jù)庫(kù)和其他來(lái)源的大量數(shù)據(jù)，根據(jù)每條信息的重要性進(jìn)行加權(quán)，并以此對(duì)輸入的問題作出類似于人的回答。出版界對(duì)于GAI是否可以作為主體、擁有著作權(quán)和負(fù)法律責(zé)任展開熱烈討論，提出GAI不可作為論文出版的主體，不能作為獨(dú)立的作者，但是可以對(duì)科學(xué)研究有輔助作用[18]。前文提到的《學(xué)術(shù)出版中AIGC使用邊界指南》及《中華醫(yī)學(xué)會(huì)雜志社關(guān)于論文寫作和評(píng)審過程中使用生成式人工智能技術(shù)的有關(guān)規(guī)定》，均對(duì)AI在學(xué)術(shù)研究和編輯出版領(lǐng)域的使用場(chǎng)景進(jìn)行了規(guī)范指引。

2.4.1 風(fēng)險(xiǎn)點(diǎn)

GAI可以根據(jù)作者的提問及提示生成論文內(nèi)容，還能幫助編輯根據(jù)審稿人背景及其既往審稿質(zhì)量和速度等，為指定論文篩選匹配的審稿人，甚至可以對(duì)審稿人的建議進(jìn)行綜合分析，輔助論文學(xué)術(shù)質(zhì)量綜合評(píng)價(jià)。但是在GAI輔助論文出版過程中，這種優(yōu)勢(shì)也伴隨著信息錯(cuò)誤、學(xué)術(shù)不端、數(shù)據(jù)安全等倫理風(fēng)險(xiǎn)，如：（1）可能會(huì)欺騙性地將AI生成的文本當(dāng)作AI使用者自己的學(xué)術(shù)產(chǎn)出；（2）生成結(jié)果不可靠，含有歧視和偏見；（3）生成內(nèi)容虛構(gòu)，產(chǎn)生錯(cuò)誤和誤導(dǎo)性的信息，影響科研生態(tài)環(huán)境；（4）利用軟件學(xué)術(shù)造假，篡改數(shù)據(jù)和圖表等重要結(jié)果，通過暗中修改數(shù)據(jù)，惡意操縱AI生成內(nèi)容；（5）有復(fù)制和放大偏差的風(fēng)險(xiǎn)；（6）在使用AI工具進(jìn)行數(shù)據(jù)收集和輔助論文寫作時(shí)，如果把尚未發(fā)表的學(xué)術(shù)內(nèi)容上傳，可能存在被系統(tǒng)學(xué)習(xí)后并展示給其他用戶的風(fēng)險(xiǎn)；（7）AI工具的迭代升級(jí)增加了學(xué)術(shù)不端檢測(cè)難度，學(xué)術(shù)不端檢測(cè)工具與AI科研輔助工具之間形成一種博弈關(guān)系[19]。

2.4.2 應(yīng)對(duì)策略

首先，學(xué)術(shù)期刊編輯要積極鼓勵(lì)和引導(dǎo)作者對(duì)AI工具的使用情況進(jìn)行客觀、公開的披露，披露聲明應(yīng)包括且不限于以下內(nèi)容：使用者；AI技術(shù)或系統(tǒng)（版本號(hào)）及使用的時(shí)間和日期 ，格式如Reference Open AI （2023）. ChatGPT （Mar 14 version） [Large language model]. https：//chat.openai.com/chat；用于生成文本的提示和問題；論文中有AI工具編寫或共同編寫的部分；論文中因使用AI工具而產(chǎn)生的想法；對(duì)于AI工具撰寫的稿件的任何部分，須在方法或致謝部分公開、透明、詳細(xì)地進(jìn)行描述。其次，對(duì)于學(xué)術(shù)造假，尤其是圖像和數(shù)據(jù)的造假，科技期刊編輯要不斷提升判斷能力和鑒別力。再次，科技期刊要積極響應(yīng)國(guó)務(wù)院辦公廳印發(fā)的《科學(xué)數(shù)據(jù)管理辦法》[20]，增強(qiáng)向“科學(xué)數(shù)據(jù)銀行”等公益性數(shù)據(jù)中心上傳數(shù)據(jù)的意識(shí)，為作者公開原始數(shù)據(jù)（包括原始數(shù)據(jù)，處理后的數(shù)據(jù)、軟件、算法、協(xié)議、方法、材料等）創(chuàng)造技術(shù)條件。最后，隨著AI技術(shù)快速迭代帶來(lái)的日新月異的學(xué)術(shù)環(huán)境變化，學(xué)術(shù)編輯要通過不斷學(xué)習(xí)，擁抱新技術(shù)，盡快重構(gòu)認(rèn)知，在學(xué)術(shù)論文的創(chuàng)新性和可靠性評(píng)價(jià)方面，以及在解決學(xué)術(shù)分歧中充分發(fā)揮把關(guān)者的作用。

2.5 AI在全球化學(xué)術(shù)交流中的語(yǔ)言輔助作用

國(guó)際主流刊物和高影響力刊物，以及Web of Science和PubMed等數(shù)據(jù)庫(kù)均為英文語(yǔ)境，非英語(yǔ)國(guó)家的科研工作者往往用母語(yǔ)實(shí)施研究，但用另一種語(yǔ)言（大部分為英語(yǔ)）撰寫論文和閱讀文獻(xiàn)，這是一種疊加在科研本身之上的巨大挑戰(zhàn)，這種不公平的科研語(yǔ)境可能會(huì)造成科研交流上的不公平。AI大語(yǔ)言模型能夠根據(jù)翻譯文本的類型需求進(jìn)行高效和精準(zhǔn)的翻譯，有助于破除文化和語(yǔ)言上的不公平現(xiàn)象，讓科研活動(dòng)聚焦于學(xué)術(shù)研究的意義與價(jià)值本身[21]。

2.5.1 風(fēng)險(xiǎn)點(diǎn)

醫(yī)學(xué)界普遍接受的觀點(diǎn)是，在寫作過程中，AI輔助工具仍無(wú)法完全取代人。首先，在內(nèi)容前沿性方面，由于AI對(duì)自然語(yǔ)言的模擬在很大程度上依托其不斷升級(jí)的語(yǔ)料庫(kù)，因而其獲取的專業(yè)性語(yǔ)言具有一定滯后性，而學(xué)術(shù)論文卻往往需要最新的數(shù)據(jù)和資料；其次，對(duì)于要求知識(shí)結(jié)構(gòu)化程度高、訓(xùn)練集質(zhì)量高、專業(yè)性程度高的醫(yī)學(xué)專業(yè)領(lǐng)域，AI工具輸出的信息可能存在大量冗余［22］，還可能會(huì)自動(dòng)生成錯(cuò)誤的信息或錯(cuò)誤的圖像，造成虛假信息和虛假內(nèi)容的傳播［23］。在語(yǔ)言翻譯的過程中，則可能會(huì)因文化差異帶來(lái)語(yǔ)義和語(yǔ)境理解上的偏差，出現(xiàn)導(dǎo)向性錯(cuò)誤。此外，醫(yī)學(xué)專業(yè)性較強(qiáng)，專業(yè)詞匯繁多，AI工具往往只提供常用詞匯，缺乏技術(shù)或?qū)W科專用術(shù)語(yǔ)，在正確選詞及準(zhǔn)確語(yǔ)境的恰當(dāng)使用方面仍有一些缺陷。

2.5.2 應(yīng)對(duì)策略

首先，對(duì)于AI語(yǔ)言潤(rùn)色服務(wù)，醫(yī)學(xué)學(xué)術(shù)編輯要注意審核醫(yī)學(xué)論文可能涉及的種族、性別、臨床試驗(yàn)注冊(cè)和動(dòng)物實(shí)驗(yàn)福利等內(nèi)容，醫(yī)學(xué)學(xué)術(shù)編輯尤其要提高政治敏銳性，對(duì)跨語(yǔ)言出版中的中西方文化和相關(guān)規(guī)定的差異保持高度關(guān)注。另外，在簡(jiǎn)明英語(yǔ)之外，醫(yī)學(xué)論文還涉及大量的專業(yè)詞匯，且詞義和詞根變化復(fù)雜，醫(yī)學(xué)學(xué)術(shù)編輯在日常工作實(shí)踐中應(yīng)保持AI學(xué)習(xí)的持續(xù)性，通過在AI語(yǔ)料庫(kù)中不斷納入學(xué)科領(lǐng)域內(nèi)專業(yè)詞匯來(lái)訓(xùn)練AI，以此幫助清除學(xué)術(shù)編輯與國(guó)外學(xué)者就專業(yè)問題討論困難的障礙。

2.6 對(duì)AI在醫(yī)學(xué)研究中應(yīng)用的問責(zé)機(jī)制

醫(yī)學(xué)研究的問責(zé)制度指編輯出版全流程中相關(guān)部門應(yīng)各自承擔(dān)相應(yīng)責(zé)任，相關(guān)責(zé)任主體包括研究人員、資金提供者、政策制定者、出版單位、出版商、數(shù)據(jù)庫(kù)平臺(tái)等。在使用AI工具的情況下，責(zé)任方又疊加了AI工具的設(shè)計(jì)開發(fā)者和用戶。AI工具在本質(zhì)上不具備自由意志，也不具備道德的客觀性[24]，因此無(wú)法作為負(fù)責(zé)任的主體，不能將道德特征歸因于AI工具，且無(wú)人對(duì)使用AI工具導(dǎo)致的不良事件負(fù)責(zé)[16，25]。

2.6.1 風(fēng)險(xiǎn)點(diǎn)

AI技術(shù)在醫(yī)學(xué)科研中的應(yīng)用及相關(guān)的政策和監(jiān)管體系尚未完全建立，相關(guān)決策是由軟件設(shè)計(jì)開發(fā)者、硬件或算法及使用者共同構(gòu)成的復(fù)雜系統(tǒng)，很難明確責(zé)任主體，即很難確定是哪個(gè)組件或哪個(gè)參與者導(dǎo)致了特定的問題或錯(cuò)誤。這可能導(dǎo)致責(zé)任歸屬模糊，存在爭(zhēng)議，如責(zé)任應(yīng)歸屬做出最終決定的醫(yī)生、決定使用AI工具的醫(yī)療機(jī)構(gòu)、AI工具的制造者、科技論文最后發(fā)布的出版單位、同行評(píng)議專家還是算法本身？這值得深入探討。

2.6.2 應(yīng)對(duì)措施

科技無(wú)法取代人類的天賦和創(chuàng)造力。在醫(yī)學(xué)科研編輯出版的整個(gè)流程中，雖然有AI的輔助，但是從責(zé)任歸屬角度，首先要認(rèn)定AI作為工具的屬性，再厘清責(zé)任的承擔(dān)者。對(duì)于問責(zé)制度，一是在政策方面要盡快完善。2023年4月11日，國(guó)家互聯(lián)網(wǎng)信息辦公室就《生成式人工智能服務(wù)管理辦法（征求意見稿）》向社會(huì)公開征求意見，次日，美國(guó)也就AI系統(tǒng)的潛在問責(zé)措施征求公眾意見。有關(guān)AI對(duì)數(shù)據(jù)安全和個(gè)人信息保護(hù)方面的問題正在引起全球監(jiān)管部門的關(guān)注，其中涉及醫(yī)學(xué)研究與編輯出版的各行業(yè)、組織或協(xié)會(huì)也應(yīng)盡快對(duì)AI應(yīng)用中不斷出現(xiàn)的新情況、新問題制訂指南和標(biāo)準(zhǔn)；二是在用戶使用方面要對(duì)其進(jìn)行倫理道德教育和培訓(xùn)；三是在監(jiān)管層面要充分發(fā)揮各專業(yè)和各級(jí)倫理委員會(huì)的積極性，對(duì)有可能出現(xiàn)的AI倫理問題，不僅做到事前監(jiān)管，也要做到事后監(jiān)督調(diào)查，明確具體的責(zé)任方，督促整改。

3 結(jié)語(yǔ)

AI背景下醫(yī)學(xué)研究論文出版流程中的倫理風(fēng)險(xiǎn)點(diǎn)，包括公平性和偏見、數(shù)據(jù)質(zhì)量和透明度偏差、相關(guān)利益沖突、論文生成和語(yǔ)言輔助問題及責(zé)任歸屬困難等。對(duì)此，本文一一提出應(yīng)對(duì)舉措，并提出編輯出版人員在處理AI介入的醫(yī)學(xué)學(xué)術(shù)論文的研究到出版全過程中要有明確的邊界意識(shí)，遵守規(guī)范，提高道德價(jià)值觀、遵守倫理道德規(guī)范來(lái)指導(dǎo)實(shí)踐。同時(shí)對(duì)AI保持適當(dāng)?shù)拈_放態(tài)度，接受并適應(yīng)新事物，保持學(xué)術(shù)質(zhì)量評(píng)價(jià)和學(xué)術(shù)話題組織方面的核心競(jìng)爭(zhēng)力，充分發(fā)揮學(xué)術(shù)期刊編輯人員“智”和智能機(jī)器“算”的優(yōu)勢(shì)，在符合倫理道德要求的前提下，促進(jìn)知識(shí)傳播和學(xué)術(shù)交流。

作者簡(jiǎn)介

許媛媛，女，碩士，中國(guó)疾病預(yù)防控制中心副編審。研究方向：公共衛(wèi)生和學(xué)術(shù)編輯出版。

張群，男，博士，中國(guó)疾病預(yù)防控制中心研究員。研究方向：醫(yī)學(xué)信息學(xué)。

崔云裳，本文通信作者，女，碩士，中國(guó)疾病預(yù)防控制中心副編審。研究方向：公共衛(wèi)生和學(xué)術(shù)編輯出版。E-mail：bes_editor1@vip.163.com。

參考文獻(xiàn)

周羅晶，邵旸，張瑞，等.智慧醫(yī)療場(chǎng)景下人工智能應(yīng)用倫理問題與治理路徑探討[J].中國(guó)醫(yī)院，2024，28（2）：38-41.

TOPOL E J.High-performance medicine： The convergence of human and artificial intelligence[J]. Nature Medicine，2019，25（1）：44-56.

紀(jì)小樂，魏建.生成式AI與學(xué)術(shù)期刊出版：沖擊及應(yīng)對(duì)[J].沈陽(yáng)師范大學(xué)學(xué)報(bào)（社會(huì)科學(xué)版），2024，48（4）：82-90.

BEAUCHAMP T， CHILDRESS J. Principles of biomedical ethics[M]. New York： Oxford University Press， 2013：20-80.

European Commission’s High-Level Expert Group on Artificial Intelligence. Ethics guidelines for trustworthy AI[EB/OL].（2019-05-09）[2023-12-01].https：//www.europarl.europa.eu/cmsdata/196377/AI%20HLEG_Ethics%20Guidelines%20for%20Trustworthy%20AI.pdf.

IEEE Global Initiative on Ethics of Autonomous and Intelligent Systems. Ethically aligned design[EB/OL].（2019-05-09）[2023-12-01]. https：//ethicsinaction.ieee.org.

中國(guó)科學(xué)技術(shù)信息研究所.學(xué)術(shù)出版中AIGC使用邊界指南[EB/OL].（2024-02-24）[2024-06-17]. https：//www.fxbaogao.com/detail/4150135.

中華醫(yī)學(xué)雜志社.中華醫(yī)學(xué)會(huì)雜志社關(guān)于在論文寫作和評(píng)審過程中使用生成式人工智能技術(shù)的有關(guān)規(guī)定[EB/OL].（2024-01-09）[2024-06-17].https：//mp.weixin.qq.com/s/_IRUqAtyEM_2n53GrRlQgA.

李春麗，俞琦.ChatGPT人工智能對(duì)科技期刊編輯出版的影響及對(duì)策[J].學(xué)報(bào)編輯論叢，2023（3）：56-61.

任宇，羅劍萍，甘甜.ChatGPT對(duì)學(xué)術(shù)出版實(shí)踐的影響及其應(yīng)對(duì)[J].武漢理工大學(xué)學(xué)報(bào)（社會(huì)科學(xué)版），2023，36（4）：113-119.

謝小萍，何曉波.新科技時(shí)代醫(yī)學(xué)研究的倫理挑戰(zhàn)及治理對(duì)策[J].杭州科技，2022，53（1）：36-40.

陳龍，曾凱，李莎，等.人工智能算法偏見與健康不公平的成因與對(duì)策分析[J].中國(guó)全科醫(yī)學(xué)，2023，26（19）：2423-2427.

CHAR D S， SHAH N H， MAGNUS D. Implementing machine learning in health care： Addressing ethical challenges[J]. The New England Journal of Medicine，2018，378（11）：981-983.

KLUGE E-H W. Artificial intelligence in healthcare： Ethical considerations[J]. Healthcare Management Forum，2020，33（1）：47-49.

馬婷，陳清財(cái).基于開放醫(yī)療大數(shù)據(jù)的人工智能研究[J].醫(yī)學(xué)與哲學(xué)，2022，43（1）：1-4.

PARK S H， KRESSEL H Y. Connecting technological innovation in artificial intelligence to real-world medical practice through rigorous clinical validation： What peer-reviewed medical journals could do[J].Journal of Korean Medical Science，2018，33（22）：e152.

HAWKINS V A， LONGSTAFF H. Ethical considerations in biobanks： How a public health ethics perspective sheds new light on old controversies[J]. Journal of Genetic Counseling， 2015，24（3）：428-432.

COPE.Position Statement（2023）[EB/OL].（2023-05-01）[2024-01-15]. https：//publicationethics.org/cope-positionstatements/ai-author.

張濟(jì)明，吳領(lǐng)葉，丁譯.機(jī)遇與挑戰(zhàn)并存：ChatGPT對(duì)期刊出版的影響的幾點(diǎn)思考[J].傳播與版權(quán)，2023（24）：12-15.

國(guó)務(wù)院辦公廳. 國(guó)務(wù)院辦公廳關(guān)于印發(fā)科學(xué)數(shù)據(jù)管理辦法的通知[EB/OL].（2018-03-17）[2024-06-17]. https：//www.gov.cn/gongbao/content/2018/content_5283177.htm.

HAMAMAH H， IVE E， YULIA H， et al. Using nominal group technique to explore publication challenges and the usefulness of AI-based writing technologies： Insights from Indonesian scholars[J]. Theory and Practical in Language Studies， 2023，13（8）： 2038-2047.

鄭滿寧.人工智能技術(shù)下的新聞業(yè)：嬗變、轉(zhuǎn)向與應(yīng)對(duì)：基于ChatGPT帶來(lái)的新思考[J]. 中國(guó)編輯，2023（4）：35-40.

陳昌鳳，張夢(mèng).由數(shù)據(jù)決定？AIGC的價(jià)值觀和倫理問題[J].新聞與寫作，2023（4）：15-23.

GAN S P. How can robots have rights[J]. Ethics Research，2017（3）：126-130.

楊亞紅，孫巖，余黨會(huì).學(xué)術(shù)出版行業(yè)生成式人工智能作品相關(guān)責(zé)任與風(fēng)險(xiǎn)分析研究綜述[J].中國(guó)科技期刊研究，2023，34（12）：1601-1607.

Ethical Risks and Countermeasures in Sci-Tech Journal Paper Publishing in the Context of Artificial Intelligence—An Example of Medical Research Papers

XU Yuanyuan， ZHANG Qun， CUI Yunshang

Chinese Center for Disease Control and Prevention， 102206， Beijing， China

Abstract： Application of artificial intelligence （AI） technology in medical research paper editing and publishing has outstanding advantages， but it also brings multiple ethical challenges. Under the current AI trend， medical research paper editing and publishing face ethical issues， including insufficient data quality and transparency， fairness and bias issues， conflict of interest， and paper writing issues， etc. In this regard， legal responsibility， risk management and regulatory review can be strengthened， as well as raising the awareness of boundaries and professional ethics among researchers and editorial staff in the use of AI. These countermeasures help to ensure that AI services academic communication while meeting ethical and moral requirements.

Keywords： Artificial intelligence; Sci-tech journals; Medical research; Academic publishing; Ethical risks; Countermeasures