淺析基于醫(yī)學(xué)人工智能的社會實驗研究進展

袁鳳 郭程 姜宏 俞曄

摘 要： 人工智能技術(shù)已成為推動各種創(chuàng)新應(yīng)用的重要手段。在醫(yī)療衛(wèi)生領(lǐng)域，人工智能深度應(yīng)用是未來發(fā)展趨勢，也是落實“健康中國”戰(zhàn)略的重大創(chuàng)新實踐。醫(yī)學(xué)人工智能的發(fā)展為經(jīng)濟增長、社會治理和學(xué)科繁榮帶來了新的機遇。開展醫(yī)學(xué)人工智能社會實驗的研究，對促進醫(yī)學(xué)人工智能持續(xù)健康發(fā)展，保障人民健康、促進社會和諧具有重要意義。本文回溯了醫(yī)學(xué)人工智能產(chǎn)生的背景，梳理了現(xiàn)階段醫(yī)學(xué)人工智能的研究對象，分析了醫(yī)學(xué)人工智能社會實驗的研究方法，并提出了醫(yī)學(xué)人工智能社會實驗研究需注意的幾方面問題，為進一步做好醫(yī)學(xué)人工智能社會實驗奠定了基礎(chǔ)。

關(guān)鍵詞： 醫(yī)學(xué)人工智能;社會實驗;機器學(xué)習(xí);深度學(xué)習(xí)

中圖分類號： R 4

文獻標(biāo)志碼： A

Research progress of social experiment based onmedical artificial intelligence

YUAN Feng GUO Cheng JIANG Hong YU Ye

（Shanghai Tenth Peoples Hospital， Tongji University， Shanghai 200072， China）

Abstract： Artificial intelligence technology has become an important means to promote various innovative applications. In the field of health care， the in-depth application of artificial intelligence is not only the future development trend， but also a major innovative practice to implement the "Healthy China" strategy. The development of medical artificial intelligence brings new opportunities for economic growth， social governance and discipline prosperity. The research on social experiment of medical artificial intelligence is of great significance to promote the sustainable and healthy development of medical artificial intelligence， protect people's health and promote social harmony. This paper reviews the background of the emergence of medical artificial intelligence， combs the research objects of medical artificial intelligence at this stage， analyzes the research methods of medical artificial intelligence social experiment， and puts forward some problems that should be paid attention to in the research of medical artificial intelligence social experiment， which lays the foundation for further research on medical artificial intelligence social experiment.

Key words： medical artificial intelligence; social experiment; machine learning; deep learning

人工智能是引領(lǐng)新一輪科技革命和產(chǎn)業(yè)變革的戰(zhàn)略性技術(shù)，醫(yī)療健康是人工智能發(fā)展的重要領(lǐng)域，醫(yī)學(xué)人工智能的發(fā)展為經(jīng)濟增長、社會治理和學(xué)科繁榮帶來了新的機遇。但同時，新技術(shù)的應(yīng)用不可避免伴隨著風(fēng)險，醫(yī)學(xué)人工智能具有技術(shù)屬性和社會屬性高度融合的特點，隨著其應(yīng)用場景的快速推廣，在技術(shù)、法律、社會、心理等角度暴露出諸多盲點。通過開展醫(yī)學(xué)人工智能社會實驗，分析預(yù)判醫(yī)學(xué)人工智能對人類社會各方面可能帶來的影響，處理好醫(yī)學(xué)人工智能與人、與社會的關(guān)系，是促進醫(yī)學(xué)人工智能持續(xù)健康發(fā)展的重要舉措，對保障人民健康、促進社會和諧發(fā)展具有重要意義。

1 醫(yī)學(xué)人工智能研究背景

隨著科技進步，人工智能技術(shù)成為了推動各種創(chuàng)新應(yīng)用的重要手段。人工智能從提出到現(xiàn)在，經(jīng)歷了60多年的發(fā)展積累，經(jīng)歷了兩落三起。人工智能作為世界三大尖端技術(shù)之一，已經(jīng)實現(xiàn)了從實驗研究向產(chǎn)業(yè)發(fā)展的飛躍。從智能家居、虛擬助手、人臉識別到智能醫(yī)療、機器翻譯和搜索引擎，人工智能已經(jīng)悄然進入我們生活的多個領(lǐng)域。人工智能在代替人們工作過程中體現(xiàn)出來的明顯優(yōu)勢帶來了其實際應(yīng)用的爆發(fā)式增長，機器智能水平也相應(yīng)得到不斷提升。目前，包括醫(yī)療行業(yè)在內(nèi)的多個領(lǐng)域都在探索人工智能的應(yīng)用，根據(jù)當(dāng)前發(fā)展形勢，可以預(yù)測人工智能在未來的發(fā)展過程中，在人類全健康應(yīng)用領(lǐng)域?qū)⒏鼮閺V泛，人工智能必將引領(lǐng)人類第四次工業(yè)革命，廣泛影響未來人們的生活。

在醫(yī)療衛(wèi)生領(lǐng)域，人工智能深度應(yīng)用是未來發(fā)展趨勢，也是落實“健康中國”戰(zhàn)略的重大創(chuàng)新實踐?！秶鴦?wù)院辦公廳關(guān)于促進和規(guī)范健康醫(yī)療大數(shù)據(jù)應(yīng)用發(fā)展的指導(dǎo)意見》（國辦發(fā)〔2016〕47號）、《“十三五”衛(wèi)生與健康科技創(chuàng)新專項規(guī)劃》（國科發(fā)社〔2017〕147號）、《國家健康醫(yī)療大數(shù)據(jù)標(biāo)準(zhǔn)、安全和服務(wù)管理辦法（試行）》（國衛(wèi)規(guī)劃發(fā)〔2018〕23號）等文件的頒布和實施推動了我國人工智能與醫(yī)療衛(wèi)生相結(jié)合的健康發(fā)展。

毫無疑問，醫(yī)學(xué)人工智能的中國時代已經(jīng)到來。隨著長三角區(qū)域一體化發(fā)展與上海建設(shè)具有全球影響力的科技創(chuàng)新中心這兩項國家戰(zhàn)略的深入推進，聚合疊加效應(yīng)正在形成。這一判斷是基于三個方面，第一，人工智能+醫(yī)學(xué)的應(yīng)用基礎(chǔ)和環(huán)境。中國人口基數(shù)大，醫(yī)療資源分布不足，讓人工智能醫(yī)療落地應(yīng)用成為一種剛需;第二，人工智能在各領(lǐng)域的技術(shù)積累達到了一個爆破點。從技術(shù)層面看，它可以為醫(yī)療人工智能落地化產(chǎn)生強大的助推作用;第三，國家政策紅利。從2016年到2021年，國務(wù)院、發(fā)改委、FAD連續(xù)發(fā)文，多次提及醫(yī)療影像等關(guān)鍵技術(shù)智能化、云化的趨勢，為推動智能醫(yī)療保駕護航。國務(wù)院在《新一代人工智能發(fā)展規(guī)劃》中指出要在醫(yī)療領(lǐng)域“推廣應(yīng)用人工智能治療新模式新手段”，《新一代人工智能發(fā)展規(guī)劃》是我國第一個國家層級AI發(fā)展的中長期規(guī)劃，也是我國政府發(fā)展及推動AI發(fā)展的藍圖，它從整體上部署我國的AI發(fā)展，并提出面向2030年我國新一代AI發(fā)展的指導(dǎo)思想、戰(zhàn)略目標(biāo)、重點任務(wù)與保障措施等，明晰了未來醫(yī)院高質(zhì)量發(fā)展的方向。

2 醫(yī)學(xué)人工智能研究對象

界定清楚醫(yī)學(xué)人工智能社會實驗的研究邊界對明確研究對象尤為重要。

（1）按照目前國家衛(wèi)健委官方圈定的智慧醫(yī)院范圍涵蓋三大領(lǐng)域：主要面向醫(yī)務(wù)人員和患者的“智慧醫(yī)療”、主要面向患者的“智慧服務(wù)”、主要面向醫(yī)院管理者的“智慧管理”，這是在醫(yī)學(xué)人工智能研究中首先要明確的。

（2）對“醫(yī)學(xué)人工智能”進行社會實驗研究，一定是基于病種且在大數(shù)據(jù)統(tǒng)計分析的基礎(chǔ)上，結(jié)合ML和DL等算法展開的研究。目前較為成熟的是應(yīng)用于醫(yī)院放射科、超聲科、病理科等場景的人工智能應(yīng)用。

未來將進一步拓寬醫(yī)學(xué)人工智能的應(yīng)用范圍，聚焦服務(wù)百姓、服務(wù)健康、服務(wù)常見病，且有大量社會應(yīng)用基礎(chǔ)的醫(yī)學(xué)人工智能場景為醫(yī)學(xué)社會實驗研究對象，這樣的社會實驗研究才更加具備普適性和社會價值。

3 醫(yī)學(xué)人工智能社會實驗的研究方法

3.1 社會實驗研究方法

19 世紀(jì)，由李比希（Justus von Liebig）率先提出，科學(xué)實驗不應(yīng)局限于實驗室里產(chǎn)生的“模擬世界”，需要進入現(xiàn)實世界，更多關(guān)注科學(xué)技術(shù)在真實世界的作用與影響。此后，隨著社會科學(xué)的制度化，孔德（Auguste Comte）、斯莫爾（Albion W.Small）、亨德森（Charles R.Henderson）、亞當(dāng)斯（Jane Addams）、帕克（Robert E.Park）等社會學(xué)家逐步確立了早期社會實驗的研究路徑，即一方面采用自然科學(xué)的術(shù)語和方法;另一方面把觀測研究的對象—社會環(huán)境、城市、社區(qū)、個人—的自然演進看作一個實驗過程，研究者通過觀測記錄這種演進過程，獲取可以對比分析的數(shù)據(jù)，從而更好地理解社會是如何“運作”的。杜威（John Dewey）則進一步發(fā)展出“實驗主義”哲學(xué)，認(rèn)為國家形態(tài)的建立、政策措施的引入都是在社會實驗中不斷進行嘗試、檢驗和修正。到了20世紀(jì)，現(xiàn)代統(tǒng)計學(xué)的奠基人費希爾（Ronald Aylmer Fisher）指出，社會實驗除了把模擬環(huán)境換成真實環(huán)境，其他的操作依然需要遵循實驗室實驗的邏輯，并引入了隨機性的概念，并強調(diào)了隨機化（Randomization）、重復(fù)性（Repeatability）和干預(yù)控制（Intervention Control）是構(gòu)成社會實驗研究和保證研究內(nèi)部效度的3個基礎(chǔ)要素?；谶@3個要素的不同，一些學(xué)者對在真實情境下引入“控制—對照—比較”實驗推理邏輯的研究加以區(qū)別，劃分出準(zhǔn)實驗（Quasi-experiment）、自然實驗（Natural Experiment）、實地實驗（Field Experiment）等不同類型，成為社會實驗研究方法譜系的重要組成部分。根據(jù)實驗中相關(guān)情境因素引入程度，“實地實驗”進一步細(xì)分為“自然的實地實驗”（Natural Field Experiment）、“框架的實地實驗”（Framed Field Experiment）、“人為的實地實驗”（Artificial Field Experiment）。

3.2 隨機社會實驗研究方法的理論模型

早期的觀點認(rèn)為實驗方法可以獲得行為結(jié)構(gòu)模型不變的參數(shù)估計，但人們通常認(rèn)為結(jié)構(gòu)模型不能解釋行為。因此關(guān)注的問題就從結(jié)構(gòu)模型參數(shù)的估計，轉(zhuǎn)向了那些決定項目實施的因素。

如果我們可以觀察到一個人的兩種不同情景下的行為，就可以通過比較這兩種情景之下他的行為結(jié)果來確定該項目的影響程度。我們分別采用Y，Y0表示接受與未接受該項目的兩種狀態(tài)，兩者的差異Δ=Y1-Y0。

因為我們尚不能決定這個改變對于某個特殊群體的影響，因此評估者只能關(guān)注該政策對不同群體之間的影響分布。尤其，如果一個人隨機地接受了該項目，那么通過比較這兩種不同情景下結(jié)果差異的期望值E（Δ）=E（Y1-Y0）就給出了一種平均意義上的影響估計。我們主要關(guān)注這些參加者在接受該項目前后的結(jié)果差異。我們用d=1和d=0代表參加和未參加兩種狀態(tài)，該項目對于參加者的平均影響程度記為：E（Δ│d=1）=E（Y1-Y0│d=1）

現(xiàn)有的估計方法大多關(guān)注項目的平均影響估計。當(dāng)對平均效應(yīng)進行估計時，要么對整個總體、要么對于那些參加一個自愿項目的效果進行估計。關(guān)鍵在于如何構(gòu)造一種我們所需的“反現(xiàn)實”或“虛擬情景”。例如對于一個自愿參加項目， 為了估計該項目對于參與人的期望效應(yīng)時，我們需要對該參與人假設(shè)沒有參加該項目的期望后果E（Y0│d=1）進行估計，這是比較困難的，因為我們不能用那些沒有參加該項目人的期望結(jié)果E（Y0│d=1）來近似替代。如果我們簡單地對這兩者進行差異化處理，E（Y1│d=1）-E（Y0│d=1）實際上它包含了兩種效應(yīng)：

E（Y1│d=1）-E（Y0│d=1）=0{E（Y1│d=1）-E（Y0│d=1）}+{E（Y0│d=1）-E（Y0│d=1）}

其中第一項代表了我們感興趣的參數(shù)估計，第二項代表了選擇性偏差。度量了那些未參與者和那些參與者在未參與狀態(tài)時的不同。

隨機的社會實驗方法可以解決這一問題。通過生成一個實驗控制群體，這個群體的人是隨機選擇的，參加與否都是隨機決定的，參加者和未參加者在沒有參加該項目的結(jié)果差異效應(yīng)就是該項政策的實際效應(yīng)。

3.3 醫(yī)學(xué)人工智能社會實驗研究的實施步驟

社會實驗方法的目標(biāo)是要度量醫(yī)學(xué)人工智能對其對象所產(chǎn)生的真實效果，具有以下一些特點：

（1）保障隨機性。隨機構(gòu)造兩個群體，控制組與對比組。隨機性體現(xiàn)在不存在選擇和歧視，人們有選擇參加實驗與否的自由，他們不能決定他們參加哪個組。同樣地，這些進行實驗的管理機構(gòu)要對參與人進行合格性檢查，一旦入選就一定要盡可能地排除人為決定的干擾。

（2）實施干預(yù)。一組行動集合來確保這兩個隨機選擇的組成員在他們?nèi)粘５纳钪忻媾R著不同的情境。一般對比組代表了現(xiàn)有情境下這些參與者的現(xiàn)狀;控制組會受到創(chuàng)新的影響和作用，通過對比這兩個組的行為后果差異來分析人工智能所產(chǎn)生的真實效果。

（3）數(shù)據(jù)搜集。度量每個組成員的行為及結(jié)果。一旦搜集到實驗的相關(guān)數(shù)據(jù)，我們就可以采用恰當(dāng)?shù)姆椒▉磉M行深入地分析對比研究。

（4）效果評估。運用統(tǒng)計推斷和專業(yè)知識來分析人工智能對于不同人群產(chǎn)生的影響差異，并分析產(chǎn)生差異的原因。

4 醫(yī)學(xué)人工智能社會實驗研究需注意的幾方面問題

4.1 細(xì)化社會實驗設(shè)計

其中包括確保樣本的隨機分組等方面。因為醫(yī)學(xué)人工智能社會實驗研究的一個難點是保障樣本的隨機分組，使樣本被分配到實驗組和對照組的概率一致。因此，需要細(xì)化實驗設(shè)計，從而增強社會實驗的內(nèi)外部效度與信度。同時在滿足平行假設(shè)的基礎(chǔ)上，確立實驗組和對照組，使實驗組和對照組在其他變量上盡可能接近，使得醫(yī)學(xué)人工智能所產(chǎn)生的作用，成為實驗組和對照組之間的關(guān)鍵性差異。

4.2 強化醫(yī)學(xué)倫理審查

由于醫(yī)學(xué)人工智能本身具有高度不確定性和較大倫理風(fēng)險，新的醫(yī)學(xué)人工智能應(yīng)用場景對社會公眾產(chǎn)生的影響可能長期持續(xù)并且無法有效調(diào)控，所以必須尤其重視醫(yī)學(xué)人工智能社會實驗中的醫(yī)學(xué)倫理問題。研究者要嚴(yán)格謹(jǐn)慎地遵循尊重、不傷害、有利、公正等基本科研原則，加強對實驗流程、實驗對象選擇、實驗數(shù)據(jù)采集等各個環(huán)節(jié)的醫(yī)學(xué)倫理審查。充分尊重受試者，確保受試者的知情同意權(quán)、數(shù)據(jù)信息隱私權(quán)得到有效保護，盡可能降低風(fēng)險和傷害。

4.3 標(biāo)準(zhǔn)化數(shù)據(jù)采集

醫(yī)學(xué)人工智能社會實驗是對技術(shù)變革、治理創(chuàng)新與社會轉(zhuǎn)型的綜合性檢驗，具有長周期、跨領(lǐng)域、多學(xué)科的特征，涉及的研究對象涵蓋不同類型的個人和組織，需要采集的數(shù)據(jù)種類繁多，結(jié)構(gòu)復(fù)雜。因此，在數(shù)據(jù)采集過程中，要特別注重數(shù)據(jù)的標(biāo)準(zhǔn)化和完備性，為實現(xiàn)不同區(qū)域醫(yī)學(xué)人工智能社會實驗數(shù)據(jù)的交流共享提供便利，使醫(yī)學(xué)人工智能社會實驗成為一項系統(tǒng)性科學(xué)研究工程。

參考文獻：

[1]BARIC-PARKER J， ANDERSON E E. Patient data sharing for AI： Ethical challenges， catholic solutions[J]. The Linacre Quarterly， 2020： 002436392092269.

[2]AHMAD M A， PATEL A， ECKERT C， et al. Fairness in machine learning for healthcare[J]. Proceedings of the 26th ACM SIGKDD International Conference on Knowledge Discovery & Data Mining， 2020.

[3]CHEN P-H C， LIU Y， PENG L. How to develop machine learning models for healthcare[J]. Nature Materials， 2019， 18（5）： 410-414.

[4]MCCRADDEN M D， STEPHENSON E A， ANDERSON J A. Clinical research underlies ethical integration of healthcare artificial intelligence[J]. Nature Medicine， 2020， 26（9）： 1325-1326.

[5]BARTOLETTI I. AI. Healthcare： Ethical and privacy challenges[J]. Artificial Intelligence in Medicine， 2019： 7-10.

[6]ZERILLI J， KNOTT A， MACLAURIN J， et al. Transparency in algorithmic and human decision-making： Is there a double standard？[J]. Philosophy & Technology， 2018， 32（4）： 661-683.

[7]VAYENA E， BLASIMME A， COHEN I G. Machine learning in medicine： Addressing ethical challenges[J]. PLOS Medicine， 2018， 15（11）： e1002689.

[8]JAIN V， CHATTERJEE J M. Machine learning with health care perspective[M]. CHAM： Learning and analytics in intelligent systems. Springer International Publishing， 2020.

[9]BEAM A L， KOHANE I S. Big data and machine learning in health care[J]. JAMA， 2018， 319（13）： 1317.

[10]WALJEE A K， HIGGINS P D R. Machine learning in medicine： A primer for physicians[J]. Official Journal of the American College of Gastroenterology ACG， 2010， 105（6）： 1224-1226.

[11]WOOD A， NAJARIAN K， KAHROBAEI D. Homomorphic encryption for machine learning in medicine and bioinformatics[J]. ACM Computing Surveys， 2020， 53（4）： 1-35.

[12]MEYFROIDT G， GIZA F， RAMON J， et al. Machine learning techniques to examine large patient databases[J]. Best Practice & Research Clinical Anaesthesiology， 2009， 23（1）： 127-143.

[13]蘇竣，魏鈺明，黃萃. 社會實驗：人工智能社會影響研究的新路徑[J]. 中國軟科學(xué)，2020（9）：132-140. DOI：10.3969/j.issn.1002-9753.2020.09.011.

[14]蘇竣，魏鈺明，黃萃. 基于場景生態(tài)的人工智能社會影響整合分析框架[J]. 科學(xué)學(xué)與科學(xué)技術(shù)管理，2021，42（5）：3-19.

[15]俞鼎. 技術(shù)賦能型社會實驗：建設(shè)創(chuàng)新型國家的一種新路徑[N]. 中國社會科學(xué)報，2021-02-02（004）.

收稿日期：2021-0-00

基金項目：2020年上海市科學(xué)技術(shù)委員會軟科學(xué)重點項目“上海國家新一代人工智能創(chuàng)新與發(fā)展試驗區(qū)社會實驗研究”（20692118100）;2020年上海市科學(xué)技術(shù)委員會軟科學(xué)重點項目“醫(yī)療應(yīng)急救援的人工智能應(yīng)用與評價”（20692105500）;2021年上海交通大學(xué)中國醫(yī)院發(fā)展研究院醫(yī)院管理建設(shè)研究項目“三級公立醫(yī)院高質(zhì)量發(fā)展路徑探索與實踐”（CHDI-2021-B-14）;2021年上海交通大學(xué)中國醫(yī)院發(fā)展研究院醫(yī)院管理建設(shè)研究項目“長三角醫(yī)院協(xié)同發(fā)展?？坡?lián)盟作用發(fā)揮研究”（CHDI-2021-B-15）;2020年上海交通大學(xué)中國醫(yī)院發(fā)展研究院醫(yī)院管理建設(shè)研究項目“城市立體化公共衛(wèi)生應(yīng)急救援體系構(gòu)建研究”（CHDI-2020-A-14）;2020年申康醫(yī)院管理研究項目“基于人工智能的醫(yī)療應(yīng)急救援應(yīng)用評價”（2020SKMR-46）

作者簡介：袁鳳（1987—），女，同濟大學(xué)附屬第十人民醫(yī)院科研處，科員，研究方向：項目管理、科研管理、人工智能;俞曄（1981—）（通信作者），男，上海交通大學(xué)附屬第一人民醫(yī)院院務(wù)辦公室，副研究員，研究方向：人工智能、質(zhì)量管理、醫(yī)聯(lián)體，E-mail： qzlglc@163.com。