刑法視野下的醫(yī)療人工智能問題研究

顧曉濤 高志昊 聶新越

摘要：當(dāng)前現(xiàn)代人工智能發(fā)展的重點(diǎn)方向之一便是醫(yī)療人工智能，其功能對(duì)于現(xiàn)代醫(yī)療領(lǐng)域中對(duì)診斷、醫(yī)療的精細(xì)程度的提高、醫(yī)療風(fēng)險(xiǎn)的降低大有裨益，但同時(shí)它也具有一定弊端，它無法徹底替代傳統(tǒng)醫(yī)學(xué)中醫(yī)生的角色，在刑法視野下它也無法作為醫(yī)療行為和醫(yī)療犯罪的主體。醫(yī)療人工智能應(yīng)用使醫(yī)生在承擔(dān)充分告知義務(wù)時(shí)遇到了相應(yīng)的困境，因此需要合理規(guī)范人工智能輔助醫(yī)療活動(dòng)與中醫(yī)生告知義務(wù)的邊界，完善患者獲得醫(yī)療資訊的渠道，全面保護(hù)病人的知情同意權(quán)，同時(shí)需要形成有益的醫(yī)療人工智能發(fā)展機(jī)制，以處理醫(yī)療人工智能應(yīng)用環(huán)境中醫(yī)師的注意力問題。

關(guān)鍵詞：醫(yī)療人工智能;刑法視野;人工智能刑法地位

新一代人工智能已具備了自主學(xué)習(xí)適應(yīng)的能力，并應(yīng)用于中國經(jīng)濟(jì)社會(huì)各方面，而醫(yī)療行業(yè)也是人工智能發(fā)展的重心，目前中國醫(yī)療人工智能企業(yè)占比達(dá)到了百分之二十二[1]。醫(yī)療人工智能技術(shù)可以減少資源的緊張、提升診治精確度與效果，國家《新一代人工智能發(fā)展規(guī)劃》中提出"推廣應(yīng)用人工智能治療新模式新手段，建立快速精準(zhǔn)的智能醫(yī)療體系"。刑法在保護(hù)合法權(quán)益的同時(shí)，又要保證醫(yī)療人工智能迅速應(yīng)用、安全且健康地發(fā)展，所以，很有必要探究在刑法視野下醫(yī)療人工智能帶來的新挑戰(zhàn)。

一、醫(yī)療人工智能給刑法帶來的新問題

醫(yī)療人工智能即為智能醫(yī)療，主要內(nèi)容包括智能診所信息管理、人工智能診療、人工智能慢性病信息管理、人工智能藥品研發(fā)生產(chǎn)和醫(yī)療智能監(jiān)護(hù)，以及流行病智能檢測(cè)與防控等。醫(yī)療人工智能引發(fā)的刑法問題范疇相當(dāng)廣泛，部分問題與刑法無關(guān)如人工智能慢病管理等相關(guān)的法律問題，但部分問題是中國傳統(tǒng)刑法問題在人工智能應(yīng)用環(huán)境下的新發(fā)展，可以在現(xiàn)有刑法范疇內(nèi)妥善處理，如泄漏或者非法使用病人的診斷信息或者隱私等。在筆者看來，醫(yī)療人工智能向有關(guān)醫(yī)學(xué)方面的刑法提出了這樣的一個(gè)問題：醫(yī)療人工智能的刑法地位問題。就目前而言，醫(yī)療人工智能在醫(yī)療方面的實(shí)際運(yùn)用方向主要為醫(yī)療影像輔助診斷、臨床應(yīng)用輔助決策以及機(jī)器人手術(shù)，這些應(yīng)用在實(shí)際操作方面展現(xiàn)出了驚人的精確、快捷，但是醫(yī)療人工智能也會(huì)出現(xiàn)失誤，甚至導(dǎo)致重大損失。假如把醫(yī)療人工智能系統(tǒng)作為普通醫(yī)療器械對(duì)醫(yī)師追責(zé)，不能滿足醫(yī)生行為實(shí)際作用的事實(shí)，會(huì)引發(fā)社會(huì)對(duì)醫(yī)療人工智能使用的強(qiáng)烈抵觸，那么，醫(yī)療人工智能系統(tǒng)可不可以成為單獨(dú)的醫(yī)事犯罪主體？假如不可以，醫(yī)療人工智能的刑法地位又如何？

二、醫(yī)療人工智能在刑法上的地位

人工智能是否應(yīng)該被賦予為刑事責(zé)任主體或犯罪主體地位，在刑法學(xué)界中產(chǎn)生了截然不同的看法。其中一部分研究者指出，"超出設(shè)計(jì)和編制的程序范圍，在自主意識(shí)和意志的支配之下實(shí)施嚴(yán)重危害社會(huì)行為的智能機(jī)器人可以成為刑事責(zé)任主體"。[2]相反的研究者指出，"人工智能不管怎么發(fā)展，都無法獲得人類的自由意志""刑事責(zé)任能力除了需要具備表面的‘認(rèn)識(shí)能力’和‘控制能力’之外，還需要實(shí)質(zhì)判斷要素，即社會(huì)中具備責(zé)任能力的主體的認(rèn)同"。[3]爭(zhēng)論的焦點(diǎn)是，人工智能是否擁有"自主意識(shí)和意志"以及人們社會(huì)能不能承認(rèn)其具有主體性。"自主意識(shí)和意志"的根本意思就是自我判斷、決定，對(duì)別人的要求能夠選擇接受或者不接受。無論是自然人或人工智能的"自主意識(shí)和意志"，都不能被直觀認(rèn)知，需要根據(jù)其外在表現(xiàn)來判斷。一旦人工智能具備"自主意識(shí)和意志"，就會(huì)在人們想要操控人工智能系統(tǒng)或是拒絕接受其提議之際，顯示出超乎人們預(yù)先設(shè)想的對(duì)抗反應(yīng)。其次，"自主意識(shí)和意志"不等于"智能"，高度智能的機(jī)器可能沒有"自主意識(shí)和意志"，只能根據(jù)預(yù)設(shè)程序?qū)ν饨巛斎氲男盘?hào)做出反應(yīng)，因此當(dāng)前的人工智能是在歷史數(shù)據(jù)的學(xué)習(xí)中發(fā)展出來的、以大概率為判斷邏輯的發(fā)現(xiàn)并作出最優(yōu)解決對(duì)策的能力，并沒有“進(jìn)化”出反抗人類控制的能力。未來一旦存在被稱為強(qiáng)人工智能的"奇點(diǎn)"，這種"強(qiáng)人工智能"已經(jīng)具備了自主意識(shí)和意志并能夠抵抗人類的操控，其法律上主體地位的決定權(quán)仍在人類，并不可能自然具備。一旦人們賦予了其不受人類控制的權(quán)力，就必將使得人們丟失了命運(yùn)決定權(quán)，這就與開發(fā)人工智能的基本原則和方針相互背離;而這些擁有自主意識(shí)和意志的人工智能的危害活動(dòng)也當(dāng)然不被人們所容許，其存在本身同時(shí)也不被人類所容許，因此不能夠先賦予其主體地位，且等待其發(fā)生了危害活動(dòng)之后，人們才以討論其刑事責(zé)任問題的處理方法。[4]醫(yī)療人工智能具有人工智能的共性，但不能夠取得醫(yī)療主體地位，也無法作為醫(yī)事犯罪的主體。除了上述理由外，還可在醫(yī)療人工智能發(fā)展現(xiàn)狀和發(fā)展趨勢(shì)研究中得到上述結(jié)果。盡管目前的《人工智能輔助診斷技術(shù)管理規(guī)范》將醫(yī)療人工智能體系界定為"計(jì)算機(jī)輔助診斷軟件及臨床決策支持系統(tǒng)"，但考慮到治療人工智能技術(shù)一直都在研發(fā)與使用過程中進(jìn)行，因此以下論述范圍也僅限于疾病診療領(lǐng)域的醫(yī)療人工智能。

（一）疾病診斷和臨床決策領(lǐng)域

醫(yī)療影像診斷人工智能并不具備產(chǎn)生自主意識(shí)和意志的事實(shí)基礎(chǔ)。目前的醫(yī)學(xué)影像診斷人工智主要進(jìn)行單小細(xì)胞肺癌檢查、糖網(wǎng)眼底檢測(cè)、食管癌檢測(cè)及其部分病變的核醫(yī)學(xué)檢查和病理檢查，其過程中只有最后一步匹配和類聚是通過人工智能算法，把特征向量映射為診斷結(jié)果。該算法并非事先人為設(shè)計(jì)，而只是通過計(jì)算程序?qū)σ酝拇罅酷t(yī)療影像及其結(jié)果加以學(xué)習(xí)、并自動(dòng)適應(yīng)而形成的分析與評(píng)估準(zhǔn)則，該標(biāo)準(zhǔn)是動(dòng)態(tài)的，隨后人工智能的學(xué)習(xí)會(huì)導(dǎo)致其改變。前述人工智能算法和傳統(tǒng)醫(yī)生的認(rèn)知訓(xùn)練遵循著不同的邏輯路線，后者以傳統(tǒng)醫(yī)療知識(shí)為基礎(chǔ)，其推導(dǎo)過程嚴(yán)格地按照傳統(tǒng)醫(yī)學(xué)的科學(xué)知識(shí)和規(guī)律，而前者則以影像特征和預(yù)設(shè)算法標(biāo)準(zhǔn)為基礎(chǔ)，對(duì)收集到的轉(zhuǎn)變成數(shù)據(jù)后的影像特征都計(jì)算了其概率，它的運(yùn)行方式并不直接依靠傳統(tǒng)的醫(yī)學(xué)經(jīng)驗(yàn)和知識(shí)，只是對(duì)數(shù)據(jù)信息單純地進(jìn)行處理。通過大量數(shù)據(jù)的影像信息處理、全面的特征量獲取與匹配訓(xùn)練得出的人工智能算法可能具備比醫(yī)生更強(qiáng)大的規(guī)律發(fā)掘能力，甚至能找到一些尚未被傳統(tǒng)醫(yī)學(xué)所注意的特征量和結(jié)論間的相互聯(lián)系，加之當(dāng)前計(jì)算機(jī)信息體系已具備了強(qiáng)大的計(jì)算能力、高精度和不知疲倦的運(yùn)算能力，就可以更加客觀、準(zhǔn)確和有效地實(shí)現(xiàn)疾病診斷任務(wù)。這類人工智能并沒有進(jìn)一步發(fā)展出"自主意識(shí)和意志"。人工智能系統(tǒng)的功能完全由計(jì)算機(jī)硬件、算法以及已學(xué)習(xí)的數(shù)據(jù)決定，其核心內(nèi)容就是計(jì)算;而其計(jì)算的算法則由一開始被設(shè)計(jì)的程序、所接收到的相關(guān)影像數(shù)據(jù)以及所產(chǎn)生的判斷結(jié)果來決定，無論最后產(chǎn)生的是什么樣的算法，都只是對(duì)前述內(nèi)容的映射。就算我們將醫(yī)療人工智能系統(tǒng)獲取的影像數(shù)據(jù)還有所統(tǒng)計(jì)的結(jié)論規(guī)模擴(kuò)大成千上萬倍，也沒有辦法解決上述限制帶來的問題。如果選擇忽視人工智能最根本的數(shù)據(jù)內(nèi)涵是其"不自由性"，從而覺得其未來會(huì)產(chǎn)生"自由意識(shí)和意志”，甚至到一定程度后不需要醫(yī)生的主觀能動(dòng)也能夠發(fā)展出更高水平的醫(yī)療技術(shù)，這是違反科學(xué)性的不切實(shí)際的幻想，更不用說賦予醫(yī)療人工智能醫(yī)療行為主體與醫(yī)事犯罪的主體地位。臨床診斷方案方面輔助決策的相關(guān)醫(yī)療人工智能，同樣不可能存在所謂的“自主意識(shí)和意志”事實(shí)。和前述的醫(yī)療影像與人工智能計(jì)算管理系統(tǒng)類似，其智慧主要源自于對(duì)病歷、疾病文獻(xiàn)和臨床診斷個(gè)案數(shù)的掌握，醫(yī)生對(duì)特定病癥的了解越深入，治療效果就越好、愈穩(wěn)定，向信息系統(tǒng)提交的有效治療個(gè)案數(shù)愈多，該信息系統(tǒng)所給出的方案設(shè)計(jì)品質(zhì)也愈高，即受限于信息系統(tǒng)初始算法、已有的醫(yī)學(xué)知識(shí)文獻(xiàn)和訓(xùn)練的有效治療臨床病例的個(gè)案數(shù)據(jù)。通過采用更多的特征量，分析更多的醫(yī)學(xué)文獻(xiàn)和臨床案例數(shù)據(jù)，可以訓(xùn)練出更強(qiáng)算法，甚至還可以發(fā)現(xiàn)當(dāng)前醫(yī)學(xué)所沒有發(fā)現(xiàn)的新醫(yī)學(xué)知識(shí)和診療方案，但它仍只是通過分析過去醫(yī)療實(shí)踐的知識(shí)發(fā)現(xiàn)，還不能跳出目前所掌握數(shù)據(jù)的局限，無法實(shí)現(xiàn)醫(yī)學(xué)方面的創(chuàng)新，更不能夠形成"自由意識(shí)和意志"，當(dāng)醫(yī)生不采用其最佳的治療方法或者采用不推薦方法時(shí)，也不能夠避繞或者對(duì)抗醫(yī)生的反應(yīng)，沒有一個(gè)醫(yī)學(xué)文獻(xiàn)認(rèn)為醫(yī)療人工智能可以成為醫(yī)療行為主體。

《人工智能輔助診斷技術(shù)管理規(guī)范》中明確將前述醫(yī)療人工智能界定為輔助工具。該標(biāo)準(zhǔn)第三款規(guī)定："應(yīng)當(dāng)由二名以上具備五年之上與從事人工智能輔助和診斷治療技能有關(guān)專業(yè)知識(shí)臨床診治管理工作經(jīng)歷的醫(yī)生作出決策并提出治療建議。由具備五年之上與從事人工智能輔助和診斷治療技能有關(guān)專業(yè)知識(shí)臨床診治管理工作經(jīng)歷的醫(yī)療人員負(fù)責(zé)使用。"在未來輔助治療中人工智能技術(shù)可以會(huì)在更多的疾病診斷上，給出更智能、更高效的治療建議以及推薦方法，甚至可以直接面向病人應(yīng)用，但并不能使得其完全擺脫醫(yī)生的管理，因?yàn)橹委熁顒?dòng)的主導(dǎo)依然是醫(yī)生而不是醫(yī)療人工智能。臆想的未來醫(yī)療人工智能將成為醫(yī)療行為主體，不但缺乏事實(shí)依據(jù)和法律基礎(chǔ)，而且還會(huì)否定病人、醫(yī)生和醫(yī)療機(jī)構(gòu)三者間的法律關(guān)系，讓醫(yī)療人工智能應(yīng)用離開醫(yī)療的領(lǐng)域，變成病人通過醫(yī)療人工智能產(chǎn)品實(shí)現(xiàn)自診，而不存在醫(yī)療主體和醫(yī)事犯罪主體。而這些變化都有違醫(yī)學(xué)理論和醫(yī)療實(shí)踐發(fā)展準(zhǔn)則，對(duì)社會(huì)、醫(yī)療產(chǎn)業(yè)和病人都無益，也不符合對(duì)國家有益的新一代人工智能科技的發(fā)展目標(biāo)。

三、結(jié)語

可以預(yù)見的是發(fā)展醫(yī)療人工智能未來的主要方向是更專業(yè)、更智能，但其還是不可能形成前文所說的"自主意識(shí)和意志"，從而成為醫(yī)療行為主體和醫(yī)學(xué)刑法中犯罪主體和責(zé)任主體，筆者認(rèn)為其在刑法中的地位應(yīng)該是客體。不難預(yù)測(cè)，未來醫(yī)療人工智能必將完全地改變傳統(tǒng)的醫(yī)療活動(dòng)方式，對(duì)醫(yī)學(xué)犯罪能不能成立有實(shí)際的影響，同時(shí)醫(yī)師的說明告知義務(wù)、醫(yī)療事故罪中醫(yī)生的負(fù)有的注意義務(wù)與注意能力的判斷準(zhǔn)則也應(yīng)該要隨之應(yīng)變，筆者認(rèn)為在這方面應(yīng)該堅(jiān)持以病人為中心，建立積極正面的人工智能發(fā)展制度，在監(jiān)管部門、醫(yī)師和患者之間合理分配醫(yī)療人工智能安全風(fēng)險(xiǎn)防范責(zé)任;同時(shí)，推動(dòng)醫(yī)事刑法及相關(guān)理論的發(fā)展創(chuàng)新。醫(yī)學(xué)的最重要內(nèi)核是人道主義，每位患者都是獨(dú)立的個(gè)體、無法重來的生命，對(duì)患者的人文關(guān)懷應(yīng)該是醫(yī)療活動(dòng)的重要組成部分。數(shù)理以及算法邏輯是醫(yī)療人工智能發(fā)展的科學(xué)基礎(chǔ)，但是其只能在邏輯算法的基礎(chǔ)上進(jìn)行相關(guān)的信息處理，沒有辦法完成需要人類獨(dú)特思維的工作，在客觀上醫(yī)療人工智能也不存在類似AlphaGo那樣棋類人工智能可以有無數(shù)次試錯(cuò)的訓(xùn)練條件，醫(yī)療人工智能未來不可能完全替代醫(yī)師的工作，其發(fā)展方向只能是醫(yī)師監(jiān)控下的人機(jī)協(xié)同。法律制度應(yīng)保障人機(jī)協(xié)同醫(yī)療的發(fā)展，客觀回應(yīng)醫(yī)療活動(dòng)變革的事實(shí)，及時(shí)完善醫(yī)療人工智能相關(guān)法律法規(guī)，這也是醫(yī)療人工智能相關(guān)刑法問題研究的起點(diǎn)和重點(diǎn)。

參考文獻(xiàn)：

[1]劉憲權(quán).《涉人工智能犯罪刑法規(guī)制的路徑》[J].《現(xiàn)代法學(xué)》，2019，（1）：78-82.

[2]儲(chǔ)陳城.《人工智能時(shí)代刑法的立場(chǎng)和功能》[J].《中國刑法法雜志》，2018，（6）：88-91.

[3]皮勇.《人工智能刑法法治的基本問題》[J].《比較法研究》，2018，（5）：156-157.

[4]中國信息通信研究院.《2018年世界人工智能產(chǎn)業(yè)發(fā)展藍(lán)皮書》[EB/OL].http：//www.caict.ac.cn/kxyj/qwfb/bps/201809/P020180918696199759141.pd，2018-09-18/2022- 2- 16.

作者簡(jiǎn)介：

顧曉濤（2000-），男，漢族，江蘇無錫宜興人，江蘇大學(xué)本科在讀，法學(xué)方向。

基金項(xiàng)目：

江蘇大學(xué)2021年大學(xué)生實(shí)踐創(chuàng)新訓(xùn)練計(jì)劃項(xiàng)目 項(xiàng)目編號(hào)：2021102991004X。