智能醫(yī)療算法審查的融合型立法研究*

任 穎

算法是系統(tǒng)運(yùn)算、處理數(shù)據(jù)、解決問(wèn)題的特定指令，“算法權(quán)力”甚至改變了“原有的權(quán)利-權(quán)力格局”。(1)郭哲：《反思算法權(quán)力》，載《法學(xué)評(píng)論》2020年第6期。智能醫(yī)療算法能夠直接決定醫(yī)療資源信息獲取、醫(yī)療數(shù)據(jù)讀取、智能診療系統(tǒng)的輸出結(jié)果，(2)S.-K. Kim etc., Consistency of Medical Data Using Intelligent Neuron Faster R-CNN Algorithm for Smart Health Care Application, Healthcare, 2020, 8(2), 185.改變醫(yī)療衛(wèi)生法律關(guān)系的內(nèi)容和范圍。隨著智能醫(yī)療新業(yè)態(tài)步入快速發(fā)展軌道，智能醫(yī)學(xué)影像、血流儲(chǔ)備分?jǐn)?shù)計(jì)算軟件、糖篩眼底圖像輔助診斷軟件等多項(xiàng)應(yīng)用程序相繼獲批，智能醫(yī)療企業(yè)迅速完成多輪融資，并深度融入臨床科室應(yīng)用進(jìn)程。在推進(jìn)智能醫(yī)療算法決策、算法分發(fā)及爬蟲算法應(yīng)用的同時(shí)，如何防范醫(yī)源型與藥源型安全風(fēng)險(xiǎn)，使主體“免受自動(dòng)化決策的侵害”；如何使醫(yī)療健康及生物識(shí)別信息“不因數(shù)據(jù)交易和數(shù)據(jù)挖掘而泄露”，(3)蘇宇：《算法規(guī)制的譜系》，載《中國(guó)法學(xué)》2020年第3期。成為智能醫(yī)療算法審查立法的重心所在。

一、智能醫(yī)療算法決策與算法分發(fā)的潛在風(fēng)險(xiǎn)與問(wèn)題

智能醫(yī)療臨床應(yīng)用覆蓋傳染病預(yù)測(cè)、病因識(shí)別、病灶標(biāo)注、靶區(qū)勾畫、診療方案、干預(yù)措施、醫(yī)護(hù)服務(wù)、藥物研發(fā)等多個(gè)領(lǐng)域；智能醫(yī)療法律關(guān)系不僅包括醫(yī)患關(guān)系，而且廣泛涵蓋衛(wèi)生行政部門、智能醫(yī)療研發(fā)企業(yè)、醫(yī)療機(jī)構(gòu)、第三方檢測(cè)機(jī)構(gòu)之間的關(guān)系，智能醫(yī)療所面臨的現(xiàn)實(shí)問(wèn)題復(fù)合性強(qiáng)、復(fù)雜程度高。智能醫(yī)療算法決策、算法分發(fā)、爬蟲算法的潛在風(fēng)險(xiǎn)亟須得到高度重視。

(一)智能醫(yī)療算法決策可能引發(fā)疊加型的醫(yī)源型與藥源型風(fēng)險(xiǎn)

智能醫(yī)療算法決策可以分為人機(jī)交互型決策與自動(dòng)化機(jī)器決策兩個(gè)類型，智能醫(yī)療算法決策打破了傳統(tǒng)的醫(yī)患共同決策模式，將“基于機(jī)器學(xué)習(xí)的算法自動(dòng)化場(chǎng)景”嵌入醫(yī)療決策過(guò)程，(4)參見(jiàn)唐林垚：《“脫離算法自動(dòng)化決策權(quán)”的虛幻承諾》，載《東方法學(xué)》2020年第6期。從而給醫(yī)療健康服務(wù)帶來(lái)新的風(fēng)險(xiǎn)與挑戰(zhàn)。傳統(tǒng)的醫(yī)療決策模式經(jīng)歷了從醫(yī)生決策到“醫(yī)患共享決策”的轉(zhuǎn)變，(5)參見(jiàn)鄭紅穎等：《醫(yī)患共享決策評(píng)估工具的研究進(jìn)展》，載《中華護(hù)理雜志》2018年第5期。形成了以患者知情同意為基礎(chǔ)，以醫(yī)患雙方的良性溝通和互動(dòng)為路徑，以診療共識(shí)為目標(biāo)的醫(yī)療決策方式。在智能社會(huì)，人工智能在醫(yī)療機(jī)構(gòu)之間搭建起新型的醫(yī)療聯(lián)合體平臺(tái)，也形成智能系統(tǒng)與醫(yī)療機(jī)構(gòu)之間的新型關(guān)系。在智能醫(yī)療臨床應(yīng)用過(guò)程中，醫(yī)患共同決策不僅是醫(yī)生建議與患者意見(jiàn)綜合作用的結(jié)果，而且受到潛在算法的影響，智能醫(yī)療算法甚至“直接作為行為規(guī)范影響”醫(yī)療決策的結(jié)果。(6)參見(jiàn)張凌寒：《算法權(quán)力的興起、異化及法律規(guī)制》，載《法商研究》2019年第4期。同時(shí)，智能醫(yī)療算法本身并不在執(zhí)業(yè)醫(yī)師的控制之下，算法的隱蔽性也使人們很難直觀地發(fā)現(xiàn)其問(wèn)題。如果智能醫(yī)療算法存在隱蔽性的風(fēng)險(xiǎn)與問(wèn)題，可能直到健康損害實(shí)際發(fā)生，才能被識(shí)別出來(lái)。智能醫(yī)療算法具有可復(fù)制性且應(yīng)用廣泛，一旦智能醫(yī)療算法決策被用于危害健康的活動(dòng)，其危害的范圍就不僅是哪一個(gè)主體，而且可能導(dǎo)致大范圍、多點(diǎn)源的公共健康危機(jī)。在實(shí)踐中，通過(guò)智能算法技術(shù)遠(yuǎn)程控制心臟電擊器、藥物輸液泵等設(shè)備，危害生命健康的問(wèn)題已經(jīng)日益受到關(guān)注。智能醫(yī)療領(lǐng)域面臨的風(fēng)險(xiǎn)和挑戰(zhàn)從醫(yī)療技術(shù)風(fēng)險(xiǎn)擴(kuò)張到智能技術(shù)風(fēng)險(xiǎn)，從傳統(tǒng)的醫(yī)療決策領(lǐng)域擴(kuò)展至新興醫(yī)療決策模式，呈現(xiàn)出諸多新的特征。

隨著醫(yī)療人工智能深度學(xué)習(xí)算法的應(yīng)用，智能技術(shù)與醫(yī)療技術(shù)的融合日益加深，新型智能醫(yī)療風(fēng)險(xiǎn)與傳統(tǒng)領(lǐng)域醫(yī)療風(fēng)險(xiǎn)交織疊加，呈現(xiàn)人機(jī)交互與復(fù)合性特征。深度學(xué)習(xí)算法與思維模擬技術(shù)的應(yīng)用，使智能醫(yī)療機(jī)器具備短時(shí)間內(nèi)迅速學(xué)習(xí)數(shù)代人積累的醫(yī)療經(jīng)驗(yàn)，并通過(guò)堆棧自編碼網(wǎng)絡(luò)，掌握基本醫(yī)療經(jīng)驗(yàn)的內(nèi)在規(guī)律，形成自主判斷決策甚至是具有超越性的機(jī)器識(shí)別和創(chuàng)造能力。醫(yī)療人工智能正在“引發(fā)一場(chǎng)深刻的革命”，(7)王文：《數(shù)字中國(guó)：區(qū)塊鏈、智能革命與國(guó)家治理的未來(lái)》，中信出版社2020年版，第1頁(yè)。全方位改變醫(yī)療技術(shù)開(kāi)發(fā)、醫(yī)療過(guò)程監(jiān)管、醫(yī)療機(jī)構(gòu)運(yùn)行及醫(yī)師診療的全過(guò)程，技術(shù)安全問(wèn)題與醫(yī)療聯(lián)合體的新型醫(yī)療安全問(wèn)題愈加凸顯。智能預(yù)警、診療康復(fù)等智能醫(yī)療系統(tǒng)的深度應(yīng)用，在傳統(tǒng)領(lǐng)域的醫(yī)療風(fēng)險(xiǎn)基礎(chǔ)上，衍生出新型的醫(yī)療系統(tǒng)風(fēng)險(xiǎn)與介入治療行為風(fēng)險(xiǎn)。醫(yī)療安全的影響因素不再局限于醫(yī)療機(jī)構(gòu)之內(nèi)，也不以空間場(chǎng)所為界限，而是逐步向虛擬智能空間延伸。智能醫(yī)療算法決策“掙脫了時(shí)間、空間的限制”，實(shí)現(xiàn)智能空間萬(wàn)事萬(wàn)物的互聯(lián)互通。(8)參見(jiàn)[美]尼古拉·尼葛洛龐蒂：《數(shù)字化生存》，胡泳等譯，海南出版社1997年版，第7頁(yè)。智能醫(yī)療影像數(shù)據(jù)平臺(tái)、智能診療服務(wù)平臺(tái)等均能通過(guò)人機(jī)物三元協(xié)同介入醫(yī)療進(jìn)程，導(dǎo)致醫(yī)源型與藥源型安全風(fēng)險(xiǎn)相互疊加，隱患排查的難度加大。

醫(yī)療人工智能遺傳算法與進(jìn)化算法的發(fā)展，使醫(yī)源型與藥源型風(fēng)險(xiǎn)呈現(xiàn)高度不確定性，智能醫(yī)療算法決策面臨可控性方面的安全隱患，算法機(jī)械化與醫(yī)療人文關(guān)懷之間存在沖突，通過(guò)算法代碼貫徹維護(hù)人類生命健康等內(nèi)在價(jià)值判斷面臨困境。隨著“算法所產(chǎn)生的影響力與控制力”不斷增強(qiáng)，智能醫(yī)療算法面臨更大的“潛在的不可控的風(fēng)險(xiǎn)”。(9)周輝：《算法權(quán)力及其規(guī)制》，載《法制與社會(huì)發(fā)展》2019年第6期。第一，算法控制方并不是醫(yī)療機(jī)構(gòu)，智能醫(yī)療算法驅(qū)動(dòng)使醫(yī)源型風(fēng)險(xiǎn)的演化與醫(yī)療系統(tǒng)相分離，醫(yī)源型風(fēng)險(xiǎn)因素與危害結(jié)果之間的關(guān)系處于不確定甚至不可控的狀態(tài)。第二，人工智能在藥物研發(fā)、配置方面的應(yīng)用，使藥源型風(fēng)險(xiǎn)具有“耦合性和高度的不確定性”。(10)張樂(lè)：《新興技術(shù)風(fēng)險(xiǎn)的挑戰(zhàn)及其適應(yīng)性治理》，載《上海行政學(xué)院學(xué)報(bào)》2021年第1期。面對(duì)不確定的醫(yī)源型與藥源型風(fēng)險(xiǎn)，傳統(tǒng)的醫(yī)療專家系統(tǒng)較難精確預(yù)判算法機(jī)械化對(duì)醫(yī)療人文關(guān)懷可能帶來(lái)怎樣的危害。第三，醫(yī)源型與藥源型風(fēng)險(xiǎn)的影響范圍不僅限于特定醫(yī)院與就診患者之間，而且擴(kuò)展到所有使用智能穿戴式醫(yī)療設(shè)備的用戶。便攜式、可穿戴式智能醫(yī)療設(shè)備的應(yīng)用，能夠?qū)ο燃膊〖皶r(shí)做出預(yù)警，并在必要時(shí)為病人進(jìn)行藥物輸入與初步救治；公共場(chǎng)所智能健康系統(tǒng)，可以通過(guò)電子監(jiān)控系統(tǒng)捕捉心率、視網(wǎng)膜等健康數(shù)據(jù)，并引導(dǎo)及時(shí)進(jìn)行醫(yī)療介入。這在為人們提供便利的同時(shí)，也引發(fā)新型的醫(yī)源型與藥源型風(fēng)險(xiǎn)。對(duì)于醫(yī)療人工智能通信網(wǎng)絡(luò)的攻擊，通過(guò)醫(yī)藥供給與醫(yī)療介入危害健康安全。(11)參見(jiàn)李勤：《警惕醫(yī)療設(shè)備遭遇“黑客”》，載《中國(guó)科學(xué)報(bào)》2014年5月7日第7版。以“憲法上的風(fēng)險(xiǎn)預(yù)防義務(wù)”為基礎(chǔ)，(12)參見(jiàn)王旭：《論國(guó)家在憲法上的風(fēng)險(xiǎn)預(yù)防義務(wù)》，載《法商研究》2019年第5期。針對(duì)智能醫(yī)療新興風(fēng)險(xiǎn)與傳統(tǒng)風(fēng)險(xiǎn)的預(yù)防型立法，(13)參見(jiàn)任穎：《從回應(yīng)型到預(yù)防型的公共衛(wèi)生立法》，載《法制與社會(huì)發(fā)展》2020年第4期。成為智能醫(yī)療算法審查立法的關(guān)鍵環(huán)節(jié)。

(二)智能醫(yī)療算法分發(fā)及自主應(yīng)用對(duì)健康公平產(chǎn)生雙向影響效應(yīng)

算法公平并不局限于市場(chǎng)公平，更包括健康公平、社會(huì)公平等廣泛含義。算法不僅是撬動(dòng)競(jìng)爭(zhēng)行為的杠桿，而且成為影響健康公平的重要因素；“以算法達(dá)成更隱蔽的共謀”，不僅影響市場(chǎng)公平，更給健康公平保障帶來(lái)挑戰(zhàn)。(14)參見(jiàn)孫晉：《數(shù)字平臺(tái)的反壟斷監(jiān)管》，載《中國(guó)社會(huì)科學(xué)》2021年第5期?！秶?guó)務(wù)院反壟斷委員會(huì)關(guān)于平臺(tái)經(jīng)濟(jì)領(lǐng)域的反壟斷指南》第5條至第8條對(duì)基于算法實(shí)施的排除、限制競(jìng)爭(zhēng)行為作出規(guī)定，第14、15條對(duì)通過(guò)算法設(shè)置限制或障礙的方式作出規(guī)制，第17條規(guī)定了差異性算法與差別待遇的認(rèn)定條件，第21條規(guī)定執(zhí)法機(jī)構(gòu)可以在特定情形下要求企業(yè)修改算法，但智能醫(yī)療算法對(duì)健康公平的影響尚未有專項(xiàng)立法加以規(guī)定。智能時(shí)代健康公平的實(shí)現(xiàn)，需要智能醫(yī)療研發(fā)企業(yè)恪守醫(yī)療市場(chǎng)公平競(jìng)爭(zhēng)秩序，防范“算法引發(fā)的偏見(jiàn)、歧視和支配”對(duì)健康公平造成的不利影響。(15)參見(jiàn)汪慶華：《算法透明的多重維度和算法問(wèn)責(zé)》，載《比較法研究》2020年第6期。智能醫(yī)療算法分發(fā)具備定向投送和引導(dǎo)功能，當(dāng)智能醫(yī)療企業(yè)“構(gòu)建公正、不含偏見(jiàn)的算法”時(shí)，算法分發(fā)會(huì)有利于實(shí)現(xiàn)更加高效與公平的健康決策；(16)參見(jiàn)陸凱：《美國(guó)算法治理政策與實(shí)施進(jìn)路》，載《環(huán)球法律評(píng)論》2020年第3期。當(dāng)智能醫(yī)療算法歧視通過(guò)聚類和分類算法、“基于統(tǒng)計(jì)回歸的專家排序”方法等應(yīng)用，(17)參見(jiàn)唐林垚：《公共衛(wèi)生領(lǐng)域算法治理的實(shí)現(xiàn)途徑及法律保障》，載《法學(xué)評(píng)論》2021年第3期。影響患者選擇最匹配醫(yī)療機(jī)構(gòu)時(shí)，則帶來(lái)負(fù)向的結(jié)果，直接制約健康公平的實(shí)現(xiàn)。智能醫(yī)療算法的開(kāi)發(fā)普及對(duì)健康公平產(chǎn)生雙向影響，也給算法審查立法帶來(lái)新的課題。

智能醫(yī)療算法分發(fā)及自主應(yīng)用對(duì)健康公平的消極影響，主要表現(xiàn)為算法“技術(shù)性歧視”。(18)徐琳：《人工智能推算技術(shù)中的平等權(quán)問(wèn)題之探討》，載《法學(xué)評(píng)論》2019年第3期。以效率為導(dǎo)向的算法設(shè)計(jì)“給傳統(tǒng)的平等權(quán)保護(hù)帶來(lái)危機(jī)”，“算法黑箱造成的透明度缺失”不利于健康公平的實(shí)現(xiàn)。(19)參見(jiàn)崔靖梓：《算法歧視挑戰(zhàn)下平等權(quán)保護(hù)的危機(jī)與應(yīng)對(duì)》，載《法律科學(xué)(西北政法大學(xué)學(xué)報(bào))》2019年第3期。智能醫(yī)療系統(tǒng)算法黑箱、算法歧視，會(huì)直接影響健康公平可及，可能對(duì)“某些群體造成歧視”，(20)鄭智航、徐昭曦：《大數(shù)據(jù)時(shí)代算法歧視的法律規(guī)制與司法審查——以美國(guó)法律實(shí)踐為例》，載《比較法研究》2019年第4期。引發(fā)“數(shù)據(jù)歧視并導(dǎo)致了權(quán)利侵害”。(21)王聰：《“共同善”維度下的算法規(guī)制》，載《法學(xué)》2019年第12期。不論是患者查詢醫(yī)療服務(wù)機(jī)構(gòu)，還是醫(yī)療機(jī)構(gòu)選擇智能醫(yī)療合作企業(yè)，均處于隱藏的算法分發(fā)的支配下?；颊攉@取醫(yī)療資源信息、醫(yī)療機(jī)構(gòu)的數(shù)據(jù)讀取、智能診療系統(tǒng)的輸出結(jié)果，均可能受到算法黑箱、信息繭房的影響。智能醫(yī)療算法分發(fā)、算法篩選可能加劇醫(yī)患信息的不平衡，影響醫(yī)患需求的匹配度，對(duì)健康社會(huì)權(quán)利的實(shí)現(xiàn)造成不利影響。算法的不公平直接影響健康公平可及，影響衛(wèi)生健康服務(wù)與醫(yī)療保障的均等可及。智能時(shí)代的健康公平保障面臨新的困境。從根源上看，智能醫(yī)療產(chǎn)業(yè)發(fā)展與基本醫(yī)療行業(yè)公益性存在一定矛盾。智能醫(yī)療產(chǎn)業(yè)發(fā)展以經(jīng)濟(jì)效益為主要驅(qū)動(dòng)力，需要商業(yè)化、產(chǎn)業(yè)化的激勵(lì)，來(lái)推動(dòng)智能醫(yī)療技術(shù)的創(chuàng)新和突破；而基本醫(yī)療行業(yè)則承載著公共健康保障與生命安全維護(hù)的重要任務(wù)，需要立足醫(yī)療行為、醫(yī)療關(guān)系、醫(yī)療結(jié)構(gòu)，來(lái)推進(jìn)整個(gè)社會(huì)健康公平發(fā)展，實(shí)現(xiàn)社會(huì)的公平正義。利益協(xié)調(diào)和立法融合，成為智能技術(shù)在醫(yī)療機(jī)構(gòu)診斷和治療、日常健康監(jiān)測(cè)與疾病預(yù)警等方面應(yīng)用面臨的新問(wèn)題。

智能醫(yī)療新業(yè)態(tài)的發(fā)展亦會(huì)對(duì)健康公平產(chǎn)生積極影響。智能醫(yī)療系統(tǒng)的開(kāi)發(fā)普及和臨床應(yīng)用，能夠化解醫(yī)療資源的有限性與日益擴(kuò)大的醫(yī)療需求之間的矛盾，提高優(yōu)質(zhì)醫(yī)療資源的覆蓋面。一方面，通過(guò)智能醫(yī)療技術(shù)的臨床應(yīng)用，醫(yī)療機(jī)構(gòu)能夠突破地域和時(shí)間的限制，為人們提供優(yōu)質(zhì)高效的醫(yī)療衛(wèi)生服務(wù)，彌合人口基數(shù)大背景下醫(yī)療需求與醫(yī)療資源之間的鴻溝，醫(yī)用智能設(shè)備、家用可穿戴式智能系統(tǒng)、公共場(chǎng)所智能健康預(yù)警設(shè)備的推廣，使人們隨時(shí)隨地可以監(jiān)測(cè)自己的健康狀況，并根據(jù)智能系統(tǒng)建議及時(shí)進(jìn)行防范，避免延誤最佳治療時(shí)機(jī)；另一方面，智能醫(yī)療算法技術(shù)的應(yīng)用，能夠?yàn)樾袆?dòng)不便或突發(fā)疾病而無(wú)法尋求醫(yī)療救助的群體提供幫助，智能合約能夠創(chuàng)設(shè)“基于邏輯的自動(dòng)執(zhí)行結(jié)構(gòu)”，(22)余成峰：《法律的“死亡”：人工智能時(shí)代的法律功能危機(jī)》，載《華東政法大學(xué)學(xué)報(bào)》2018年第2期。當(dāng)智能系統(tǒng)發(fā)現(xiàn)用戶健康指數(shù)異常時(shí)能夠進(jìn)行自動(dòng)掛號(hào)預(yù)約，使特殊群體及時(shí)獲得醫(yī)療救治。智能醫(yī)療算法的臨床應(yīng)用，能夠從總體上提高優(yōu)質(zhì)醫(yī)療資源的覆蓋面。與競(jìng)爭(zhēng)法視角對(duì)企業(yè)的監(jiān)管和規(guī)制不同，衛(wèi)生法視角的智能醫(yī)療算法審查不應(yīng)采取單向度規(guī)制的路徑，而應(yīng)立足智能醫(yī)療算法對(duì)健康公平的雙向影響，推動(dòng)立法保障與立法規(guī)制的融合發(fā)展。

(三)智能醫(yī)療爬蟲算法使醫(yī)療健康及生物識(shí)別信息保護(hù)面臨挑戰(zhàn)

智能醫(yī)療算法應(yīng)用所帶來(lái)的新的風(fēng)險(xiǎn)和問(wèn)題，不僅包括健康風(fēng)險(xiǎn)，而且涉及醫(yī)療健康信息安全風(fēng)險(xiǎn)；不僅涉及個(gè)人信息安全，更關(guān)系國(guó)家生物信息安全。與企業(yè)數(shù)據(jù)庫(kù)中的消費(fèi)偏好、地址信息等私益內(nèi)容不同，醫(yī)療衛(wèi)生信息數(shù)據(jù)涉及具有高度可識(shí)別性的生物樣本信息；對(duì)數(shù)據(jù)信息的加工利用也不局限于身份識(shí)別與定位，而是擴(kuò)展到群體乃至種族識(shí)別與分析范疇，構(gòu)成對(duì)群體利益和公共安全維護(hù)的潛在威脅。在“算法嵌入式擴(kuò)張”背景下，“算法平臺(tái)化運(yùn)行與公共利益隔離”。(23)張凌寒：《算法規(guī)制的迭代與革新》，載《法學(xué)論壇》2019年第2期。智能醫(yī)療平臺(tái)運(yùn)行如何符合公共健康保護(hù)要求，成為算法審查面臨的首要問(wèn)題。解決這一問(wèn)題的立法思路主要有兩種，一是民法典的知情同意規(guī)定，《中華人民共和國(guó)民法典》第1034條明確將生物識(shí)別信息、健康信息納入受法律保護(hù)的信息范圍，第1035條將自然人或其監(jiān)護(hù)人同意作為信息處置的一般條件，如果個(gè)體或組織未經(jīng)同意處理生物識(shí)別信息、健康信息，需要承擔(dān)侵權(quán)責(zé)任；二是《個(gè)人信息保護(hù)法》的法益衡量路徑，《個(gè)人信息保護(hù)法》第28條將生物識(shí)別、醫(yī)療健康信息列入敏感個(gè)人信息，規(guī)定只有符合特定目的、嚴(yán)格保護(hù)、充分必要的前提下，才能對(duì)敏感個(gè)人信息進(jìn)行處理。但針對(duì)智能醫(yī)療算法應(yīng)用的知情同意，面臨知情權(quán)與商業(yè)秘密保護(hù)的沖突，法益衡量亦面臨健康數(shù)據(jù)的合理使用與國(guó)家生物信息安全的平衡問(wèn)題。智能醫(yī)療算法審查面臨技術(shù)與組織兩個(gè)方面的問(wèn)題和隱患。

在技術(shù)方面，智能醫(yī)療算法技術(shù)的應(yīng)用不斷消解人們對(duì)于自身醫(yī)療信息的控制能力。智能醫(yī)療以信息網(wǎng)絡(luò)為依托，以“大數(shù)據(jù)的積累和挖掘”為支撐，(24)朱曉明：《走向數(shù)字經(jīng)濟(jì)》，上海交通大學(xué)出版社2018年版，第6頁(yè)。以算法運(yùn)行為脈絡(luò)，通過(guò)海量生物信息挖掘、數(shù)據(jù)整合，實(shí)現(xiàn)智能空間醫(yī)療數(shù)據(jù)存儲(chǔ)、交換、訪問(wèn)、使用、處理的開(kāi)放共享。(25)[美]格雷格·舒爾茨：《云和虛擬數(shù)據(jù)存儲(chǔ)網(wǎng)絡(luò)》，李洪濤等譯，國(guó)防工業(yè)出版社2017年版，第27頁(yè)。智能醫(yī)療爬蟲算法收集大量數(shù)據(jù)，并能夠運(yùn)用算法進(jìn)行大數(shù)據(jù)分析，進(jìn)行精準(zhǔn)的用戶、群體乃至種族畫像，使醫(yī)療健康及生物識(shí)別信息保護(hù)面臨更大挑戰(zhàn)。智能傳感器能夠在醫(yī)療過(guò)程自主開(kāi)啟信息收集功能，醫(yī)療器械與醫(yī)療設(shè)備等硬件、醫(yī)療輔助診斷與決策支持等軟件系統(tǒng)能夠廣泛收集生物信息。智能臨床病理診斷及醫(yī)療救治、智能核酸檢測(cè)及傳染病追蹤、智能健康護(hù)理及流行病學(xué)調(diào)查的開(kāi)展，采集和分析細(xì)胞樣本、基因信息、機(jī)能指數(shù)等；可穿戴式智能醫(yī)療設(shè)備及公共場(chǎng)所健康監(jiān)測(cè)設(shè)備的應(yīng)用，更是將樣本數(shù)據(jù)采集與控制的范圍從就診患者擴(kuò)大至社會(huì)群體，引發(fā)個(gè)體醫(yī)療健康數(shù)據(jù)安全與群體生物信息安全問(wèn)題。智能醫(yī)療算法審查需要解決技術(shù)治理面臨的新問(wèn)題。

智能醫(yī)療算法審查還面臨組織治理領(lǐng)域的新問(wèn)題。一方面，智能醫(yī)療爬蟲算法的應(yīng)用極大拓展了醫(yī)療健康數(shù)據(jù)采集的范圍，華生(Watson)等全球性智能醫(yī)療企業(yè)已經(jīng)進(jìn)駐我國(guó)，其經(jīng)手和控制的醫(yī)療數(shù)據(jù)集正在不斷遞增，相應(yīng)的生物信息安全隱患也不斷擴(kuò)大，跨境健康數(shù)據(jù)安全問(wèn)題亟待解決；另一方面，人工智能為醫(yī)聯(lián)體多學(xué)科聯(lián)合診療提供支持，同時(shí)也打破醫(yī)患關(guān)系的傳統(tǒng)邊界，帶來(lái)“整合醫(yī)療組織”新型問(wèn)題，(26)陳多等：《城市醫(yī)療聯(lián)合體績(jī)效考核現(xiàn)狀、問(wèn)題及對(duì)策分析》，載《中國(guó)衛(wèi)生資源》2019年第6期。掌握醫(yī)療健康數(shù)據(jù)信息的主體除醫(yī)療衛(wèi)生機(jī)構(gòu)之外，還包括智能醫(yī)療技術(shù)研發(fā)方、運(yùn)營(yíng)商等，以數(shù)據(jù)共享、算法公開(kāi)為基礎(chǔ)的醫(yī)療人工智能發(fā)展，推動(dòng)新興技術(shù)與生產(chǎn)生活的深度融合，也導(dǎo)致特定國(guó)家或地區(qū)的生物信息能夠被多個(gè)主體追蹤，引發(fā)基于智能醫(yī)療組織系統(tǒng)互聯(lián)互通的信息安全問(wèn)題。針對(duì)第一個(gè)方面的問(wèn)題，2021年《數(shù)據(jù)出境安全評(píng)估辦法(征求意見(jiàn)稿)》發(fā)布，其中第4條規(guī)定符合法定情形的重要數(shù)據(jù)出境應(yīng)進(jìn)行數(shù)據(jù)出境安全評(píng)估申報(bào)，但對(duì)于重要數(shù)據(jù)的范圍，尤其是跨境醫(yī)療背景下醫(yī)療數(shù)據(jù)傳輸?shù)奶厥庑晕从枰栽敿?xì)界定。針對(duì)第二個(gè)方面的問(wèn)題，《衛(wèi)生行業(yè)信息安全等級(jí)保護(hù)工作的指導(dǎo)意見(jiàn)》將保護(hù)居民健康信息安全作為工作要求，并設(shè)置了自主保護(hù)、指導(dǎo)保護(hù)、監(jiān)督保護(hù)、強(qiáng)制保護(hù)、?？乇Ｗo(hù)五級(jí)工作機(jī)制，指出三級(jí)甲等醫(yī)院核心業(yè)務(wù)信息系統(tǒng)的保護(hù)級(jí)別原則上不低于第三級(jí)，但在醫(yī)療機(jī)構(gòu)之間的跨院數(shù)據(jù)共享背景下，醫(yī)療機(jī)構(gòu)所掌握的健康信息規(guī)模與其評(píng)級(jí)可能并不對(duì)應(yīng)，不論是哪一級(jí)的醫(yī)療機(jī)構(gòu)，均可在健康信息平臺(tái)獲取共享醫(yī)療數(shù)據(jù)。智能醫(yī)療算法審查的立足點(diǎn)應(yīng)從醫(yī)療機(jī)構(gòu)評(píng)級(jí)轉(zhuǎn)向醫(yī)療過(guò)程監(jiān)管，及時(shí)更新立法制度設(shè)計(jì)。

二、智能醫(yī)療算法審查立法路徑的法理辨析

智能醫(yī)療算法審查立法究竟是采取單向度規(guī)制模式、概括式算法審查立法還是融合型立法，如何在現(xiàn)有部門法分立格局中實(shí)現(xiàn)算法風(fēng)險(xiǎn)防控的跨部門融合，怎樣有效應(yīng)對(duì)嵌入式的智能醫(yī)療算法技術(shù)和組織系統(tǒng)安全隱患，成為智慧法治與衛(wèi)生法治建設(shè)的共同議題。

(一)傳統(tǒng)的法律部門劃分與智能醫(yī)療算法審查“領(lǐng)域法”融合

“傳統(tǒng)部門法分析框架”難以對(duì)“算法侵害及算法自動(dòng)決策”展開(kāi)系統(tǒng)規(guī)制。(27)王瑩：《算法侵害類型化研究與法律應(yīng)對(duì)——以〈個(gè)人信息保護(hù)法〉為基點(diǎn)的算法規(guī)制擴(kuò)展構(gòu)想》，載《法制與社會(huì)發(fā)展》2021年第6期。部門法學(xué)是農(nóng)業(yè)文明和工業(yè)文明時(shí)代的產(chǎn)物，以“靜態(tài)的閉合的規(guī)范”為主要內(nèi)容。智能時(shí)代的立法“以動(dòng)態(tài)的開(kāi)放的問(wèn)題”為導(dǎo)向，實(shí)現(xiàn)“對(duì)傳統(tǒng)部門法學(xué)的超越和有益補(bǔ)充”，形成具有“綜合性、交融性的特點(diǎn)”的“領(lǐng)域法學(xué)”，并整體性地對(duì)新興問(wèn)題進(jìn)行系統(tǒng)回應(yīng)，“避免機(jī)械劃歸部門法導(dǎo)致”“僵化和碎片化”。(28)楊文德：《領(lǐng)域法學(xué)崛起因應(yīng)新興學(xué)科挑戰(zhàn)》，載《中國(guó)社會(huì)科學(xué)報(bào)》2018年11月21日第5版。以“部門法分立格局”展開(kāi)智能醫(yī)療算法審查立法，割裂了“風(fēng)險(xiǎn)控制的整體主義視角”。如果僅從某一部門法出發(fā)進(jìn)行規(guī)制，“無(wú)助于風(fēng)險(xiǎn)控制工具之間的協(xié)調(diào)”，(29)宋亞輝：《風(fēng)險(xiǎn)控制的部門法思路及其超越》，載《中國(guó)社會(huì)科學(xué)》2017年第10期。較難滿足智能醫(yī)療算法審查的行業(yè)性、專業(yè)化、個(gè)殊性要求，無(wú)法系統(tǒng)防控智能醫(yī)療領(lǐng)域的醫(yī)源型與藥源型風(fēng)險(xiǎn)。智能醫(yī)療算法決策所引發(fā)的醫(yī)源型與藥源型風(fēng)險(xiǎn)具有特殊性、行業(yè)性，并具有多點(diǎn)源、多觸發(fā)面特征。智能醫(yī)療法律關(guān)系涉及的主體眾多、內(nèi)容復(fù)雜、覆蓋面廣，并跨越了傳統(tǒng)的醫(yī)療空間與智能空間。智能醫(yī)療算法決策風(fēng)險(xiǎn)防控只有突破部門法的壁壘，將不同風(fēng)險(xiǎn)控制措施融入醫(yī)源型與藥源型風(fēng)險(xiǎn)防控過(guò)程，才能夠形成保護(hù)人民生命健康的嚴(yán)密防護(hù)網(wǎng)。目前的算法審查主要有三種路徑，一是價(jià)值層面的算法倫理審查、公平機(jī)器學(xué)習(xí)。在此基礎(chǔ)上，不同的算法審查方式需要得到有效整合，智能醫(yī)療算法決策風(fēng)險(xiǎn)立法的跨部門融合亟待實(shí)現(xiàn)。

智能醫(yī)療算法審查“領(lǐng)域法”的融合，立足風(fēng)險(xiǎn)立法跨部門融合訴求，通過(guò)“融合與體系化構(gòu)造”，形成超越“分立格局的獨(dú)特結(jié)構(gòu)”；(30)宋亞輝：《風(fēng)險(xiǎn)立法的公私法融合與體系化構(gòu)造》，載《法商研究》2021年第3期。立足“領(lǐng)域特殊性”，克服“領(lǐng)域知識(shí)壁壘”，(31)王祿生：《論法律大數(shù)據(jù)“領(lǐng)域理論”的構(gòu)建》，載《中國(guó)法學(xué)》2020年第2期。形成以“問(wèn)題為導(dǎo)向”，以“整合性、多維度”“應(yīng)用性和協(xié)同性”為特征的立法邏輯；(32)劉劍文：《論領(lǐng)域法學(xué)：一種立足新興交叉領(lǐng)域的法學(xué)研究范式》，載《政法論叢》2016年第5期。從整體主義視角出發(fā)，“制衡算法權(quán)力”，推動(dòng)“規(guī)制范式重構(gòu)”，(33)曹博：《算法歧視的類型界分與規(guī)制范式重構(gòu)》，載《現(xiàn)代法學(xué)》2021年第4期。為智能醫(yī)療算法風(fēng)險(xiǎn)防控奠定規(guī)范基礎(chǔ)?！吨腥A人民共和國(guó)民法典》第1008條規(guī)定，為醫(yī)藥、疾病防治方法、醫(yī)療器械研發(fā)進(jìn)行臨床試驗(yàn)前，應(yīng)明確可能的發(fā)生風(fēng)險(xiǎn)，并履行告知義務(wù)；《基本醫(yī)療衛(wèi)生與健康促進(jìn)法》第32、47條對(duì)醫(yī)療風(fēng)險(xiǎn)告知、醫(yī)療風(fēng)險(xiǎn)分擔(dān)機(jī)制做出規(guī)定，第71條設(shè)置了“疾病和健康危險(xiǎn)因素監(jiān)測(cè)、調(diào)查和風(fēng)險(xiǎn)評(píng)估制度”；《中華人民共和國(guó)醫(yī)師法》第45條規(guī)定疾病防控機(jī)構(gòu)、基層醫(yī)療衛(wèi)生機(jī)構(gòu)等，應(yīng)配置公共衛(wèi)生醫(yī)師負(fù)責(zé)風(fēng)險(xiǎn)評(píng)估研判等工作，但立法之間的銜接有待加強(qiáng)，新興風(fēng)險(xiǎn)與傳統(tǒng)風(fēng)險(xiǎn)防控有待深度融合。適應(yīng)疊加型的醫(yī)源型與藥源型風(fēng)險(xiǎn)防控要求，智能醫(yī)療算法審查立法需要形成超越傳統(tǒng)法律部門劃分的行業(yè)性、領(lǐng)域性融合立法。其一，針對(duì)智能醫(yī)療算法決策風(fēng)險(xiǎn)的特殊性，實(shí)現(xiàn)風(fēng)險(xiǎn)防控立法范圍拓展與結(jié)構(gòu)融合。智能醫(yī)療算法決策風(fēng)險(xiǎn)呈現(xiàn)傳統(tǒng)風(fēng)險(xiǎn)與新興風(fēng)險(xiǎn)、個(gè)體健康風(fēng)險(xiǎn)與公共健康風(fēng)險(xiǎn)相交織的特征，智能醫(yī)療算法臨床應(yīng)用過(guò)程中可能引發(fā)的健康風(fēng)險(xiǎn)還從私人風(fēng)險(xiǎn)向公共風(fēng)險(xiǎn)擴(kuò)展，并呈現(xiàn)高度不確定性特征。智能醫(yī)療算法審查立法以領(lǐng)域立法、融合立法為路徑，不僅有效應(yīng)對(duì)相對(duì)可控的傳統(tǒng)風(fēng)險(xiǎn)，而且對(duì)高度不確定的新興風(fēng)險(xiǎn)作出科學(xué)預(yù)判；不僅需要從私權(quán)利角度保護(hù)個(gè)體的生命健康權(quán)，而且從社會(huì)權(quán)角度充分保障公共健康安全。其二，在智能醫(yī)療算法審查立法中確立風(fēng)險(xiǎn)預(yù)防原則，以有效防范化解衛(wèi)生健康領(lǐng)域重大風(fēng)險(xiǎn)為目標(biāo)，推動(dòng)智能醫(yī)療算法風(fēng)險(xiǎn)立法與基本醫(yī)療立法的有效銜接。在推進(jìn)智能醫(yī)療算法審查融合立法的過(guò)程中，不能將風(fēng)險(xiǎn)立法條款機(jī)械嵌入基本醫(yī)療立法結(jié)構(gòu)，而要通過(guò)風(fēng)險(xiǎn)立法與傳統(tǒng)領(lǐng)域立法的跨部門融合，協(xié)同推進(jìn)傳統(tǒng)風(fēng)險(xiǎn)與新興風(fēng)險(xiǎn)規(guī)制，提升智能時(shí)代醫(yī)療立法的整體效能。

(二)單向度規(guī)制模式與智能醫(yī)療算法審查融合立法的辨析

智能立法的單向度規(guī)制模式通過(guò)對(duì)“算法主體行為的法律規(guī)制”，(34)金夢(mèng)：《立法倫理與算法正義——算法主體行為的法律規(guī)制》，載《政法論壇》2021年第1期?；庵悄茚t(yī)療算法分發(fā)及自主應(yīng)用的“正當(dāng)性隱憂和倫理性風(fēng)險(xiǎn)”，(35)李訓(xùn)虎：《刑事司法人工智能的包容性規(guī)制》，載《中國(guó)社會(huì)科學(xué)》2021年第2期。防范算法黑箱、算法歧視所導(dǎo)致的差別待遇，防止智能算法“對(duì)人公開(kāi)的或隱蔽的宰制”，(36)孫偉平：《人工智能與人的“新異化”》，載《中國(guó)社會(huì)科學(xué)》2020年第12期。但單向度規(guī)制模式也存在明顯的局限性。在立法導(dǎo)向方面，單向度規(guī)制模式以控制與監(jiān)管為重心，通過(guò)事前審查、事中控制與事后監(jiān)管，實(shí)現(xiàn)對(duì)智能醫(yī)療算法應(yīng)用的全方位管控，防范智能醫(yī)療算法的消極影響，但對(duì)不利因素的遏制，并不能夠直接導(dǎo)致健康公平可及的實(shí)現(xiàn)，也難以充分釋放智能醫(yī)療算法對(duì)健康公平的積極作用。智能醫(yī)療算法的普及在節(jié)省醫(yī)療成本的同時(shí)，有利于實(shí)現(xiàn)優(yōu)質(zhì)醫(yī)療資源在不同地域、不同行業(yè)、不同群體范圍的普惠共享，促進(jìn)健康社會(huì)權(quán)利的實(shí)現(xiàn)。健康社會(huì)權(quán)利屬于積極權(quán)利的范疇，需要“采取積極有效的措施來(lái)保障其實(shí)現(xiàn)”。(37)廣州大學(xué)人權(quán)理論研究課題組：《中國(guó)特色社會(huì)主義人權(quán)理論體系論綱》，載《法學(xué)研究》2015年第2期。單向度規(guī)制模式缺乏積極有效的授權(quán)，“缺乏同等程度的保護(hù)激勵(lì)”，不易在立法的引導(dǎo)、激勵(lì)、保障作用層面形成促進(jìn)健康公平的綜合效能，難以妥當(dāng)處理智能醫(yī)療算法應(yīng)用對(duì)健康公平產(chǎn)生的雙向影響效應(yīng)?！傲⒎ㄈ绻?lì)不相容”，極易造成“規(guī)制對(duì)象抵觸”“執(zhí)行權(quán)威受損”等現(xiàn)象的發(fā)生。(38)參見(jiàn)周漢華：《探索激勵(lì)相容的個(gè)人數(shù)據(jù)治理之道——中國(guó)個(gè)人信息保護(hù)法的立法方向》，載《法學(xué)研究》2018年第2期。在關(guān)涉人民生命健康的智能醫(yī)療算法審查立法領(lǐng)域，不能片面地強(qiáng)調(diào)法律監(jiān)管與規(guī)制，而要形成促進(jìn)智能醫(yī)療算法創(chuàng)新的制度架構(gòu)，積極引導(dǎo)醫(yī)療人工智能新技術(shù)新業(yè)態(tài)的健康發(fā)展。

針對(duì)智能醫(yī)療算法普及對(duì)健康公平產(chǎn)生的雙向影響，智能醫(yī)療算法審查融合立法，既將特殊群體的傾斜性保護(hù)融入智能醫(yī)療過(guò)程，又防止智能醫(yī)療算法的身份性歧視；既充分發(fā)揮智能醫(yī)療算法在優(yōu)質(zhì)醫(yī)療資源普惠共享方面的積極作用，又克服智能醫(yī)療算法分發(fā)與算法篩選對(duì)健康公平的不利影響。智能醫(yī)療算法審查融合立法邏輯主要分為兩個(gè)方面。其一，明確劃定算法審查的約束效力與保障效力的邊界，在立法規(guī)制與法律保障的雙重張力間找到最佳的平衡點(diǎn)。智能醫(yī)療算法分發(fā)以“過(guò)濾信息”為方式“降低認(rèn)知負(fù)擔(dān)”，(39)蔣舸：《作為算法的法律》，載《清華法學(xué)》2019年第1期。提高患者對(duì)醫(yī)療服務(wù)的認(rèn)知效率，但也正因?yàn)樗惴ㄟx擇“過(guò)濾泡”(filter bubble)的存在，而使患者尋求醫(yī)療救助的行為受到算法分發(fā)的控制，可能在客觀上降低醫(yī)患需求的匹配度，影響健康公平的實(shí)現(xiàn)。智能醫(yī)療算法審查融合立法以法律平衡為出發(fā)點(diǎn)，既避免智能醫(yī)療算法應(yīng)用對(duì)健康公平產(chǎn)生的不利影響，又“不損及自動(dòng)決策算法創(chuàng)新價(jià)值”；(40)林洹民：《個(gè)人對(duì)抗商業(yè)自動(dòng)決策算法的私權(quán)設(shè)計(jì)》，載《清華法學(xué)》2020年第4期。既“強(qiáng)化算法安全意識(shí)”，也促進(jìn)“更為高效和智能的算法”研發(fā)和創(chuàng)新；(41)楊蓉：《從信息安全、數(shù)據(jù)安全到算法安全——總體國(guó)家安全觀視角下的網(wǎng)絡(luò)法律治理》，載《法學(xué)評(píng)論》2021年第1期。既強(qiáng)調(diào)“算法服務(wù)提供者的責(zé)任”，也鼓勵(lì)算法研發(fā)和運(yùn)營(yíng)企業(yè)“創(chuàng)新合規(guī)措施”；(42)張吉豫：《構(gòu)建多元共治的算法治理體系》，載《法律科學(xué)(西北政法大學(xué)學(xué)報(bào))》2022年第1期。既不因規(guī)制不足而導(dǎo)致患者權(quán)益受損，也不因過(guò)度規(guī)制而抑制智能醫(yī)療創(chuàng)新發(fā)展活力。其二，在合理的限度內(nèi)拓展醫(yī)療人工智能的應(yīng)用范圍，提升智能醫(yī)療算法審查立法與智能社會(huì)運(yùn)行的兼容度，通過(guò)保障、激勵(lì)、支持醫(yī)療人工智能產(chǎn)業(yè)化，解決醫(yī)療資源與社會(huì)需求之間的沖突，服務(wù)國(guó)家發(fā)展戰(zhàn)略，激活醫(yī)療人工智能發(fā)展活力。智能醫(yī)療算法普及是醫(yī)療健康事業(yè)升級(jí)發(fā)展的重要驅(qū)動(dòng)力。通過(guò)智能醫(yī)療算法審查融合立法，克服單向度規(guī)制模式的弊病，以動(dòng)態(tài)分級(jí)授權(quán)立法代替機(jī)械化的算法規(guī)制立法，是最大限度地發(fā)揮智能醫(yī)療算法推廣積極作用的重要前提。

(三)概括式算法審查與嵌入式的智能醫(yī)療算法審查融合立法

算法審查機(jī)制主要有兩種，一是企業(yè)內(nèi)部審查形成的“自我規(guī)制型”問(wèn)責(zé)機(jī)制，(43)參見(jiàn)虞青松：《算法行政：社會(huì)信用體系治理范式及其法治化》，載《法學(xué)論壇》2020年第2期。又可以細(xì)分為保護(hù)自主經(jīng)營(yíng)權(quán)與設(shè)置數(shù)據(jù)控制者義務(wù)兩種主張；二是外部審查評(píng)估機(jī)制，又可以分為部門協(xié)同型和委員會(huì)建制型兩種算法審查機(jī)制。(44)參見(jiàn)張恩典：《人工智能算法決策對(duì)行政法治的挑戰(zhàn)及制度因應(yīng)》，載《行政法學(xué)研究》2020年第4期。其中，自主經(jīng)營(yíng)權(quán)論強(qiáng)調(diào)算法的研發(fā)和應(yīng)用屬于企業(yè)自主經(jīng)營(yíng)范圍，依靠企業(yè)內(nèi)部管理加以規(guī)范，無(wú)需引入外部干預(yù)；數(shù)據(jù)控制者義務(wù)論認(rèn)為控制者應(yīng)當(dāng)充分考慮算法運(yùn)行與數(shù)據(jù)處理可能造成的不利影響，采取措施防范隱患的發(fā)生，并在必要時(shí)審查和更新相應(yīng)的保護(hù)措施，如歐盟《通用數(shù)據(jù)保護(hù)條例》(GDPR)第24條對(duì)控制者的義務(wù)作出規(guī)定，通過(guò)強(qiáng)化數(shù)據(jù)控制者義務(wù)，確保算法的公開(kāi)、透明、公正；部門協(xié)同型算法審查以網(wǎng)信、工信、市場(chǎng)監(jiān)管等部門執(zhí)法為依托，開(kāi)展算法綜合治理，如《關(guān)于加強(qiáng)互聯(lián)網(wǎng)信息服務(wù)算法綜合治理的指導(dǎo)意見(jiàn)》提出要強(qiáng)化統(tǒng)籌協(xié)同治理，會(huì)同多部門協(xié)同推進(jìn)算法安全治理；委員會(huì)建制型算法審查以專門的審查機(jī)構(gòu)建設(shè)為基礎(chǔ)，致力于提升算法審查的專業(yè)性、科學(xué)性。算法的內(nèi)部審查與外部審查均采用概括式審查模式，并不區(qū)分具體的領(lǐng)域或行業(yè)，而是通過(guò)概括式、一般性的審查推動(dòng)算法治理。從內(nèi)容上看，概括式算法審查，以歸納和概括智能技術(shù)在不同行業(yè)應(yīng)用中遵循的共同規(guī)律、基本原則為基礎(chǔ)，確立算法審查的一般規(guī)則、統(tǒng)一模式與共同標(biāo)準(zhǔn)，并依照統(tǒng)一標(biāo)準(zhǔn)，對(duì)智能算法在不同行業(yè)、不同領(lǐng)域的應(yīng)用進(jìn)行審核和評(píng)價(jià)。從形式上看，概括式算法審查對(duì)智能醫(yī)療、智慧交通等領(lǐng)域的法律關(guān)系調(diào)整具有宏觀引領(lǐng)作用，但忽視了醫(yī)療人工智能與自動(dòng)駕駛汽車等行業(yè)的算法決策差異巨大。即便是在同一行業(yè)當(dāng)中，醫(yī)療預(yù)警與診療智能算法亦不相同。概括式算法審查，難以有效回應(yīng)智能醫(yī)療算法應(yīng)用的差異化立法需求，不能立足醫(yī)療預(yù)警、疾病防治等環(huán)節(jié)生物信息安全保護(hù)的特殊性，化解智能醫(yī)療經(jīng)營(yíng)者的數(shù)據(jù)利益與醫(yī)療信息安全公共利益之間的矛盾。

算法被“內(nèi)嵌于不同的場(chǎng)景”，“算法規(guī)制必須采取場(chǎng)景化的規(guī)制路徑”，“超越形式主義的法律規(guī)制”，立足不同領(lǐng)域、不同業(yè)態(tài)的“場(chǎng)景化特征與原理”，“對(duì)算法采取不同的規(guī)制方式”。(45)丁曉東：《論算法的法律規(guī)制》，載《中國(guó)社會(huì)科學(xué)》2020第12期。智能醫(yī)療算法通過(guò)“嵌入式軟件”及“智能技術(shù)控制各種電子設(shè)備”，(46)薄璐：《產(chǎn)教融合背景下計(jì)算機(jī)嵌入式軟件安全技術(shù)發(fā)展思考——評(píng)〈嵌入式軟件安全保證技術(shù)〉》，載《安全與環(huán)境學(xué)報(bào)》2020年第5期。引發(fā)嵌入式的智能醫(yī)療算法系統(tǒng)安全隱患。一方面，獲取醫(yī)療健康信息的主體范圍不斷擴(kuò)展，除醫(yī)療衛(wèi)生機(jī)構(gòu)能夠獲取患者信息之外，智能醫(yī)療運(yùn)營(yíng)商亦可通過(guò)平臺(tái)捕獲醫(yī)療健康及生物識(shí)別信息，并運(yùn)用算法大規(guī)模識(shí)別和分析健康信息；另一方面，隨著智能技術(shù)嵌入疾病診斷、床位分配、醫(yī)療救治過(guò)程，醫(yī)療過(guò)程所面臨的安全隱患不僅來(lái)自醫(yī)療技術(shù)及機(jī)構(gòu)，而且源自智能醫(yī)療技術(shù)及組織系統(tǒng)。嵌入式的智能醫(yī)療算法審查融合立法從兩個(gè)方面回應(yīng)現(xiàn)實(shí)問(wèn)題。其一，通過(guò)控制者義務(wù)設(shè)置與審查評(píng)估機(jī)構(gòu)建設(shè)的有機(jī)結(jié)合，防范智能醫(yī)療所引發(fā)的醫(yī)療健康及生物識(shí)別信息安全隱患，并拓展控制者義務(wù)設(shè)置與審查評(píng)估機(jī)構(gòu)的范圍，形成防范智能醫(yī)療安全隱患的防護(hù)網(wǎng)絡(luò)?？刂普吡x務(wù)主體不僅限于智能醫(yī)療企業(yè)，還包括醫(yī)療衛(wèi)生機(jī)構(gòu)等可能收集、利用醫(yī)療健康數(shù)據(jù)的個(gè)人或組織；外部審查不僅包括網(wǎng)信等行政主管部門和專門的委員會(huì)，還可以引入第三方機(jī)構(gòu)展開(kāi)算法評(píng)估，以落實(shí)《人工智能深度學(xué)習(xí)算法評(píng)估規(guī)范》的技術(shù)標(biāo)準(zhǔn)要求。其二，嵌入式的智能醫(yī)療算法審查融合立法，不僅關(guān)注智能醫(yī)療算法技術(shù)安全隱患，而且針對(duì)智能醫(yī)療組織系統(tǒng)所涉及的復(fù)合性法律關(guān)系，通過(guò)技術(shù)治理與組織治理的有機(jī)結(jié)合，化解智能醫(yī)療算法的嵌入式技術(shù)及組織系統(tǒng)安全隱患?！皹?gòu)建一體融合的法律體系”，推動(dòng)“雙重空間、人機(jī)混合”的新型融合立法，(47)參見(jiàn)馬長(zhǎng)山：《智能互聯(lián)網(wǎng)時(shí)代的法律變革》，載《法學(xué)研究》2018年第4期。是智能醫(yī)療算法審查立法的重要路徑。

三、智能醫(yī)療算法審查的融合型立法建議

建議增設(shè)智能醫(yī)療算法決策風(fēng)險(xiǎn)最小化的命令性規(guī)范、智能醫(yī)療算法自主應(yīng)用的動(dòng)態(tài)分級(jí)授權(quán)制度、預(yù)警及診療算法模塊信息爬取的限制性規(guī)范，推動(dòng)傳統(tǒng)風(fēng)險(xiǎn)與新興風(fēng)險(xiǎn)立法、管理型立法與促進(jìn)型立法、技術(shù)治理與組織治理領(lǐng)域立法融合。

(一)傳統(tǒng)風(fēng)險(xiǎn)與新興風(fēng)險(xiǎn)立法融合：增設(shè)智能醫(yī)療算法決策風(fēng)險(xiǎn)最小化的命令性規(guī)范

智能醫(yī)療算法的應(yīng)用，使醫(yī)療風(fēng)險(xiǎn)的范圍從傳統(tǒng)風(fēng)險(xiǎn)擴(kuò)展到新興風(fēng)險(xiǎn)，呈現(xiàn)傳統(tǒng)風(fēng)險(xiǎn)與新興風(fēng)險(xiǎn)相交織的特征。因此，需要通過(guò)傳統(tǒng)風(fēng)險(xiǎn)與新興風(fēng)險(xiǎn)立法融合，確保算法決策不會(huì)使患者面臨與預(yù)期利益不相稱的風(fēng)險(xiǎn)；通過(guò)設(shè)置智能醫(yī)療算法決策風(fēng)險(xiǎn)最小化的命令性規(guī)范，系統(tǒng)防控智能醫(yī)療算法引發(fā)的醫(yī)源型與藥源型風(fēng)險(xiǎn)。建議從三個(gè)方面出發(fā)，設(shè)置智能醫(yī)療算法決策風(fēng)險(xiǎn)最小化的命令性規(guī)范。第一，將算法風(fēng)險(xiǎn)評(píng)估設(shè)置為智能醫(yī)療的前置性審查程序，醫(yī)用智能設(shè)備、公共場(chǎng)所智能醫(yī)療預(yù)警設(shè)施、家用健康監(jiān)測(cè)設(shè)備在投放市場(chǎng)前，應(yīng)當(dāng)系統(tǒng)評(píng)估其算法可能引發(fā)的醫(yī)源型與藥源型風(fēng)險(xiǎn)，并將風(fēng)險(xiǎn)評(píng)估報(bào)告提交主管部門審核。歐盟《通用數(shù)據(jù)保護(hù)條例》確立的數(shù)據(jù)保護(hù)影響評(píng)估制度，不能代替算法決策風(fēng)險(xiǎn)評(píng)估。數(shù)據(jù)與算法是智能社會(huì)運(yùn)行的雙翼，數(shù)據(jù)是原料內(nèi)核，算法是加工方法，僅對(duì)數(shù)據(jù)存儲(chǔ)和利用進(jìn)行規(guī)制，無(wú)法避免更具隱蔽性的潛在算法決策風(fēng)險(xiǎn)。智能醫(yī)療算法決策風(fēng)險(xiǎn)評(píng)估是確保算法決策風(fēng)險(xiǎn)最小化的基礎(chǔ)性規(guī)定。第二，設(shè)定智能醫(yī)療研發(fā)與運(yùn)營(yíng)企業(yè)的算法決策風(fēng)險(xiǎn)防控義務(wù)，形成智能醫(yī)療算法決策風(fēng)險(xiǎn)追蹤的統(tǒng)一標(biāo)準(zhǔn)與技術(shù)性規(guī)定。由于智能醫(yī)療研發(fā)與運(yùn)營(yíng)企業(yè)均具備獲取醫(yī)療健康信息的可能性，因此，算法決策風(fēng)險(xiǎn)防控義務(wù)不能局限于智能醫(yī)療研發(fā)企業(yè)，而應(yīng)擴(kuò)展至智能醫(yī)療運(yùn)營(yíng)企業(yè)的范圍。2021年年6月，《人工智能醫(yī)療器械注冊(cè)審查指導(dǎo)原則(征求意見(jiàn)稿)》發(fā)布，將全生命周期管理與風(fēng)險(xiǎn)導(dǎo)向作為注冊(cè)審查的基本原則。第三，制定智能醫(yī)療算法決策風(fēng)險(xiǎn)評(píng)級(jí)標(biāo)準(zhǔn)及管理規(guī)定。對(duì)健康影響較小的低風(fēng)險(xiǎn)智能醫(yī)療過(guò)程，由醫(yī)療機(jī)構(gòu)展開(kāi)常態(tài)化風(fēng)險(xiǎn)監(jiān)管；對(duì)健康影響較大的中風(fēng)險(xiǎn)智能醫(yī)療過(guò)程，建議引入第三方機(jī)構(gòu)對(duì)醫(yī)療人工智能算法、程序、控制、驗(yàn)證、更新等過(guò)程進(jìn)行評(píng)估；對(duì)生命健康有重大影響的高風(fēng)險(xiǎn)智能醫(yī)療過(guò)程，應(yīng)由主管部門介入全過(guò)程風(fēng)險(xiǎn)管理，對(duì)智能醫(yī)療算法臨床應(yīng)用進(jìn)行嚴(yán)格監(jiān)管。

建議通過(guò)算法風(fēng)險(xiǎn)防控立法、醫(yī)療立法、民法典的跨部門融合，設(shè)置算法決策風(fēng)險(xiǎn)最小化準(zhǔn)則的配套規(guī)范。第一，建立智能醫(yī)療算法風(fēng)險(xiǎn)防控立法與基本醫(yī)療立法的銜接機(jī)制，設(shè)置智能醫(yī)療算法風(fēng)險(xiǎn)識(shí)別程序，推動(dòng)醫(yī)療行為風(fēng)險(xiǎn)與智能醫(yī)療介入治療風(fēng)險(xiǎn)防控的有效協(xié)同。在現(xiàn)階段，建議在醫(yī)療立法中融入智能醫(yī)療算法審查條款；當(dāng)智能社會(huì)發(fā)展到一定階段，建議通過(guò)算法審查專項(xiàng)立法，促進(jìn)風(fēng)險(xiǎn)最小化準(zhǔn)則在醫(yī)療機(jī)構(gòu)臨床診療、醫(yī)療器械與健康產(chǎn)品管理等規(guī)定中的全面貫徹落實(shí)。第二，對(duì)于“瞬間即作出決定的自動(dòng)化機(jī)器”，(48)劉東亮：《技術(shù)性正當(dāng)程序：人工智能時(shí)代程序法和算法的雙重變奏》，載《比較法研究》2020年第5期。需要在已有立法的患者知情同意規(guī)定基礎(chǔ)上，設(shè)置智能醫(yī)療算法應(yīng)用中的健康風(fēng)險(xiǎn)告知義務(wù)。《中華人民共和國(guó)民法典》第1219條、《基本醫(yī)療衛(wèi)生與健康促進(jìn)法》第32條、《中華人民共和國(guó)醫(yī)師法》第25條，規(guī)定醫(yī)療衛(wèi)生人員在診療活動(dòng)中應(yīng)向患者說(shuō)明其病情及需要采取的措施，告知手術(shù)、特殊檢查及治療過(guò)程的風(fēng)險(xiǎn)與替代醫(yī)療方案，并取得患者的明確同意；《中華人民共和國(guó)民法典》第1008條還對(duì)醫(yī)療技術(shù)研發(fā)風(fēng)險(xiǎn)告知義務(wù)作出規(guī)定，強(qiáng)調(diào)應(yīng)以書面形式取得受試者的同意。智能醫(yī)療算法本身是否應(yīng)當(dāng)向社會(huì)公開(kāi)有待商榷，但智能醫(yī)療算法決策可能造成的健康風(fēng)險(xiǎn)應(yīng)當(dāng)明確進(jìn)行告知。建議增加智能醫(yī)療算法應(yīng)用中的健康風(fēng)險(xiǎn)告知義務(wù)，明確告知智能醫(yī)療算法決策可能帶來(lái)的醫(yī)源型與藥源型風(fēng)險(xiǎn)，充分尊重和保障患者的知情同意權(quán)，提升智能醫(yī)療算法決策的透明度和算法風(fēng)險(xiǎn)防控的整體效能。第三，建立智能醫(yī)療跨科室協(xié)同診斷與跨區(qū)域轉(zhuǎn)診算法風(fēng)險(xiǎn)防控方案。智能醫(yī)療算法決策能夠打破醫(yī)療分科的局限，形成跨科室協(xié)同診斷、跨院就診與區(qū)域雙向轉(zhuǎn)診智能系統(tǒng)，相應(yīng)的風(fēng)險(xiǎn)防控方案亦須“調(diào)整傳統(tǒng)法律制度的規(guī)制理念”，(49)鄭智航：《人工智能算法的倫理危機(jī)與法律規(guī)制》，載《法律科學(xué)(西北政法大學(xué)學(xué)報(bào))》2021年第1期。以傳統(tǒng)風(fēng)險(xiǎn)與新興風(fēng)險(xiǎn)立法融合為路徑，細(xì)化不同科室、不同醫(yī)療機(jī)構(gòu)之間的協(xié)調(diào)配合規(guī)則，并準(zhǔn)確區(qū)分智能醫(yī)療新業(yè)態(tài)推進(jìn)中不同主體的新興權(quán)責(zé)要求，及時(shí)修訂各個(gè)環(huán)節(jié)的操作規(guī)程，系統(tǒng)識(shí)別多維度的醫(yī)源型與藥源型風(fēng)險(xiǎn)，全方位監(jiān)管和防范介入治療過(guò)程中的人機(jī)協(xié)同風(fēng)險(xiǎn)。

(二)管理型立法與促進(jìn)型立法融合：設(shè)置智能醫(yī)療算法自主應(yīng)用的動(dòng)態(tài)分級(jí)授權(quán)制度

建議以管理型立法與促進(jìn)型立法融合為基礎(chǔ)，(50)參見(jiàn)李艷芳：《“促進(jìn)型立法”研究》，載《法學(xué)評(píng)論》2005年第3期。以動(dòng)態(tài)分級(jí)授權(quán)立法代替機(jī)械化的單向度規(guī)制模式，對(duì)智能醫(yī)療算法應(yīng)用進(jìn)行分級(jí)監(jiān)管，并分步拓展智能醫(yī)療算法自主應(yīng)用范圍，擴(kuò)展智能醫(yī)療服務(wù)的覆蓋面。通過(guò)立法的反向規(guī)制與正向引導(dǎo)雙向融合，有效應(yīng)對(duì)智能醫(yī)療算法對(duì)健康公平的雙向影響；通過(guò)授權(quán)性規(guī)范設(shè)置，激勵(lì)、保障、促進(jìn)智能醫(yī)療算法技術(shù)的創(chuàng)新和優(yōu)化，使其不只成為市場(chǎng)良性競(jìng)爭(zhēng)的推動(dòng)力量，而且成為踐行醫(yī)療倫理，捍衛(wèi)人民健康的積極助力。在立法宗旨方面，智能醫(yī)療算法自主應(yīng)用的授權(quán)性規(guī)范設(shè)置，以促進(jìn)健康公平可及，激勵(lì)醫(yī)療人工智能企業(yè)研發(fā)積極性，服務(wù)國(guó)家醫(yī)療人工智能戰(zhàn)略發(fā)展為價(jià)值目標(biāo)。在立法技術(shù)方面，智能醫(yī)療算法自主應(yīng)用的授權(quán)性規(guī)范設(shè)置，通過(guò)融合立法，提升“智能生產(chǎn)率”，(51)賈根良：《第三次工業(yè)革命與工業(yè)智能化》，載《中國(guó)社會(huì)科學(xué)》2016年第6期。形成智能醫(yī)療算法應(yīng)用的“秩序系統(tǒng)、賦權(quán)系統(tǒng)與創(chuàng)新系統(tǒng)”，“鼓勵(lì)社會(huì)單元的創(chuàng)新行為”，并促進(jìn)科技創(chuàng)新發(fā)展“與風(fēng)險(xiǎn)防范同步進(jìn)行”。(52)馬長(zhǎng)山：《司法人工智能的重塑效應(yīng)及其限度》，載《法學(xué)研究》2020年第4期。在立法路徑方面，智能醫(yī)療算法自主應(yīng)用的授權(quán)性規(guī)范設(shè)置，“借助數(shù)字平權(quán)行動(dòng)”，“抑制代碼歧視”，(53)李成：《人工智能歧視的法律治理》，載《中國(guó)法學(xué)》2021年第2期。實(shí)現(xiàn)“國(guó)家與社會(huì)的動(dòng)態(tài)平衡”、剛性治理和彈性治理的協(xié)調(diào)與平衡，(54)參見(jiàn)高奇琦：《智能革命與國(guó)家治理現(xiàn)代化初探》，載《中國(guó)社會(huì)科學(xué)》2020年第7期。推動(dòng)智能醫(yī)療“自我升級(jí)智能體”，使智能醫(yī)療算法審查立法“達(dá)到融通的新境界”。(55)任曉明、李熙：《自我升級(jí)智能體的邏輯與認(rèn)知問(wèn)題》，載《中國(guó)社會(huì)科學(xué)》2019年第12期。

建議設(shè)置智能醫(yī)療算法應(yīng)用的動(dòng)態(tài)分階段授權(quán)制度。在弱人工智能階段，可授權(quán)智能醫(yī)療算法在慢性病管理方面的自主應(yīng)用，(56)參見(jiàn)張旭東等：《中國(guó)醫(yī)療人工智能發(fā)展報(bào)告(2020)》，社會(huì)科學(xué)文獻(xiàn)出版社2020年版，第298頁(yè)。但醫(yī)療人工智能在突發(fā)疾病治療中的應(yīng)用歸為輔助診療措施，應(yīng)當(dāng)由執(zhí)業(yè)醫(yī)師審核、判斷、確認(rèn)智能醫(yī)療算法得出的預(yù)警及治療方案后，方可將其應(yīng)用到具體醫(yī)療過(guò)程。如果執(zhí)業(yè)醫(yī)師的診療意見(jiàn)與智能醫(yī)療算法得出的治療方案相沖突，以醫(yī)師意見(jiàn)為優(yōu)先選擇。在強(qiáng)人工智能階段，由于智能醫(yī)療算法的發(fā)展相對(duì)成熟，人們對(duì)于醫(yī)療人工智能的信任程度也不斷增強(qiáng)，可通過(guò)專項(xiàng)的醫(yī)療人工智能立法拓展授權(quán)的范圍，使取得“專項(xiàng)資質(zhì)認(rèn)定”的醫(yī)療人工智能在特定醫(yī)療領(lǐng)域享有自主權(quán)，同時(shí)確保智能醫(yī)療算法的可解釋性。(57)參見(jiàn)李潤(rùn)生：《論醫(yī)療人工智能的法律規(guī)制——從近期方案到遠(yuǎn)期設(shè)想》，載《行政法學(xué)研究》2020年第4期。對(duì)于常規(guī)化的一般治療事項(xiàng)，適當(dāng)授權(quán)智能醫(yī)療算法在醫(yī)療預(yù)警、診斷、救治等方面的自主應(yīng)用；對(duì)于特殊治療過(guò)程，需要確保執(zhí)業(yè)醫(yī)師的全過(guò)程參與，并實(shí)施嚴(yán)格的審查授權(quán)制度，推動(dòng)國(guó)家統(tǒng)一資質(zhì)審核與醫(yī)療機(jī)構(gòu)定期審查的有機(jī)結(jié)合，制定具備診療資質(zhì)的醫(yī)療人工智能與執(zhí)業(yè)醫(yī)師之間的人機(jī)協(xié)作操作規(guī)程，并明確該操作規(guī)則需要通過(guò)醫(yī)療質(zhì)量與安全管理委員會(huì)的審核，經(jīng)醫(yī)療機(jī)構(gòu)醫(yī)務(wù)部門審查，并向主管部門備案，全面提升智能醫(yī)療算法技術(shù)與醫(yī)療技術(shù)的融合度與匹配度。

建議以有條件的允許而非概括式授權(quán)的方式，根據(jù)醫(yī)療過(guò)程分類分級(jí)設(shè)置智能醫(yī)療算法應(yīng)用的授權(quán)性規(guī)范，并“創(chuàng)設(shè)不同缺省合規(guī)義務(wù)”，(58)唐林垚：《人工智能時(shí)代的算法規(guī)制：責(zé)任分層與義務(wù)合規(guī)》，載《現(xiàn)代法學(xué)》2020年第1期。在立法規(guī)制與法律保障的雙重張力間找到最佳的平衡點(diǎn)。對(duì)于清創(chuàng)、問(wèn)診、用藥醫(yī)囑、無(wú)創(chuàng)物理治療等常規(guī)醫(yī)療過(guò)程，可授權(quán)智能醫(yī)療算法自主應(yīng)用為患者提供科學(xué)系統(tǒng)的診療建議。對(duì)于化學(xué)治療、有創(chuàng)的物理治療過(guò)程，應(yīng)根據(jù)對(duì)健康的影響程度及可能發(fā)生的安全隱患，分級(jí)設(shè)置智能醫(yī)療自主應(yīng)用的授權(quán)性規(guī)范，“引入等級(jí)化或概率化的合比例性要求”，(59)蘇宇：《風(fēng)險(xiǎn)預(yù)防原則的結(jié)構(gòu)化闡釋》，載《法學(xué)研究》2021年第1期。綜合設(shè)置智能醫(yī)療注意義務(wù)規(guī)范。第一，對(duì)健康影響程度較輕的醫(yī)療過(guò)程可納入Ⅰ級(jí)智能醫(yī)療算法審查事項(xiàng)，針對(duì)這一類事項(xiàng)，在設(shè)置智能醫(yī)療算法解釋等法定程序基礎(chǔ)上，建議通過(guò)充分授權(quán)“持續(xù)強(qiáng)化法律人工智能的實(shí)踐能力”，(60)左衛(wèi)民：《熱與冷：中國(guó)法律人工智能的再思考》，載《環(huán)球法律評(píng)論》2019年第2期。建立智能醫(yī)療算法審查制度，定期對(duì)智能醫(yī)療算法程序及自主應(yīng)用狀況進(jìn)行評(píng)估和審核，一旦發(fā)現(xiàn)潛在安全隱患，及時(shí)停止該智能醫(yī)療算法系統(tǒng)的自主應(yīng)用。第二，對(duì)于普通有創(chuàng)治療等Ⅱ級(jí)智能醫(yī)療算法審查事項(xiàng)，建立醫(yī)師復(fù)核制度，將醫(yī)師復(fù)核作為智能醫(yī)療算法自主應(yīng)用的必經(jīng)程序，由執(zhí)業(yè)醫(yī)師對(duì)智能醫(yī)療算法自主應(yīng)用所得出的診斷結(jié)論進(jìn)行審核，并由其負(fù)責(zé)向患者進(jìn)行告知和說(shuō)明。第三，將具有高度危險(xiǎn)性的特殊有創(chuàng)治療等列為Ⅲ級(jí)智能醫(yī)療算法審查事項(xiàng)，通過(guò)逐層審核程序設(shè)置，使執(zhí)業(yè)醫(yī)師能夠控制智能醫(yī)療算法推進(jìn)的每一個(gè)醫(yī)療步驟，醫(yī)療人工智能需要在執(zhí)業(yè)醫(yī)師的授權(quán)下推動(dòng)醫(yī)療進(jìn)程，并須與會(huì)診制度相結(jié)合，確保智能醫(yī)療算法應(yīng)用選擇最有利于生命健康保護(hù)的最佳方案，促進(jìn)“科技法迭代視角下”醫(yī)療人工智能的升級(jí)發(fā)展。(61)參見(jiàn)龍衛(wèi)球：《科技法迭代視角下的人工智能立法》，載《法商研究》2020年第1期。

(三)技術(shù)治理與組織治理領(lǐng)域立法融合：預(yù)警及診療算法模塊信息爬取的限制性規(guī)范

通過(guò)“法律與技術(shù)融合治理模式”，(62)申衛(wèi)星、劉云：《法學(xué)研究新范式：計(jì)算法學(xué)的內(nèi)涵、范疇與方法》，載《法學(xué)研究》2020年第5期。形成保護(hù)醫(yī)療健康與生物識(shí)別信息的跨部門融合路徑，是防止“技術(shù)突破與法律規(guī)制的扦格難通”，(63)張新平：《智能視頻監(jiān)控之法律與技術(shù)的嵌合治理》，載《法制與社會(huì)發(fā)展》2020年第5期。實(shí)現(xiàn)“技術(shù)性與道德性的激勵(lì)相容”的重要支撐。(64)參見(jiàn)徐玖玖：《人工智能的道德性何以實(shí)現(xiàn)？——基于原則導(dǎo)向治理的法治進(jìn)路》，載《現(xiàn)代法學(xué)》2021年第3期。智能醫(yī)療算法審查立法實(shí)質(zhì)上是“人類與人工智能之間的關(guān)系的厘定”過(guò)程，(65)參見(jiàn)李愛(ài)君：《人工智能法律行為論》，載《政法論壇》2019年第3期。是“推進(jìn)不同算法和認(rèn)知類型的融合”進(jìn)程。(66)參見(jiàn)肖峰：《人工智能與認(rèn)識(shí)論的哲學(xué)互釋：從認(rèn)知分型到演進(jìn)邏輯》，載《中國(guó)社會(huì)科學(xué)》2020年第6期。適應(yīng)現(xiàn)代醫(yī)療過(guò)程人機(jī)協(xié)同的現(xiàn)實(shí)需求，技術(shù)治理與組織治理領(lǐng)域立法的融合，成為防范智能醫(yī)療技術(shù)及組織兩個(gè)方面安全隱患的必由之路。智能醫(yī)療算法系統(tǒng)的嵌入式安全隱患，不僅威脅生命安全與公共健康，而且給醫(yī)療健康及生物識(shí)別信息保護(hù)帶來(lái)新的課題。其一，深度挖掘不同醫(yī)療環(huán)節(jié)的嵌入式算法安全隱患，準(zhǔn)確定位智能醫(yī)療預(yù)警、診療算法模塊信息爬取面臨的主要問(wèn)題，明確不同智能醫(yī)療法律關(guān)系主體存儲(chǔ)、處理、利用醫(yī)療健康信息的具體規(guī)則，在推動(dòng)智能醫(yī)療研發(fā)企業(yè)、醫(yī)療機(jī)構(gòu)、第三方檢測(cè)機(jī)構(gòu)、智能醫(yī)療算法運(yùn)營(yíng)商、技術(shù)開(kāi)發(fā)方之間，以及醫(yī)療機(jī)構(gòu)與患者之間的新型醫(yī)療關(guān)系協(xié)調(diào)的過(guò)程中，將技術(shù)治理與組織治理要求融入智能醫(yī)療技術(shù)創(chuàng)新與運(yùn)行系統(tǒng)優(yōu)化全過(guò)程。其二，以智能醫(yī)療行業(yè)的特殊性與內(nèi)在規(guī)律為立足點(diǎn)，設(shè)置智能醫(yī)療預(yù)警及診療算法模塊信息爬取的限制性規(guī)范，“調(diào)整算法在公共領(lǐng)域的應(yīng)用”，(67)孫清白：《人工智能算法的“公共性”應(yīng)用風(fēng)險(xiǎn)及其二元規(guī)制》，載《行政法學(xué)研究》2020年第4期。推動(dòng)醫(yī)療人工智能從醫(yī)療器械向?qū)＜蚁到y(tǒng)轉(zhuǎn)型?！痘ヂ?lián)網(wǎng)診療管理辦法(試行)》第13條規(guī)定，醫(yī)療機(jī)構(gòu)信息安全系統(tǒng)是開(kāi)展互聯(lián)網(wǎng)診療的前提條件，互聯(lián)網(wǎng)診療過(guò)程應(yīng)當(dāng)實(shí)施第三級(jí)信息安全等級(jí)保護(hù)；《互聯(lián)網(wǎng)醫(yī)院管理辦法(試行)》第6條規(guī)定，省級(jí)互聯(lián)網(wǎng)醫(yī)療服務(wù)監(jiān)管平臺(tái)應(yīng)與互聯(lián)網(wǎng)醫(yī)院信息平臺(tái)實(shí)時(shí)對(duì)接。隨著醫(yī)療數(shù)據(jù)信息共享范圍的擴(kuò)展，隱含于醫(yī)療物理空間與智能空間的算法技術(shù)亟待得到有效的監(jiān)管，以防范智能醫(yī)療算法海量爬取生物識(shí)別信息而給醫(yī)療健康信息安全帶來(lái)威脅。

建議區(qū)分預(yù)警與診療過(guò)程，設(shè)置智能醫(yī)療預(yù)警及診療算法模塊信息爬取的限制性規(guī)范。智能醫(yī)療技術(shù)在醫(yī)療預(yù)警方面的應(yīng)用主要是常規(guī)健康監(jiān)測(cè)與自動(dòng)對(duì)接掛號(hào)系統(tǒng)，智能醫(yī)療預(yù)警過(guò)程中的信息爬取主要涉及健康指標(biāo)分析，但不涉及血液等樣本分析，較少涉及患者的個(gè)人敏感信息。因此，對(duì)于智能醫(yī)療預(yù)警過(guò)程中的爬蟲算法應(yīng)用，通過(guò)限制其用途，確保智能醫(yī)療預(yù)警爬蟲算法應(yīng)用以健康保障為目的，非必要不得收集醫(yī)療健康信息。智能診療算法能夠精準(zhǔn)爬取患者的個(gè)人信息，包括生物樣本數(shù)據(jù)、醫(yī)保等個(gè)人敏感信息在內(nèi)，即便按照《個(gè)人信息保護(hù)法》第51條采取了加密、去標(biāo)識(shí)化等處理措施，爬蟲算法仍能夠通過(guò)全網(wǎng)數(shù)據(jù)信息鏈條分析，推算某一患者或某一地區(qū)的生物識(shí)別數(shù)據(jù)。智能診療過(guò)程中的醫(yī)療生物信息識(shí)別，不僅可能對(duì)隱私等私法權(quán)利、就業(yè)等社會(huì)權(quán)利造成不利影響，而且可能對(duì)國(guó)家生物信息安全造成威脅。針對(duì)上述狀況，智能診療算法模塊信息爬取的限制性規(guī)范需要從三個(gè)方面加以規(guī)定。一是限制采集，建議區(qū)分公共健康緊急狀況和常態(tài)化情形，制定相應(yīng)的智能診療信息采集規(guī)則，明確列舉智能診療過(guò)程不得采集的信息內(nèi)容，如民族、宗教信仰等信息。(68)參見(jiàn)郭延軍：《采集公民民族信息的憲法界限》，載《中外法學(xué)》2016年第6期。如處于公共健康緊急狀況，智能診療信息采集的范圍可以擴(kuò)展到不明原因疾病的流調(diào)數(shù)據(jù)；在常態(tài)化情形下，智能診療信息采集則應(yīng)限制在健康指標(biāo)內(nèi)容，在發(fā)現(xiàn)疑似、無(wú)癥狀或確診病例時(shí)方可收集個(gè)人活動(dòng)軌跡等信息，常規(guī)的智能核酸檢測(cè)亦無(wú)須收集流調(diào)信息。二是限制出境，建議區(qū)分人類遺傳資源與人口健康信息，明確其輸出境的具體規(guī)則。中國(guó)人類遺傳資源的輸出境，需要按照《人類遺傳資源管理?xiàng)l例》第13條規(guī)定，由科學(xué)技術(shù)部審批，并須滿足輸出境的目的限制、必要性條件等要求?！度丝诮】敌畔⒐芾磙k法(試行)》第9至10條設(shè)置了人口健康信息的本地存儲(chǔ)義務(wù)，一律禁止境外服務(wù)器存儲(chǔ)境內(nèi)的人口健康信息，但這一禁止性規(guī)定難以滿足我國(guó)的跨境醫(yī)療現(xiàn)實(shí)需求，尤其是對(duì)于粵港澳大灣區(qū)跨境醫(yī)療發(fā)展而言，醫(yī)療衛(wèi)生信息資源共享成為便利灣區(qū)居民跨境醫(yī)療的必要條件。因此，建議將絕對(duì)的禁止性規(guī)定改為限制性規(guī)定，將粵港澳大灣區(qū)衛(wèi)生主管部門、醫(yī)療機(jī)構(gòu)、第三方檢測(cè)機(jī)構(gòu)等納入人口健康信息平臺(tái)，為居民提供更加優(yōu)質(zhì)高效的醫(yī)療衛(wèi)生服務(wù)。三是限制用途，醫(yī)療健康與生物識(shí)別信息利用只能以健康保障為目的。隨著醫(yī)療健康信息互聯(lián)互通深度推進(jìn)，居民健康檔案的醫(yī)療健康與生物識(shí)別信息規(guī)模會(huì)不斷增大，信息處理和數(shù)據(jù)利用的監(jiān)管面臨更大壓力，用途監(jiān)管成為防范醫(yī)療健康信息風(fēng)險(xiǎn)的必由之路。

結(jié)語(yǔ)

智能醫(yī)療是醫(yī)療衛(wèi)生事業(yè)發(fā)展的必然趨勢(shì)，智能醫(yī)療技術(shù)風(fēng)險(xiǎn)已日益受到社會(huì)各界關(guān)注，但智能醫(yī)療算法決策、算法分發(fā)等過(guò)程中的潛在問(wèn)題，仍有待得到深度剖析與有效應(yīng)對(duì)。智能醫(yī)療算法決策可能引發(fā)疊加型的醫(yī)源型與藥源型安全風(fēng)險(xiǎn)，智能醫(yī)療算法分發(fā)及自主應(yīng)用對(duì)健康公平產(chǎn)生雙向影響效應(yīng)，智能醫(yī)療爬蟲算法使醫(yī)療健康及生物識(shí)別信息保護(hù)面臨挑戰(zhàn)。智能醫(yī)療算法審查立法亟待得到有效地推進(jìn)，針對(duì)重點(diǎn)領(lǐng)域、重點(diǎn)問(wèn)題的立法尤其需要選擇正確的立法路徑。智能醫(yī)療算法審查“領(lǐng)域法”的融合路徑，以傳統(tǒng)風(fēng)險(xiǎn)與新興風(fēng)險(xiǎn)立法、管理型立法與促進(jìn)型立法、技術(shù)治理與組織治理領(lǐng)域立法的融合為核心，從整體主義視角協(xié)調(diào)不同領(lǐng)域的風(fēng)險(xiǎn)控制工具，對(duì)智能醫(yī)療算法臨床應(yīng)用的嵌入式風(fēng)險(xiǎn)進(jìn)行防控。智能醫(yī)療算法審查的融合型立法，以動(dòng)態(tài)分級(jí)授權(quán)代替機(jī)械化的算法規(guī)制立法，在立法規(guī)制與法律保障的雙重張力間找到最佳的平衡點(diǎn)；立足智能醫(yī)療雙重空間的現(xiàn)實(shí)立法需求，針對(duì)智能醫(yī)療算法應(yīng)用的嵌入式技術(shù)及組織系統(tǒng)安全隱患，推進(jìn)一體融合的場(chǎng)景化算法審查立法，推動(dòng)控制者義務(wù)設(shè)置與審查評(píng)估機(jī)構(gòu)建設(shè)的有機(jī)結(jié)合，防范智能醫(yī)療算法應(yīng)用所引發(fā)的醫(yī)源型與藥源型安全隱患。

建議增設(shè)智能醫(yī)療算法決策風(fēng)險(xiǎn)最小化的命令性規(guī)范，將風(fēng)險(xiǎn)評(píng)估作為智能醫(yī)療算法臨床應(yīng)用的前置性審查程序，設(shè)定智能醫(yī)療研發(fā)企業(yè)的算法決策風(fēng)險(xiǎn)防控義務(wù)，形成智能醫(yī)療算法決策風(fēng)險(xiǎn)追蹤的統(tǒng)一標(biāo)準(zhǔn)與技術(shù)性規(guī)定，并制定智能醫(yī)療算法決策風(fēng)險(xiǎn)評(píng)級(jí)標(biāo)準(zhǔn)及管理規(guī)定。通過(guò)算法風(fēng)險(xiǎn)防控立法、醫(yī)療立法、民法典的跨部門融合，設(shè)置算法決策風(fēng)險(xiǎn)最小化準(zhǔn)則的配套規(guī)范，建立智能醫(yī)療算法風(fēng)險(xiǎn)防控立法與基本醫(yī)療立法的銜接機(jī)制，設(shè)置醫(yī)療系統(tǒng)風(fēng)險(xiǎn)與介入治療行為風(fēng)險(xiǎn)識(shí)別程序，全方位監(jiān)管和防范介入治療過(guò)程中的人機(jī)協(xié)同風(fēng)險(xiǎn)，并以患者知情同意規(guī)定為基礎(chǔ)，設(shè)置智能醫(yī)療算法應(yīng)用中的健康風(fēng)險(xiǎn)告知義務(wù)。建議設(shè)置智能醫(yī)療算法自主應(yīng)用的動(dòng)態(tài)分級(jí)授權(quán)制度，以有條件的允許而非概括式授權(quán)的方式，根據(jù)醫(yī)療過(guò)程分類分級(jí)設(shè)置智能醫(yī)療算法自主應(yīng)用的授權(quán)性規(guī)范；區(qū)分預(yù)警與診療過(guò)程，設(shè)置智能醫(yī)療預(yù)警及診療算法模塊信息爬取的限制性規(guī)范，區(qū)分公共健康緊急狀況和常態(tài)化情形，對(duì)智能診療信息采集進(jìn)行規(guī)制；區(qū)分人類遺傳資源與人口健康信息，明確輸出境的具體規(guī)則，為居民提供更加優(yōu)質(zhì)高效的醫(yī)療衛(wèi)生服務(wù)，為人民生命健康提供有力的法治保障。