智慧醫(yī)學(xué)的意義解讀、風(fēng)險(xiǎn)研判及其防范路徑*

黃成華

(廣東醫(yī)科大學(xué)馬克思主義學(xué)院,廣東 東莞 523808)

“人工智能是以基于大數(shù)據(jù)的復(fù)雜算法為核心,以對(duì)人類(lèi)智能的模擬、延伸和超越為目標(biāo)的高新科學(xué)技術(shù)?！盵1]表征為“腦機(jī)聯(lián)結(jié)”形態(tài)的人工智能,作為人類(lèi)心智的“擬像物”和“倍增器”,實(shí)現(xiàn)了人類(lèi)心智運(yùn)行過(guò)程的延展化、外在化和對(duì)象化。人工智能不是懸置在外的技術(shù),而是深度嵌入的技術(shù),其作為人類(lèi)心智能力的“升級(jí)版”,深化了機(jī)器替代人的歷史進(jìn)程。基于算力平臺(tái)的人工智能促進(jìn)了機(jī)器的智能化,與人腦智能在功能上盡管同屬于信息加工,但其功效顯然已不可同日而語(yǔ)。人工智能發(fā)展出的信息加工模式和虛擬化的認(rèn)知特點(diǎn),相對(duì)于人類(lèi)心智而言,是一次從實(shí)在到虛擬、從分散到集成的質(zhì)的飛躍。人工智能在技術(shù)內(nèi)容上,混雜了智能算法、自然語(yǔ)言處理技術(shù)、虛擬現(xiàn)實(shí)仿真技術(shù)等;在身體體驗(yàn)上,融合了視覺(jué)、聽(tīng)覺(jué)、觸覺(jué)和嗅覺(jué)等多重身體體驗(yàn),再造出全新的沉浸式體驗(yàn)方式。人工智能與新興人體增強(qiáng)術(shù)雖然是不同維度的“人機(jī)融合”,但都是立足于克服人的自然身體的局限性,都是對(duì)人機(jī)協(xié)同進(jìn)化、相互貫通的表征和確證。

伴隨著人工智能觸角的廣泛延伸,人工智能也開(kāi)啟了對(duì)醫(yī)學(xué)深度嵌入的進(jìn)程,在提高臨床診療時(shí)效性的同時(shí),也在不斷重塑創(chuàng)新醫(yī)療的生態(tài)環(huán)境。換句話(huà)說(shuō),醫(yī)學(xué)成為人工智能新的生長(zhǎng)點(diǎn),而人工智能也成為推動(dòng)信息醫(yī)學(xué)發(fā)展成智慧醫(yī)學(xué)、催生醫(yī)學(xué)新興業(yè)態(tài)的“催化劑”和“觸發(fā)器”。盡管說(shuō)人工智能向醫(yī)療領(lǐng)域的擴(kuò)張過(guò)程依然是技術(shù)嵌入和賦能強(qiáng)效的過(guò)程,但是,人工智能與傳統(tǒng)技術(shù)相比不在一個(gè)等級(jí)層次上,而是科技發(fā)展從淺度向深度發(fā)展時(shí)出現(xiàn)的顛覆性技術(shù)形態(tài),致力于在醫(yī)療領(lǐng)域建構(gòu)出數(shù)據(jù)驅(qū)動(dòng)的虛擬世界,儼然不是簡(jiǎn)單的技術(shù)升維。人工智能正在參與打造全新的醫(yī)學(xué)服務(wù)網(wǎng)絡(luò),強(qiáng)化醫(yī)學(xué)的服務(wù)功能,扮演著人類(lèi)智慧“代言人”的角色。在人工智能基礎(chǔ)上生發(fā)出的智慧醫(yī)學(xué),運(yùn)用數(shù)字化平臺(tái),使用復(fù)雜的精心編寫(xiě)出的算法模型,對(duì)從患者身上采集到的可用機(jī)器度量的醫(yī)療健康信息進(jìn)行數(shù)據(jù)加工,并最終通過(guò)算法推薦和智能分發(fā)臨床決策,以提供精準(zhǔn)醫(yī)學(xué)服務(wù)。其中自動(dòng)生成的臨床診療方案,悄然間成為大數(shù)據(jù)驅(qū)動(dòng)下的智能化決策的結(jié)果。

1 智慧醫(yī)學(xué)的意義解讀

智慧醫(yī)學(xué)的發(fā)展源于人類(lèi)對(duì)疾病的發(fā)生、發(fā)展、轉(zhuǎn)歸等規(guī)律的認(rèn)識(shí)欲求。智慧醫(yī)學(xué)具有典型的空間連接功能和數(shù)據(jù)整合功能等,從真實(shí)世界和虛擬仿真世界兩個(gè)維度來(lái)優(yōu)化醫(yī)療實(shí)踐。人工智能不但開(kāi)辟出虛擬的隱形空間,充分整合和重組現(xiàn)實(shí)空間和虛擬空間,而且要求醫(yī)生具有賽博格視域,為“微空間”的涌現(xiàn)這一嶄新格局提供了技術(shù)上的便利。人工智能的系統(tǒng)性特征使得貌似互不相干的數(shù)據(jù)也具有了高度黏合性,顯現(xiàn)出潛隱于數(shù)據(jù)之下的豐富意義和價(jià)值內(nèi)涵。

1.1 空間連接下的空間嬗變

“隨著智能技術(shù)對(duì)碎片化的虛實(shí)空間進(jìn)行重組,實(shí)體空間與虛擬空間重新聚合生成虛實(shí)并存的社區(qū),且虛實(shí)場(chǎng)域因彼此密切互動(dòng)與相互交織而形成了新的社會(huì)關(guān)系。”[2]在智慧醫(yī)學(xué)平臺(tái)的運(yùn)作中,醫(yī)生利用數(shù)字化平臺(tái)拓展數(shù)字化空間,開(kāi)辟出有別于現(xiàn)實(shí)物能空間的虛擬信息空間,在打破地理空間壁壘、突破空間阻隔、增強(qiáng)空間彈性的同時(shí),也實(shí)現(xiàn)了空間增維。如果說(shuō)現(xiàn)實(shí)物能空間是原生空間,那么虛擬信息空間則是次生空間。智慧醫(yī)學(xué)把實(shí)體空間和虛擬空間融合在一起,實(shí)現(xiàn)了無(wú)縫對(duì)接,除了有線(xiàn)下的實(shí)體醫(yī)院,也有線(xiàn)上的互聯(lián)網(wǎng)醫(yī)院、數(shù)字虛擬醫(yī)院,如一張大網(wǎng)一樣將所有人納入其中。

建構(gòu)“微空間”,是人類(lèi)在智能時(shí)代面臨空間侵襲而采取的逆勢(shì)之舉?！拔⒖臻g”作為嶄新的空間形態(tài),是對(duì)空間上的功能細(xì)分,將“物以類(lèi)聚人以群分”發(fā)揮到極致。人工智能對(duì)醫(yī)學(xué)的嵌入,不但造就出脫域化的醫(yī)患交往模式,而且促進(jìn)了患者之間的聯(lián)動(dòng)。智慧醫(yī)學(xué)幫助患者建立集學(xué)習(xí)、交流和培訓(xùn)等于一體的多功能社區(qū)。這一基于某種疾病的虛擬“外掛”空間,為病友及其家屬的自然聚合提供了技術(shù)上的便利,將處于潛隱和蟄伏狀態(tài)的患者關(guān)系維度利用起來(lái)。就此而言,“微空間”是在智能變革的技術(shù)滋養(yǎng)下誕生的,表征出個(gè)體具有建構(gòu)自發(fā)秩序的內(nèi)生能力,體現(xiàn)出人類(lèi)對(duì)人工智能的適配能力?；谙盗蠥pp、微信公眾號(hào)、醫(yī)學(xué)健康信息數(shù)據(jù)庫(kù)等的“微空間”,具有無(wú)限的空間伸縮能力。由此可見(jiàn),智慧醫(yī)學(xué)中的虛實(shí)空間的連接和“微空間”的拓展,在不斷重塑醫(yī)學(xué)服務(wù)形態(tài)、促進(jìn)醫(yī)學(xué)服務(wù)主體的多樣化的同時(shí),也在重塑醫(yī)患互動(dòng)和患患互動(dòng),推進(jìn)醫(yī)患命運(yùn)共同體建設(shè)。

1.2 數(shù)據(jù)挖掘下的價(jià)值釋放

數(shù)據(jù)驅(qū)動(dòng)下的醫(yī)療革新,從經(jīng)驗(yàn)醫(yī)學(xué)、技術(shù)醫(yī)學(xué)發(fā)展到智慧醫(yī)學(xué)。相應(yīng)地,治理類(lèi)型也發(fā)生著從經(jīng)驗(yàn)治理、技術(shù)治理到數(shù)據(jù)治理的變更。數(shù)據(jù)是數(shù)字環(huán)境對(duì)實(shí)體世界的衍射和“投喂”。在單個(gè)個(gè)體上萌生的數(shù)據(jù)貌似沒(méi)有什么價(jià)值,但是,無(wú)數(shù)個(gè)體的天量數(shù)據(jù)就會(huì)成為有待開(kāi)發(fā)的數(shù)據(jù)“富礦”,其價(jià)值非同一般,不容小覷。一旦時(shí)機(jī)成熟,這些數(shù)據(jù)的潛在價(jià)值就會(huì)被釋放出來(lái)。這就是基于大數(shù)據(jù)存在樣態(tài)的信息的價(jià)值所在。人工智能作為一種數(shù)據(jù)裝置,利用數(shù)字留痕、跟蹤和回溯技術(shù),能夠把不同個(gè)體在不同診療時(shí)空領(lǐng)域中產(chǎn)生的、處于離散和割據(jù)狀態(tài)的數(shù)據(jù)信息捕獲、整合和串聯(lián)起來(lái),形成集聚樣態(tài)的數(shù)據(jù)流;通過(guò)數(shù)據(jù)分層、數(shù)據(jù)分類(lèi)等信息編碼手段,建立起便于統(tǒng)計(jì)和分析的多種多樣的數(shù)據(jù)庫(kù)和樣本庫(kù),從中挖掘和整理蘊(yùn)藏在數(shù)據(jù)中的有用信息;不斷促進(jìn)數(shù)據(jù)容量的擴(kuò)容增量,保持?jǐn)?shù)據(jù)的及時(shí)更新,繼而促進(jìn)醫(yī)學(xué)的數(shù)字化轉(zhuǎn)型。這就使得數(shù)字技術(shù)具有“新基建”的韻味。數(shù)字化技術(shù)的滲透,改變了信息單個(gè)存在的孤立樣態(tài),使得信息越來(lái)越以大數(shù)據(jù)的形態(tài)存在。而數(shù)字化技術(shù)的使用過(guò)程就是數(shù)據(jù)領(lǐng)地不斷擴(kuò)大、攻城略地的過(guò)程。

醫(yī)學(xué)領(lǐng)域的數(shù)據(jù)流也是重要的數(shù)據(jù)流之一。智慧醫(yī)學(xué)就是把醫(yī)學(xué)信息通過(guò)數(shù)字編碼整合成醫(yī)學(xué)大數(shù)據(jù),并運(yùn)用人工智能來(lái)處理海量的信息數(shù)據(jù),提取出蘊(yùn)藏在醫(yī)學(xué)大數(shù)據(jù)中的有用信息。智慧醫(yī)學(xué)的發(fā)展確認(rèn)了醫(yī)學(xué)信息的資源秉性。工程師要先收集一些數(shù)據(jù)作為對(duì)人工智能進(jìn)行訓(xùn)練和預(yù)實(shí)驗(yàn)的數(shù)據(jù)集,從中總結(jié)出這類(lèi)疾病的共同特點(diǎn),并依據(jù)這些共同特點(diǎn)確立起相應(yīng)的篩選標(biāo)準(zhǔn),進(jìn)行算法建模。爾后還要開(kāi)展回顧性疊加前瞻性的臨床研究,以進(jìn)一步驗(yàn)證該算法模型的有效性和準(zhǔn)確度。通常來(lái)講,只有數(shù)據(jù)的量足夠大,才能提高算法和智能軟件的安全性能。就此而言,人工智能的強(qiáng)大依賴(lài)于強(qiáng)大的數(shù)據(jù)鏈產(chǎn)業(yè)生態(tài)體系?；诖?國(guó)家正在不遺余力地搜集種類(lèi)豐富的海量健康醫(yī)療大數(shù)據(jù),并實(shí)現(xiàn)數(shù)據(jù)在數(shù)據(jù)庫(kù)的長(zhǎng)期駐留。智慧醫(yī)學(xué)的云服務(wù)平臺(tái)不但解決了數(shù)據(jù)存取低成本的問(wèn)題,而且實(shí)現(xiàn)了數(shù)據(jù)的可追溯化,在時(shí)間追溯上能夠精準(zhǔn)到電腦時(shí)鐘的程度;不但通過(guò)數(shù)據(jù)提煉術(shù)把被遮蔽的數(shù)據(jù)間的關(guān)聯(lián)意義凸顯出來(lái),而且利用數(shù)據(jù)的聚合效應(yīng)來(lái)預(yù)測(cè)未來(lái)。樣本數(shù)據(jù)盡管具有統(tǒng)計(jì)學(xué)功能,但在預(yù)測(cè)功能上則顯得弱化。而基于大數(shù)據(jù)的云計(jì)算具有預(yù)測(cè)功能,則日益凸顯出其未來(lái)向度。顯然,基于大數(shù)據(jù)的人工智能算法,其結(jié)果在信度上遠(yuǎn)甚于樣本抽樣。這種全樣本的量化分析和研究,更加精細(xì)入微,能夠?yàn)獒t(yī)學(xué)服務(wù)從大眾到分眾再到分體的轉(zhuǎn)變提供技術(shù)上的支撐。這是從有別于基因醫(yī)學(xué)的層面上來(lái)詮釋精準(zhǔn)醫(yī)學(xué)。

2 智慧醫(yī)學(xué)成為典型的風(fēng)險(xiǎn)綜合體

智慧醫(yī)學(xué)的興起固然有利于強(qiáng)化人類(lèi)信息處理的功能,繼而進(jìn)行醫(yī)療資源的高效分配,但是也在醫(yī)療領(lǐng)域積蓄新的風(fēng)險(xiǎn),尤其對(duì)完善醫(yī)學(xué)倫理治理體系產(chǎn)生巨大影響。

2.1 對(duì)醫(yī)生去主體化的傾向

傳統(tǒng)的醫(yī)療領(lǐng)域?qū)︶t(yī)生有較強(qiáng)的依賴(lài)。醫(yī)生直接參與到臨床診療實(shí)踐中,不但診療環(huán)節(jié)眾多、操作流程繁瑣,而且須臾離不開(kāi)真實(shí)世界中的醫(yī)生。在互聯(lián)網(wǎng)醫(yī)院的線(xiàn)上問(wèn)診平臺(tái)上,已經(jīng)開(kāi)始大量利用問(wèn)診機(jī)器人開(kāi)展問(wèn)診服務(wù)。這構(gòu)成了智能機(jī)器人診療體系的重要一環(huán)。“傳統(tǒng)醫(yī)患關(guān)系因此正被迅速異化為患者-機(jī)器-醫(yī)生多元關(guān)系。”[3]在智慧醫(yī)學(xué)的應(yīng)用場(chǎng)景中,智慧醫(yī)學(xué)對(duì)傳統(tǒng)診療方式的效仿、增強(qiáng)、替代甚至超越,引發(fā)對(duì)醫(yī)生主體性作用的削弱。換句話(huà)說(shuō),人工智能作為一種新興技術(shù),很有可能會(huì)改變過(guò)往人與技術(shù)協(xié)作共生的關(guān)系。隨著醫(yī)學(xué)智能化程度的提高,醫(yī)生甚至?xí)会t(yī)療機(jī)器人所取代。醫(yī)生主體性地位的顛覆,意味著在醫(yī)療領(lǐng)域出現(xiàn)了可怕的“機(jī)器排擠人”的現(xiàn)象。在醫(yī)療領(lǐng)域,隨著從經(jīng)驗(yàn)醫(yī)學(xué)到技術(shù)醫(yī)學(xué)的轉(zhuǎn)變,醫(yī)生的專(zhuān)業(yè)化程度越來(lái)越高。在醫(yī)患之間有著非常明顯的信息不對(duì)稱(chēng)現(xiàn)象,這一橫亙?cè)卺t(yī)患之間的溝壑很難被跨越。而所謂的患者“久病成醫(yī)”,在高新醫(yī)學(xué)時(shí)代可能性微乎其微。這使得醫(yī)生相對(duì)于患者的知識(shí)優(yōu)勢(shì)和技術(shù)優(yōu)勢(shì)很難撼動(dòng)。但是,智能體本身所固有的運(yùn)行規(guī)律可能動(dòng)搖醫(yī)生的主體性地位,引發(fā)更深層面的醫(yī)療困境。

傳統(tǒng)對(duì)醫(yī)學(xué)模式的理解是基于患者維度的,無(wú)論是生物醫(yī)學(xué)模式的生物屬性,還是多元醫(yī)學(xué)模式的多元屬性,而醫(yī)生的角色則是恒定的;智慧醫(yī)學(xué)對(duì)醫(yī)學(xué)模式的理解是基于醫(yī)生維度的,因?yàn)橹腔坩t(yī)學(xué)的興起會(huì)重塑出“機(jī)器主體性”,動(dòng)搖醫(yī)生的主體性存在,加速醫(yī)生的離場(chǎng)。前者受經(jīng)驗(yàn)、知識(shí)和技術(shù)的驅(qū)動(dòng),與真實(shí)世界相關(guān)聯(lián),而后者則受數(shù)據(jù)驅(qū)動(dòng),與虛擬現(xiàn)實(shí)相關(guān)聯(lián),大部分操作流程都是被遮蔽在視覺(jué)范圍之外的?！叭斯ぶ悄艿慕槿?讓傳統(tǒng)的醫(yī)患模式逐漸演變成‘醫(yī)-智能醫(yī)生-患’新型的醫(yī)患關(guān)系模式?！盵4]非但如此,工程師的介入更加強(qiáng)化了診療領(lǐng)域的撲朔迷離。

表1 智慧醫(yī)學(xué)的醫(yī)患模式

智慧醫(yī)學(xué)中服務(wù)主體的變化,不但引發(fā)了醫(yī)療特征從現(xiàn)實(shí)到虛擬的變化,而且促使了虛擬化從客體向主體的進(jìn)發(fā)和延伸,甚至把傳統(tǒng)的醫(yī)患共同在場(chǎng)轉(zhuǎn)變成醫(yī)患的共同離場(chǎng),變傳統(tǒng)醫(yī)患的直接信息交互為間接信息交互。在智慧醫(yī)學(xué)的應(yīng)用場(chǎng)景中,由于智能體及其背后的工程師的介入,發(fā)生了醫(yī)生的去主體化傾向?！叭斯ぶ悄艿某霈F(xiàn)使得人類(lèi)的主體性受到挑戰(zhàn),強(qiáng)人工智能極有可能成長(zhǎng)為另一種主體或曰另一個(gè)自然的立法者。這就意味著以往單向的存在論有可能變成雙向的存在論,甚至是多向的存在論?！盵5]主體的多元化和醫(yī)生的離場(chǎng)化發(fā)展趨勢(shì),也帶來(lái)了界定責(zé)任主體的困難。處于技術(shù)不確定性的人工智能出現(xiàn)了差錯(cuò),應(yīng)該由誰(shuí)來(lái)糾正和校對(duì)?因誤用人工智能引發(fā)的事故,由誰(shuí)來(lái)承擔(dān)?這種醫(yī)療差錯(cuò)是由智能算法測(cè)試中的數(shù)據(jù)謬誤引發(fā)的,還是由智能算法應(yīng)用中的數(shù)據(jù)采集謬誤引發(fā)的,抑或是由算法本身的不科學(xué)引發(fā)的?在界定引發(fā)醫(yī)療差錯(cuò)的責(zé)任主體時(shí),極有可能存在著相互推諉和扯皮的現(xiàn)象。

2.2 對(duì)算法效用的質(zhì)疑

人工智能使用算法這一典型的云端工具,不但標(biāo)準(zhǔn)嚴(yán)苛、操作精心和程序完整,而且形成了紛繁復(fù)雜的學(xué)習(xí)理論?！霸朴?jì)算則以典型信息及其處理共享的方式,極大地強(qiáng)化了單純大數(shù)據(jù)存在的割據(jù)狀態(tài),為信息文明基礎(chǔ)的徹底整體化奠定了基礎(chǔ)?！盵6]智能算法雖然實(shí)現(xiàn)了存儲(chǔ)于不同系統(tǒng)中的數(shù)據(jù)的有機(jī)關(guān)聯(lián),但人們依然對(duì)智慧醫(yī)學(xué)懷有擔(dān)憂(yōu)之情,聚焦點(diǎn)主要集中在其安全性和有效性之上。算法就是通過(guò)資料搜集、參數(shù)提煉、代碼書(shū)寫(xiě)和程序預(yù)設(shè),運(yùn)用大數(shù)據(jù)建構(gòu)出一定的算法模型,并以此模型為基礎(chǔ)進(jìn)行不斷的參數(shù)反演、數(shù)據(jù)加工、信息篩選和數(shù)據(jù)同化等,以形成自動(dòng)化、集成化的數(shù)據(jù)處理模式,提高醫(yī)療決策推薦的自動(dòng)化程度。算法既可以造福于人,也可以加害于人。對(duì)算法的風(fēng)險(xiǎn)評(píng)估已上升為行業(yè)的痛點(diǎn)和難點(diǎn)。

2.2.1 數(shù)據(jù)失真引發(fā)的算法失準(zhǔn)

如何辨識(shí)提供給算法進(jìn)行有效性訓(xùn)練和驗(yàn)證的醫(yī)療健康信息的真?zhèn)魏蛢?yōu)劣?醫(yī)療健康信息的輸入是由分散在眾多醫(yī)療機(jī)構(gòu)的醫(yī)務(wù)人員完成的。他們很難說(shuō)是按照完全一致的標(biāo)準(zhǔn)進(jìn)行數(shù)據(jù)信息的采集。在藥物的多中心臨床研究中,申辦方往往會(huì)指定一家相對(duì)科研實(shí)力強(qiáng)的醫(yī)療機(jī)構(gòu)擔(dān)任組長(zhǎng)單位,進(jìn)行多中心的協(xié)調(diào)工作。組長(zhǎng)單位的主要研究者(principal investigator,PI)甚至?xí)?duì)其他研究中心的研究推動(dòng)進(jìn)行指導(dǎo)。申辦者、臨床研究現(xiàn)場(chǎng)管理公司(site management organization,SMO)、合同研究組織(contract research organization,CRO)還會(huì)向各研究中心派遣臨床研究監(jiān)察員(clinical research associate,CRA)、臨床研究協(xié)調(diào)員(clinical research coordinator,CRC),以保證各中心遵循同一研究方案開(kāi)展臨床研究。而在醫(yī)療健康信息的采集中,往往缺乏對(duì)低質(zhì)劣質(zhì)甚至虛假的信息進(jìn)行核查把關(guān)這一關(guān)鍵性環(huán)節(jié),導(dǎo)致同一種疾病的相關(guān)信息也很難在不同醫(yī)療機(jī)構(gòu)間進(jìn)行自由切換。醫(yī)療健康信息的正確采集是發(fā)展智慧醫(yī)學(xué)的原生態(tài)。數(shù)據(jù)獲取上的偏倚性會(huì)直接影響到后續(xù)的算法測(cè)試、臨床決策推薦等。如果說(shuō)用于算法驗(yàn)證的數(shù)據(jù)采集出現(xiàn)謬誤,是算法操作中的一次失真,那么,用于算法應(yīng)用的數(shù)據(jù)采集出現(xiàn)謬誤,則是二次失真。這就要求算法工程師和醫(yī)療系統(tǒng)的工作人員攜起手來(lái),打破數(shù)據(jù)屏障,促進(jìn)數(shù)據(jù)自由有序的流動(dòng),以此提高數(shù)據(jù)交換在不同系統(tǒng)中的切換能力。

2.2.2 數(shù)據(jù)單一性難以契合多樣性的臨床場(chǎng)景

數(shù)據(jù)的單一性與患者身體狀況的多樣化之間的矛盾凸顯。用單一性來(lái)裁剪多樣性,本身就意味著采集到的數(shù)據(jù)不夠精準(zhǔn),不具有應(yīng)用場(chǎng)景的廣泛性。如此一來(lái),基于此方式采集的大樣本、大數(shù)據(jù)等發(fā)展起來(lái)的人工智能如何取信于人、以理服人?同樣,將智能算法的推演結(jié)果推薦和順延到醫(yī)療場(chǎng)域中,就是把復(fù)雜的身體狀況簡(jiǎn)單化,將蘊(yùn)含多重屬性的身體化約為以代碼和符號(hào)為表征的數(shù)字模型。由此可見(jiàn),無(wú)論是用于驗(yàn)證算法的一端,還是用于算法應(yīng)用的一端,都是表征著“多”的場(chǎng)景,而與數(shù)據(jù)的“一”有著不同的質(zhì)的規(guī)定性。“醫(yī)學(xué)人工智能應(yīng)用不同于傳統(tǒng)醫(yī)療器械,其功能實(shí)現(xiàn)不僅依靠既有的軟件代碼,更需要真實(shí)世界數(shù)據(jù)以及針對(duì)實(shí)際臨床場(chǎng)景設(shè)計(jì)的算法來(lái)實(shí)現(xiàn)。”[7]

2.2.3 工程師的局限性導(dǎo)致的算法漏洞

從理論上來(lái)講,算法盡管是工程師匠心研究和設(shè)計(jì)出來(lái)的,也不可能達(dá)到理論上絕對(duì)完善的程度,而是總會(huì)存在著被算法所忽視的特殊情況。這就是因技術(shù)限制而引發(fā)的算法漏洞。人工智能運(yùn)用算法對(duì)數(shù)據(jù)進(jìn)行加工,但不可避免的是也存在著算法偏差甚至是算法偏見(jiàn)。算法是按照研究者的思路和標(biāo)準(zhǔn)設(shè)計(jì)出來(lái)的,但是這種思路和標(biāo)準(zhǔn)不一定契合大眾的思路和標(biāo)準(zhǔn)。算法的程序設(shè)計(jì)人員在價(jià)值取向上的偏頗,會(huì)引發(fā)算法歧視,包括階層收入歧視、性別歧視、族群歧視等。“醫(yī)療領(lǐng)域的算法歧視可能包括:針對(duì)低收入人群推薦療效欠佳但價(jià)格較低的治療方案,診療措施受性別影響等。”[8]脫離應(yīng)用場(chǎng)景、偏離大眾認(rèn)知標(biāo)準(zhǔn)的算法預(yù)測(cè)固然會(huì)出現(xiàn)“測(cè)不準(zhǔn)”現(xiàn)象。發(fā)展到極端,就是人工智能與臨床決策的對(duì)峙對(duì)壘?！叭斯ぶ悄懿皇侨f(wàn)能鑰匙,有其自身的機(jī)器屬性與算法偏見(jiàn)?！盵2]夾雜著數(shù)據(jù)失真、認(rèn)知偏見(jiàn)和技術(shù)謬誤的算法一旦被應(yīng)用,必然會(huì)影響到數(shù)據(jù)的有效性。由算法漏洞、算法黑箱、算法歧視等推演的結(jié)果本身帶有不穩(wěn)定性,并不符合臨床診斷所要求的精確性,安全隱患突出。即便是微小的數(shù)據(jù)偏差,也會(huì)影響到后續(xù)醫(yī)療方案的選擇。況且算法還極有可能會(huì)被隱秘的權(quán)力資本操縱和駕馭,算法推薦也容易變質(zhì)為算法主宰。權(quán)力資本通過(guò)對(duì)數(shù)據(jù)流的集中控制,來(lái)達(dá)到對(duì)人身的控制。這使得個(gè)體貌似在享受數(shù)字便利,并成為被醫(yī)學(xué)所架構(gòu)的存在,卻實(shí)際上遭遇基于人工智能的算法社會(huì)的算計(jì),陷入權(quán)力資本精心編織的數(shù)字牢籠。智能化的算法在控制能力和控制效率上更勝一籌。如何防范權(quán)力資本與算法的共謀?而一旦算法黑箱遭遇操縱,其結(jié)果更加匪夷所思。諸如此類(lèi)的“算法失靈”引發(fā)的后果由誰(shuí)來(lái)承擔(dān)、糾正和追責(zé)?

鑒于社會(huì)還缺乏算法的性能與安全評(píng)價(jià)體系,難以保障數(shù)據(jù)輸入和輸出等數(shù)據(jù)處理活動(dòng)的確定性,醫(yī)學(xué)倫理委員會(huì)要督促研究者不能過(guò)于迷信式依賴(lài)人工智能,如同在對(duì)患者的檢查中會(huì)出現(xiàn)假陽(yáng)性或假陰性的結(jié)果一樣,而要結(jié)合患者的臨床癥狀進(jìn)行綜合判斷,破除疊加在算法之上的盲從心理,防范人工智能的篡位和越權(quán),確保人工智能與臨床決策的空間張力。

2.3 對(duì)信息安全和個(gè)體隱私保護(hù)的難度加大

醫(yī)療領(lǐng)域每天都會(huì)衍生出大量的患者就醫(yī)數(shù)據(jù)和醫(yī)療健康信息。醫(yī)院成為匯聚健康信息的重要“節(jié)點(diǎn)”,無(wú)論是醫(yī)生,還是患者,都成為信息采集和傳輸?shù)摹岸丝凇?。慮及算法的計(jì)算能力與所占有的數(shù)據(jù)容量呈正相關(guān)關(guān)系,醫(yī)療機(jī)構(gòu)熱衷于進(jìn)行基于醫(yī)學(xué)健康信息的高通量測(cè)序,籌建數(shù)字化云服務(wù)平臺(tái),打造成重要的“數(shù)據(jù)港”。這樣既可以把數(shù)據(jù)信息即時(shí)提取、存儲(chǔ)和分布到分門(mén)別類(lèi)的數(shù)據(jù)庫(kù)中,也能夠監(jiān)測(cè)分析醫(yī)院診療全過(guò)程。

人工智能的研發(fā)機(jī)構(gòu)希望數(shù)據(jù)資源能夠始終保持敞開(kāi)狀態(tài)。但是,醫(yī)療健康信息已經(jīng)被《中華人民共和國(guó)數(shù)據(jù)安全法》《中華人民共和國(guó)個(gè)人信息保護(hù)法》(2021)界定為敏感信息,而受到重點(diǎn)保護(hù)。換句話(huà)說(shuō),維護(hù)患者的信息安全、保護(hù)患者隱私,已經(jīng)成為法律的剛性要求。在算法的測(cè)試和應(yīng)用中,個(gè)體的醫(yī)療健康信息有遭遇侵犯和泄露的風(fēng)險(xiǎn)。一方面,算法的測(cè)試需要涉及諸多患者的醫(yī)療健康信息;另一方面,算法的應(yīng)用也會(huì)生成大量的醫(yī)療健康信息。所有的這些醫(yī)療健康信息都要進(jìn)行隱私保護(hù)。通常,在人工智能的測(cè)試論證上,既要有回顧性的研究,也要有前瞻性的研究。在智能醫(yī)學(xué)時(shí)代,研究者對(duì)患者的信息安全和隱私保護(hù),是倫理審查需重點(diǎn)關(guān)注的問(wèn)題域。如何切實(shí)維護(hù)好受試者的隱私,規(guī)約數(shù)據(jù)收集和使用的行為,以符合國(guó)家的法律法規(guī)和規(guī)章制度的要求,值得深究。“基于云端或者互聯(lián)網(wǎng)的人工智能平臺(tái)很易受到非法入侵和控制?！盵9]精心籌建的基礎(chǔ)數(shù)據(jù)庫(kù)一旦遭遇數(shù)據(jù)泄密,不但會(huì)侵犯數(shù)據(jù)主體的隱私權(quán),而且其引發(fā)的余波會(huì)給數(shù)據(jù)的當(dāng)事人帶來(lái)麻煩。尤其是,個(gè)體在數(shù)字世界的“裸奔”,可能只需要一次數(shù)據(jù)泄密就足矣。

2.4 對(duì)醫(yī)學(xué)人文關(guān)懷的淡漠

智慧醫(yī)學(xué)把醫(yī)患雙方的診療互動(dòng)內(nèi)嵌于人工智能的技術(shù)內(nèi)核上,強(qiáng)化了他們對(duì)人工智能的依賴(lài)。智慧醫(yī)學(xué)在弱化甚至取代醫(yī)生主體性的同時(shí),也弱化了醫(yī)療服務(wù)的人文化特質(zhì)?？床∏筢t(yī)的過(guò)程本身是醫(yī)患互動(dòng)過(guò)程,即對(duì)于醫(yī)生而言,不但有知識(shí)和技術(shù)的輸出,還有情感和價(jià)值觀的輸出。但是,人工智能量化一切的趨勢(shì)會(huì)攪擾醫(yī)患之間的人際互動(dòng),使得人機(jī)互動(dòng)有后來(lái)者居上之勢(shì)。然而,反觀人機(jī)互動(dòng),在場(chǎng)景契合度上遠(yuǎn)不及醫(yī)患互動(dòng)。

醫(yī)生往往通過(guò)在醫(yī)療領(lǐng)域的價(jià)值抉擇來(lái)彰顯其人文關(guān)懷。人工智能在專(zhuān)業(yè)性判斷、簡(jiǎn)單性重復(fù)上可能會(huì)具備優(yōu)勢(shì)。而人工智能囿于機(jī)械化的操作,其方案推薦過(guò)程也缺乏醫(yī)生的價(jià)值權(quán)衡和利弊比較的審慎明思,缺乏認(rèn)知判斷上的審時(shí)度勢(shì)。這使得以機(jī)器人醫(yī)生和護(hù)士、智能軟件等為表征的智慧醫(yī)學(xué)提供的服務(wù),顯得人情味不足。人工智能不具有道德認(rèn)知功能,基于人工智能的醫(yī)學(xué)服務(wù),更多直面的是醫(yī)學(xué)數(shù)據(jù),難以彰顯醫(yī)生的臨床共情意識(shí)和同理心,體現(xiàn)不出醫(yī)患交往中的人文關(guān)懷、心理慰藉和精神撫慰。在生物醫(yī)學(xué)時(shí)代,如果說(shuō)“只見(jiàn)病不見(jiàn)人”的現(xiàn)象,是由于醫(yī)生“物化”患者的思維方式引起的,那么,在智能醫(yī)學(xué)時(shí)代,則是由于人工智能的機(jī)器屬性引起的。從前者的人與物的關(guān)系顛倒為后者的物與人的關(guān)系,雖然形式不一,但是殊途同歸,都造成對(duì)人性的盲視。缺乏個(gè)性化的醫(yī)療方案推薦,不但使得醫(yī)學(xué)缺乏“溫度”,而且使得醫(yī)學(xué)敘事陷入古板、僵化和同質(zhì)的困境?！霸谠\療中大眾是愿意接受有情感、有思想、能交流的醫(yī)務(wù)人員還是與之相反的機(jī)器人,值得我們進(jìn)一步深思?！盵10]在醫(yī)患關(guān)系緊張的時(shí)候,患者重構(gòu)對(duì)醫(yī)生的信任尚且困難重重,而在智慧醫(yī)學(xué)時(shí)代,建構(gòu)對(duì)人工智能的算法推薦系統(tǒng)的信任,更是難上加難。

3 智慧醫(yī)學(xué)的風(fēng)險(xiǎn)防范路徑

智慧醫(yī)學(xué)在重新勘定技術(shù)與醫(yī)學(xué)的關(guān)系維度時(shí),也對(duì)醫(yī)學(xué)倫理委員會(huì)的倫理審查提出了新的要求,并引發(fā)對(duì)醫(yī)學(xué)倫理委員會(huì)審查能力的質(zhì)疑和詰問(wèn)。如何規(guī)避人工智能誘發(fā)的風(fēng)險(xiǎn)和挑戰(zhàn)?“人工智能的風(fēng)險(xiǎn)包括:診療失誤、產(chǎn)品缺陷、患者接受度低、行業(yè)標(biāo)準(zhǔn)缺乏以及監(jiān)管缺失等?！盵8]比如,基于算法黑箱的知情同意也不符合經(jīng)典的知情同意的要求。個(gè)別醫(yī)用輔助決策軟件、智能醫(yī)療機(jī)器人等的確證性數(shù)據(jù)還僅僅來(lái)源于其他國(guó)家和地區(qū),缺乏適用于本土的充足理由?！敖⒁惶追衔覈?guó)人群基本特征且具有可操作性的輔助診療類(lèi)醫(yī)學(xué)人工智能應(yīng)用評(píng)估體系已成為迫在眉睫的關(guān)鍵需求?！盵7]而智慧醫(yī)學(xué)時(shí)代的倫理審查,不是對(duì)倫理原則進(jìn)行簡(jiǎn)單的嫁接、生搬硬套就能夠勝任的,也不能沿用傳統(tǒng)的道德規(guī)范,而要促成傳統(tǒng)解釋框架的變更,采用與智慧醫(yī)學(xué)相契合的敘事策略,把智慧醫(yī)學(xué)時(shí)代醫(yī)療領(lǐng)域的鮮活案例與醫(yī)學(xué)倫理學(xué)的抽象倫理原則相結(jié)合。

3.1 合理界定人工智能與醫(yī)生的關(guān)系

由于人工智能具有機(jī)器屬性,合理界定人工智能與醫(yī)生的關(guān)系,就是要處理好人機(jī)關(guān)系。如現(xiàn)在的產(chǎn)前診斷和遺傳病篩查,通常會(huì)運(yùn)用醫(yī)用軟件進(jìn)行輔助篩查。這些醫(yī)用軟件通常包括軟件安裝光盤(pán)和加密狗兩個(gè)部分。為了驗(yàn)證該醫(yī)用軟件的臨床性能,通常會(huì)使用患者就診時(shí)留下的染色體圖像來(lái)進(jìn)行驗(yàn)證,通過(guò)對(duì)染色體識(shí)別排列進(jìn)行關(guān)鍵信息的抓取。人工閱片的結(jié)果依然是金標(biāo)準(zhǔn),是評(píng)價(jià)這些醫(yī)用軟件結(jié)果等效的重要參照?！啊藱C(jī)交互’作為智能流通的重要環(huán)節(jié),本質(zhì)是人與機(jī)器之間進(jìn)行的智能信息交互?！盵11]人工智能將醫(yī)學(xué)影像資料、化驗(yàn)單、檢查單、生物標(biāo)志物、治療方案等匯聚成大數(shù)據(jù)。而臨床診療結(jié)果則是基于大數(shù)據(jù)的自動(dòng)生成。人工智能充其量是一種人工構(gòu)造物,具有典型的機(jī)器屬性。尤其是手術(shù)機(jī)器人之類(lèi)的智能醫(yī)療設(shè)備的故障和風(fēng)險(xiǎn),在沒(méi)有充分依據(jù)能夠規(guī)避時(shí),醫(yī)生為主、人工智能為輔的格局依然適用。隨著智慧醫(yī)學(xué)的發(fā)展,醫(yī)生要從駕馭自身發(fā)展到駕馭人工智能。醫(yī)院要開(kāi)展人工智能方面的集訓(xùn),督促醫(yī)生提高駕馭人工智能的本領(lǐng)。醫(yī)生要主動(dòng)融入智慧醫(yī)學(xué)所構(gòu)建的技術(shù)環(huán)境中,與人工智能進(jìn)行分工協(xié)作,將簡(jiǎn)單的重復(fù)性基礎(chǔ)動(dòng)作交給人工智能,將主要精力放在數(shù)據(jù)源頭審核、過(guò)程審核、結(jié)果審核等復(fù)雜動(dòng)作上。

醫(yī)生主體性的逐步剝離和人工智能承載的“機(jī)器主體性”的漸次嵌入,是同一進(jìn)程的兩個(gè)不同的方面,始終伴隨著不同主體間力量的失衡與平衡之膠著狀態(tài)。人工智能也逐步擁有感觸系統(tǒng)及深度的自主學(xué)習(xí)能力,不斷提高算法的計(jì)算力。這種機(jī)器學(xué)習(xí)式的進(jìn)階有利于重構(gòu)知識(shí)圖譜,重新打造知識(shí)殿堂。而一旦高級(jí)人工智能具有運(yùn)行上的交互性和決策上的獨(dú)立性,具有自我感知和深度學(xué)習(xí)的能力,就意味著人工智能從醫(yī)患之間的媒介性存在搖身一變成為離身性存在,成為醫(yī)生的“繼任者”。智慧醫(yī)學(xué)就發(fā)展到利用軟件分析身體傳感器的無(wú)人診療階段,借助于軟件代碼、算法設(shè)計(jì)和真實(shí)世界數(shù)據(jù)就能夠勝任臨床診療。伴隨著人工智能從低級(jí)到高級(jí)的發(fā)展,人工智能作為機(jī)器也開(kāi)啟了從真實(shí)世界的模仿人到虛擬世界的替代人之進(jìn)程,促進(jìn)了傳統(tǒng)醫(yī)患面對(duì)面的互動(dòng)場(chǎng)景中的醫(yī)生離場(chǎng),實(shí)現(xiàn)了從人的主體性到“機(jī)器主體性”的轉(zhuǎn)變。

科學(xué)厘定和界分智慧醫(yī)學(xué)背景下的責(zé)任認(rèn)定,力求公平公正。醫(yī)療領(lǐng)域多重決策主體的出現(xiàn),也帶來(lái)了責(zé)任分配上的困難。因人工智能的瑕疵而引發(fā)的不良后果由誰(shuí)來(lái)承擔(dān)?因人工智能使用不當(dāng)而引發(fā)的責(zé)任由誰(shuí)來(lái)承擔(dān)?“責(zé)任原則不僅包括事后追責(zé),更關(guān)注前置性的風(fēng)險(xiǎn)管理,包括將風(fēng)險(xiǎn)評(píng)估的責(zé)任分配給每一個(gè)環(huán)節(jié)的參與者,包括科研人員、研究機(jī)構(gòu)、相關(guān)企業(yè)、醫(yī)院和醫(yī)生個(gè)人。”[12]因?yàn)橛糜谕卣贯t(yī)生診療能力的手術(shù)機(jī)器人,根據(jù)其智能化程度,可以區(qū)分為弱人工智能的擬主體、強(qiáng)人工智能的真主體,所以,筆者認(rèn)為,在責(zé)任認(rèn)定上還可以進(jìn)一步細(xì)化。不同智能化程度的智能體在診療中的地位也是迥然有別的。在弱人工智能階段,按照程序運(yùn)行的智能機(jī)器人,并不具有自由意志及承擔(dān)主體責(zé)任。此時(shí)的人工智能不能消弭醫(yī)務(wù)人員的個(gè)人意志和精神思考,其相對(duì)于醫(yī)生而言,還是一種“影子”般的存在。弱人工智能充其量還只能扮演輔助性的角色,只能被界定為輔助性的診療工具,而非越權(quán)的地位。反過(guò)來(lái)說(shuō),弱人工智能越俎代庖式的發(fā)展和應(yīng)用只會(huì)引發(fā)災(zāi)難性結(jié)果。在弱人工智能階段,醫(yī)生依然是責(zé)任主體。醫(yī)生還要明確告知患者,盡管在診療中有人工智能的參與,但醫(yī)生還是會(huì)進(jìn)行最終的技術(shù)把關(guān),以此消除患者的疑慮。在機(jī)器人智能化程度逐步提高的過(guò)程中,醫(yī)生的地位也在發(fā)生著由強(qiáng)到弱的衰變,直至醫(yī)生決策權(quán)的完全讓渡。在這一漸間性轉(zhuǎn)變中,要保持醫(yī)生與人工智能之間的動(dòng)態(tài)平衡。到了強(qiáng)人工智能階段,醫(yī)生成為一種邊緣性的存在,甚至能夠被取而代之。機(jī)器人醫(yī)生依據(jù)大數(shù)據(jù)進(jìn)行把脈問(wèn)診、疾病篩查、方案推薦、行醫(yī)開(kāi)藥、手術(shù)操作等,在這一流程操控中確認(rèn)自身新的主體性的合法性存在。隨著強(qiáng)人工智能作為新興主體的涌現(xiàn),駕馭把控醫(yī)療場(chǎng)景的權(quán)力由醫(yī)生轉(zhuǎn)移到人工智能手里,作為醫(yī)工融合產(chǎn)物的人工智能就要形成具有約束力的倫理共治和依據(jù)適宜性原則進(jìn)行分配的責(zé)任共擔(dān)?！柏?zé)任原則絕不僅僅局限在人工智能的研發(fā)領(lǐng)域,它同樣也是對(duì)生產(chǎn)者、所有者、使用者的道德要求?！盵1]

3.2 有效防范智能算法的風(fēng)險(xiǎn)

智慧醫(yī)學(xué)時(shí)代,數(shù)據(jù)失真的風(fēng)險(xiǎn)不但會(huì)遷移到算法驗(yàn)證中,而且會(huì)蔓延到人工智能的方案推薦中。“政府部門(mén)需要加強(qiáng)包括醫(yī)學(xué)數(shù)據(jù)在內(nèi)的醫(yī)學(xué)數(shù)據(jù)的監(jiān)管力度,明確醫(yī)學(xué)數(shù)據(jù)的使用范圍和采集標(biāo)準(zhǔn),敦促相關(guān)研究機(jī)構(gòu)和企業(yè)重視醫(yī)學(xué)數(shù)據(jù)隱私的保護(hù)工作。”[13]醫(yī)學(xué)倫理委員會(huì)除了要積極呼吁相關(guān)管理部門(mén)制定醫(yī)療健康信息收集和保管的統(tǒng)一標(biāo)準(zhǔn)外,還要對(duì)人工智能的算法進(jìn)行有效性、適用性等審查,以高品質(zhì)的質(zhì)量要求來(lái)確保人工智能的安全可靠性,防范因算法失效引發(fā)的傷害。

醫(yī)學(xué)倫理委員會(huì)要對(duì)算法的臨床研究、準(zhǔn)入和應(yīng)用分別進(jìn)行評(píng)估,實(shí)現(xiàn)連續(xù)性的動(dòng)態(tài)監(jiān)管。倫理審查的難點(diǎn)之一就在于,即使算法設(shè)置有缺陷,也不是醫(yī)學(xué)倫理委員會(huì)的委員所能夠發(fā)現(xiàn)的。醫(yī)學(xué)倫理委員會(huì)對(duì)算法的介入充其量是淺層介入、有限介入。算法程序作為一種不公開(kāi)的黑箱,是由其商業(yè)秘密性和專(zhuān)業(yè)性等共同決定的。即使算法程序公開(kāi)了,其專(zhuān)業(yè)性程度也讓普通民眾望而卻步。非專(zhuān)業(yè)人士缺乏辨別不同算法優(yōu)劣的能力。即使對(duì)于同一種疾病,可能也存在著不同的指南?？紤]到智慧醫(yī)學(xué)具有多部門(mén)的協(xié)作性,醫(yī)學(xué)倫理委員會(huì)要審查醫(yī)院的門(mén)診部、住院部、護(hù)理部、信息科、醫(yī)務(wù)處、科研處、臨床研究中心等有無(wú)進(jìn)行相應(yīng)的數(shù)字化轉(zhuǎn)換的操作。考慮到醫(yī)學(xué)場(chǎng)景的復(fù)雜性,醫(yī)學(xué)倫理委員會(huì)在一些項(xiàng)目的倫理審查中不但要求申辦者提供醫(yī)用軟件的自檢報(bào)告和食品藥品監(jiān)督管理機(jī)構(gòu)的檢驗(yàn)報(bào)告,還會(huì)邀請(qǐng)獨(dú)立顧問(wèn)。同樣地,在對(duì)智慧醫(yī)學(xué)的算法評(píng)估中,也要聘請(qǐng)權(quán)威性的算法專(zhuān)家作為獨(dú)立顧問(wèn),對(duì)人工智能的算法設(shè)計(jì)、建模依據(jù)、數(shù)據(jù)分析和質(zhì)控等方面進(jìn)行把關(guān),探討其是否屬于規(guī)范性的行業(yè)操作標(biāo)準(zhǔn)、算法公開(kāi)的內(nèi)容是否符合行業(yè)的基本要求等,同時(shí)比較不同算法之間的優(yōu)劣性。同時(shí),要求申辦者介紹其有關(guān)狀況,即對(duì)虛假低劣有瑕疵的信息的甄別、過(guò)濾和剔除等,提供算法驗(yàn)證有效性的輔助性證明,對(duì)算法的測(cè)試結(jié)果進(jìn)行自我評(píng)價(jià),并形成評(píng)價(jià)性報(bào)告。督促申辦者在條件成熟時(shí)成立獨(dú)立的數(shù)據(jù)監(jiān)察委員會(huì),要求算法工程師適度公開(kāi)算法的演算規(guī)則和操作流程。醫(yī)學(xué)倫理委員會(huì)要督促在算法的程序設(shè)計(jì)中納入包括醫(yī)務(wù)人員在內(nèi)的社會(huì)公眾的建議和智慧,這是確保算法黑箱不會(huì)進(jìn)一步蛻變?yōu)椤爸R(shí)黑箱”的前提條件。同時(shí),醫(yī)學(xué)倫理委員會(huì)要認(rèn)識(shí)到算法的局限。算法有其適用性范圍,只會(huì)在樣本數(shù)據(jù)量大的疾病方面發(fā)揮作用,而對(duì)于罕見(jiàn)病,依然要靠醫(yī)生的臨床決策和判斷。在智慧醫(yī)學(xué)的應(yīng)用場(chǎng)景中,還要考慮到民眾對(duì)于人工智能的接受和認(rèn)可度。故而,人類(lèi)心智在認(rèn)知上的高階性是當(dāng)前的人工智能所未能企及的。

3.3 加大對(duì)患者數(shù)據(jù)安全和個(gè)人隱私的保護(hù)力度

智慧醫(yī)學(xué)的發(fā)展建立在海量的生物樣本和健康信息的基礎(chǔ)上,這意味著更大范圍的健康信息的采集、研判和使用等。醫(yī)學(xué)數(shù)字化操作平臺(tái)采用分布式的數(shù)據(jù)采集裝置,能夠即時(shí)獲取和分享公民的健康信息。數(shù)據(jù)驅(qū)動(dòng)下的智慧醫(yī)學(xué),意味著數(shù)據(jù)采集的即時(shí)化、數(shù)據(jù)來(lái)源的多主體化、數(shù)據(jù)類(lèi)型的多樣化、數(shù)據(jù)格式的標(biāo)準(zhǔn)化、數(shù)據(jù)存儲(chǔ)的長(zhǎng)久化、數(shù)據(jù)交換的便利化等。智能技術(shù)通過(guò)不斷的算法試錯(cuò),減少算法的偏差及提高算法的精準(zhǔn)率;通過(guò)數(shù)據(jù)網(wǎng)絡(luò)化,從深層次上推進(jìn)疾病分類(lèi)學(xué),通過(guò)個(gè)體健康信息的動(dòng)態(tài)變化來(lái)預(yù)測(cè)疾病進(jìn)展性,鎖定疾病標(biāo)志物來(lái)提高診斷的精準(zhǔn)度,精準(zhǔn)界分特定的患病人群。但是,不僅數(shù)據(jù)的即時(shí)獲取會(huì)面臨數(shù)據(jù)來(lái)源合法性的質(zhì)疑,而且在數(shù)據(jù)交換和分享方面,存在著跨主體、跨領(lǐng)域、跨國(guó)家等的權(quán)限界定。

公民健康信息的獲取和分享,以個(gè)體愿意將自身的健康信息讓渡出去為前提,而不侵害到公民的隱私權(quán)。在高度發(fā)達(dá)的負(fù)隱私時(shí)代,個(gè)體隱私很容易就被窺探到。個(gè)體在使用平臺(tái)獲得技術(shù)提攜和幫助時(shí),也在部分讓渡自己的隱私權(quán)。同時(shí),在分門(mén)別類(lèi)的生物樣本庫(kù)和健康信息數(shù)據(jù)庫(kù)中存儲(chǔ)的健康管理資料,稍有不慎就會(huì)被泄露出去。在數(shù)據(jù)操作時(shí),要督促數(shù)據(jù)操作人員注意遵守相應(yīng)的法律法規(guī),增強(qiáng)研究者獲取醫(yī)療健康信息的透明性?！吨腥A人民共和國(guó)民法典》規(guī)定,要尊重自然人的生命權(quán)、身體權(quán)、健康權(quán)。《中華人民共和國(guó)生物安全法》督促研究者不得打著研究的旗號(hào)來(lái)危害生物安全?！秱€(gè)人信息保護(hù)法》將醫(yī)療健康信息界定為敏感個(gè)人信息。因而醫(yī)學(xué)倫理委員會(huì)不但要明確單次研究中采集的生物樣本的后續(xù)使用問(wèn)題,還要明確研究者對(duì)研究數(shù)據(jù)的可控性、研究數(shù)據(jù)分享的規(guī)范性以及接觸研究數(shù)據(jù)的人群權(quán)限性等。《數(shù)據(jù)安全法》規(guī)定,“任何組織、個(gè)人收集數(shù)據(jù),應(yīng)當(dāng)采取合法、正當(dāng)?shù)姆绞?不得竊取或者以其他非法方式獲取數(shù)據(jù)。”在國(guó)際多中心的大型隊(duì)列研究中,還存在著知識(shí)產(chǎn)權(quán)的合理分配及后續(xù)研究利益的共享問(wèn)題。國(guó)家已經(jīng)明確要求,用于處理客觀醫(yī)療數(shù)據(jù)的醫(yī)用輔助決策軟件,應(yīng)按照第三類(lèi)醫(yī)療器械管理?！夺t(yī)療器械臨床試驗(yàn)質(zhì)量管理規(guī)范》(2022)第六條規(guī)定:醫(yī)療器械臨床試驗(yàn)應(yīng)當(dāng)獲得倫理委員會(huì)的同意。列入需進(jìn)行臨床試驗(yàn)審批的第三類(lèi)醫(yī)療器械目錄的,還應(yīng)當(dāng)獲得國(guó)家藥品監(jiān)督管理局的批準(zhǔn),并且在符合要求的三級(jí)甲等醫(yī)療機(jī)構(gòu)實(shí)施臨床試驗(yàn)。那么,照此類(lèi)推,在醫(yī)用輔助決策軟件的臨床試驗(yàn)中,就要做好受試者的數(shù)據(jù)安全和個(gè)人隱私保護(hù)。對(duì)醫(yī)療健康信息的保管要使用加密技術(shù)的協(xié)議,堵塞人工智能在數(shù)據(jù)安全上的漏洞。醫(yī)用軟件的研究會(huì)使用到涉及個(gè)體的健康、疾病、基因等敏感信息,倫理審查中尤其要審慎把控豁免知情同意的標(biāo)準(zhǔn)和尺度。

對(duì)醫(yī)療健康信息進(jìn)行去標(biāo)識(shí)化甚至匿名化處理后,方可進(jìn)行公開(kāi)發(fā)表。同時(shí),要督促研究者不要過(guò)度使用醫(yī)療健康信息,而要以達(dá)到研究目的為限度。而在基因研究中,即使對(duì)醫(yī)療健康信息進(jìn)行匿名化處理,依靠大數(shù)據(jù)技術(shù),也可以實(shí)現(xiàn)對(duì)目標(biāo)人群的鎖定。故而,在基因研究中,醫(yī)學(xué)倫理委員會(huì)除了要督促研究者遵循一般的研究規(guī)范和管理規(guī)定,還要遵循國(guó)家有關(guān)人類(lèi)遺傳資源和《生物安全法》的管理要求。如醫(yī)學(xué)研究人員一定要進(jìn)行數(shù)據(jù)跨境傳輸,那么傳輸目的地對(duì)數(shù)據(jù)信息的保護(hù)力度應(yīng)該不弱于我國(guó)的要求。在對(duì)醫(yī)療健康信息的使用中,既有公益性的研究,也有商業(yè)性的研究。對(duì)于基于商業(yè)化目的的醫(yī)療數(shù)據(jù)的兜轉(zhuǎn)交易,即使符合豁免知情同意的條件,也要建議申辦方在獲得注冊(cè)用研究數(shù)據(jù),繼而助推藥品、診斷試劑和醫(yī)療器械成功上市后,從利潤(rùn)中提取一部分設(shè)立公益基金。

3.4 在人工智能中厚植人文關(guān)懷

以人機(jī)交互為特征的智慧醫(yī)學(xué),既具有技術(shù)的新穎性,也秉持“救死扶傷”的人道主義,是技術(shù)向度和人文向度的最佳融合體,是真與善的完美結(jié)合。一方面,在“以患者為中心”的價(jià)值指引下,智慧醫(yī)學(xué)應(yīng)該將自身的先天稟賦轉(zhuǎn)化成業(yè)態(tài)優(yōu)勢(shì),切實(shí)提高患者的體驗(yàn)感,提高患者個(gè)體和群體的認(rèn)可度;另一方面,智慧醫(yī)學(xué)還要在操作有效性上下功夫,提高醫(yī)生用戶(hù)的滿(mǎn)意度。真是善的基礎(chǔ),智慧是仁愛(ài)的前提。醫(yī)學(xué)需要借助于高新科技來(lái)提升工作效率,筑牢仁愛(ài)的根基。醫(yī)生要樹(shù)立“5G+醫(yī)學(xué)”的思維,不但要學(xué)會(huì)應(yīng)用人工智能,把人工智能等新興信息技術(shù)應(yīng)用到醫(yī)療領(lǐng)域,并形成人工智能的醫(yī)療團(tuán)隊(duì),而且要參與開(kāi)發(fā)醫(yī)療人工智能系統(tǒng),不斷提高醫(yī)學(xué)領(lǐng)域的智能化程度。在智慧醫(yī)學(xué)時(shí)代,醫(yī)生對(duì)智慧醫(yī)學(xué)的熟稔程度直接關(guān)系到其行善狀況,決定了智慧醫(yī)學(xué)從善的可能向現(xiàn)實(shí)轉(zhuǎn)化的程度。在當(dāng)下達(dá)·芬奇機(jī)器人的操作中,包含機(jī)械臂、醫(yī)生操作臺(tái)、影像臺(tái)等三個(gè)部分。醫(yī)生要先將機(jī)械臂插入患者體內(nèi),醫(yī)生在操作臺(tái)上做手術(shù),在不直接接觸患者身體的情況下,將操作臺(tái)上的動(dòng)作傳送給機(jī)械臂,過(guò)濾掉手術(shù)醫(yī)生的手部抖動(dòng),操控機(jī)械臂進(jìn)行360°旋轉(zhuǎn)。同時(shí)借助于影像臺(tái),身體內(nèi)各個(gè)微小器官組織的病灶甚至可以被放大到十幾倍。但是在達(dá)·芬奇機(jī)器人的操作中,也發(fā)生過(guò)機(jī)器人零部件的脫落等不良事件。在后續(xù)手術(shù)機(jī)器人的設(shè)計(jì)和完善中,要吸納臨床一線(xiàn)醫(yī)生的臨床操作經(jīng)驗(yàn),克服醫(yī)工“兩張皮”的現(xiàn)象。

一般來(lái)講,人患病后往往會(huì)有焦慮感,甚至伴隨著病恥感。而由人工智能來(lái)進(jìn)行問(wèn)診,由于采用的是非接觸方式,患者則會(huì)坦然得多。但是,人工智能自動(dòng)生成的臨床診療方案貌似契合了患者病情的需要,但由于遠(yuǎn)離臨床場(chǎng)景、缺乏價(jià)值審度等關(guān)鍵性環(huán)節(jié),該方案卻不一定符合最優(yōu)化原則。換句話(huà)說(shuō),方案的通用性并不意味著都具有社會(huì)的適宜性。人工智能要以人類(lèi)的生命健康福祉為旨?xì)w,這理應(yīng)成為發(fā)展和應(yīng)用人工智能的倫理指引。人工智能接受道德評(píng)判和價(jià)值指引的過(guò)程,也是其接受規(guī)訓(xùn)的過(guò)程。人工智能的工程師已然從幕后走向臺(tái)前,而處于全社會(huì)的聚焦和凝視下。要把規(guī)范性倫理標(biāo)準(zhǔn)轉(zhuǎn)化為更為具體細(xì)化的實(shí)踐性倫理規(guī)范,督促設(shè)計(jì)人工智能的工程師要躬身社會(huì),始終保持與目標(biāo)群體、社會(huì)公眾的對(duì)話(huà)和交流,及時(shí)了解他們對(duì)人工智能的心理期待和企盼,以消除他們對(duì)人工智能的心理顧慮,并在潛移默化中提高社會(huì)公眾對(duì)人工智能的信賴(lài)。

“培育用智能技術(shù)‘武裝’的、具有智能社會(huì)特質(zhì)的‘時(shí)代新人’,建構(gòu)人機(jī)協(xié)同、人機(jī)和諧、共同提升的新型人機(jī)關(guān)系和人機(jī)文明?！盵14]為了彌補(bǔ)人工智能不具有“情境特征”的缺憾,醫(yī)學(xué)倫理委員會(huì)要督促人工智能研發(fā)機(jī)構(gòu)遵循行業(yè)發(fā)展的規(guī)范性原則,借鑒西方國(guó)家的管理經(jīng)驗(yàn),擬定人工智能方面的倫理指南和行業(yè)規(guī)范,推動(dòng)數(shù)字技術(shù)與科技倫理治理的深度融合,為智慧醫(yī)學(xué)的發(fā)展保駕護(hù)航;堅(jiān)守對(duì)話(huà)和交流的原則,促使人工智能的利益相關(guān)者能夠達(dá)成基準(zhǔn)共識(shí),以實(shí)現(xiàn)工程師與社會(huì)公眾的價(jià)值對(duì)接;遵循適宜性原則,不濫用個(gè)體的醫(yī)療健康信息,并朝數(shù)據(jù)使用的透明化方向發(fā)展;引導(dǎo)工程師在程序更新中嘗試進(jìn)行數(shù)據(jù)的意義挖掘,提升人工智能的道德認(rèn)知功能,以便把數(shù)據(jù)的形式性要義和方案的實(shí)質(zhì)性?xún)?nèi)容融合起來(lái),強(qiáng)化臨床診療決策與病患的契合點(diǎn),促進(jìn)數(shù)據(jù)判斷與道德判斷的有機(jī)銜接,嘗試?yán)斫忉t(yī)療信息的意義表征,最終實(shí)現(xiàn)智能決策的切身性;堅(jiān)持底線(xiàn)原則和紅線(xiàn)意識(shí),對(duì)嚴(yán)重違背倫理原則的人工智能,要通過(guò)相應(yīng)的管理規(guī)范,啟動(dòng)對(duì)人工智能工程師的問(wèn)責(zé)機(jī)制,并同時(shí)納入負(fù)面清單的管理機(jī)制中。智慧醫(yī)學(xué)不但要增強(qiáng)服務(wù)的可及性,而且要提高友好性和社會(huì)適應(yīng)性,協(xié)調(diào)好數(shù)字治理與情感主義的關(guān)系,力爭(zhēng)界面操作簡(jiǎn)單可行、群體受惠廣等,克服因“數(shù)字鴻溝”而引發(fā)的人群界分和技術(shù)排斥。

3.5 以倫理審查助推科技倫理治理體系的完善

醫(yī)院對(duì)在本院開(kāi)展的研究負(fù)有管理中的主體責(zé)任。醫(yī)學(xué)倫理委員會(huì)作為醫(yī)院的分支機(jī)構(gòu),要通過(guò)明晰的價(jià)值準(zhǔn)則、統(tǒng)一的倫理操作規(guī)范和透明的監(jiān)管程序等,促使醫(yī)學(xué)相關(guān)從業(yè)人員不忘“以人為本”的醫(yī)學(xué)行善初心,將價(jià)值權(quán)衡與倫理考量?jī)?nèi)置于臨床抉擇和生物醫(yī)學(xué)研究的全過(guò)程,進(jìn)行負(fù)責(zé)任的臨床、研究和創(chuàng)新。研究者的嚴(yán)重違法違規(guī)行為會(huì)使醫(yī)院遭受名譽(yù)受損、限期整改、摘牌除星等懲罰。醫(yī)療機(jī)構(gòu)作為衛(wèi)生健康部門(mén)之一,也要守土有責(zé),守土盡責(zé)?；诖?醫(yī)學(xué)倫理委員會(huì)要推進(jìn)以倫理審查為基礎(chǔ)的數(shù)據(jù)約束機(jī)制,加強(qiáng)對(duì)生物樣本和健康信息的采集、獲取、保藏、存儲(chǔ)、分享等的管理,遵守國(guó)家的相關(guān)法律法規(guī)和道德規(guī)范,將風(fēng)險(xiǎn)降到最低,保護(hù)好自然人的隱私;確保數(shù)據(jù)來(lái)源的正當(dāng)性及數(shù)據(jù)使用的合規(guī)性,合理界定數(shù)據(jù)共享面的廣度;保持醫(yī)院倫理委員會(huì)投訴渠道的通暢,加大對(duì)研究數(shù)據(jù)和信息造假行為的懲處力度。醫(yī)學(xué)倫理委員會(huì)的委員要具有大數(shù)據(jù)思維,以了解申辦者的研究項(xiàng)目是否遭受其他醫(yī)療機(jī)構(gòu)的否定、查詢(xún)研究者是否因遭受受試者投訴或違規(guī)挪用研究資金等,而被相關(guān)管理部門(mén)納入醫(yī)學(xué)科研誠(chéng)信的“黑名單”、通過(guò)《臨床研究志愿者數(shù)據(jù)庫(kù)》等考察受試者過(guò)往參與臨床醫(yī)學(xué)研究的狀況而排除其“職業(yè)試藥人”的身份等。

國(guó)家科技倫理委員會(huì)的組建,《關(guān)于加強(qiáng)科技倫理治理的意見(jiàn)》的頒布,顯示出國(guó)家層面對(duì)科技倫理的高度重視,以及對(duì)建立和完善科技倫理治理體系的強(qiáng)烈訴求。組建國(guó)家科技倫理委員會(huì),目的就是加強(qiáng)統(tǒng)籌規(guī)范和指導(dǎo)協(xié)調(diào),推動(dòng)構(gòu)建覆蓋全面、導(dǎo)向明確、規(guī)范有序、協(xié)調(diào)一致的科技倫理治理體系,補(bǔ)齊監(jiān)管短板,更好地保障人民群眾的生命健康福祉。具體到醫(yī)療領(lǐng)域,就是要建立和完善醫(yī)學(xué)倫理委員會(huì),確保臨床抉擇和醫(yī)學(xué)研究活動(dòng)遵守相應(yīng)的價(jià)值準(zhǔn)則和倫理規(guī)范。加強(qiáng)智慧醫(yī)學(xué)時(shí)代的醫(yī)學(xué)倫理審查,促進(jìn)醫(yī)療領(lǐng)域治理能力和治理體系的現(xiàn)代化,發(fā)揮醫(yī)學(xué)領(lǐng)域先行先試的特點(diǎn),在將醫(yī)療領(lǐng)域打造成典型樣本和“首善之區(qū)”的同時(shí),也為完善科技倫理治理體系積累寶貴經(jīng)驗(yàn),并在國(guó)家治理架構(gòu)中貢獻(xiàn)出醫(yī)學(xué)治理的智慧。