人工智能在基層醫(yī)療衛(wèi)生機(jī)構(gòu)應(yīng)用中的倫理問(wèn)題研究*

宋曉琳，尹 梅

(哈爾濱醫(yī)科大學(xué)人文社會(huì)科學(xué)學(xué)院，黑龍江 哈爾濱 150081，hmusongxiaolin@163.com)

人工智能是一場(chǎng)科技革命，所有領(lǐng)域都在經(jīng)歷著它的發(fā)展所帶來(lái)的變化。尤其是人工智能在醫(yī)學(xué)應(yīng)用方面獲得了許多突破，如利用機(jī)器深度學(xué)習(xí)進(jìn)行醫(yī)療決策、計(jì)算機(jī)輔助內(nèi)科學(xué)診斷、制定初步醫(yī)療方案、手術(shù)機(jī)器人等。此外，人工智能技術(shù)在醫(yī)院管理、學(xué)術(shù)研究及藥物研發(fā)等醫(yī)學(xué)相關(guān)領(lǐng)域也被廣泛應(yīng)用。隨著我國(guó)人工智能政策的推行和科學(xué)技術(shù)的發(fā)展，人工智能在基層醫(yī)療衛(wèi)生機(jī)構(gòu)應(yīng)用中發(fā)揮著越來(lái)越重要的作用。

1 人工智能在基層醫(yī)療衛(wèi)生機(jī)構(gòu)應(yīng)用的機(jī)遇

1.1 人工智能在基層醫(yī)療衛(wèi)生機(jī)構(gòu)的應(yīng)用

人工智能的快速全面發(fā)展使得其在醫(yī)療過(guò)程中的應(yīng)用場(chǎng)景更加多樣化，人工智能的使用滲透院前健康管理、院中診療、院后康復(fù)等多個(gè)環(huán)節(jié)。目前，基層醫(yī)療衛(wèi)生機(jī)構(gòu)人工智能的應(yīng)用主要涉及以下幾個(gè)方面：

醫(yī)療虛擬助理：其主要運(yùn)用于語(yǔ)音電子病歷、智能導(dǎo)診、智能問(wèn)診等方面，減少醫(yī)療過(guò)程中的煩瑣程序的同時(shí)也可幫助醫(yī)院緩解高峰壓力。

醫(yī)學(xué)影像：幫助基層醫(yī)療衛(wèi)生機(jī)構(gòu)完成病灶識(shí)別與標(biāo)注、三維重建等基礎(chǔ)的影像診斷，提高診療準(zhǔn)確度和診療效率。

輔助診療：通過(guò)醫(yī)療大數(shù)據(jù)分析，輔助醫(yī)生進(jìn)行臨床決策及藥物處方的選擇；醫(yī)療機(jī)器人的使用可彌補(bǔ)醫(yī)生技術(shù)水平、狀態(tài)不良等因素。

疾病篩查和早期疾病預(yù)測(cè)：通過(guò)電子醫(yī)療記錄使用特定算法識(shí)別具有遺傳性疾病家族史或慢性病風(fēng)險(xiǎn)增加的群體。

健康管理：通過(guò)分析基因數(shù)據(jù)、代謝數(shù)據(jù)等，幫助人們提供基礎(chǔ)的營(yíng)養(yǎng)學(xué)膳食搭配等各方面的生活建議，從而規(guī)避患病風(fēng)險(xiǎn)；可穿戴人工智能設(shè)備能夠監(jiān)測(cè)個(gè)人健康數(shù)據(jù)，降低患者處于危險(xiǎn)狀態(tài)的風(fēng)險(xiǎn)；虛擬機(jī)器人可以輔助進(jìn)行慢性病患者電話隨訪，減少人力損耗。

1.2 基層醫(yī)療衛(wèi)生機(jī)構(gòu)應(yīng)用人工智能的意義

伴隨人口增多、人口老齡化加劇以及慢性疾病發(fā)病率的增長(zhǎng)，我國(guó)醫(yī)療衛(wèi)生系統(tǒng)壓力急劇增加。分級(jí)診療政策下基層醫(yī)療衛(wèi)生機(jī)構(gòu)的規(guī)范化系統(tǒng)化發(fā)展一定程度上可以緩解這一問(wèn)題，但現(xiàn)階段我國(guó)基層醫(yī)療衛(wèi)生機(jī)構(gòu)普遍出現(xiàn)優(yōu)質(zhì)醫(yī)療資源供給不足、人才短缺、醫(yī)生培養(yǎng)周期長(zhǎng)、診斷效率及正確率低、信息傳遞困難、無(wú)法及時(shí)應(yīng)對(duì)醫(yī)療變化等問(wèn)題，使其難以取得患者信任。同時(shí)人們對(duì)疾病規(guī)律認(rèn)識(shí)不足，對(duì)基層醫(yī)療衛(wèi)生機(jī)構(gòu)服務(wù)能力持有懷疑態(tài)度，導(dǎo)致就醫(yī)趨高、趨大、趨重現(xiàn)象的出現(xiàn)，基層醫(yī)療衛(wèi)生機(jī)構(gòu)難以勝任醫(yī)療系統(tǒng)“醫(yī)療入口”的重要任務(wù)，也無(wú)法作為轉(zhuǎn)診跳板占據(jù)重要地位。

人工智能在基層醫(yī)療衛(wèi)生機(jī)構(gòu)的應(yīng)用是我國(guó)實(shí)行分級(jí)診療的關(guān)鍵要素。人工智能的高效性、敏感性和特異性使其可以在短時(shí)間內(nèi)學(xué)習(xí)大量文獻(xiàn)和病例，并通過(guò)深度學(xué)習(xí)發(fā)現(xiàn)數(shù)據(jù)中難以察覺(jué)的相關(guān)性，分析醫(yī)學(xué)過(guò)程中產(chǎn)生的大量圖像和其他數(shù)據(jù)，幫助進(jìn)行輔助診斷。基層醫(yī)生可以在人工智能的輔助下規(guī)范診療行為，提供更加安全高效的醫(yī)療服務(wù)，大大彌補(bǔ)了基層醫(yī)療衛(wèi)生機(jī)構(gòu)在專業(yè)水平、數(shù)據(jù)分析能力、綜合應(yīng)對(duì)能力方面的不足，從而提高患者滿意度，增進(jìn)醫(yī)患互信。

同時(shí)，人工智能系統(tǒng)在基層醫(yī)療衛(wèi)生機(jī)構(gòu)的有效利用可以緩解基層醫(yī)生培養(yǎng)壓力。醫(yī)學(xué)人才培養(yǎng)周期較長(zhǎng)，并且基層醫(yī)療衛(wèi)生機(jī)構(gòu)尤其是偏遠(yuǎn)地區(qū)基層醫(yī)療衛(wèi)生機(jī)構(gòu)難以吸收到優(yōu)秀醫(yī)學(xué)人才，人工智能系統(tǒng)對(duì)醫(yī)療環(huán)境的選擇性較低并且可以支持大量患者群體，可幫助偏遠(yuǎn)地區(qū)改善醫(yī)療條件，調(diào)節(jié)不同區(qū)域之間的醫(yī)療公平性。

2 人工智能在基層醫(yī)療衛(wèi)生機(jī)構(gòu)應(yīng)用的倫理問(wèn)題

人工智能在國(guó)家醫(yī)療改革政策及基層醫(yī)療衛(wèi)生機(jī)構(gòu)的應(yīng)用上有著不可或缺的價(jià)值和意義，但我國(guó)人工智能的發(fā)展尚處于探索階段，技術(shù)、法律等方面未能及時(shí)跟進(jìn)，同時(shí)人工智能的應(yīng)用在倫理方面還存在許多局限性。

2.1 可及性和可負(fù)擔(dān)性

人工智能作為先進(jìn)科學(xué)技術(shù)，其研發(fā)、制作、實(shí)驗(yàn)及使用需要大量的資本投入，我國(guó)地區(qū)經(jīng)濟(jì)發(fā)展很不均衡，醫(yī)療衛(wèi)生資源分布不平均，現(xiàn)階段我國(guó)人工智能多應(yīng)用于經(jīng)濟(jì)發(fā)達(dá)地區(qū)的三甲醫(yī)院，經(jīng)濟(jì)落后地區(qū)及基層醫(yī)療衛(wèi)生機(jī)構(gòu)很難享受到人工智能醫(yī)學(xué)應(yīng)用服務(wù)。此外，高端人工智能技術(shù)伴隨著高昂的醫(yī)療費(fèi)用，這也是制約人工智能在基層醫(yī)療衛(wèi)生機(jī)構(gòu)應(yīng)用的關(guān)鍵因素之一。如達(dá)芬奇手術(shù)機(jī)器人可以觸及人手難以企及的角度，在進(jìn)行更加精確的操作時(shí)，機(jī)械手臂擁有更小的體積，使得它更加靈活多變，比人手操作更具有競(jìng)爭(zhēng)性和優(yōu)勢(shì)[1]。但由于國(guó)家配額和企業(yè)壟斷，機(jī)器人數(shù)量少、購(gòu)買和維護(hù)花銷大，機(jī)器人手術(shù)的費(fèi)用也大大高于傳統(tǒng)手術(shù)。

與目前人工智能為基層醫(yī)療衛(wèi)生機(jī)構(gòu)帶來(lái)的醫(yī)療水平改善相比，人工智能的研發(fā)和投入成本是否可與其成正比？在基層醫(yī)院投入使用人工智能時(shí)，又應(yīng)該以怎樣的標(biāo)準(zhǔn)進(jìn)行資源分配來(lái)改善地區(qū)醫(yī)療水平的差距，實(shí)現(xiàn)醫(yī)療的公平性？如何保障普通居民能夠最大限度地享用到人工智能服務(wù)？這都是在人工智能發(fā)展過(guò)程中需要面臨可及性與可負(fù)擔(dān)性問(wèn)題。除此之外，患者對(duì)基層醫(yī)療衛(wèi)生機(jī)構(gòu)的固有偏見(jiàn)也可能不利于人工智能的充分使用；或 患者更信任人工智能，會(huì)導(dǎo)致醫(yī)生主體地位的變化，引發(fā)新的醫(yī)患關(guān)系不和諧，也會(huì)增加醫(yī)生自身對(duì)人工智能輔助診斷的排斥程度和應(yīng)用的積極性。

2.2 使用安全性問(wèn)題

數(shù)據(jù)是人工智能的基礎(chǔ)，基于數(shù)據(jù)深度學(xué)習(xí)而產(chǎn)生的人工智能系統(tǒng)要求大量的變量分析和復(fù)雜的底層結(jié)構(gòu)，具有“黑匣子”性質(zhì)，并且能夠在實(shí)現(xiàn)無(wú)人干預(yù)和自我修正的自動(dòng)化運(yùn)行，其預(yù)測(cè)結(jié)果的算法很難實(shí)現(xiàn)完全的明確性與透明度，人工智能的設(shè)計(jì)者和生產(chǎn)者也難以預(yù)測(cè)其可能發(fā)生的變化，所以人工智能的可解釋性和透明度成為其備受爭(zhēng)議的關(guān)鍵點(diǎn)，也是人工智能自身的安全性隱患之一。目前的人工智能還只是基于大量數(shù)據(jù)學(xué)習(xí)而作出決策的判斷系統(tǒng)，只能在已有數(shù)據(jù)的基礎(chǔ)上進(jìn)行優(yōu)化，將概率最大的可能性作為最優(yōu)解呈現(xiàn)，這一過(guò)程中，數(shù)據(jù)容量和運(yùn)算方式都會(huì)影響人工智能的判斷，若人工智能不再按照已設(shè)定目的進(jìn)行診斷或處方，引起診療差錯(cuò)，將直接損害患者的生命財(cái)產(chǎn)安全。

2018 年11月，國(guó)家藥品監(jiān)督管理局醫(yī)療器械技術(shù)審評(píng)中心確定了3類人工智能醫(yī)療器械審批的全流程，但尚不能覆蓋所有人工智能技術(shù)在醫(yī)學(xué)領(lǐng)域的應(yīng)用[2]。人工智能現(xiàn)階段研發(fā)并不成熟且缺少統(tǒng)一的國(guó)家監(jiān)管標(biāo)準(zhǔn)，在使用過(guò)程中因外部安全因素如能源供應(yīng)、人為損壞等造成的系統(tǒng)安全問(wèn)題難以得到有效把握和控制，系統(tǒng)升級(jí)更新產(chǎn)生的系統(tǒng)漏洞導(dǎo)致的安全問(wèn)題也難以及時(shí)發(fā)現(xiàn)和彌補(bǔ)。

2.3 決策公平性問(wèn)題

人工智能輔助基層醫(yī)療衛(wèi)生機(jī)構(gòu)進(jìn)行診療及決策，可以幫助提高基層醫(yī)生的診斷準(zhǔn)確率，同時(shí)也能夠使基層醫(yī)生通過(guò)人工智能的輔助進(jìn)行學(xué)習(xí)與提高，幫助基層患者得到更好的診療結(jié)果。但人工智能相對(duì)于人類醫(yī)生來(lái)說(shuō)，其缺少人類基本的共情和同理心。Manyika等解釋了人工智能偏見(jiàn)滲透到算法中的方式。人工智能系統(tǒng)學(xué)習(xí)根據(jù)培訓(xùn)數(shù)據(jù)作出決策，這些數(shù)據(jù)可能包括有偏見(jiàn)的人類決策，即使刪除了敏感變量，人工智能也仍有可能反映歷史或社會(huì)的不公平[3]。另外，2018年Joy Buolamwini和Timnit Gebru通過(guò)研究發(fā)現(xiàn)面部分析技術(shù)對(duì)部分人群有更高的錯(cuò)誤率，這可能是由于不具代表性的培訓(xùn)數(shù)據(jù)導(dǎo)致的[4]。

當(dāng)人工智能系統(tǒng)用于決定患者的臨終護(hù)理，必須在持續(xù)治療和治療中斷之間作出選擇時(shí)，人工智能系統(tǒng)將如何運(yùn)轉(zhuǎn)；面對(duì)患者因經(jīng)濟(jì)或文化因素作出放棄治療的決定時(shí)，人工智能是否可以通過(guò)被編程來(lái)衡量情感需求和生理需求從而作出適合患者的決策；如果人工智能的同理心數(shù)據(jù)來(lái)自于人類的共同經(jīng)歷，那么這些經(jīng)歷能否在符合倫理的基礎(chǔ)上被重現(xiàn)。在面對(duì)臨床決策時(shí)，人工智能可能會(huì)因數(shù)據(jù)差異導(dǎo)致決策的不公平性產(chǎn)生。同時(shí)，當(dāng)面對(duì)患者對(duì)病情的復(fù)雜態(tài)度，缺乏共情和同理心的人工智能也難以判斷并作出最優(yōu)決策。

2.4 責(zé)任劃分問(wèn)題

人工智能的使用安全性問(wèn)題可能導(dǎo)致診療失誤的發(fā)生，人工智能在使用過(guò)程中造成的醫(yī)療事故由誰(shuí)來(lái)承擔(dān)責(zé)任的問(wèn)題涉及法律和倫理兩個(gè)層面。

在涉及人工智能的醫(yī)療事故中，具體的責(zé)任劃分會(huì)更加困難。例如，醫(yī)生提供的相關(guān)數(shù)據(jù)造成人工智能分析的偏差進(jìn)而影響診療，其中需要承擔(dān)責(zé)任是很難用具體的數(shù)、量來(lái)評(píng)判或定性的。而如果人工智能在獨(dú)立學(xué)習(xí)中產(chǎn)生錯(cuò)誤，數(shù)據(jù)提供、技術(shù)維護(hù)、監(jiān)督審查等過(guò)程的所有參與者，都有可能涉及責(zé)任的承擔(dān)。

我國(guó)法律規(guī)定醫(yī)療事故責(zé)任人認(rèn)定的醫(yī)療事故的行為人，必須是經(jīng)過(guò)考核和衛(wèi)生行政機(jī)關(guān)批準(zhǔn)或承認(rèn)，取得相應(yīng)資格的各級(jí)各類衛(wèi)生技術(shù)人員，那么，作為實(shí)施診療行為的人工智能是否能夠作為責(zé)任主體來(lái)接受相應(yīng)的處罰？2017年10月，由中國(guó)香港漢森機(jī)器人技術(shù)公司開(kāi)發(fā)的類人機(jī)器人索菲亞在阿聯(lián)酋被授予公民身份，使其成為世界上第一個(gè)具有“人權(quán)”的機(jī)器人。人工智能的發(fā)展為醫(yī)療機(jī)構(gòu)提供高效診療服務(wù)的同時(shí)對(duì)其道德地位也提出了挑戰(zhàn)。

2.5 個(gè)人隱私泄露問(wèn)題

公民的個(gè)人隱私是我國(guó)法律保護(hù)的重要內(nèi)容，在醫(yī)療過(guò)程中，患者的個(gè)人信息和醫(yī)療數(shù)據(jù)都屬于個(gè)人隱私的范疇。人工智能作為一項(xiàng)科學(xué)技術(shù)，其運(yùn)行需要大數(shù)據(jù)支撐，在數(shù)據(jù)吸收、讀取及分析的過(guò)程中，使用者的隱私是否能夠得到有效保障尤為重要。畢馬威(KPMG)的一項(xiàng)調(diào)查結(jié)果指出，75%的醫(yī)療保健內(nèi)部人員擔(dān)心人工智能可能威脅患者數(shù)據(jù)的安全和隱私[5]。

我國(guó)公民對(duì)個(gè)人數(shù)據(jù)安全和隱私保護(hù)意識(shí)不強(qiáng)，目前，法律、監(jiān)督難以匹配科技創(chuàng)新和進(jìn)步帶來(lái)的數(shù)據(jù)安全問(wèn)題，運(yùn)用科技手段所造成個(gè)人隱私泄露更加難以察覺(jué)和追究。與此同時(shí)，企業(yè)對(duì)用戶的個(gè)人隱私保護(hù)不重視或難以預(yù)測(cè)，導(dǎo)致技術(shù)失控帶來(lái)的數(shù)據(jù)安全和隱私保護(hù)隱患[6]。在現(xiàn)有條件下，非法進(jìn)行的人工智能系統(tǒng)攻擊、相關(guān)工作人員故意竊取人工智能機(jī)器集成信息、使用過(guò)程中造成的信息泄露等問(wèn)題都難以避免。隨著在線信息技術(shù)獲取知識(shí)的廣泛應(yīng)用，以及允許用戶收集和跟蹤自己的健康數(shù)據(jù)的健康可穿戴設(shè)備的可訪問(wèn)性，患者現(xiàn)在既面臨著額外的自主權(quán)，也面臨著由于采集更大范圍的復(fù)雜數(shù)據(jù)而產(chǎn)生的額外風(fēng)險(xiǎn)。

此外，隨著市場(chǎng)需求增加，大型IT公司以及以人工智能為基礎(chǔ)、以醫(yī)療為導(dǎo)向的初創(chuàng)企業(yè)在醫(yī)學(xué)領(lǐng)域大規(guī)模登陸，其中許多公司提出或整合人工智能元素，這種參與的復(fù)雜性和潛在缺陷，將提高隱私保護(hù)問(wèn)題的門檻。

3 人工智能在基層醫(yī)療衛(wèi)生機(jī)構(gòu)應(yīng)用的倫理思考

3.1 享受人工智能醫(yī)學(xué)應(yīng)用的平等機(jī)會(huì)

人人都應(yīng)平等享有人工智能醫(yī)學(xué)服務(wù)的機(jī)會(huì)，以促進(jìn)醫(yī)療健康的公正。切實(shí)建立可行的方案促進(jìn)人工智能醫(yī)學(xué)應(yīng)用的分配公正，提高人工智能醫(yī)學(xué)應(yīng)用的可及和可負(fù)擔(dān)性，能夠有效緩解我國(guó)醫(yī)療衛(wèi)生資源緊張的情況。

遵循分配公正原則是有效促進(jìn)健康公平的路徑。尤其需要關(guān)注弱勢(shì)群體和基層地區(qū)，可以通過(guò)社會(huì)互助系統(tǒng)和醫(yī)保系統(tǒng)，促進(jìn)健康公平。在人工智能因經(jīng)濟(jì)原因難以在基層醫(yī)療衛(wèi)生機(jī)構(gòu)完全推行的前提下，可以有規(guī)劃性地分階段、逐步開(kāi)展部分人工智能的使用，緩解基層醫(yī)療衛(wèi)生機(jī)構(gòu)迫切需要改善的醫(yī)生經(jīng)驗(yàn)不足、診斷效率低、診療效果差等問(wèn)題，加強(qiáng)基層醫(yī)療衛(wèi)生機(jī)構(gòu)的服務(wù)能力，提高分級(jí)診療效率，如通過(guò)智能信息化系統(tǒng)和區(qū)域性電子病歷搭建信息平臺(tái)，建立區(qū)域醫(yī)療聯(lián)合體，發(fā)揮三級(jí)醫(yī)院的核心帶動(dòng)作用，推動(dòng)優(yōu)質(zhì)衛(wèi)生資源下沉，擴(kuò)充基層醫(yī)療衛(wèi)生機(jī)構(gòu)的診療能力，構(gòu)建同質(zhì)化醫(yī)療衛(wèi)生服務(wù)體系。

3.2 構(gòu)建人工智能應(yīng)用規(guī)范

雖然人類賦權(quán)于人工智能醫(yī)學(xué)應(yīng)用，但它的權(quán)力不能凌駕于倫理和法律以外。人工智能醫(yī)學(xué)應(yīng)用應(yīng)充分做到以人為本，符合倫理和法律要求。規(guī)范人工智能的醫(yī)學(xué)應(yīng)用，需要構(gòu)建人工智能應(yīng)用的法律規(guī)范和倫理規(guī)范。

構(gòu)建人工智能的法律規(guī)范：由于社會(huì)對(duì)數(shù)據(jù)的信任度越來(lái)越低，應(yīng)保證數(shù)據(jù)傳輸?shù)耐该鞫群凸_(kāi)性，了解其運(yùn)行機(jī)制，在一定范圍內(nèi)制約人工智能的權(quán)力，以避免對(duì)人類造成較大傷害；加強(qiáng)或建立控制數(shù)據(jù)處理、管理和使用的治理機(jī)制；制定同步監(jiān)督機(jī)制，對(duì)人工智能技術(shù)進(jìn)行法律管制和監(jiān)督，以確保現(xiàn)存社會(huì)原則不受侵犯。

構(gòu)建人工智能的倫理規(guī)范：加強(qiáng)人工智能主體的人文教育，增強(qiáng)其道德責(zé)任意識(shí)，培養(yǎng)以人類整體利益為核心的價(jià)值觀；以醫(yī)學(xué)倫理原則中的不傷害原則作為人工智能醫(yī)學(xué)研發(fā)和應(yīng)用的基本標(biāo)準(zhǔn)，避免對(duì)患者造成生理上和心理上的損傷，保護(hù)患者基本權(quán)利；在研發(fā)過(guò)程中為人工智能增添道德層面數(shù)據(jù)評(píng)判。

3.3 促進(jìn)人工智能與醫(yī)學(xué)的互惠互利

隨著人工智能在醫(yī)學(xué)領(lǐng)域的發(fā)展和應(yīng)用，越來(lái)越多的人工智能給醫(yī)學(xué)提供的便利性、可靠性和有效性得到驗(yàn)證。通過(guò)技術(shù)手段可以針對(duì)人工智能在使用過(guò)程中出現(xiàn)的缺點(diǎn)制定有利有效的解決措施，使人工智能更具臨床適用性，醫(yī)療機(jī)構(gòu)通過(guò)向人工智能提供學(xué)習(xí)環(huán)境，幫助醫(yī)療機(jī)構(gòu)達(dá)到更高的效率和成本效益目標(biāo)，形成人工智能與醫(yī)學(xué)的互惠互利。

人們應(yīng)該相信人工智能支持而不是替代醫(yī)生，患者和醫(yī)務(wù)人員必須意識(shí)到醫(yī)療活動(dòng)最終仍然是由人類醫(yī)生所領(lǐng)導(dǎo)，了解人工智能輔助診療的本質(zhì)，客觀看待其有益性，減少對(duì)人工智能診療的偏見(jiàn)、恐懼，同時(shí)也加深理解人工智能的局限性，減少對(duì)人工智能醫(yī)學(xué)應(yīng)用的過(guò)度依賴。

3.4 明確人工智能應(yīng)用中的責(zé)任歸屬

我國(guó)對(duì)人工智能醫(yī)學(xué)應(yīng)用的安全性標(biāo)準(zhǔn)和風(fēng)險(xiǎn)監(jiān)管尚處于探索階段，需要從人工智能開(kāi)發(fā)的安全性、應(yīng)用的有效性、風(fēng)險(xiǎn)可控性及責(zé)任的可追究性對(duì)其研究和應(yīng)用進(jìn)行規(guī)范。

國(guó)家應(yīng)積極引導(dǎo)人工智能開(kāi)發(fā)，加強(qiáng)對(duì)人工智能的安全及性能測(cè)試，保障使用過(guò)程中的準(zhǔn)確度，提高人工智能的可解釋性，減少診療錯(cuò)誤風(fēng)險(xiǎn)，同時(shí)應(yīng)保證軟件硬件的有效支持，防止非法惡意入侵，影響人工智能的安全使用。醫(yī)療機(jī)構(gòu)應(yīng)不斷加強(qiáng)基層醫(yī)護(hù)人員的技能培訓(xùn)，減少使用風(fēng)險(xiǎn)，最大限度保障患者生命安全。另外，可以通過(guò)加強(qiáng)國(guó)際合作，以減少人工智能在使用過(guò)程中的安全隱患。

國(guó)家需要對(duì)現(xiàn)有法規(guī)進(jìn)行審查和調(diào)整，為人工智能的良性發(fā)展和應(yīng)用提供法律支持。針對(duì)人工智能醫(yī)學(xué)應(yīng)用可能對(duì)人造成的傷害，應(yīng)盡快清晰地明確責(zé)任歸屬。在面對(duì)損害時(shí)需要及時(shí)救濟(jì)受害者，同時(shí)，仔細(xì)判定人工智能在事故中所扮演的角色，具體問(wèn)題具體分析，嚴(yán)厲禁止利用人工智能推卸個(gè)人責(zé)任的情形，充分維護(hù)患者的權(quán)益。

3.5 加強(qiáng)對(duì)公民個(gè)人隱私的保護(hù)力度

人工智能醫(yī)學(xué)應(yīng)用的信息安全保護(hù)主要涉及三方面：醫(yī)療健康數(shù)據(jù)保護(hù)；保護(hù)數(shù)據(jù)主體不可剝奪的隱私權(quán)；明確數(shù)據(jù)主體的信息不受自動(dòng)化處理的權(quán)利、數(shù)據(jù)主體要求解釋決策的權(quán)利。人工智能醫(yī)學(xué)應(yīng)用的信息安全保護(hù)有助于防止數(shù)據(jù)盜用、身份盜用等風(fēng)險(xiǎn)，對(duì)公民個(gè)人隱私的保護(hù)需要從國(guó)家政策、社會(huì)行業(yè)自律及提高個(gè)人隱私保護(hù)意識(shí)多個(gè)方面進(jìn)行考量和監(jiān)管。

在大數(shù)據(jù)和人工智能時(shí)代，我國(guó)應(yīng)加快制定個(gè)人信息保護(hù)法，保障公民的個(gè)人信息安全。人工智能研發(fā)機(jī)構(gòu)應(yīng)從技術(shù)角度入手，構(gòu)建成熟的安保系統(tǒng)和技術(shù)以確保信息安全，防御試圖侵入訪問(wèn)、盜取或篡改數(shù)據(jù)的不法分子。同時(shí)，公民應(yīng)提高個(gè)人隱私保護(hù)意識(shí)，辨別信息泄露風(fēng)險(xiǎn)，防范隱私泄露行為，承擔(dān)起個(gè)人隱私保護(hù)責(zé)任。

人工智能在基層醫(yī)療衛(wèi)生機(jī)構(gòu)應(yīng)用中的倫理問(wèn)題，不僅僅是人工智能技術(shù)本身的倫理問(wèn)題，也是人工智能及其醫(yī)學(xué)應(yīng)用相結(jié)合產(chǎn)生的系列倫理問(wèn)題。了解人工智能的工作機(jī)制是建立和維護(hù)信任的關(guān)鍵。值得信任的人工智能應(yīng)該是安全的、非歧視的、可及的和可負(fù)擔(dān)的、可解釋的和透明的，以確保人工智能在尊重人類的倫理原則和價(jià)值基礎(chǔ)上，發(fā)揮其最大的作用。目前，我國(guó)人工智能在基層醫(yī)療衛(wèi)生機(jī)構(gòu)的推行進(jìn)程較為緩慢，難以發(fā)揮人工智能在基層醫(yī)療衛(wèi)生機(jī)構(gòu)的關(guān)鍵作用和戰(zhàn)略意義，還需要從政策、科技、法律、經(jīng)濟(jì)、倫理等多個(gè)方面共同努力和完善，加快形成富有中國(guó)特色的完善、合理、規(guī)范、高效的基層醫(yī)療衛(wèi)生服務(wù)體系。