AI有幻覺，它還不適合做醫(yī)生

在多個社交平臺上，醫(yī)生和患者紛紛曬出自己的“問診經(jīng)歷”，找人工智能（AI）看病成為一股熱潮。

2025年2月25日上午，北京一家三甲醫(yī)院腫瘤科的醫(yī)生在住院部查床時，遇到一個患者拿著手機(jī)版DeepSeek給出的治療方案來問，為什么和醫(yī)生給出的治療方案有些不同，“這樣的患者越來越多，DeepSeek并不都是準(zhǔn)確的，但像上午的這個患者，拿的方案整體上和我們的差不多”。

問題是，AI有開處方的權(quán)利嗎？

一則“禁令”給出了部分答案。2月19日，湖南省醫(yī)保局發(fā)布《關(guān)于進(jìn)一步加強(qiáng)基本醫(yī)療保障定點零售藥店管理的通知》，提出互聯(lián)網(wǎng)醫(yī)院須按規(guī)定接入省醫(yī)保電子處方中心，并進(jìn)行電子處方流轉(zhuǎn)，處方行為須嚴(yán)格執(zhí)行有關(guān)規(guī)定，應(yīng)與患者或患者家屬進(jìn)行有效、充分的溝通問診，嚴(yán)禁使用人工智能等自動生成處方。

這份地方規(guī)范延續(xù)了國家衛(wèi)健委的一貫要求，也對在一段時期內(nèi)，AI醫(yī)生究竟能走多遠(yuǎn)給出了一個大致的方向。

無論是患者還是醫(yī)務(wù)人員，對醫(yī)療AI技術(shù)水平再上一個臺階充滿期待，即便當(dāng)下AI仍不可能代替醫(yī)生，行業(yè)內(nèi)也已經(jīng)開始為新的醫(yī)療分工秩序做準(zhǔn)備。

然而，在這個滿屏都是AI的時代，不僅要判斷當(dāng)下眾多AI醫(yī)療系統(tǒng)有多少含金量，到底有沒有開處方的水平？還應(yīng)思考AI有沒有能力承擔(dān)開處方的責(zé)任，利用AI能干什么、不能干什么的界線？

大模型涌入醫(yī)院

2月26日，在上海，一位患者因為DeepSeek的分析決定在深夜趕去醫(yī)院急診。這位患有冠心病的老人晚上突然感覺到有些背痛，但并不算嚴(yán)重，本來想熬到天亮再去醫(yī)院。

但患者的女兒拿著手機(jī)在DeepSeek軟件上描述癥狀后，DeepSeek分析認(rèn)為，60%-70%的可能是急性冠脈綜合征（ACS），20%-30%的可能是主動脈夾層，還有10%-20%的可能是肌肉骨骼痛、肺栓塞等原因。由于大概率可能是急性兇險疾病，一番糾結(jié)后，女兒還是在凌晨3點把患者叫醒到醫(yī)院去看急診。

“到醫(yī)院后，急診醫(yī)生也很緊張，馬上安排心電圖、血常規(guī)、胸痛等一系列檢查。醫(yī)生給的初步結(jié)論是，暫時排除急性心梗風(fēng)險，還是高度懷疑ACS，和DeepSeek判斷一致。當(dāng)天已經(jīng)住院了，等做完血管造影才能進(jìn)一步確診?！被颊呒覍俜浅c幸先咨詢了“AI醫(yī)生”，如果等到早上8點再到醫(yī)院看專家號，白天檢查速度又慢，住院也得延后。

也有醫(yī)生“敗給”AI。不久前，一位廣州的醫(yī)學(xué)院博主直言“天都塌了”，因病人查詢DeepSeek后，質(zhì)疑他的治療方案，氣得他又查了一遍指南，結(jié)果發(fā)現(xiàn)指南更新了，而他不知道。

上述腫瘤科醫(yī)生覺得現(xiàn)在AI的靠譜程度提高了一點，“原來在遇到疑難病例時，有時需要查尋病案研究，以前是搜索出來一篇論文，得自己花半個多小時才能看完，現(xiàn)在AI不僅2分鐘就能看完，還能和其他的病案做對比總結(jié)，幫助提升很大”。

也不乏因為AI而誤診的“反面教材”，有人在社交平臺上發(fā)帖說，聽DeepSeek推薦吃藥，最后藥物過敏進(jìn)了ICU，本來想快點好，反而更難受。

但這并不影響醫(yī)院想要更緊密的接觸AI系統(tǒng)。據(jù)不完全公開統(tǒng)計，自2025年春節(jié)，已有近100家醫(yī)院宣布已本地化部署、接入DeepSeek。京東的京醫(yī)千詢大模型、螞蟻的安診兒醫(yī)療健康應(yīng)用，也都推出接入DeepSeek后的新版本。

AI的一個集中應(yīng)用場景就是優(yōu)化智能問診，在醫(yī)生接診前，通過AI收集形成患者的病歷，來減輕醫(yī)生的工作。

不過，現(xiàn)有的AI還不夠智能。“對醫(yī)院業(yè)務(wù)還沒有起到突破性的作用，只是借助DeepSeek這類通用模型的思路，更好地訓(xùn)練已有的醫(yī)療AI。”一位醫(yī)療行業(yè)人士對《財經(jīng)》說。

醫(yī)療難容AI幻想

雖然AI能干的活在增多，但一條不變的紅線就是AI不能獨(dú)立提供診療服務(wù)。

“此次湖南醫(yī)保部門的文件中強(qiáng)調(diào)嚴(yán)禁AI開處方，原因是在藥品銷售過程中，行業(yè)存在利用AI違規(guī)開處方的現(xiàn)象，需要明確法律界限。”上海聯(lián)合律師事務(wù)所高級律師盧意光對《財經(jīng)》說。

這樣的問題，主要出現(xiàn)在處方藥銷售中，遇到一些沒有處方的患者，就有藥店利用互聯(lián)網(wǎng)醫(yī)院給患者提供處方，其中有互聯(lián)網(wǎng)醫(yī)院為了降低成本，直接使用AI開處方，脫離了醫(yī)生，觸碰了法律紅線。

此前，阿里健康、京東健康均曾公開回應(yīng)，沒有人工智能自動生成處方業(yè)務(wù)?！敦斀?jīng)》了解到，在京東互聯(lián)網(wǎng)醫(yī)院，一些線上醫(yī)生通過AI來獲得更多的支持，有超80%的醫(yī)生問診單使用了包括“AI診療助手2.0”在內(nèi)的工具，以此來幫助醫(yī)生降低誤診風(fēng)險，并且，醫(yī)生也能騰出更多的精力放在臨床上。

其實，專業(yè)版的“AI開方助手”早在醫(yī)院應(yīng)用了。一些醫(yī)院現(xiàn)有的智能系統(tǒng)，已經(jīng)可以在醫(yī)生診斷患者有某種疾病時，提供相應(yīng)的藥物處方建議，并提醒醫(yī)生要注意某些藥物的副作用，最終由醫(yī)生確認(rèn)后生成處方。

這樣的AI系統(tǒng)還能指出醫(yī)生的錯誤，警示和攔截風(fēng)險處方。

從上述腫瘤科醫(yī)生使用DeepSeek的經(jīng)驗來看，“對于一些既有文字內(nèi)容的解讀分析，它基本沒什么問題，但是對于一些前沿的醫(yī)學(xué)發(fā)展和判斷，它的能力還是不行的。但是這種能力的不足，主要是學(xué)習(xí)數(shù)據(jù)的不全面，而不是分析能力的不足”。

其實，在數(shù)據(jù)相對容易獲取的醫(yī)療細(xì)分領(lǐng)域，AI已經(jīng)展現(xiàn)出超過人類醫(yī)生水平的苗頭。比如在2018年，解放軍南京總醫(yī)院準(zhǔn)備了100例有肺結(jié)節(jié)病變的CT片，找了126位初、中、高級影像科醫(yī)生，以及一款A(yù)I輔助診斷系統(tǒng)測試，從準(zhǔn)確性、敏感性等四個維度比較。

最終，第一名仍是人類醫(yī)生，但AI超過了126位醫(yī)生的平均水平。

若論在已有的知識體系中與人類競爭，AI的優(yōu)勢很顯著。近期，澳大利亞西澳大學(xué)、新南威爾士大學(xué)和印度尼西亞哈薩努丁大學(xué)的團(tuán)隊，利用印度尼西亞一家醫(yī)院的200次顱骨CT掃描，訓(xùn)練并測試了三種基于深度學(xué)習(xí)的大模型，其對顱骨性別的分類準(zhǔn)確率可達(dá)97%，顯著高于人類觀察者的82%。

然而，在事關(guān)生命的醫(yī)療領(lǐng)域，絲毫的偏差都難以被接受。即便僅從技術(shù)角度看，AI也不能獨(dú)立開處方，以DeepSeek為例，多位測試者發(fā)現(xiàn)，其存在比較明顯的幻想。如《人民日報》海外版原總編輯詹國樞在借助DeepSeek撰寫文章的過程中，發(fā)現(xiàn)DeepSeek把《平凡的世界》這本書的作者，從路遙改成了自己的老班長朱大建。

美國生成式AI服務(wù)平臺Vectara在2月公布的大模型測評排行中，DeepSeek-V2.5的幻覺率是2.4%，而DeepSeek-R1的幻覺率達(dá)到14.3%；谷歌的Gemini-2.0-Flash-001，以低幻覺率位居榜首，顯示出其在處理文檔時幾乎沒有引入虛假信息，但還是有0.7%的幻覺率。

可見，AI幻覺問題是一個行業(yè)痛點?！拔覀兛梢岳斫鉃榻裉斓拇竽Ｐ图夹g(shù)，還是一個‘學(xué)生’，我們可以通過拉長推理過程，不斷讓他自己反復(fù)校驗，能夠達(dá)到一個更好的結(jié)果?！本〇|健康探索研究院（JDH XLab）首席科學(xué)家王國鑫表示，從技術(shù)層面這不是不能解決的問題，AI會無限逼近那個準(zhǔn)確性。

AI醫(yī)生更近了？

“即便AI的能力得到認(rèn)可，但如果不能承擔(dān)法律責(zé)任，也就難以替代人類?！鄙鲜鰳I(yè)內(nèi)人士說。

大約十年前，手術(shù)機(jī)器人的發(fā)展曾將醫(yī)療中AI的法律責(zé)任的探討引至小高潮。有人提出的觀點是，如果AI能夠達(dá)到一定水平，一旦發(fā)生醫(yī)療糾紛，在與質(zhì)量問題無關(guān)的情況下，AI作為獨(dú)立的責(zé)任主體，也就是生產(chǎn)商的責(zé)任。

“顯然對這個話題的探討，如今還是太早，到今天，我們?nèi)匀幻鞔_的要求，只有專業(yè)的醫(yī)務(wù)人員有資質(zhì)操作手術(shù)機(jī)器人，并且機(jī)器人只作為醫(yī)生使用一種醫(yī)療器械工具?！北R意光說。

不過，對技術(shù)一向持保守態(tài)度的盧意光也說，“我也并沒有想到像自動駕駛能夠這么快的發(fā)展，與之類似，相關(guān)的法律問題，會隨著AI本身的發(fā)展逐步解決?！?/p>

據(jù)媒體報道，2025年1月，美國亞利桑那地區(qū)下院議員大衛(wèi)·施瓦科特提出了人工智能可以開藥物的法案。如果法案通過，在沒有人類醫(yī)生介入的情況下，AI將確認(rèn)患者狀態(tài)，并自行開具藥物處方。

根據(jù)美國現(xiàn)行法律，只有“法律許可的工作人員”，即醫(yī)生才能開藥。只有在醫(yī)生親自開處方或藥劑師根據(jù)口頭處方開具文件的情況下才有效。

此次提議的法案將“法律許可的工作人員”概念擴(kuò)大到AI和機(jī)器學(xué)習(xí)技術(shù)。不過，這位議員在2023年也提出了同樣內(nèi)容的法案，但未經(jīng)委員會討論就自動廢除。

1月6日，美國食品和藥品監(jiān)督管理局（FDA）發(fā)布了一份《使用人工智能支持藥品和生物制品監(jiān)管決策的注意事項》指南草案，對有關(guān)在藥品全生命周期內(nèi)使用AI生成信息或數(shù)據(jù)的規(guī)范給出建議，并要求確定人工智能模型的應(yīng)用場景，評估人工智能模型的風(fēng)險。

簡單來說，就是明晰人工智能的可信度。

制藥業(yè)存在的顧慮，在醫(yī)療界則會被放的更大。目前，AI不能替代人類醫(yī)生是共識。但醫(yī)生們也都或多或少的想過，自己的“飯碗”是否會被搶走。一位北京三甲醫(yī)院的醫(yī)生認(rèn)為，“腫瘤科的醫(yī)生挺危險，內(nèi)科醫(yī)生不用好AI也危險”。

AI醫(yī)生最先沖擊是市場化的全科服務(wù)，因為又可以標(biāo)準(zhǔn)化，又沒溝通的風(fēng)險?！斑€有內(nèi)分泌等十分依賴化驗、檢驗的科室?！币晃黄つw科醫(yī)生對《財經(jīng)》分析，內(nèi)分泌科醫(yī)生還是需要和患者溝通，這部分是目前AI做不了的。

引入AI的初級階段，在于是否能用好AI。“在國內(nèi)，有些醫(yī)院的本地算力不足，還難以支撐使用DeepSeek，但大量醫(yī)院的快速表態(tài)接入AI，這是少見的，這也為醫(yī)療AI的推進(jìn)釋放一個不錯的信號?！鄙鲜鲠t(yī)療行業(yè)人士說。

現(xiàn)在醫(yī)療系統(tǒng)開展了一系列的AI培訓(xùn)課，醫(yī)生們在努力成為好的AI使用者。上述腫瘤科醫(yī)生接下來的課題項目就是，結(jié)合醫(yī)院的病歷數(shù)據(jù)庫，開發(fā)腫瘤分級和治療方案的AI產(chǎn)品，這需要相當(dāng)龐大的數(shù)據(jù)和時間來完成訓(xùn)練。

雖然他并不知道，是否能獲取到自己醫(yī)院之外的，更多的數(shù)據(jù)來完善自己的產(chǎn)品，但是至少在他看來，未來這樣的產(chǎn)品就可以幫助一些初級的醫(yī)生，準(zhǔn)確判斷腫瘤患者的病情。也就是將高級醫(yī)生的經(jīng)驗快速普及下去。

這正是AI破局好醫(yī)生不夠用最重要的一步。一些頂尖的醫(yī)院將注意力放在罕見病上，因為這是“優(yōu)質(zhì)醫(yī)生”資源緊缺的領(lǐng)域。

2025年2月，北京協(xié)和醫(yī)院與中國科學(xué)院自動化研究所共同研發(fā)的“協(xié)和·太初”罕見病大模型，正式進(jìn)入臨床應(yīng)用階段。此外，國家兒童醫(yī)學(xué)中心北京兒童醫(yī)院上線應(yīng)用“AI兒科醫(yī)生”，承擔(dān)的主要職責(zé)之一就是輔助醫(yī)生進(jìn)行疑難罕見病的診斷和治療。

王國鑫認(rèn)為，在未來三五年，是一個醫(yī)療大模型突破的一個關(guān)鍵時間點，當(dāng)然結(jié)果也取決于打破醫(yī)療數(shù)據(jù)壁壘的程度。

他希望，未來有更強(qiáng)大的大模型，通過少數(shù)病例就能提升學(xué)習(xí)能力，也更接近人的大腦。