• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    基于機器學(xué)習(xí)的藥品不良反應(yīng)實體識別研究綜述

    2022-08-05 02:41:06仲雨樂馬詩雯陸豪杰
    軟件工程 2022年8期
    關(guān)鍵詞:實體神經(jīng)網(wǎng)絡(luò)領(lǐng)域

    仲雨樂,馬詩雯,陸豪杰,韓 普

    (南京郵電大學(xué)管理學(xué)院,江蘇 南京 210003)

    1715272757@qq.com;1535328066@qq.com;1071879399@qq.com;hanpu@njupt.edu.cn

    1 引言(Introduction)

    藥品不良反應(yīng)(Adverse Drug Reaction,ADR)是指在疾病的預(yù)防、診斷、治療或調(diào)節(jié)生理功能過程中,患者接受正常劑量的藥物時出現(xiàn)的所有有害的,與用藥目的無關(guān)的反應(yīng)。藥品在使用過程中出現(xiàn)的不良反應(yīng)往往會對藥物的治療效果產(chǎn)生不好的影響,更為嚴重的可能會直接危害病人的生命安全,因此藥物安全監(jiān)管與評價體系的重要工作內(nèi)容是識別、收集及分析ADR。

    命名實體識別(Named Entity Recognition,NER)是自然語言處理(Natural Language Processing,NLP)中重要的研究領(lǐng)域,主要是將具有特定意義的實體從非結(jié)構(gòu)化的自由文本中抽取出來。與通用領(lǐng)域的實體不同,ADR中的命名實體類型通常包括藥品、適應(yīng)癥、不良反應(yīng)癥狀、身體部位等。實體識別是ADR中的關(guān)鍵環(huán)節(jié),對ADR知識圖譜構(gòu)建、藥物重定位、智能醫(yī)療和藥物知識發(fā)現(xiàn)有著重要意義。

    針對ADR實體識別任務(wù),本文系統(tǒng)梳理了國內(nèi)外近些年來有關(guān)ADR實體識別領(lǐng)域的相關(guān)文獻成果,整理歸納了相關(guān)研究的主要方法及研究思路,分析其中的關(guān)鍵技術(shù)和不足之處,并給出了未來可能的研究方向和發(fā)展趨勢。

    2 ADR實體識別面臨的問題(Problems faced by ADR entity recognition)

    盡管實體識別受到醫(yī)療健康信息抽取領(lǐng)域?qū)W者的極大關(guān)注,但在ADR實體識別中仍然面臨許多亟待解決的問題,其中在中文領(lǐng)域的ADR文本實體識別方面尤為突出。一方面,中文普遍存在實體嵌套的問題,如“頭腦脹痛”既包含身體部位的實體“頭腦”,又包含癥狀類的實體“頭腦脹痛”,但目前ADR實體識別常忽略嵌套實體問題,而是選擇專注于最外層實體;另一方面,針對英文的生物醫(yī)學(xué)文獻、臨床記錄、社交媒體,ADR實體識別數(shù)據(jù)集比較完善,國內(nèi)ADR數(shù)據(jù)集相對匱乏。由于涉及隱私等問題,學(xué)界常用的數(shù)據(jù)是從社交媒體中爬取的藥品不良反應(yīng)評論,這些數(shù)據(jù)需要自行人工標注,代價高昂,并且這類數(shù)據(jù)往往存在大量口語化表述,導(dǎo)致標注的實體不夠準確,標注數(shù)據(jù)規(guī)模也非常有限,無法進行大規(guī)模的模型訓(xùn)練。

    3 ADR中實體識別方法與模型(Entity recognition methods and models in ADR)

    根據(jù)所采用的研究方法,ADR實體識別方法可分為基于規(guī)則和詞典的方法、以條件隨機場(Conditional Random Field,CRF)為代表的傳統(tǒng)機器學(xué)習(xí)方法、以循環(huán)神經(jīng)網(wǎng)絡(luò)(Recurrent Neural Network,RNN)與BERT(Bidirectional Encoder Representations from Transformers)為代表的深度學(xué)習(xí)方法和以對抗性遷移學(xué)習(xí)為代表的遷移學(xué)習(xí)方法。

    3.1 基于規(guī)則和詞典的ADR實體識別

    實體識別中最早使用的是基于規(guī)則和詞典的方法,通過文本規(guī)則、知識庫和專業(yè)領(lǐng)域詞典實現(xiàn)實體識別。馮變玲等利用關(guān)聯(lián)規(guī)則抽取ADR實體并通過計算支持度和可信度來得到藥物不良反應(yīng)。YANG等通過爬蟲技術(shù)從MedHelp上獲取大量用戶關(guān)于使用藥品而產(chǎn)生不良反應(yīng)的留言信息,利用CHV醫(yī)學(xué)字典進行ADR實體識別,準確識別出選定藥品的不良反應(yīng),掌握了藥物和各自不良反應(yīng)之間相互聯(lián)系的內(nèi)在關(guān)系。類似地,SARKER等收集了Twitter和DailyStrenth中與選定藥物名稱相關(guān)的用戶評論,以藥學(xué)詞典為基礎(chǔ),完成了評論文本中不良反應(yīng)的實體識別。

    通過對已有研究的分析可知,基于規(guī)則和詞典的ADR實體識別方法簡單易懂,準確率高。但僅僅基于規(guī)則和詞典適用性較差,無法對ADR文本中較復(fù)雜的實體類型進行很好的識別處理,只能識別一些特定類型的實體。因此,基于規(guī)則和詞典的方法大多時候是為了補充機器學(xué)習(xí)的方法,用于輔助ADR實體識別模型。

    3.2 基于傳統(tǒng)機器學(xué)習(xí)模型的ADR實體識別

    隨著機器學(xué)習(xí)不斷更新迭代,相關(guān)機器學(xué)習(xí)模型逐漸應(yīng)用于ADR實體識別領(lǐng)域中。常用的模型有隱馬爾可夫模型(Hidden Markov Models,HMM)和條件隨機場等。

    HMM 是ADR 實體識別任務(wù)的常用模型之一。SAMPATHKUMAR等提出了一個以HMM為基礎(chǔ)的文本挖掘系統(tǒng),從醫(yī)學(xué)論壇Medications中爬取有關(guān)ADR的文本數(shù)據(jù),經(jīng)人工標注后作為ADR實體識別的數(shù)據(jù)集,對手動注釋的數(shù)據(jù)集進行10 倍交叉驗證發(fā)現(xiàn),HMM的F1值平均為0.76,遠高于基線模型。

    CRF是一種用于序列標記任務(wù)的概率統(tǒng)計模型,在ADR實體識別領(lǐng)域中廣泛使用。CRF克服了HMM的獨立性假設(shè)條件,能夠考慮連續(xù)標簽之間的依賴關(guān)系,常與其他模型結(jié)合生成全局最優(yōu)序列。TANG等將CRF和長短期記憶神經(jīng)網(wǎng)絡(luò)相結(jié)合,在ADR公開語料庫CADEC上開展系列實驗,實驗表明該方法F1值高于CRF。CHRISTOPOULOU等將CRF模型與雙向長短期記憶神經(jīng)網(wǎng)絡(luò)進行結(jié)合,構(gòu)建ADR實體識別模型,并獲得了較好的實驗結(jié)果。王姝元提出了一種帶有CRF的雙向長短期記憶體的特定體系結(jié)構(gòu),將5,865 篇Twitter帖子標注為“Drug”“Indication”和“ADR”三種標簽來進行實體識別,實驗效果明顯優(yōu)于CRF模型以及以詞典為核心的實體識別方法。

    盡管機器學(xué)習(xí)推動ADR實體識別任務(wù)取得了巨大進展,但在模型實施前期,需要大量時間對數(shù)據(jù)集進行預(yù)處理工作,且機器學(xué)習(xí)模型難以處理大規(guī)模數(shù)據(jù),無法使用復(fù)雜特征,使得基于機器學(xué)習(xí)模型的ADR實體識別結(jié)果難以進一步提高。

    3.3 基于深度學(xué)習(xí)模型的ADR實體識別

    隨著時代的發(fā)展,深度學(xué)習(xí)模型在越來越多的領(lǐng)域有著出色的表現(xiàn),各類自然語言處理任務(wù)也逐漸引入該模型。目前實體識別任務(wù)以深度學(xué)習(xí)為核心內(nèi)容,基于深度學(xué)習(xí)的實體識別方法非常適用于解決序列標注問題,ADR實體識別由此進入新階段。

    循環(huán)神經(jīng)網(wǎng)絡(luò)是一類以序列數(shù)據(jù)為輸入,在序列的演進方向進行遞歸且所有節(jié)點(循環(huán)單元)按鏈式連接的遞歸神經(jīng)網(wǎng)絡(luò)。PANDEY等搭建了一個帶有注意力機制的雙向遞歸神經(jīng)網(wǎng)絡(luò),將雙向RNN用于自建數(shù)據(jù)集編碼,然后將其輸入生成注意權(quán)重的注意力層,并在RNN中使用注意力權(quán)重來進行ADR實體識別。

    長短期記憶神經(jīng)網(wǎng)絡(luò)(Long Short-Term Memory,LSTM)是一種較為特殊的RNN,主要包含遺忘門、輸入門、輸出門與一個記憶單元。傳統(tǒng)的RNN在訓(xùn)練中很容易出現(xiàn)梯度爆炸或者梯度消失的問題,導(dǎo)致無法處理較長的序列數(shù)據(jù),而LSTM能夠很好地洞悉并獲取在字段中相隔較遠的依賴關(guān)系。雙向長短期記憶神經(jīng)網(wǎng)絡(luò)(Bidirectional Long Short-Term Memory,BiLSTM)是LSTM的變體,能夠更加有效地提取文本的上下文信息,在ADR實體識別中取得了較好的效果。GUPTA等提出了一種基于半監(jiān)督BiLSTM的ADR實體識別模型,在2007—2010 年收集的ADR推文上開展實驗,實驗F1值比CRF高出3.01%。為了進一步提升模型效果,不少研究往往將BiLSTM與CRF進行結(jié)合。朱笑笑等構(gòu)建了基于BiLSTM與CRF的ADR抽取模型,在Twitter數(shù)據(jù)集上進行實驗,結(jié)果表明結(jié)合BiLSTM和CRF能夠有效識別出社交媒體上不規(guī)范的不良反應(yīng)實體。張亞飛等構(gòu)建了BiLSTM-CRF實體識別方法,從“39健康藥物論壇”上爬取26 種藥物用戶評論數(shù)據(jù)來識別ADR實體,從而挖掘出藥物論壇上潛在的ADR。CHEN等在國內(nèi)ADR報告上對比了CRF、BiLSTM-CRF和基于詞匯特征的BiLSTM-CRF模型實體識別任務(wù)的效果,結(jié)果表明基于詞匯特征的BiLSTMCRF模型實驗F1達到94.35%,表現(xiàn)最優(yōu)。

    GRU(Gated Recurrent Unit,門控循環(huán)單元)模型是LSTM模型的創(chuàng)新模型之一,其特點在于同時具備LSTM的遺忘、更新機制,且簡化了LSTM模型架構(gòu),提高了運行速度,降低了梯度彌散的風(fēng)險。陳瑤等以雙向門控循環(huán)單元(Bidirectional Gated Recurrent Unit,Bi-GRU)結(jié)構(gòu)為基礎(chǔ),引入注意力機制以及字向量與分詞向量優(yōu)化模型,對國內(nèi)ADR報告中的ADR過程描述部分進行“藥品-不良反應(yīng)”的實體識別和關(guān)系抽取研究,取得了較好效果。

    為了解決單一特征的神經(jīng)網(wǎng)絡(luò)模型不能充分利用文本信息的問題,趙鑫等提出了一種混合多特征的神經(jīng)網(wǎng)絡(luò)模型,使用包含卷積計算且具有深度結(jié)構(gòu)的卷積神經(jīng)網(wǎng)絡(luò)(Convolutional Neural Networks,CNN)和LSTM對ADR文本進行實體識別研究,研究表明混合模型效果優(yōu)于單一特征的神經(jīng)網(wǎng)絡(luò)模型。楊文明等以BiLSTM-CRF為基準模型,設(shè)計了IndRNN-CRF和IDCNN-BiLSTM-CRF兩種不同的實體識別模型,并從尋醫(yī)問藥等網(wǎng)站爬取有關(guān)藥物不良反應(yīng)的評論構(gòu)建數(shù)據(jù)集,在此數(shù)據(jù)集上驗證模型的有效性。對比實驗結(jié)果可知,IDCNN-BiLSTM-CRF模型在精確率、召回率和F1值上均超過了基準模型BiLSTM-CRF模型,總體性能最好。TIFTIKCI等集成了BiLSTM、CNN和CRF用于ADR實體識別,并構(gòu)建了基于規(guī)則的方法規(guī)范已識別的ADR實體,在2017 年文本分析會議藥物不良反應(yīng)挑戰(zhàn)測試數(shù)據(jù)集上進行評估,結(jié)果表明由深度學(xué)習(xí)構(gòu)建的實體識別架構(gòu)和基于規(guī)則的實體規(guī)范化模型組成的系統(tǒng)是從藥物標簽中提取ADR的一種很有前途的方法。

    傳統(tǒng)的實體識別方法將字映射成One-hot編碼,難以表明一詞多義。為了解決這一問題,學(xué)者們提出了一種利用預(yù)訓(xùn)練語言模型進行單詞表示的方法。雖然該方法計算較為復(fù)雜,但可以充分捕捉長距離依賴關(guān)系,在ADR實體識別任務(wù)中常用來生成詞向量。

    早期運用較為廣泛的預(yù)訓(xùn)練模型大多以Word2Vec工具對詞向量進行訓(xùn)練,LIN等采用Word2Vec單詞嵌入方法識別Twitter數(shù)據(jù)集上的ADR,實驗結(jié)果表明Word2Vec在縮小特征空間的同時讓召回率和總體F1值都達到更高。GUPTA等使用Word2Vec在大型通用語料庫上訓(xùn)練詞向量作為ADR實體識別模型的輸入。然而Word2Vec僅關(guān)注到了詞的部分信息,沒有考慮到詞與局部窗口外詞的聯(lián)系,所以后續(xù)出現(xiàn)了GloVe和ELMo算法。GloVe利用共現(xiàn)矩陣,同時考慮了局部信息和整體信息。ELMo則針對Word2Vec和GloVe存在詞在不同的語境下有不同的含義,而向量表示卻相同這一問題進行了優(yōu)化,使其能夠?qū)W習(xí)到單詞用法的復(fù)雜特性。PANDEY等采用Word2Vec和GloVe從大量的ADR資源中實現(xiàn)了無監(jiān)督的單詞嵌入來改善RNN,提高了ADR實體識別的準確性。

    隨著預(yù)訓(xùn)練模型受到越來越多的關(guān)注,更多的預(yù)訓(xùn)練模型用于ADR實體識別。2018 年,DEVLIN等提出了BERT模型,其關(guān)鍵部分是Transformer結(jié)構(gòu),它是一個基于自注意力機制的深度網(wǎng)絡(luò)。朱曉旭在ADR的實體識別階段,以BiLSTM-CRF模型為基礎(chǔ),融入基于醫(yī)學(xué)文獻的預(yù)訓(xùn)練語言模型Bio-BERT作為詞表示,并加入自注意力機制來更好地處理長距離的依賴問題。WU等將BERT、BiLSTM與CRF相結(jié)合,令微調(diào)BERT模型獲得的詞特征作為輸入,通過BiLSTM-CRF進行特征提取,準確識別出國內(nèi)ADR報告中的目標實體,遠優(yōu)于其他基線模型。

    從目前的研究成果來看,深度學(xué)習(xí)模型是端到端的訓(xùn)練方式,自動提取特征,能夠?qū)W習(xí)ADR文本當中的深層語義信息,在各種ADR實體識別任務(wù)中均取得較好結(jié)果。近年來,學(xué)者們嘗試在基于神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)上引入注意力機制、遷移學(xué)習(xí)、圖神經(jīng)網(wǎng)絡(luò)、遠程監(jiān)督學(xué)習(xí)等以進一步提升ADR實體識別效果。

    3.4 基于遷移學(xué)習(xí)方法的ADR實體識別

    遷移學(xué)習(xí)是深度學(xué)習(xí)前沿的研究領(lǐng)域,許多學(xué)者利用深度學(xué)習(xí)技術(shù)構(gòu)建遷移學(xué)習(xí)模型,將源域和模型的相關(guān)信息遷移到目標域,提高目標領(lǐng)域的實驗效果,能夠有效解決ADR實體識別任務(wù)資源匱乏、實體類型多樣化等問題,提升了ADR實體識別效果。

    ZHANG等提出了一種針對ADR實體識別任務(wù)的對抗性遷移學(xué)習(xí)模型,引入共享的字符級卷積神經(jīng)網(wǎng)絡(luò)(charCNN)學(xué)習(xí)兩個域數(shù)據(jù)集之間相似的字符級特征,通過融合來自PubMed(源域)的生物醫(yī)學(xué)領(lǐng)域信息,提高Twitter數(shù)據(jù)集(目標域)上的ADR實體識別效果,并根據(jù)兩個域的比例設(shè)置最終損失函數(shù)平衡任務(wù)。該方法的F1值在Twitter數(shù)據(jù)集上為68.58%,實現(xiàn)了最優(yōu)的性能。KANG等構(gòu)建了由對抗性遷移學(xué)習(xí)組成的神經(jīng)網(wǎng)絡(luò)模型ASAIBC,以分詞數(shù)據(jù)集為源域,以人工標注的新疆地區(qū)ADR數(shù)據(jù)集為目標域,結(jié)合自注意力機制和獨立循環(huán)神經(jīng)網(wǎng)絡(luò)(Independently Recurrent Neural Network,IndRNN)捕捉句子整體依賴性,充分利用中文分詞任務(wù)和NER任務(wù)的邊界來實現(xiàn)信息共享,該模型F1評分均值為90.57%,優(yōu)于現(xiàn)有模型,可以進一步提高ADR實體識別效果。

    4 數(shù)據(jù)集和評估效果(Datasets and evaluating performance)

    4.1 ADR實體識別常用數(shù)據(jù)集

    在ADR實體識別研究早期,常見的ADR數(shù)據(jù)來源有自發(fā)報告系統(tǒng)、電子健康記錄(EHR)、醫(yī)學(xué)文獻等,其中自發(fā)報告系統(tǒng)所收集的ADR報告和電子健康記錄較為常用。但是這些數(shù)據(jù)來源依舊有很多弊端,自發(fā)報告系統(tǒng)就存在錯報漏報、上報缺乏主觀能動性的缺陷,EHR文檔所涵蓋的數(shù)據(jù)范疇也并不全面,因此,系統(tǒng)全面的數(shù)據(jù)來源是開展ADR實體識別研究的關(guān)鍵。

    隨著互聯(lián)網(wǎng)的盛行,社交媒體已經(jīng)成為近年來ADR數(shù)據(jù)量大幅增長的領(lǐng)域之一。基于社交網(wǎng)絡(luò)的評論給ADR實體識別研究提供了寶貴的數(shù)據(jù)源,除了Twitter和微博社交平臺,還有一些專注于疾病和健康領(lǐng)域的網(wǎng)站,如國外的Dailystrenth、MedHelp、SteadyHealth以及國內(nèi)的“39健康網(wǎng)”“丁香園”和“尋醫(yī)問藥”,吸引一大批用戶通過發(fā)帖方式表達用藥或治療經(jīng)歷,或是向線上專業(yè)的醫(yī)護人員進行提問。這些包含大量ADR信息的網(wǎng)站近期成為ADR研究的重要數(shù)據(jù)源。除此以外,一些公開的語料數(shù)據(jù)庫或者比賽提供的數(shù)據(jù)集也是ADR實體識別研究常用的數(shù)據(jù)集,如MIMIC-III語料數(shù)據(jù)庫和n2c2數(shù)據(jù)集常用于各類實體識別研究。

    由此可見,無論是自發(fā)報告系統(tǒng)、社交媒體或是公開數(shù)據(jù)庫,都為ADR實體識別研究提供了新的視野,使得近幾年來ADR實體識別研究取得了明顯進展。

    4.2 數(shù)據(jù)集標注策略

    ADR實體識別數(shù)據(jù)集一般采用BIO、BIOE和BIOES等標注格式。在BIO標注格式中,B表示實體開端字符(Begin),I表示內(nèi)部(Inside),O表示外部(Outside)。BIOES是BIO的擴展,在BIO的基礎(chǔ)上,E表示一個詞處于某個實體的結(jié)束,S表示這個詞自己就可以組成一個實體(Single),O含義不變。在標注數(shù)據(jù)時,常采用以上兩種標注策略來進行ADR實體識別。由于BIOES具有更強的指向性和可識別度,因此能顯著提高識別效率,但后續(xù)出現(xiàn)的深度學(xué)習(xí)模型中學(xué)者們會更傾向于使用BIO標注。

    ADR 數(shù)據(jù)集通常有13 種標簽結(jié)果,分別為:“O”“B-Drug(藥品)”“I-Drug(藥品)”“BDose(劑量)”“I-Dose(劑量)”“B-Indication(適應(yīng)癥)”“I-Indication(適應(yīng)癥)”“B-Part(部位)”“IPart(部位)”“B-Symptom(癥狀)”“I-Symptom(癥狀)”“B-Time(時間)”“I-Time(時間)”。如“效果還行但副作用好大,吃了幾天后頭暈嗜睡,四肢無力”,經(jīng)BIO策略標注后為“效/O果/O還/O行/O但/O副/O作/O用/O好/O大/O,/O吃/O了/O幾/B-Time天/I-Time后/O頭/B-Symptom暈/I-Symptom嗜/I-Symptom睡/I-Symptom,/O四/B-Part肢/I-Part無/B-Symptom力/I-Symptom。/O”。

    4.3 評價指標

    ADR實體識別任務(wù)一般采用的評價指標包括精確率(Precision)、召回率(Recall)及F1值(F1-Measure)等。具體計算公式如下:

    其中,表示原本屬于正例的樣本被準確地分類為正例的數(shù)量,即正確識別為ADR實體的數(shù)量;表示原本為負例的樣本被錯誤地分類為正例的數(shù)量,即錯誤識別為ADR個體的數(shù)量;表示原本屬于正例的樣本被錯誤地分類為負例的數(shù)量,即錯誤地識別為非不良反應(yīng)的數(shù)量。

    5 ADR實體識別未來研究趨勢(Future research trend of ADR entity recognition)

    近年來科技發(fā)展迅速,各種實體識別方法層出不窮,但是如何解決ADR文本的復(fù)雜性、數(shù)據(jù)稀缺和實體嵌套等疑難點,更好地開展ADR實體識別研究仍然面臨著諸多挑戰(zhàn)?;贏DR實體識別廣闊的應(yīng)用前景,未來可以從以下三個方面對ADR實體識別開展研究:

    (1)模型創(chuàng)新,引入混合深度學(xué)習(xí)、持續(xù)學(xué)習(xí)、主動學(xué)習(xí)和多任務(wù)學(xué)習(xí)等前沿學(xué)習(xí)方法?;旌仙疃葘W(xué)習(xí)將傳統(tǒng)機器學(xué)習(xí)與主流的深度學(xué)習(xí)模型相結(jié)合,充分利用各學(xué)習(xí)方法的優(yōu)勢提高對多義詞、低頻實體等復(fù)雜實體的識別性能;持續(xù)學(xué)習(xí)在多個時間段的數(shù)據(jù)流中學(xué)習(xí),建立知識記憶以便在新知識的學(xué)習(xí)過程中不會忘記舊有的特征,減輕災(zāi)難性遺忘;主動學(xué)習(xí)通過選擇最有用未標記樣本,降低人工標注成本,有利于解決實體識別數(shù)據(jù)標注問題;多任務(wù)學(xué)習(xí)同時學(xué)習(xí)多個相關(guān)任務(wù),相比于單任務(wù)學(xué)習(xí),多任務(wù)學(xué)習(xí)能夠共享任務(wù)信息,提升泛化效果。這些前沿學(xué)習(xí)方法目前已經(jīng)常用于生物醫(yī)學(xué)命名實體識別領(lǐng)域,且效果較基礎(chǔ)模型有顯著提高,在該領(lǐng)域發(fā)揮了較為可觀的作用,因此后續(xù)可以在已有研究的基礎(chǔ)上引入這些學(xué)習(xí)方法來進一步提高ADR實體識別效果。

    (2)多特征融合,融合部首、詞性、字詞、詞典、依存句法分析及外部語義等多重特征。近年來,多特征融合在醫(yī)療實體識別領(lǐng)域應(yīng)用廣泛,能夠多方面抽取醫(yī)學(xué)專業(yè)領(lǐng)域知識,準確且完整地提取句子的特征信息,增強詞與詞之間的關(guān)聯(lián)性,充分挖掘文本上下文深層語義信息。而目前ADR實體識別領(lǐng)域相關(guān)模型向量特征表示過于單一,多特征融合方法尚未充分應(yīng)用,因此未來融合多特征也是提升ADR實體識別性能的一個方案。

    (3)構(gòu)建中文領(lǐng)域ADR實體識別大規(guī)模高質(zhì)量數(shù)據(jù)集。目前ADR實體識別研究通常需要大量的標注數(shù)據(jù),然而標注龐大的數(shù)據(jù)集需要大量的人力、時間和更多的領(lǐng)域?qū)<抑R。因此,如何利用小規(guī)模的標注語料構(gòu)建大規(guī)模的數(shù)據(jù)集是一個可參考的方向。未來或許可以整合現(xiàn)存的多個語料庫,利用自動化的方法進行數(shù)據(jù)集構(gòu)建來提高ADR實體識別的準確性。

    6 結(jié)論(Conclusion)

    目前,ADR實體識別是藥物警戒和智能醫(yī)療的熱門研究領(lǐng)域。本文首先分析了ADR實體識別目前面臨的問題;其次將現(xiàn)有ADR實體識別領(lǐng)域的研究方法進行歸納和分類,總結(jié)了包括基于規(guī)則和詞典、傳統(tǒng)機器學(xué)習(xí)、深度學(xué)習(xí)和遷移學(xué)習(xí)方法這四類ADR實體識別的方法與模型,分析得到當前基于遷移學(xué)習(xí)的方法在ADR實體識別任務(wù)上性能較優(yōu);接著介紹了ADR實體識別常用的數(shù)據(jù)集和當前較為流行的數(shù)據(jù)集標注策略以及評估指標;最后給出了ADR實體識別研究的研究趨勢,預(yù)計未來可以通過模型創(chuàng)新、多特征融合和構(gòu)建大規(guī)模高質(zhì)量數(shù)據(jù)集來提升ADR實體識別效果,為該領(lǐng)域深入研究提供參考。

    猜你喜歡
    實體神經(jīng)網(wǎng)絡(luò)領(lǐng)域
    前海自貿(mào)區(qū):金融服務(wù)實體
    中國外匯(2019年18期)2019-11-25 01:41:54
    神經(jīng)網(wǎng)絡(luò)抑制無線通信干擾探究
    電子制作(2019年19期)2019-11-23 08:42:00
    領(lǐng)域·對峙
    青年生活(2019年23期)2019-09-10 12:55:43
    實體的可感部分與實體——兼論亞里士多德分析實體的兩種模式
    兩會進行時:緊扣實體經(jīng)濟“釘釘子”
    振興實體經(jīng)濟地方如何“釘釘子”
    基于神經(jīng)網(wǎng)絡(luò)的拉矯機控制模型建立
    重型機械(2016年1期)2016-03-01 03:42:04
    復(fù)數(shù)神經(jīng)網(wǎng)絡(luò)在基于WiFi的室內(nèi)LBS應(yīng)用
    新常態(tài)下推動多層次多領(lǐng)域依法治理初探
    基于支持向量機回歸和RBF神經(jīng)網(wǎng)絡(luò)的PID整定
    成人18禁高潮啪啪吃奶动态图| 亚洲av电影在线进入| av在线app专区| 一本大道久久a久久精品| 人人妻人人添人人爽欧美一区卜| 欧美日韩福利视频一区二区| 亚洲av欧美aⅴ国产| 黄色视频不卡| 巨乳人妻的诱惑在线观看| 三上悠亚av全集在线观看| 下体分泌物呈黄色| 制服人妻中文乱码| 国产精品免费大片| 极品人妻少妇av视频| 久久九九热精品免费| 国产免费现黄频在线看| 国产xxxxx性猛交| 欧美人与性动交α欧美软件| 啦啦啦视频在线资源免费观看| 又粗又硬又长又爽又黄的视频| 国产精品偷伦视频观看了| 免费观看人在逋| 国产精品久久久人人做人人爽| 国产成人欧美| 精品少妇一区二区三区视频日本电影| 午夜91福利影院| 亚洲欧美日韩高清在线视频 | 黑人巨大精品欧美一区二区蜜桃| 又黄又粗又硬又大视频| 日韩 亚洲 欧美在线| 香蕉国产在线看| 亚洲七黄色美女视频| 精品国产一区二区三区久久久樱花| 国产在线视频一区二区| 日韩精品免费视频一区二区三区| 久久人人97超碰香蕉20202| 国产亚洲av高清不卡| 国产高清视频在线播放一区 | 久久久精品国产亚洲av高清涩受| 人人妻人人爽人人添夜夜欢视频| 国产日韩欧美亚洲二区| 美女视频免费永久观看网站| 午夜激情av网站| 午夜福利视频精品| 日本猛色少妇xxxxx猛交久久| 日韩一卡2卡3卡4卡2021年| 欧美精品一区二区免费开放| 久久久久久久久久久久大奶| 免费在线观看完整版高清| av在线老鸭窝| 亚洲少妇的诱惑av| 欧美亚洲日本最大视频资源| 男人爽女人下面视频在线观看| 脱女人内裤的视频| 天堂8中文在线网| 精品一区在线观看国产| 久久久国产一区二区| 国产97色在线日韩免费| 99热国产这里只有精品6| 欧美成狂野欧美在线观看| 欧美亚洲 丝袜 人妻 在线| 亚洲欧美精品自产自拍| 岛国毛片在线播放| 成年人免费黄色播放视频| 国产成人一区二区在线| av欧美777| 欧美97在线视频| 国产精品久久久av美女十八| 极品少妇高潮喷水抽搐| 亚洲 国产 在线| 美女视频免费永久观看网站| 老汉色∧v一级毛片| 亚洲专区国产一区二区| 亚洲精品日本国产第一区| 免费日韩欧美在线观看| 亚洲自偷自拍图片 自拍| 看免费av毛片| 黄色a级毛片大全视频| 真人做人爱边吃奶动态| 午夜91福利影院| 最近手机中文字幕大全| 亚洲av片天天在线观看| 我的亚洲天堂| 欧美少妇被猛烈插入视频| 亚洲国产精品一区三区| 亚洲欧美清纯卡通| 99久久99久久久精品蜜桃| 国产精品欧美亚洲77777| 国产精品秋霞免费鲁丝片| 久久天躁狠狠躁夜夜2o2o | 自拍欧美九色日韩亚洲蝌蚪91| www.精华液| 校园人妻丝袜中文字幕| 日韩 亚洲 欧美在线| 亚洲欧美清纯卡通| 亚洲 欧美一区二区三区| 啦啦啦在线观看免费高清www| 日韩大码丰满熟妇| 成人亚洲精品一区在线观看| 两个人免费观看高清视频| 久久久久久人人人人人| 婷婷色综合www| 精品少妇久久久久久888优播| 狂野欧美激情性xxxx| 人成视频在线观看免费观看| av有码第一页| 青春草视频在线免费观看| 美女视频免费永久观看网站| 午夜福利影视在线免费观看| 亚洲情色 制服丝袜| 狂野欧美激情性xxxx| 成人手机av| 国产成人精品久久二区二区91| www.av在线官网国产| 亚洲一码二码三码区别大吗| 大香蕉久久成人网| 国产精品免费大片| 亚洲精品日本国产第一区| 老熟女久久久| 999久久久国产精品视频| 亚洲图色成人| 免费黄频网站在线观看国产| 国产精品久久久av美女十八| 亚洲精品久久久久久婷婷小说| 精品国产一区二区三区久久久樱花| 黄色视频不卡| 国产欧美日韩精品亚洲av| 一本一本久久a久久精品综合妖精| 日韩欧美一区视频在线观看| 亚洲伊人色综图| 国产欧美日韩一区二区三区在线| 欧美日韩精品网址| 欧美日韩精品网址| 男人爽女人下面视频在线观看| 午夜福利影视在线免费观看| 在线观看免费高清a一片| 一区二区三区四区激情视频| 国产日韩一区二区三区精品不卡| 欧美日韩亚洲国产一区二区在线观看 | 亚洲天堂av无毛| 免费高清在线观看视频在线观看| 永久免费av网站大全| 永久免费av网站大全| 51午夜福利影视在线观看| videosex国产| 五月开心婷婷网| 亚洲中文av在线| 国产在线视频一区二区| 99国产精品免费福利视频| 欧美激情 高清一区二区三区| av视频免费观看在线观看| 日本欧美视频一区| av在线app专区| 日韩制服丝袜自拍偷拍| 另类精品久久| 久久久久久免费高清国产稀缺| 亚洲欧美日韩另类电影网站| 欧美人与性动交α欧美软件| 99久久综合免费| 啦啦啦中文免费视频观看日本| 亚洲 欧美一区二区三区| 国产日韩一区二区三区精品不卡| 欧美大码av| 9色porny在线观看| 青青草视频在线视频观看| 黄色怎么调成土黄色| 在线观看免费高清a一片| 黄色毛片三级朝国网站| 久久 成人 亚洲| 色播在线永久视频| 狂野欧美激情性bbbbbb| 日本欧美视频一区| 精品一品国产午夜福利视频| tube8黄色片| 日韩视频在线欧美| 久久久国产欧美日韩av| 国产在线观看jvid| 美女中出高潮动态图| 男人添女人高潮全过程视频| 亚洲国产毛片av蜜桃av| 日本欧美视频一区| 青春草视频在线免费观看| 亚洲国产毛片av蜜桃av| 久久狼人影院| 两个人免费观看高清视频| 午夜福利一区二区在线看| 国产野战对白在线观看| 日本91视频免费播放| 一个人免费看片子| av天堂在线播放| 在线观看一区二区三区激情| 免费少妇av软件| 欧美97在线视频| 午夜免费观看性视频| 久久天堂一区二区三区四区| 亚洲av美国av| 国产一区二区三区综合在线观看| 亚洲视频免费观看视频| 亚洲男人天堂网一区| 国产在线免费精品| 欧美日韩亚洲综合一区二区三区_| 日本a在线网址| 色精品久久人妻99蜜桃| 亚洲精品自拍成人| 亚洲美女黄色视频免费看| 欧美人与性动交α欧美精品济南到| 中文字幕人妻熟女乱码| 人人妻人人澡人人看| 亚洲欧美成人综合另类久久久| 性少妇av在线| 国产男女内射视频| 夫妻午夜视频| 国产人伦9x9x在线观看| 亚洲精品久久午夜乱码| 久久国产亚洲av麻豆专区| 黄片播放在线免费| 国产成人av激情在线播放| 国产成人av激情在线播放| 精品第一国产精品| 亚洲,一卡二卡三卡| 99久久综合免费| 免费在线观看日本一区| 看免费av毛片| 午夜日韩欧美国产| 9热在线视频观看99| 麻豆乱淫一区二区| 青春草视频在线免费观看| 美女脱内裤让男人舔精品视频| 国产成人一区二区三区免费视频网站 | 国产成人啪精品午夜网站| 欧美 亚洲 国产 日韩一| av电影中文网址| 亚洲av成人不卡在线观看播放网 | 日本91视频免费播放| 免费观看人在逋| 老司机午夜十八禁免费视频| 老司机影院成人| 新久久久久国产一级毛片| 欧美黑人欧美精品刺激| 一级片免费观看大全| 成人影院久久| 97精品久久久久久久久久精品| 精品视频人人做人人爽| 永久免费av网站大全| 久久久久久亚洲精品国产蜜桃av| 精品国产国语对白av| 精品人妻一区二区三区麻豆| 大型av网站在线播放| 国产精品 欧美亚洲| 韩国高清视频一区二区三区| 午夜福利,免费看| 人人妻人人澡人人看| 高清欧美精品videossex| 欧美在线黄色| 亚洲精品自拍成人| 中国国产av一级| 亚洲图色成人| 国产成人精品无人区| 美女扒开内裤让男人捅视频| 99国产精品一区二区三区| 一区二区日韩欧美中文字幕| 中文字幕另类日韩欧美亚洲嫩草| 亚洲av成人精品一二三区| 好男人视频免费观看在线| 亚洲精品一区蜜桃| 国产一区二区激情短视频 | 18在线观看网站| 黄色a级毛片大全视频| 在线观看www视频免费| 人人妻人人爽人人添夜夜欢视频| 日本色播在线视频| 丰满迷人的少妇在线观看| 性色av一级| 十八禁网站网址无遮挡| 麻豆国产av国片精品| 久久久久久久久免费视频了| 婷婷色av中文字幕| 在线天堂中文资源库| 中文字幕人妻熟女乱码| xxxhd国产人妻xxx| 婷婷成人精品国产| 美女高潮到喷水免费观看| 色婷婷av一区二区三区视频| 丝袜美足系列| 亚洲欧美色中文字幕在线| 天堂中文最新版在线下载| 少妇人妻久久综合中文| 亚洲成人手机| 亚洲 国产 在线| 亚洲av电影在线进入| 亚洲精品乱久久久久久| 91精品伊人久久大香线蕉| 91字幕亚洲| 90打野战视频偷拍视频| 亚洲国产av影院在线观看| 午夜91福利影院| 国产真人三级小视频在线观看| 一级,二级,三级黄色视频| 黄色a级毛片大全视频| 18禁观看日本| 国产男女超爽视频在线观看| 成人国语在线视频| 午夜日韩欧美国产| 嫩草影视91久久| 欧美日韩综合久久久久久| 自拍欧美九色日韩亚洲蝌蚪91| 丰满少妇做爰视频| 久久国产精品男人的天堂亚洲| 男女边摸边吃奶| 两性夫妻黄色片| 少妇猛男粗大的猛烈进出视频| 在线观看人妻少妇| cao死你这个sao货| 国产激情久久老熟女| 亚洲五月色婷婷综合| 国产精品二区激情视频| 亚洲熟女精品中文字幕| 美女福利国产在线| 少妇精品久久久久久久| 亚洲黑人精品在线| 国产人伦9x9x在线观看| 晚上一个人看的免费电影| 午夜福利,免费看| 99香蕉大伊视频| 最近手机中文字幕大全| 老熟女久久久| 亚洲成色77777| 久久久久国产一级毛片高清牌| 九色亚洲精品在线播放| 亚洲视频免费观看视频| 午夜av观看不卡| 国产1区2区3区精品| 精品亚洲乱码少妇综合久久| 国产免费福利视频在线观看| av网站在线播放免费| 久久国产精品影院| 精品人妻在线不人妻| 大香蕉久久成人网| 黄片播放在线免费| 18禁观看日本| 久久中文字幕一级| 高清av免费在线| 又紧又爽又黄一区二区| 中文字幕人妻丝袜一区二区| 日本av免费视频播放| 久久热在线av| 好男人电影高清在线观看| 国产av精品麻豆| 欧美日韩亚洲国产一区二区在线观看 | 国产男女内射视频| 女人爽到高潮嗷嗷叫在线视频| videos熟女内射| 久久人妻熟女aⅴ| 熟女少妇亚洲综合色aaa.| 亚洲专区国产一区二区| av欧美777| 国产精品久久久久久人妻精品电影 | 欧美久久黑人一区二区| 亚洲国产精品成人久久小说| 欧美成人精品欧美一级黄| 日韩视频在线欧美| 免费女性裸体啪啪无遮挡网站| 老鸭窝网址在线观看| xxx大片免费视频| 下体分泌物呈黄色| 午夜免费男女啪啪视频观看| 日韩一本色道免费dvd| 丰满人妻熟妇乱又伦精品不卡| 欧美日韩精品网址| 精品人妻在线不人妻| 丝袜人妻中文字幕| av天堂久久9| 亚洲精品国产区一区二| 欧美黄色片欧美黄色片| 久久九九热精品免费| 国产99久久九九免费精品| 亚洲精品国产av蜜桃| 人体艺术视频欧美日本| 欧美日韩亚洲国产一区二区在线观看 | 肉色欧美久久久久久久蜜桃| 极品人妻少妇av视频| 国语对白做爰xxxⅹ性视频网站| 欧美精品高潮呻吟av久久| 99精国产麻豆久久婷婷| 自拍欧美九色日韩亚洲蝌蚪91| 午夜激情av网站| 欧美黄色片欧美黄色片| 欧美日韩一级在线毛片| a级毛片黄视频| 国产男女超爽视频在线观看| 免费久久久久久久精品成人欧美视频| 久热爱精品视频在线9| 国产又色又爽无遮挡免| 香蕉国产在线看| 午夜91福利影院| 亚洲国产看品久久| 欧美日韩成人在线一区二区| 午夜免费鲁丝| av天堂在线播放| 亚洲av日韩在线播放| 黑人猛操日本美女一级片| 另类精品久久| 叶爱在线成人免费视频播放| 亚洲国产中文字幕在线视频| 久久久精品区二区三区| 免费高清在线观看日韩| 日韩av免费高清视频| 丰满饥渴人妻一区二区三| 国产在线免费精品| xxx大片免费视频| 日韩中文字幕欧美一区二区 | 在线观看国产h片| 精品视频人人做人人爽| 操美女的视频在线观看| 黄网站色视频无遮挡免费观看| 女人久久www免费人成看片| 亚洲欧洲国产日韩| 亚洲自偷自拍图片 自拍| 国产精品久久久人人做人人爽| 女警被强在线播放| 下体分泌物呈黄色| 成年人免费黄色播放视频| 亚洲精品乱久久久久久| 亚洲中文字幕日韩| 成人亚洲欧美一区二区av| 国产亚洲午夜精品一区二区久久| 婷婷成人精品国产| 少妇裸体淫交视频免费看高清 | 国产精品人妻久久久影院| 一二三四在线观看免费中文在| 亚洲精品美女久久久久99蜜臀 | 欧美+亚洲+日韩+国产| 纵有疾风起免费观看全集完整版| 国产精品一区二区免费欧美 | 国产欧美日韩一区二区三区在线| 免费女性裸体啪啪无遮挡网站| 午夜福利视频精品| 日本黄色日本黄色录像| 国产高清国产精品国产三级| 亚洲国产成人一精品久久久| 亚洲一码二码三码区别大吗| av国产精品久久久久影院| 午夜福利乱码中文字幕| 女警被强在线播放| 一二三四在线观看免费中文在| 成人亚洲精品一区在线观看| 男女边吃奶边做爰视频| 三上悠亚av全集在线观看| 国产成人精品久久二区二区91| 久久99热这里只频精品6学生| 女人高潮潮喷娇喘18禁视频| 亚洲人成电影观看| 最近手机中文字幕大全| 国产精品二区激情视频| 大码成人一级视频| 国产成人欧美| 男的添女的下面高潮视频| 人人澡人人妻人| 嫩草影视91久久| 人人妻人人澡人人爽人人夜夜| 亚洲综合色网址| 菩萨蛮人人尽说江南好唐韦庄| 亚洲人成电影免费在线| bbb黄色大片| 国产高清视频在线播放一区 | 国产片特级美女逼逼视频| 大型av网站在线播放| 国产片特级美女逼逼视频| 国产精品 国内视频| 手机成人av网站| 最近最新中文字幕大全免费视频 | 免费高清在线观看视频在线观看| 亚洲国产成人一精品久久久| 亚洲伊人久久精品综合| 青春草视频在线免费观看| 欧美另类一区| 亚洲国产日韩一区二区| 亚洲欧美一区二区三区久久| 伊人亚洲综合成人网| 激情视频va一区二区三区| 午夜av观看不卡| 亚洲伊人色综图| 国产成人欧美在线观看 | 日日爽夜夜爽网站| 肉色欧美久久久久久久蜜桃| 少妇 在线观看| 久久性视频一级片| 丝瓜视频免费看黄片| 久久久久国产一级毛片高清牌| 国产午夜精品一二区理论片| 黄色怎么调成土黄色| 国产高清不卡午夜福利| 9热在线视频观看99| 久久性视频一级片| 女人高潮潮喷娇喘18禁视频| svipshipincom国产片| 少妇被粗大的猛进出69影院| 校园人妻丝袜中文字幕| 丝袜美腿诱惑在线| 9191精品国产免费久久| 精品人妻熟女毛片av久久网站| 免费观看人在逋| 精品久久久久久电影网| 国产精品久久久久成人av| 成人亚洲精品一区在线观看| 久久影院123| 免费看不卡的av| 国产亚洲午夜精品一区二区久久| 国产免费又黄又爽又色| 成年人黄色毛片网站| 亚洲欧美一区二区三区国产| 亚洲国产欧美一区二区综合| 悠悠久久av| 18禁裸乳无遮挡动漫免费视频| 两个人免费观看高清视频| 啦啦啦中文免费视频观看日本| 51午夜福利影视在线观看| 麻豆乱淫一区二区| 日韩制服骚丝袜av| 80岁老熟妇乱子伦牲交| 免费一级毛片在线播放高清视频 | 久久狼人影院| 久久人人爽av亚洲精品天堂| 精品国产一区二区三区久久久樱花| 国产精品99久久99久久久不卡| 免费观看a级毛片全部| 国产野战对白在线观看| 久久午夜综合久久蜜桃| videosex国产| 热99国产精品久久久久久7| 国产精品偷伦视频观看了| 99久久人妻综合| 国产亚洲欧美精品永久| 18禁国产床啪视频网站| 中文字幕高清在线视频| 国产精品 国内视频| 久久人人97超碰香蕉20202| 国产成人啪精品午夜网站| 看免费成人av毛片| 成年人午夜在线观看视频| 亚洲天堂av无毛| 日本欧美视频一区| 一级毛片女人18水好多 | 水蜜桃什么品种好| 亚洲国产av新网站| 国产精品久久久人人做人人爽| 国产成人免费无遮挡视频| 亚洲一码二码三码区别大吗| 老司机靠b影院| 亚洲国产欧美在线一区| 十八禁网站网址无遮挡| 久久精品亚洲熟妇少妇任你| 午夜av观看不卡| 欧美97在线视频| 黄色毛片三级朝国网站| 亚洲国产欧美一区二区综合| 亚洲精品一区蜜桃| av天堂久久9| 人人妻人人澡人人爽人人夜夜| 丝袜脚勾引网站| 久久九九热精品免费| 新久久久久国产一级毛片| 搡老乐熟女国产| 午夜福利在线免费观看网站| 亚洲一区中文字幕在线| 亚洲欧美成人综合另类久久久| 久热这里只有精品99| av国产久精品久网站免费入址| 这个男人来自地球电影免费观看| 97在线人人人人妻| 丰满迷人的少妇在线观看| 久久人妻熟女aⅴ| 国产高清视频在线播放一区 | 免费在线观看日本一区| 国产精品一区二区在线观看99| 少妇 在线观看| 少妇人妻久久综合中文| 日韩视频在线欧美| 久久久久精品国产欧美久久久 | 99国产精品一区二区蜜桃av | 国产片内射在线| 久久av网站| 看免费av毛片| 91麻豆精品激情在线观看国产 | 亚洲精品一卡2卡三卡4卡5卡 | 欧美日韩一级在线毛片| 日韩 欧美 亚洲 中文字幕| 少妇猛男粗大的猛烈进出视频| 老鸭窝网址在线观看| 男女午夜视频在线观看| 9色porny在线观看| 亚洲国产精品一区二区三区在线| 中文字幕制服av| 一级毛片电影观看| 最近中文字幕2019免费版| 精品国产超薄肉色丝袜足j| 91麻豆av在线| 成人免费观看视频高清| 国产精品一二三区在线看| 大片电影免费在线观看免费| 女性生殖器流出的白浆| 韩国高清视频一区二区三区| 高清av免费在线| 人人妻人人澡人人爽人人夜夜| 激情视频va一区二区三区| 欧美日韩亚洲国产一区二区在线观看 | 欧美黑人精品巨大| 精品卡一卡二卡四卡免费| 国产一区二区三区av在线| 久久狼人影院| 一级毛片我不卡| 日本色播在线视频| 丝袜喷水一区| 一级毛片电影观看| 黄色视频不卡|