• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    基于機器學(xué)習(xí)的藥品不良反應(yīng)實體識別研究綜述

    2022-08-05 02:41:06仲雨樂馬詩雯陸豪杰
    軟件工程 2022年8期
    關(guān)鍵詞:實體神經(jīng)網(wǎng)絡(luò)領(lǐng)域

    仲雨樂,馬詩雯,陸豪杰,韓 普

    (南京郵電大學(xué)管理學(xué)院,江蘇 南京 210003)

    1715272757@qq.com;1535328066@qq.com;1071879399@qq.com;hanpu@njupt.edu.cn

    1 引言(Introduction)

    藥品不良反應(yīng)(Adverse Drug Reaction,ADR)是指在疾病的預(yù)防、診斷、治療或調(diào)節(jié)生理功能過程中,患者接受正常劑量的藥物時出現(xiàn)的所有有害的,與用藥目的無關(guān)的反應(yīng)。藥品在使用過程中出現(xiàn)的不良反應(yīng)往往會對藥物的治療效果產(chǎn)生不好的影響,更為嚴重的可能會直接危害病人的生命安全,因此藥物安全監(jiān)管與評價體系的重要工作內(nèi)容是識別、收集及分析ADR。

    命名實體識別(Named Entity Recognition,NER)是自然語言處理(Natural Language Processing,NLP)中重要的研究領(lǐng)域,主要是將具有特定意義的實體從非結(jié)構(gòu)化的自由文本中抽取出來。與通用領(lǐng)域的實體不同,ADR中的命名實體類型通常包括藥品、適應(yīng)癥、不良反應(yīng)癥狀、身體部位等。實體識別是ADR中的關(guān)鍵環(huán)節(jié),對ADR知識圖譜構(gòu)建、藥物重定位、智能醫(yī)療和藥物知識發(fā)現(xiàn)有著重要意義。

    針對ADR實體識別任務(wù),本文系統(tǒng)梳理了國內(nèi)外近些年來有關(guān)ADR實體識別領(lǐng)域的相關(guān)文獻成果,整理歸納了相關(guān)研究的主要方法及研究思路,分析其中的關(guān)鍵技術(shù)和不足之處,并給出了未來可能的研究方向和發(fā)展趨勢。

    2 ADR實體識別面臨的問題(Problems faced by ADR entity recognition)

    盡管實體識別受到醫(yī)療健康信息抽取領(lǐng)域?qū)W者的極大關(guān)注,但在ADR實體識別中仍然面臨許多亟待解決的問題,其中在中文領(lǐng)域的ADR文本實體識別方面尤為突出。一方面,中文普遍存在實體嵌套的問題,如“頭腦脹痛”既包含身體部位的實體“頭腦”,又包含癥狀類的實體“頭腦脹痛”,但目前ADR實體識別常忽略嵌套實體問題,而是選擇專注于最外層實體;另一方面,針對英文的生物醫(yī)學(xué)文獻、臨床記錄、社交媒體,ADR實體識別數(shù)據(jù)集比較完善,國內(nèi)ADR數(shù)據(jù)集相對匱乏。由于涉及隱私等問題,學(xué)界常用的數(shù)據(jù)是從社交媒體中爬取的藥品不良反應(yīng)評論,這些數(shù)據(jù)需要自行人工標注,代價高昂,并且這類數(shù)據(jù)往往存在大量口語化表述,導(dǎo)致標注的實體不夠準確,標注數(shù)據(jù)規(guī)模也非常有限,無法進行大規(guī)模的模型訓(xùn)練。

    3 ADR中實體識別方法與模型(Entity recognition methods and models in ADR)

    根據(jù)所采用的研究方法,ADR實體識別方法可分為基于規(guī)則和詞典的方法、以條件隨機場(Conditional Random Field,CRF)為代表的傳統(tǒng)機器學(xué)習(xí)方法、以循環(huán)神經(jīng)網(wǎng)絡(luò)(Recurrent Neural Network,RNN)與BERT(Bidirectional Encoder Representations from Transformers)為代表的深度學(xué)習(xí)方法和以對抗性遷移學(xué)習(xí)為代表的遷移學(xué)習(xí)方法。

    3.1 基于規(guī)則和詞典的ADR實體識別

    實體識別中最早使用的是基于規(guī)則和詞典的方法,通過文本規(guī)則、知識庫和專業(yè)領(lǐng)域詞典實現(xiàn)實體識別。馮變玲等利用關(guān)聯(lián)規(guī)則抽取ADR實體并通過計算支持度和可信度來得到藥物不良反應(yīng)。YANG等通過爬蟲技術(shù)從MedHelp上獲取大量用戶關(guān)于使用藥品而產(chǎn)生不良反應(yīng)的留言信息,利用CHV醫(yī)學(xué)字典進行ADR實體識別,準確識別出選定藥品的不良反應(yīng),掌握了藥物和各自不良反應(yīng)之間相互聯(lián)系的內(nèi)在關(guān)系。類似地,SARKER等收集了Twitter和DailyStrenth中與選定藥物名稱相關(guān)的用戶評論,以藥學(xué)詞典為基礎(chǔ),完成了評論文本中不良反應(yīng)的實體識別。

    通過對已有研究的分析可知,基于規(guī)則和詞典的ADR實體識別方法簡單易懂,準確率高。但僅僅基于規(guī)則和詞典適用性較差,無法對ADR文本中較復(fù)雜的實體類型進行很好的識別處理,只能識別一些特定類型的實體。因此,基于規(guī)則和詞典的方法大多時候是為了補充機器學(xué)習(xí)的方法,用于輔助ADR實體識別模型。

    3.2 基于傳統(tǒng)機器學(xué)習(xí)模型的ADR實體識別

    隨著機器學(xué)習(xí)不斷更新迭代,相關(guān)機器學(xué)習(xí)模型逐漸應(yīng)用于ADR實體識別領(lǐng)域中。常用的模型有隱馬爾可夫模型(Hidden Markov Models,HMM)和條件隨機場等。

    HMM 是ADR 實體識別任務(wù)的常用模型之一。SAMPATHKUMAR等提出了一個以HMM為基礎(chǔ)的文本挖掘系統(tǒng),從醫(yī)學(xué)論壇Medications中爬取有關(guān)ADR的文本數(shù)據(jù),經(jīng)人工標注后作為ADR實體識別的數(shù)據(jù)集,對手動注釋的數(shù)據(jù)集進行10 倍交叉驗證發(fā)現(xiàn),HMM的F1值平均為0.76,遠高于基線模型。

    CRF是一種用于序列標記任務(wù)的概率統(tǒng)計模型,在ADR實體識別領(lǐng)域中廣泛使用。CRF克服了HMM的獨立性假設(shè)條件,能夠考慮連續(xù)標簽之間的依賴關(guān)系,常與其他模型結(jié)合生成全局最優(yōu)序列。TANG等將CRF和長短期記憶神經(jīng)網(wǎng)絡(luò)相結(jié)合,在ADR公開語料庫CADEC上開展系列實驗,實驗表明該方法F1值高于CRF。CHRISTOPOULOU等將CRF模型與雙向長短期記憶神經(jīng)網(wǎng)絡(luò)進行結(jié)合,構(gòu)建ADR實體識別模型,并獲得了較好的實驗結(jié)果。王姝元提出了一種帶有CRF的雙向長短期記憶體的特定體系結(jié)構(gòu),將5,865 篇Twitter帖子標注為“Drug”“Indication”和“ADR”三種標簽來進行實體識別,實驗效果明顯優(yōu)于CRF模型以及以詞典為核心的實體識別方法。

    盡管機器學(xué)習(xí)推動ADR實體識別任務(wù)取得了巨大進展,但在模型實施前期,需要大量時間對數(shù)據(jù)集進行預(yù)處理工作,且機器學(xué)習(xí)模型難以處理大規(guī)模數(shù)據(jù),無法使用復(fù)雜特征,使得基于機器學(xué)習(xí)模型的ADR實體識別結(jié)果難以進一步提高。

    3.3 基于深度學(xué)習(xí)模型的ADR實體識別

    隨著時代的發(fā)展,深度學(xué)習(xí)模型在越來越多的領(lǐng)域有著出色的表現(xiàn),各類自然語言處理任務(wù)也逐漸引入該模型。目前實體識別任務(wù)以深度學(xué)習(xí)為核心內(nèi)容,基于深度學(xué)習(xí)的實體識別方法非常適用于解決序列標注問題,ADR實體識別由此進入新階段。

    循環(huán)神經(jīng)網(wǎng)絡(luò)是一類以序列數(shù)據(jù)為輸入,在序列的演進方向進行遞歸且所有節(jié)點(循環(huán)單元)按鏈式連接的遞歸神經(jīng)網(wǎng)絡(luò)。PANDEY等搭建了一個帶有注意力機制的雙向遞歸神經(jīng)網(wǎng)絡(luò),將雙向RNN用于自建數(shù)據(jù)集編碼,然后將其輸入生成注意權(quán)重的注意力層,并在RNN中使用注意力權(quán)重來進行ADR實體識別。

    長短期記憶神經(jīng)網(wǎng)絡(luò)(Long Short-Term Memory,LSTM)是一種較為特殊的RNN,主要包含遺忘門、輸入門、輸出門與一個記憶單元。傳統(tǒng)的RNN在訓(xùn)練中很容易出現(xiàn)梯度爆炸或者梯度消失的問題,導(dǎo)致無法處理較長的序列數(shù)據(jù),而LSTM能夠很好地洞悉并獲取在字段中相隔較遠的依賴關(guān)系。雙向長短期記憶神經(jīng)網(wǎng)絡(luò)(Bidirectional Long Short-Term Memory,BiLSTM)是LSTM的變體,能夠更加有效地提取文本的上下文信息,在ADR實體識別中取得了較好的效果。GUPTA等提出了一種基于半監(jiān)督BiLSTM的ADR實體識別模型,在2007—2010 年收集的ADR推文上開展實驗,實驗F1值比CRF高出3.01%。為了進一步提升模型效果,不少研究往往將BiLSTM與CRF進行結(jié)合。朱笑笑等構(gòu)建了基于BiLSTM與CRF的ADR抽取模型,在Twitter數(shù)據(jù)集上進行實驗,結(jié)果表明結(jié)合BiLSTM和CRF能夠有效識別出社交媒體上不規(guī)范的不良反應(yīng)實體。張亞飛等構(gòu)建了BiLSTM-CRF實體識別方法,從“39健康藥物論壇”上爬取26 種藥物用戶評論數(shù)據(jù)來識別ADR實體,從而挖掘出藥物論壇上潛在的ADR。CHEN等在國內(nèi)ADR報告上對比了CRF、BiLSTM-CRF和基于詞匯特征的BiLSTM-CRF模型實體識別任務(wù)的效果,結(jié)果表明基于詞匯特征的BiLSTMCRF模型實驗F1達到94.35%,表現(xiàn)最優(yōu)。

    GRU(Gated Recurrent Unit,門控循環(huán)單元)模型是LSTM模型的創(chuàng)新模型之一,其特點在于同時具備LSTM的遺忘、更新機制,且簡化了LSTM模型架構(gòu),提高了運行速度,降低了梯度彌散的風(fēng)險。陳瑤等以雙向門控循環(huán)單元(Bidirectional Gated Recurrent Unit,Bi-GRU)結(jié)構(gòu)為基礎(chǔ),引入注意力機制以及字向量與分詞向量優(yōu)化模型,對國內(nèi)ADR報告中的ADR過程描述部分進行“藥品-不良反應(yīng)”的實體識別和關(guān)系抽取研究,取得了較好效果。

    為了解決單一特征的神經(jīng)網(wǎng)絡(luò)模型不能充分利用文本信息的問題,趙鑫等提出了一種混合多特征的神經(jīng)網(wǎng)絡(luò)模型,使用包含卷積計算且具有深度結(jié)構(gòu)的卷積神經(jīng)網(wǎng)絡(luò)(Convolutional Neural Networks,CNN)和LSTM對ADR文本進行實體識別研究,研究表明混合模型效果優(yōu)于單一特征的神經(jīng)網(wǎng)絡(luò)模型。楊文明等以BiLSTM-CRF為基準模型,設(shè)計了IndRNN-CRF和IDCNN-BiLSTM-CRF兩種不同的實體識別模型,并從尋醫(yī)問藥等網(wǎng)站爬取有關(guān)藥物不良反應(yīng)的評論構(gòu)建數(shù)據(jù)集,在此數(shù)據(jù)集上驗證模型的有效性。對比實驗結(jié)果可知,IDCNN-BiLSTM-CRF模型在精確率、召回率和F1值上均超過了基準模型BiLSTM-CRF模型,總體性能最好。TIFTIKCI等集成了BiLSTM、CNN和CRF用于ADR實體識別,并構(gòu)建了基于規(guī)則的方法規(guī)范已識別的ADR實體,在2017 年文本分析會議藥物不良反應(yīng)挑戰(zhàn)測試數(shù)據(jù)集上進行評估,結(jié)果表明由深度學(xué)習(xí)構(gòu)建的實體識別架構(gòu)和基于規(guī)則的實體規(guī)范化模型組成的系統(tǒng)是從藥物標簽中提取ADR的一種很有前途的方法。

    傳統(tǒng)的實體識別方法將字映射成One-hot編碼,難以表明一詞多義。為了解決這一問題,學(xué)者們提出了一種利用預(yù)訓(xùn)練語言模型進行單詞表示的方法。雖然該方法計算較為復(fù)雜,但可以充分捕捉長距離依賴關(guān)系,在ADR實體識別任務(wù)中常用來生成詞向量。

    早期運用較為廣泛的預(yù)訓(xùn)練模型大多以Word2Vec工具對詞向量進行訓(xùn)練,LIN等采用Word2Vec單詞嵌入方法識別Twitter數(shù)據(jù)集上的ADR,實驗結(jié)果表明Word2Vec在縮小特征空間的同時讓召回率和總體F1值都達到更高。GUPTA等使用Word2Vec在大型通用語料庫上訓(xùn)練詞向量作為ADR實體識別模型的輸入。然而Word2Vec僅關(guān)注到了詞的部分信息,沒有考慮到詞與局部窗口外詞的聯(lián)系,所以后續(xù)出現(xiàn)了GloVe和ELMo算法。GloVe利用共現(xiàn)矩陣,同時考慮了局部信息和整體信息。ELMo則針對Word2Vec和GloVe存在詞在不同的語境下有不同的含義,而向量表示卻相同這一問題進行了優(yōu)化,使其能夠?qū)W習(xí)到單詞用法的復(fù)雜特性。PANDEY等采用Word2Vec和GloVe從大量的ADR資源中實現(xiàn)了無監(jiān)督的單詞嵌入來改善RNN,提高了ADR實體識別的準確性。

    隨著預(yù)訓(xùn)練模型受到越來越多的關(guān)注,更多的預(yù)訓(xùn)練模型用于ADR實體識別。2018 年,DEVLIN等提出了BERT模型,其關(guān)鍵部分是Transformer結(jié)構(gòu),它是一個基于自注意力機制的深度網(wǎng)絡(luò)。朱曉旭在ADR的實體識別階段,以BiLSTM-CRF模型為基礎(chǔ),融入基于醫(yī)學(xué)文獻的預(yù)訓(xùn)練語言模型Bio-BERT作為詞表示,并加入自注意力機制來更好地處理長距離的依賴問題。WU等將BERT、BiLSTM與CRF相結(jié)合,令微調(diào)BERT模型獲得的詞特征作為輸入,通過BiLSTM-CRF進行特征提取,準確識別出國內(nèi)ADR報告中的目標實體,遠優(yōu)于其他基線模型。

    從目前的研究成果來看,深度學(xué)習(xí)模型是端到端的訓(xùn)練方式,自動提取特征,能夠?qū)W習(xí)ADR文本當中的深層語義信息,在各種ADR實體識別任務(wù)中均取得較好結(jié)果。近年來,學(xué)者們嘗試在基于神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)上引入注意力機制、遷移學(xué)習(xí)、圖神經(jīng)網(wǎng)絡(luò)、遠程監(jiān)督學(xué)習(xí)等以進一步提升ADR實體識別效果。

    3.4 基于遷移學(xué)習(xí)方法的ADR實體識別

    遷移學(xué)習(xí)是深度學(xué)習(xí)前沿的研究領(lǐng)域,許多學(xué)者利用深度學(xué)習(xí)技術(shù)構(gòu)建遷移學(xué)習(xí)模型,將源域和模型的相關(guān)信息遷移到目標域,提高目標領(lǐng)域的實驗效果,能夠有效解決ADR實體識別任務(wù)資源匱乏、實體類型多樣化等問題,提升了ADR實體識別效果。

    ZHANG等提出了一種針對ADR實體識別任務(wù)的對抗性遷移學(xué)習(xí)模型,引入共享的字符級卷積神經(jīng)網(wǎng)絡(luò)(charCNN)學(xué)習(xí)兩個域數(shù)據(jù)集之間相似的字符級特征,通過融合來自PubMed(源域)的生物醫(yī)學(xué)領(lǐng)域信息,提高Twitter數(shù)據(jù)集(目標域)上的ADR實體識別效果,并根據(jù)兩個域的比例設(shè)置最終損失函數(shù)平衡任務(wù)。該方法的F1值在Twitter數(shù)據(jù)集上為68.58%,實現(xiàn)了最優(yōu)的性能。KANG等構(gòu)建了由對抗性遷移學(xué)習(xí)組成的神經(jīng)網(wǎng)絡(luò)模型ASAIBC,以分詞數(shù)據(jù)集為源域,以人工標注的新疆地區(qū)ADR數(shù)據(jù)集為目標域,結(jié)合自注意力機制和獨立循環(huán)神經(jīng)網(wǎng)絡(luò)(Independently Recurrent Neural Network,IndRNN)捕捉句子整體依賴性,充分利用中文分詞任務(wù)和NER任務(wù)的邊界來實現(xiàn)信息共享,該模型F1評分均值為90.57%,優(yōu)于現(xiàn)有模型,可以進一步提高ADR實體識別效果。

    4 數(shù)據(jù)集和評估效果(Datasets and evaluating performance)

    4.1 ADR實體識別常用數(shù)據(jù)集

    在ADR實體識別研究早期,常見的ADR數(shù)據(jù)來源有自發(fā)報告系統(tǒng)、電子健康記錄(EHR)、醫(yī)學(xué)文獻等,其中自發(fā)報告系統(tǒng)所收集的ADR報告和電子健康記錄較為常用。但是這些數(shù)據(jù)來源依舊有很多弊端,自發(fā)報告系統(tǒng)就存在錯報漏報、上報缺乏主觀能動性的缺陷,EHR文檔所涵蓋的數(shù)據(jù)范疇也并不全面,因此,系統(tǒng)全面的數(shù)據(jù)來源是開展ADR實體識別研究的關(guān)鍵。

    隨著互聯(lián)網(wǎng)的盛行,社交媒體已經(jīng)成為近年來ADR數(shù)據(jù)量大幅增長的領(lǐng)域之一。基于社交網(wǎng)絡(luò)的評論給ADR實體識別研究提供了寶貴的數(shù)據(jù)源,除了Twitter和微博社交平臺,還有一些專注于疾病和健康領(lǐng)域的網(wǎng)站,如國外的Dailystrenth、MedHelp、SteadyHealth以及國內(nèi)的“39健康網(wǎng)”“丁香園”和“尋醫(yī)問藥”,吸引一大批用戶通過發(fā)帖方式表達用藥或治療經(jīng)歷,或是向線上專業(yè)的醫(yī)護人員進行提問。這些包含大量ADR信息的網(wǎng)站近期成為ADR研究的重要數(shù)據(jù)源。除此以外,一些公開的語料數(shù)據(jù)庫或者比賽提供的數(shù)據(jù)集也是ADR實體識別研究常用的數(shù)據(jù)集,如MIMIC-III語料數(shù)據(jù)庫和n2c2數(shù)據(jù)集常用于各類實體識別研究。

    由此可見,無論是自發(fā)報告系統(tǒng)、社交媒體或是公開數(shù)據(jù)庫,都為ADR實體識別研究提供了新的視野,使得近幾年來ADR實體識別研究取得了明顯進展。

    4.2 數(shù)據(jù)集標注策略

    ADR實體識別數(shù)據(jù)集一般采用BIO、BIOE和BIOES等標注格式。在BIO標注格式中,B表示實體開端字符(Begin),I表示內(nèi)部(Inside),O表示外部(Outside)。BIOES是BIO的擴展,在BIO的基礎(chǔ)上,E表示一個詞處于某個實體的結(jié)束,S表示這個詞自己就可以組成一個實體(Single),O含義不變。在標注數(shù)據(jù)時,常采用以上兩種標注策略來進行ADR實體識別。由于BIOES具有更強的指向性和可識別度,因此能顯著提高識別效率,但后續(xù)出現(xiàn)的深度學(xué)習(xí)模型中學(xué)者們會更傾向于使用BIO標注。

    ADR 數(shù)據(jù)集通常有13 種標簽結(jié)果,分別為:“O”“B-Drug(藥品)”“I-Drug(藥品)”“BDose(劑量)”“I-Dose(劑量)”“B-Indication(適應(yīng)癥)”“I-Indication(適應(yīng)癥)”“B-Part(部位)”“IPart(部位)”“B-Symptom(癥狀)”“I-Symptom(癥狀)”“B-Time(時間)”“I-Time(時間)”。如“效果還行但副作用好大,吃了幾天后頭暈嗜睡,四肢無力”,經(jīng)BIO策略標注后為“效/O果/O還/O行/O但/O副/O作/O用/O好/O大/O,/O吃/O了/O幾/B-Time天/I-Time后/O頭/B-Symptom暈/I-Symptom嗜/I-Symptom睡/I-Symptom,/O四/B-Part肢/I-Part無/B-Symptom力/I-Symptom。/O”。

    4.3 評價指標

    ADR實體識別任務(wù)一般采用的評價指標包括精確率(Precision)、召回率(Recall)及F1值(F1-Measure)等。具體計算公式如下:

    其中,表示原本屬于正例的樣本被準確地分類為正例的數(shù)量,即正確識別為ADR實體的數(shù)量;表示原本為負例的樣本被錯誤地分類為正例的數(shù)量,即錯誤識別為ADR個體的數(shù)量;表示原本屬于正例的樣本被錯誤地分類為負例的數(shù)量,即錯誤地識別為非不良反應(yīng)的數(shù)量。

    5 ADR實體識別未來研究趨勢(Future research trend of ADR entity recognition)

    近年來科技發(fā)展迅速,各種實體識別方法層出不窮,但是如何解決ADR文本的復(fù)雜性、數(shù)據(jù)稀缺和實體嵌套等疑難點,更好地開展ADR實體識別研究仍然面臨著諸多挑戰(zhàn)?;贏DR實體識別廣闊的應(yīng)用前景,未來可以從以下三個方面對ADR實體識別開展研究:

    (1)模型創(chuàng)新,引入混合深度學(xué)習(xí)、持續(xù)學(xué)習(xí)、主動學(xué)習(xí)和多任務(wù)學(xué)習(xí)等前沿學(xué)習(xí)方法?;旌仙疃葘W(xué)習(xí)將傳統(tǒng)機器學(xué)習(xí)與主流的深度學(xué)習(xí)模型相結(jié)合,充分利用各學(xué)習(xí)方法的優(yōu)勢提高對多義詞、低頻實體等復(fù)雜實體的識別性能;持續(xù)學(xué)習(xí)在多個時間段的數(shù)據(jù)流中學(xué)習(xí),建立知識記憶以便在新知識的學(xué)習(xí)過程中不會忘記舊有的特征,減輕災(zāi)難性遺忘;主動學(xué)習(xí)通過選擇最有用未標記樣本,降低人工標注成本,有利于解決實體識別數(shù)據(jù)標注問題;多任務(wù)學(xué)習(xí)同時學(xué)習(xí)多個相關(guān)任務(wù),相比于單任務(wù)學(xué)習(xí),多任務(wù)學(xué)習(xí)能夠共享任務(wù)信息,提升泛化效果。這些前沿學(xué)習(xí)方法目前已經(jīng)常用于生物醫(yī)學(xué)命名實體識別領(lǐng)域,且效果較基礎(chǔ)模型有顯著提高,在該領(lǐng)域發(fā)揮了較為可觀的作用,因此后續(xù)可以在已有研究的基礎(chǔ)上引入這些學(xué)習(xí)方法來進一步提高ADR實體識別效果。

    (2)多特征融合,融合部首、詞性、字詞、詞典、依存句法分析及外部語義等多重特征。近年來,多特征融合在醫(yī)療實體識別領(lǐng)域應(yīng)用廣泛,能夠多方面抽取醫(yī)學(xué)專業(yè)領(lǐng)域知識,準確且完整地提取句子的特征信息,增強詞與詞之間的關(guān)聯(lián)性,充分挖掘文本上下文深層語義信息。而目前ADR實體識別領(lǐng)域相關(guān)模型向量特征表示過于單一,多特征融合方法尚未充分應(yīng)用,因此未來融合多特征也是提升ADR實體識別性能的一個方案。

    (3)構(gòu)建中文領(lǐng)域ADR實體識別大規(guī)模高質(zhì)量數(shù)據(jù)集。目前ADR實體識別研究通常需要大量的標注數(shù)據(jù),然而標注龐大的數(shù)據(jù)集需要大量的人力、時間和更多的領(lǐng)域?qū)<抑R。因此,如何利用小規(guī)模的標注語料構(gòu)建大規(guī)模的數(shù)據(jù)集是一個可參考的方向。未來或許可以整合現(xiàn)存的多個語料庫,利用自動化的方法進行數(shù)據(jù)集構(gòu)建來提高ADR實體識別的準確性。

    6 結(jié)論(Conclusion)

    目前,ADR實體識別是藥物警戒和智能醫(yī)療的熱門研究領(lǐng)域。本文首先分析了ADR實體識別目前面臨的問題;其次將現(xiàn)有ADR實體識別領(lǐng)域的研究方法進行歸納和分類,總結(jié)了包括基于規(guī)則和詞典、傳統(tǒng)機器學(xué)習(xí)、深度學(xué)習(xí)和遷移學(xué)習(xí)方法這四類ADR實體識別的方法與模型,分析得到當前基于遷移學(xué)習(xí)的方法在ADR實體識別任務(wù)上性能較優(yōu);接著介紹了ADR實體識別常用的數(shù)據(jù)集和當前較為流行的數(shù)據(jù)集標注策略以及評估指標;最后給出了ADR實體識別研究的研究趨勢,預(yù)計未來可以通過模型創(chuàng)新、多特征融合和構(gòu)建大規(guī)模高質(zhì)量數(shù)據(jù)集來提升ADR實體識別效果,為該領(lǐng)域深入研究提供參考。

    猜你喜歡
    實體神經(jīng)網(wǎng)絡(luò)領(lǐng)域
    前海自貿(mào)區(qū):金融服務(wù)實體
    中國外匯(2019年18期)2019-11-25 01:41:54
    神經(jīng)網(wǎng)絡(luò)抑制無線通信干擾探究
    電子制作(2019年19期)2019-11-23 08:42:00
    領(lǐng)域·對峙
    青年生活(2019年23期)2019-09-10 12:55:43
    實體的可感部分與實體——兼論亞里士多德分析實體的兩種模式
    兩會進行時:緊扣實體經(jīng)濟“釘釘子”
    振興實體經(jīng)濟地方如何“釘釘子”
    基于神經(jīng)網(wǎng)絡(luò)的拉矯機控制模型建立
    重型機械(2016年1期)2016-03-01 03:42:04
    復(fù)數(shù)神經(jīng)網(wǎng)絡(luò)在基于WiFi的室內(nèi)LBS應(yīng)用
    新常態(tài)下推動多層次多領(lǐng)域依法治理初探
    基于支持向量機回歸和RBF神經(jīng)網(wǎng)絡(luò)的PID整定
    netflix在线观看网站| 久久人妻av系列| 亚洲精品影视一区二区三区av| 国产亚洲欧美在线一区二区| 亚洲,欧美精品.| 久久国产乱子免费精品| 99国产极品粉嫩在线观看| 欧美一区二区精品小视频在线| 国产午夜福利久久久久久| 欧美不卡视频在线免费观看| 国产精品亚洲美女久久久| 观看免费一级毛片| 亚洲av电影不卡..在线观看| 色精品久久人妻99蜜桃| 欧美在线黄色| 中文字幕高清在线视频| 性色avwww在线观看| 久久这里只有精品中国| 午夜日韩欧美国产| 中文字幕精品亚洲无线码一区| 深爱激情五月婷婷| 少妇被粗大猛烈的视频| 国产精品一区二区三区四区免费观看 | 久久午夜亚洲精品久久| 最新中文字幕久久久久| 色5月婷婷丁香| 国产精品亚洲av一区麻豆| 国产一区二区亚洲精品在线观看| 国产精品一区二区性色av| 成人高潮视频无遮挡免费网站| 国产午夜精品论理片| 国产伦一二天堂av在线观看| 看片在线看免费视频| 亚洲人成网站高清观看| 人妻丰满熟妇av一区二区三区| 亚洲天堂国产精品一区在线| 亚洲精品乱码久久久v下载方式| 首页视频小说图片口味搜索| 很黄的视频免费| 给我免费播放毛片高清在线观看| 啪啪无遮挡十八禁网站| 精品免费久久久久久久清纯| 一夜夜www| 免费大片18禁| 啪啪无遮挡十八禁网站| 91在线精品国自产拍蜜月| 男女之事视频高清在线观看| 毛片一级片免费看久久久久 | 18禁黄网站禁片免费观看直播| av国产免费在线观看| 精品久久久久久久久亚洲 | 亚洲欧美日韩无卡精品| av在线观看视频网站免费| 久久国产乱子伦精品免费另类| 最新中文字幕久久久久| 亚洲,欧美精品.| 丰满乱子伦码专区| 亚洲欧美日韩高清在线视频| 国产亚洲av嫩草精品影院| 观看美女的网站| 99在线人妻在线中文字幕| 色综合站精品国产| 51午夜福利影视在线观看| 一边摸一边抽搐一进一小说| 午夜福利视频1000在线观看| 国产真实乱freesex| 亚洲欧美激情综合另类| 麻豆av噜噜一区二区三区| 国产久久久一区二区三区| 级片在线观看| 夜夜躁狠狠躁天天躁| 成人精品一区二区免费| 国产精品一区二区三区四区免费观看 | 男女做爰动态图高潮gif福利片| 亚洲av.av天堂| 国产私拍福利视频在线观看| 成年女人永久免费观看视频| 欧美日韩乱码在线| 一本一本综合久久| aaaaa片日本免费| 在线免费观看不下载黄p国产 | 精品欧美国产一区二区三| 99久国产av精品| 国产精品一区二区免费欧美| 窝窝影院91人妻| 在线播放无遮挡| 欧美不卡视频在线免费观看| 999久久久精品免费观看国产| 中文字幕av成人在线电影| 一级a爱片免费观看的视频| 日韩欧美一区二区三区在线观看| 床上黄色一级片| 久久6这里有精品| a在线观看视频网站| 麻豆成人午夜福利视频| 性色avwww在线观看| 国产欧美日韩一区二区精品| 欧美丝袜亚洲另类 | 日本在线视频免费播放| 国产欧美日韩精品一区二区| 欧美日本视频| 亚洲av二区三区四区| 身体一侧抽搐| 18禁黄网站禁片免费观看直播| 亚洲av美国av| 乱人视频在线观看| 久久亚洲真实| 狂野欧美白嫩少妇大欣赏| 国产精品永久免费网站| 麻豆一二三区av精品| 亚洲av五月六月丁香网| 日本黄大片高清| 欧美日本亚洲视频在线播放| 九九在线视频观看精品| 黄色日韩在线| 99国产极品粉嫩在线观看| 亚洲美女视频黄频| 亚洲国产欧美人成| 99久久无色码亚洲精品果冻| 麻豆成人午夜福利视频| 久久草成人影院| 国产色婷婷99| 日韩精品中文字幕看吧| 动漫黄色视频在线观看| 搡老岳熟女国产| 精品乱码久久久久久99久播| 舔av片在线| 啪啪无遮挡十八禁网站| 久久久国产成人精品二区| 怎么达到女性高潮| 国产乱人伦免费视频| 欧美一区二区精品小视频在线| 久久精品国产亚洲av香蕉五月| 欧美性猛交黑人性爽| 亚洲欧美清纯卡通| 久久草成人影院| 少妇的逼水好多| 在线a可以看的网站| 自拍偷自拍亚洲精品老妇| 97超视频在线观看视频| 91久久精品国产一区二区成人| 亚洲欧美激情综合另类| 欧美一级a爱片免费观看看| 日本熟妇午夜| 日韩人妻高清精品专区| 久久99热这里只有精品18| 国产精品爽爽va在线观看网站| 午夜老司机福利剧场| 国产精品久久久久久久久免 | 在线国产一区二区在线| 中文亚洲av片在线观看爽| 一a级毛片在线观看| 九九热线精品视视频播放| 欧美成人a在线观看| 亚洲人成电影免费在线| 中文在线观看免费www的网站| 成人精品一区二区免费| 成人高潮视频无遮挡免费网站| 日韩欧美 国产精品| 精品国产三级普通话版| 国产成年人精品一区二区| 搡老妇女老女人老熟妇| 久99久视频精品免费| 午夜久久久久精精品| 真人做人爱边吃奶动态| 国产成+人综合+亚洲专区| 国产精品久久久久久久电影| 久久精品国产自在天天线| 90打野战视频偷拍视频| 嫁个100分男人电影在线观看| 欧美3d第一页| 欧美一级a爱片免费观看看| 婷婷亚洲欧美| 老熟妇仑乱视频hdxx| 亚洲美女黄片视频| 精品久久国产蜜桃| 欧美xxxx黑人xx丫x性爽| 又爽又黄无遮挡网站| 可以在线观看毛片的网站| 免费av不卡在线播放| 婷婷色综合大香蕉| 国产精品三级大全| 免费观看的影片在线观看| 亚洲久久久久久中文字幕| 日本熟妇午夜| 欧美日本亚洲视频在线播放| 国产精品三级大全| 日韩有码中文字幕| 国产精品电影一区二区三区| 精品一区二区三区视频在线观看免费| 一进一出好大好爽视频| 亚洲国产精品成人综合色| 国产成人影院久久av| 国产成人欧美在线观看| 中文字幕高清在线视频| 在线a可以看的网站| 91av网一区二区| a级毛片a级免费在线| 国产亚洲av嫩草精品影院| 日本三级黄在线观看| 一个人看视频在线观看www免费| 999久久久精品免费观看国产| 少妇丰满av| 超碰av人人做人人爽久久| 别揉我奶头~嗯~啊~动态视频| 国产av一区在线观看免费| 国产伦一二天堂av在线观看| 免费在线观看影片大全网站| 久久精品国产亚洲av香蕉五月| 精品免费久久久久久久清纯| 国产淫片久久久久久久久 | 熟妇人妻久久中文字幕3abv| 日韩免费av在线播放| 日韩欧美三级三区| 男女视频在线观看网站免费| 99久久精品国产亚洲精品| 亚洲中文日韩欧美视频| 亚洲电影在线观看av| av欧美777| 亚洲性夜色夜夜综合| 午夜免费激情av| 国产精品永久免费网站| 日韩国内少妇激情av| 亚洲精品一区av在线观看| 琪琪午夜伦伦电影理论片6080| 成人无遮挡网站| 精品日产1卡2卡| 欧美高清成人免费视频www| 成人毛片a级毛片在线播放| 亚洲,欧美精品.| 欧美xxxx黑人xx丫x性爽| 人妻久久中文字幕网| 午夜精品一区二区三区免费看| 麻豆成人av在线观看| 男人舔女人下体高潮全视频| 少妇裸体淫交视频免费看高清| 一级黄片播放器| 真实男女啪啪啪动态图| 变态另类成人亚洲欧美熟女| 精品久久久久久,| 露出奶头的视频| 狂野欧美白嫩少妇大欣赏| 窝窝影院91人妻| 成年女人看的毛片在线观看| 精品一区二区免费观看| 69av精品久久久久久| 国产成人欧美在线观看| 中文字幕av在线有码专区| 中文字幕av成人在线电影| 国产av不卡久久| 久久午夜亚洲精品久久| 国产高清三级在线| 亚洲国产高清在线一区二区三| 精品一区二区免费观看| а√天堂www在线а√下载| 桃色一区二区三区在线观看| 日韩大尺度精品在线看网址| 一级黄色大片毛片| 国产蜜桃级精品一区二区三区| 男女视频在线观看网站免费| 成熟少妇高潮喷水视频| 天天一区二区日本电影三级| 欧美又色又爽又黄视频| 午夜福利免费观看在线| 国产美女午夜福利| 中文字幕高清在线视频| 国产乱人视频| 少妇的逼好多水| 亚洲最大成人手机在线| 精品久久久久久成人av| 亚洲av五月六月丁香网| 最新中文字幕久久久久| 日本a在线网址| 欧美3d第一页| 国产亚洲精品综合一区在线观看| 每晚都被弄得嗷嗷叫到高潮| 欧美精品国产亚洲| 青草久久国产| 中文在线观看免费www的网站| 免费av不卡在线播放| 精品乱码久久久久久99久播| 色精品久久人妻99蜜桃| 亚洲久久久久久中文字幕| 婷婷亚洲欧美| 亚洲精品成人久久久久久| 少妇裸体淫交视频免费看高清| 老司机午夜十八禁免费视频| 好看av亚洲va欧美ⅴa在| 久久热精品热| 国产成年人精品一区二区| 岛国在线免费视频观看| 一区二区三区免费毛片| 欧美高清性xxxxhd video| 伊人久久精品亚洲午夜| 国产爱豆传媒在线观看| 少妇丰满av| 99久久无色码亚洲精品果冻| 好男人在线观看高清免费视频| 女人被狂操c到高潮| 国产精品亚洲美女久久久| 久久欧美精品欧美久久欧美| 女生性感内裤真人,穿戴方法视频| 国产淫片久久久久久久久 | 观看免费一级毛片| 久久精品91蜜桃| 亚洲,欧美精品.| 欧美日韩福利视频一区二区| 成人一区二区视频在线观看| av在线蜜桃| 亚洲熟妇熟女久久| 禁无遮挡网站| 亚洲在线自拍视频| 女同久久另类99精品国产91| 男女做爰动态图高潮gif福利片| 天天躁日日操中文字幕| 中文字幕人妻熟人妻熟丝袜美| 成人特级黄色片久久久久久久| 美女高潮喷水抽搐中文字幕| 亚洲成av人片免费观看| 最近最新中文字幕大全电影3| 日本黄色视频三级网站网址| 日本精品一区二区三区蜜桃| 国产人妻一区二区三区在| 精品一区二区三区av网在线观看| 1000部很黄的大片| 少妇裸体淫交视频免费看高清| 内地一区二区视频在线| 精品一区二区三区视频在线观看免费| 女生性感内裤真人,穿戴方法视频| 久99久视频精品免费| 9191精品国产免费久久| 亚洲真实伦在线观看| 搡老妇女老女人老熟妇| 精品久久久久久成人av| 国产老妇女一区| 香蕉av资源在线| 欧美色视频一区免费| 淫妇啪啪啪对白视频| 亚洲成人久久性| 天堂动漫精品| 精品一区二区三区视频在线| 久久久精品大字幕| 久久久久久九九精品二区国产| 国产一区二区激情短视频| 国产美女午夜福利| 亚洲中文日韩欧美视频| 午夜福利18| 亚洲欧美日韩卡通动漫| 又爽又黄a免费视频| 国产视频一区二区在线看| 国产91精品成人一区二区三区| 18美女黄网站色大片免费观看| 国产在视频线在精品| 亚洲人成网站在线播放欧美日韩| 亚洲av.av天堂| 99国产综合亚洲精品| a在线观看视频网站| 亚洲人成网站在线播| 99热精品在线国产| 国产成人福利小说| 黄色视频,在线免费观看| 天天躁日日操中文字幕| 美女 人体艺术 gogo| 欧美日韩亚洲国产一区二区在线观看| 免费观看精品视频网站| 免费无遮挡裸体视频| 午夜福利18| 日韩欧美免费精品| 最近在线观看免费完整版| 欧美另类亚洲清纯唯美| 真人做人爱边吃奶动态| 国产精品亚洲一级av第二区| 亚洲av成人不卡在线观看播放网| 高清日韩中文字幕在线| 男女之事视频高清在线观看| 99在线视频只有这里精品首页| 直男gayav资源| 搡老熟女国产l中国老女人| 日韩中文字幕欧美一区二区| 精品久久久久久久久亚洲 | 一级黄色大片毛片| 美女大奶头视频| 最近最新免费中文字幕在线| 男女那种视频在线观看| 国内少妇人妻偷人精品xxx网站| 一级毛片久久久久久久久女| 日韩欧美在线二视频| 动漫黄色视频在线观看| 长腿黑丝高跟| x7x7x7水蜜桃| 国产精品一区二区三区四区免费观看 | 亚洲内射少妇av| 三级毛片av免费| 伦理电影大哥的女人| 久久中文看片网| 日本黄色片子视频| 成年女人看的毛片在线观看| 欧美性感艳星| 别揉我奶头 嗯啊视频| 亚洲成人久久性| 免费看美女性在线毛片视频| 久久久久精品国产欧美久久久| 999久久久精品免费观看国产| 五月玫瑰六月丁香| 无人区码免费观看不卡| 亚洲国产日韩欧美精品在线观看| 九九久久精品国产亚洲av麻豆| 成人av在线播放网站| 国产探花极品一区二区| 高清日韩中文字幕在线| 成人性生交大片免费视频hd| 伊人久久精品亚洲午夜| 国产91精品成人一区二区三区| 免费在线观看亚洲国产| 免费av不卡在线播放| 亚洲无线在线观看| 精品久久久久久久久久久久久| 欧美+亚洲+日韩+国产| 最近最新免费中文字幕在线| 九色国产91popny在线| 自拍偷自拍亚洲精品老妇| 欧美成人a在线观看| 在线国产一区二区在线| av欧美777| 亚洲成人久久爱视频| 欧美+日韩+精品| 色吧在线观看| 国产精品亚洲av一区麻豆| 国产午夜福利久久久久久| 有码 亚洲区| 国产成人啪精品午夜网站| 91午夜精品亚洲一区二区三区 | 精品免费久久久久久久清纯| 高潮久久久久久久久久久不卡| 日本免费一区二区三区高清不卡| 制服丝袜大香蕉在线| 国产aⅴ精品一区二区三区波| 久久欧美精品欧美久久欧美| 国模一区二区三区四区视频| 免费在线观看日本一区| 久久国产乱子伦精品免费另类| 真人一进一出gif抽搐免费| 日韩精品中文字幕看吧| 国产成人福利小说| 人妻久久中文字幕网| 91字幕亚洲| 久久久久国内视频| 成人永久免费在线观看视频| 久久久久久久久久黄片| 校园春色视频在线观看| 在线观看av片永久免费下载| 亚洲aⅴ乱码一区二区在线播放| 欧美日韩国产亚洲二区| 亚洲片人在线观看| 亚洲成人久久爱视频| 少妇高潮的动态图| 国产亚洲欧美在线一区二区| 人妻久久中文字幕网| 三级男女做爰猛烈吃奶摸视频| 国产精品日韩av在线免费观看| 91麻豆精品激情在线观看国产| 欧美成人a在线观看| 直男gayav资源| 亚洲av二区三区四区| 久久久久久久久久黄片| 国产精品嫩草影院av在线观看 | 99热这里只有精品一区| 久久久久久九九精品二区国产| 桃红色精品国产亚洲av| 国产成+人综合+亚洲专区| 女生性感内裤真人,穿戴方法视频| 尤物成人国产欧美一区二区三区| 国产午夜精品久久久久久一区二区三区 | 精品久久久久久久久av| 国产精品久久电影中文字幕| 自拍偷自拍亚洲精品老妇| 精品欧美国产一区二区三| 99久久九九国产精品国产免费| 欧美性猛交黑人性爽| 午夜精品一区二区三区免费看| 黄色女人牲交| 精品午夜福利视频在线观看一区| 又粗又爽又猛毛片免费看| 俺也久久电影网| 国内精品一区二区在线观看| 综合色av麻豆| 国产成人a区在线观看| 色噜噜av男人的天堂激情| 成年免费大片在线观看| 国产免费一级a男人的天堂| 国产成人影院久久av| 欧美日韩瑟瑟在线播放| 嫩草影院精品99| 99热精品在线国产| 一进一出好大好爽视频| 午夜福利成人在线免费观看| 人人妻,人人澡人人爽秒播| 久久九九热精品免费| 亚洲经典国产精华液单 | 国产在线精品亚洲第一网站| 久久精品国产自在天天线| 国产69精品久久久久777片| 欧美一区二区精品小视频在线| 18禁裸乳无遮挡免费网站照片| 欧美激情久久久久久爽电影| or卡值多少钱| 亚洲av中文字字幕乱码综合| 国产精品久久久久久精品电影| 蜜桃久久精品国产亚洲av| 美女大奶头视频| 99热这里只有是精品在线观看 | 亚洲人成电影免费在线| 国产午夜福利久久久久久| 男女视频在线观看网站免费| 欧美日韩瑟瑟在线播放| 亚洲av一区综合| 18+在线观看网站| 午夜福利免费观看在线| 欧美潮喷喷水| 变态另类丝袜制服| 久久国产精品人妻蜜桃| 99久久精品热视频| 欧洲精品卡2卡3卡4卡5卡区| 中文字幕人成人乱码亚洲影| 最新在线观看一区二区三区| 精品人妻1区二区| 国内精品久久久久久久电影| 人人妻,人人澡人人爽秒播| 国内精品久久久久久久电影| 久久久久亚洲av毛片大全| 18禁黄网站禁片午夜丰满| 我的老师免费观看完整版| 青草久久国产| 动漫黄色视频在线观看| 午夜福利视频1000在线观看| 亚洲人成网站在线播放欧美日韩| 欧美成人一区二区免费高清观看| 国产精品一区二区三区四区免费观看 | xxxwww97欧美| 国产高清视频在线播放一区| 1024手机看黄色片| 色哟哟哟哟哟哟| 精品欧美国产一区二区三| 身体一侧抽搐| 欧美色视频一区免费| 99久久久亚洲精品蜜臀av| 99在线视频只有这里精品首页| 国产一区二区三区视频了| 免费观看的影片在线观看| 欧美+日韩+精品| 黄色视频,在线免费观看| 在线国产一区二区在线| 琪琪午夜伦伦电影理论片6080| 日日夜夜操网爽| 久久久久久久午夜电影| 免费一级毛片在线播放高清视频| 国产成人福利小说| 午夜视频国产福利| 国产一区二区亚洲精品在线观看| 欧美潮喷喷水| 国产一区二区亚洲精品在线观看| 麻豆一二三区av精品| 亚洲精品粉嫩美女一区| 美女被艹到高潮喷水动态| 久久人人爽人人爽人人片va | 99视频精品全部免费 在线| 亚洲国产精品成人综合色| 国产黄片美女视频| 最近最新免费中文字幕在线| 久久国产精品影院| 99riav亚洲国产免费| 熟女电影av网| 久久性视频一级片| 全区人妻精品视频| 久久性视频一级片| 日本黄大片高清| 熟女人妻精品中文字幕| 97碰自拍视频| 麻豆av噜噜一区二区三区| 97人妻精品一区二区三区麻豆| 老司机福利观看| av欧美777| 乱码一卡2卡4卡精品| 亚洲精品色激情综合| 成人一区二区视频在线观看| 欧美一区二区国产精品久久精品| 天堂av国产一区二区熟女人妻| 嫩草影院精品99| 天天一区二区日本电影三级| 99久久无色码亚洲精品果冻| 女同久久另类99精品国产91| 久久久色成人| 久久久久久九九精品二区国产| 日韩 亚洲 欧美在线| 亚洲av成人不卡在线观看播放网| 亚洲一区高清亚洲精品| 日韩中字成人| 欧美国产日韩亚洲一区| 香蕉av资源在线| 中文字幕久久专区| 亚洲av日韩精品久久久久久密| 色5月婷婷丁香| 久久久久久久精品吃奶| 成人特级黄色片久久久久久久| 久久久色成人| 日韩欧美国产一区二区入口| 国产亚洲欧美98| 五月伊人婷婷丁香| 黄色丝袜av网址大全| 亚洲,欧美精品.| 美女被艹到高潮喷水动态| 乱人视频在线观看| 欧美日韩瑟瑟在线播放| 国模一区二区三区四区视频| 国产免费一级a男人的天堂|