• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    基于偽孿生網(wǎng)絡(luò)的政務(wù)實體鏈接模型

    2021-06-25 02:13:30姬美琳王德軍孟博孫貝爾
    關(guān)鍵詞:政務(wù)圖譜實體

    姬美琳,王德軍,孟博,孫貝爾

    (中南民族大學(xué) 計算機科學(xué)學(xué)院,武漢 430074)

    實體鏈接(Entity Linking, EL)[1]指將用戶問句中的實體指稱正確地鏈接到知識庫中的實體上,完成問句實體與候選實體的關(guān)聯(lián)匹配,解決同義詞和多義詞導(dǎo)致的歧義問題.實體鏈接是自動問答(Question Answering, QA)任務(wù)的核心環(huán)節(jié),是識別用戶問句意圖的關(guān)鍵步驟.實體鏈接過程中存在大規(guī)模的實體匹配計算,實體鏈接的準確性和響應(yīng)時間直接決定問答系統(tǒng)的性能.本文主要針對政務(wù)知識圖譜問答性能需求,研究滿足政務(wù)交互式問答應(yīng)用場景的高準確度、低響應(yīng)時延的實體鏈接模型.

    傳統(tǒng)的知識圖譜問答系統(tǒng)基于字符相似和統(tǒng)計學(xué)方法解決實體鏈接任務(wù),模型缺乏語義匹配能力,鏈接準確率低,不能充分滿足政務(wù)問答需求[2].基于深度學(xué)習(xí)的實體鏈接模型近年來成為研究熱點,利用神經(jīng)網(wǎng)絡(luò)強大的特征抽象能力,實體鏈接模型的語義表示能力和求解準確性得到較大提高,但模型計算復(fù)雜度高,模型的性能尚存在瓶頸[3],無法滿足政務(wù)領(lǐng)域交互式場景的實時性要求.此外,政務(wù)實體的標準名稱與公眾口語表述之間存在較大的差異,給政務(wù)實體鏈接任務(wù)帶來了挑戰(zhàn).

    針對政務(wù)領(lǐng)域圖譜問答需求,本文提出了一種基于偽孿生網(wǎng)絡(luò)架構(gòu)的政務(wù)實體鏈接模型,主要特點包括:(1)引入偽孿生網(wǎng)絡(luò)架構(gòu),解耦問句和候選實體的特征提取過程,通過預(yù)先計算候選實體的向量表示,降低鏈接過程中的計算復(fù)雜度;(2)將政務(wù)知識圖譜中實體的上下文子圖信息引入到候選實體特征提取過程,利用神經(jīng)網(wǎng)絡(luò)模型提取文本所蘊含的深層語義信息,增強模型對相似政務(wù)實體的區(qū)分力,提高鏈接的準確率.

    1 相關(guān)工作

    知識圖譜(Knowledge Graph,KG)[4]是一種結(jié)構(gòu)化的語義知識庫,具有強大的語義描述能力,在智能問答、個性化推薦等領(lǐng)域得到廣泛應(yīng)用.知識圖譜包含開放域(open domain)和限定域(closed domain)兩種類型,如Freebase[5]、DrugBank[6]等.開放域圖譜注重知識的廣度,通常采取自底向上方式從多源異構(gòu)的數(shù)據(jù)源中抽取、融合知識,構(gòu)建過程高度自動化,需要用戶對圖譜質(zhì)量有一定的容忍.限定域圖譜關(guān)注知識的深度,通常采取自頂向下方式從行業(yè)內(nèi)積淀的結(jié)構(gòu)化、半結(jié)構(gòu)化數(shù)據(jù)集中抽取知識,并在領(lǐng)域?qū)<抑笇?dǎo)下構(gòu)建,同時具有人工審核機制,構(gòu)建過程半自動化,因此限定域圖譜的質(zhì)量更高、語義信息更加豐富[7].政務(wù)知識圖譜本身屬于限定域,其涵蓋多個部門1500項以上個人、法人業(yè)務(wù)事項,圖譜規(guī)模較大,所支持的政務(wù)自動問答應(yīng)用屬于面向終端用戶的交互式服務(wù),應(yīng)用場景對實體鏈接的準確性和響應(yīng)時間具有綜合性能要求.政務(wù)問答應(yīng)用中,用戶問句屬于短文本,問句中實體指稱數(shù)量少,指稱上下文信息不足,無法通過聯(lián)合推理解決政務(wù)實體鏈接任務(wù).因此本文提出引入實體在政務(wù)知識圖譜中的上下文信息,增強實體的背景知識,從而提高模型在相似實體上的區(qū)分度.

    實體鏈接一般包含兩個子任務(wù):實體生成和實體消歧,相關(guān)研究一般通過這兩個階段提高鏈接任務(wù)的準確率.實體生成階段目的是生成候選實體集合,一般通過加入部分匹配、模糊匹配以及構(gòu)建別名詞典等方式來提高候選實體的召回率[8-10];實體消歧階段目的是從候選實體集合中選擇符合問句語義的目標實體,該階段主要有傳統(tǒng)基于字符相似、基于機器學(xué)習(xí)和基于深度學(xué)習(xí)的實體消歧算法[2].基于字符相似的鏈接算法一般通過字符相似度排序候選實體,如編輯距離等,這種方法忽略了問句實體指稱和候選實體的上下文信息,不適用于解決重名實體或者別名情況[11].基于機器學(xué)習(xí)的實體鏈接模型依賴人工提取的特征和高質(zhì)量的數(shù)據(jù)集,模型的移植性差,在缺乏標記數(shù)據(jù)的領(lǐng)域中,模型無法達到最佳效果[2].基于深度學(xué)習(xí)的實體鏈接算法核心在于將不同類型的文本信息映射到同一特征空間內(nèi),學(xué)習(xí)問句和候選實體的語義向量表示,通過向量相似性求解實體鏈接任務(wù).文獻[10]為了增強候選實體語義特征,利用候選實體的類別、關(guān)系以及知識庫鄰近實體節(jié)點的特征信息作為候選實體的表示方法,并在WebQuestions-SP外文知識庫問答數(shù)據(jù)集上驗證了算法的有效性,準確率達到88%.

    基于深度學(xué)習(xí)的實體鏈接模型雖然有效地提高了鏈接準確率,但是由于計算量大的缺點,模型響應(yīng)時間較長,很難滿足交互式場景下的應(yīng)用需求,模型的整體性能有待提升.孿生網(wǎng)絡(luò)(Siamese Network)[12]包含兩支相同結(jié)構(gòu)的網(wǎng)絡(luò)模型,通過共享參數(shù)方式優(yōu)化網(wǎng)絡(luò)模型結(jié)構(gòu),兩個子網(wǎng)計算過程相互獨立,常應(yīng)用于建模相似性比較任務(wù),在人臉識別、語義搜索等任務(wù)中得到廣泛應(yīng)用.文獻[13]基于孿生網(wǎng)絡(luò)提出SBERT模型,解決了基于BERT的語義搜索任務(wù)計算量大的問題,并且證明了模型具有學(xué)習(xí)句子語義化向量表示的能力.

    綜上所述,為了提高政務(wù)領(lǐng)域鏈接任務(wù)的準確率,并滿足交互式問答場景下的低時延需求,本文基于偽孿生網(wǎng)絡(luò)(Pseudo-Siamese Network)[14]解耦問句和候選實體的向量提取過程,通過預(yù)先提取所有候選實體的特征向量,減少模型在鏈接過程中的計算量,使得候選實體的特征抽取不再依賴于用戶輸入的問句,因此顯著地減少了模型的計算次數(shù),降低了響應(yīng)時間.同時,引入候選實體在知識圖譜中的上下文信息,填充實體背景知識以增強其語義特征,使得鏈接模型在區(qū)分相似實體上具有更好的效果,從而提高鏈接的準確率.

    2 政務(wù)實體鏈接模型

    2.1 實體上下文信息抽取

    影響政務(wù)實體鏈接任務(wù)準確性的關(guān)鍵因素是問句中實體指稱上下文信息不足,如何有效地挖掘問句及知識圖譜的深層語義信息,是提高政務(wù)實體鏈接任務(wù)準確性的重要因素.本文通過引入候選實體在知識圖譜中的上下文子圖信息,填充實體的背景知識,增強模型的語義匹配能力,從而提升實體鏈接效果.

    候選實體在知識圖譜中的上下文子圖信息包含實體名稱、實體類型、實體的結(jié)構(gòu)化屬性以及實體與其他實體間的語義關(guān)系.其中對實體鏈接任務(wù)具有價值的信息包括:候選實體的名稱特征(以N表示),候選實體的結(jié)構(gòu)化屬性特征(以S表示)以及候選實體的描述性文本摘要特征(以A表示).特征N包含了實體的標準名稱、常用名稱、別名、縮寫;特征S包含了實體的辦理條件、辦理材料、受理對象、辦理流程四個結(jié)構(gòu)化屬性特征;特征A主要通過獲取政務(wù)事項的法律依據(jù)、設(shè)定依據(jù)信息作為政務(wù)事項實體的文本摘要.

    本文所使用的政務(wù)知識圖譜數(shù)據(jù)來源于湖北省政務(wù)服務(wù)網(wǎng),政務(wù)服務(wù)網(wǎng)按照事項主題、辦事部門等類別梳理了多種政務(wù)領(lǐng)域數(shù)據(jù)信息,其提供的數(shù)據(jù)全面且權(quán)威,可以有效地增強實體的語義特征.以問句“公積金的身份證號碼錯了在哪里修改?”為例,問句正確的實體鏈接結(jié)果為“住房公積金個人賬戶信息變更服務(wù)”事項,如表 1所示為從政務(wù)知識圖譜中抽取的兩個政務(wù)事項實體上下文信息,所抽取的上下文信息將作為實體的背景知識,通過本文所提模型進行特征抽取,得到候選實體的語義向量表示.

    表1 政務(wù)事項實體上下文信息示例Tab.1 Examples of government affairs entity context information

    2.2 模型結(jié)構(gòu)設(shè)計

    政務(wù)實體鏈接模型需要支持編碼多元信息,并具有較高的計算效率和較低的時間復(fù)雜度,因此本文基于偽孿生網(wǎng)絡(luò)架構(gòu)提出一種新的政務(wù)實體鏈接模型,結(jié)構(gòu)如圖 1所示.網(wǎng)絡(luò)模型包含兩個非對稱的左右分支子網(wǎng),每個分支由嵌入層、卷積層、池化層和全連接層組成.其中嵌入層將問句詞序列和候選實體特征詞序列映射成低維稠密向量,得到初始輸入矩陣,本文使用BERT(Bidirectional Encoder Representations from Transformers)[15]作為嵌入層模型;卷積層進行局部特征提取工作,得到多個特征的向量表示;池化層用于降低向量維度;全連接層對池化后的向量進行線性映射,得到問句和候選實體的最終向量表示.兩個子網(wǎng)在嵌入層共享參數(shù),在其他層不共享參數(shù).

    圖1 政務(wù)實體鏈接模型結(jié)構(gòu)Fig.1 Structure of government affairs entity linking model

    左右分支子網(wǎng)分別負責編碼問句和候選實體的上下文信息,左側(cè)網(wǎng)絡(luò)用于提取問句的文本特征,得到問句的向量表示,右側(cè)網(wǎng)絡(luò)用于提取候選實體上下文信息特征,得到候選實體的向量表示.本文通過計算向量余弦距離得到問句與候選實體的語義相關(guān)度,并對實體鏈接的結(jié)果進行篩選和排序,選擇最高得分的候選實體作為目標實體返回.在鏈接過程中兩個子網(wǎng)絡(luò)相互獨立,模型預(yù)先計算出所有候選實體的特征向量并保存,然后接收用戶問句并提取問句特征,得到問句的特征向量,最后計算向量余弦距離,對候選實體進行打分排序.

    本文所提網(wǎng)絡(luò)模型主要具有以下優(yōu)點:(1)模型基于偽孿生網(wǎng)絡(luò)架構(gòu)解耦問句和候選實體的向量映射過程,使得候選實體的向量映射過程獨立于用戶實際輸入的問句,模型在鏈接過程中只需要針對問句進行一次特征提取,顯著地降低了模型的計算次數(shù),提高了模型計算速度;(2)融合BERT和CNN,提升了實體鏈接模型的語義表示能力和特征抽象能力,使得模型在政務(wù)領(lǐng)域?qū)嶓w鏈接任務(wù)上具有更好的表現(xiàn)力和預(yù)測效果.

    具體地,政務(wù)實體鏈接模型的計算過程包含問句特征向量映射、實體特征向量映射和語義相關(guān)度計算三個過程.

    2.3 模型計算過程

    2.3.1 問句向量映射

    問句的向量映射過程如圖 1左側(cè)子網(wǎng)所示,主要包含嵌入層、卷積層、池化層和全連接層,其中卷積層包含兩個一維卷積操作.問句query=(q1q2…qn),qn表示問句第n個詞短語,問句向量映射的具體計算過程如下:

    step1問句矩陣化表示:將問句轉(zhuǎn)換成BERT標準輸入序列“[CLS]q1q2…qn[SEP]”,通過獲取BERT最后一層每個詞短語的輸出向量作為問句的初始輸入矩陣Hq=(T1T2…Tn),其中Hq∈R|query|×d,|?|表示字符長度,d表示BERT模型輸出向量的維度大小.

    step2問句特征抽?。菏褂脙蓚€卷積核對Hq進行卷積操作,并通過最大池化層進行池化降維,得到問句兩個特征向量E′和E″.E′的計算如式(1)和式(2)所示:

    E′=max{c},

    (1)

    c=[c1,c2,…,cn-k+1],

    (2)

    其中E′∈R1×h,c∈Rh×(n-k+1),c為卷積操作的輸出矩陣,h為卷積操作的輸出通道大小,k為卷積核大小.對于單個卷積操作,計算如式(3)所示:

    ci,j=f(wHj:j-k+1+b),

    (3)

    其中w∈Rd×k,b∈R,Hj:j-k+1表示問句從第j到第j-k+1個詞短語所對應(yīng)的BERT輸出向量矩陣,f為非線性激活函數(shù).對于特征向量E″,其計算過程與E′相同,但是卷積核k的大小以及參數(shù)w和b不同.

    step3問句向量表示:將兩個特征向量E′和E″按行拼接,并輸入到全連接神經(jīng)網(wǎng)絡(luò)中進行線性映射,得到問句的向量表示Eq,計算公式如下:

    Eq=W′([E′,E″])+b′,

    (4)

    其中Eq∈R1×d′,W′與b′為全連接層的權(quán)值和偏置參數(shù),在訓(xùn)練中更新,且W′∈R2h×d′,b′∈R1×d′,d′表示鏈接模型輸出層詞向量的維度大小.

    2.3.2 實體向量映射

    候選實體e的向量映射過程具體如下:

    step1實體矩陣化表示:從知識圖譜中抽取實體e的上下文信息,并按照BERT的標準輸入格式構(gòu)建輸入序列,依次輸入到BERT模型中,獲取BERT最后一層的輸出向量,得到政務(wù)實體e的3個特征矩陣:HN、HS、HA,其中HN∈R|N|×d,HS∈R|S|×d,HA∈R|A|×d,|?|表示字符長度,d為BERT模型輸出向量的維度大小.

    step2實體特征抽?。簩嶓we的3個特征矩陣HN、HS、HA分別進行卷積操作,并通過最大池化層進行降維,得到3個特征向量:EN,ES,EA,每個特征的參數(shù)互不共享.

    step3實體向量表示:將3個特征向量EN、ES和EA按行拼接,并將得到的結(jié)果輸入到全連接神經(jīng)網(wǎng)絡(luò)中進行線性投影,得到實體e的特征向量表示Ee,計算公式如下:

    Ee=W″([EN,ES,EA])+b″,

    (5)

    其中Ee∈R1×d′,W″∈R3h×d′,b″∈R1×d′,d′表示鏈接模型輸出層詞向量的維度大小.

    通過式(4)和式(5)計算得到問句的向量表示Eq和候選實體e的向量表示Ee,本文通過拼接Eq和Ee進行二分類任務(wù),并使用softmax模型進行歸一化,從而得到用戶問句與候選實體e的語義相關(guān)度,計算公式如下:

    o=softmax(W(Eq,Ee)),

    (6)

    其中o為鏈接模型最終輸出的分類結(jié)果,代表問句與該候選實體的語義相關(guān)度,且W∈R2d′×2.

    2.3.3 模型訓(xùn)練與預(yù)測

    在訓(xùn)練過程中,實體鏈接模型共享BERT層參數(shù),其他層參數(shù)不共享,使用交叉熵函數(shù)作為模型的損失函數(shù).在預(yù)測過程中,模型主要存在兩個階段:初始化階段和語義搜索階段.初始化階段指預(yù)先計算出知識庫實體的特征向量表示,并加入到向量集合V中;語義搜索階段指接收用戶問句輸出鏈接的目標實體.具體來說,模型預(yù)測過程中首先計算知識庫中所有實體的特征向量并保存到集合V中,得到實體向量查詢表;然后接收用戶問句,使用jieba中文分詞工具切分問句,得到實體指稱短語集合,通過實體指稱短語召回知識庫中的相關(guān)實體,得到候選實體集合;最后通過實體鏈接模型左側(cè)子網(wǎng)對問句進行向量映射,得到問句的向量表示Eq,并通過式(7)計算問句和候選實體的語義相關(guān)度,通過閾值λ對結(jié)果進行篩選排序,按照式(8)從知識庫中選擇最高得分的實體作為鏈接結(jié)果返回,公式如下:

    (7)

    (8)

    3 實驗

    3.1 數(shù)據(jù)集

    政務(wù)領(lǐng)域缺乏相關(guān)公開數(shù)據(jù)集,為了驗證所提模型的有效性,本文利用網(wǎng)絡(luò)爬蟲技術(shù)獲取湖北省政務(wù)服務(wù)網(wǎng)15個區(qū)縣級政務(wù)事項的數(shù)據(jù)信息,得到2576條常見問題集,經(jīng)過人工清洗、拓展后得到常見問題集1900多條,獲得53個政務(wù)部門、400多個政務(wù)事項以及政務(wù)材料等信息,通過這些信息可以構(gòu)建起政務(wù)知識圖譜,作為政務(wù)實體上下文信息的知識來源.

    對于政務(wù)實體鏈接任務(wù)數(shù)據(jù)集的構(gòu)建策略如下:正抽樣(即問句對應(yīng)的標準政務(wù)實體)采取人工標注方法,標簽為“1”;負抽樣(反例數(shù)據(jù)集)來源于正抽樣的相似子項,標簽為“0”.每個政務(wù)服務(wù)事項都有所屬的上級父類,例如“個人公積金賬戶信息變更服務(wù)”事項,其父類為“公積金”類.本文首先對正抽樣的實體(以上述實體為例)進行中文分詞[16]操作,得到核心詞語“公積金”,使用“公積金”在知識庫中進行模糊查詢,從而得到反例數(shù)據(jù).本文最終獲得7100條實體鏈接數(shù)據(jù)集.

    3.2 評價指標

    給定一個政務(wù)問句,實體鏈接返回的結(jié)果為某個政務(wù)實體或者為空.以P表示模型預(yù)測的結(jié)果,O表示人工標注的結(jié)果,Pe和Oe表示鏈接到實體的指稱,Pn和On表示鏈接到空的實體指稱.當前針對實體鏈接模型的評測指標主要包含準確率(Accuracy)、精確率(Precision)、召回率(Recall)以及F1值,各指標的定義如下:

    (9)

    (10)

    (11)

    (12)

    3.3 參數(shù)設(shè)置

    實驗設(shè)備信息:CPU i5 8400,GPU Nvidia RTX 3070 8G.實體鏈接模型中參數(shù)設(shè)置如下:(1)本文使用BERT作為模型的嵌入層,得到用戶問句和候選實體的向量表示,其中問句的最大序列長度為64,實體特征N、特征S和特征A的最大序列長度分別為128、512和512;(2)問句卷積核大小分別設(shè)置為2和3;特征N的卷積核大小為2,特征S的卷積核大小為3,特征A的卷積核大小為2,步長均為1.模型的初始學(xué)習(xí)率為5×10-5,迭代20輪,嵌入層輸出的向量維度大小d為768,卷積層輸出的向量維度大小h為256,模型最終輸出的向量維度大小d′為128,問句與候選實體的語義相關(guān)度閾值λ取值為0.8.

    3.4 實驗結(jié)果

    為了驗證所提模型的準確性,在相同實驗環(huán)境下,本文選擇魏成志[17]提出的基于TF-IDF的政務(wù)實體鏈接模型進行對比,實驗結(jié)果如表 2所示.

    表2 不同算法實驗結(jié)果對比Tab.2 Comparison of experimental results of different algorithms

    從結(jié)果中可以看出,基于TF-IDF的政務(wù)實體鏈接模型準確率明顯低于本文所提模型準確率.通過分析發(fā)現(xiàn):基于TF-IDF的實體鏈接模型依據(jù)詞頻衡量候選實體的重要性,模型缺乏語義匹配能力,而本文提出的實體鏈接模型通過引入實體在知識圖譜中的上下文信息,豐富了實體的背景知識,使得模型在區(qū)分相似實體上具有更好的表現(xiàn),因此提高了鏈接準確率.如問句“買房子怎么提取公積金?”,本文所提模型由于融合了“購房公積金提取”的結(jié)構(gòu)化屬性知識,其“受理條件”的第一條:“在本市行政區(qū)域內(nèi)非按揭購買擁有所有權(quán)的自住住房”表明該政務(wù)事項適用于“購買”情況下提取公積金,因此使得最終鏈接的結(jié)果為“購房公積金提取”,而非“租房公積金提取”.

    本文進一步通過組合實體不同類型的上下文信息來探討其對鏈接準確率的影響,實驗結(jié)果如表 3所示.從結(jié)果中可以發(fā)現(xiàn)政務(wù)實體不同維度的上下文信息對模型的準確率有著不同的重要性,其中候選實體的名稱特征N和實體結(jié)構(gòu)化屬性特征S影響力相當.

    表3 不同上下文信息實驗結(jié)果Tab.3 Experimental results of different context information

    本文基于BERT作為問句和候選實體的向量嵌入層,為了驗證BERT的引入是否有利于提升政務(wù)實體鏈接模型的性能,本文進行了相關(guān)消融實驗.在相同的實驗環(huán)境下,使用傳統(tǒng)的靜態(tài)詞向量替換BERT,取得的結(jié)果如表 4所示.從結(jié)果中可以看出,通過遷移BERT模型可以提升政務(wù)實體鏈接模型的性能,從而驗證了BERT具有更強的語義表示能力.

    表4 消融實驗結(jié)果Tab.4 Results of ablation experiments

    為了證明所提模型在響應(yīng)時間上的優(yōu)越性,本文選擇曾宇濤等[18]提出的實體鏈接模型進行對比實驗.曾宇濤等基于深度學(xué)習(xí)技術(shù),提出一種面向知識庫問答的實體鏈接模型,模型接收“問句-實體”對形式的輸入樣本,在鏈接過程中,依賴用戶問句提取候選實體不同類型的語義特征.而本文所提模型解耦了問句和候選實體的特征提取過程,通過預(yù)先計算所有實體的語義向量表示,使得模型在預(yù)測過程中只需對問句進行向量映射,因此降低了模型的計算復(fù)雜度.具體來說,模型響應(yīng)時間包含候選實體集合生成和實體消歧兩個階段的時間,在相同的實驗環(huán)境下,當候選實體集合大小為30時,兩個模型的響應(yīng)時間隨著知識庫規(guī)模的變化曲線如圖 2所示,可以看出:隨著知識庫規(guī)模的增加,兩個模型的響應(yīng)時間也在增加,而本文所提模型的響應(yīng)時間明顯低于曾宇濤等提出的模型,由此證明了本文所提模型在響應(yīng)時間上的有效性.

    圖2 模型響應(yīng)時間Fig.2 Response time of model

    4 結(jié)語

    為了提升政務(wù)領(lǐng)域?qū)嶓w鏈接任務(wù)的準確率和計算效率,本文基于偽孿生網(wǎng)絡(luò),提出一種具有深度語義匹配能力的實體鏈接模型.實驗結(jié)果發(fā)現(xiàn):模型通過融合政務(wù)實體知識圖譜中的上下文信息,增強了模型的語義匹配能力,相比于現(xiàn)有基于統(tǒng)計學(xué)的政務(wù)實體鏈接模型,本文所提模型顯著地提高了鏈接任務(wù)的準確率;遷移BERT有助于提高政務(wù)領(lǐng)域?qū)嶓w鏈接模型的性能;模型基于偽孿生網(wǎng)絡(luò)解耦用戶問句和候選實體的特征提取過程,有效地減少了模型在鏈接過程中的計算量,提高了響應(yīng)速度,在10萬候選實體數(shù)據(jù)量下,鏈接時間在0.5 s左右,滿足政務(wù)問答交互式場景的使用需求.

    猜你喜歡
    政務(wù)圖譜實體
    繪一張成長圖譜
    前海自貿(mào)區(qū):金融服務(wù)實體
    中國外匯(2019年18期)2019-11-25 01:41:54
    實體的可感部分與實體——兼論亞里士多德分析實體的兩種模式
    補腎強身片UPLC指紋圖譜
    中成藥(2017年3期)2017-05-17 06:09:01
    兩會進行時:緊扣實體經(jīng)濟“釘釘子”
    振興實體經(jīng)濟地方如何“釘釘子”
    政務(wù)
    廣東飼料(2016年5期)2016-12-01 03:43:19
    政務(wù)
    廣東飼料(2016年3期)2016-12-01 03:43:09
    政務(wù)
    廣東飼料(2016年2期)2016-12-01 03:43:04
    政務(wù)
    廣東飼料(2016年1期)2016-12-01 03:42:58
    国产成人一区二区在线| 亚洲综合色惰| 色哟哟·www| 能在线免费看毛片的网站| 在线免费观看不下载黄p国产| 极品少妇高潮喷水抽搐| 女人久久www免费人成看片| 免费看a级黄色片| 色哟哟·www| 老司机影院成人| av黄色大香蕉| 91精品一卡2卡3卡4卡| 日本黄大片高清| 国产免费福利视频在线观看| 亚洲国产高清在线一区二区三| 国产欧美日韩精品一区二区| 国产色婷婷99| 91久久精品电影网| 国国产精品蜜臀av免费| 水蜜桃什么品种好| 看黄色毛片网站| 国产一级毛片七仙女欲春2| www.色视频.com| 一区二区三区四区激情视频| 国产91av在线免费观看| 久久久久久久久久久免费av| 99久久精品热视频| 最后的刺客免费高清国语| 欧美 日韩 精品 国产| 久久久精品免费免费高清| 成年女人看的毛片在线观看| 亚洲国产欧美在线一区| 国产淫片久久久久久久久| 免费黄频网站在线观看国产| 边亲边吃奶的免费视频| 男女国产视频网站| 国产视频内射| 国产成人freesex在线| 亚洲欧美精品专区久久| 久久久精品94久久精品| 51国产日韩欧美| 可以在线观看毛片的网站| 欧美xxⅹ黑人| 国产精品三级大全| 麻豆乱淫一区二区| 99re6热这里在线精品视频| 2022亚洲国产成人精品| 日韩成人av中文字幕在线观看| 韩国高清视频一区二区三区| 欧美日本视频| 亚洲乱码一区二区免费版| 国产精品爽爽va在线观看网站| 精品人妻熟女av久视频| 熟妇人妻久久中文字幕3abv| 在线观看一区二区三区| 午夜老司机福利剧场| av线在线观看网站| 肉色欧美久久久久久久蜜桃 | 亚洲av一区综合| 毛片女人毛片| 国产激情偷乱视频一区二区| 汤姆久久久久久久影院中文字幕 | 一级爰片在线观看| 久久久久久九九精品二区国产| 精品久久久久久久久av| 久久久久性生活片| 国产午夜精品论理片| 免费高清在线观看视频在线观看| 国产高清有码在线观看视频| 伊人久久国产一区二区| 成人亚洲欧美一区二区av| 亚洲综合色惰| 久99久视频精品免费| 午夜免费观看性视频| 91久久精品电影网| 日本av手机在线免费观看| 亚洲成人一二三区av| 亚洲,欧美,日韩| 亚洲欧美精品专区久久| 国产精品久久久久久av不卡| 欧美 日韩 精品 国产| 精品酒店卫生间| 哪个播放器可以免费观看大片| 少妇裸体淫交视频免费看高清| 青春草国产在线视频| 国产午夜精品一二区理论片| 日韩欧美精品v在线| 美女xxoo啪啪120秒动态图| 青春草国产在线视频| 在线播放无遮挡| 日韩精品青青久久久久久| 国产精品一区二区三区四区久久| 亚洲人与动物交配视频| 亚洲性久久影院| 深夜a级毛片| 两个人视频免费观看高清| 亚洲av电影不卡..在线观看| 你懂的网址亚洲精品在线观看| 久久久久久久久久黄片| 韩国av在线不卡| 国产成人一区二区在线| 亚洲av.av天堂| 99久国产av精品国产电影| 夜夜爽夜夜爽视频| 亚洲精品,欧美精品| 综合色丁香网| 天堂影院成人在线观看| 日韩人妻高清精品专区| 免费观看性生交大片5| 亚洲国产成人一精品久久久| 欧美日韩一区二区视频在线观看视频在线 | 午夜福利高清视频| av一本久久久久| 青春草国产在线视频| 亚洲最大成人中文| 黑人高潮一二区| 男人爽女人下面视频在线观看| 青春草视频在线免费观看| 国产乱人视频| 亚洲aⅴ乱码一区二区在线播放| 亚洲精品乱码久久久v下载方式| 三级男女做爰猛烈吃奶摸视频| 美女黄网站色视频| 免费在线观看成人毛片| 搞女人的毛片| 日韩欧美三级三区| 国产精品一二三区在线看| 十八禁网站网址无遮挡 | 国产欧美日韩精品一区二区| 亚洲精品久久久久久婷婷小说| 一级毛片久久久久久久久女| 国产在视频线在精品| 夫妻性生交免费视频一级片| 精品久久久久久久久av| 熟妇人妻不卡中文字幕| 男的添女的下面高潮视频| 国产高清国产精品国产三级 | 午夜激情福利司机影院| 黄色一级大片看看| 又粗又硬又长又爽又黄的视频| 三级毛片av免费| 国产伦在线观看视频一区| 国产不卡一卡二| 能在线免费看毛片的网站| 精品国内亚洲2022精品成人| 岛国毛片在线播放| 色网站视频免费| 最近中文字幕2019免费版| 91aial.com中文字幕在线观看| 国产黄色小视频在线观看| 伊人久久国产一区二区| 亚洲av国产av综合av卡| 午夜福利在线观看吧| 黄色欧美视频在线观看| 精华霜和精华液先用哪个| 插阴视频在线观看视频| 亚洲无线观看免费| 在线免费观看的www视频| 精品人妻熟女av久视频| 老司机影院毛片| 日本猛色少妇xxxxx猛交久久| 亚洲一区高清亚洲精品| 色视频www国产| 中文资源天堂在线| 日韩欧美三级三区| 久久久久久久大尺度免费视频| av福利片在线观看| 亚洲av一区综合| 国产在视频线在精品| 国内少妇人妻偷人精品xxx网站| 深爱激情五月婷婷| 久久久久久久亚洲中文字幕| 亚洲精品日韩av片在线观看| 精品一区二区三区视频在线| 国产精品1区2区在线观看.| 久久这里只有精品中国| 少妇人妻精品综合一区二区| 国产老妇女一区| 久久久精品94久久精品| 丝袜喷水一区| 久久精品国产自在天天线| 日本一二三区视频观看| 国产探花极品一区二区| 日韩av免费高清视频| 日本黄色片子视频| 寂寞人妻少妇视频99o| 久久久久久国产a免费观看| 国产一级毛片在线| 永久免费av网站大全| 国产精品女同一区二区软件| 天堂网av新在线| 国产亚洲5aaaaa淫片| 91精品伊人久久大香线蕉| 精品久久久噜噜| 亚洲欧美精品专区久久| 国产精品一区www在线观看| 十八禁网站网址无遮挡 | 亚洲精品一二三| 热99在线观看视频| 亚洲成人一二三区av| 免费观看在线日韩| 啦啦啦中文免费视频观看日本| 观看免费一级毛片| 免费观看a级毛片全部| 禁无遮挡网站| 亚洲经典国产精华液单| 青春草亚洲视频在线观看| 直男gayav资源| 日韩人妻高清精品专区| 高清欧美精品videossex| 日日摸夜夜添夜夜添av毛片| 一级毛片 在线播放| 天堂俺去俺来也www色官网 | 日韩欧美精品免费久久| 久久精品国产亚洲av涩爱| 丰满人妻一区二区三区视频av| 韩国av在线不卡| 99视频精品全部免费 在线| 国产精品爽爽va在线观看网站| 亚洲图色成人| 91aial.com中文字幕在线观看| 国产亚洲精品久久久com| 搞女人的毛片| 亚洲最大成人av| 国产乱人偷精品视频| 亚洲激情五月婷婷啪啪| 日韩亚洲欧美综合| 免费av不卡在线播放| 丰满乱子伦码专区| 国产高清三级在线| 精品一区二区免费观看| 91精品国产九色| 三级国产精品欧美在线观看| 午夜老司机福利剧场| 欧美+日韩+精品| 爱豆传媒免费全集在线观看| 国产在线一区二区三区精| 亚洲真实伦在线观看| 一级毛片我不卡| 国产精品不卡视频一区二区| 午夜激情久久久久久久| 久久久a久久爽久久v久久| 久久国产乱子免费精品| 午夜激情欧美在线| 欧美精品一区二区大全| 久久国内精品自在自线图片| 亚洲精华国产精华液的使用体验| 美女黄网站色视频| 精品亚洲乱码少妇综合久久| 少妇人妻一区二区三区视频| 欧美xxxx性猛交bbbb| 欧美最新免费一区二区三区| 搡老妇女老女人老熟妇| 欧美高清成人免费视频www| 亚洲av男天堂| 国产91av在线免费观看| 日本色播在线视频| 99热全是精品| 国产午夜福利久久久久久| 一夜夜www| 成人午夜精彩视频在线观看| 国产精品国产三级国产av玫瑰| 超碰97精品在线观看| 国产精品一区二区性色av| 欧美激情在线99| 欧美高清成人免费视频www| 日韩三级伦理在线观看| 日韩欧美国产在线观看| 久久99热这里只有精品18| 国产精品国产三级国产专区5o| 插逼视频在线观看| 男女视频在线观看网站免费| 国产精品99久久久久久久久| 欧美另类一区| 久久这里有精品视频免费| 亚洲av.av天堂| 欧美 日韩 精品 国产| 边亲边吃奶的免费视频| 偷拍熟女少妇极品色| 99热这里只有精品一区| 欧美最新免费一区二区三区| 夫妻午夜视频| 一级黄片播放器| 内射极品少妇av片p| 美女大奶头视频| 卡戴珊不雅视频在线播放| 亚洲精品乱码久久久v下载方式| 欧美日韩综合久久久久久| 777米奇影视久久| 国产中年淑女户外野战色| 中国美白少妇内射xxxbb| 精华霜和精华液先用哪个| 性色avwww在线观看| 黄色欧美视频在线观看| 中文字幕av成人在线电影| 免费大片18禁| 欧美成人精品欧美一级黄| 欧美最新免费一区二区三区| 国产亚洲91精品色在线| 99热全是精品| 国产男女超爽视频在线观看| 久久韩国三级中文字幕| 国内精品一区二区在线观看| 久久久久久久午夜电影| 99热这里只有是精品在线观看| 伦精品一区二区三区| 亚洲av中文av极速乱| 免费电影在线观看免费观看| 午夜老司机福利剧场| 中文字幕久久专区| 日韩人妻高清精品专区| 美女xxoo啪啪120秒动态图| 特大巨黑吊av在线直播| 一个人看的www免费观看视频| 高清日韩中文字幕在线| 久久久久精品性色| 亚洲在久久综合| 91aial.com中文字幕在线观看| 日本av手机在线免费观看| 国产在视频线在精品| 午夜福利高清视频| 有码 亚洲区| 国产乱人偷精品视频| 26uuu在线亚洲综合色| 久久99热6这里只有精品| 22中文网久久字幕| 精品人妻熟女av久视频| 成人毛片a级毛片在线播放| 最近手机中文字幕大全| 美女脱内裤让男人舔精品视频| 一个人观看的视频www高清免费观看| 日日摸夜夜添夜夜添av毛片| 一级毛片久久久久久久久女| 精品少妇黑人巨大在线播放| 69人妻影院| 中国美白少妇内射xxxbb| 亚洲精品国产成人久久av| av专区在线播放| 国产亚洲91精品色在线| 精品一区二区三卡| 色哟哟·www| 成年女人在线观看亚洲视频 | 亚洲va在线va天堂va国产| 久久久久久久久久人人人人人人| 亚洲高清免费不卡视频| 美女脱内裤让男人舔精品视频| 久久6这里有精品| 熟妇人妻久久中文字幕3abv| 免费看美女性在线毛片视频| kizo精华| 久久久精品94久久精品| 国产精品不卡视频一区二区| 免费看美女性在线毛片视频| 国产一区二区三区综合在线观看 | 国产精品一及| 国产大屁股一区二区在线视频| 国产伦精品一区二区三区视频9| 国产精品久久久久久精品电影小说 | 亚洲图色成人| 高清日韩中文字幕在线| 亚洲在线自拍视频| 国产成人精品婷婷| 精品久久久久久久人妻蜜臀av| www.色视频.com| 精品人妻一区二区三区麻豆| 99久久中文字幕三级久久日本| 日韩欧美国产在线观看| 一本—道久久a久久精品蜜桃钙片 精品乱码久久久久久99久播 | 天堂网av新在线| 亚洲国产欧美在线一区| 午夜免费观看性视频| 亚洲国产欧美人成| 久久亚洲国产成人精品v| av在线天堂中文字幕| 亚洲欧美成人精品一区二区| 18禁在线播放成人免费| 看免费成人av毛片| 国产精品久久视频播放| 色网站视频免费| 丰满少妇做爰视频| 大话2 男鬼变身卡| 国产麻豆成人av免费视频| 22中文网久久字幕| 色视频www国产| 国产真实伦视频高清在线观看| 色视频www国产| 亚洲欧美日韩无卡精品| 熟妇人妻不卡中文字幕| av免费在线看不卡| 免费观看精品视频网站| 国产精品一区二区三区四区久久| 精品久久久久久久人妻蜜臀av| 激情五月婷婷亚洲| 小蜜桃在线观看免费完整版高清| 一级毛片久久久久久久久女| 色综合色国产| 欧美日韩国产mv在线观看视频 | 国产成人一区二区在线| 女人十人毛片免费观看3o分钟| 国产成人freesex在线| 欧美激情在线99| 成年版毛片免费区| 美女cb高潮喷水在线观看| 欧美三级亚洲精品| 简卡轻食公司| 久久99蜜桃精品久久| 啦啦啦啦在线视频资源| 久久国产乱子免费精品| 色尼玛亚洲综合影院| 色吧在线观看| 国产伦精品一区二区三区四那| 国产亚洲最大av| 国产午夜精品一二区理论片| 校园人妻丝袜中文字幕| av天堂中文字幕网| 毛片女人毛片| 亚洲精品亚洲一区二区| 蜜桃亚洲精品一区二区三区| 热99在线观看视频| 国产色爽女视频免费观看| av免费在线看不卡| 日韩视频在线欧美| 听说在线观看完整版免费高清| 亚洲性久久影院| 搡老妇女老女人老熟妇| 亚洲成人av在线免费| 插阴视频在线观看视频| ponron亚洲| 国产中年淑女户外野战色| 亚洲欧美日韩无卡精品| 精品亚洲乱码少妇综合久久| 久久人人爽人人爽人人片va| 午夜免费男女啪啪视频观看| 啦啦啦中文免费视频观看日本| 精品酒店卫生间| 一级毛片我不卡| 精品一区二区三区人妻视频| 午夜激情福利司机影院| 日韩中字成人| 天堂影院成人在线观看| 午夜激情久久久久久久| 日日摸夜夜添夜夜添av毛片| 91精品伊人久久大香线蕉| 熟女电影av网| 最近的中文字幕免费完整| 国产一区二区三区av在线| 久久久久久久大尺度免费视频| www.色视频.com| 精品一区二区三卡| 欧美一区二区亚洲| av天堂中文字幕网| 能在线免费观看的黄片| 91av网一区二区| 伊人久久国产一区二区| 床上黄色一级片| 免费av观看视频| 成人午夜高清在线视频| 在线a可以看的网站| 97热精品久久久久久| 午夜福利网站1000一区二区三区| 一级黄片播放器| 美女主播在线视频| 日韩欧美国产在线观看| 国产黄a三级三级三级人| av在线亚洲专区| 69av精品久久久久久| 亚洲国产高清在线一区二区三| 老司机影院成人| 国产黄色免费在线视频| 亚洲国产成人一精品久久久| 国产一区亚洲一区在线观看| 看黄色毛片网站| 国产av国产精品国产| 老司机影院毛片| 久久久久精品性色| av免费观看日本| 亚洲国产精品国产精品| 久久精品综合一区二区三区| 亚洲欧美日韩东京热| 好男人视频免费观看在线| 亚洲欧美精品自产自拍| 久久久久性生活片| 男女下面进入的视频免费午夜| 女的被弄到高潮叫床怎么办| 国产真实伦视频高清在线观看| 非洲黑人性xxxx精品又粗又长| 欧美xxⅹ黑人| 午夜免费激情av| 成年版毛片免费区| 两个人视频免费观看高清| 国产午夜精品论理片| 我要看日韩黄色一级片| 18+在线观看网站| 亚洲国产欧美人成| 午夜免费观看性视频| 国产av不卡久久| 国产探花在线观看一区二区| 亚洲av成人av| 国产探花在线观看一区二区| 美女黄网站色视频| 国产精品麻豆人妻色哟哟久久 | 激情 狠狠 欧美| 高清午夜精品一区二区三区| 欧美日韩国产mv在线观看视频 | 韩国高清视频一区二区三区| av播播在线观看一区| 高清在线视频一区二区三区| 国产亚洲最大av| 看十八女毛片水多多多| 成年人午夜在线观看视频 | 少妇人妻精品综合一区二区| 亚洲欧美成人综合另类久久久| 欧美一级a爱片免费观看看| 乱人视频在线观看| 美女脱内裤让男人舔精品视频| 非洲黑人性xxxx精品又粗又长| 日韩不卡一区二区三区视频在线| 国产伦精品一区二区三区四那| 欧美激情在线99| 亚洲精品aⅴ在线观看| 国产精品久久久久久久久免| 国产成人精品婷婷| 久久久久国产网址| 在线免费十八禁| 亚洲精品日韩av片在线观看| 夜夜爽夜夜爽视频| 成人漫画全彩无遮挡| 欧美不卡视频在线免费观看| 毛片女人毛片| 亚洲精品久久久久久婷婷小说| 一级av片app| 亚洲怡红院男人天堂| 欧美97在线视频| 国产视频首页在线观看| 99久久九九国产精品国产免费| 午夜福利视频1000在线观看| 亚洲av国产av综合av卡| 久久久久久久大尺度免费视频| 美女黄网站色视频| 国产成人午夜福利电影在线观看| 两个人视频免费观看高清| 在线天堂最新版资源| 国产美女午夜福利| 亚洲熟女精品中文字幕| 99热这里只有是精品50| 最近视频中文字幕2019在线8| av福利片在线观看| 在线免费观看不下载黄p国产| 3wmmmm亚洲av在线观看| 国产大屁股一区二区在线视频| 欧美另类一区| 搞女人的毛片| 最近手机中文字幕大全| 日韩av在线免费看完整版不卡| 亚洲国产成人一精品久久久| 黑人高潮一二区| 高清视频免费观看一区二区 | .国产精品久久| 国产人妻一区二区三区在| 亚洲欧美精品专区久久| 亚洲天堂国产精品一区在线| 色哟哟·www| 免费大片黄手机在线观看| 大香蕉97超碰在线| 亚洲欧美精品专区久久| 中文在线观看免费www的网站| 精品一区在线观看国产| 亚洲经典国产精华液单| 熟女人妻精品中文字幕| 亚洲精品日韩av片在线观看| 国产高清三级在线| 美女xxoo啪啪120秒动态图| 三级男女做爰猛烈吃奶摸视频| 国产精品美女特级片免费视频播放器| 欧美日韩精品成人综合77777| av在线老鸭窝| 男女国产视频网站| h日本视频在线播放| 久99久视频精品免费| 久久精品国产自在天天线| 可以在线观看毛片的网站| 国产av国产精品国产| 一级毛片黄色毛片免费观看视频| 非洲黑人性xxxx精品又粗又长| 久久国产乱子免费精品| 青春草视频在线免费观看| 性插视频无遮挡在线免费观看| 身体一侧抽搐| 日本三级黄在线观看| 噜噜噜噜噜久久久久久91| 免费无遮挡裸体视频| 人妻少妇偷人精品九色| 亚洲成人中文字幕在线播放| 黄色欧美视频在线观看| 国产黄片视频在线免费观看| 精品一区二区三区人妻视频| 国产v大片淫在线免费观看| 亚洲av福利一区| 天天一区二区日本电影三级| 国产亚洲av嫩草精品影院| 日本午夜av视频| 国产日韩欧美在线精品| 一夜夜www| av在线蜜桃| 欧美日韩亚洲高清精品| av又黄又爽大尺度在线免费看| 内射极品少妇av片p| 日韩亚洲欧美综合| 亚洲精品成人久久久久久| 久久精品熟女亚洲av麻豆精品 | 国产综合懂色| 偷拍熟女少妇极品色| 日本-黄色视频高清免费观看| 亚洲精品中文字幕在线视频 | 色综合亚洲欧美另类图片|