• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    基于偽孿生網(wǎng)絡(luò)的政務(wù)實體鏈接模型

    2021-06-25 02:13:30姬美琳王德軍孟博孫貝爾
    關(guān)鍵詞:政務(wù)圖譜實體

    姬美琳,王德軍,孟博,孫貝爾

    (中南民族大學(xué) 計算機科學(xué)學(xué)院,武漢 430074)

    實體鏈接(Entity Linking, EL)[1]指將用戶問句中的實體指稱正確地鏈接到知識庫中的實體上,完成問句實體與候選實體的關(guān)聯(lián)匹配,解決同義詞和多義詞導(dǎo)致的歧義問題.實體鏈接是自動問答(Question Answering, QA)任務(wù)的核心環(huán)節(jié),是識別用戶問句意圖的關(guān)鍵步驟.實體鏈接過程中存在大規(guī)模的實體匹配計算,實體鏈接的準確性和響應(yīng)時間直接決定問答系統(tǒng)的性能.本文主要針對政務(wù)知識圖譜問答性能需求,研究滿足政務(wù)交互式問答應(yīng)用場景的高準確度、低響應(yīng)時延的實體鏈接模型.

    傳統(tǒng)的知識圖譜問答系統(tǒng)基于字符相似和統(tǒng)計學(xué)方法解決實體鏈接任務(wù),模型缺乏語義匹配能力,鏈接準確率低,不能充分滿足政務(wù)問答需求[2].基于深度學(xué)習(xí)的實體鏈接模型近年來成為研究熱點,利用神經(jīng)網(wǎng)絡(luò)強大的特征抽象能力,實體鏈接模型的語義表示能力和求解準確性得到較大提高,但模型計算復(fù)雜度高,模型的性能尚存在瓶頸[3],無法滿足政務(wù)領(lǐng)域交互式場景的實時性要求.此外,政務(wù)實體的標準名稱與公眾口語表述之間存在較大的差異,給政務(wù)實體鏈接任務(wù)帶來了挑戰(zhàn).

    針對政務(wù)領(lǐng)域圖譜問答需求,本文提出了一種基于偽孿生網(wǎng)絡(luò)架構(gòu)的政務(wù)實體鏈接模型,主要特點包括:(1)引入偽孿生網(wǎng)絡(luò)架構(gòu),解耦問句和候選實體的特征提取過程,通過預(yù)先計算候選實體的向量表示,降低鏈接過程中的計算復(fù)雜度;(2)將政務(wù)知識圖譜中實體的上下文子圖信息引入到候選實體特征提取過程,利用神經(jīng)網(wǎng)絡(luò)模型提取文本所蘊含的深層語義信息,增強模型對相似政務(wù)實體的區(qū)分力,提高鏈接的準確率.

    1 相關(guān)工作

    知識圖譜(Knowledge Graph,KG)[4]是一種結(jié)構(gòu)化的語義知識庫,具有強大的語義描述能力,在智能問答、個性化推薦等領(lǐng)域得到廣泛應(yīng)用.知識圖譜包含開放域(open domain)和限定域(closed domain)兩種類型,如Freebase[5]、DrugBank[6]等.開放域圖譜注重知識的廣度,通常采取自底向上方式從多源異構(gòu)的數(shù)據(jù)源中抽取、融合知識,構(gòu)建過程高度自動化,需要用戶對圖譜質(zhì)量有一定的容忍.限定域圖譜關(guān)注知識的深度,通常采取自頂向下方式從行業(yè)內(nèi)積淀的結(jié)構(gòu)化、半結(jié)構(gòu)化數(shù)據(jù)集中抽取知識,并在領(lǐng)域?qū)<抑笇?dǎo)下構(gòu)建,同時具有人工審核機制,構(gòu)建過程半自動化,因此限定域圖譜的質(zhì)量更高、語義信息更加豐富[7].政務(wù)知識圖譜本身屬于限定域,其涵蓋多個部門1500項以上個人、法人業(yè)務(wù)事項,圖譜規(guī)模較大,所支持的政務(wù)自動問答應(yīng)用屬于面向終端用戶的交互式服務(wù),應(yīng)用場景對實體鏈接的準確性和響應(yīng)時間具有綜合性能要求.政務(wù)問答應(yīng)用中,用戶問句屬于短文本,問句中實體指稱數(shù)量少,指稱上下文信息不足,無法通過聯(lián)合推理解決政務(wù)實體鏈接任務(wù).因此本文提出引入實體在政務(wù)知識圖譜中的上下文信息,增強實體的背景知識,從而提高模型在相似實體上的區(qū)分度.

    實體鏈接一般包含兩個子任務(wù):實體生成和實體消歧,相關(guān)研究一般通過這兩個階段提高鏈接任務(wù)的準確率.實體生成階段目的是生成候選實體集合,一般通過加入部分匹配、模糊匹配以及構(gòu)建別名詞典等方式來提高候選實體的召回率[8-10];實體消歧階段目的是從候選實體集合中選擇符合問句語義的目標實體,該階段主要有傳統(tǒng)基于字符相似、基于機器學(xué)習(xí)和基于深度學(xué)習(xí)的實體消歧算法[2].基于字符相似的鏈接算法一般通過字符相似度排序候選實體,如編輯距離等,這種方法忽略了問句實體指稱和候選實體的上下文信息,不適用于解決重名實體或者別名情況[11].基于機器學(xué)習(xí)的實體鏈接模型依賴人工提取的特征和高質(zhì)量的數(shù)據(jù)集,模型的移植性差,在缺乏標記數(shù)據(jù)的領(lǐng)域中,模型無法達到最佳效果[2].基于深度學(xué)習(xí)的實體鏈接算法核心在于將不同類型的文本信息映射到同一特征空間內(nèi),學(xué)習(xí)問句和候選實體的語義向量表示,通過向量相似性求解實體鏈接任務(wù).文獻[10]為了增強候選實體語義特征,利用候選實體的類別、關(guān)系以及知識庫鄰近實體節(jié)點的特征信息作為候選實體的表示方法,并在WebQuestions-SP外文知識庫問答數(shù)據(jù)集上驗證了算法的有效性,準確率達到88%.

    基于深度學(xué)習(xí)的實體鏈接模型雖然有效地提高了鏈接準確率,但是由于計算量大的缺點,模型響應(yīng)時間較長,很難滿足交互式場景下的應(yīng)用需求,模型的整體性能有待提升.孿生網(wǎng)絡(luò)(Siamese Network)[12]包含兩支相同結(jié)構(gòu)的網(wǎng)絡(luò)模型,通過共享參數(shù)方式優(yōu)化網(wǎng)絡(luò)模型結(jié)構(gòu),兩個子網(wǎng)計算過程相互獨立,常應(yīng)用于建模相似性比較任務(wù),在人臉識別、語義搜索等任務(wù)中得到廣泛應(yīng)用.文獻[13]基于孿生網(wǎng)絡(luò)提出SBERT模型,解決了基于BERT的語義搜索任務(wù)計算量大的問題,并且證明了模型具有學(xué)習(xí)句子語義化向量表示的能力.

    綜上所述,為了提高政務(wù)領(lǐng)域鏈接任務(wù)的準確率,并滿足交互式問答場景下的低時延需求,本文基于偽孿生網(wǎng)絡(luò)(Pseudo-Siamese Network)[14]解耦問句和候選實體的向量提取過程,通過預(yù)先提取所有候選實體的特征向量,減少模型在鏈接過程中的計算量,使得候選實體的特征抽取不再依賴于用戶輸入的問句,因此顯著地減少了模型的計算次數(shù),降低了響應(yīng)時間.同時,引入候選實體在知識圖譜中的上下文信息,填充實體背景知識以增強其語義特征,使得鏈接模型在區(qū)分相似實體上具有更好的效果,從而提高鏈接的準確率.

    2 政務(wù)實體鏈接模型

    2.1 實體上下文信息抽取

    影響政務(wù)實體鏈接任務(wù)準確性的關(guān)鍵因素是問句中實體指稱上下文信息不足,如何有效地挖掘問句及知識圖譜的深層語義信息,是提高政務(wù)實體鏈接任務(wù)準確性的重要因素.本文通過引入候選實體在知識圖譜中的上下文子圖信息,填充實體的背景知識,增強模型的語義匹配能力,從而提升實體鏈接效果.

    候選實體在知識圖譜中的上下文子圖信息包含實體名稱、實體類型、實體的結(jié)構(gòu)化屬性以及實體與其他實體間的語義關(guān)系.其中對實體鏈接任務(wù)具有價值的信息包括:候選實體的名稱特征(以N表示),候選實體的結(jié)構(gòu)化屬性特征(以S表示)以及候選實體的描述性文本摘要特征(以A表示).特征N包含了實體的標準名稱、常用名稱、別名、縮寫;特征S包含了實體的辦理條件、辦理材料、受理對象、辦理流程四個結(jié)構(gòu)化屬性特征;特征A主要通過獲取政務(wù)事項的法律依據(jù)、設(shè)定依據(jù)信息作為政務(wù)事項實體的文本摘要.

    本文所使用的政務(wù)知識圖譜數(shù)據(jù)來源于湖北省政務(wù)服務(wù)網(wǎng),政務(wù)服務(wù)網(wǎng)按照事項主題、辦事部門等類別梳理了多種政務(wù)領(lǐng)域數(shù)據(jù)信息,其提供的數(shù)據(jù)全面且權(quán)威,可以有效地增強實體的語義特征.以問句“公積金的身份證號碼錯了在哪里修改?”為例,問句正確的實體鏈接結(jié)果為“住房公積金個人賬戶信息變更服務(wù)”事項,如表 1所示為從政務(wù)知識圖譜中抽取的兩個政務(wù)事項實體上下文信息,所抽取的上下文信息將作為實體的背景知識,通過本文所提模型進行特征抽取,得到候選實體的語義向量表示.

    表1 政務(wù)事項實體上下文信息示例Tab.1 Examples of government affairs entity context information

    2.2 模型結(jié)構(gòu)設(shè)計

    政務(wù)實體鏈接模型需要支持編碼多元信息,并具有較高的計算效率和較低的時間復(fù)雜度,因此本文基于偽孿生網(wǎng)絡(luò)架構(gòu)提出一種新的政務(wù)實體鏈接模型,結(jié)構(gòu)如圖 1所示.網(wǎng)絡(luò)模型包含兩個非對稱的左右分支子網(wǎng),每個分支由嵌入層、卷積層、池化層和全連接層組成.其中嵌入層將問句詞序列和候選實體特征詞序列映射成低維稠密向量,得到初始輸入矩陣,本文使用BERT(Bidirectional Encoder Representations from Transformers)[15]作為嵌入層模型;卷積層進行局部特征提取工作,得到多個特征的向量表示;池化層用于降低向量維度;全連接層對池化后的向量進行線性映射,得到問句和候選實體的最終向量表示.兩個子網(wǎng)在嵌入層共享參數(shù),在其他層不共享參數(shù).

    圖1 政務(wù)實體鏈接模型結(jié)構(gòu)Fig.1 Structure of government affairs entity linking model

    左右分支子網(wǎng)分別負責編碼問句和候選實體的上下文信息,左側(cè)網(wǎng)絡(luò)用于提取問句的文本特征,得到問句的向量表示,右側(cè)網(wǎng)絡(luò)用于提取候選實體上下文信息特征,得到候選實體的向量表示.本文通過計算向量余弦距離得到問句與候選實體的語義相關(guān)度,并對實體鏈接的結(jié)果進行篩選和排序,選擇最高得分的候選實體作為目標實體返回.在鏈接過程中兩個子網(wǎng)絡(luò)相互獨立,模型預(yù)先計算出所有候選實體的特征向量并保存,然后接收用戶問句并提取問句特征,得到問句的特征向量,最后計算向量余弦距離,對候選實體進行打分排序.

    本文所提網(wǎng)絡(luò)模型主要具有以下優(yōu)點:(1)模型基于偽孿生網(wǎng)絡(luò)架構(gòu)解耦問句和候選實體的向量映射過程,使得候選實體的向量映射過程獨立于用戶實際輸入的問句,模型在鏈接過程中只需要針對問句進行一次特征提取,顯著地降低了模型的計算次數(shù),提高了模型計算速度;(2)融合BERT和CNN,提升了實體鏈接模型的語義表示能力和特征抽象能力,使得模型在政務(wù)領(lǐng)域?qū)嶓w鏈接任務(wù)上具有更好的表現(xiàn)力和預(yù)測效果.

    具體地,政務(wù)實體鏈接模型的計算過程包含問句特征向量映射、實體特征向量映射和語義相關(guān)度計算三個過程.

    2.3 模型計算過程

    2.3.1 問句向量映射

    問句的向量映射過程如圖 1左側(cè)子網(wǎng)所示,主要包含嵌入層、卷積層、池化層和全連接層,其中卷積層包含兩個一維卷積操作.問句query=(q1q2…qn),qn表示問句第n個詞短語,問句向量映射的具體計算過程如下:

    step1問句矩陣化表示:將問句轉(zhuǎn)換成BERT標準輸入序列“[CLS]q1q2…qn[SEP]”,通過獲取BERT最后一層每個詞短語的輸出向量作為問句的初始輸入矩陣Hq=(T1T2…Tn),其中Hq∈R|query|×d,|?|表示字符長度,d表示BERT模型輸出向量的維度大小.

    step2問句特征抽?。菏褂脙蓚€卷積核對Hq進行卷積操作,并通過最大池化層進行池化降維,得到問句兩個特征向量E′和E″.E′的計算如式(1)和式(2)所示:

    E′=max{c},

    (1)

    c=[c1,c2,…,cn-k+1],

    (2)

    其中E′∈R1×h,c∈Rh×(n-k+1),c為卷積操作的輸出矩陣,h為卷積操作的輸出通道大小,k為卷積核大小.對于單個卷積操作,計算如式(3)所示:

    ci,j=f(wHj:j-k+1+b),

    (3)

    其中w∈Rd×k,b∈R,Hj:j-k+1表示問句從第j到第j-k+1個詞短語所對應(yīng)的BERT輸出向量矩陣,f為非線性激活函數(shù).對于特征向量E″,其計算過程與E′相同,但是卷積核k的大小以及參數(shù)w和b不同.

    step3問句向量表示:將兩個特征向量E′和E″按行拼接,并輸入到全連接神經(jīng)網(wǎng)絡(luò)中進行線性映射,得到問句的向量表示Eq,計算公式如下:

    Eq=W′([E′,E″])+b′,

    (4)

    其中Eq∈R1×d′,W′與b′為全連接層的權(quán)值和偏置參數(shù),在訓(xùn)練中更新,且W′∈R2h×d′,b′∈R1×d′,d′表示鏈接模型輸出層詞向量的維度大小.

    2.3.2 實體向量映射

    候選實體e的向量映射過程具體如下:

    step1實體矩陣化表示:從知識圖譜中抽取實體e的上下文信息,并按照BERT的標準輸入格式構(gòu)建輸入序列,依次輸入到BERT模型中,獲取BERT最后一層的輸出向量,得到政務(wù)實體e的3個特征矩陣:HN、HS、HA,其中HN∈R|N|×d,HS∈R|S|×d,HA∈R|A|×d,|?|表示字符長度,d為BERT模型輸出向量的維度大小.

    step2實體特征抽?。簩嶓we的3個特征矩陣HN、HS、HA分別進行卷積操作,并通過最大池化層進行降維,得到3個特征向量:EN,ES,EA,每個特征的參數(shù)互不共享.

    step3實體向量表示:將3個特征向量EN、ES和EA按行拼接,并將得到的結(jié)果輸入到全連接神經(jīng)網(wǎng)絡(luò)中進行線性投影,得到實體e的特征向量表示Ee,計算公式如下:

    Ee=W″([EN,ES,EA])+b″,

    (5)

    其中Ee∈R1×d′,W″∈R3h×d′,b″∈R1×d′,d′表示鏈接模型輸出層詞向量的維度大小.

    通過式(4)和式(5)計算得到問句的向量表示Eq和候選實體e的向量表示Ee,本文通過拼接Eq和Ee進行二分類任務(wù),并使用softmax模型進行歸一化,從而得到用戶問句與候選實體e的語義相關(guān)度,計算公式如下:

    o=softmax(W(Eq,Ee)),

    (6)

    其中o為鏈接模型最終輸出的分類結(jié)果,代表問句與該候選實體的語義相關(guān)度,且W∈R2d′×2.

    2.3.3 模型訓(xùn)練與預(yù)測

    在訓(xùn)練過程中,實體鏈接模型共享BERT層參數(shù),其他層參數(shù)不共享,使用交叉熵函數(shù)作為模型的損失函數(shù).在預(yù)測過程中,模型主要存在兩個階段:初始化階段和語義搜索階段.初始化階段指預(yù)先計算出知識庫實體的特征向量表示,并加入到向量集合V中;語義搜索階段指接收用戶問句輸出鏈接的目標實體.具體來說,模型預(yù)測過程中首先計算知識庫中所有實體的特征向量并保存到集合V中,得到實體向量查詢表;然后接收用戶問句,使用jieba中文分詞工具切分問句,得到實體指稱短語集合,通過實體指稱短語召回知識庫中的相關(guān)實體,得到候選實體集合;最后通過實體鏈接模型左側(cè)子網(wǎng)對問句進行向量映射,得到問句的向量表示Eq,并通過式(7)計算問句和候選實體的語義相關(guān)度,通過閾值λ對結(jié)果進行篩選排序,按照式(8)從知識庫中選擇最高得分的實體作為鏈接結(jié)果返回,公式如下:

    (7)

    (8)

    3 實驗

    3.1 數(shù)據(jù)集

    政務(wù)領(lǐng)域缺乏相關(guān)公開數(shù)據(jù)集,為了驗證所提模型的有效性,本文利用網(wǎng)絡(luò)爬蟲技術(shù)獲取湖北省政務(wù)服務(wù)網(wǎng)15個區(qū)縣級政務(wù)事項的數(shù)據(jù)信息,得到2576條常見問題集,經(jīng)過人工清洗、拓展后得到常見問題集1900多條,獲得53個政務(wù)部門、400多個政務(wù)事項以及政務(wù)材料等信息,通過這些信息可以構(gòu)建起政務(wù)知識圖譜,作為政務(wù)實體上下文信息的知識來源.

    對于政務(wù)實體鏈接任務(wù)數(shù)據(jù)集的構(gòu)建策略如下:正抽樣(即問句對應(yīng)的標準政務(wù)實體)采取人工標注方法,標簽為“1”;負抽樣(反例數(shù)據(jù)集)來源于正抽樣的相似子項,標簽為“0”.每個政務(wù)服務(wù)事項都有所屬的上級父類,例如“個人公積金賬戶信息變更服務(wù)”事項,其父類為“公積金”類.本文首先對正抽樣的實體(以上述實體為例)進行中文分詞[16]操作,得到核心詞語“公積金”,使用“公積金”在知識庫中進行模糊查詢,從而得到反例數(shù)據(jù).本文最終獲得7100條實體鏈接數(shù)據(jù)集.

    3.2 評價指標

    給定一個政務(wù)問句,實體鏈接返回的結(jié)果為某個政務(wù)實體或者為空.以P表示模型預(yù)測的結(jié)果,O表示人工標注的結(jié)果,Pe和Oe表示鏈接到實體的指稱,Pn和On表示鏈接到空的實體指稱.當前針對實體鏈接模型的評測指標主要包含準確率(Accuracy)、精確率(Precision)、召回率(Recall)以及F1值,各指標的定義如下:

    (9)

    (10)

    (11)

    (12)

    3.3 參數(shù)設(shè)置

    實驗設(shè)備信息:CPU i5 8400,GPU Nvidia RTX 3070 8G.實體鏈接模型中參數(shù)設(shè)置如下:(1)本文使用BERT作為模型的嵌入層,得到用戶問句和候選實體的向量表示,其中問句的最大序列長度為64,實體特征N、特征S和特征A的最大序列長度分別為128、512和512;(2)問句卷積核大小分別設(shè)置為2和3;特征N的卷積核大小為2,特征S的卷積核大小為3,特征A的卷積核大小為2,步長均為1.模型的初始學(xué)習(xí)率為5×10-5,迭代20輪,嵌入層輸出的向量維度大小d為768,卷積層輸出的向量維度大小h為256,模型最終輸出的向量維度大小d′為128,問句與候選實體的語義相關(guān)度閾值λ取值為0.8.

    3.4 實驗結(jié)果

    為了驗證所提模型的準確性,在相同實驗環(huán)境下,本文選擇魏成志[17]提出的基于TF-IDF的政務(wù)實體鏈接模型進行對比,實驗結(jié)果如表 2所示.

    表2 不同算法實驗結(jié)果對比Tab.2 Comparison of experimental results of different algorithms

    從結(jié)果中可以看出,基于TF-IDF的政務(wù)實體鏈接模型準確率明顯低于本文所提模型準確率.通過分析發(fā)現(xiàn):基于TF-IDF的實體鏈接模型依據(jù)詞頻衡量候選實體的重要性,模型缺乏語義匹配能力,而本文提出的實體鏈接模型通過引入實體在知識圖譜中的上下文信息,豐富了實體的背景知識,使得模型在區(qū)分相似實體上具有更好的表現(xiàn),因此提高了鏈接準確率.如問句“買房子怎么提取公積金?”,本文所提模型由于融合了“購房公積金提取”的結(jié)構(gòu)化屬性知識,其“受理條件”的第一條:“在本市行政區(qū)域內(nèi)非按揭購買擁有所有權(quán)的自住住房”表明該政務(wù)事項適用于“購買”情況下提取公積金,因此使得最終鏈接的結(jié)果為“購房公積金提取”,而非“租房公積金提取”.

    本文進一步通過組合實體不同類型的上下文信息來探討其對鏈接準確率的影響,實驗結(jié)果如表 3所示.從結(jié)果中可以發(fā)現(xiàn)政務(wù)實體不同維度的上下文信息對模型的準確率有著不同的重要性,其中候選實體的名稱特征N和實體結(jié)構(gòu)化屬性特征S影響力相當.

    表3 不同上下文信息實驗結(jié)果Tab.3 Experimental results of different context information

    本文基于BERT作為問句和候選實體的向量嵌入層,為了驗證BERT的引入是否有利于提升政務(wù)實體鏈接模型的性能,本文進行了相關(guān)消融實驗.在相同的實驗環(huán)境下,使用傳統(tǒng)的靜態(tài)詞向量替換BERT,取得的結(jié)果如表 4所示.從結(jié)果中可以看出,通過遷移BERT模型可以提升政務(wù)實體鏈接模型的性能,從而驗證了BERT具有更強的語義表示能力.

    表4 消融實驗結(jié)果Tab.4 Results of ablation experiments

    為了證明所提模型在響應(yīng)時間上的優(yōu)越性,本文選擇曾宇濤等[18]提出的實體鏈接模型進行對比實驗.曾宇濤等基于深度學(xué)習(xí)技術(shù),提出一種面向知識庫問答的實體鏈接模型,模型接收“問句-實體”對形式的輸入樣本,在鏈接過程中,依賴用戶問句提取候選實體不同類型的語義特征.而本文所提模型解耦了問句和候選實體的特征提取過程,通過預(yù)先計算所有實體的語義向量表示,使得模型在預(yù)測過程中只需對問句進行向量映射,因此降低了模型的計算復(fù)雜度.具體來說,模型響應(yīng)時間包含候選實體集合生成和實體消歧兩個階段的時間,在相同的實驗環(huán)境下,當候選實體集合大小為30時,兩個模型的響應(yīng)時間隨著知識庫規(guī)模的變化曲線如圖 2所示,可以看出:隨著知識庫規(guī)模的增加,兩個模型的響應(yīng)時間也在增加,而本文所提模型的響應(yīng)時間明顯低于曾宇濤等提出的模型,由此證明了本文所提模型在響應(yīng)時間上的有效性.

    圖2 模型響應(yīng)時間Fig.2 Response time of model

    4 結(jié)語

    為了提升政務(wù)領(lǐng)域?qū)嶓w鏈接任務(wù)的準確率和計算效率,本文基于偽孿生網(wǎng)絡(luò),提出一種具有深度語義匹配能力的實體鏈接模型.實驗結(jié)果發(fā)現(xiàn):模型通過融合政務(wù)實體知識圖譜中的上下文信息,增強了模型的語義匹配能力,相比于現(xiàn)有基于統(tǒng)計學(xué)的政務(wù)實體鏈接模型,本文所提模型顯著地提高了鏈接任務(wù)的準確率;遷移BERT有助于提高政務(wù)領(lǐng)域?qū)嶓w鏈接模型的性能;模型基于偽孿生網(wǎng)絡(luò)解耦用戶問句和候選實體的特征提取過程,有效地減少了模型在鏈接過程中的計算量,提高了響應(yīng)速度,在10萬候選實體數(shù)據(jù)量下,鏈接時間在0.5 s左右,滿足政務(wù)問答交互式場景的使用需求.

    猜你喜歡
    政務(wù)圖譜實體
    繪一張成長圖譜
    前海自貿(mào)區(qū):金融服務(wù)實體
    中國外匯(2019年18期)2019-11-25 01:41:54
    實體的可感部分與實體——兼論亞里士多德分析實體的兩種模式
    補腎強身片UPLC指紋圖譜
    中成藥(2017年3期)2017-05-17 06:09:01
    兩會進行時:緊扣實體經(jīng)濟“釘釘子”
    振興實體經(jīng)濟地方如何“釘釘子”
    政務(wù)
    廣東飼料(2016年5期)2016-12-01 03:43:19
    政務(wù)
    廣東飼料(2016年3期)2016-12-01 03:43:09
    政務(wù)
    廣東飼料(2016年2期)2016-12-01 03:43:04
    政務(wù)
    廣東飼料(2016年1期)2016-12-01 03:42:58
    亚洲欧美激情综合另类| 亚洲色图av天堂| 欧美一级毛片孕妇| 久久久久久久精品吃奶| 久久中文看片网| 亚洲,欧美精品.| 成人特级黄色片久久久久久久| 婷婷丁香在线五月| 桃红色精品国产亚洲av| 在线天堂中文资源库| 日韩免费av在线播放| 欧美 亚洲 国产 日韩一| 国产单亲对白刺激| 男女下面插进去视频免费观看| 精品国产美女av久久久久小说| 成人av一区二区三区在线看| 亚洲专区字幕在线| 级片在线观看| 亚洲人成电影免费在线| cao死你这个sao货| 久久久久久久午夜电影| 神马国产精品三级电影在线观看 | 国产视频一区二区在线看| 亚洲情色 制服丝袜| 操美女的视频在线观看| 欧美成人一区二区免费高清观看 | 麻豆久久精品国产亚洲av| 黑人操中国人逼视频| 久久热在线av| 女人被狂操c到高潮| 久久天躁狠狠躁夜夜2o2o| 午夜福利一区二区在线看| 涩涩av久久男人的天堂| 久久精品亚洲精品国产色婷小说| 亚洲欧美精品综合久久99| 中文字幕人妻熟女乱码| 天天添夜夜摸| 亚洲片人在线观看| 少妇粗大呻吟视频| www日本在线高清视频| 人妻丰满熟妇av一区二区三区| 成人三级做爰电影| 成人手机av| 国产成人精品久久二区二区91| 亚洲无线在线观看| 黄片小视频在线播放| 久久久国产欧美日韩av| 日本黄色视频三级网站网址| 国产精品免费视频内射| 精品久久久久久成人av| 91国产中文字幕| 欧美日韩乱码在线| 亚洲熟妇熟女久久| 国产精品久久久av美女十八| 亚洲中文字幕一区二区三区有码在线看 | 精品人妻在线不人妻| 两个人免费观看高清视频| 久久影院123| 一区二区三区国产精品乱码| 9色porny在线观看| 亚洲人成网站在线播放欧美日韩| 欧美激情极品国产一区二区三区| 黑丝袜美女国产一区| 黄片播放在线免费| 97人妻精品一区二区三区麻豆 | 91在线观看av| 国产私拍福利视频在线观看| av在线播放免费不卡| 91字幕亚洲| 不卡一级毛片| 亚洲中文字幕一区二区三区有码在线看 | 亚洲国产精品999在线| 老司机在亚洲福利影院| 亚洲天堂国产精品一区在线| 中文字幕另类日韩欧美亚洲嫩草| 国产精品av久久久久免费| 满18在线观看网站| 男人的好看免费观看在线视频 | 一本综合久久免费| 亚洲欧美日韩高清在线视频| 成人18禁高潮啪啪吃奶动态图| 女人精品久久久久毛片| 久久久久国内视频| 99国产精品一区二区蜜桃av| 国产精品av久久久久免费| 午夜福利,免费看| 美女高潮到喷水免费观看| 午夜福利,免费看| 免费看美女性在线毛片视频| 美女高潮喷水抽搐中文字幕| 国产精品二区激情视频| 久久亚洲精品不卡| 国产精品免费一区二区三区在线| 国产91精品成人一区二区三区| 亚洲激情在线av| 日韩三级视频一区二区三区| 人人妻人人爽人人添夜夜欢视频| 午夜福利一区二区在线看| avwww免费| 少妇被粗大的猛进出69影院| 黄片小视频在线播放| 美女高潮到喷水免费观看| 亚洲七黄色美女视频| a级毛片在线看网站| 国产精品 国内视频| 在线观看一区二区三区| 日日爽夜夜爽网站| 日日夜夜操网爽| 国产精品一区二区在线不卡| 自拍欧美九色日韩亚洲蝌蚪91| 女人精品久久久久毛片| svipshipincom国产片| 人妻丰满熟妇av一区二区三区| 午夜日韩欧美国产| 欧美激情久久久久久爽电影 | 搡老岳熟女国产| 丁香欧美五月| 黑人巨大精品欧美一区二区蜜桃| 黄网站色视频无遮挡免费观看| 一二三四在线观看免费中文在| 国产亚洲精品av在线| 岛国在线观看网站| 黄色成人免费大全| 美女国产高潮福利片在线看| 九色亚洲精品在线播放| 一边摸一边抽搐一进一小说| 波多野结衣高清无吗| 丰满人妻熟妇乱又伦精品不卡| 久久久久久国产a免费观看| 成人国产综合亚洲| 99香蕉大伊视频| 久久亚洲精品不卡| 国产伦一二天堂av在线观看| 欧美人与性动交α欧美精品济南到| 啦啦啦免费观看视频1| 此物有八面人人有两片| 纯流量卡能插随身wifi吗| 老司机午夜福利在线观看视频| 在线免费观看的www视频| 一本大道久久a久久精品| 午夜精品久久久久久毛片777| 午夜a级毛片| 国产精品亚洲美女久久久| 后天国语完整版免费观看| 国产免费av片在线观看野外av| 搡老熟女国产l中国老女人| 欧美色视频一区免费| 国产一卡二卡三卡精品| 国产熟女xx| 亚洲人成电影免费在线| 99热只有精品国产| 天天一区二区日本电影三级 | 9色porny在线观看| 黄色视频不卡| 9色porny在线观看| 免费看十八禁软件| 国产高清激情床上av| 欧美精品啪啪一区二区三区| 亚洲欧美激情综合另类| av超薄肉色丝袜交足视频| 亚洲色图 男人天堂 中文字幕| 男人的好看免费观看在线视频 | 看黄色毛片网站| 50天的宝宝边吃奶边哭怎么回事| 麻豆国产av国片精品| 久久久水蜜桃国产精品网| 国产99白浆流出| 精品第一国产精品| 亚洲人成电影观看| 1024香蕉在线观看| 成年版毛片免费区| 自拍欧美九色日韩亚洲蝌蚪91| 国产亚洲精品久久久久5区| 伊人久久大香线蕉亚洲五| 国内精品久久久久精免费| 欧美最黄视频在线播放免费| 最近最新中文字幕大全电影3 | 亚洲欧美激情综合另类| 窝窝影院91人妻| 亚洲中文字幕一区二区三区有码在线看 | 欧美激情高清一区二区三区| 51午夜福利影视在线观看| 在线观看日韩欧美| 久久人妻av系列| 国产成人免费无遮挡视频| 中文亚洲av片在线观看爽| 日韩 欧美 亚洲 中文字幕| 中文字幕人妻丝袜一区二区| 久久久久久久精品吃奶| 久99久视频精品免费| 国产精品一区二区免费欧美| 丁香六月欧美| 777久久人妻少妇嫩草av网站| 999久久久国产精品视频| 日韩欧美一区视频在线观看| 午夜精品国产一区二区电影| 无遮挡黄片免费观看| 国产精品久久久人人做人人爽| 国产三级黄色录像| 18禁裸乳无遮挡免费网站照片 | 精品久久久久久,| 亚洲精品国产精品久久久不卡| 一夜夜www| 不卡av一区二区三区| 久久人妻av系列| 亚洲最大成人中文| 村上凉子中文字幕在线| 色综合站精品国产| av超薄肉色丝袜交足视频| 男人操女人黄网站| 久久久久国产一级毛片高清牌| 国产精品电影一区二区三区| 黄色成人免费大全| 波多野结衣高清无吗| 女生性感内裤真人,穿戴方法视频| 国产成人精品久久二区二区91| 桃红色精品国产亚洲av| 欧美色欧美亚洲另类二区 | 亚洲精品一区av在线观看| 久久香蕉国产精品| 国产成人精品久久二区二区91| 又大又爽又粗| 久久久久国产一级毛片高清牌| 黄色a级毛片大全视频| 两性午夜刺激爽爽歪歪视频在线观看 | 免费高清视频大片| 免费搜索国产男女视频| 在线天堂中文资源库| a级毛片在线看网站| 极品人妻少妇av视频| 夜夜躁狠狠躁天天躁| 国产精品一区二区精品视频观看| 精品国产一区二区三区四区第35| 两个人视频免费观看高清| 免费不卡黄色视频| 久久精品91蜜桃| 亚洲性夜色夜夜综合| 色尼玛亚洲综合影院| 日韩欧美国产一区二区入口| 久久午夜亚洲精品久久| 免费在线观看视频国产中文字幕亚洲| 岛国视频午夜一区免费看| 操美女的视频在线观看| 国产亚洲精品久久久久久毛片| 久久久国产精品麻豆| 国产激情久久老熟女| 好男人电影高清在线观看| 欧美在线一区亚洲| 成人永久免费在线观看视频| 久久久水蜜桃国产精品网| 精品欧美一区二区三区在线| 亚洲 国产 在线| 久久亚洲真实| 黑人操中国人逼视频| 日韩欧美一区视频在线观看| 久99久视频精品免费| 亚洲精品一卡2卡三卡4卡5卡| 变态另类丝袜制服| 久久伊人香网站| 日本免费一区二区三区高清不卡 | 久久婷婷成人综合色麻豆| 国产精品av久久久久免费| 精品第一国产精品| 精品一品国产午夜福利视频| 久久久国产成人免费| 无限看片的www在线观看| 88av欧美| 美女扒开内裤让男人捅视频| 涩涩av久久男人的天堂| 精品熟女少妇八av免费久了| 侵犯人妻中文字幕一二三四区| 精品久久久久久久毛片微露脸| 日韩欧美国产在线观看| 国产又色又爽无遮挡免费看| aaaaa片日本免费| 亚洲精品一卡2卡三卡4卡5卡| 90打野战视频偷拍视频| 亚洲色图综合在线观看| 他把我摸到了高潮在线观看| 91麻豆av在线| 韩国精品一区二区三区| 好男人在线观看高清免费视频 | 一级a爱片免费观看的视频| 后天国语完整版免费观看| 色老头精品视频在线观看| 啦啦啦 在线观看视频| 在线播放国产精品三级| 此物有八面人人有两片| 欧美日韩福利视频一区二区| 国产亚洲av高清不卡| 香蕉丝袜av| 久久人人爽av亚洲精品天堂| 国产免费av片在线观看野外av| 亚洲一区高清亚洲精品| 12—13女人毛片做爰片一| 久久久久久久久久久久大奶| 国产精品亚洲美女久久久| 国产欧美日韩精品亚洲av| 老司机午夜福利在线观看视频| 女人被躁到高潮嗷嗷叫费观| 这个男人来自地球电影免费观看| 不卡av一区二区三区| 久久精品人人爽人人爽视色| 啦啦啦观看免费观看视频高清 | 精品国产乱子伦一区二区三区| 精品国产一区二区三区四区第35| 欧美日韩福利视频一区二区| 不卡一级毛片| 国产亚洲av嫩草精品影院| 成人国产综合亚洲| 制服丝袜大香蕉在线| 窝窝影院91人妻| 日本免费a在线| 午夜免费鲁丝| 久久天堂一区二区三区四区| www.精华液| 久久国产乱子伦精品免费另类| 国产成人影院久久av| 成人永久免费在线观看视频| 亚洲狠狠婷婷综合久久图片| 日日摸夜夜添夜夜添小说| 久久婷婷人人爽人人干人人爱 | 欧美在线黄色| 波多野结衣一区麻豆| 亚洲精品一卡2卡三卡4卡5卡| 91av网站免费观看| 免费一级毛片在线播放高清视频 | 9191精品国产免费久久| 久久久久久国产a免费观看| 国产精品一区二区免费欧美| 精品人妻在线不人妻| 两人在一起打扑克的视频| 亚洲一区二区三区色噜噜| cao死你这个sao货| 欧美乱色亚洲激情| 99国产综合亚洲精品| 可以在线观看毛片的网站| 天天躁狠狠躁夜夜躁狠狠躁| 久久这里只有精品19| 一进一出抽搐gif免费好疼| av超薄肉色丝袜交足视频| 欧美绝顶高潮抽搐喷水| 天天添夜夜摸| 精品久久久久久久人妻蜜臀av | 亚洲国产精品久久男人天堂| 村上凉子中文字幕在线| 操美女的视频在线观看| 乱人伦中国视频| 99在线视频只有这里精品首页| 国产精品99久久99久久久不卡| 中文字幕另类日韩欧美亚洲嫩草| 中文字幕精品免费在线观看视频| 久久中文字幕人妻熟女| 国产亚洲精品综合一区在线观看 | 精品一品国产午夜福利视频| 国产成人啪精品午夜网站| 亚洲国产精品999在线| 热99re8久久精品国产| 亚洲精品国产区一区二| 午夜精品在线福利| 悠悠久久av| 桃红色精品国产亚洲av| 亚洲精品在线美女| 一区二区三区精品91| 夜夜看夜夜爽夜夜摸| 日本 欧美在线| 搞女人的毛片| 亚洲九九香蕉| 香蕉久久夜色| 51午夜福利影视在线观看| 亚洲一区二区三区不卡视频| av在线天堂中文字幕| 国产99久久九九免费精品| 免费在线观看完整版高清| 久久午夜综合久久蜜桃| 深夜精品福利| 91老司机精品| 黄色视频不卡| 色综合婷婷激情| 国产一区二区在线av高清观看| 校园春色视频在线观看| 两个人免费观看高清视频| 成熟少妇高潮喷水视频| 久热这里只有精品99| 少妇的丰满在线观看| 日韩欧美国产一区二区入口| 国产区一区二久久| 亚洲成人精品中文字幕电影| 首页视频小说图片口味搜索| 亚洲国产精品sss在线观看| 国产麻豆69| 人人妻,人人澡人人爽秒播| 别揉我奶头~嗯~啊~动态视频| 12—13女人毛片做爰片一| 香蕉国产在线看| 国产一级毛片七仙女欲春2 | 精品久久久久久久久久免费视频| 天堂√8在线中文| 精品国内亚洲2022精品成人| 亚洲av成人av| 男男h啪啪无遮挡| 国产成人精品在线电影| 色综合婷婷激情| 久久久国产精品麻豆| 在线国产一区二区在线| 中文字幕另类日韩欧美亚洲嫩草| 在线十欧美十亚洲十日本专区| 丝袜美腿诱惑在线| 男男h啪啪无遮挡| 欧美日韩中文字幕国产精品一区二区三区 | 日韩中文字幕欧美一区二区| 成人手机av| 亚洲熟女毛片儿| 久久精品成人免费网站| 精品不卡国产一区二区三区| 在线观看午夜福利视频| 国产亚洲av高清不卡| 大香蕉久久成人网| 久久精品91蜜桃| 久久九九热精品免费| 亚洲国产欧美日韩在线播放| 一级作爱视频免费观看| 欧美一区二区精品小视频在线| 99香蕉大伊视频| 国产精品综合久久久久久久免费 | 精品少妇一区二区三区视频日本电影| 高清毛片免费观看视频网站| 午夜两性在线视频| 亚洲五月婷婷丁香| 国产精品综合久久久久久久免费 | 无限看片的www在线观看| 99热只有精品国产| 看免费av毛片| 亚洲,欧美精品.| 啦啦啦观看免费观看视频高清 | 欧美 亚洲 国产 日韩一| 国产伦人伦偷精品视频| 少妇熟女aⅴ在线视频| 久久精品国产亚洲av高清一级| 曰老女人黄片| 亚洲精品久久国产高清桃花| 亚洲三区欧美一区| 麻豆国产av国片精品| 在线观看免费视频日本深夜| 午夜福利视频1000在线观看 | 两人在一起打扑克的视频| 亚洲国产精品sss在线观看| 亚洲av电影不卡..在线观看| 巨乳人妻的诱惑在线观看| 亚洲欧美激情综合另类| 麻豆久久精品国产亚洲av| 一级作爱视频免费观看| 男女午夜视频在线观看| 免费久久久久久久精品成人欧美视频| 久久久国产欧美日韩av| √禁漫天堂资源中文www| 99re在线观看精品视频| 久久久精品国产亚洲av高清涩受| 美女午夜性视频免费| 午夜久久久久精精品| 亚洲熟妇中文字幕五十中出| 好看av亚洲va欧美ⅴa在| 色播亚洲综合网| 国产午夜福利久久久久久| 午夜老司机福利片| 人人妻,人人澡人人爽秒播| 色综合欧美亚洲国产小说| 黄色女人牲交| 精品国内亚洲2022精品成人| 少妇裸体淫交视频免费看高清 | 黄色片一级片一级黄色片| 国产精品久久久av美女十八| 国产日韩一区二区三区精品不卡| 男女床上黄色一级片免费看| 91九色精品人成在线观看| 夜夜爽天天搞| 999久久久精品免费观看国产| 国产熟女午夜一区二区三区| 大型黄色视频在线免费观看| 中出人妻视频一区二区| 岛国视频午夜一区免费看| 丝袜美足系列| 日本 欧美在线| 亚洲成人久久性| e午夜精品久久久久久久| 午夜免费鲁丝| 制服丝袜大香蕉在线| 侵犯人妻中文字幕一二三四区| 亚洲人成电影免费在线| 国产真人三级小视频在线观看| 成人18禁高潮啪啪吃奶动态图| videosex国产| 国产精品国产高清国产av| 亚洲人成电影观看| 国产av在哪里看| 亚洲avbb在线观看| 亚洲久久久国产精品| 色综合婷婷激情| 亚洲国产精品成人综合色| 亚洲精品中文字幕在线视频| 精品无人区乱码1区二区| 午夜a级毛片| 啦啦啦韩国在线观看视频| 丝袜美腿诱惑在线| 亚洲熟女毛片儿| 国内精品久久久久久久电影| 午夜a级毛片| 欧美最黄视频在线播放免费| av视频在线观看入口| 成人特级黄色片久久久久久久| 老司机午夜十八禁免费视频| 精品人妻在线不人妻| 丁香六月欧美| 一个人观看的视频www高清免费观看 | 十八禁网站免费在线| av电影中文网址| 亚洲国产精品成人综合色| 悠悠久久av| 精品日产1卡2卡| 久久精品影院6| 国产精品亚洲美女久久久| 大型av网站在线播放| 欧美日韩精品网址| 久久精品影院6| 久久人妻福利社区极品人妻图片| 麻豆一二三区av精品| 久久精品国产清高在天天线| 黄片播放在线免费| 亚洲欧美一区二区三区黑人| 久久精品91蜜桃| 一级作爱视频免费观看| 国产精品香港三级国产av潘金莲| 精品午夜福利视频在线观看一区| 久久精品影院6| 免费久久久久久久精品成人欧美视频| 老汉色av国产亚洲站长工具| 日韩国内少妇激情av| 成人手机av| 午夜日韩欧美国产| 久久精品国产亚洲av高清一级| 国产成人欧美| 亚洲av成人av| 人妻丰满熟妇av一区二区三区| 视频区欧美日本亚洲| 搡老熟女国产l中国老女人| av在线天堂中文字幕| 亚洲熟女毛片儿| 在线av久久热| 午夜影院日韩av| 人人澡人人妻人| 亚洲七黄色美女视频| 亚洲欧美精品综合一区二区三区| 操出白浆在线播放| 午夜福利18| 精品第一国产精品| 久久香蕉国产精品| 国产精品免费视频内射| 欧美成狂野欧美在线观看| 日韩成人在线观看一区二区三区| 成人三级做爰电影| 久久久水蜜桃国产精品网| 在线播放国产精品三级| 亚洲久久久国产精品| 成人18禁在线播放| 久久精品人人爽人人爽视色| 老司机深夜福利视频在线观看| 午夜福利在线观看吧| 国产精品久久久久久亚洲av鲁大| 黄色片一级片一级黄色片| 欧美黑人精品巨大| 欧美国产日韩亚洲一区| 欧美日韩中文字幕国产精品一区二区三区 | 香蕉国产在线看| 美女大奶头视频| 色av中文字幕| 91成年电影在线观看| 欧美性长视频在线观看| 日韩有码中文字幕| 黄色成人免费大全| 夜夜夜夜夜久久久久| 每晚都被弄得嗷嗷叫到高潮| 国产精品亚洲av一区麻豆| 欧美日本中文国产一区发布| 看黄色毛片网站| 99riav亚洲国产免费| 亚洲av五月六月丁香网| 99久久国产精品久久久| 国产精品香港三级国产av潘金莲| 九色国产91popny在线| 两个人视频免费观看高清| 亚洲欧美激情在线| 久久久国产成人精品二区| 久久狼人影院| 国产精品 欧美亚洲| 亚洲av成人av| 欧美乱色亚洲激情| 夜夜爽天天搞| 村上凉子中文字幕在线| 男人操女人黄网站| 国产主播在线观看一区二区| 精品久久久精品久久久| 69av精品久久久久久| 精品人妻1区二区| 怎么达到女性高潮| 啪啪无遮挡十八禁网站| 亚洲精品国产区一区二| 亚洲国产精品久久男人天堂| 免费看美女性在线毛片视频| 久久婷婷成人综合色麻豆| 国产亚洲欧美98| 91精品三级在线观看| 久热爱精品视频在线9| 99riav亚洲国产免费| 99re在线观看精品视频| 久久精品国产综合久久久|