• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    基于詞向量包的自動(dòng)文摘方法

    2017-02-27 00:03白淑霞鮑玉來張暉
    現(xiàn)代情報(bào) 2017年2期

    白淑霞 鮑玉來 張暉

    〔摘要〕[目的]利用向量空間描述語義信息,研究基于詞向量包的自動(dòng)文摘方法;[方法]文摘是文獻(xiàn)內(nèi)容縮短的精確表達(dá);而詞向量包可以在同一個(gè)向量空間下表示詞、短語、句子、段落和篇章,其空間距離用于反映語義相似度。提出一種基于詞向量包的自動(dòng)文摘方法,用詞向量包的表示距離衡量句子與整篇文獻(xiàn)的語義相似度,將與文獻(xiàn)語義相似的句子抽取出來最終形成文摘;[結(jié)果]在DUC01數(shù)據(jù)集上,實(shí)驗(yàn)結(jié)果表明,該方法能夠生成高質(zhì)量的文摘,結(jié)果明顯優(yōu)于其它方法;[結(jié)論]實(shí)驗(yàn)證明該方法明顯提升了自動(dòng)文摘的性能。

    〔關(guān)鍵詞〕詞向量;詞包向量;自動(dòng)文摘

    DOI:10.3969/j.issn.1008-0821.2017.02.002

    〔中圖分類號(hào)〕G25437〔文獻(xiàn)標(biāo)識(shí)碼〕A〔文章編號(hào)〕1008-0821(2017)02-0008-06

    〔Abstract〕[Purposes]This work focused on automatic summarization by utilizing vector space to describe the semantics.[Methods]proposed a new representation based on word vector,which is called bag of word vector(BOWV),and employed it for automatic summarization.Words,phrases,sentences,paragraphs and documents could be represented in a same vector space by using BOWV.And the distance between representations was used to reflect the semantic similarity.For automatic summarization,the paper used the distance between BOWVs to measure the semantic similarity between sentences and document.The sentences similar with the document are extracted to form the summary.[Findings]Experimental results on DUC01 dataset showed that the proposed method could generate high-quality summary and outperforms comparison methods.[Conclusions]The experiment showed that this research improved the performance of automatic summarization significantly.

    〔Key words〕vector;bag of word vector;automatic summarization

    隨著Internet的快速發(fā)展,電子文本數(shù)量呈現(xiàn)出指數(shù)增長(zhǎng)的趨勢(shì)。為了更好地利用這些信息,人們迫切需要信息壓縮手段對(duì)大量的信息進(jìn)行提煉、濃縮。文摘可以概括原始文檔,讓用戶快速理解文本信息。而手工編寫文摘費(fèi)時(shí)費(fèi)力,因此利用計(jì)算機(jī)自動(dòng)生成文摘已經(jīng)成為自然語言處理領(lǐng)域的一個(gè)重要研究課題。

    文摘也稱摘要,是簡(jiǎn)明、確切地記述原始文獻(xiàn)中重要內(nèi)容的短文。自動(dòng)文摘就是使用計(jì)算機(jī)自動(dòng)生成文摘。從生成方式來看,自動(dòng)文摘可分為抽取型文摘和生成型文摘。抽取型文摘從原文中抽取句子形成文摘。生成型文摘?jiǎng)t使用“自己的話”來概括原文。相比于抽取型文摘,生成型文摘難度更大。目前,生成型文摘尚難以付諸實(shí)踐,抽取型文摘是現(xiàn)階段主要的研究方向[1]。

    文摘抽取方法大體可分為3類:①將其視作一個(gè)句子排序問題,主要任務(wù)是給句子打分,得分高的句子被納入到最終的文摘之中,得分低的則被排除在外。打分的依據(jù)一般包括詞頻及分布特點(diǎn)[2]、句子在段落中的位置[3]、句子的相似性[4]等;②將其視作一個(gè)二元分類問題,將文檔中的摘要句作為正例,非摘要句作為反例,使用的分類模型主要有樸素貝葉斯模型[5]、決策樹[6]、支持向量機(jī)[7]、人工神經(jīng)網(wǎng)絡(luò)[8]等;③將其視作一個(gè)序列標(biāo)注問題,將文檔中的摘要句標(biāo)注為1,非摘要句標(biāo)注為0,使用的模型主要有隱馬爾可夫模型[9]和條件隨機(jī)場(chǎng)[10]。

    抽取型文摘是由文檔中的句子組成,因此句子的表示是一個(gè)關(guān)鍵問題。句子是詞的序列,句子的表示又建立在詞表示的基礎(chǔ)上。常用的一種方法是建立一個(gè)與詞表等長(zhǎng)的二值向量,向量中的元素與詞表中的詞一一對(duì)應(yīng)。要表示一個(gè)詞則將向量中的對(duì)應(yīng)位置設(shè)為1,其它位置均設(shè)為0。這種方法最大的問題是向量長(zhǎng)度由詞表規(guī)模決定,而詞表一般規(guī)模巨大,這就帶來維數(shù)災(zāi)難和數(shù)據(jù)稀疏問題。解決這一問題的主要思路是降維。最簡(jiǎn)單的方法是去除停用詞,這可以減小詞表規(guī)模,但效果十分有限。而淺層語義索引(Latent Semantic Index,LSI)[11]方法引入了語義概念,它將詞表中的詞聚合成一個(gè)個(gè)“主題”(Topic),向量的長(zhǎng)度與主題數(shù)量相同,從而達(dá)到了大幅度降維的目的。目前被廣泛采用的淺層狄理赫雷分配(Latent Dirichlet Allocation,LDA)[12]是對(duì)淺層語義索引的改進(jìn)。要得到句子的表示,需要將詞的表示組合起來,詞包模型(Bag of Words)是最常用的方法[13],它忽略了句子中詞的順序,詞的表示經(jīng)過簡(jiǎn)單的代數(shù)運(yùn)算(如加和、取平均值等)即得到了句子的表示。

    顯然,詞的表示對(duì)句子的表示有重要影響。詞向量(Word Vector)或詞嵌入(Wordembedding)被認(rèn)為可以捕捉到諸如同義詞、近義詞和詞義對(duì)應(yīng)關(guān)系(如“國(guó)王”-“男人”+“女人”=“王后”,“King”-“man”+“woman”=“Queen”[14])等語言現(xiàn)象。詞向量已經(jīng)成功地應(yīng)用在語言模型[15]、自然語言理解[16]、信息檢索[17]、命名實(shí)體識(shí)別[18]、關(guān)系抽取[19]、機(jī)器翻譯[20]、圖像理解[21]等領(lǐng)域。

    本文將詞向量與詞包模型結(jié)合,提出一種文本表示方法,稱為“詞向量包”。詞向量包是詞向量的推廣,可以在同一個(gè)向量空間中表示詞、短語、句子、段落和篇章。在自動(dòng)文摘研究中,文摘與原文具有相同的語義,本文采用詞向量包之間的距離來衡量句子與原文語義相似度,并提出一種自動(dòng)文摘抽取方法。在DUC01數(shù)據(jù)集上,實(shí)驗(yàn)表明,本文提出的方法能夠生成較高質(zhì)量的文摘,ROUGE-N指標(biāo)明顯高于現(xiàn)有方法。

    1語義表示方法

    11詞向量:詞的語義表示

    詞向量是一種用向量表示詞的方法,向量中的每一維都在實(shí)數(shù)范圍內(nèi)取值。詞向量最早在文獻(xiàn)[15]中被提出。詞向量的總體思想是:完成一個(gè)自然語言處理任務(wù),將任務(wù)目標(biāo)定義為詞向量V(x)的函數(shù),其中x代表一個(gè)詞。為了實(shí)現(xiàn)任務(wù)目標(biāo)就需要優(yōu)化V(x),優(yōu)化得到的V(x)就是詞向量。在文獻(xiàn)[15]中定義的任務(wù)是生成語言模型,采用的學(xué)習(xí)器是人工神經(jīng)網(wǎng)絡(luò)。詞向量的研究發(fā)展迅速,主要關(guān)注于學(xué)習(xí)任務(wù)和學(xué)習(xí)器的改變。如文獻(xiàn)[16]提出要同時(shí)完成多個(gè)自然語言處理任務(wù),包括學(xué)習(xí)語言模型、詞性標(biāo)注和命名實(shí)體識(shí)別等;如文獻(xiàn)[22]提出使用遞歸神經(jīng)網(wǎng)絡(luò)(Recursive Neural Network,RNN)作為學(xué)習(xí)器等。

    詞向量方法可以實(shí)現(xiàn)詞的聚類,語義相近的詞在其表示空間中也相互接近,這樣就可以捕捉到諸如同義詞、近義詞關(guān)系。圖1給出了一個(gè)詞向量表示的示例,圖中語義相關(guān)的詞(關(guān)于運(yùn)動(dòng)的詞)聚集在一起。

    此外,詞向量還可以捕捉到詞與詞之間的對(duì)應(yīng)關(guān)系,如圖2顯示,妹妹(sister)和哥哥(brother)的關(guān)系,就像是姑姑(aunt)和叔叔(uncle)的關(guān)系一樣。這種關(guān)系也可以表示成一個(gè)代數(shù)關(guān)系:“姑姑”-“妹妹”+“哥哥”=“叔叔”(“aunt”-“sister”+“brother”=“uncle”)。詞向量的這些特點(diǎn)反映了自然語言中的語義特征。

    12詞向量包:句子、篇章的語義表示

    我們將詞向量與詞包模型結(jié)合起來,將句子或文檔中所有的詞向量進(jìn)行合并,從而形成句子或文檔的語義表示,我們稱之為詞向量包(Bag of Word Vector)。

    定義:若S=w1,w2,…,wN是一個(gè)句子或文檔,wi是其中的詞,N是詞的總數(shù)。則其詞向量包的表示V(S)為:

    V(S)=1N∑Ni=1V(wi)(1)圖2詞向量表示體現(xiàn)詞的對(duì)應(yīng)關(guān)系

    顯然,當(dāng)詞包里只有一個(gè)詞時(shí),詞向量包就是詞向量。

    詞向量包有語義聚類效果,它能夠?qū)⒄Z義相近的句子聚集在一起,而使語義不同的句子相互遠(yuǎn)離。圖3給出一個(gè)例子,我們?nèi)我膺x取了20篇文檔,將其中的每一個(gè)句子用詞向量包表示,并使用文獻(xiàn)[28]中的方法對(duì)其進(jìn)行可視化。圖3上的每一個(gè)點(diǎn)對(duì)應(yīng)一個(gè)句子,來自相同文檔的句子用同種形狀標(biāo)記??梢钥闯觯臋n中的句子聚在一起。一般而言,同一篇文檔中的句子都圍繞相同的話題,有較接近的語義,因此詞向量包能夠較好地反映語義。(來自相同文檔的句子用同種顏色標(biāo)記)圖3詞向量包的語義表示效果

    此外,因?yàn)樵~向量包是詞向量代數(shù)運(yùn)算的結(jié)果,詞向量中“國(guó)王”-“男人”+“女人”=“王后”這樣的代數(shù)關(guān)系在詞向量包中也得以保持。詞向量包繼承了詞向量的語義表示特性,是一種語義表示。我們利用詞向量包表示之間的距離反映語義相似性。

    2基于語義表示的自動(dòng)文摘抽取方法

    文摘是對(duì)原文主要內(nèi)容的摘述,是原文的一個(gè)簡(jiǎn)短版本,文摘的語義與原文一致。因此可以通過比較文摘與原文之間的語義相似性來評(píng)價(jià)文摘質(zhì)量的優(yōu)劣,語義越接近則文摘質(zhì)量越好。我們可以將其視為一個(gè)優(yōu)化問題:

    argmaxASemanticSim(A,D)-αAD(2)

    其中,A表示文摘,D表示原始文檔,A、D分別表示文摘和原文中句子或詞的個(gè)數(shù),α是可調(diào)節(jié)參數(shù)。SemanticSim(a,d)是兩者的語義相似度,本文利用詞向量包之間的距離反映語義相似性,即:

    SemanticSim(A,D)=-V(A)-V(D)2(3)

    其中,V(X)是X在詞向量包空間中的表示,SemanticSim(A,D)為A和D在該空間中的歐氏距離。如果限定文摘的篇幅,則(2)式的后一項(xiàng)可被省略,變?yōu)椋?/p>

    argminAV(A)-V(D)2(4)

    對(duì)于抽取型文摘,文摘中的句子來源于原始文檔:原始文檔D定義為一個(gè)句子序列s1,s2,…,sN,文摘A定義為D的子序列sj1,sj2,…,sjK,其中ji∈{1,2,…,N},K

    為求解這個(gè)組合優(yōu)化問題,根據(jù)句子排序思路,我們采用貪心方法求得一個(gè)近似解。首先,將整篇文檔和每一個(gè)句子投射到詞向量包空間中,度量它們之間的距離,再由小到大排序,取前K個(gè)句子形成最終的文摘。具體來說,我們首先去除文本中的標(biāo)點(diǎn)和停用詞,再將每個(gè)詞轉(zhuǎn)換為其對(duì)應(yīng)的詞向量表示,不在詞表中的詞忽略不計(jì)。然后,根據(jù)公式(1)計(jì)算整篇文檔和每一個(gè)句子的詞向量包表示,并計(jì)算它們之間的歐氏距離,將其從小到大排序。最后根據(jù)長(zhǎng)度要求,取前K個(gè)句子,按照其在原文中出現(xiàn)的順序連接起來,形成最終的文摘。

    3實(shí)驗(yàn)與分析

    這一節(jié)介紹本文實(shí)驗(yàn)的過程,實(shí)驗(yàn)使用開放評(píng)測(cè)數(shù)據(jù)集,并將文獻(xiàn)[23]報(bào)告的結(jié)果作為基限,采用的實(shí)驗(yàn)設(shè)計(jì)和評(píng)估方法都與之嚴(yán)格一致。

    31數(shù)據(jù)集

    為了評(píng)估本文提出方法的性能,我們使用DUC01作為測(cè)試數(shù)據(jù)集。DUC01由文檔理解會(huì)議(Document Understanding Conference,http:∥duc.nist.gov)提供,是使用較為廣泛的開放評(píng)測(cè)數(shù)據(jù)集。它包含有147篇新聞文本,文中每一個(gè)句子是否被當(dāng)作摘要句都由人工標(biāo)注。該數(shù)據(jù)集是專為測(cè)試單文檔抽取式文摘而設(shè)計(jì)的,并且做了很好的預(yù)處理,基限系統(tǒng)也采用了該數(shù)據(jù)集進(jìn)行系統(tǒng)性能評(píng)價(jià)。

    32評(píng)價(jià)標(biāo)準(zhǔn)

    為了評(píng)價(jià)系統(tǒng)性能,本文使用兩種指標(biāo)。一種是準(zhǔn)確率(Precision)、召回率(Recall)和F1值(F1-measure),這一指標(biāo)廣泛使用在信息檢索領(lǐng)域中。我們將人工抽取的文摘作為參考,記做Aref。自動(dòng)抽取得到的文摘稱為候選,記做Acand。則準(zhǔn)確率(P)、召回率(R)和F1值(F1)按照公式(5)計(jì)算[9]。

    P=Aref∩AcandAcand,R=Aref∩AcandAref,

    F1=2PRP+R(5)

    簡(jiǎn)便起見,我們只報(bào)告F1值。我們使用ROUGE工具包[24]作為另一個(gè)評(píng)價(jià)指標(biāo),ROUGE工具包是文檔理解會(huì)議所采用的摘要質(zhì)量評(píng)估方法。ROUGE-N通過計(jì)算N元語法單元(N-gram)的召回率來評(píng)估摘要性能。文獻(xiàn)[24]指出,當(dāng)N=1時(shí),即ROUGE-1指標(biāo)與人類專家給出的評(píng)價(jià)結(jié)果相當(dāng)一致。ROUGE-N按照公式(6)計(jì)算。

    ROUGEN=∑s∈Aref∑gramN∈sCountmatch(gramN)∑s∈Aref∑gramN∈sCount(gramN)(6)

    其中,s表示Aref中的句子,N表示N元語法單元的長(zhǎng)度,Countmatc(gramN)表示gramN在候選摘要和參考摘要中都出現(xiàn)的次數(shù)。Count(gramN)表示gramN只在參考摘要中都出現(xiàn)的次數(shù)。為了與文獻(xiàn)[23]統(tǒng)一,我們報(bào)告ROUGE-1和ROUGE-2兩個(gè)指標(biāo)。

    33詞向量

    本文提出的方法基于詞向量表示,詞向量表示用文獻(xiàn)[25]提出的方法,并使用維基百科60億詞的語料進(jìn)行訓(xùn)練,分別得到50、100、200、300維的詞向量表示,記做W506B、W1006B、W2006B和W3006B。此外,我們還使用Common Crawl網(wǎng)頁數(shù)據(jù)庫(http:∥commoncrawl.org/420億詞和8 400億詞的語料訓(xùn)練得到300維的詞向量表示,分別記做W3006B和W300840B。這些詞向量表示的訓(xùn)練結(jié)果可以在http:∥www-nlp.stanford.edu/projects/glove/處下載得到。

    34實(shí)驗(yàn)對(duì)比

    我們將提出的方法與現(xiàn)有的5種方法相比較,分別是:①基于語義相似性的方法[23],記做Sim;②基于神經(jīng)網(wǎng)絡(luò)的方法[26],記做Net;③基于條件隨機(jī)場(chǎng)的方法[6],記做CRF;④基于支持向量機(jī)的方法[9],記做SVM;⑤基于數(shù)據(jù)流形排序的方法[27],記做Rank。表1列出了性能比較的結(jié)果,可以看出本文提出方法的F1值和其它系統(tǒng)表現(xiàn)相當(dāng),僅比Sim方法略低。F1值是句子一級(jí)的指標(biāo),它的測(cè)評(píng)粒度偏大,忽略了文摘句和非文摘句的語義相似度。因此,研究者通常選用ROUGE-N作為評(píng)價(jià)指標(biāo),它的測(cè)評(píng)粒度是N元語法單元,粒度小于F1值,能夠更準(zhǔn)確評(píng)價(jià)自動(dòng)抽取文摘的質(zhì)量。從表1可以看出,本文提出的方法在ROUGE-1、ROUGE-2上的表現(xiàn)遠(yuǎn)優(yōu)于其它方法。我們分析原因,在句一級(jí)準(zhǔn)確率和召回率相當(dāng)?shù)那闆r下,與其它方法相比,用本文方法挑選出來的未被標(biāo)注為文摘的句子與人工文摘更為接近。

    35分析與討論

    我們認(rèn)為摘要中的句子應(yīng)該與原始文檔有相同的語義,反映在語義表示上它們的距離應(yīng)該較小。圖4給出了幾個(gè)例子,圖中實(shí)線是文檔中所有句子和文檔本身在詞向量包空間中的距離,我們?nèi)Τ隽巳斯?biāo)注的摘要句。可以看出,摘要句與文檔的距離相對(duì)較小。

    (其中圈出了人工確定的摘要句)圖4文檔中的句子和文檔的語義表示距離

    4總結(jié)與展望

    本文將詞向量與詞包模型結(jié)合起來,提出一種稱為詞向量包的表示方法,詞向量包可以用于表示詞、短語、句子、段落和篇章。我們將詞向量包應(yīng)用到自動(dòng)文摘研究中,用詞向量包的表示距離衡量句子與整篇文檔的語義相似度,將與文檔語義最相似的句子抽取出來形成文摘。實(shí)驗(yàn)證明本文提出的方法具有很好的性能。

    本文提出的詞向量包延續(xù)了詞包模型的思路,忽略了詞的順序關(guān)系。而自然語言中詞的順序十分重要,忽略了這種關(guān)系會(huì)帶來較大的語義損失,如何將詞的順序關(guān)系納入到語義建模中是一個(gè)需要解決的問題。文獻(xiàn)[29]提出段落向量表示,考慮了小窗口內(nèi)的順序關(guān)系,文獻(xiàn)[30]提出用遞歸神經(jīng)網(wǎng)絡(luò)為詞的順序建模。未來可以將這方面的研究成果納入到我們的框架中,更好的刻畫句子和文檔的語義,從而產(chǎn)生更好的文摘輸出。

    參考文獻(xiàn)

    [1]曹洋,成穎,裴雷.基于機(jī)器學(xué)習(xí)的自動(dòng)文摘研究綜述[J].圖書情報(bào)工作,2014,58(18):122-130.

    [2]Luhn H P.The automatic creation of literature abstracts[J].IBM Journal of research and development,1958,2(2):159-165.

    [3]Baxendale P B.Machine-made index for technical literature:an experiment[J].IBM Journal of Research and De-velopment,1958,2(4):354-361.

    [4]Gong Y,Liu X.Generic text summarization using relevance measure and latent semantic analysis[C]∥Proceedings of the 24th annual international ACM SIGIR conference on Research and development in information retrieval.ACM,2001:19-25.

    [5]Conroy J M,Oleary D P.Text summarization via hidden Markov models[C]∥Proceedings of the 24th annual in-ternational ACM SIGIR conference on Research and de-velopment in information retrieval.ACM,2001:406-407.

    [6]Shen D,Sun J T,Li H,et al.Document summarization using conditional random fields[C]∥IJCAI,2007,(7):2862-2867.

    [7]Kupiec J,Pedersen J,Chen F.A trainable document summarizer[C]∥Proceedings of the 18th annual international ACM SIGIR conference on Research and development in information retrieval.ACM,1995:68-73.

    [8]Lin C Y.Training a selection function for extrac-tion[C]∥Proceedings of the eighth international conference on Information and knowledge management.ACM,1999:55-62.

    [9]Yeh J Y,Ke H R,Yang W P,et al.Text summarization using a trainable summarizer and latent semantic analysis[J].Information Processing & Management,2005,41(1):75-95.

    [10]Kaikhah K.Automatic text summarization with neural networks[C]∥Intelligent Systems,2004.Proceedings.2004 2nd International IEEE Conference,2004:40-44.

    [11]WBFrakes,RBaeza-Yates.Information retrieval data structures and algorithms[M].Prentice Hall PTR,New Jersey,1992.

    [12]Deerwester S C,Dumais S T,Landauer T K,et al.Indexing by latent semantic analysis[J].JAsIs,1990,41(6):391-407.

    [13]Blei D M,Ng A Y,Jordan M I.Latent Dirichletallocation[J].the Journal of machine Learning research,2003,(3):993-1022.

    [14]Mikolov T,Yih W,Zweig G.Linguistic regularities in continuous space word representations[C]∥HLT-NAACL,2013:746-751.

    [15]Bengio Y,Ducharme R,Vincent P,et al.A neural proba-bilistic language model[J].The Journal of Machine Learning Research,2003,(3):1137-1155.

    [16]Collobert R,Weston J.A unified architecture for natural language processing:Deep neural networks with multitask learning[C]∥Proceedings of the 25th international conference on Machine learning.ACM,2008:160-167.

    [17]Salakhutdinov R,Hinton G.Semantic hashing[J].Inter-national Journal of Approximate Reasoning,2009,50(7):969-978.

    [18]Turian J,Ratinov L,Bengio Y.Word representations:a simple and general method for semi-supervised learn-ing[C]∥Proceedings of the 48th annual meeting of the association for computational linguistics.Association for Computational Linguistics,2010:384-394.

    [19]Socher R,Chen D,Manning C D,et al.Reasoning with neural tensor networks for knowledge base comple-tion[C]∥Advances in Neural Information Processing Sys-tems,2013:926-934.

    [20]Zou W Y,Socher R,Cer D M,et al.Bilingual word em-beddings for phrase-based machine translation[C]∥EMNLP,2013:1393-1398.

    [21]Frome A,Corrado G S,Shlens J,et al.Devise:A deep visual-semantic embedding model[C]∥Advances in Neural Information Processing Systems,2013:2121-2129.

    [22]Luong M T,Socher R,Manning C D.Better word repre-sentations with recursive neural networks for morphology[J].CoNLL-2013,2013,104.

    [23]Aliguliyev R M.A new sentence similarity measure and sentence based extractive technique for automatic text summarization[J].Expert Systems with Applications,2009,36(4):7764-7772.

    [24]Lin C Y,Hovy E.Automatic evaluation of summaries using n-gram co-occurrence statistics[C]∥Proceedings of the 2003 Conference of the North American Chapter of the Association for Computational Linguistics on Human Language Technology-Volume 1.Association for Com-putational Linguistics,2003:71-78.

    [25]Pennington J,Socher R,Manning C D.Glove:Global vectors for word representation[J].Proceedings of the Empiricial Methods in Natural Language Processing(EMNLP 2014),2014,12.

    [26]Svore K M,Vanderwende L,Burges C J C.Enhancing single-document summarization by combining ranknet and third-party Sources[C]∥EMNLP-CoNLL,2007:448-457.

    [27]Wan X.A novel document similarity measure based on earth movers distance[J].Information Sciences,2007,177(18):3718-3730.

    [28]van der Maaten L,Hinton G.Visualizing data using t-SNE[J].Journal of Machine Learning Research,2008,(9):2579-2605.

    [29]Le Q,Mikolov T.Distributed representations of sentences and documents[C]∥Proceedings of the 31st International Conference on Machine Learning(ICML-14),2014:1188-1196.

    [30]Kalchbrenner N,Blunsom P.Recurrent continuous trans-lation models[C]∥EMNLP,2013:1700-1709.

    (本文責(zé)任編輯:郭沫含)

    av天堂中文字幕网| 日韩亚洲欧美综合| 91在线精品国自产拍蜜月| 日本黄大片高清| 久久精品熟女亚洲av麻豆精品 | 精品国产三级普通话版| av福利片在线观看| 久久久久免费精品人妻一区二区| 国产成人精品一,二区| 建设人人有责人人尽责人人享有的 | 国产淫语在线视频| 搞女人的毛片| 亚洲精品亚洲一区二区| 日本五十路高清| 免费不卡的大黄色大毛片视频在线观看 | a级毛片免费高清观看在线播放| 青春草亚洲视频在线观看| 一个人观看的视频www高清免费观看| 1024手机看黄色片| 日本黄色片子视频| 亚洲性久久影院| 免费av不卡在线播放| 亚洲国产日韩欧美精品在线观看| 成人性生交大片免费视频hd| 久久久久久久久久久丰满| 日韩视频在线欧美| 日本黄色片子视频| 搡老妇女老女人老熟妇| 在线观看美女被高潮喷水网站| 日本爱情动作片www.在线观看| av在线播放精品| 好男人在线观看高清免费视频| 51国产日韩欧美| 成人二区视频| 欧美潮喷喷水| 尾随美女入室| 三级经典国产精品| 国产高潮美女av| 欧美日韩精品成人综合77777| 3wmmmm亚洲av在线观看| 97人妻精品一区二区三区麻豆| 久久久亚洲精品成人影院| 久久久午夜欧美精品| 国产白丝娇喘喷水9色精品| 欧美精品一区二区大全| 欧美日本亚洲视频在线播放| 午夜福利在线在线| 久久久午夜欧美精品| 插逼视频在线观看| 成人一区二区视频在线观看| 别揉我奶头 嗯啊视频| 国产一级毛片在线| 特大巨黑吊av在线直播| 三级毛片av免费| 久久国内精品自在自线图片| 搡老妇女老女人老熟妇| 日本免费a在线| 亚洲国产欧美人成| 国产伦精品一区二区三区视频9| 亚洲伊人久久精品综合 | 久久久久久久久久黄片| 精华霜和精华液先用哪个| 亚洲真实伦在线观看| 午夜福利高清视频| 91aial.com中文字幕在线观看| 少妇被粗大猛烈的视频| 亚洲国产精品成人综合色| 三级国产精品片| 精品久久久噜噜| 插逼视频在线观看| 天堂√8在线中文| 午夜免费激情av| 国产一级毛片在线| 人妻制服诱惑在线中文字幕| 自拍偷自拍亚洲精品老妇| 精品久久久久久电影网 | 国产精品国产高清国产av| 亚洲精品久久久久久婷婷小说 | 成年av动漫网址| 中文字幕av在线有码专区| 午夜福利网站1000一区二区三区| 最近最新中文字幕免费大全7| 亚洲欧美日韩卡通动漫| 99热全是精品| 欧美激情国产日韩精品一区| 波多野结衣高清无吗| 波多野结衣高清无吗| 亚洲激情五月婷婷啪啪| 麻豆精品久久久久久蜜桃| 建设人人有责人人尽责人人享有的 | 久久99蜜桃精品久久| 亚洲美女视频黄频| av又黄又爽大尺度在线免费看 | 成人av在线播放网站| 国产中年淑女户外野战色| 国产中年淑女户外野战色| 午夜久久久久精精品| 亚洲丝袜综合中文字幕| 国产成人freesex在线| 国产极品精品免费视频能看的| 亚洲激情五月婷婷啪啪| 免费看a级黄色片| 久久精品国产自在天天线| 久久久久久久久大av| 综合色av麻豆| 18禁裸乳无遮挡免费网站照片| 国产精品美女特级片免费视频播放器| 麻豆精品久久久久久蜜桃| 中文字幕亚洲精品专区| 免费黄色在线免费观看| 国产精品永久免费网站| 日日摸夜夜添夜夜添av毛片| 国语自产精品视频在线第100页| 1000部很黄的大片| 欧美又色又爽又黄视频| 美女大奶头视频| 国产成年人精品一区二区| 亚洲最大成人av| 五月玫瑰六月丁香| 99热网站在线观看| 美女国产视频在线观看| 国产一区二区在线观看日韩| av免费观看日本| 中文欧美无线码| 婷婷六月久久综合丁香| 91久久精品电影网| 日本与韩国留学比较| 成人国产麻豆网| 舔av片在线| 国产在视频线精品| 欧美成人午夜免费资源| 天堂中文最新版在线下载 | 成人欧美大片| 亚洲精品久久久久久婷婷小说 | 国产又黄又爽又无遮挡在线| 两个人的视频大全免费| 一边亲一边摸免费视频| 久久久久网色| 午夜免费男女啪啪视频观看| 国产高潮美女av| 欧美精品国产亚洲| 三级国产精品片| 亚洲无线观看免费| 国产精品av视频在线免费观看| 偷拍熟女少妇极品色| 欧美3d第一页| 成人亚洲欧美一区二区av| 丰满人妻一区二区三区视频av| 免费搜索国产男女视频| 99久久成人亚洲精品观看| 国产极品精品免费视频能看的| 久久人人爽人人爽人人片va| 六月丁香七月| 国产色爽女视频免费观看| 你懂的网址亚洲精品在线观看 | 中文字幕久久专区| 中文天堂在线官网| 亚洲精品国产成人久久av| 精品欧美国产一区二区三| 国产精品一二三区在线看| 中文资源天堂在线| 美女黄网站色视频| 国产黄色视频一区二区在线观看 | 我要看日韩黄色一级片| 乱系列少妇在线播放| 免费人成在线观看视频色| 91久久精品电影网| 国产高清国产精品国产三级 | 国产爱豆传媒在线观看| av免费观看日本| 国产精品国产三级专区第一集| 亚洲在线观看片| 精品国内亚洲2022精品成人| 欧美+日韩+精品| 人体艺术视频欧美日本| 99热这里只有精品一区| 日本一本二区三区精品| 在线播放国产精品三级| 看黄色毛片网站| 日韩在线高清观看一区二区三区| 内射极品少妇av片p| 亚洲色图av天堂| 91久久精品电影网| 亚洲综合色惰| 久久久精品94久久精品| 99国产精品一区二区蜜桃av| 国产老妇伦熟女老妇高清| 亚洲国产精品成人久久小说| 午夜福利成人在线免费观看| av在线老鸭窝| 看免费成人av毛片| 久久久久久九九精品二区国产| 97人妻精品一区二区三区麻豆| 卡戴珊不雅视频在线播放| 大又大粗又爽又黄少妇毛片口| av播播在线观看一区| av国产久精品久网站免费入址| av专区在线播放| 神马国产精品三级电影在线观看| 最近手机中文字幕大全| 91精品一卡2卡3卡4卡| 国产 一区精品| 久久久久九九精品影院| 亚洲无线观看免费| 日韩制服骚丝袜av| 麻豆精品久久久久久蜜桃| 亚洲成色77777| 日本猛色少妇xxxxx猛交久久| 亚洲18禁久久av| 美女国产视频在线观看| 如何舔出高潮| 波多野结衣高清无吗| 欧美成人一区二区免费高清观看| 不卡视频在线观看欧美| 久久久久久久午夜电影| 老女人水多毛片| 国产午夜精品久久久久久一区二区三区| 一级毛片我不卡| 97超碰精品成人国产| 久久这里只有精品中国| 啦啦啦啦在线视频资源| 亚洲精品乱码久久久久久按摩| 卡戴珊不雅视频在线播放| 免费一级毛片在线播放高清视频| 在线免费观看的www视频| 国产美女午夜福利| 欧美变态另类bdsm刘玥| 赤兔流量卡办理| 青春草亚洲视频在线观看| av卡一久久| 啦啦啦啦在线视频资源| 看黄色毛片网站| 精品人妻偷拍中文字幕| 少妇的逼好多水| 亚洲国产精品成人综合色| 国产精品一区www在线观看| 蜜桃久久精品国产亚洲av| 国产乱人偷精品视频| 看黄色毛片网站| 国产精品99久久久久久久久| 成人一区二区视频在线观看| 国产精品一区二区三区四区免费观看| 国产精品久久久久久久久免| 人妻少妇偷人精品九色| 久久99精品国语久久久| 97在线视频观看| 日韩 亚洲 欧美在线| 国产又色又爽无遮挡免| 91aial.com中文字幕在线观看| 一级毛片电影观看 | 国产黄色小视频在线观看| 老师上课跳d突然被开到最大视频| 欧美日韩综合久久久久久| 97超视频在线观看视频| 国产黄色视频一区二区在线观看 | 一夜夜www| 亚洲精品456在线播放app| 伊人久久精品亚洲午夜| 国产精品一区二区性色av| 一个人观看的视频www高清免费观看| 亚洲精品乱码久久久v下载方式| 99视频精品全部免费 在线| 国产精品久久久久久精品电影| 亚洲国产欧美人成| 国产综合懂色| 汤姆久久久久久久影院中文字幕 | 国产亚洲午夜精品一区二区久久 | 久久人人爽人人爽人人片va| 亚洲人与动物交配视频| 欧美人与善性xxx| 久久久久精品久久久久真实原创| 在线免费观看不下载黄p国产| 免费av观看视频| 亚洲真实伦在线观看| 女人十人毛片免费观看3o分钟| 国产精品久久电影中文字幕| 永久网站在线| 亚洲精品国产成人久久av| a级毛色黄片| 中文天堂在线官网| 日韩强制内射视频| 成年av动漫网址| 在线a可以看的网站| 我要搜黄色片| 免费看日本二区| 国内精品一区二区在线观看| 亚洲综合色惰| 国产乱人偷精品视频| 国产午夜福利久久久久久| 欧美精品国产亚洲| 久久精品夜色国产| 国产午夜福利久久久久久| 婷婷六月久久综合丁香| 久久久久网色| 国产伦一二天堂av在线观看| 久久久精品94久久精品| 久久久国产成人精品二区| 欧美日韩国产亚洲二区| 成人三级黄色视频| 久久精品国产亚洲网站| 国产午夜精品一二区理论片| 日本免费在线观看一区| 只有这里有精品99| 国产乱人视频| 深夜a级毛片| 久久久久久国产a免费观看| 18禁在线播放成人免费| 丰满少妇做爰视频| 精品人妻熟女av久视频| 欧美另类亚洲清纯唯美| 亚洲在线观看片| 久久久久久久亚洲中文字幕| 蜜桃亚洲精品一区二区三区| 高清在线视频一区二区三区 | 级片在线观看| 波多野结衣巨乳人妻| 国产精品一区二区三区四区免费观看| 寂寞人妻少妇视频99o| 黄片无遮挡物在线观看| 久久婷婷人人爽人人干人人爱| 精品久久国产蜜桃| 国产精品精品国产色婷婷| 日韩高清综合在线| 国产成人aa在线观看| 在线免费十八禁| 国产 一区 欧美 日韩| 亚洲最大成人中文| 成人毛片60女人毛片免费| 黄片无遮挡物在线观看| 久久久久久久久久黄片| 一区二区三区四区激情视频| 一区二区三区四区激情视频| 亚洲人与动物交配视频| 老女人水多毛片| 午夜精品国产一区二区电影 | 亚洲欧洲日产国产| 亚洲va在线va天堂va国产| 亚洲欧美日韩卡通动漫| 国产中年淑女户外野战色| 久久久久久久亚洲中文字幕| 日韩欧美精品v在线| 精品无人区乱码1区二区| www.av在线官网国产| 我的女老师完整版在线观看| 建设人人有责人人尽责人人享有的 | 一级黄色大片毛片| 亚洲精品久久久久久婷婷小说 | 国产成人91sexporn| 日韩强制内射视频| 18禁在线无遮挡免费观看视频| 亚洲欧美精品综合久久99| 成人综合一区亚洲| 中文天堂在线官网| 日本猛色少妇xxxxx猛交久久| 国产人妻一区二区三区在| 真实男女啪啪啪动态图| 久久久久性生活片| 女人十人毛片免费观看3o分钟| 欧美xxxx性猛交bbbb| 久热久热在线精品观看| av在线老鸭窝| av天堂中文字幕网| 日本wwww免费看| 少妇猛男粗大的猛烈进出视频 | 国产极品精品免费视频能看的| 少妇丰满av| 中国国产av一级| 特大巨黑吊av在线直播| www.av在线官网国产| 成人毛片a级毛片在线播放| 有码 亚洲区| 能在线免费观看的黄片| 国产精品国产三级国产专区5o | 午夜精品一区二区三区免费看| 男人舔奶头视频| 视频中文字幕在线观看| 三级国产精品片| 国产精品福利在线免费观看| 禁无遮挡网站| 两个人的视频大全免费| 午夜亚洲福利在线播放| 国产伦精品一区二区三区四那| 免费观看a级毛片全部| 男人狂女人下面高潮的视频| 三级经典国产精品| 一个人观看的视频www高清免费观看| 国产亚洲精品av在线| 国产一区二区亚洲精品在线观看| 国产精品永久免费网站| 99久久中文字幕三级久久日本| 色视频www国产| 只有这里有精品99| 国产精品久久久久久精品电影小说 | 国产69精品久久久久777片| 美女脱内裤让男人舔精品视频| 国产精品精品国产色婷婷| 高清视频免费观看一区二区 | 白带黄色成豆腐渣| 毛片一级片免费看久久久久| 午夜视频国产福利| av在线天堂中文字幕| 亚洲天堂国产精品一区在线| 波多野结衣高清无吗| 美女高潮的动态| 亚洲av中文av极速乱| 非洲黑人性xxxx精品又粗又长| 自拍偷自拍亚洲精品老妇| 国产精品一二三区在线看| 深夜a级毛片| 欧美极品一区二区三区四区| 日韩精品有码人妻一区| 真实男女啪啪啪动态图| 成年女人永久免费观看视频| 高清视频免费观看一区二区 | 久久久精品欧美日韩精品| 亚洲精品国产av成人精品| 中文乱码字字幕精品一区二区三区 | 在线免费观看不下载黄p国产| 赤兔流量卡办理| 亚洲欧美日韩无卡精品| 麻豆国产97在线/欧美| 国产精品嫩草影院av在线观看| 欧美一级a爱片免费观看看| 久久久亚洲精品成人影院| 高清日韩中文字幕在线| videossex国产| 午夜福利成人在线免费观看| 国产毛片a区久久久久| 欧美日韩在线观看h| 免费观看人在逋| 成年av动漫网址| 亚洲国产高清在线一区二区三| 国产av不卡久久| 日韩亚洲欧美综合| 大香蕉久久网| 六月丁香七月| 欧美人与善性xxx| 亚洲欧美成人综合另类久久久 | 亚洲欧美日韩高清专用| 一个人观看的视频www高清免费观看| 日本黄色片子视频| 久久久久性生活片| 99热精品在线国产| 日本五十路高清| 97在线视频观看| 蜜桃亚洲精品一区二区三区| 小说图片视频综合网站| 精品午夜福利在线看| 99国产精品一区二区蜜桃av| 免费黄色在线免费观看| 久久久欧美国产精品| 久久精品人妻少妇| 成人漫画全彩无遮挡| 高清毛片免费看| 在线天堂最新版资源| 色吧在线观看| 日韩中字成人| 国产伦精品一区二区三区四那| 亚洲色图av天堂| 久久久久久久久大av| 午夜精品在线福利| 在线播放无遮挡| 久久久久久九九精品二区国产| 97在线视频观看| 极品教师在线视频| 亚洲国产精品合色在线| 亚洲精品乱码久久久久久按摩| a级毛片免费高清观看在线播放| 国产精品国产三级国产专区5o | 久久久久性生活片| 中文字幕av在线有码专区| 日韩av在线免费看完整版不卡| 国产成人精品婷婷| 国产麻豆成人av免费视频| 成人午夜精彩视频在线观看| 村上凉子中文字幕在线| 国产精品女同一区二区软件| 极品教师在线视频| 熟女电影av网| 激情 狠狠 欧美| 午夜久久久久精精品| 91久久精品电影网| 九九热线精品视视频播放| 少妇熟女欧美另类| 伦理电影大哥的女人| 国产精品久久久久久精品电影| 成人av在线播放网站| 伦精品一区二区三区| av又黄又爽大尺度在线免费看 | 日本wwww免费看| 国产乱来视频区| 国产免费福利视频在线观看| 边亲边吃奶的免费视频| 成人无遮挡网站| 国产成人freesex在线| 国产一区二区亚洲精品在线观看| 亚洲国产精品合色在线| 色吧在线观看| 老司机福利观看| 久久这里只有精品中国| 免费黄网站久久成人精品| 神马国产精品三级电影在线观看| 免费不卡的大黄色大毛片视频在线观看 | 午夜爱爱视频在线播放| 欧美高清成人免费视频www| 亚洲国产精品sss在线观看| 最近手机中文字幕大全| 18+在线观看网站| 亚洲欧洲国产日韩| 日韩成人av中文字幕在线观看| 蜜桃久久精品国产亚洲av| 免费观看在线日韩| 观看美女的网站| 久久人妻av系列| 人妻夜夜爽99麻豆av| 狂野欧美激情性xxxx在线观看| 麻豆av噜噜一区二区三区| 亚洲中文字幕日韩| 国产精品人妻久久久影院| 国产69精品久久久久777片| 亚洲最大成人中文| 午夜a级毛片| 91在线精品国自产拍蜜月| 亚洲国产精品久久男人天堂| 你懂的网址亚洲精品在线观看 | 午夜日本视频在线| 日日撸夜夜添| 男女视频在线观看网站免费| 久久久久久久久久成人| 国产男人的电影天堂91| 人妻系列 视频| 在线观看66精品国产| 日韩欧美三级三区| 特大巨黑吊av在线直播| ponron亚洲| 99久久无色码亚洲精品果冻| 噜噜噜噜噜久久久久久91| 禁无遮挡网站| 亚洲成av人片在线播放无| 国产成人免费观看mmmm| 亚洲欧美一区二区三区国产| 高清毛片免费看| 亚洲电影在线观看av| 黑人高潮一二区| 热99re8久久精品国产| 亚洲人成网站高清观看| 欧美三级亚洲精品| 国产精品国产三级国产av玫瑰| 亚洲精品国产av成人精品| 午夜精品一区二区三区免费看| 国产三级在线视频| 国产精华一区二区三区| 可以在线观看毛片的网站| 日日啪夜夜撸| 久久精品影院6| 亚洲国产色片| 日本熟妇午夜| 日本猛色少妇xxxxx猛交久久| 国产探花在线观看一区二区| 99久久中文字幕三级久久日本| 一卡2卡三卡四卡精品乱码亚洲| 精品一区二区三区人妻视频| 18禁在线播放成人免费| 高清毛片免费看| 亚洲第一区二区三区不卡| 九九热线精品视视频播放| 乱系列少妇在线播放| 国产欧美日韩精品一区二区| av.在线天堂| 床上黄色一级片| 又爽又黄无遮挡网站| 精品酒店卫生间| 国产男人的电影天堂91| 一级av片app| 美女大奶头视频| av在线天堂中文字幕| kizo精华| 午夜免费激情av| 亚洲中文字幕日韩| 国产亚洲精品久久久com| 亚洲精品日韩av片在线观看| 一级av片app| 日韩精品有码人妻一区| 亚洲欧美成人精品一区二区| 99九九线精品视频在线观看视频| 久久久久免费精品人妻一区二区| 精品欧美国产一区二区三| 看十八女毛片水多多多| 99九九线精品视频在线观看视频| 成年av动漫网址| 久久精品91蜜桃| 免费大片18禁| 老司机福利观看| 欧美日韩国产亚洲二区| 免费观看在线日韩| 亚洲内射少妇av| 一级av片app| 国内少妇人妻偷人精品xxx网站| a级毛色黄片| 99久久精品热视频| 国产伦在线观看视频一区| 中文乱码字字幕精品一区二区三区 | 国产人妻一区二区三区在| 国产免费一级a男人的天堂| 热99re8久久精品国产| 日韩欧美三级三区| 国产探花在线观看一区二区| 午夜福利在线观看吧| 日本黄色视频三级网站网址| 国产精品一区www在线观看| av免费在线看不卡| 国产淫语在线视频| 久久99热这里只频精品6学生 | 色5月婷婷丁香| 日韩大片免费观看网站 |