• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    基于機(jī)器學(xué)習(xí)算法的引文情感自動(dòng)識(shí)別研究

    2020-07-20 06:41徐琳宏丁堃林原楊陽(yáng)
    現(xiàn)代情報(bào) 2020年1期
    關(guān)鍵詞:自然語(yǔ)言處理情感分析支持向量機(jī)

    徐琳宏 丁堃 林原 楊陽(yáng)

    摘 要:[目的/意義]引文情感分析揭示施引文獻(xiàn)對(duì)被引文獻(xiàn)的褒義、貶義和中性的情感傾向性,解析文獻(xiàn)之間深層語(yǔ)義關(guān)系,能夠幫助更加準(zhǔn)確地評(píng)價(jià)被引文獻(xiàn)和作者。[方法/過(guò)程]以自然語(yǔ)言處理領(lǐng)域文獻(xiàn)的引文情感為數(shù)據(jù)集,利用引文中情感表達(dá)的引文標(biāo)識(shí)位置指引和情感詞匯等特征,采用支持向量機(jī)(SVM)構(gòu)建引文情感的自動(dòng)識(shí)別系統(tǒng),探索生成更大規(guī)模數(shù)據(jù)的方法。[結(jié)果/結(jié)論]實(shí)踐應(yīng)用證明,該系統(tǒng)特征的區(qū)分度較強(qiáng),準(zhǔn)確率達(dá)到93.4%,識(shí)別效果較好。引文情感的自動(dòng)識(shí)別系統(tǒng)實(shí)用價(jià)值較強(qiáng),拓寬了引文網(wǎng)絡(luò)分析的研究方法和內(nèi)容,能夠完善論文評(píng)價(jià)體系。

    關(guān)鍵詞:機(jī)器學(xué)習(xí);引文情感分析;自動(dòng)識(shí)別系統(tǒng);支持向量機(jī);自然語(yǔ)言處理;情感分析

    DOI:10.3969/j.issn.1008-0821.2020.01.004

    〔中圖分類(lèi)號(hào)〕TP312 〔文獻(xiàn)標(biāo)識(shí)碼〕A 〔文章編號(hào)〕1008-0821(2020)01-0035-06

    Citation Sentiment Identification Based on Machine Learning

    ——Natural Language Processing as an Example

    Xu Linhong1,2 Ding Kun1 Lin Yuan1 Yang Yang1

    (1.Institute of Science and Management of Science and Technology and WISE Laboratory,

    Dalian University of Technology,Dalian 116024,China;

    2.Research Center for Language Intelligence,Dalian University of Foreign Languages,Dalian 116044,China)

    Abstract:[Purpose/Significance]Citation affective analysis reveals the positive,negative and neutral emotional tendencies of citation documents,which includes the deep semantic relationship between them and helps evaluate the cited documents and authors more accurately.[Method/Process]This paper took the citation sentiment of the literature in the field of natural language processing as the dataset and analysed the characteristics of citation mark location guidance and emotional vocabulary of emotional expression in citation and constructd an automatic recognition model of citation emotion by using support vector machine(SVM)to explore the method of generating larger-scale data.[Result/Conclusion]The practical application proved that the classification features were highly differentiated,F(xiàn)1 value was 5% higher than the original model,and the recognition effect was better.The characteristics of citation sentiment enriched citation network analysis and can improve the paper evaluation system.Automatic recognition model can improve the recognition effect of citation sentiment classification and has high practical value.

    Key words:machine learning;citation sentiment analysis;automatic recognition system;support vector machine;natural language processing;sentiment analysis

    學(xué)術(shù)論文作為科學(xué)研究活動(dòng)的主要產(chǎn)出形式,是我們度量科學(xué)貢獻(xiàn)的最有效的載體。因此,如何評(píng)價(jià)論文的影響力一直受到了科技界和社會(huì)各界的廣泛關(guān)注。在依據(jù)引用頻次衡量論文質(zhì)量的評(píng)價(jià)體系中,通常認(rèn)為被引文獻(xiàn)對(duì)施引文獻(xiàn)的影響程度相同,沒(méi)有考慮一篇論文中的引用次數(shù)、引用的傾向性和引用位置。這樣的計(jì)量方式比較簡(jiǎn)單,掩蓋了論文之間的差異,缺乏對(duì)引用極性和強(qiáng)度的分析。因此,簡(jiǎn)單的被引頻次不能準(zhǔn)確地衡量學(xué)術(shù)影響力的高低,需要更加全面地分析引文的內(nèi)容。引文情感分析是指分析論文中施引文獻(xiàn)對(duì)被引文獻(xiàn)褒義、貶義和中性的情感傾向性,它能通過(guò)抽取引文中包含的顯示和隱式的情感信息,解析文獻(xiàn)之間深層語(yǔ)義關(guān)系,分析作者對(duì)被引文獻(xiàn)的態(tài)度,從而更客觀地評(píng)價(jià)被引文獻(xiàn)的影響力。

    雖然引文的情感能細(xì)致地區(qū)分引文的性質(zhì),與單純依靠頻次相比能更加準(zhǔn)確地評(píng)估論文的質(zhì)量,但是隨著出版物數(shù)量的不斷增加,人工區(qū)分每條引文情感需要耗費(fèi)巨大的人力資源,困難重重。為了解決人工標(biāo)注耗時(shí)費(fèi)力的問(wèn)題,本文采用人工智能輔助的方式,選取合適的特征,依靠機(jī)器學(xué)習(xí)算法自動(dòng)實(shí)現(xiàn)引文的情感分類(lèi),這樣只需少量的引文情感樣本,就能建立起相對(duì)高效的自動(dòng)識(shí)別系統(tǒng)。接下來(lái)的內(nèi)容安排如下:第二節(jié)介紹了國(guó)內(nèi)外引文情感分析的研究進(jìn)展,第三節(jié)構(gòu)建引文情感的自動(dòng)識(shí)別模型,第四節(jié)報(bào)告了應(yīng)用的案例及效果,第五節(jié)給出了研究的結(jié)論和未來(lái)的改進(jìn)方向。

    1 研究進(jìn)展

    引文情感分析能夠在全文語(yǔ)義分析和理解的基礎(chǔ)上解決引用的同一化問(wèn)題,矯正單純引用頻次分析帶來(lái)的偏差,是引文內(nèi)容分析的重要組成部分。相關(guān)的研究工作主要分為兩部分:一方面是引文情感分析在學(xué)科評(píng)價(jià)中的應(yīng)用;另一方面通過(guò)機(jī)器學(xué)習(xí)模型自動(dòng)識(shí)別引文中的情感,兩者互為補(bǔ)充。因此,下面分別從引文情感分析的應(yīng)用及自動(dòng)識(shí)別兩個(gè)方面介紹相關(guān)的研究工作。

    引文情感分析是引文內(nèi)容分析的熱門(mén)研究領(lǐng)域,早在1982年,Small H[1]就將引文內(nèi)容定義為“Citation Context”,指的是文獻(xiàn)正文中在參考文獻(xiàn)標(biāo)簽周?chē)奈谋緝?nèi)容。2006年,Teufel S等通過(guò)設(shè)置文本窗口的方式調(diào)整引用內(nèi)容的大小[2]。Abujbara A等進(jìn)一步將引文分為顯式和隱式兩類(lèi),認(rèn)為包含特定引文標(biāo)記的句子稱(chēng)為引文句或顯式引文上下文,其他形式為隱式引文上下文[3]。徐健等研究表明有96%的被引片段少于3句[4]。近幾年引文情感分析在很多方面都有廣泛的應(yīng)用,2011年,Small H利用共被引的引用內(nèi)容進(jìn)行了情感分析[5]。2014年,Sula C A分析情感傾向的表述規(guī)律,認(rèn)為引文功能的分類(lèi)可以與情感傾向?qū)?yīng)[6]。2015年,Christian C等關(guān)注負(fù)向引用的作用,發(fā)現(xiàn)了負(fù)向引用與高質(zhì)量文獻(xiàn)之間的關(guān)系[7]。2017年,尹莉引入“極性”概念,將引用內(nèi)容分為正、負(fù)和零3類(lèi),并分析引用發(fā)生的語(yǔ)境,指出引用的位置與論文的一般結(jié)構(gòu)有關(guān)[8]。Yousif A等綜述了最近幾年英文引文情感分析方面的工作[9]。2018年,遲玉琢等嘗試創(chuàng)建一套引用內(nèi)容分析框架,并選擇32篇英文文獻(xiàn)樣本進(jìn)行了實(shí)證分析[10]。劉盛博等提出引文評(píng)價(jià)的3個(gè)指標(biāo),其中引文情感分為正面引用、負(fù)面引用和中立引用[11]。

    除了上述分析引文情感特點(diǎn)的文獻(xiàn),近幾年也出現(xiàn)一些引文情感自動(dòng)識(shí)別的研究。2006年,Teufel S等[2]對(duì)引用內(nèi)容進(jìn)行情感分類(lèi),構(gòu)建引用功能的自動(dòng)識(shí)別系統(tǒng)。2011年,Awais A等選擇Ngram、否定窗口和依賴(lài)關(guān)系等特征利用SVM和樸素貝葉斯等機(jī)器學(xué)習(xí)算法實(shí)現(xiàn)引文情感自動(dòng)識(shí)別[12-13]。2013年,Bei Yu分析了人工引文情感分析與自動(dòng)引文情感識(shí)別的不同[14]。2014年,Wan X等分析引文的重要性,模型在SVM分類(lèi)器中融入引用次數(shù)、引用位置、引文與被引文時(shí)間差、引用句平均長(zhǎng)度、引用句平均密度、是否為自我引用等特征[15]。Jochim C等采用領(lǐng)域自適應(yīng)的方法,在產(chǎn)品評(píng)論數(shù)據(jù)集上訓(xùn)練,將模型遷移到引文極性分類(lèi)[16]。2016年,Ma Z等選擇極性分布、作者單位、作者名和P-index 4個(gè)特征,利用SVM進(jìn)行引文極性分類(lèi),擴(kuò)展H指數(shù)和作者聲譽(yù)度研究[17]。Munkhdalai T等人采用包含多層Attention的雙向LSTM的方法分別對(duì)引文的功能和情感分類(lèi)[18]。Hernández-Alvarez M等在自建的25篇論文中自動(dòng)分析引文的重要性[19]。中文方面,2012年,許德山[20]利用引文上下文信息進(jìn)行引用的觀點(diǎn)傾向性識(shí)別。2018年,遲玉琢等提出了引用內(nèi)容分析的框架包括引用功能、引用數(shù)據(jù)類(lèi)型和引用強(qiáng)度等屬性[10]。廖君華等從PubMed中獲取全文,利用TF-IDF算法篩選出引用情感特征詞,展示引用情感的整體分布情況[21]。國(guó)外引文情感分析的研究開(kāi)展的較早,而國(guó)內(nèi)相關(guān)研究開(kāi)展的較晚,尤其是自動(dòng)識(shí)別方面,還處于起步階段。

    2 引文情感自動(dòng)識(shí)別系統(tǒng)的設(shè)計(jì)與實(shí)現(xiàn)

    引文情感自動(dòng)識(shí)別功能就是將少量的引文情感通過(guò)人工標(biāo)注,作為系統(tǒng)的原始語(yǔ)料,利用機(jī)器學(xué)習(xí)的算法,自動(dòng)產(chǎn)生更大規(guī)模的數(shù)據(jù),為引文情感分析提供語(yǔ)料支撐。這種方法解決人工標(biāo)注耗時(shí)費(fèi)力的問(wèn)題,只需少量的引文情感樣本,就能建立起相對(duì)有效的模型,為引文情感分析向更多領(lǐng)域推廣提供了有利的技術(shù)支持。

    2.1 數(shù)據(jù)準(zhǔn)備

    無(wú)論是引文情感的分析還是自動(dòng)識(shí)別,都是以帶標(biāo)注的數(shù)據(jù)集為基礎(chǔ)的。標(biāo)注質(zhì)量越好,規(guī)模越大,數(shù)據(jù)分析的準(zhǔn)確性越高。但引文的情感信息與引文網(wǎng)絡(luò)的數(shù)據(jù)不同,前者不能通過(guò)網(wǎng)絡(luò)直接下載得到,需要先制定規(guī)范的標(biāo)注準(zhǔn)則,經(jīng)過(guò)多輪的人工標(biāo)注才能完成,耗時(shí)費(fèi)力。目前國(guó)內(nèi)外引文情感標(biāo)注的數(shù)據(jù)較少,本文選擇Awais的數(shù)據(jù)集作為引文情感分析的研究對(duì)象。Awais數(shù)據(jù)集中的引文來(lái)源于ACL Anthology NetWork(AAN)[22]。AAN論文集收錄了計(jì)算語(yǔ)言學(xué)領(lǐng)域歷年的多個(gè)國(guó)際頂級(jí)會(huì)議的論文,包括ACL、EMNLP和COLING等。該數(shù)據(jù)手工標(biāo)注了每個(gè)引用句的情感、重要性和引文上下文,共8 736條引文信息。

    2.2 實(shí)體及特征抽取

    引文情感包含對(duì)誰(shuí)發(fā)出情感和情感類(lèi)型兩部分,實(shí)體抽取就是識(shí)別引文情感的受體,即被引文獻(xiàn)。而特征抽取是選取有效的特性幫助系統(tǒng)甄別情感的類(lèi)型,褒義、貶義還是中性。兩部分的信息抽取互相依賴(lài),互為補(bǔ)充。

    2.2.1 實(shí)體抽取

    實(shí)體抽取就是找出一段引文中的被引文獻(xiàn),在一段引文中被引文獻(xiàn)通常具有一定的習(xí)慣寫(xiě)法和特點(diǎn),稱(chēng)為引文標(biāo)識(shí)。引文標(biāo)識(shí)有多種表現(xiàn)形式,有的使用作者名,有的使用作者名和發(fā)表年份,還有的使用參考文獻(xiàn)列表中的數(shù)字等。在ANN的數(shù)據(jù)集中,一般采用作者名和發(fā)表年份的方式,例如“McKeown(2000)”或者“(Jing and McKeown,2000)”等。本文的引用標(biāo)識(shí)采用以上多種形式的復(fù)合,即任意一種存在都被識(shí)別為引用標(biāo)識(shí),識(shí)別出的引文標(biāo)識(shí)統(tǒng)一用“〈CIT〉”標(biāo)簽替換和表示。確定引文標(biāo)識(shí)的位置,對(duì)后續(xù)系統(tǒng)的情感識(shí)別作用較大,可以使學(xué)習(xí)算法特別關(guān)注引文標(biāo)識(shí)前后的單詞,增加這些單詞的權(quán)重。

    2.2.2 特征抽取

    1)引文Ngram值和引文依賴(lài)關(guān)系

    引文的Ngram值是指將整個(gè)引文段落中的詞匯按Ngram進(jìn)行劃分,切分出多個(gè)單詞片段,計(jì)算每個(gè)片段在語(yǔ)料中Ngram值。引文依賴(lài)關(guān)系是利用斯坦福依存分析器[23],分析引文語(yǔ)句中的依存關(guān)系,最后采用關(guān)系—詞對(duì)的方式標(biāo)識(shí),再計(jì)算各關(guān)系—詞對(duì)在語(yǔ)料中出現(xiàn)的Tf*idf值。這兩個(gè)特征都是沿用Awais文本情感分類(lèi)模型[13]中提供的方法。

    2)引文標(biāo)識(shí)位置指示

    引文標(biāo)識(shí)位置指示的特征就是加大引文標(biāo)識(shí)(用“〈CIT〉”表示)周?chē)~匯的權(quán)重,因?yàn)橐囊话闶且痪浠蛘邘拙湓?huà)組成的段落,與引文標(biāo)識(shí)越近的詞匯則和被引文獻(xiàn)越相關(guān),也就越可能是施引文獻(xiàn)表達(dá)對(duì)被引文獻(xiàn)情感的詞匯。需要指出的是引文標(biāo)識(shí)周?chē)脑~匯并不是指在原始引文中“〈CIT〉”前后的單詞,而是選擇在依存分析樹(shù)中與引文標(biāo)識(shí)直接相鄰的節(jié)點(diǎn)。

    3)引文情感詞匯

    情感詞匯通常是表達(dá)情感的重要方式,是機(jī)器識(shí)別情感類(lèi)型的重要依據(jù)。引文的情感傾向性雖然有科技論文本身獨(dú)有的特點(diǎn),但很多也是通過(guò)情感詞匯體現(xiàn)的。引文情感詞匯特征就是提取原始引文中包含的情感詞匯,在依存分析樹(shù)中找到該情感詞匯修飾的目標(biāo)詞,最后將包含情感詞匯的關(guān)系—詞對(duì)作為特征值。

    抽取引文中的情感詞匯需要用到專(zhuān)業(yè)的情感詞典。英文方面的情感詞典比較多,主要的情感詞典有普林斯頓大學(xué)的SentiWordNet情感詞典[24]、GI(The General Inquirer)詞典[25]、LIWC(Linguistic Inquiry and Word Count)詞典[26]、MPQA詞典[27]和伊利諾伊大學(xué)的Bing Liu提供的情感詞典[28]。這些詞典基本都給出了每個(gè)詞條的詞性和褒貶含義等,只是數(shù)量上有所差別。本文使用的情感詞匯表是Srijan Kumar[29]從引文數(shù)據(jù)中抽取的,貶義詞匯4924個(gè),褒義詞匯2 789個(gè),標(biāo)注的詞匯情感傾向性比較適合科技論文的引文情感分析。

    2.3 自動(dòng)識(shí)別模型

    將提取出的實(shí)體和特征與機(jī)器學(xué)習(xí)算法融合,通過(guò)人工標(biāo)注的少量引文情感信息,使用機(jī)器學(xué)習(xí)的方法,訓(xùn)練模型,從而完成大規(guī)模引文情感傾向性的自動(dòng)識(shí)別系統(tǒng)。為了能夠完成引文情感的自動(dòng)標(biāo)注,本文構(gòu)建了如圖1所示的整體功能框架圖。

    第一步將原始的引文信息經(jīng)過(guò)分詞、去噪等處理后,采用正則表達(dá)式匹配的方式標(biāo)識(shí)出引文中被引文獻(xiàn)的位置。第二步提取分類(lèi)特征,將一部分?jǐn)?shù)據(jù)作為訓(xùn)練集融入SVM和卷積神經(jīng)網(wǎng)絡(luò)等機(jī)器學(xué)習(xí)算法中,開(kāi)始模型訓(xùn)練。第三步將測(cè)試集中的數(shù)據(jù)裝填到模型中,進(jìn)行自動(dòng)識(shí)別,最后評(píng)估算法及特征的有效性。訓(xùn)練出的模型是否有效,主要依賴(lài)于選取的特征和機(jī)器學(xué)習(xí)算法,本文采用的分類(lèi)模型是支持向量機(jī)(Support Vector Machine,SVM)[30],它是機(jī)器學(xué)習(xí)領(lǐng)域一個(gè)有監(jiān)督的學(xué)習(xí)算法,通常在特征空間上找到最佳的分離超平面使得訓(xùn)練集上正負(fù)樣本間隔最大。

    支持向量機(jī)是一種基于統(tǒng)計(jì)的學(xué)習(xí)方法,它是由Vapnik V[31]于1995年首次提出的。該方法是進(jìn)行二元分類(lèi)的廣義線性分類(lèi)器,它的主要思想是建立一個(gè)超平面作為決策曲面,使得正例和反例之間的間隔邊緣被最大化,其理論基礎(chǔ)是統(tǒng)計(jì)學(xué)習(xí)理論。對(duì)于二維數(shù)據(jù)來(lái)說(shuō),支持向量就是分布在兩條分割線上的點(diǎn)。當(dāng)有少數(shù)樣本點(diǎn)存在于最大間隔之間,則成為噪音數(shù)據(jù),需引入懲罰參數(shù)。

    對(duì)于線性可分的分類(lèi)問(wèn)題,求最優(yōu)分類(lèi)超平面的問(wèn)題即求:

    其中,{x1,x2,…,xn}∈X為數(shù)據(jù)集,yi∈Y∈{-1,1}為xi的類(lèi)標(biāo)記。對(duì)于線性不可分的問(wèn)題,SVM通過(guò)核函數(shù)映射的方法解決,將二維數(shù)據(jù)映射到高維空間,常用的核函數(shù)包括多項(xiàng)式核(Polynomial Kernel)、高斯徑向基函數(shù)核(RBF Kernel)、線性核(Linear Kernel)和Sigmoid核(Sigmoid Kernel)。通過(guò)核函數(shù),可以將非線性可分的數(shù)據(jù)轉(zhuǎn)換為線性可分?jǐn)?shù)據(jù),它的選擇一般和具體的應(yīng)用相關(guān),在不同的領(lǐng)域應(yīng)用核函數(shù)可能也不相同,一般來(lái)說(shuō)高斯徑向基函數(shù)核應(yīng)用的范圍更廣。

    SVM不僅可以用于二分類(lèi),也可以用于多分類(lèi)問(wèn)題,如本文的引文極性分類(lèi),就是一個(gè)典型的三分類(lèi)問(wèn)題。它用于多分類(lèi)是主要有兩種實(shí)現(xiàn)方法:一是直接修改目標(biāo)函數(shù),一次性實(shí)現(xiàn)多分類(lèi)。這種方法計(jì)算復(fù)雜度比較高,只適合小樣本的數(shù)據(jù)集。二是組合多個(gè)二分類(lèi)器來(lái)實(shí)現(xiàn)多分類(lèi)器的構(gòu)造,采用這種方法的比較多。SVM方法具有完善的理論基礎(chǔ),在少量樣本時(shí)能夠獲得較好的分類(lèi)效果,分類(lèi)速度較快,且沒(méi)有分類(lèi)重疊和不可分類(lèi)現(xiàn)象。本文的引文情感分類(lèi)是一個(gè)典型的三分類(lèi)問(wèn)題,從類(lèi)別上看,中性類(lèi)別數(shù)據(jù)較多,褒義和貶義數(shù)據(jù)較少,有明顯的不平衡特性。同時(shí),引文情感數(shù)據(jù)需要人工標(biāo)注獲得,一般數(shù)據(jù)規(guī)模較少,綜合以上實(shí)際問(wèn)題,SVM模型更適合該類(lèi)型的分類(lèi)工作。

    3 案例及效果分析

    目前,本文將引文情感自動(dòng)識(shí)別系統(tǒng)應(yīng)用于自然語(yǔ)言處理領(lǐng)域,選擇該領(lǐng)域是因?yàn)樗扰c目前的大數(shù)據(jù)等許多研究熱點(diǎn)密切相關(guān),同時(shí)也是人工智能方向一個(gè)重要的分支,具有較高的應(yīng)用價(jià)值和廣泛的應(yīng)用前景。

    3.1 數(shù)據(jù)預(yù)處理

    本文選擇Awais的數(shù)據(jù)集作為引文情感分析的研究對(duì)象,該數(shù)據(jù)手工標(biāo)注了計(jì)算語(yǔ)言學(xué)方向194篇頂級(jí)會(huì)議論文的被引信息,包括每個(gè)引用句的情感和引文上下文等,共8 736條引文信息。原始數(shù)據(jù)如圖2所示。

    由圖2可見(jiàn),數(shù)據(jù)集中給出了施引文獻(xiàn)、被引文獻(xiàn)、情感極性和引文原文,在此基礎(chǔ)上想完成引文情感的自動(dòng)分類(lèi)還需要進(jìn)一步做數(shù)據(jù)的預(yù)處理。本文主要的數(shù)據(jù)預(yù)處理工作有解析論文信息、識(shí)別引文標(biāo)識(shí)、獲取引文中詞匯的依賴(lài)關(guān)系、詞性標(biāo)注和識(shí)別情感詞匯及極性。Awais的數(shù)據(jù)集只給出了被引文獻(xiàn)的ID,如果想在引文中解析出被引文獻(xiàn)的位置,需要提取被引文獻(xiàn)的作者和年份等信息。因此,我們首先從網(wǎng)上下載了包含被引文獻(xiàn)信息的XML文件,使用XML解析器解析出文獻(xiàn)的編號(hào)、所有作者和年份。然后通過(guò)正則表示的方式分級(jí)匹配被引文獻(xiàn)標(biāo)識(shí),優(yōu)先查找是否有作者名和年份都匹配的標(biāo)識(shí),如果不存在則繼續(xù)查找存在僅作者名匹配的標(biāo)識(shí)。需要說(shuō)明的是作者名的使用包括3種情況,先用第一作者和第二作者名匹配,然后再用第一作者名單獨(dú)匹配,最后再用其他作者名順序匹配,這樣可以最大限度地找到所有的被引文獻(xiàn)標(biāo)識(shí)。詞法和句法分析方面,本文采用斯坦福的語(yǔ)法分析器[23]完成引文中的依賴(lài)關(guān)系和詞性標(biāo)注,并將依賴(lài)關(guān)系樹(shù)中距離引文標(biāo)識(shí)結(jié)點(diǎn)較近的依賴(lài)關(guān)系權(quán)重。取引文中詞性標(biāo)注后的形容詞、名詞、動(dòng)詞和副詞與情感詞匯表中的詞匯匹配,獲取情感極性信息。

    3.2 參數(shù)設(shè)置及結(jié)果分析

    我們使用WEKA軟件包中的LibSvm分類(lèi),參數(shù)Cost設(shè)置為1 000,采取10倍交叉驗(yàn)證的方式,即將數(shù)據(jù)集分成10份,輪流將其中9份作為訓(xùn)練數(shù)據(jù),1份作為測(cè)試數(shù)據(jù),進(jìn)行試驗(yàn)。最后,評(píng)估方法選擇分類(lèi)中準(zhǔn)確率和召回率的綜合指標(biāo)F1值,評(píng)估褒義、貶義和中性的分類(lèi)質(zhì)量。

    特征是一個(gè)分類(lèi)模型重要的知識(shí)來(lái)源,特征的好壞直接影響系統(tǒng)的分類(lèi)效果。在引文情感分類(lèi)的系統(tǒng)中,本文分別選取了引文Ngram值(Ngram),引文依賴(lài)關(guān)系(Dependency),引文標(biāo)識(shí)位置指示(Identification),引文情感詞匯(SentimentWords)4個(gè)特征。為了全面客觀地衡量識(shí)別結(jié)果,我們采用綜合準(zhǔn)確率和召回率的F1值作為評(píng)估指標(biāo)。融合4個(gè)特征的系統(tǒng)情感分類(lèi)的F1值達(dá)到81%,比Awais系統(tǒng)的F1值提高了5%,其中中性引用的識(shí)別準(zhǔn)確度高達(dá)97%。

    同時(shí),為了驗(yàn)證這4個(gè)特性各自的作用,我們還采用依次逐步添加的方法,添加引文標(biāo)識(shí)位置指示后,總體的F1值增加了5%,尤其是褒義的F1值提高了13%,提升幅度較大。說(shuō)明與引文標(biāo)識(shí)臨近的詞匯比距離較遠(yuǎn)的詞匯更可能體現(xiàn)引文的情感,應(yīng)加大關(guān)注的權(quán)重。從總的實(shí)驗(yàn)結(jié)果來(lái)看,這套自動(dòng)識(shí)別引文情感的系統(tǒng),其區(qū)分度較強(qiáng),分類(lèi)性能較好,能夠滿(mǎn)足特定領(lǐng)域引文情感自動(dòng)分析的功能,基本可以達(dá)到實(shí)際使用的標(biāo)準(zhǔn)。

    4 結(jié) 語(yǔ)

    引文情感分析在諸多研究領(lǐng)域有廣泛的應(yīng)用,尤其在對(duì)科技論文的評(píng)價(jià)和檢索方面,具有較高的應(yīng)用價(jià)值和廣闊的前景。為了探索大規(guī)模引用情感數(shù)據(jù)的生成方法,本文在分析引文情感特征的基礎(chǔ)上,嘗試構(gòu)建一個(gè)引文情感自動(dòng)識(shí)別的模型,為更準(zhǔn)確地揭示引文情感的特點(diǎn)和作用提供數(shù)據(jù)支撐。采用SVM等機(jī)器學(xué)習(xí)方法,在自動(dòng)鑒別引文的情感傾向性中取得了較好的效果,F(xiàn)1值達(dá)到81%,準(zhǔn)確率達(dá)到93.4%,能夠滿(mǎn)足引文情感分析的基本需求。

    引文情感分析從引文內(nèi)容分析的角度,嘗試解決引文的同一化問(wèn)題,是對(duì)傳統(tǒng)引文分析和現(xiàn)有的科技論文評(píng)價(jià)方法的擴(kuò)展。從目前文獻(xiàn)的規(guī)模和增長(zhǎng)速度看,單靠人工完成難以處理,因此本文設(shè)計(jì)了自動(dòng)識(shí)別引文情感的系統(tǒng)。但系統(tǒng)還需要嘗試應(yīng)用在更多研究領(lǐng)域,進(jìn)一步提高系統(tǒng)的準(zhǔn)確率和魯棒性。下一步計(jì)劃利用更多的自然語(yǔ)言處理的技術(shù)手段和機(jī)器學(xué)習(xí)算法,通過(guò)深入交叉研究更好地處理文獻(xiàn)數(shù)據(jù),提高引文情感分析的效果,為情感分析的指標(biāo)用于學(xué)術(shù)論文評(píng)價(jià)打下堅(jiān)實(shí)的基礎(chǔ),最終將引文情感分析實(shí)際應(yīng)用于特定領(lǐng)域的科技管理和科技評(píng)價(jià)工作中。

    參考文獻(xiàn)

    [1]Small H.Citation Context Analysis[J].Progress in Conununication Sciences,1982,(3):287-310.

    [2]Teufel S,Siddharthan A,Athar D.Automatic Classification of Citation Function[C]//Proceedings of the 2006 Conference on EmPirical Methods in Natural Language Processing.Sydney:Association for Computational Linguistics,2006:103-110.

    [3]Abujbara A,Ezra J,Radev D.Purpose and Polarity of Citation:Towards NLP-based Bibliometrics[C]//Proceedings of the 2013 Conference of the North American Chapter of the Association for Computational Linguistics:Human Language Technologies,2013:596-606.

    [4]徐健,李綱,毛進(jìn),等.文獻(xiàn)被引片段特征分析與識(shí)別研究[J].數(shù)據(jù)分析與知識(shí)發(fā)現(xiàn),2017,1(11):37-4.

    [5]Small H.Interpreting Maps of Science Using Citation Context Sentiments:A Preliminary Investigation[J].Scientometrics,2011,87 (2):373-388.

    [6]Sula C A,Miller M.Citations,Contexts,and Humanistic Discourse:Toward Automatic Extraction and Classification[J].Literary and Linguistic Computing,2014,29(3):452-464.

    [7]Christian C,Nicola Lacetera,Alexander Oettl.The Incidence and Role of Negative Citations in Science[J].PNAS,2015,112(45):13823-13826.

    [8]尹莉.“極性”概念在引文分析中應(yīng)用的一個(gè)實(shí)證研究[J].情報(bào)雜志,2017,36 (8):124-143.

    [9]Yousif A,Niu Z,Tarus J K,et al.A Survey on Sentiment Analysis of Scientific Citations[J].Artificial Intelligence Review,2017:1-34.

    [10]遲玉琢,王延飛.面向科學(xué)數(shù)據(jù)管理的科學(xué)數(shù)據(jù)引用內(nèi)容分析框架[J].情報(bào)學(xué)報(bào),2018,(1):43-51.

    猜你喜歡
    自然語(yǔ)言處理情感分析支持向量機(jī)
    基于組合分類(lèi)算法的源代碼注釋質(zhì)量評(píng)估方法
    在線評(píng)論情感屬性的動(dòng)態(tài)變化
    基于支持向量機(jī)的金融數(shù)據(jù)分析研究
    免费电影在线观看免费观看| 国产亚洲欧美98| 成人一区二区视频在线观看| 黄片小视频在线播放| 欧美日韩综合久久久久久 | 中出人妻视频一区二区| 91字幕亚洲| 精品久久久久久成人av| 亚洲五月婷婷丁香| 美女黄网站色视频| 最后的刺客免费高清国语| 国产伦在线观看视频一区| 欧美丝袜亚洲另类 | 国产精品乱码一区二三区的特点| 色播亚洲综合网| 日韩人妻高清精品专区| 国产在线男女| 夜夜夜夜夜久久久久| 国产精品美女特级片免费视频播放器| 亚洲熟妇中文字幕五十中出| 一进一出抽搐gif免费好疼| 中文字幕人妻熟人妻熟丝袜美| 俺也久久电影网| 国产欧美日韩精品亚洲av| 中出人妻视频一区二区| 久久天躁狠狠躁夜夜2o2o| 久久中文看片网| 午夜a级毛片| 欧美在线黄色| 久久人人精品亚洲av| 国产亚洲精品av在线| 免费黄网站久久成人精品 | 亚洲av日韩精品久久久久久密| 久久久久久九九精品二区国产| 久久久久免费精品人妻一区二区| 久久久久九九精品影院| 日本与韩国留学比较| 丰满乱子伦码专区| av中文乱码字幕在线| 欧美又色又爽又黄视频| 国产午夜福利久久久久久| 久久久久久久亚洲中文字幕 | 午夜a级毛片| 免费无遮挡裸体视频| 天堂网av新在线| 精品人妻熟女av久视频| 国产精品久久视频播放| 69av精品久久久久久| 亚洲欧美日韩高清在线视频| 精品日产1卡2卡| 美女 人体艺术 gogo| 久99久视频精品免费| 日本a在线网址| a级毛片免费高清观看在线播放| 一级a爱片免费观看的视频| 国产真实乱freesex| 色哟哟·www| 欧美黄色片欧美黄色片| 熟妇人妻久久中文字幕3abv| 很黄的视频免费| 一级毛片久久久久久久久女| 男人舔女人下体高潮全视频| 人人妻人人看人人澡| 亚洲aⅴ乱码一区二区在线播放| 久久久久亚洲av毛片大全| 精品久久久久久久人妻蜜臀av| 久久久久九九精品影院| 精品乱码久久久久久99久播| 久久国产乱子免费精品| 国产免费一级a男人的天堂| 日日摸夜夜添夜夜添av毛片 | 国产国拍精品亚洲av在线观看| 中文字幕av成人在线电影| 免费在线观看影片大全网站| 日本熟妇午夜| 婷婷丁香在线五月| or卡值多少钱| 又粗又爽又猛毛片免费看| 亚洲最大成人中文| 搡老熟女国产l中国老女人| 欧美日本视频| 日韩有码中文字幕| 一夜夜www| 精品午夜福利在线看| 在线观看一区二区三区| 人人妻,人人澡人人爽秒播| 国产一区二区三区视频了| 国产精品1区2区在线观看.| 免费一级毛片在线播放高清视频| 极品教师在线视频| 亚洲精品456在线播放app | 亚洲性夜色夜夜综合| 色吧在线观看| 婷婷六月久久综合丁香| 欧美另类亚洲清纯唯美| 国产精品美女特级片免费视频播放器| 亚洲av.av天堂| 精品不卡国产一区二区三区| 激情在线观看视频在线高清| 又黄又爽又刺激的免费视频.| 给我免费播放毛片高清在线观看| 搡女人真爽免费视频火全软件 | 中文字幕av在线有码专区| 欧美另类亚洲清纯唯美| 成人午夜高清在线视频| 久久精品夜夜夜夜夜久久蜜豆| 精品日产1卡2卡| 久久九九热精品免费| 最近视频中文字幕2019在线8| 亚洲av.av天堂| 国产真实伦视频高清在线观看 | 亚洲,欧美,日韩| 欧美日韩国产亚洲二区| 中文字幕高清在线视频| 天堂网av新在线| 久久精品国产99精品国产亚洲性色| 免费电影在线观看免费观看| 女同久久另类99精品国产91| 久久九九热精品免费| 久久精品国产亚洲av香蕉五月| 亚洲av成人不卡在线观看播放网| 激情在线观看视频在线高清| 精品国内亚洲2022精品成人| 国产美女午夜福利| 成人午夜高清在线视频| 国模一区二区三区四区视频| 嫁个100分男人电影在线观看| 婷婷亚洲欧美| 色5月婷婷丁香| 午夜日韩欧美国产| 色哟哟·www| 一进一出好大好爽视频| 亚洲国产精品sss在线观看| 99久久久亚洲精品蜜臀av| 白带黄色成豆腐渣| 免费一级毛片在线播放高清视频| 丁香六月欧美| 桃色一区二区三区在线观看| 毛片女人毛片| 久久久色成人| 男插女下体视频免费在线播放| 成人午夜高清在线视频| 日韩av在线大香蕉| 久久午夜福利片| 18禁裸乳无遮挡免费网站照片| 免费观看的影片在线观看| 夜夜爽天天搞| 噜噜噜噜噜久久久久久91| 日本精品一区二区三区蜜桃| 18禁黄网站禁片免费观看直播| 亚洲真实伦在线观看| 精华霜和精华液先用哪个| 草草在线视频免费看| 美女免费视频网站| 婷婷色综合大香蕉| 国产不卡一卡二| 97超视频在线观看视频| 国产成年人精品一区二区| 国产精品日韩av在线免费观看| 精品久久国产蜜桃| 久久6这里有精品| 亚洲黑人精品在线| 久久久久九九精品影院| 一级作爱视频免费观看| 97超级碰碰碰精品色视频在线观看| 久久久久性生活片| 国产v大片淫在线免费观看| 99久国产av精品| 18禁在线播放成人免费| 久久99热这里只有精品18| 欧美日本亚洲视频在线播放| 少妇高潮的动态图| 亚洲av成人精品一区久久| 亚洲av电影不卡..在线观看| 中亚洲国语对白在线视频| 男女床上黄色一级片免费看| 婷婷色综合大香蕉| 国产精品av视频在线免费观看| 免费在线观看影片大全网站| 亚洲成人久久性| 亚洲专区中文字幕在线| 大型黄色视频在线免费观看| 自拍偷自拍亚洲精品老妇| 欧美午夜高清在线| 他把我摸到了高潮在线观看| 精品一区二区免费观看| 亚洲,欧美精品.| 国产精品一区二区三区四区久久| 亚洲av日韩精品久久久久久密| 成人午夜高清在线视频| 18美女黄网站色大片免费观看| 免费人成视频x8x8入口观看| 日韩高清综合在线| 国产精品久久视频播放| 性色avwww在线观看| 97热精品久久久久久| 老鸭窝网址在线观看| 永久网站在线| 亚洲中文字幕一区二区三区有码在线看| 国产乱人伦免费视频| 黄色一级大片看看| 激情在线观看视频在线高清| 国产精品国产高清国产av| 99久久九九国产精品国产免费| 黄色一级大片看看| 午夜两性在线视频| 九九在线视频观看精品| 国产高清视频在线播放一区| 人人妻,人人澡人人爽秒播| 亚洲精品在线观看二区| 亚洲精品亚洲一区二区| 自拍偷自拍亚洲精品老妇| 色在线成人网| 亚洲自拍偷在线| 日韩精品青青久久久久久| 国产一区二区三区视频了| 成年女人看的毛片在线观看| 国产午夜福利久久久久久| 国产高潮美女av| 午夜福利欧美成人| 亚洲熟妇中文字幕五十中出| 国产伦在线观看视频一区| 亚洲va日本ⅴa欧美va伊人久久| 搞女人的毛片| 欧美成人性av电影在线观看| 夜夜爽天天搞| bbb黄色大片| 中出人妻视频一区二区| 国产探花在线观看一区二区| 99国产精品一区二区三区| 中文资源天堂在线| 特级一级黄色大片| 三级男女做爰猛烈吃奶摸视频| 国产高潮美女av| 人妻夜夜爽99麻豆av| 美女免费视频网站| 国产成年人精品一区二区| 少妇裸体淫交视频免费看高清| 久久天躁狠狠躁夜夜2o2o| 久久久久性生活片| 首页视频小说图片口味搜索| 久久精品国产99精品国产亚洲性色| av在线老鸭窝| 白带黄色成豆腐渣| 精品人妻1区二区| 亚洲,欧美精品.| 观看美女的网站| 中文字幕精品亚洲无线码一区| 亚洲avbb在线观看| 国产探花在线观看一区二区| 两性午夜刺激爽爽歪歪视频在线观看| 精品不卡国产一区二区三区| 无遮挡黄片免费观看| 国产成年人精品一区二区| 免费人成视频x8x8入口观看| 日本a在线网址| 国产精品自产拍在线观看55亚洲| 97超视频在线观看视频| 99在线人妻在线中文字幕| 日韩成人在线观看一区二区三区| 欧美激情国产日韩精品一区| 三级国产精品欧美在线观看| 中文资源天堂在线| 亚洲国产高清在线一区二区三| 美女大奶头视频| 欧美精品国产亚洲| 少妇裸体淫交视频免费看高清| 麻豆成人午夜福利视频| 老司机福利观看| 成人一区二区视频在线观看| 欧美区成人在线视频| 亚洲成人中文字幕在线播放| 99国产综合亚洲精品| 久久久久国内视频| 欧美黄色淫秽网站| 中文字幕人妻熟人妻熟丝袜美| 久久国产精品人妻蜜桃| 精品午夜福利视频在线观看一区| 国产亚洲欧美在线一区二区| 国产高清有码在线观看视频| 美女cb高潮喷水在线观看| 国产亚洲欧美98| 国产色爽女视频免费观看| 在线十欧美十亚洲十日本专区| 免费av观看视频| 国产久久久一区二区三区| 亚洲av.av天堂| 亚洲人成网站在线播放欧美日韩| 老女人水多毛片| 真人做人爱边吃奶动态| 内地一区二区视频在线| 亚洲三级黄色毛片| 乱码一卡2卡4卡精品| 精品久久久久久久久久久久久| 两人在一起打扑克的视频| 最近最新中文字幕大全电影3| 欧洲精品卡2卡3卡4卡5卡区| 天堂av国产一区二区熟女人妻| 看十八女毛片水多多多| 国产精品不卡视频一区二区 | 一级作爱视频免费观看| 欧美极品一区二区三区四区| 成人精品一区二区免费| 网址你懂的国产日韩在线| 久久人人精品亚洲av| 亚洲,欧美精品.| 十八禁人妻一区二区| 精品久久久久久成人av| 欧美日本视频| 国产视频一区二区在线看| 久久人人精品亚洲av| 美女黄网站色视频| 我要看日韩黄色一级片| 性插视频无遮挡在线免费观看| 精品一区二区三区视频在线| 亚洲avbb在线观看| 国产在线男女| 亚洲专区国产一区二区| 自拍偷自拍亚洲精品老妇| 亚洲国产欧洲综合997久久,| 丝袜美腿在线中文| 中文字幕精品亚洲无线码一区| 天堂影院成人在线观看| 乱码一卡2卡4卡精品| 久久久久国产精品人妻aⅴ院| 日韩欧美 国产精品| 草草在线视频免费看| 久久久精品欧美日韩精品| 给我免费播放毛片高清在线观看| 中文字幕人妻熟人妻熟丝袜美| 日韩国内少妇激情av| 日本免费一区二区三区高清不卡| 国产精品免费一区二区三区在线| 亚洲欧美日韩卡通动漫| 成年免费大片在线观看| 免费av观看视频| 亚洲精品在线观看二区| 国产欧美日韩精品亚洲av| 麻豆成人午夜福利视频| 脱女人内裤的视频| 成人精品一区二区免费| 国产精品1区2区在线观看.| 99久久精品热视频| 男女视频在线观看网站免费| 最后的刺客免费高清国语| 脱女人内裤的视频| 久久久久久九九精品二区国产| www.999成人在线观看| 日韩高清综合在线| 国产精品永久免费网站| 欧美区成人在线视频| 在线观看一区二区三区| 一级毛片久久久久久久久女| 蜜桃亚洲精品一区二区三区| 一个人看视频在线观看www免费| 精品人妻视频免费看| 久久精品综合一区二区三区| 成年人黄色毛片网站| 国产探花在线观看一区二区| 久久欧美精品欧美久久欧美| 变态另类丝袜制服| 久久久国产成人免费| av在线老鸭窝| av中文乱码字幕在线| 制服丝袜大香蕉在线| 精品久久久久久成人av| 日韩中文字幕欧美一区二区| 欧美黑人欧美精品刺激| 免费人成视频x8x8入口观看| 国产成人aa在线观看| 久久久精品大字幕| 亚洲第一区二区三区不卡| 久久精品国产清高在天天线| 少妇的逼好多水| 一边摸一边抽搐一进一小说| 中文字幕免费在线视频6| 欧美绝顶高潮抽搐喷水| 99国产极品粉嫩在线观看| 国产成人福利小说| 一本一本综合久久| 午夜久久久久精精品| 婷婷亚洲欧美| 深夜a级毛片| 黄色视频,在线免费观看| 亚洲国产色片| 中文在线观看免费www的网站| 婷婷精品国产亚洲av| 精品一区二区三区视频在线观看免费| 国产三级在线视频| 中文字幕熟女人妻在线| 很黄的视频免费| 9191精品国产免费久久| 久久热精品热| 精品久久久久久久久av| 国产成人av教育| 亚洲国产日韩欧美精品在线观看| 人人妻人人澡欧美一区二区| or卡值多少钱| 国产视频内射| 亚洲一区二区三区不卡视频| 亚洲精品一区av在线观看| 俄罗斯特黄特色一大片| 中国美女看黄片| 非洲黑人性xxxx精品又粗又长| 亚洲一区二区三区不卡视频| 久久久成人免费电影| 好男人在线观看高清免费视频| 99热精品在线国产| 国产午夜福利久久久久久| 国内毛片毛片毛片毛片毛片| 又爽又黄无遮挡网站| 国产免费男女视频| 午夜福利欧美成人| 久99久视频精品免费| 欧美激情久久久久久爽电影| 丰满的人妻完整版| 18禁裸乳无遮挡免费网站照片| 亚洲久久久久久中文字幕| 又紧又爽又黄一区二区| 国产黄a三级三级三级人| 在线看三级毛片| 小说图片视频综合网站| 久久精品影院6| 日本撒尿小便嘘嘘汇集6| 欧美+日韩+精品| 日韩免费av在线播放| 亚洲性夜色夜夜综合| 日韩欧美在线二视频| 夜夜看夜夜爽夜夜摸| a级毛片a级免费在线| 成人亚洲精品av一区二区| 不卡一级毛片| a级毛片免费高清观看在线播放| 中文字幕精品亚洲无线码一区| 日日摸夜夜添夜夜添av毛片 | 男女那种视频在线观看| 亚洲中文日韩欧美视频| 自拍偷自拍亚洲精品老妇| 精品免费久久久久久久清纯| 精品午夜福利视频在线观看一区| 日本与韩国留学比较| 搡女人真爽免费视频火全软件 | 一级黄片播放器| 99国产精品一区二区三区| 国产一区二区在线观看日韩| 性色avwww在线观看| 中文资源天堂在线| 九九久久精品国产亚洲av麻豆| 真人一进一出gif抽搐免费| 99精品在免费线老司机午夜| 日韩欧美精品v在线| 欧美成狂野欧美在线观看| 国产精品99久久久久久久久| 亚洲18禁久久av| 色av中文字幕| 亚洲成人久久性| 狠狠狠狠99中文字幕| 高清在线国产一区| 日本免费一区二区三区高清不卡| 国产黄色小视频在线观看| 亚洲不卡免费看| 不卡一级毛片| 日韩欧美免费精品| 天堂影院成人在线观看| 91午夜精品亚洲一区二区三区 | 久久精品影院6| 成人av在线播放网站| 国产av麻豆久久久久久久| 18禁黄网站禁片免费观看直播| 久久久久久久精品吃奶| 色尼玛亚洲综合影院| 999久久久精品免费观看国产| 99国产综合亚洲精品| 少妇人妻精品综合一区二区 | 国产av不卡久久| 国产精品美女特级片免费视频播放器| 国产亚洲精品综合一区在线观看| 亚洲专区中文字幕在线| 日韩欧美精品免费久久 | 久久国产乱子伦精品免费另类| 少妇裸体淫交视频免费看高清| 精品99又大又爽又粗少妇毛片 | 国产精品永久免费网站| 国产三级中文精品| 性插视频无遮挡在线免费观看| 免费一级毛片在线播放高清视频| 最新中文字幕久久久久| x7x7x7水蜜桃| 一二三四社区在线视频社区8| 欧美黑人巨大hd| 亚洲无线观看免费| 久久久久久久久久黄片| 亚洲人成伊人成综合网2020| 免费av不卡在线播放| 日本免费a在线| 国产av麻豆久久久久久久| 久久精品国产自在天天线| 在现免费观看毛片| 9191精品国产免费久久| 国产av不卡久久| 国产综合懂色| 日韩中字成人| 亚洲人成电影免费在线| 久久香蕉精品热| 亚洲aⅴ乱码一区二区在线播放| 中文字幕av在线有码专区| 国产一区二区在线观看日韩| 免费在线观看亚洲国产| 99久久久亚洲精品蜜臀av| 十八禁人妻一区二区| 欧美日本视频| 国产私拍福利视频在线观看| 国产日本99.免费观看| 国产精品98久久久久久宅男小说| 国产国拍精品亚洲av在线观看| 极品教师在线视频| 日韩人妻高清精品专区| 精品免费久久久久久久清纯| av专区在线播放| 国产野战对白在线观看| 一区二区三区免费毛片| 欧美乱色亚洲激情| 欧美精品国产亚洲| 亚洲男人的天堂狠狠| 91字幕亚洲| 性色avwww在线观看| 伊人久久精品亚洲午夜| АⅤ资源中文在线天堂| 丰满人妻熟妇乱又伦精品不卡| 午夜福利18| 狂野欧美白嫩少妇大欣赏| h日本视频在线播放| 免费看美女性在线毛片视频| 日日夜夜操网爽| 色综合亚洲欧美另类图片| 国产精品亚洲av一区麻豆| 国产爱豆传媒在线观看| 午夜福利在线观看吧| 日韩欧美在线乱码| 免费av毛片视频| 老司机午夜福利在线观看视频| 1000部很黄的大片| 亚洲五月婷婷丁香| 国产精品1区2区在线观看.| 国产一区二区三区在线臀色熟女| 观看免费一级毛片| 男女下面进入的视频免费午夜| 久久久国产成人精品二区| 免费看a级黄色片| 熟女人妻精品中文字幕| 九九在线视频观看精品| 日日干狠狠操夜夜爽| 99国产精品一区二区三区| 国产精品自产拍在线观看55亚洲| 久久久精品大字幕| 久久精品国产清高在天天线| 国产精品伦人一区二区| 欧美日本亚洲视频在线播放| 99精品久久久久人妻精品| 精品国产亚洲在线| 日本 欧美在线| 国产精品国产高清国产av| 日本免费a在线| 赤兔流量卡办理| 亚洲无线在线观看| 脱女人内裤的视频| 国产欧美日韩精品亚洲av| 精品久久久久久久久久免费视频| 美女黄网站色视频| 一本精品99久久精品77| 国产主播在线观看一区二区| 欧美成人免费av一区二区三区| 神马国产精品三级电影在线观看| av女优亚洲男人天堂| 亚洲人成网站在线播放欧美日韩| 久久亚洲真实| h日本视频在线播放| 中国美女看黄片| 亚洲人成网站在线播放欧美日韩| 一个人观看的视频www高清免费观看| 一个人看视频在线观看www免费| 一级毛片久久久久久久久女| 久久久久久久久久成人| 少妇裸体淫交视频免费看高清| 国产精品不卡视频一区二区 | 精品久久久久久成人av| 婷婷六月久久综合丁香| 欧美极品一区二区三区四区| 91av网一区二区| 中文字幕免费在线视频6| 好男人电影高清在线观看| 在线观看午夜福利视频| 亚洲av二区三区四区| 中亚洲国语对白在线视频| av天堂中文字幕网| 免费搜索国产男女视频| 一个人看的www免费观看视频| 两个人视频免费观看高清| 搡老熟女国产l中国老女人| 国产欧美日韩精品亚洲av| 中文字幕av在线有码专区| 亚洲狠狠婷婷综合久久图片| 久久久久久久久久成人| 俺也久久电影网| 精品人妻偷拍中文字幕| 欧美色欧美亚洲另类二区| 美女大奶头视频| www.熟女人妻精品国产| 久久99热这里只有精品18| av在线老鸭窝| 久久久久久久午夜电影| 看片在线看免费视频| 偷拍熟女少妇极品色| 国内精品一区二区在线观看| 丝袜美腿在线中文|