• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    生活消費(fèi)平臺(tái)虛假評(píng)論識(shí)別模型的研究

    2017-01-10 07:06:20吳國(guó)仕齊佳音孫鵬飛
    電子學(xué)報(bào) 2016年12期
    關(guān)鍵詞:商家特征差異

    李 晶,吳國(guó)仕,謝 菲,姚 旭,齊佳音,孫鵬飛

    (1.北京郵電大學(xué)軟件學(xué)院,北京 100876; 2.新華社通信技術(shù)局,北京 100803;3.北京郵電大學(xué)經(jīng)濟(jì)管理學(xué)院,北京 100876)

    生活消費(fèi)平臺(tái)虛假評(píng)論識(shí)別模型的研究

    李 晶1,吳國(guó)仕1,謝 菲2,姚 旭1,齊佳音3,孫鵬飛1

    (1.北京郵電大學(xué)軟件學(xué)院,北京 100876; 2.新華社通信技術(shù)局,北京 100803;3.北京郵電大學(xué)經(jīng)濟(jì)管理學(xué)院,北京 100876)

    生活消費(fèi)平臺(tái)已成為人們獲取商家信息、反饋服務(wù)或產(chǎn)品質(zhì)量的重要平臺(tái).虛假評(píng)論作為一種夸大或誹謗目標(biāo)商家口碑的商業(yè)行為在生活消費(fèi)平臺(tái)很普遍,具有很強(qiáng)的危害性.本文對(duì)某網(wǎng)站的真實(shí)評(píng)論展開虛假評(píng)論研究,深入分析研究虛假評(píng)論的特征,從“可信度”的角度出發(fā),提出用戶及商家可信度模型.利用評(píng)論人的行為特征、商家的特征和評(píng)論文本的特征構(gòu)建了虛假評(píng)論識(shí)別模型,經(jīng)測(cè)試該模型達(dá)到了一個(gè)良好的識(shí)別效果.

    機(jī)器學(xué)習(xí);虛假評(píng)論識(shí)別;可信度模型

    1 引言

    生活消費(fèi)平臺(tái)作為一種新興的互聯(lián)網(wǎng)服務(wù)在近幾年取得了巨大的發(fā)展.某些組織或個(gè)人在利益的驅(qū)動(dòng)下,利用網(wǎng)絡(luò)信息監(jiān)管的缺失,弄虛作假,制造虛假評(píng)論誤導(dǎo)用戶.因此,對(duì)生活消費(fèi)平臺(tái)虛假評(píng)論進(jìn)行研究并加以識(shí)別成為人們關(guān)注的技術(shù)熱點(diǎn).

    評(píng)論可信度是評(píng)論人提供的信息被認(rèn)可的程度.國(guó)內(nèi)關(guān)于商品評(píng)論的最新研究提出了基于文本內(nèi)容的商品評(píng)論可信度測(cè)評(píng)模型[1].國(guó)外的研究發(fā)現(xiàn)匿名評(píng)論的情感傾向會(huì)對(duì)可信度產(chǎn)生較大影響[2];體驗(yàn)型產(chǎn)品中情感傾向?qū)尚哦葞缀鯚o(wú)影響[3];評(píng)論與評(píng)分及評(píng)論間的一致性越高,評(píng)論可信度越高[4~7]等.可見,評(píng)論可信度受多種因素影響.研究對(duì)象及特征組合的不同會(huì)影響結(jié)論的一致性.

    虛假評(píng)論的特征主要從評(píng)論內(nèi)容和評(píng)論人兩個(gè)角度來(lái)考慮.從評(píng)論內(nèi)容的角度來(lái)分析,許多研究采用了詞性和n元文法.Ott M[8]等利用一元、二元文法結(jié)合心理學(xué)構(gòu)建的80個(gè)情感特征關(guān)鍵詞獲得了90%的查準(zhǔn)率.但Li F T[9]等的研究結(jié)論顯示,利用情感來(lái)分辨欺騙型評(píng)論的效果并不顯著,因?yàn)樵诳桃馓摌?gòu)的評(píng)論中,這樣的情感特征并不明顯.研究表明,單純從評(píng)論的文本內(nèi)容特征展開識(shí)別,對(duì)欺騙型評(píng)論的識(shí)別效果并不理想.評(píng)論人的特征反應(yīng)了評(píng)論撰寫者的個(gè)人信用和行為特征,通過(guò)識(shí)別評(píng)論人的特征來(lái)識(shí)別其發(fā)表言論的特征具有一定的研究意義.Mukherjee A[10]等針對(duì)Yelp的真實(shí)數(shù)據(jù),比較了基于評(píng)論特征和基于評(píng)論人特征的虛假評(píng)論識(shí)別效果,發(fā)現(xiàn)后者的識(shí)別效果更好.Li F T[9]也指出評(píng)論人的行為特征是評(píng)論內(nèi)容特征的重要補(bǔ)充.評(píng)論和評(píng)論人特征的抽取又和特定的領(lǐng)域有一定的相關(guān)性.目前,國(guó)外對(duì)虛假評(píng)論的研究涉及到了旅館、圖書、音樂(lè)、餐館等領(lǐng)域.國(guó)內(nèi)的研究數(shù)據(jù)對(duì)象主要集中在圖書和數(shù)碼產(chǎn)品領(lǐng)域,對(duì)服務(wù)行業(yè)還未涉及.

    2 數(shù)據(jù)描述

    本文數(shù)據(jù)取自某網(wǎng)站2012年11月到2013年10月的已標(biāo)注數(shù)據(jù)子集,經(jīng)清洗后共包含331,415條評(píng)論,238,186評(píng)論者與109,376商家.

    商家的評(píng)論數(shù)據(jù)包含7個(gè)基礎(chǔ)部分:〈評(píng)論類型〉〈評(píng)論ID〉〈商家ID〉〈評(píng)論者ID〉〈提交日期〉〈星級(jí)〉〈評(píng)論文本〈還有三項(xiàng)專項(xiàng)評(píng)分:〈口味評(píng)分〉〈環(huán)境評(píng)分〉〈服務(wù)評(píng)分〉

    經(jīng)測(cè)試,評(píng)論的數(shù)量與評(píng)論人的數(shù)量之間遵循冪律分布,即大量的用戶只寫了少數(shù)評(píng)論,少數(shù)用戶卻寫了大量評(píng)論.評(píng)論的數(shù)量與商家的數(shù)量之間同樣遵循冪律分布,即大量的產(chǎn)品只獲得很少評(píng)論,少數(shù)產(chǎn)品獲得了大量的評(píng)論.

    3 虛假評(píng)論識(shí)別模型研究

    3.1 建模準(zhǔn)則

    依據(jù)前文論述評(píng)論與商家、用戶呈現(xiàn)一對(duì)多的關(guān)系,對(duì)于許多商家或評(píng)論人甚至僅僅對(duì)應(yīng)一條評(píng)論.因此,商家、用戶對(duì)于判斷虛假評(píng)論具有重要的作用.然而,用戶與商家對(duì)于評(píng)論可信度的影響程度不同.如果用戶為虛假用戶,則其所有評(píng)論都極有可能成為垃圾評(píng)論;而商家可能會(huì)偶爾出現(xiàn)為提高知名度雇傭水軍刷評(píng)論的欺騙行為,但不一定所有的評(píng)論都是垃圾評(píng)論.用戶相比于商家與評(píng)論可信度具有較強(qiáng)的關(guān)系.經(jīng)計(jì)算,用戶可信度與評(píng)論真實(shí)性的協(xié)方差為0.58,而商家可信度與評(píng)論真實(shí)性的協(xié)方差為0.47,因此用戶可信度相比于商家可信度與評(píng)論可信度更相關(guān),與常識(shí)相符.

    在識(shí)別虛假評(píng)論時(shí),采用分層的探測(cè)機(jī)制,首先識(shí)別虛假評(píng)論中呈現(xiàn)出群體特征的水軍用戶;之后分別構(gòu)建用戶、商家可信度模型;最后利用評(píng)論對(duì)應(yīng)的商家可信度、用戶可信度與其他特征建模識(shí)別虛假評(píng)論,模型結(jié)構(gòu)如圖1所示.

    3.2 水軍探測(cè)

    虛假評(píng)論人常常出現(xiàn)群體性活動(dòng)的特征,將這種具有群體性特征的評(píng)論人稱為水軍.頻繁項(xiàng)集挖掘的eclat算法[11]是探測(cè)水軍的理想算法.經(jīng)測(cè)試,被探測(cè)出的包含在頻繁項(xiàng)集內(nèi)的18個(gè)用戶中,有15個(gè)為虛假評(píng)論人,虛假率為83.3%,因此對(duì)本數(shù)據(jù)集可直接將挖掘出的頻繁項(xiàng)集作為垃圾評(píng)論人.

    3.3 評(píng)論人與商家可信度模型

    3.3.1 評(píng)論人可信度模型

    為將評(píng)論人及商家可信度量化,本文采用邏輯回歸模型[12].

    評(píng)論人可信度模型的可表示為:

    (1)

    (2)

    其中,xka與θka分別為評(píng)論人a的第k個(gè)特征與第k個(gè)特征的權(quán)重.下面對(duì)評(píng)論人的不同特征做詳細(xì)說(shuō)明.

    (1)評(píng)論評(píng)分與商家整體評(píng)論評(píng)分間差異

    每個(gè)商家具有一個(gè)根據(jù)對(duì)其所有的評(píng)論評(píng)分計(jì)算出的整體評(píng)分.從概率上講,一個(gè)真實(shí)、理性的評(píng)論人打出的分?jǐn)?shù)應(yīng)該和該整體評(píng)分差異不大;而虛假評(píng)論人,往往傾向給出與整體評(píng)分差異較大(即較高或較低)的評(píng)分.通過(guò)計(jì)算用戶的所有評(píng)論評(píng)分和相關(guān)商家的整體評(píng)分之間的差異性大小,可以將該特征進(jìn)行量化.

    以RDa表示該特征為:

    (3)

    (2)對(duì)同一商家評(píng)論評(píng)分相似性

    大多數(shù)正常情況下,評(píng)論人僅對(duì)某個(gè)商家發(fā)表至多一次評(píng)論.少數(shù)正常情況下,評(píng)論人會(huì)發(fā)表一次以上的評(píng)論.再次發(fā)表評(píng)論的評(píng)分應(yīng)當(dāng)與第一次評(píng)論的評(píng)分有一定的差異性.然而,一些虛假評(píng)論人會(huì)多次評(píng)論同一商家,并且評(píng)分會(huì)比較接近,或完全相同.通過(guò)量化該特征可以將其集成入用戶可信度模型中,該特征包括兩個(gè)考慮因素,一是用戶對(duì)同一商家發(fā)表過(guò)多少次評(píng)論,二是不同評(píng)論間差異的大小.以Ca來(lái)表示該特征為:

    (4)

    其中,nap為評(píng)論人a對(duì)商家p∈Pa所有評(píng)論的數(shù)目,CVap是a對(duì)商家p∈Pa所有評(píng)論評(píng)分的差異系數(shù)(Coefficient of Variation),其計(jì)算方法為所有評(píng)論評(píng)分的標(biāo)準(zhǔn)差比平均值,即:

    (5)

    (3)是否為單例評(píng)論人

    單例評(píng)論指的是評(píng)論人僅對(duì)某個(gè)商家發(fā)表評(píng)論的行為.正常情況下,用戶會(huì)對(duì)不同商家發(fā)表評(píng)論.而虛假評(píng)論人賬號(hào)經(jīng)常出現(xiàn)單例評(píng)論的情形.該特征記為SRa:當(dāng)用戶為單例評(píng)論人時(shí)計(jì)1,否則計(jì)0.

    (4)早期評(píng)論傾向

    在商家注冊(cè)的初期,迫切需要增加評(píng)論以吸引客戶,主觀上有收買水軍進(jìn)行評(píng)論的動(dòng)機(jī).另一方面,初期由于評(píng)論數(shù)目較少,每條評(píng)論的評(píng)分對(duì)于商戶整體評(píng)分的影響比較大.從客觀上看,在此時(shí)進(jìn)行虛假評(píng)論的效率較高.因此采用早期評(píng)論人作為模型的一個(gè)特征,用ETFa表示如下:

    (6)

    其中ETFap指評(píng)論人a對(duì)于商家p的ETF值:

    (7)

    其中,Lap表示評(píng)論人a對(duì)商家p發(fā)表的最后一條評(píng)論的時(shí)間戳,Ap指該商家第一條評(píng)論被發(fā)表,或者該商家注冊(cè)的時(shí)間戳.該函數(shù)為分段函數(shù),其中β作為閾值,本文設(shè)定為六個(gè)月.當(dāng)評(píng)論人a對(duì)商家p發(fā)表的最后一條評(píng)論的時(shí)間與商家商家注冊(cè)的時(shí)間差距超過(guò)β,則認(rèn)為該用戶非早期評(píng)論人,該特征計(jì)為0;如果該差距在β以內(nèi),則不直接標(biāo)記為1,而是對(duì)其進(jìn)行量化并歸一化.

    (5)評(píng)論人邏輯回歸類標(biāo)簽

    為構(gòu)建邏輯回歸模型,需要對(duì)訓(xùn)練集數(shù)據(jù)進(jìn)行類標(biāo)記.本文對(duì)于評(píng)論人可信的訓(xùn)練集數(shù)據(jù)標(biāo)記ya做如下定義:如果用戶曾經(jīng)發(fā)表過(guò)被標(biāo)記為虛假評(píng)論的評(píng)論,則認(rèn)為其類標(biāo)簽為0,否則為1.需要注意的是這并不意味著該用戶(評(píng)論人)發(fā)表的所有評(píng)論都是虛假評(píng)論,對(duì)其進(jìn)行此種標(biāo)記的目的是為了構(gòu)建邏輯回歸模型,并使對(duì)用戶計(jì)算可信度成為可能.

    3.3.2 商家可信度模型

    商家可信度模型同樣選用的邏輯回歸算法,商家的特征有如下考慮:

    (1)單例評(píng)論比例

    單例評(píng)論同樣在評(píng)價(jià)商家可信度中進(jìn)行使用,該特征記作SRrp,即p商家所有評(píng)論中由單例評(píng)論人發(fā)表的評(píng)論數(shù)目,與所有評(píng)論數(shù)目的比例.

    (2)爆發(fā)評(píng)論比例

    商家評(píng)論的發(fā)表頻率有時(shí)不是平滑而均勻的.在正常情況下,特殊時(shí)間點(diǎn)上,商家的評(píng)論數(shù)目會(huì)比平時(shí)多,比如節(jié)假日、促銷或者團(tuán)購(gòu)活動(dòng)發(fā)生時(shí),這時(shí)會(huì)形成評(píng)論數(shù)量高峰.這一高峰同樣會(huì)出現(xiàn)在商家雇傭虛假評(píng)論人提高自己商譽(yù)或者貶低對(duì)手商譽(yù)時(shí).因此,對(duì)商家評(píng)論數(shù)目隨著時(shí)間的起伏進(jìn)行觀察并記錄對(duì)構(gòu)建商家可信度模型具有一定幫助.本文將該指標(biāo)記作BSTrp,即p商家所有評(píng)論中,在高峰期發(fā)表的評(píng)論數(shù)目與所有評(píng)論數(shù)目的比例.

    為了探測(cè)并識(shí)別發(fā)表評(píng)論的高峰,本文采用核密度估計(jì)(kernel density estimation)[13,14]方法進(jìn)行檢測(cè).令(x1,x2,…,xn)為一連串符合密度函數(shù)f的獨(dú)立同分布的變量值,則f表示為:

    (8)

    通過(guò)核密度估計(jì),得到商家p評(píng)論發(fā)表時(shí)間的一條密度函數(shù)曲線,本文采用Kleinberg高峰檢測(cè)模型[15],在估計(jì)核密度的基礎(chǔ)上還得到了密度高峰的層級(jí)值,本文采用第二層級(jí)內(nèi)時(shí)間發(fā)表的評(píng)論作為密度高峰評(píng)論,將其標(biāo)記為Burst Reviews.

    (3)密度差異系數(shù)

    商家p發(fā)表評(píng)論的密度曲線中,除了高峰處之外,曲線本身起伏的程度也將繼承到商家可信度模型當(dāng)中.本小節(jié)中,以DCVp記改商家密度曲線的差異系數(shù):

    (9)

    (4)評(píng)分差異系數(shù)

    一個(gè)理性的消費(fèi)者可以判斷商品或服務(wù)的質(zhì)量,并給出相應(yīng)的合理評(píng)分,因此一個(gè)正常商家的不同評(píng)論評(píng)分之間的差異度應(yīng)當(dāng)不會(huì)非常大.而虛假評(píng)論人出于特殊目的其發(fā)表的評(píng)論與其他評(píng)論的差異會(huì)比較大,基于此,以RCVp記商家p所有評(píng)論評(píng)分的差異系數(shù):

    (10)

    (5)平均評(píng)分與平均專項(xiàng)評(píng)分

    平均評(píng)分avgstar即該商家p的所有評(píng)論的平均評(píng)分.平均專項(xiàng)評(píng)分avgscore1,avgscore2,avgscroe3是餐飲業(yè)商家特有的專項(xiàng)評(píng)分,即口味、環(huán)境、服務(wù)的平均分?jǐn)?shù).

    (6)商家邏輯回歸類標(biāo)簽

    為了構(gòu)建邏輯回歸模型,需要對(duì)訓(xùn)練集數(shù)據(jù)進(jìn)行類標(biāo)記.本文對(duì)于商家可信的訓(xùn)練集數(shù)據(jù)標(biāo)記yp做如下定義:如果對(duì)該商家曾經(jīng)發(fā)表過(guò)被標(biāo)記為虛假評(píng)論的評(píng)論,則認(rèn)為其類標(biāo)簽為0,否則為1.同樣,這并不意味著對(duì)該商家發(fā)表的所有評(píng)論都是虛假評(píng)論.

    3.4 虛假評(píng)論識(shí)別模型

    除了與一條評(píng)論相關(guān)的評(píng)論人可信度Pa與商家可信度Pp外,評(píng)論還具有一些其他特征:

    (1)評(píng)論長(zhǎng)度與詞性分布:文本預(yù)處理階段,計(jì)算了各種詞性與標(biāo)點(diǎn)符號(hào)在評(píng)論中所占的比例.經(jīng)實(shí)驗(yàn)對(duì)比,對(duì)判斷評(píng)論可信度有效的詞性比例特征是動(dòng)詞與標(biāo)點(diǎn)符號(hào)所占的比例;

    (2)評(píng)論評(píng)分與整體評(píng)分差異:將評(píng)論r的評(píng)分與商戶整體評(píng)分之間的差異,記作stard:

    (11)

    (3)評(píng)論專項(xiàng)評(píng)分之間的差異:對(duì)于商家的評(píng)論r,本文計(jì)算其口味、服務(wù)、環(huán)境三個(gè)專項(xiàng)評(píng)分的標(biāo)準(zhǔn)差,記作scored,作為特征.本文認(rèn)為一個(gè)理性的消費(fèi)者應(yīng)當(dāng)會(huì)對(duì)餐飲業(yè)商家的不同方面做出理性判斷,從而不傾向于給出三項(xiàng)專項(xiàng)評(píng)分一致的判斷.

    scoredr=σ(score1,score2,score3)

    (12)

    使用上述全部特征構(gòu)建邏輯回歸模型,計(jì)算p-value可知,重要的特征有相關(guān)用戶可信度Pa、商家可信度Pp、文本長(zhǎng)度lenr、評(píng)論評(píng)分與整體評(píng)分差異stardr,評(píng)論專項(xiàng)評(píng)分之間的差異scoredr以及標(biāo)點(diǎn)sw、動(dòng)詞sv占所有詞的比例,以這些詞語(yǔ)重新構(gòu)建模型并測(cè)試.該模型可表示為:

    (13)

    (14)

    4 虛假評(píng)論識(shí)別模型的測(cè)試

    4.1 測(cè)試指標(biāo)

    二元分類問(wèn)題,常常使用混淆矩陣來(lái)表示分類結(jié)果,矩陣的每一列代表一個(gè)類的實(shí)例預(yù)測(cè),而每一行表示一個(gè)實(shí)際的類的實(shí)例.一個(gè)典型的混淆矩陣如表1.

    表1 混淆矩陣

    其中,把偽陽(yáng)性(FP)作為第1型錯(cuò)誤(Type I Error),將偽陰性(FN)作為第2型錯(cuò)誤(Type II Error).使用準(zhǔn)確度(Accuracy)作為評(píng)價(jià)指標(biāo):

    (15)

    但僅用Accuracy在類別分布不平衡時(shí)難以真實(shí)評(píng)價(jià)模型的好壞,無(wú)法區(qū)分出第1型錯(cuò)誤與第2型錯(cuò)誤.因此考慮使用敏感性(Sensitivity)和特異性(Specificity):

    (16)

    敏感性即真陽(yáng)性率TPR(True Positive Rate),該值越高,第2型錯(cuò)誤越少,即被誤分入虛假點(diǎn)評(píng)的真實(shí)點(diǎn)評(píng)比例越低.

    (17)

    特異性即1-假陽(yáng)性率FPR(False Positive Rate),該值越高,第1型錯(cuò)誤越少,即被錯(cuò)誤分入正常點(diǎn)評(píng)的虛假點(diǎn)評(píng)比例越低.由此,采用敏感性與特異性作為驗(yàn)證模型要求的評(píng)測(cè)指標(biāo).然而由于對(duì)分類器取不同閾值時(shí),可以得到不同的分類結(jié)果及分類器評(píng)價(jià)指標(biāo),采用ROC(Receiver operating characteristic)曲線[16]與AUC(Area Under the Curve)[16]值評(píng)價(jià)模型.ROC曲線描述的是分類混淆矩陣中FPR-TPR兩個(gè)量之間的相對(duì)變化情況.如二元分類器輸出的是對(duì)正樣本的一個(gè)分類概率值,當(dāng)取不同閾值時(shí)會(huì)得到不同的混淆矩陣,對(duì)應(yīng)于ROC曲線上的一個(gè)點(diǎn).ROC曲線反映了FPR與TPR之間權(quán)衡的情況,TPR增長(zhǎng)得越快,曲線越往上屈,AUC就越大,模型的分類性能就越好.AUC值指的是ROC曲線下部的面積的和,如圖2所示,在模型達(dá)到最佳分類情形是,ROC曲線緊貼模型的左側(cè)和上側(cè),AUC值達(dá)到最大為1;當(dāng)AUC在0.5~1之間時(shí),模型優(yōu)于隨機(jī)預(yù)測(cè);當(dāng)AUC為0.5時(shí),模型為隨機(jī)預(yù)測(cè),沒(méi)有價(jià)值;當(dāng)AUC小于0.5時(shí),模型預(yù)測(cè)結(jié)果劣于隨機(jī)值.

    綜上,本文將主要使用AUC值作為評(píng)價(jià)指標(biāo),AUC值越大,則模型表現(xiàn)越好.

    4.2 點(diǎn)評(píng)人、商家可信度模型測(cè)試

    為分別驗(yàn)證點(diǎn)評(píng)人、商家的可信度模型,將計(jì)算特征后得到的238186個(gè)點(diǎn)評(píng)人記錄、109376條商家記錄分別按7∶3分為訓(xùn)練集和測(cè)試集,構(gòu)建模型后進(jìn)行測(cè)試,并計(jì)算結(jié)果的ROC曲線與AUC值.

    對(duì)于點(diǎn)評(píng)人可信度模型的訓(xùn)練、測(cè)試數(shù)據(jù)格式如下:

    〈點(diǎn)評(píng)評(píng)分與商家整體點(diǎn)評(píng)評(píng)分間差異〉〈對(duì)同一商家點(diǎn)評(píng)評(píng)分相似性〉〈是否為單例點(diǎn)評(píng)人〉〈早期點(diǎn)評(píng)人指標(biāo)〉〈點(diǎn)評(píng)人是否發(fā)表過(guò)虛假點(diǎn)評(píng)〉

    即:

    xa=(RDa,Ca,SRa,ETFa)hθ(xa)=ya

    對(duì)于商家可信度模型的訓(xùn)練、測(cè)試數(shù)據(jù)格式如下:

    〈單例點(diǎn)評(píng)比例〉〈爆發(fā)點(diǎn)評(píng)比例〉〈密度差異系數(shù)〉〈評(píng)分差異系數(shù)〉〈平均評(píng)分與平均專項(xiàng)評(píng)分〉〈商家名下是否有虛假點(diǎn)評(píng)〉

    即:xa= (SRrp,BSTrp,DCVp,RCVp,avgscore1,

    avgscore2,avgscore3)

    hθ(xp)=yp

    點(diǎn)評(píng)人、商家可信度模型的ROC曲線如圖3、4所示.

    用戶可信度模型AUC值為0.858922,而商家可信度模型的AUC值為0.8792504.可見,當(dāng)把用戶及商家模型看做一個(gè)分類問(wèn)題時(shí),具有較好的分類結(jié)果與精度,因此用戶可信度模型與商家可信度模型均表現(xiàn)優(yōu)良.

    4.3 虛假點(diǎn)評(píng)識(shí)別模型測(cè)試

    將331,415條數(shù)據(jù)按7∶3的數(shù)目比例分為訓(xùn)練集與測(cè)試集.對(duì)于虛假點(diǎn)評(píng)識(shí)別模型的訓(xùn)練、測(cè)試數(shù)據(jù)格式如下:

    〈點(diǎn)評(píng)人可信度〉〈商家可信度〉〈點(diǎn)評(píng)長(zhǎng)度〉〈點(diǎn)評(píng)評(píng)分與整體評(píng)分差異〉〈點(diǎn)評(píng)專項(xiàng)評(píng)分之間的差異〉〈詞性分布〉〈點(diǎn)評(píng)是否虛假〉

    即:xr=(pa,pp,lenr,stardr,scoredr,sw,sv)hθ(xr)=yr

    對(duì)虛假評(píng)論識(shí)別模型進(jìn)行測(cè)試,該模型的ROC曲線如圖5所示.

    計(jì)算得到AUC值為0.8930167.可見,考慮了用戶可信度,商家可信度及評(píng)論文本特征的虛假評(píng)論識(shí)別模型具有較好的分類結(jié)果與精度,因此該模型表現(xiàn)優(yōu)良.

    5 總結(jié)

    本文基于某網(wǎng)站上的評(píng)論進(jìn)行研究,分析并總結(jié)虛假評(píng)論的特征,結(jié)合特征提出用戶、商家可信度模型,利用評(píng)論人的行為特征、商家的特征和評(píng)論文本的特征構(gòu)建了虛假評(píng)論識(shí)別模型.使用AUC值作為主要評(píng)測(cè)指標(biāo),經(jīng)測(cè)試模型達(dá)到了良好的區(qū)分效果.

    [1]劉逶迤,逯萬(wàn)輝,丁晟春.商品評(píng)論信息可信度研究[J].情報(bào)科學(xué),2012,30(10):1556-1565. Liu Weiyi,Lu Wanhui,Ding Shengchun.Research on the credibility of commodity reviews information[J].Information Science,2012,30(10):1556-1565.(in Chinese)

    [2]Kusumasondjaja S,Shanka T,Marchegiani C.Credibility of online reviews and initial trust:the roles of reviewer’s identity and review valence[J].Journal of Vacation Marketing,2012,18(3):185-195.

    [3]Pan L Y,Chiou J S.How much can you trust online information? cues for perceived trustworthiness of consumer-generated online information[J].Journal of Interactive Marketing,2011,25(2):67-74.

    [4]Qiu L Y,Pang J,Lim K H.Effects of conflicting aggregated rating on ewom review credibility and diagnosticity:the moderating role of review valence[J].Decision Support Systems,2012,54(1):631-643.

    [5]Cheung M Y,Luo C,Sia C L,et al.How do people evaluate electronic word-of-mouth? informational and normative based determinants of perceived credibility of online consumer recommendations in china[A].11th Pacific Asia Conference on Information Systems[C].Auckland:Bepress,2007.69-73.

    [6]Cheung M Y.Do People Believe Electronic Word-of-Mouth?:A Study on Factors Affecting Readers’ Perceived Credibility of Online Consumer Reviews[D].Hongkong: City University of Hong Kong,2006.

    [7]Cheung M Y,Cindy M Y,Sia C L,et al.Is this review believable? a study of factors affecting the credibility of online consumer reviews from an elm perspective[J].Journal of the Association for Information Systems,2012,13(8):618-635.

    [8]Ott M,Choi Y J,Cardie C,et al.Finding deceptive opinion spam by any stretch of the imagination[A].49th Annual Meeting of the Association for Computational Linguistics:Human Language Technologies[C].Stroudsburg,PA,USA:Association for Computational Linguistics,2011.309-319.

    [9]Li F T,Huang M,Yang Y,et al.Learning to identify review spam [A].22nd International Joint Conference on Artificial Intelligence[C].Barcelona:AAAI Press,2011.2488-2493.

    [10]Mukherjee A,Venkataraman V.What yelp fake review filter might be doing?[A].Proceedings of the 7th International Conference on Weblogs and Social Media[C].Palo Alto:AAAI Press,2013.409-418.

    [11]Zaki M J.Scalable algorithms for association mining[J].IEEE Transactions on Knowledgeand DataEngineering.2000,12(3):372-390.

    [12]Hosmer D W,Lemeshow S.Applied Logistic Regression[M].New York:John Wiley & Sons,2004.

    [13]Rosenblatt M.Remarks on some nonparametric estimates of a density function[A].Selected Works in Probability and Statistics[C].New York:Springer New York,2011.95-100.

    [14]Parzen E.On estimation of a probability density function and mode[J].Annals of Mathematical Statistics,1962,33(3):1065-1076.

    [15]J Kleinberg.Bursty and hierarchical structure in streams[A].8th ACM SIGKDD Intl Conf on Knowledge Discovery and Data Mining,2002[C].Edmonton,Alberta,Canada: ACM Press,2002.91-101.

    [16]Swets J A.Signal Detection Theory and ROC Analysis in Psychology and Diagnostics:Collected Papers[M].New Jersey:Lawrence Erlbaum Associates,Inc,1996.

    李 晶 女,1981年生于山東威海.北京郵電大學(xué)軟件學(xué)院講師.研究方向?yàn)橹悄苄畔⑻幚?、?shù)據(jù)挖掘.

    E-mail:lijingjing@bupt.edu.cn

    Research of Fraud Review Detection Model on O2O Platform

    LI Jing1,WU Guo-shi1,XIE Fei2,YAO Xu1,QI Jia-yin3,SUN Peng-fei1

    (1.SchoolofSoftwareEngineering,BeijingUniversityofPostsandTelecommunications,Beijing100876,China; 2.CommunicationandTechnicalBureau,XinhuaNewsAgency,Beijing100803,China; 3.SchoolofEconomicsandManagement,BeijingUniversityofPostsandTelecommunications,Beijing100876,China)

    Living-consumption platform has become a very important platform for customers to extract information of businesses,and view or submit comments on the quality of services or products.It is common that fake reviews,as a commercial activity,are used to exaggerate or damage the reputation of a target business,which is extremely harmful.This paper chose an O2O (Online To Offline) platform,from which reviews are derived,to study fake reviews.With an in-depth study on features of fake reviews,it raised the user-credibility and shop-credibility evaluation model respectively from the credibility perspective.Based on features of reviewers,businesses,and review texts,it established a fake review identification model,and through testing this model showed excellent performance in identification.

    machine learning;fraud review detection;credibility model

    2015-01-31;

    2015-05-20;責(zé)任編輯:梅志強(qiáng)

    國(guó)家973重點(diǎn)基礎(chǔ)研究發(fā)展計(jì)劃(No.2013CB329604);國(guó)家自然科學(xué)基金(No.71231002);北京市自然科學(xué)基金(No.9122018);教育部博士點(diǎn)基金(No.20120005110015);新華社713實(shí)驗(yàn)室技術(shù)研究項(xiàng)目——大數(shù)據(jù)與智能信息處理課題

    TP181

    A

    0372-2112 (2016)12-2855-06

    ??學(xué)報(bào)URL:http://www.ejournal.org.cn

    10.3969/j.issn.0372-2112.2016.12.07

    猜你喜歡
    商家特征差異
    The Thin Line
    相似與差異
    商家出售假冒商品,消費(fèi)者獲十倍賠償
    公民與法治(2020年9期)2020-05-30 12:45:12
    如何表達(dá)“特征”
    找句子差異
    不忠誠(chéng)的四個(gè)特征
    生物為什么會(huì)有差異?
    抓住特征巧觀察
    春節(jié)黃金周陜西省商家攬金二百一十億元
    M1型、M2型巨噬細(xì)胞及腫瘤相關(guān)巨噬細(xì)胞中miR-146a表達(dá)的差異
    99久久精品热视频| 一个人看的www免费观看视频| 91九色精品人成在线观看| 欧美黄色淫秽网站| 99精品久久久久人妻精品| tocl精华| www.www免费av| 免费搜索国产男女视频| 亚洲黑人精品在线| 一夜夜www| 男女之事视频高清在线观看| 日日干狠狠操夜夜爽| 精品久久久久久久末码| 女生性感内裤真人,穿戴方法视频| 成人特级av手机在线观看| 免费看美女性在线毛片视频| 亚洲狠狠婷婷综合久久图片| 久久久水蜜桃国产精品网| 麻豆国产97在线/欧美| 中文字幕人妻丝袜一区二区| 欧美黑人欧美精品刺激| 久久精品国产亚洲av香蕉五月| 国产精品香港三级国产av潘金莲| 国产精品香港三级国产av潘金莲| 此物有八面人人有两片| 亚洲中文字幕日韩| 麻豆久久精品国产亚洲av| 午夜视频精品福利| 我的老师免费观看完整版| 欧美又色又爽又黄视频| 色在线成人网| 国产三级在线视频| 国产一区在线观看成人免费| 国产91精品成人一区二区三区| 丰满的人妻完整版| 无遮挡黄片免费观看| 国产黄片美女视频| 国产视频一区二区在线看| h日本视频在线播放| 亚洲熟女毛片儿| 我的老师免费观看完整版| 嫩草影视91久久| 人人妻人人澡欧美一区二区| 亚洲自拍偷在线| 日韩欧美在线乱码| 精品久久久久久久人妻蜜臀av| 欧美日本视频| 国产精品一区二区三区四区免费观看 | 久久久久国产一级毛片高清牌| 在线观看免费午夜福利视频| 在线观看日韩欧美| 九色成人免费人妻av| 亚洲熟妇熟女久久| 九九热线精品视视频播放| 一个人免费在线观看电影 | 搡老熟女国产l中国老女人| 成人高潮视频无遮挡免费网站| 亚洲av五月六月丁香网| 国产亚洲av高清不卡| 熟女电影av网| 国产爱豆传媒在线观看| 日本与韩国留学比较| 97碰自拍视频| 午夜福利在线在线| 久久精品夜夜夜夜夜久久蜜豆| 久久中文看片网| 亚洲av日韩精品久久久久久密| 99久久无色码亚洲精品果冻| 国产亚洲av嫩草精品影院| 久9热在线精品视频| 老司机午夜十八禁免费视频| 色av中文字幕| 亚洲男人的天堂狠狠| 伦理电影免费视频| 精品国产乱子伦一区二区三区| 小蜜桃在线观看免费完整版高清| 精品久久久久久久人妻蜜臀av| 国产熟女xx| 老熟妇乱子伦视频在线观看| 黄色 视频免费看| 成人国产一区最新在线观看| 日韩欧美在线二视频| 国产单亲对白刺激| 国产成人精品无人区| 久久久久久久精品吃奶| 性色avwww在线观看| 老司机午夜十八禁免费视频| 老鸭窝网址在线观看| 欧美3d第一页| 欧美一级a爱片免费观看看| 黑人操中国人逼视频| 亚洲av五月六月丁香网| 午夜日韩欧美国产| 香蕉久久夜色| 黄色日韩在线| 国内精品美女久久久久久| 日韩成人在线观看一区二区三区| 亚洲精品美女久久av网站| 神马国产精品三级电影在线观看| 男人舔女人下体高潮全视频| 天堂动漫精品| 国产黄色小视频在线观看| 亚洲成人久久爱视频| avwww免费| 老汉色∧v一级毛片| 亚洲av成人不卡在线观看播放网| av国产免费在线观看| 成年女人永久免费观看视频| 51午夜福利影视在线观看| 欧美乱妇无乱码| 久久久久国产一级毛片高清牌| 亚洲欧美日韩高清在线视频| 久久精品亚洲精品国产色婷小说| 欧美日韩精品网址| 人妻夜夜爽99麻豆av| 小说图片视频综合网站| 国产成+人综合+亚洲专区| 99久久99久久久精品蜜桃| av天堂中文字幕网| 亚洲精品在线观看二区| 在线免费观看的www视频| 免费大片18禁| 高清毛片免费观看视频网站| 色视频www国产| 男女那种视频在线观看| 搞女人的毛片| 999精品在线视频| 日本 av在线| 综合色av麻豆| 精品欧美国产一区二区三| 国内精品久久久久久久电影| 欧美黄色淫秽网站| 99热这里只有是精品50| 看免费av毛片| 亚洲午夜精品一区,二区,三区| 黄色 视频免费看| 久久国产乱子伦精品免费另类| 精品国产美女av久久久久小说| 极品教师在线免费播放| 国产成人av教育| 天堂网av新在线| 不卡av一区二区三区| 久久人人精品亚洲av| 亚洲成人免费电影在线观看| 国内少妇人妻偷人精品xxx网站 | 噜噜噜噜噜久久久久久91| 18禁美女被吸乳视频| 一本一本综合久久| 亚洲av电影不卡..在线观看| 最新美女视频免费是黄的| 成人精品一区二区免费| 国产精品98久久久久久宅男小说| 精品电影一区二区在线| 丰满人妻一区二区三区视频av | 少妇丰满av| 国产av不卡久久| 99久久无色码亚洲精品果冻| 在线观看免费午夜福利视频| 亚洲第一电影网av| 国产伦一二天堂av在线观看| 精品国产亚洲在线| 少妇丰满av| 嫩草影院精品99| 好男人在线观看高清免费视频| 欧美成人免费av一区二区三区| 精品国内亚洲2022精品成人| 免费av不卡在线播放| 日本与韩国留学比较| 五月玫瑰六月丁香| 亚洲精品中文字幕一二三四区| 麻豆成人午夜福利视频| 亚洲男人的天堂狠狠| 丁香六月欧美| 亚洲电影在线观看av| 在线视频色国产色| 久久精品综合一区二区三区| 欧美黑人巨大hd| 久久久久性生活片| 亚洲天堂国产精品一区在线| 熟妇人妻久久中文字幕3abv| 亚洲成人久久性| 啦啦啦免费观看视频1| 中文字幕人妻丝袜一区二区| 欧美激情在线99| 精品无人区乱码1区二区| 真人做人爱边吃奶动态| 白带黄色成豆腐渣| 九九在线视频观看精品| 99热精品在线国产| 又紧又爽又黄一区二区| 久久人妻av系列| 欧美色欧美亚洲另类二区| 级片在线观看| 少妇熟女aⅴ在线视频| 精品国产超薄肉色丝袜足j| 精华霜和精华液先用哪个| 长腿黑丝高跟| 午夜福利在线观看吧| 欧美色欧美亚洲另类二区| 一级毛片精品| 国产精品久久久久久久电影 | 在线观看66精品国产| 精品久久久久久,| 99在线人妻在线中文字幕| 亚洲七黄色美女视频| 欧美丝袜亚洲另类 | 国产在线精品亚洲第一网站| 国产毛片a区久久久久| 日本免费一区二区三区高清不卡| 男女下面进入的视频免费午夜| 国产精品女同一区二区软件 | 精品国内亚洲2022精品成人| 中文亚洲av片在线观看爽| 丁香欧美五月| 男女之事视频高清在线观看| 99热6这里只有精品| 怎么达到女性高潮| 成年女人看的毛片在线观看| 国产又色又爽无遮挡免费看| 国产精品自产拍在线观看55亚洲| 最近最新免费中文字幕在线| 国产v大片淫在线免费观看| 亚洲自偷自拍图片 自拍| 亚洲真实伦在线观看| 成人特级av手机在线观看| 精品一区二区三区视频在线 | 在线永久观看黄色视频| 丰满人妻一区二区三区视频av | 国产伦精品一区二区三区视频9 | 亚洲,欧美精品.| 变态另类丝袜制服| 日韩av在线大香蕉| 欧美丝袜亚洲另类 | av天堂中文字幕网| 国产又色又爽无遮挡免费看| av视频在线观看入口| 国产97色在线日韩免费| 国产伦在线观看视频一区| 成人国产一区最新在线观看| 亚洲国产欧美人成| 操出白浆在线播放| 免费在线观看日本一区| 悠悠久久av| 国产成人福利小说| 美女cb高潮喷水在线观看 | 色吧在线观看| 久久久久久久精品吃奶| 国产精品久久电影中文字幕| 曰老女人黄片| 日韩成人在线观看一区二区三区| 黄频高清免费视频| 美女高潮的动态| www日本在线高清视频| 在线视频色国产色| 欧美性猛交╳xxx乱大交人| 国产美女午夜福利| 9191精品国产免费久久| 人人妻人人澡欧美一区二区| 性色av乱码一区二区三区2| www.999成人在线观看| 中文字幕人成人乱码亚洲影| 日本a在线网址| 老鸭窝网址在线观看| 国产真人三级小视频在线观看| 亚洲九九香蕉| xxxwww97欧美| 99久久99久久久精品蜜桃| 亚洲国产精品999在线| 一个人免费在线观看电影 | 亚洲 欧美 日韩 在线 免费| 国产精品免费一区二区三区在线| 久久九九热精品免费| 制服人妻中文乱码| 网址你懂的国产日韩在线| 九九久久精品国产亚洲av麻豆 | 中文字幕最新亚洲高清| 日韩精品中文字幕看吧| 久久人妻av系列| 久久国产精品影院| 亚洲,欧美精品.| 一级作爱视频免费观看| 欧美日韩一级在线毛片| 欧美日韩福利视频一区二区| 看黄色毛片网站| 伊人久久大香线蕉亚洲五| 琪琪午夜伦伦电影理论片6080| 亚洲成人久久爱视频| 日日夜夜操网爽| 99久久久亚洲精品蜜臀av| 欧美日韩中文字幕国产精品一区二区三区| 可以在线观看的亚洲视频| 亚洲欧美日韩高清在线视频| 九九在线视频观看精品| 长腿黑丝高跟| 色视频www国产| 91九色精品人成在线观看| 一级毛片精品| 国产视频一区二区在线看| 中文字幕人妻丝袜一区二区| 国产日本99.免费观看| 全区人妻精品视频| 51午夜福利影视在线观看| 精品一区二区三区av网在线观看| 国产一区二区三区视频了| 亚洲欧美一区二区三区黑人| 国产欧美日韩精品一区二区| 国产野战对白在线观看| 观看美女的网站| 色尼玛亚洲综合影院| 99久久精品一区二区三区| 女人高潮潮喷娇喘18禁视频| 麻豆av在线久日| 成人永久免费在线观看视频| 天堂√8在线中文| 亚洲精品乱码久久久v下载方式 | netflix在线观看网站| 国产欧美日韩一区二区三| 非洲黑人性xxxx精品又粗又长| 国产精品一区二区三区四区免费观看 | 国产成人av激情在线播放| av中文乱码字幕在线| 18禁裸乳无遮挡免费网站照片| 在线观看舔阴道视频| 美女黄网站色视频| 少妇的丰满在线观看| 精品国产亚洲在线| 搡老妇女老女人老熟妇| 99久久成人亚洲精品观看| 日韩欧美国产一区二区入口| a级毛片在线看网站| 精品国内亚洲2022精品成人| 国产视频一区二区在线看| 成人特级av手机在线观看| 熟女少妇亚洲综合色aaa.| 日韩免费av在线播放| 国产精品日韩av在线免费观看| 黄片大片在线免费观看| 看片在线看免费视频| 国产精品亚洲一级av第二区| 女生性感内裤真人,穿戴方法视频| 婷婷丁香在线五月| 国内精品美女久久久久久| or卡值多少钱| 黄色丝袜av网址大全| 久久人人精品亚洲av| 好男人在线观看高清免费视频| 色综合婷婷激情| 欧美黄色片欧美黄色片| 免费看日本二区| 亚洲 欧美 日韩 在线 免费| 日本免费a在线| 怎么达到女性高潮| 婷婷六月久久综合丁香| 午夜福利视频1000在线观看| 日韩国内少妇激情av| 久久久久久久久久黄片| 国产激情久久老熟女| 亚洲狠狠婷婷综合久久图片| 黄频高清免费视频| 国产激情久久老熟女| 日本黄色视频三级网站网址| 久久久久久久久久黄片| 一卡2卡三卡四卡精品乱码亚洲| 伊人久久大香线蕉亚洲五| 久久精品综合一区二区三区| 99热6这里只有精品| 九九在线视频观看精品| 欧美日韩中文字幕国产精品一区二区三区| 精品久久久久久成人av| 天天一区二区日本电影三级| 丁香六月欧美| 天天躁狠狠躁夜夜躁狠狠躁| 成在线人永久免费视频| 熟女人妻精品中文字幕| 国产精品亚洲美女久久久| 国产91精品成人一区二区三区| 欧美色欧美亚洲另类二区| 黄色日韩在线| 久久久水蜜桃国产精品网| 久久久久国产一级毛片高清牌| 日韩中文字幕欧美一区二区| a级毛片a级免费在线| 国产激情久久老熟女| 999久久久国产精品视频| 岛国在线免费视频观看| 国产伦精品一区二区三区四那| 国产一区二区在线观看日韩 | 一个人看视频在线观看www免费 | 久久天堂一区二区三区四区| 黄色片一级片一级黄色片| 国产精品一区二区精品视频观看| 琪琪午夜伦伦电影理论片6080| 亚洲人成伊人成综合网2020| 在线观看66精品国产| 免费大片18禁| 亚洲在线观看片| 美女大奶头视频| 久久午夜亚洲精品久久| 欧美精品啪啪一区二区三区| 精品人妻1区二区| 久久精品aⅴ一区二区三区四区| 18禁裸乳无遮挡免费网站照片| 色综合婷婷激情| 国产欧美日韩一区二区三| 老司机午夜福利在线观看视频| 亚洲精品在线观看二区| 桃红色精品国产亚洲av| 欧美乱码精品一区二区三区| 国产精品,欧美在线| www国产在线视频色| 18禁观看日本| 日韩高清综合在线| 91在线精品国自产拍蜜月 | 午夜福利免费观看在线| 久久久久久大精品| 日韩欧美在线二视频| 亚洲中文字幕日韩| 制服丝袜大香蕉在线| 啦啦啦韩国在线观看视频| 亚洲美女视频黄频| e午夜精品久久久久久久| 欧美三级亚洲精品| 亚洲欧美日韩卡通动漫| 看免费av毛片| 国产精品久久久人人做人人爽| 99久久精品国产亚洲精品| 亚洲人成网站在线播放欧美日韩| 性色av乱码一区二区三区2| 日日夜夜操网爽| 久久99热这里只有精品18| 欧美3d第一页| 1000部很黄的大片| 日韩av在线大香蕉| 波多野结衣巨乳人妻| 1024香蕉在线观看| 精品午夜福利视频在线观看一区| 999久久久国产精品视频| www.www免费av| 欧美激情久久久久久爽电影| 淫秽高清视频在线观看| 久久久久久久久免费视频了| 亚洲片人在线观看| a级毛片在线看网站| 国产成人福利小说| 色尼玛亚洲综合影院| 精品人妻1区二区| 一级作爱视频免费观看| 一级黄色大片毛片| 性色av乱码一区二区三区2| 成人欧美大片| 久久精品夜夜夜夜夜久久蜜豆| 午夜激情欧美在线| 国内精品美女久久久久久| 亚洲精华国产精华精| 久久久久国产精品人妻aⅴ院| 亚洲中文日韩欧美视频| 91av网一区二区| 亚洲人与动物交配视频| 亚洲中文字幕日韩| 欧美黑人巨大hd| 一个人看视频在线观看www免费 | 国产高清视频在线播放一区| 久久中文字幕人妻熟女| 久久人妻av系列| 国产高清激情床上av| aaaaa片日本免费| 欧美日韩黄片免| 精品久久久久久久末码| 国产亚洲精品综合一区在线观看| 黄片小视频在线播放| 欧美一级毛片孕妇| 国产精品久久久久久亚洲av鲁大| tocl精华| 女同久久另类99精品国产91| 99国产精品一区二区蜜桃av| 国产亚洲精品一区二区www| 久久精品影院6| 99久久成人亚洲精品观看| 午夜福利欧美成人| 美女 人体艺术 gogo| 12—13女人毛片做爰片一| 欧美乱妇无乱码| 国产精品1区2区在线观看.| 亚洲av第一区精品v没综合| 国产成人精品久久二区二区免费| 亚洲精品色激情综合| 久久伊人香网站| 国产成人系列免费观看| 中文字幕精品亚洲无线码一区| 每晚都被弄得嗷嗷叫到高潮| a在线观看视频网站| 老司机深夜福利视频在线观看| 久久久水蜜桃国产精品网| 亚洲人成网站高清观看| 国产精品,欧美在线| 午夜成年电影在线免费观看| 成人三级黄色视频| 国产成人一区二区三区免费视频网站| 国产一区二区三区视频了| 亚洲精华国产精华精| 亚洲国产精品合色在线| 少妇裸体淫交视频免费看高清| 亚洲成av人片在线播放无| 99在线人妻在线中文字幕| 中文字幕久久专区| 美女高潮喷水抽搐中文字幕| 国内久久婷婷六月综合欲色啪| 少妇人妻一区二区三区视频| 免费在线观看亚洲国产| 日韩免费av在线播放| 在线观看日韩欧美| 身体一侧抽搐| 毛片女人毛片| 999久久久精品免费观看国产| 午夜福利在线观看吧| 亚洲va日本ⅴa欧美va伊人久久| 亚洲九九香蕉| 欧美日本视频| 嫩草影院精品99| 99久久99久久久精品蜜桃| 欧美一区二区国产精品久久精品| 日日摸夜夜添夜夜添小说| 哪里可以看免费的av片| 亚洲欧美日韩高清在线视频| av福利片在线观看| 日本a在线网址| 99国产精品一区二区三区| 免费大片18禁| 香蕉久久夜色| av在线天堂中文字幕| 超碰成人久久| 91av网站免费观看| 亚洲午夜理论影院| 97碰自拍视频| 黄色视频,在线免费观看| 一级毛片女人18水好多| www.999成人在线观看| 91麻豆av在线| 超碰成人久久| 久久久久久久精品吃奶| 欧美不卡视频在线免费观看| 久久久国产欧美日韩av| 精品免费久久久久久久清纯| 9191精品国产免费久久| 精品久久久久久久毛片微露脸| 日日夜夜操网爽| 久久久久久久午夜电影| 国产伦精品一区二区三区四那| 九九热线精品视视频播放| 看片在线看免费视频| 又紧又爽又黄一区二区| 欧美在线一区亚洲| 曰老女人黄片| 99久久无色码亚洲精品果冻| av福利片在线观看| 欧美成人一区二区免费高清观看 | 久久99热这里只有精品18| 日韩欧美国产在线观看| 国产欧美日韩一区二区三| 日本在线视频免费播放| 香蕉av资源在线| 丰满人妻熟妇乱又伦精品不卡| 久久精品国产亚洲av香蕉五月| 伦理电影免费视频| 一进一出好大好爽视频| 九色国产91popny在线| 国产欧美日韩精品亚洲av| 99精品在免费线老司机午夜| 88av欧美| 一级毛片女人18水好多| 久久香蕉国产精品| 看片在线看免费视频| 国产一区二区三区在线臀色熟女| 欧美乱码精品一区二区三区| 国产黄色小视频在线观看| 国产精品99久久久久久久久| 国产黄色小视频在线观看| 亚洲av五月六月丁香网| 国产精品久久视频播放| 九九在线视频观看精品| tocl精华| 日韩人妻高清精品专区| 亚洲人成伊人成综合网2020| 色在线成人网| 99久国产av精品| 丰满的人妻完整版| 精品一区二区三区av网在线观看| 免费电影在线观看免费观看| 天堂网av新在线| 国产精品爽爽va在线观看网站| 国产免费男女视频| 天天躁日日操中文字幕| 99视频精品全部免费 在线 | 国语自产精品视频在线第100页| 亚洲精品久久国产高清桃花| 亚洲中文字幕日韩| 日韩有码中文字幕| 午夜影院日韩av| 一卡2卡三卡四卡精品乱码亚洲| 久久久成人免费电影| 精品久久久久久久久久免费视频| АⅤ资源中文在线天堂| 久久久精品大字幕| 欧美性猛交黑人性爽| 国产免费男女视频| 亚洲精华国产精华精| 精品国产超薄肉色丝袜足j| 一进一出抽搐动态| 搡老岳熟女国产| 最新美女视频免费是黄的| 成年女人永久免费观看视频| 91九色精品人成在线观看| 母亲3免费完整高清在线观看| 不卡一级毛片| e午夜精品久久久久久久|