• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    融合一致性社交關(guān)系的協(xié)同相似嵌入推薦模型

    2023-10-17 23:37:00吳永慶孫鵬金堯丁治辰
    計(jì)算機(jī)應(yīng)用研究 2023年10期
    關(guān)鍵詞:推薦系統(tǒng)

    吳永慶 孫鵬 金堯 丁治辰

    摘 要:為了解決推薦系統(tǒng)中新用戶評(píng)級(jí)預(yù)測冷啟動(dòng)和數(shù)據(jù)稀疏等問題,提出了一種融合一致性社交關(guān)系的協(xié)同相似嵌入推薦模型(collaborative similarity embedding recommendation model incorporating consistent social relationships,CSECSR)。首先,模型通過預(yù)熱層對圖形嵌入進(jìn)行等權(quán)重傳播和聚合;其次,采樣具有一致性的社交關(guān)系鄰居,并利用關(guān)系注意力機(jī)制對這些關(guān)系進(jìn)行聚合;最后,利用用戶和項(xiàng)目最終嵌入值的內(nèi)積進(jìn)行評(píng)分預(yù)測,設(shè)計(jì)具有自適應(yīng)裕度的BPR損失和相似性損失的損失函數(shù)對模型進(jìn)行優(yōu)化。在Ciao、Epinions和FilmTrust數(shù)據(jù)集上與其他代表性的推薦模型進(jìn)行了對比,實(shí)驗(yàn)結(jié)果表明所提推薦模型預(yù)測誤差明顯優(yōu)于其他模型,證明了所提推薦模型的有效性。

    關(guān)鍵詞:推薦系統(tǒng); 圖神經(jīng)網(wǎng)絡(luò); 社交關(guān)系; 協(xié)同嵌入

    中圖分類號(hào):TP391 文獻(xiàn)標(biāo)志碼:A 文章編號(hào):1001-3695(2023)10-011-2951-06

    doi:10.19734/j.issn.1001-3695.2023.03.0094

    Collaborative similarity embedding recommendation model incorporating consistent social relationships

    Wu Yongqing, Sun Peng, Jin Yao, Ding Zhichen

    (School of Software, Liaoning Technical University, Huludao Liaoning 125105, China)

    Abstract:To address the challenges of cold-start prediction and data sparsity for new users in recommendation systems, this paper proposed a collaborative similarity embedding recommendation model incorporating consistent social relationships(CSECSR). Firstly, the model propagated and aggregated graph embeddings with equal weights through a warming-up layer. Secondly, it sampled social relationship neighbors with consistency and aggregated these relationships using attention mechanisms. Finally, the model predicted the rating by computing the inner product of the final embedded values of the user and the item, and optimized the model using a loss function that combined BPR loss with adaptive margin and similarity loss. Compared with other representative recommendation models on Ciao, Epinions and FilmTrust datasets, the experimental results show that the proposed recommendation model outperforms other models significantly in terms of prediction error, which confirms the effectiveness of the proposed recommendation model.

    Key words:recommendation system; graph neutral network; social relationship; collaborative embedding

    0 引言

    隨著電子商務(wù)和社交媒體平臺(tái)的快速發(fā)展,推薦系統(tǒng)已經(jīng)廣泛應(yīng)用于各行各業(yè),如在線電子商務(wù)網(wǎng)站(亞馬遜和淘寶)上的產(chǎn)品推薦或視頻和音樂服務(wù)的播放列表生成器(如YouTube和抖音)。在信息爆炸的時(shí)代,推薦系統(tǒng)在緩解信息過載方面同時(shí)發(fā)揮著關(guān)鍵作用,它可以從用戶的歷史交互行為(如點(diǎn)擊、觀看、閱讀和購買等)中準(zhǔn)確建模預(yù)測用戶的偏好[1],滿足了用戶日益增長的個(gè)性化信息獲取的需求。然而,由于收集數(shù)據(jù)的成本太高,大多數(shù)推薦系統(tǒng)都存在新用戶冷啟動(dòng)、數(shù)據(jù)稀疏性等問題[2]。用戶冷啟動(dòng)問題存在一個(gè)關(guān)鍵挑戰(zhàn),即新用戶只有有限的交互行為,其中新用戶的正反饋量更為稀缺。例如,在電子商務(wù)平臺(tái)上,冷啟動(dòng)用戶的點(diǎn)擊項(xiàng)目數(shù)量可能很少,因此不能很好地表征用戶上下文信息。為了緩解此類問題,傳統(tǒng)的協(xié)同過濾算法利用用戶—項(xiàng)目評(píng)價(jià)矩陣進(jìn)行推薦,但僅僅依靠用戶—項(xiàng)目評(píng)價(jià)矩陣將無法從圖中采樣輔助信息,導(dǎo)致表示學(xué)習(xí)數(shù)據(jù)不足,從而使推薦性能下降。當(dāng)前主流的方法是引入用戶之間的社交關(guān)系,將其與用戶項(xiàng)目交互進(jìn)行合并學(xué)習(xí)。研究表明,用戶的購買行為很大程度上受到其社交網(wǎng)絡(luò)的影響[3]。因此,將社交關(guān)系與用戶項(xiàng)目交互融合學(xué)習(xí)有利于提高推薦性能。

    圖神經(jīng)網(wǎng)絡(luò)(graph neural network,GNN)通過同時(shí)聚合來自社交圖和用戶—項(xiàng)目圖的信息來幫助處理社交推薦任務(wù)[4~7]。然而,大多數(shù)現(xiàn)有的基于GNN的社交推薦模型都忽略了社交不一致問題[4]。社交不一致性表明社交聯(lián)系不一定與評(píng)價(jià)預(yù)測過程一致,聚合不一致的社交鄰居信息會(huì)破壞GNN描述推薦有益信息的能力,造成對大多數(shù)冷啟動(dòng)用戶推薦失真[8]。本文認(rèn)為社交不一致性表現(xiàn)在兩個(gè)層面上:a)興趣層面,在社交圖中具有連接的兩個(gè)用戶可能會(huì)具有不一致的項(xiàng)目興趣。也就是說,同為社交鄰居但關(guān)注的項(xiàng)目或物品不同,如圖1所示,u2就是u3的不一致鄰居,因?yàn)閡2關(guān)注的項(xiàng)目都是關(guān)于運(yùn)動(dòng),而u3關(guān)注的項(xiàng)目卻都是關(guān)于書籍,雖然同為社交鄰居但興趣不同造成了其興趣層面的不一致;b)關(guān)系層面,不同用戶對關(guān)注的相同項(xiàng)目可能會(huì)有不同的評(píng)價(jià),且同時(shí)建模社交圖和用戶—項(xiàng)目圖時(shí)應(yīng)存在多種關(guān)系。例如,除了社交關(guān)系之外,還可以通過用戶—項(xiàng)目關(guān)系的評(píng)分值來區(qū)分用戶—項(xiàng)目關(guān)系。在圖1中可以看出,u1和u2是社交鄰居且都對項(xiàng)目v1進(jìn)行過評(píng)價(jià),然而u1對v1評(píng)價(jià)為5分,而u2對v1評(píng)價(jià)卻為1分,雖然社交關(guān)系密切而且同時(shí)對一個(gè)項(xiàng)目進(jìn)行評(píng)價(jià),但他們對項(xiàng)目的偏好程度不一致,從而導(dǎo)致關(guān)系層面的不一致。

    為了解決上述存在的問題,本文提出一種融合一致性社交關(guān)系的協(xié)同相似嵌入推薦模型CSECSR。首先融合了用戶間一致性社交網(wǎng)絡(luò)信息和用戶—項(xiàng)目評(píng)價(jià)信息[8];其次對傳統(tǒng)的協(xié)同嵌入模型進(jìn)行優(yōu)化,增加了其他類型的協(xié)作信息,包括用戶—用戶相似性和項(xiàng)目—項(xiàng)目相似性[9]。本文主要方法包括如下幾個(gè)步驟:

    a)為了解決新用戶冷啟動(dòng)、社交不一致等問題,將用戶—項(xiàng)目協(xié)作信息、社交信息和間接相似性信息合并到嵌入函數(shù)中,通過預(yù)熱層進(jìn)行嵌入傳播聚合并利用一階連通性信息抵消新用特征分布的差異,再利用鄰居采樣和關(guān)系注意力等方法區(qū)分社交不一致性。

    b)為了緩解數(shù)據(jù)稀疏性問題,增加了其他類型的協(xié)作信息用于嵌入學(xué)習(xí),將具有自適應(yīng)裕度的貝葉斯損失BPR[10]和相似性損失結(jié)合起來用于相似性嵌入學(xué)習(xí)。

    c)與其他五個(gè)基線模型進(jìn)行了對比研究,并利用對三個(gè)基準(zhǔn)數(shù)據(jù)集的定量分析驗(yàn)證了模型的有效性。

    1 相關(guān)工作

    圖神經(jīng)網(wǎng)絡(luò)從圖的角度考慮推薦系統(tǒng)中的信息[11],它為推薦系統(tǒng)中豐富的異構(gòu)數(shù)據(jù)建模提供了一個(gè)統(tǒng)一的視角。在整合結(jié)構(gòu)化外部信息時(shí),將推薦作為一項(xiàng)圖形任務(wù),其好處尤其明顯,所以圖神經(jīng)網(wǎng)絡(luò)在過去幾年的推薦系統(tǒng)中取得了顯著的成功。由于社交關(guān)系在推薦系統(tǒng)中的潛在價(jià)值,社交推薦受到了越來越多的關(guān)注[12]。最常見的推薦方法有基于協(xié)同嵌入[13]的方法和基于矩陣分解[14]的方法。其中基于協(xié)同嵌入的方法根據(jù)用戶的行為歷史生成用戶—項(xiàng)目共現(xiàn)矩陣,利用用戶和項(xiàng)目相似性進(jìn)行推薦,其特點(diǎn)是原理簡單、應(yīng)用廣泛,但處理稀疏向量的能力較弱?;诰仃嚪纸獾姆椒▽f(xié)同過濾算法中的共現(xiàn)矩陣分解為用戶矩陣和項(xiàng)目矩陣,利用用戶隱向量和物品隱向量的內(nèi)積進(jìn)行排序并推薦,其特點(diǎn)是泛化能力強(qiáng)、擁有更好的擴(kuò)展性和靈活性,但除了用戶歷史行為數(shù)據(jù)外,難以利用其他用戶、物品特征及上下文特征[15]。在此基礎(chǔ)上,文獻(xiàn)[14]等提出概率矩陣分解模型PMF,它僅使用用戶與項(xiàng)目評(píng)分信息通過高斯分布的方法對用戶和項(xiàng)目的潛在因素進(jìn)行建模,但該模型未考慮融合社交網(wǎng)絡(luò)數(shù)據(jù),未能解決數(shù)據(jù)稀疏性問題。為了提高推薦性能,基于信任傳播的社交網(wǎng)絡(luò)推薦矩陣分解算法SocialMF將信任傳播機(jī)制引入到模型中,強(qiáng)制將用戶特征向量接近其鄰居的特征向量,從而解決新用戶冷啟動(dòng)問題,但這種方法不具備從社交關(guān)系中捕獲龐雜的非線性特征的能力,無法對非線性社會(huì)特征進(jìn)行建模[16]。Fan等人[17]提出了基于社會(huì)關(guān)系深度建模的推薦模型DeepSoR,它從每個(gè)用戶的社交關(guān)系中學(xué)習(xí)非線性特征,并將其整合到概率矩陣分解中進(jìn)行評(píng)分預(yù)測,但是它忽略了節(jié)點(diǎn)之間的高階信息,對解決冷啟動(dòng)問題沒有實(shí)質(zhì)貢獻(xiàn)?;趫D神經(jīng)網(wǎng)絡(luò)的社交推薦模型GraphRec利用用戶—項(xiàng)目圖和社交圖進(jìn)行建模,提出了一種基于圖注意力的社交推薦模型,但它僅考慮用戶—項(xiàng)目間顯式協(xié)作信息,忽略了用戶—項(xiàng)目間的隱式協(xié)作信息,如用戶—用戶相似性、項(xiàng)目—項(xiàng)目相似性[18]。圖注意力協(xié)同相似性嵌入推薦系統(tǒng)GACSE 通過嵌入傳播和注意機(jī)制來學(xué)習(xí)顯式圖形協(xié)作過濾信息,通過輔助損失來學(xué)習(xí)隱式圖形協(xié)作信息,此方法可以有效減少數(shù)據(jù)稀疏等問題,但是過多的特征轉(zhuǎn)換和非線性激活對協(xié)同過濾的性能貢獻(xiàn)不大,而且可能會(huì)增加訓(xùn)練難度,導(dǎo)致推薦性能下降[9]。

    需要指出的是,以往的推薦模型在不同程度上提高了推薦性能,但是在解決用戶冷啟動(dòng)、數(shù)據(jù)稀疏以及一致性社交關(guān)系等方面尚有不足。本文提出的模型通過鄰居采樣和關(guān)系注意力等方法來解決社交不一致性,利用預(yù)熱層解決用戶冷啟動(dòng)問題,通過協(xié)同相似性嵌入和設(shè)計(jì)具有自適應(yīng)裕度的BPR損失、相似性損失等方法學(xué)習(xí)隱式協(xié)作信息,從圖中抽取輔助信息,增加表示學(xué)習(xí)數(shù)據(jù),從而緩解數(shù)據(jù)稀疏性問題。

    2 CSECSR模型

    2.1 符號(hào)及定義

    定義1 用戶與項(xiàng)目集合。典型的推薦問題中通常由用戶和項(xiàng)目兩個(gè)實(shí)體組成,設(shè)用戶集U={u1,u2,…,um}、項(xiàng)目集V={v1,v2,…,vn},其中m和n分別表示用戶和項(xiàng)目的數(shù)量。

    定義2 用戶社交圖。設(shè)用戶社交圖Gs={u,εs},其中社交圖中的邊(ua,ub)∈εs表示用戶a與用戶b之間有社交聯(lián)系。

    定義3 評(píng)價(jià)矩陣。設(shè)R∈Euclid Math TwoRApm×n為用戶—項(xiàng)目評(píng)價(jià)矩陣,其中Ru,v表示用戶u給項(xiàng)目v的評(píng)分,評(píng)價(jià)分?jǐn)?shù)越高表示用戶對項(xiàng)目越喜歡。

    定義4 用戶項(xiàng)目圖。推薦問題的目標(biāo)是通過融合評(píng)價(jià)矩陣和社交圖來完成推薦,因此,本文通過構(gòu)造異構(gòu)圖G={T,εr|Rr=1}來解決推薦問題。其中T表示用戶和項(xiàng)目節(jié)點(diǎn);εr表示關(guān)系r上的邊。除了用戶—用戶、項(xiàng)目—項(xiàng)目的鏈接外,本文還根據(jù)評(píng)分值區(qū)別用戶—項(xiàng)目鏈接。評(píng)分的集合由數(shù)據(jù)集的不同而異,例如,數(shù)據(jù)集Ciao有6個(gè)額定值,即{0,1,2,3,4,5}。因此,數(shù)據(jù)集Ciao上的邊有八種類型,即R=8,其中一個(gè)是社交關(guān)系,一個(gè)是項(xiàng)目—項(xiàng)目關(guān)系,其他的是不同評(píng)分值的用戶—項(xiàng)目關(guān)系。

    2.2 CSECSR模型框架

    CSECSR模型由嵌入層、預(yù)熱層、查詢層、鄰居采樣、關(guān)系注意、評(píng)級(jí)預(yù)測和優(yōu)化等模塊組成,具體框架如圖2所示。

    2.2.1 嵌入層

    根據(jù)當(dāng)前主流的推薦模型NGCF[19],本文使用嵌入向量

    2.2.5 關(guān)系注意

    在對鄰居進(jìn)行采樣后,需要聚合它們的嵌入。然而,關(guān)系層面的社交不一致性表明,應(yīng)該區(qū)分不同的關(guān)系。為此,CSECSR設(shè)計(jì)了一個(gè)關(guān)系注意力模塊來處理關(guān)系層面社交不一致的采樣鄰居。如圖4所示,關(guān)系注意力模塊通過考慮關(guān)聯(lián)關(guān)系來學(xué)習(xí)這類采樣節(jié)點(diǎn)的重要性。

    關(guān)系注意力模塊為每個(gè)采樣節(jié)點(diǎn)i分配了一個(gè)重要參數(shù)αi,可以將式(6)中的AGG函數(shù)重寫為

    3 實(shí)驗(yàn)和分析

    3.1 數(shù)據(jù)集

    為了評(píng)估了本文模型的推薦性能,實(shí)驗(yàn)采用三個(gè)真實(shí)世界中具有代表性的數(shù)據(jù)集。其中Ciao和Epinions[26~30]數(shù)據(jù)集均來自于流行的社交網(wǎng)站,其中用戶可以為項(xiàng)目進(jìn)行評(píng)分,評(píng)分的范圍是1~5,同時(shí)用戶可以與其他用戶建立社交關(guān)系。FilmTrust[31]是從FilmTrust網(wǎng)站上抓取的一個(gè)小型數(shù)據(jù)集,包含用戶對電影的評(píng)分信息,評(píng)分范圍是0~4分,同時(shí)也可以與其他用戶建立社交關(guān)系。因此三個(gè)數(shù)據(jù)集中包含了大量評(píng)分信息和社交信息。根據(jù)Ma等人[32]提出的 SoRec對冷啟動(dòng)用戶的定義方法,本文也假設(shè)用戶對項(xiàng)目評(píng)價(jià)數(shù)量小于等于5的用戶,則被認(rèn)為是冷啟動(dòng)用戶。經(jīng)過對數(shù)據(jù)集的統(tǒng)計(jì)分析得出,Ciao中存在此類用戶數(shù)量為3 573、Epinions中存在此類用戶數(shù)量為26 037。表1總結(jié)了數(shù)據(jù)集中的統(tǒng)計(jì)信息。

    為了驗(yàn)證本文模型的有效性和真實(shí)性,實(shí)驗(yàn)方法采用K折交叉驗(yàn)證,其中取K值為5,即將數(shù)據(jù)集平均分為5份,每次隨機(jī)挑選1份用于模型測試,剩余4份用于模型訓(xùn)練,每個(gè)實(shí)驗(yàn)重復(fù)進(jìn)行5次,使每個(gè)子集都有1次機(jī)會(huì)作為測試集,最后計(jì)算5組測試結(jié)果的平均值。本文采用負(fù)采樣的策略來產(chǎn)生一個(gè)用戶之前沒有交互過的項(xiàng)目,并且將觀察到的用戶—項(xiàng)目交互作為一個(gè)正反饋,無交互視為負(fù)反饋。

    3.2 評(píng)價(jià)指標(biāo)

    在CSECSR預(yù)測實(shí)驗(yàn)中,使用平均絕對誤差(MAE)和均方根誤差(RMSE)作為評(píng)價(jià)指標(biāo)來評(píng)估預(yù)測精度和推薦性能。

    其中:N表示測試集中評(píng)分?jǐn)?shù)據(jù)的數(shù)量;ri,j表示用戶ui對物品vj的真實(shí)評(píng)分;r′i,j表示用戶ui對物品vj的預(yù)測評(píng)分。

    3.3 基線模型

    為了驗(yàn)證CSECSR模型的推薦性能,本文將提出的CSECSR模型與其他新近的推薦模型進(jìn)行對比驗(yàn)證。

    a)PMF[14]:為了解決協(xié)同過濾方法處理大數(shù)據(jù)集的能力差和評(píng)價(jià)矩陣稀疏等問題,提出了一種概率矩陣分解模型,該模型僅使用用戶與項(xiàng)目評(píng)分信息通過高斯分布的方法對用戶和項(xiàng)目的潛在因素進(jìn)行建模。

    b)SocialMF[16]:一種基于信任傳遞機(jī)制的社交推薦算法。

    c)DeepSoR[17]:該模型采用深層神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)表示每個(gè)用戶的社會(huì)關(guān)系,解決了推薦模型無法捕獲非線性特征的問題。

    d)GraphRec[18]:為了解決圖神經(jīng)網(wǎng)絡(luò)無法聯(lián)合捕獲用戶—項(xiàng)目圖中交互信息和觀點(diǎn)信息,提出基于圖注意力網(wǎng)絡(luò)的社交推薦模型,它采用了一種原則性方法內(nèi)在地結(jié)合用戶—項(xiàng)目圖和社交圖。

    e)ConsistRec[8]:該模型利用將采樣概率與鄰居之間一致性得分聯(lián)系起來的方法對鄰居進(jìn)行采樣,并利用注意力機(jī)制對社交關(guān)系進(jìn)行聚合。

    3.4 參數(shù)設(shè)置

    模型的超參數(shù)選取如表2所示。為了優(yōu)化函數(shù),本文對比模型均采用Adam作為優(yōu)化器。為了詳細(xì)驗(yàn)證聚集不一致鄰居對于CSECSR的影響,本文選擇鄰居百分比從低到高間隔0.2。學(xué)習(xí)率是優(yōu)化算法中的調(diào)諧參數(shù),模型的學(xué)習(xí)率將直接影響神經(jīng)網(wǎng)絡(luò)的收斂狀態(tài),進(jìn)而影響模型的推薦性能,所以選擇合適的學(xué)習(xí)率對模型有較大影響。嵌入向量維度將影響用戶項(xiàng)目特征從高維空間映射到低維空間中,進(jìn)而影響模型的推薦性能表現(xiàn)。批量大小對于神經(jīng)網(wǎng)絡(luò)的優(yōu)化至關(guān)重要,合適的批量大小將影響模型的收斂速度和泛化能力。在損失函數(shù)中,本文將λ1設(shè)為1×10-4,λ2設(shè)為1×10-5,設(shè)置采樣鄰居數(shù)量為64,相似性損失的陽性和陰性樣本數(shù)設(shè)置為5。為了解決過擬合問題,在所有實(shí)驗(yàn)都設(shè)置提前停止法策略,即如果驗(yàn)證集上的RMSE連續(xù)5個(gè)輪次未下降,就停止模型的訓(xùn)練。

    3.5 實(shí)驗(yàn)結(jié)果分析

    3.5.1 對比實(shí)驗(yàn)

    表3、4分別展示了所有用戶和冷啟動(dòng)用戶在兩個(gè)數(shù)據(jù)集上本文模型與其他推薦模型的推薦性能,通過對比實(shí)驗(yàn)可以得出以下結(jié)論:

    a)從PMF和SocialMF的實(shí)驗(yàn)結(jié)果比較可以看出,僅使用用戶—項(xiàng)目評(píng)分矩陣的模型PMF推薦性能明顯不如使用社交矩陣和用戶—項(xiàng)目評(píng)分矩陣的模型SocialMF,這說明在推薦系統(tǒng)中充分利用社交網(wǎng)絡(luò)數(shù)據(jù)可以有效提升預(yù)測精度。

    b)從DeepSoR和SocialMF的結(jié)果比較中發(fā)現(xiàn),雖然這兩種算法都是使用社交矩陣和用戶—項(xiàng)目評(píng)分矩陣進(jìn)行推薦,但DeepSoR的推薦性能優(yōu)于SocialMF,這是因?yàn)镈eepSoR采用了神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu),說明在推薦系統(tǒng)中運(yùn)用神經(jīng)網(wǎng)絡(luò)技術(shù)可以提升推薦性能。

    c)從GraphRec和DeepSoR的實(shí)驗(yàn)結(jié)果對比可以看出,基于圖神經(jīng)網(wǎng)絡(luò)(GNN)的GraphReC模型推薦性能優(yōu)于基于神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)的DeepSoR模型,這說明圖神經(jīng)網(wǎng)絡(luò)(GNN)在推薦系統(tǒng)中具有一定的優(yōu)勢,在圖形數(shù)據(jù)表示等方面具有強(qiáng)大的能力。

    d)通過對圖5和表3、4的綜合分析可以發(fā)現(xiàn),隨著epoch數(shù)的增加,CSECSR和其他基線模型的RMSE不斷下降并趨于收斂,CSECSR與其他基線模型相比,收斂速度較快。在所有用戶的場景下,CSECSR性能均優(yōu)于其他基線模型,推薦效果最佳,在數(shù)據(jù)集Ciao、Epinions和FilmTrust上,CSECSR對比模型中最好的ConsisRec在平均絕對誤差(MAE)上分別降低了2.18%、2.21%和1.59%;在均方根誤差(RMSE)上分別降低了1.83%、1.32%和1.17%。在冷啟動(dòng)場景下,所有模型的推薦性能均出現(xiàn)明顯下滑,但CSECSR仍為表現(xiàn)最佳的模型,在數(shù)據(jù)集Ciao和Epinions上,CSECSR對比模型中最好的ConsisRec在平均絕對誤差(MAE)上分別降低了2.45%和2.36%;在均方根誤差(RMSE)上分別降低了2.01%和1.86%。實(shí)驗(yàn)證明CSECSR在用戶冷啟動(dòng)場景下提升的推薦性能更高,對于緩解推薦系統(tǒng)中用戶冷啟動(dòng)、社交不一致和數(shù)據(jù)稀疏性等問題有一定幫助,并且對于不同的數(shù)據(jù)集,CSECSR模型均優(yōu)于其他模型,進(jìn)而驗(yàn)證了CSECSR具有較好的魯棒性,對特定的數(shù)據(jù)集沒有明顯的偏向性。

    3.5.2 消融實(shí)驗(yàn)

    為評(píng)估各個(gè)模塊對于模型的影響進(jìn)行了消融實(shí)驗(yàn),其中變體模型CSECSR-Ns為刪除鄰居采樣模塊構(gòu)建、CSECSR-Si為刪除具有自適應(yīng)裕度的BPR損失和相似度損失構(gòu)建、CSESCR-Wr為刪除預(yù)熱層構(gòu)建。

    從圖6中可以觀察到,與其他變體相比,CSECSR始終保持最佳推薦性能,這表明所有組件都是產(chǎn)生最佳結(jié)果所必需的。此外,可以觀察到CSESCR-Ns與CSECSR相比推薦性能大幅下降,這證實(shí)了選擇一致性鄰居的重要性,選擇一致鄰居可以幫助緩解新用戶冷啟動(dòng)問題。CSECSR-Si比CSECSR推薦性能差,說明了具有自適應(yīng)裕度的BPR損失和相似性損失可以提高模型對具有相似嵌入的正樣本和負(fù)樣本的區(qū)分能力,它通過增加表示學(xué)習(xí)數(shù)據(jù)來減少稀疏性問題,對于嵌入學(xué)習(xí)有著較大影響。與CSECSR相比,CSECSR-Wr性能也下滑了,這說明預(yù)熱層利用一階連通性信息抵消新用戶特征分布的差異對于緩解冷啟動(dòng)問題有一定效果。

    3.6 參數(shù)敏感性分析

    在Ciao和Epinions數(shù)據(jù)集上分析CSECSR模型對于嵌入維度、學(xué)習(xí)率、鄰居百分比的敏感性,結(jié)果如圖7~9所示。

    從圖7可以觀察出,模型的最佳嵌入維度均為16。將嵌入維度設(shè)置得過小,模型將不足以表示節(jié)點(diǎn)信息;將嵌入維度設(shè)置得過大,將會(huì)導(dǎo)致模型過擬合。

    從圖8可以觀察出,學(xué)習(xí)率對于優(yōu)化模型的性能有重要影響,當(dāng)學(xué)習(xí)率為0.000 1時(shí),模型的MAE和RMSE均為最小。

    從圖9可以觀察出,不同鄰居百分比對模型有較大影響。當(dāng)鄰居百分比從0.8上升到1.0時(shí),可以觀察到模型有一個(gè)明顯的錯(cuò)誤增量,這是由于聚集了不一致鄰居所造成的,所以聚集一致性鄰居對于解決新用戶冷啟動(dòng)問題有較大幫助。

    4 結(jié)束語

    本文提出了一種融合一致性社交關(guān)系的協(xié)同相似嵌入推薦模型CSECSR。首先,模型通過預(yù)熱層對圖形嵌入進(jìn)行等權(quán)重傳播和聚合,利用一階連通性信息抵消新用戶特征分布的差異,對于緩解冷啟動(dòng)問題有一定幫助。其次,模型利用鄰居采樣和關(guān)系注意力等方法解決社交不一致問題,其中鄰居采樣模塊將采樣概率與鄰居之間的一致性得分聯(lián)系起來,對一致的鄰居進(jìn)行采樣,解決了興趣層面的社交不一致性問題;在采樣后,利用關(guān)系注意力機(jī)制解決關(guān)系層面的社交不一致問題,進(jìn)一步解決了用戶冷啟動(dòng)問題。然后,模型將用戶—項(xiàng)目協(xié)作信號(hào)和間接相似性合并到嵌入函數(shù)中進(jìn)行學(xué)習(xí),其中直接嵌入是用從戶—項(xiàng)目交互中學(xué)習(xí)的,間接嵌入是從損失函數(shù)中用戶—用戶相似度和項(xiàng)目—項(xiàng)目相似度學(xué)習(xí)的,通過增加表征學(xué)習(xí)數(shù)據(jù),緩解了數(shù)據(jù)稀疏性問題。最后,模型在損失函數(shù)中結(jié)合了具有自適應(yīng)裕度的BPR損失和相似性損失進(jìn)行優(yōu)化。在數(shù)據(jù)集Ciao、Epinions和FilmTrust上進(jìn)行了不同用戶場景的實(shí)驗(yàn),結(jié)果表明CSECSR在不同場景推薦性能均優(yōu)于其他基準(zhǔn)模型,且在冷啟動(dòng)用戶場景下提升性能更高,能有效緩解社交不一致、用戶冷啟動(dòng)和數(shù)據(jù)稀疏性問題,證明了本文模型的有效性和普適性。用戶冷啟動(dòng)問題的緩解可以在很大程度上提高用戶體驗(yàn)和對推薦系統(tǒng)的信任度??梢詫SECSR算法應(yīng)用于在線購物和社交網(wǎng)絡(luò)推薦系統(tǒng)中。在今后的研究中,將考慮項(xiàng)目冷啟動(dòng)問題對于模型推薦性能的影響,并進(jìn)一步研究如何在保證不傷害用戶長期興趣的前提下充分滿足用戶的短期興趣等問題。

    參考文獻(xiàn):

    [1]Gao Chongming, Lei Wenqiang, He Xiangna, et al. Advances and challenges in conversational recommender systems:a survey[J].AI Open,2021,2:100-126.

    [2]Liu Zhiwei, Fan Ziwei, Wang Yu, et al. Augmenting sequential re-commendation with pseudo-prior items via reversely pre-training transformer[C]//Proc of the 44th International ACM SIGIR Conference on Research and Development in Information Retrieval.New York:ACM Press,2021:1608-1612.

    [3]Bizzi L, Labban A. The double-edged impact of social media on online trading: opportunities, threats, and recommendations for organizations[J].Business Horizons,2019,62(4):509-519.

    [4]Liu Zhiwei, Dou Yingtong, Yu P S, et al. Alleviating the inconsis-tency problem of applying graph neural network to fraud detection[C]//Proc of the 43rd International ACM SIGIR Conference on Research and Development in Information Retrieval.New York:ACM Press,2020:1569-1572.

    [5]Liu Zhiwei, Li Xiaohan, Fan Ziwei, et al. Basket recommendation with multi-intent translation graph neural network[C]//Proc of IEEE International Conference on Big Data.Piscataway,NJ:IEEE Press,2020:728-737.

    [6]Guo Zhiwei, Wang Heng. A deep graph neural network-based mechanism for social recommendations[J].IEEE Trans on Industrial Informatics,2020,17(4):2776-2783.

    [7]Mu Nan, Zha Daren, He Yuanye, et al. Graph attention networks for neural social recommendation[C]//Proc of IEEE International Conference on Tools with Artificial Intelligence.Piscataway,NJ:IEEE Press,2019:1320-1327.

    [8]Yang Liangwei, Liu Zhiwei, Dou Yingtong, et al. ConsisRec:enhancing GNN for social recommendation via consistent neighbor aggregation[C]//Proc of the 44th International ACM SIGIR Conference on Research and Development in Information Retrieval.New York:ACM Press,2021:2141-2145.

    [9]Song Jinbo, Chang Chao, Sun Fei, et al. Graph attention collaborative similarity embedding for recommender system[C]//Proc of the 26th International Conference on Database Systems for Advanced App-lications.Berlin:Springer,2021:165-178.

    [10]Rendle S, Freudenthaler C, Gantner Z, et al. BPR: Bayesian personalized ranking from implicit feedback[C]//Proc of the 25th Conference on Uncertainty in Artificial Intelligence.Arlington:AUAI Press,2009:452-461.

    [11]馮興杰,生曉宇.基于圖神經(jīng)網(wǎng)絡(luò)與深度學(xué)習(xí)的商品推薦算法[J].計(jì)算機(jī)應(yīng)用研究,2021,38(12):3617-3622.(Feng Xingjie, Sheng Xiaoyu. Item recommendation algorithm based on GNN and deep learning[J].Application Research of Computers,2021,38(12):3617-3622.)

    [12]郭寧寧,王寶亮,侯永宏,等.融合社交網(wǎng)絡(luò)特征的協(xié)同過濾推薦算法[J].計(jì)算機(jī)科學(xué)與探索,2018,12(2):208-217.(Guo Ning-ning, Wang Baoliang, Hou Yonghong, et al. Collaborative filtering recommendation algorithm based on characteristics of social network[J].Journal of Frontiers of Computer Science and Technology,2018,12(2):208-217.)

    [13]Su Xiaoyuan, Khoshgoftaar T M. A survey of collaborative filtering techniques[J].Advances in Artificial Intelligence,2009,2009:article ID 421425.

    [14]Salakhutdinov R, Mnih A. Probabilistic matrix factorization[J].Advances in Neural Information Processing Systems,2007,20:1257-1264.

    [15]杜雨晅,王巍,張闖,等.基于自適應(yīng)圖卷積注意力神經(jīng)協(xié)同推薦算法[J].計(jì)算機(jī)應(yīng)用研究,2022,39(6):1760-1766.(Du Yu-xuan, Wang Wei, Zhang Chuang, et al. Collaborative filtering recommendation algorithm based on adaptive neural graph convolution attention neural network[J].Application Research of Computers,2022,39(6):1760-1766.)

    [16]Jamali M, Ester M. A matrix factorization technique with trust propagation for recommendation in social networks[C]//Proc of the 4th ACM Conference on Recommender Systems.New York:ACM Press,2010:135-142.

    [17]Fan Wenqi, Li Qing, Cheng Min. Deep modeling of social relations for recommendation[C]//Proc of the 32nd AAAI Conference on Artificial Intelligence, the 30th Innovative Applications of Artificial Intelligence Conference, the 8th AAAI Symposium on Educational Advances in Artificial Intelligence.Palo Alto,CA:AAAI Press,2018:8075-8076.

    [18]Fan Wenqi, Ma Yao, Li Qing, et al. Graph neural networks for social recommendation[C]//Proc of the World Wide Web Conference.New York:ACM Press,2019:417-426.

    [19]Wang Xiang, He Xiangnan, Wang Meng, et al. Neural graph colla-borative filtering[C]//Proc of the 42nd International ACM SIGIR Conference on Research and Development in Information Retrieval.New York:ACM Press,2019:165-174.

    [20]Kipf T N, Welling M. Semi-supervised classification with graph convo-lutional networks[EB/OL].(2017).https://arxiv.org/abs/1609.02907.

    [21]Hamilton W L, Ying R, Leskovec J. Inductive representation lear-ning on large graphs[C]//Proc of the 31st International Conference on Neural Information Processing Systems.New York:Curran Associa-tes Press,2017:1025-1035.

    [22]Chang Weilin, Liu Xuanqing, Si Si, et al. Cluster-GCN:an efficient algorithm for training deep and large graph convolutional networks[C]//Proc of the 25th ACM SIGKDD International Conference on Knowledge Discovery and Data Mining.New York:ACM Press,2019:257-266.

    [23]Cong Weilin, Forsati R, Kandemir M, et al. Minimal variance sampling with provable guarantees for fast training of graph neural networks[C]//Proc of the 26th ACM SIGKDD International Conference on Knowledge Discovery & Data Mining.New York:ACM Press,2020:1393-1403.

    [24]Zeng Hanqing, Zhou Hongkuan, Srivastava A, et al. GraphSAINT: graph sampling based inductive learning method[EB/OL].(2020).https://arxiv.org/abs/1907.04931.

    [25]Najork M, Gollapudi S, Panigrahy R. Less is more: sampling the neighborhood graph makes salsa better and faster[C]//Proc of the 2nd ACM International Conference on Web Search and Data Mining.New York:ACM Press,2009:242-251.

    [26]Kingma D, Ba J. Adam: a method for stochastic optimization[EB/OL].(2015).https://arxiv.org/abs/1412.6980.

    [27]Tang Jiliang, Gao Huiji, Hu Xia, et al. Exploiting homophily effect for trust prediction[C]//Proc of the 6th ACM International Conference on Web Search and Data Mining.New York:ACM Press,2013:53-62.

    [28]Tang Jiliang, Gao Huiji, Liu Huan. mTrust: discerning multi-faceted trust in a connected world[C]//Proc of the 4th ACM International Conference on Web Search and Data Mining.New York:ACM Press,2012:93-102.

    [29]Tang Jiliang, Gao Huiji, Liu Huan, et al. eTrust: understanding trust evolution in an online world[C]//Proc of the 18th ACM SIGKDD International Conference on Knowledge Discovery and Data Mining.New York:ACM Press,2012:253-261.

    [30]Tang Jiliang, Hu Xia, Gao Huiji, et al. Exploiting local and global social context for recommendation[C]//Proc of the 23rd International Joint Conference on Artificial Intelligence.Palo Alto,CA:AAAI Press,2013:2712-2718.

    [31]Guo Guibing, Zhang Jie, Yorke-Smith N. A novel Bayesian similarity measure for recommender systems[C]//Proc of the 23rd International Joint Conference on Artificial Intelligence.Palo Alto,CA:AAAI Press,2013:2619-2625.

    [32]Ma Hao, Yang Haixuan, Lyu M R, et al. SoRec: social recommendation using probabilistic matrix factorization[C]//Proc of the 17th ACM Conference on Information and Knowledge Management.New York:ACM Press,2008:931-940.

    收稿日期:2023-03-12;修回日期:2023-05-08

    基金項(xiàng)目:國家自然科學(xué)基金資助項(xiàng)目(52174184)

    作者簡介:吳永慶(1983-),男(通信作者),浙江衢州人,副教授,碩導(dǎo),博士,CCF會(huì)員,主要研究方向?yàn)橥扑]系統(tǒng)、復(fù)雜系統(tǒng)與復(fù)雜網(wǎng)絡(luò)(yqwuyywu@163.com);孫鵬(1998-),男,遼寧阜新人,碩士研究生,主要研究方向?yàn)閳D神經(jīng)網(wǎng)絡(luò)、推薦系統(tǒng);金堯(1999-),男(滿族),遼寧撫順人,碩士研究生,主要研究方向?yàn)閳D神經(jīng)網(wǎng)絡(luò)、推薦系統(tǒng);丁治辰(1997-),男,遼寧丹東人,碩士研究生,主要研究方向?yàn)閳D神經(jīng)網(wǎng)絡(luò)、推薦系統(tǒng).

    猜你喜歡
    推薦系統(tǒng)
    數(shù)據(jù)挖掘在選課推薦中的研究
    軟件(2016年4期)2017-01-20 10:09:33
    基于用戶偏好的信任網(wǎng)絡(luò)隨機(jī)游走推薦模型
    基于個(gè)性化的協(xié)同過濾圖書推薦算法研究
    個(gè)性化推薦系統(tǒng)關(guān)鍵算法探討
    淺談Mahout在個(gè)性化推薦系統(tǒng)中的應(yīng)用
    關(guān)于協(xié)同過濾推薦算法的研究文獻(xiàn)綜述
    商(2016年29期)2016-10-29 15:22:08
    一種基于自適應(yīng)近鄰選擇的協(xié)同過濾推薦算法
    UGC標(biāo)簽推薦系統(tǒng)的一種新的標(biāo)簽清理方法
    商(2016年15期)2016-06-17 17:39:50
    網(wǎng)上商品推薦系統(tǒng)設(shè)計(jì)研究
    基于消費(fèi)者視角的在線推薦系統(tǒng)研究綜述
    中國市場(2016年2期)2016-01-16 10:16:10
    日韩精品有码人妻一区| 久久99精品国语久久久| 国产成人精品婷婷| 国模一区二区三区四区视频| 高清在线视频一区二区三区| 国产男女超爽视频在线观看| 免费av毛片视频| 一级毛片久久久久久久久女| 干丝袜人妻中文字幕| 天堂av国产一区二区熟女人妻| 精品熟女少妇av免费看| 国产亚洲91精品色在线| 国产人妻一区二区三区在| 又黄又爽又刺激的免费视频.| h日本视频在线播放| 久久99精品国语久久久| av在线播放精品| 久久99热6这里只有精品| 青春草视频在线免费观看| 美女脱内裤让男人舔精品视频| 97人妻精品一区二区三区麻豆| 激情 狠狠 欧美| 国产美女午夜福利| 精品国内亚洲2022精品成人| 久久热精品热| 乱人视频在线观看| 色视频www国产| 午夜免费男女啪啪视频观看| 久久99精品国语久久久| 日日干狠狠操夜夜爽| 成年免费大片在线观看| 人妻制服诱惑在线中文字幕| 男人舔女人下体高潮全视频| 国精品久久久久久国模美| 一级av片app| 日韩成人伦理影院| 婷婷色综合大香蕉| 亚洲精品久久午夜乱码| 欧美成人午夜免费资源| 插逼视频在线观看| 日本猛色少妇xxxxx猛交久久| 久久国内精品自在自线图片| 国产伦精品一区二区三区四那| 三级国产精品欧美在线观看| 国产一区二区亚洲精品在线观看| 麻豆精品久久久久久蜜桃| 午夜视频国产福利| 2022亚洲国产成人精品| 一夜夜www| 午夜激情福利司机影院| 久久精品国产亚洲av涩爱| 日产精品乱码卡一卡2卡三| 国产精品日韩av在线免费观看| 亚洲欧美中文字幕日韩二区| 免费av观看视频| 亚洲精品视频女| 久久久精品94久久精品| 麻豆av噜噜一区二区三区| 久久亚洲国产成人精品v| 成年版毛片免费区| 肉色欧美久久久久久久蜜桃 | av在线老鸭窝| 一级毛片aaaaaa免费看小| 久久久精品免费免费高清| 国产伦理片在线播放av一区| 成人亚洲欧美一区二区av| 久久久成人免费电影| videossex国产| 尤物成人国产欧美一区二区三区| 日本免费在线观看一区| 一级a做视频免费观看| 国产人妻一区二区三区在| 国产在线男女| 国产 一区精品| 久久99热这里只频精品6学生| 又爽又黄无遮挡网站| 波多野结衣巨乳人妻| 午夜免费男女啪啪视频观看| 午夜福利视频1000在线观看| 亚洲av免费高清在线观看| 国产片特级美女逼逼视频| 麻豆av噜噜一区二区三区| 国产成人a区在线观看| 搞女人的毛片| 亚洲欧美成人精品一区二区| 免费黄网站久久成人精品| 国产精品伦人一区二区| 中文字幕久久专区| 久久99精品国语久久久| 国产成人a∨麻豆精品| 亚洲精品,欧美精品| 观看免费一级毛片| 国产午夜精品一二区理论片| 欧美人与善性xxx| 全区人妻精品视频| 精品熟女少妇av免费看| 亚洲成人精品中文字幕电影| 久久久久久久久大av| 能在线免费看毛片的网站| 真实男女啪啪啪动态图| 午夜福利在线在线| 欧美性猛交╳xxx乱大交人| 中文乱码字字幕精品一区二区三区 | 一边亲一边摸免费视频| 亚洲精品成人久久久久久| 色综合亚洲欧美另类图片| 男女视频在线观看网站免费| 成人一区二区视频在线观看| 日韩欧美精品v在线| 日韩av在线大香蕉| 97精品久久久久久久久久精品| 亚洲国产成人一精品久久久| 成人美女网站在线观看视频| 18+在线观看网站| 九九在线视频观看精品| 美女国产视频在线观看| 久久人人爽人人片av| 国产成人午夜福利电影在线观看| 国产三级在线视频| 91久久精品国产一区二区成人| 亚洲av在线观看美女高潮| 99视频精品全部免费 在线| av又黄又爽大尺度在线免费看| 午夜爱爱视频在线播放| 亚洲最大成人中文| 99热网站在线观看| 午夜激情欧美在线| 久久精品国产亚洲av涩爱| 亚洲欧美成人综合另类久久久| 精品久久久精品久久久| 亚洲人成网站在线观看播放| 热99在线观看视频| 水蜜桃什么品种好| h日本视频在线播放| 国产成年人精品一区二区| 国产黄色视频一区二区在线观看| 岛国毛片在线播放| 国产黄a三级三级三级人| 秋霞在线观看毛片| 成人亚洲欧美一区二区av| 亚洲av成人av| 女的被弄到高潮叫床怎么办| 男的添女的下面高潮视频| 噜噜噜噜噜久久久久久91| 国产精品久久久久久久久免| 身体一侧抽搐| 久久久精品欧美日韩精品| 晚上一个人看的免费电影| 成人亚洲欧美一区二区av| 少妇的逼好多水| 色视频www国产| 国产精品1区2区在线观看.| 亚洲熟妇中文字幕五十中出| 91精品国产九色| 久久久久久久久久人人人人人人| 日韩强制内射视频| 熟妇人妻不卡中文字幕| 精品人妻偷拍中文字幕| 一夜夜www| 国产精品麻豆人妻色哟哟久久 | 性插视频无遮挡在线免费观看| 国产成人a区在线观看| 神马国产精品三级电影在线观看| 97热精品久久久久久| av在线老鸭窝| 色网站视频免费| 97人妻精品一区二区三区麻豆| 夫妻午夜视频| 欧美xxxx黑人xx丫x性爽| 国产在视频线在精品| 日韩欧美 国产精品| 日韩成人av中文字幕在线观看| 极品少妇高潮喷水抽搐| 神马国产精品三级电影在线观看| 最近手机中文字幕大全| 日韩国内少妇激情av| 97超视频在线观看视频| 亚洲精品中文字幕在线视频 | 校园人妻丝袜中文字幕| 日韩电影二区| 亚洲欧洲国产日韩| 久久精品国产亚洲网站| 国产av码专区亚洲av| 丰满乱子伦码专区| 高清在线视频一区二区三区| 亚洲欧美日韩无卡精品| 中文乱码字字幕精品一区二区三区 | 亚洲欧美成人综合另类久久久| 好男人在线观看高清免费视频| 在线播放无遮挡| 草草在线视频免费看| 能在线免费观看的黄片| 亚洲av二区三区四区| 亚洲欧美成人综合另类久久久| av又黄又爽大尺度在线免费看| 2021天堂中文幕一二区在线观| 亚洲伊人久久精品综合| 日日干狠狠操夜夜爽| 国产视频内射| 国产亚洲精品av在线| 国产免费一级a男人的天堂| 亚洲综合色惰| 国产av国产精品国产| 人妻系列 视频| 亚洲成人av在线免费| 麻豆国产97在线/欧美| 麻豆乱淫一区二区| 精品一区二区三区人妻视频| 美女内射精品一级片tv| 日韩成人伦理影院| 色哟哟·www| 欧美高清性xxxxhd video| 国产女主播在线喷水免费视频网站 | 一本一本综合久久| 久久久久久久久久久免费av| 最近视频中文字幕2019在线8| 亚洲国产精品国产精品| 国产精品无大码| 18禁裸乳无遮挡免费网站照片| 人人妻人人看人人澡| 菩萨蛮人人尽说江南好唐韦庄| 在线免费观看不下载黄p国产| 免费av不卡在线播放| a级毛片免费高清观看在线播放| 蜜桃久久精品国产亚洲av| 亚洲精品亚洲一区二区| 好男人在线观看高清免费视频| 国内精品一区二区在线观看| 欧美性感艳星| 波多野结衣巨乳人妻| 亚洲综合色惰| 日本黄色片子视频| 99久久九九国产精品国产免费| 色综合亚洲欧美另类图片| 欧美成人一区二区免费高清观看| 嘟嘟电影网在线观看| 国产亚洲精品av在线| 国产精品国产三级专区第一集| 国产高清国产精品国产三级 | 婷婷色av中文字幕| 中文天堂在线官网| 日本一二三区视频观看| 久久久久久久久久久免费av| 一个人免费在线观看电影| 联通29元200g的流量卡| 美女国产视频在线观看| 精品99又大又爽又粗少妇毛片| av网站免费在线观看视频 | 91狼人影院| 免费不卡的大黄色大毛片视频在线观看 | 亚洲成人av在线免费| 18禁在线播放成人免费| 久久久久久久久中文| 久久久午夜欧美精品| 久久久久久久久久黄片| 亚洲精品日韩av片在线观看| 亚洲精品影视一区二区三区av| 99热这里只有是精品50| 日产精品乱码卡一卡2卡三| 69人妻影院| 内地一区二区视频在线| 亚洲电影在线观看av| 国产国拍精品亚洲av在线观看| 日本一二三区视频观看| 一本一本综合久久| 中国美白少妇内射xxxbb| 2022亚洲国产成人精品| 校园人妻丝袜中文字幕| 内地一区二区视频在线| 老司机影院毛片| 天堂√8在线中文| 亚洲欧美中文字幕日韩二区| 成人亚洲精品一区在线观看 | 高清午夜精品一区二区三区| 97热精品久久久久久| 伊人久久精品亚洲午夜| 99九九线精品视频在线观看视频| 少妇的逼水好多| 亚洲av男天堂| 高清毛片免费看| 国产一区二区三区av在线| 国产美女午夜福利| 我的老师免费观看完整版| 好男人视频免费观看在线| 一个人看视频在线观看www免费| 亚洲欧洲日产国产| 中文字幕久久专区| 欧美精品国产亚洲| 午夜精品一区二区三区免费看| 九九久久精品国产亚洲av麻豆| 国产单亲对白刺激| 只有这里有精品99| 麻豆乱淫一区二区| 国产亚洲5aaaaa淫片| 好男人在线观看高清免费视频| 一个人看的www免费观看视频| 激情 狠狠 欧美| 成年女人在线观看亚洲视频 | 亚洲va在线va天堂va国产| 一个人看视频在线观看www免费| 一级毛片电影观看| 天堂av国产一区二区熟女人妻| 黑人高潮一二区| 内地一区二区视频在线| 成人国产麻豆网| 亚洲欧美清纯卡通| 国产 一区 欧美 日韩| 插逼视频在线观看| 久久久国产一区二区| 51国产日韩欧美| 伊人久久精品亚洲午夜| 亚洲国产av新网站| 亚洲最大成人手机在线| 久久久久久久久中文| 久久精品国产自在天天线| 插阴视频在线观看视频| 波多野结衣巨乳人妻| 五月玫瑰六月丁香| 国产大屁股一区二区在线视频| 日韩伦理黄色片| 国产单亲对白刺激| 亚洲成人精品中文字幕电影| 婷婷色av中文字幕| av免费观看日本| 欧美3d第一页| 亚洲精品自拍成人| 18禁在线无遮挡免费观看视频| 亚洲av成人精品一区久久| 亚洲精品自拍成人| 成人漫画全彩无遮挡| 欧美日韩亚洲高清精品| 欧美三级亚洲精品| 淫秽高清视频在线观看| 亚洲av不卡在线观看| 亚洲av日韩在线播放| 国产高清国产精品国产三级 | 日韩三级伦理在线观看| 久久精品夜色国产| 国产成人精品福利久久| 美女国产视频在线观看| 亚洲精品日韩在线中文字幕| 床上黄色一级片| 久久99热6这里只有精品| 国产成人freesex在线| 免费av毛片视频| 日本三级黄在线观看| 免费播放大片免费观看视频在线观看| 国产91av在线免费观看| 精品久久久久久电影网| 中文字幕制服av| 国产 一区精品| 欧美3d第一页| 国产一区二区在线观看日韩| 欧美高清性xxxxhd video| 婷婷色综合大香蕉| 一级毛片 在线播放| 亚洲av不卡在线观看| 日韩中字成人| 99久久人妻综合| 亚洲国产av新网站| 国产 一区 欧美 日韩| 免费电影在线观看免费观看| 亚洲av成人精品一区久久| 日韩三级伦理在线观看| 久久精品熟女亚洲av麻豆精品 | 18禁在线无遮挡免费观看视频| 成年版毛片免费区| 亚洲国产最新在线播放| 欧美日韩一区二区视频在线观看视频在线 | av又黄又爽大尺度在线免费看| 真实男女啪啪啪动态图| av免费在线看不卡| 夜夜爽夜夜爽视频| 又粗又硬又长又爽又黄的视频| 亚洲三级黄色毛片| 国产精品三级大全| 免费看不卡的av| 嫩草影院精品99| 亚洲欧美成人精品一区二区| 免费看美女性在线毛片视频| 十八禁网站网址无遮挡 | 小蜜桃在线观看免费完整版高清| 日本午夜av视频| 欧美xxxx黑人xx丫x性爽| 免费av观看视频| 精品一区二区免费观看| 亚洲欧美一区二区三区国产| 大香蕉久久网| 色综合站精品国产| 91精品一卡2卡3卡4卡| 乱人视频在线观看| 国产成人freesex在线| 亚洲欧美日韩卡通动漫| 一个人看的www免费观看视频| 18禁在线无遮挡免费观看视频| 国产高清不卡午夜福利| 国产亚洲精品久久久com| av在线蜜桃| 亚洲成人久久爱视频| 神马国产精品三级电影在线观看| 成人二区视频| 国产精品av视频在线免费观看| 亚洲av在线观看美女高潮| 亚洲av男天堂| 一级毛片aaaaaa免费看小| 色综合站精品国产| 久久精品国产亚洲av涩爱| 日日摸夜夜添夜夜爱| 白带黄色成豆腐渣| 午夜免费激情av| 国产午夜福利久久久久久| 亚洲国产精品成人久久小说| 亚洲真实伦在线观看| 女人被狂操c到高潮| 亚洲精品日韩av片在线观看| 亚洲av在线观看美女高潮| 在线免费观看的www视频| 亚洲在线自拍视频| 夫妻午夜视频| 一个人看视频在线观看www免费| 免费观看无遮挡的男女| 欧美区成人在线视频| 国产精品嫩草影院av在线观看| 国产高潮美女av| 秋霞在线观看毛片| 黄片wwwwww| av黄色大香蕉| 2018国产大陆天天弄谢| 精品久久久久久久人妻蜜臀av| 99九九线精品视频在线观看视频| 欧美不卡视频在线免费观看| 最近手机中文字幕大全| 国产永久视频网站| 女人被狂操c到高潮| 亚洲欧美成人综合另类久久久| 中文在线观看免费www的网站| 久久人人爽人人爽人人片va| 免费看不卡的av| 最近中文字幕高清免费大全6| 黄色日韩在线| 精品欧美国产一区二区三| 亚洲精品亚洲一区二区| 女的被弄到高潮叫床怎么办| 亚洲一级一片aⅴ在线观看| 亚洲丝袜综合中文字幕| 观看美女的网站| 女人久久www免费人成看片| 亚洲va在线va天堂va国产| 边亲边吃奶的免费视频| 久久精品久久久久久久性| 亚洲精品乱码久久久久久按摩| 久久人人爽人人片av| 日本午夜av视频| 精品人妻一区二区三区麻豆| 精品久久久久久久久av| 色5月婷婷丁香| 男女视频在线观看网站免费| av在线蜜桃| 麻豆精品久久久久久蜜桃| 26uuu在线亚洲综合色| 真实男女啪啪啪动态图| 噜噜噜噜噜久久久久久91| 看免费成人av毛片| 国产在视频线精品| 国产永久视频网站| 18禁动态无遮挡网站| 亚洲一级一片aⅴ在线观看| 国产伦精品一区二区三区四那| 91久久精品国产一区二区三区| 秋霞伦理黄片| 国内揄拍国产精品人妻在线| 国产精品日韩av在线免费观看| 男人狂女人下面高潮的视频| 亚洲精品aⅴ在线观看| 春色校园在线视频观看| 国产男女超爽视频在线观看| 日本av手机在线免费观看| 国产在线男女| 亚洲av免费在线观看| 亚洲美女搞黄在线观看| 少妇人妻一区二区三区视频| 国产麻豆成人av免费视频| 国产免费福利视频在线观看| 国产精品久久视频播放| 人妻一区二区av| 国产视频首页在线观看| 国产欧美日韩精品一区二区| 一级a做视频免费观看| 搞女人的毛片| 国产亚洲av嫩草精品影院| 亚洲精品视频女| 久久久久久久国产电影| 少妇的逼好多水| 伊人久久精品亚洲午夜| 亚洲四区av| av播播在线观看一区| 精品人妻一区二区三区麻豆| 狂野欧美激情性xxxx在线观看| 成年版毛片免费区| 国产人妻一区二区三区在| av国产免费在线观看| 亚洲av成人精品一区久久| 99九九线精品视频在线观看视频| 精品国产一区二区三区久久久樱花 | 人妻一区二区av| 欧美成人一区二区免费高清观看| 亚洲精品视频女| 丝瓜视频免费看黄片| 亚洲欧洲日产国产| 国产精品.久久久| 亚洲精品日本国产第一区| 精品人妻视频免费看| 中文在线观看免费www的网站| 精品一区在线观看国产| av天堂中文字幕网| 欧美xxxx性猛交bbbb| 国内揄拍国产精品人妻在线| 日韩一区二区视频免费看| 免费观看无遮挡的男女| 91久久精品电影网| 亚洲久久久久久中文字幕| 精品久久国产蜜桃| 一个人看的www免费观看视频| 亚洲成人久久爱视频| 日韩精品有码人妻一区| 亚洲av中文字字幕乱码综合| 六月丁香七月| 汤姆久久久久久久影院中文字幕 | 97人妻精品一区二区三区麻豆| 国产日韩欧美在线精品| 69人妻影院| 午夜福利在线观看免费完整高清在| 美女高潮的动态| 色吧在线观看| 亚洲无线观看免费| 一区二区三区乱码不卡18| 国产黄色免费在线视频| 精品久久久久久久久久久久久| 噜噜噜噜噜久久久久久91| 99视频精品全部免费 在线| 久久99热6这里只有精品| 亚洲一级一片aⅴ在线观看| 国产成人一区二区在线| 一本一本综合久久| 看非洲黑人一级黄片| 青春草视频在线免费观看| 女人十人毛片免费观看3o分钟| 永久免费av网站大全| 亚洲国产成人一精品久久久| a级毛片免费高清观看在线播放| 精品久久久久久久人妻蜜臀av| 国内少妇人妻偷人精品xxx网站| 精品午夜福利在线看| 99热这里只有是精品50| 精品午夜福利在线看| 国产大屁股一区二区在线视频| 亚洲欧洲国产日韩| 成人二区视频| 91av网一区二区| 国产91av在线免费观看| 国产精品日韩av在线免费观看| .国产精品久久| 国产视频内射| av又黄又爽大尺度在线免费看| 久久精品国产亚洲av涩爱| 亚洲国产色片| 国产伦精品一区二区三区视频9| 国产欧美日韩精品一区二区| 卡戴珊不雅视频在线播放| 国产黄色免费在线视频| 又黄又爽又刺激的免费视频.| 69人妻影院| 在线观看av片永久免费下载| 又爽又黄a免费视频| 青青草视频在线视频观看| 天堂中文最新版在线下载 | a级毛色黄片| av又黄又爽大尺度在线免费看| 黄色配什么色好看| 午夜激情欧美在线| 一本—道久久a久久精品蜜桃钙片 精品乱码久久久久久99久播 | 日韩欧美一区视频在线观看 | 在线观看av片永久免费下载| av黄色大香蕉| 久久99热这里只频精品6学生| 国产免费一级a男人的天堂| 欧美成人午夜免费资源| 18禁在线播放成人免费| 纵有疾风起免费观看全集完整版 | 精华霜和精华液先用哪个| 成人综合一区亚洲| 91精品伊人久久大香线蕉| 神马国产精品三级电影在线观看| 久久久a久久爽久久v久久| 国产av国产精品国产| 亚洲精品日韩在线中文字幕| 国产精品麻豆人妻色哟哟久久 | 永久免费av网站大全| 直男gayav资源| 久久综合国产亚洲精品| 午夜福利网站1000一区二区三区| av线在线观看网站| 免费看美女性在线毛片视频| 91久久精品电影网| 极品少妇高潮喷水抽搐| 69人妻影院| freevideosex欧美| 午夜精品一区二区三区免费看| av卡一久久| 欧美日韩在线观看h| 80岁老熟妇乱子伦牲交| 一本久久精品| 在线观看一区二区三区| 亚洲无线观看免费| 国产精品一区www在线观看|