融合信任關(guān)系的聯(lián)合矩陣分解推薦算法仿真

郭 磊,余文森,吳清壽

(1. 武夷學(xué)院數(shù)學(xué)與計(jì)算機(jī)學(xué)院,福建 武夷山 354300；2. 福建省認(rèn)知計(jì)算與智能信息處理重點(diǎn)實(shí)驗(yàn)室,福建 武夷山 354300)

1 引言

互聯(lián)網(wǎng)的發(fā)展極大的提高了人們獲取信息、交互信息的效率,但也出現(xiàn)了嚴(yán)重的信息過載的問題。推薦算法為人們高效的獲取所需網(wǎng)絡(luò)信息提供了有效的解決方法而受到廣泛關(guān)注[1-3]。傳統(tǒng)的推薦技術(shù)主要包含基于內(nèi)容的推薦技術(shù)[4]和協(xié)同過濾推薦技術(shù)[5],但這些技術(shù)主要針對(duì)單個(gè)用戶行為做分析,解決數(shù)據(jù)稀疏和冷啟動(dòng)的問題效果有限。

近年來,一些學(xué)者利用社交網(wǎng)絡(luò)中用戶之間的信任關(guān)系作為重要依據(jù)進(jìn)行推薦[6],希望能解決推薦系統(tǒng)中數(shù)據(jù)稀疏的問題,也取得了一定的成果。Ma等人提出融入信任網(wǎng)絡(luò)結(jié)構(gòu)和用戶-項(xiàng)目評(píng)分的SoRec[7]; Jamal對(duì)SoRec進(jìn)行補(bǔ)充,提出了SocialMF[8]；郭磊、馬軍等在信任關(guān)系的基礎(chǔ)上,加上興趣偏好,并通過共享特征空間建模,提出了StrengthMF[9],趙海燕等人[10]定義了基于信任出入度的三種信任度量方法,并將其融入社交推薦模型中,取得了較好的推薦效果。但這些算法只是依據(jù)項(xiàng)目評(píng)分矩陣或者關(guān)注、被關(guān)注關(guān)系計(jì)算用戶信任,局限性明顯。

為了進(jìn)一步提升推薦算法性能,部分學(xué)者研究通過社交網(wǎng)絡(luò)中的輔助信息,如用戶行為、標(biāo)簽等分析用戶信任。如Tang[11]等將用戶決策過程中受好友影響的因素考慮其中,提出了著名的LOCABAL算法；余永紅等[12]研究不同領(lǐng)域的的社交信任關(guān)系與社交地位,提出了一種融合用戶社會(huì)地位信息的矩陣分解推薦算法；潘一騰等[13]在SocialMF算法的基礎(chǔ)上,提出了信任關(guān)系隱含相似度,并基于評(píng)分和社交關(guān)系,提出了SocialIT算法； jiang等[14]通過微博發(fā)文、轉(zhuǎn)發(fā)等行為中計(jì)算用戶愛好與影響力,并以此計(jì)算用戶信任關(guān)系,提出了contextMF推薦算法。然而,以上研究主要采用社交關(guān)系進(jìn)行信任分析,由于社交關(guān)系和評(píng)分?jǐn)?shù)據(jù)存在人為因素產(chǎn)生的噪聲,分析精度受一定影響,以上算法均未充分挖掘社交行為對(duì)信任分析的作用,而社交行為更能體現(xiàn)用戶真實(shí)信任關(guān)系,此外,以上算法均未考慮隨時(shí)間變化,用戶偏好改變的問題。

針對(duì)以上問題,本文提出了一種基于信任機(jī)制和社交行為的聯(lián)合矩陣分解社會(huì)化推薦算法(Joint Matrix Factorization social recommendation Algorithm Based on Trust Mechanism and Social Behavior, TMS-CMF),該算法的優(yōu)勢(shì)在于：

1)結(jié)合用戶網(wǎng)絡(luò)行為與社交關(guān)系,從顯示信任與隱式信任兩個(gè)維度構(gòu)建用戶社交信任度矩陣。其中顯示信任從局部和全局兩個(gè)方面對(duì)用戶信任度進(jìn)行度量,隱式信任主要考慮用戶傳遞信任因素,該方法能夠有效緩解數(shù)據(jù)稀疏性問題。

2)為更準(zhǔn)確反應(yīng)用戶偏好隨時(shí)間變化,給出了結(jié)合社交行為的時(shí)間增強(qiáng)”用戶-項(xiàng)目”關(guān)注矩陣。通過項(xiàng)目關(guān)注度對(duì)項(xiàng)目關(guān)聯(lián)關(guān)系進(jìn)行度量。

3)基于聯(lián)合矩陣分解提出了本文的基于信任機(jī)制和社交行為的聯(lián)合矩陣分解社會(huì)化推薦算法。

2 矩陣分解模型

2.1 問題定義

在推薦系統(tǒng)中包含有N個(gè)用戶組成的用戶集合U={u1,u2,u3,…,un}和M個(gè)項(xiàng)目組成的項(xiàng)目集合S={s1,s2,s3,…sn}。用戶對(duì)項(xiàng)目評(píng)分的數(shù)據(jù)矩陣用R=[rij]n×m表示,如果用戶u有對(duì)項(xiàng)目s進(jìn)行評(píng)分,則rui表示對(duì)應(yīng)評(píng)分值,rui=0則表示用戶u對(duì)項(xiàng)目s未評(píng)分。在社交網(wǎng)絡(luò)中,每個(gè)用戶均存在若干好友,用矩陣T=[tij]n×n表示用戶之間的社交好友關(guān)系,tuv表示用戶間的信任強(qiáng)度,若tuv=0則表示用戶u與用戶v沒有社交關(guān)系。

2.2 矩陣分解模型

由于矩陣R具有嚴(yán)重的稀疏性,為了預(yù)測(cè)其中的缺失值,矩陣分解模型采用降維的方法把高階評(píng)分矩陣Rn×m分解為兩個(gè)低維矩陣P和Q,如式(1)所示

R≈PTQ

(1)

(2)

3 社交信任計(jì)算算法

基于信任的推薦算法對(duì)解決冷啟動(dòng)和數(shù)據(jù)稀疏問題有較好的效果,但信任值的計(jì)算是研究重點(diǎn),本文結(jié)合社交行為等輔助信息,提出了多維度的信任計(jì)算方法。

3.1 顯示信任度計(jì)算3.1. 1 局部信任度計(jì)算

局部信任具有非對(duì)稱、差異化的特點(diǎn),現(xiàn)有算法大都通過對(duì)評(píng)分矩陣和社交關(guān)系挖掘信息關(guān)系,效果不佳,本文結(jié)合社交行為,計(jì)算局部信任度。

文獻(xiàn)[15]的研究認(rèn)為,社交行為能反映用戶更本質(zhì)的信任關(guān)系,算法通過對(duì)回復(fù)、轉(zhuǎn)發(fā)行為的分析來計(jì)算用戶局部信任度。通常認(rèn)為,同等條件下,用戶交互行為的頻率可以較客觀反映他們之間的信任度,因此,通過對(duì)一定時(shí)間范圍內(nèi)的回復(fù)頻率與轉(zhuǎn)發(fā)頻率對(duì)用戶局部信任度進(jìn)行度量,計(jì)算公式如式(3)與(4)所示

(3)

(4)

(5)

由于用戶的交互行為隨時(shí)間變化較大,式(5)只能夠反應(yīng)一定時(shí)間內(nèi)用戶信息關(guān)系,本文稱它為靜態(tài)局部信任度。

為避免部分用戶在一段時(shí)間內(nèi)網(wǎng)絡(luò)行為較少導(dǎo)致缺少數(shù)據(jù)而難以計(jì)算周期局部信任度的情況,本算法采用了一種基于用戶社會(huì)聯(lián)系公共好友數(shù)的局部信任度量算法,一般認(rèn)為,用戶間公共好友數(shù)越高,信任度則越高,因此,計(jì)算公式如式(6)

(6)

綜合兩種局部信任度,得到最終局部信任度

(7)

3.1. 2 全局信任度計(jì)算

由文獻(xiàn)[16]可知,全局信任度反映用戶在整個(gè)社交網(wǎng)絡(luò)中的影響力,受越多人信任的用戶,全局信任度就越高。本文利用社交網(wǎng)絡(luò)中節(jié)點(diǎn)出入度結(jié)構(gòu)特征定義全局信任度

(8)

其中Idi表示用戶ui的入度,Odi表示用戶ui的出度。

3.1. 3 顯示信任度計(jì)算

將局部信任度與全局信任度合并,就可以得到直接信任矩陣,如下

(9)

其中,參數(shù)α用于調(diào)整局部信任度和全局信任度對(duì)推薦算法的影響。

3.2 隱式信任度計(jì)算

以上方法僅考慮直接信任的情況,得到的信任矩陣具有較大的稀疏性。考慮到信任存在傳遞性,間接信任的計(jì)算能夠有效緩解稀疏性的問題。

兩個(gè)用戶的信任傳遞過程中通常會(huì)同時(shí)存在多條路徑,大量研究采用計(jì)算二者之間的最短路徑信任傳遞值來計(jì)算其間接信任值,忽略了其它路徑帶來的影響。本文整合多條路徑傳遞特性,計(jì)算用戶間的隱式信任度,計(jì)算模型為

(10)

在式(10)中,Lu, v表示用戶ui到用戶uj信任傳遞路徑上的用戶集合；pai, n表示用戶ui到用戶un的傳遞路徑總長(zhǎng)度；pbi, n表示ui到un各分支路徑長(zhǎng)度。

該模型可以較全面計(jì)算間接信任,但對(duì)明星用戶或者故意刷關(guān)注的情況處理效果不佳,故引入權(quán)重懲罰來避免數(shù)值虛高的情況。本文使用信息熵來對(duì)用戶行為進(jìn)行分析,確定用戶信任質(zhì)量,具體表達(dá)式為

(11)

其中,M(j)表示用戶uj所有歷史交互的用戶集合,p(m)表達(dá)式為

(12)

#|um|表示與用戶um有過歷史交互的用戶數(shù),#|U|表示所有用戶數(shù)。

通過信息熵對(duì)Tt(i,j)進(jìn)行一定權(quán)重懲罰,就得到新的隱式信任度計(jì)算模型

(13)

3.3 信任矩陣構(gòu)建

綜合前兩節(jié)所得的顯示信任度與隱式信任度,可搭建信任矩陣,其形式為

(14)

通過采用隱式信任度對(duì)信任矩陣進(jìn)行填補(bǔ),可有效緩解信任矩陣稀疏性的問題。

4 社會(huì)化推薦模型

“用戶-項(xiàng)目”矩陣R不能反映用戶隨時(shí)間推移,對(duì)項(xiàng)目的關(guān)注程度,也不能反映當(dāng)前項(xiàng)目在所有項(xiàng)目中的關(guān)注度,因此,對(duì)關(guān)注矩陣進(jìn)行時(shí)間增強(qiáng)有利于提升真實(shí)反映用戶偏好,對(duì)項(xiàng)目關(guān)注度評(píng)價(jià)有利于突出用戶感興趣程度較高的項(xiàng)目。

4.1 帶時(shí)間增強(qiáng)的“用戶-項(xiàng)目”關(guān)注矩陣

一般性認(rèn)為,若用戶較長(zhǎng)時(shí)間未對(duì)項(xiàng)目進(jìn)行回復(fù)或者轉(zhuǎn)發(fā),則認(rèn)為用戶對(duì)項(xiàng)目的關(guān)注程度下降。令tij為用戶ui對(duì)項(xiàng)目sj最后一次交互發(fā)生時(shí)間,ti,max和ti,min分別是用戶ui在時(shí)間范圍[ts,te]中的最大值和最小值。定義用戶對(duì)項(xiàng)目偏好系數(shù)

(15)

利用偏好系數(shù)Wt對(duì)關(guān)注矩陣R進(jìn)行增強(qiáng),如下

RT=R·Wt

(16)

其中,·是Hadamard內(nèi)積。

4.2 項(xiàng)目關(guān)注度

項(xiàng)目關(guān)注度主要是評(píng)價(jià)某項(xiàng)目在所有項(xiàng)目中的關(guān)注程度,項(xiàng)目關(guān)注程度越高,說明用戶對(duì)該項(xiàng)目感興趣的程度越大。根據(jù)文獻(xiàn)[17]的研究表明,項(xiàng)目關(guān)注度與瀏覽過該項(xiàng)目的用戶數(shù)量相關(guān),依此定義項(xiàng)目關(guān)注度

(17)

其中,|Nq|表示有對(duì)項(xiàng)目q評(píng)分的用戶數(shù),V表示所有項(xiàng)目的集合。

4.3 社會(huì)化推薦模型

根據(jù)用戶社交行為計(jì)算得到用戶信任度,通過時(shí)間增強(qiáng)對(duì)用戶偏好情況進(jìn)行修正,通過項(xiàng)目關(guān)注度從全局角度對(duì)項(xiàng)目進(jìn)行修正,提出了基于信任機(jī)制和社交行為的聯(lián)合矩陣分解社會(huì)化推薦算法(TMS-CMF)。首先對(duì)時(shí)間增強(qiáng)修正過的關(guān)注矩陣RT進(jìn)行矩陣分解,得到用戶隱含特征矩陣P={p1,p2,p3,…,pn}和項(xiàng)目隱含特征矩陣Q={q1,q2,q3,…,qn},通過最小化損失函數(shù)得到式(13)

(18)

對(duì)社交信任矩陣Tf進(jìn)行分解,可以得到信任者特征矩陣V={v1,v2,v3,…,vn}和被信任者特征矩陣Z={z1,z2,z3,…,zn},該模型如式所示

(19)

綜上,得到TMS-CMF推薦算法的數(shù)學(xué)模型

f(P,V,Q,Z)=fs(P,Q)+βft(V,Z)+

(20)

其中β是信任因子,取值[0, 1],λr是正則化參數(shù)。采用隨機(jī)梯度下降法優(yōu)化式(15)可得最優(yōu)解。

5 實(shí)驗(yàn)結(jié)果與分析

為了驗(yàn)證本文提出的TMS-CMF算法的性能,采用去哪兒網(wǎng)數(shù)據(jù)集進(jìn)行測(cè)試,設(shè)計(jì)了3組實(shí)驗(yàn),與4種具有代表性的社會(huì)化推薦算法從不同角度進(jìn)行對(duì)比分析。

5.1 數(shù)據(jù)集

實(shí)驗(yàn)使用Python爬蟲程序從知乎抓取2018年12月到2019年12月數(shù)據(jù),包含ID、帖子列表、評(píng)論信息、發(fā)帖時(shí)間等。用戶和項(xiàng)目采用“關(guān)注”關(guān)系進(jìn)行連接,用戶之間相互關(guān)注則認(rèn)為他們是好友關(guān)系,轉(zhuǎn)發(fā)、點(diǎn)贊等行為表示存在信任關(guān)系。其中去除了關(guān)注項(xiàng)目數(shù)量小于5的用戶,具體如表1 所示。

表1 知乎數(shù)據(jù)集統(tǒng)計(jì)情況

5.2 對(duì)比算法

為了比較本文提出的TMS-CMF算法的效果,選取了4種算法進(jìn)行比較。

SocialMF[8]：利用直接社交關(guān)系對(duì)用戶特征矩陣進(jìn)行優(yōu)化,綜合好友信息與信任機(jī)制。

ContextMF[14]：綜合社交關(guān)系與用戶偏好的推薦方法。

TrustMF[18]：將用戶映射為信任者與被信任者兩個(gè)特征。對(duì)社交矩陣與評(píng)分矩陣進(jìn)行分解。

SRANS[19]：結(jié)合社交信息構(gòu)建自適應(yīng)鄰居集進(jìn)行預(yù)測(cè)與推薦。

5.3 評(píng)價(jià)標(biāo)準(zhǔn)

實(shí)驗(yàn)采用5-折交叉驗(yàn)證法,將以上2種數(shù)據(jù)集隨機(jī)分為20次,每次使用其中80%為訓(xùn)練集,剩下20%為測(cè)試集,將20次評(píng)價(jià)結(jié)果取平均值做為最終評(píng)價(jià)數(shù)據(jù)。

為驗(yàn)證TMS-CMF算法的有效性,本文進(jìn)行了四類實(shí)驗(yàn),第一類實(shí)驗(yàn)主要驗(yàn)證參數(shù)α的有效性,第二類實(shí)驗(yàn)驗(yàn)證在不同特征向量維度下算法的推薦效果,第三類為在不同比例訓(xùn)練集下的推薦精度,第四類為Top-K推薦能力測(cè)試。

為了評(píng)價(jià)算法性能,本文采用均方根誤差(root mean squared error, RMSE)和平均絕對(duì)誤差(mean absolute error, MAE)作為度量標(biāo)準(zhǔn),它是針對(duì)評(píng)分預(yù)測(cè)常用的度量標(biāo)準(zhǔn)之一,計(jì)算公式如下

(21)

(22)

其中N是測(cè)試集評(píng)分項(xiàng)的總個(gè)數(shù),Ri, j表示真實(shí)評(píng)分值,i, j是預(yù)測(cè)評(píng)分值。

本文采用Precision@K作為度量標(biāo)準(zhǔn)對(duì)算法推薦能力進(jìn)行評(píng)價(jià),該指標(biāo)廣泛應(yīng)用于Top-K指標(biāo)的實(shí)驗(yàn)比較,其反應(yīng)在所有預(yù)測(cè)為正的樣本中真實(shí)為正的樣本的概率,可以從推薦精確率角度評(píng)價(jià)推薦結(jié)果與真實(shí)結(jié)果差異。定義如下

(23)

其中Lu(K)模型預(yù)測(cè)用戶的K維項(xiàng)目推薦結(jié)果的集合,L′u(K)是真實(shí)的用戶K維推薦結(jié)果集合。

5.4 實(shí)驗(yàn)結(jié)果分析

5.4. 1 參數(shù)設(shè)置的影響

在TMS-CMF算法中,參數(shù)β控制了信任關(guān)系的影響程度。β=0則算法不依賴信任關(guān)系計(jì)算,僅考慮項(xiàng)目關(guān)注度,β→1則算法高度依賴信任關(guān)系進(jìn)行推薦,不考慮項(xiàng)目關(guān)注度。對(duì)k=10, 80%測(cè)試數(shù)據(jù)集測(cè)試參數(shù)β對(duì)算法性能影響,具體實(shí)驗(yàn)如圖1所示。

圖1 參數(shù)β影響

5.4. 2 不同特征向量維度下的實(shí)驗(yàn)分析

實(shí)驗(yàn)抽取“用戶-項(xiàng)目”關(guān)注矩陣中的80%作為訓(xùn)練集, 20%作為測(cè)試集,分別設(shè)置潛在特征維度k=10和k=20,實(shí)驗(yàn)過程獨(dú)立重復(fù)5次,取平均值為最終結(jié)果。實(shí)驗(yàn)參數(shù)設(shè)置如表2所示。

表2 參數(shù)設(shè)置值

實(shí)驗(yàn)結(jié)果表3所示。

表3 維度分別為10和20的實(shí)驗(yàn)結(jié)果

實(shí)驗(yàn)表明,本文的TMS-CMF算法與其四個(gè)算法相比較,在RMSE值和MAE值上都有一定的提升,說明在社交信息的基礎(chǔ)上融合社交行為可以進(jìn)一步提升推薦算法的預(yù)測(cè)精度。

5.4. 3 不同比例訓(xùn)練集度的實(shí)驗(yàn)分析

為測(cè)試不同比例訓(xùn)練集下的算法效果,將訓(xùn)練集比例設(shè)置為20%到80%,圖2給出了在k=10的時(shí)候的實(shí)驗(yàn)結(jié)果。

圖2 不同評(píng)分稀疏度對(duì)比

圖2可知,測(cè)試集中TMS-CMF的RMSE誤差明顯小于其算法,尤其是在矩陣非常稀疏的情況下,實(shí)驗(yàn)表明TMS-CMF算法能夠通過社交行為判斷獲取不錯(cuò)的推薦準(zhǔn)確度,明顯優(yōu)于其它算法。

5.4. 4 Top-K推薦實(shí)驗(yàn)分析

實(shí)驗(yàn)參數(shù)設(shè)置不變的情況下,在20%測(cè)試數(shù)據(jù)集上進(jìn)行Top-K推薦能力測(cè)試,圖3是不同推薦列表維度K的Precision@K的指標(biāo)變化。

圖3 Top-K推薦能力比較

由圖3可知, TMS-CMF算法在Top-K的推薦準(zhǔn)確度上有明顯優(yōu)勢(shì)。

通過以上三個(gè)實(shí)驗(yàn)可知,結(jié)合社交行為的TMS-CMF算法在推薦精度和Top-K推薦能力方面比其四個(gè)算法由一定優(yōu)勢(shì),其中SocialMF和ContextMF均通過社交關(guān)系和評(píng)分矩陣進(jìn)行計(jì)算,實(shí)驗(yàn)證明社交關(guān)系能夠有效提升推薦效果,而TrustMF對(duì)考慮了隱式的信任關(guān)系,對(duì)算法的稀疏性與推薦效果均有較好的改善；本算法對(duì)社交關(guān)系特征進(jìn)行更深入挖掘,并對(duì)信任矩陣進(jìn)行多維度糾正,進(jìn)一步提升了推薦的效果

6 結(jié)束語

本文提出了一種結(jié)合社交行為與項(xiàng)目關(guān)注度的聯(lián)合矩陣分解社會(huì)化推薦算法,通過矩陣分解模型對(duì)信任數(shù)據(jù)進(jìn)行分解計(jì)算特征模型,在此基礎(chǔ)上,結(jié)合用戶社交行為,綜合顯示信任度與隱式信任度,構(gòu)建用戶信任矩陣；通過對(duì)項(xiàng)目關(guān)注度的計(jì)算,得到基于信任機(jī)制和社交行為的聯(lián)合矩陣分解社會(huì)化推薦模型。實(shí)驗(yàn)結(jié)果表明,本文算法在推薦精度、Top-K推薦能力等明顯優(yōu)于其算法,在后續(xù)的工作中,將繼續(xù)研究如何把標(biāo)簽、地理位置等情景信息融合本文模型,以期進(jìn)一步提高推薦算法準(zhǔn)確度。