一種融合信息網(wǎng)絡(luò)結(jié)構(gòu)的數(shù)據(jù)增強(qiáng)行為預(yù)測算法

傅晨波，夏鎰楠，岳昕晨，俞山青，閔 勇

1(浙江工業(yè)大學(xué) 信息工程學(xué)院，杭州 310000) 2(浙江工業(yè)大學(xué) 網(wǎng)絡(luò)空間安全研究院，杭州 310000)

1 引 言

人類的移動行為預(yù)測一直是經(jīng)濟(jì)、社會領(lǐng)域的關(guān)注熱點(diǎn)，從預(yù)測病毒傳播、個(gè)性化推薦到城市規(guī)劃等眾多應(yīng)用領(lǐng)域都依賴于人們預(yù)測移動行為的能力[1-3].通過預(yù)測人們未來的移動行為，政府可以設(shè)計(jì)更好的交通規(guī)劃來緩解交通堵塞的壓力；美團(tuán)，Yelp等商業(yè)平臺也可以通過預(yù)測用戶的移動行為為用戶提供優(yōu)質(zhì)服務(wù)，如推薦餐館等.隨著近些年這類基于用戶移動行為數(shù)據(jù)應(yīng)用的增長，了解并研究用戶的移動模式已成為一種迫切需求.

早期對于人類移動數(shù)據(jù)建模的研究主要從單一信息源的角度出發(fā)，例如基于矩陣分解的預(yù)測算法(Matrix Factorization，MF)[4]和基于馬爾科夫鏈的預(yù)測算法(Markov Chains，MC)[5]，這些算法主要通過對人群的總體偏好和用戶的行為轉(zhuǎn)移特征對人類的移動行為進(jìn)行預(yù)測.隨著人們在互聯(lián)網(wǎng)上存留信息的多樣化，如用戶行為歷史和評論信息等，許多工作開始利用額外的用戶相關(guān)信息來提高模型的預(yù)測性能，特別是當(dāng)用戶數(shù)據(jù)包含了用戶的社交關(guān)系時(shí)[6-8].例如，Yang等人[9]設(shè)計(jì)了一種同時(shí)對用戶移動數(shù)據(jù)以及社交關(guān)系進(jìn)行嵌入的方法，在社交關(guān)系嵌入的基礎(chǔ)上加入用戶移動行為映射得到新的向量嵌入，結(jié)果顯示該算法無論在用戶朋友預(yù)測還是位置預(yù)測任務(wù)上都獲得了較好的表現(xiàn).Lian等人[10]提出了一種名為Collaborative Exploration and Periodically Returning(CEPR) 的模型，該方法通過學(xué)習(xí)用戶社交網(wǎng)絡(luò)和地理因素的特征在位置預(yù)測任務(wù)上獲得了較好的效果.這些研究結(jié)果都說明了在使用多源數(shù)據(jù)后預(yù)測效果能夠得到進(jìn)一步提升.

除了添加額外用戶信息外，隨著網(wǎng)絡(luò)科學(xué)理論技術(shù)[11]的逐漸成熟，研究者們開始將網(wǎng)絡(luò)圖分析的方法應(yīng)用到序列數(shù)據(jù)的相關(guān)研究[12]中.相比較于直接學(xué)習(xí)用戶序列信息的模型，將用戶行為序列轉(zhuǎn)為網(wǎng)絡(luò)結(jié)構(gòu)化數(shù)據(jù)能更直觀地展現(xiàn)序列中的隱藏信息.Lacasa等人[13]提出了一種可視圖構(gòu)建網(wǎng)絡(luò)(Visibility Graph，VG) 的方法，將序列數(shù)據(jù)轉(zhuǎn)換為網(wǎng)絡(luò)圖數(shù)據(jù)，并利用所構(gòu)建的圖的拓?fù)涮卣鱽肀碚髟夹蛄械奶卣?之后，Yan等人[14]利用VG方法構(gòu)建流量網(wǎng)絡(luò)并提取網(wǎng)絡(luò)特征用以區(qū)分流量狀態(tài).同時(shí)，Gao等人[15]也提出了多尺度有限穿透水平可見性圖，并證明了該方法是一種從網(wǎng)絡(luò)角度分析非線性時(shí)間序列的有效方法.

將序列信息構(gòu)建成網(wǎng)絡(luò)的方式除了能更好的建模用戶自身的行為特性外，還能找出信息傳遞過程中發(fā)揮重要作用的潛在因素.這種通過對轉(zhuǎn)換后的網(wǎng)絡(luò)進(jìn)行分析挖掘的研究在信息論的基礎(chǔ)理論[16]，音樂理論[17]，社會和信息網(wǎng)絡(luò)[18]等工作中均有所涉及.最近Lynn等人[19]研究發(fā)現(xiàn)，序列數(shù)據(jù)轉(zhuǎn)成的信息網(wǎng)絡(luò)模塊度越高，人們就越容易接收該信息.這個(gè)結(jié)果意味著用戶的行為一方面取決于自身的興趣愛好，另一方面也與接收到的好友信息有關(guān)，例如用戶在網(wǎng)站上瀏覽好友上傳信息的過程就可視為用戶在接收好友對其的影響.好友的信息網(wǎng)絡(luò)模塊度越高，用戶對其印象就越深，從而越有可能做出和該好友類似的行為，比如去該好友去過餐館等.

此外，雖然目前對用戶的行為預(yù)測提出了很多方法，但是數(shù)據(jù)稀疏性問題一直未能得到改善.與主動采樣的交通數(shù)據(jù)集不同，從大多數(shù)網(wǎng)站上獲得的用戶移動數(shù)據(jù)是非常稀疏的[20].例如在Yelp數(shù)據(jù)集中，用戶會出于習(xí)慣或?qū)€(gè)人隱私的考慮而只存留少量的在線數(shù)據(jù)，如多次訪問餐館卻只寫一次評論.對移動預(yù)測模型來說，在這種稀疏數(shù)據(jù)集上，模型很難捕獲到用戶的有效特征.從而在一些優(yōu)秀的預(yù)測模型上也只能得到一個(gè)較低的預(yù)測精度.

為了緩解數(shù)據(jù)稀疏問題，本文結(jié)合上述工作，提出了一種融合信息網(wǎng)絡(luò)結(jié)構(gòu)的數(shù)據(jù)增強(qiáng)行為預(yù)測算法.針對用戶當(dāng)前的某一個(gè)行為，我們通過用戶好友的行為信息網(wǎng)絡(luò)來度量用戶接收該好友信息的程度，并將好友的行為數(shù)據(jù)嵌入到用戶數(shù)據(jù)中，從而實(shí)現(xiàn)對用戶進(jìn)行數(shù)據(jù)增強(qiáng).據(jù)我們所知，目前還未有研究從用戶行為網(wǎng)絡(luò)傳遞效率的角度出發(fā)來對用戶的行為進(jìn)行預(yù)測.實(shí)驗(yàn)結(jié)果顯示，本文提出的方法在Yelp數(shù)據(jù)集上可以使算法性能得到極大的提升，從而為解決稀疏數(shù)據(jù)集上行為預(yù)測性能低的問題提供了新的可行方法.

2 RNN預(yù)測模型

Recurrent Neural Network(RNN)[21]是一類具有循環(huán)結(jié)構(gòu)和內(nèi)部記憶單元的神經(jīng)網(wǎng)絡(luò)模型，它可以有效捕獲序列信息特征，在推薦系統(tǒng)、移動預(yù)測等諸多領(lǐng)域都取得了成功[22-26].本小節(jié)將介紹 RNN 模型及其變種的工作原理.

2.1 模型描述

RNN模型種類繁多，其中應(yīng)用較為廣泛的是Long Short-Term Memory(LSTM)[27]和 Gated Recurrent Unit(GRU)[28].LSTM 由一個(gè)記憶單元和3個(gè)控制門組成，這些組件可以用來保持和更新循環(huán)單元的狀態(tài).根據(jù)當(dāng)前輸入和前一個(gè)循環(huán)單元的狀態(tài)，LSTM 首先使用輸入門，遺忘門以及候選記憶單元來更新記憶單元.然后，LSTM 根據(jù)記憶單元以及輸出門來得到當(dāng)前單元的狀態(tài).GRU 是 LSTM 的一個(gè)流行變種，它將遺忘門和輸入門用一個(gè)重置門來替代.GRU 的更新公式如下：

ft=σ(Wfxxt+Wfhht-1+bf)

(1)

rt=σ(Wrxxt+Wrhht-1+br)

(2)

ct=tanh(Wcxxt+rt⊙(Wchht-1)+bc)

(3)

ht=(1-ft)⊙ct+ft⊙ht-1

(4)

其中xt是時(shí)刻t時(shí)的輸入，ht-1是 GRU 單元前一次的輸出，b是不同部分中的偏執(zhí)向量，⊙ 元素按位乘法，ft是更新權(quán)重，rt是重置門，ct是候選狀態(tài)，ht是輸出結(jié)果.根據(jù) Chung等人[29]的描述，GRU 在多分類任務(wù)中使用較少的計(jì)算量達(dá)到了和 LSTM 相似的性能.

2.2 預(yù)測性能指標(biāo)

在本實(shí)驗(yàn)中，使用了 3 個(gè)公認(rèn)的評估指標(biāo)來評估模型的預(yù)測性能：MeanAccuracy@N，MeanRecall@N和MeanF1@N.這些指標(biāo)被廣泛應(yīng)用于評估模型的預(yù)測性能[30-32].假設(shè)測試集中的用戶行為集合為G，則預(yù)測性能指標(biāo)計(jì)算公式如下：

1)MeanAccuracy@N： 表示測試集中被預(yù)測正確的地點(diǎn)所占總地點(diǎn)數(shù)的比例.定義為公式(5)：

(5)

其中isCorrect(g，Top@N) 函數(shù)用來判斷用戶訪問的位置g是否包含在Top@N預(yù)測列表里面，如果是，那么返回 1，否則返回 0.

2)MeanRecall@N： 表示用戶數(shù)據(jù)中預(yù)測正確的活動占用戶總活動的比例.記Gi為用戶i的行為，那么MeanRecall@N可以表示為公式(6)：

(6)

3)MeanF1@N： 是預(yù)測性能的綜合度量.通過計(jì)算MeanPrecision@N[公式(7)]，MeanF1@N可以表示為公式(8)：

(7)

(8)

一般來說，預(yù)測精度越高，代表著模型的預(yù)測性能越好.

3 融合信息網(wǎng)絡(luò)結(jié)構(gòu)的數(shù)據(jù)增強(qiáng)算法

現(xiàn)實(shí)生活中，用戶出于習(xí)慣或隱私考慮可能不會向平臺提供所有行為記錄，這可能會使數(shù)據(jù)集更加的稀疏，同時(shí)讓基于RNN 的模型學(xué)習(xí)到錯(cuò)誤的潛在表達(dá)而導(dǎo)致性能下降.為了緩解該問題，本文提出了一種融合信息網(wǎng)絡(luò)結(jié)構(gòu)的數(shù)據(jù)增強(qiáng)行為預(yù)測算法.該算法從用戶行為信息網(wǎng)絡(luò)結(jié)構(gòu)的角度出發(fā)，挑選出用戶朋友中信息傳遞效率高的朋友，并從中抽取有用信息，以增強(qiáng)用戶的行為數(shù)據(jù).我們的算法包含3個(gè)步驟，如圖1所示.

圖1 融合行為信息網(wǎng)絡(luò)結(jié)構(gòu)的數(shù)據(jù)增強(qiáng)行為預(yù)測算法Fig.1 Data enhanced behavior prediction algorithm based on information network structure

3.1 問題定義

3.2 用戶行為信息網(wǎng)絡(luò)的構(gòu)建

用戶行為信息網(wǎng)絡(luò)可以挖掘信息傳遞過程中的潛在因素.本文根據(jù)水平可視化圖 HVG 方法[13，34]來構(gòu)建用戶的行為信息網(wǎng)絡(luò).這樣我們不僅考慮了用戶行為的潛在時(shí)間序列特征，還能將用戶的偏好編碼在網(wǎng)絡(luò)連邊權(quán)重中.例如，如果一個(gè)用戶的活動事件分布是隨機(jī)分布的，則構(gòu)建出來的行為信息網(wǎng)絡(luò)為隨機(jī)網(wǎng)絡(luò)，同樣的，如果用戶的活動事件服從冪律分布，那么所構(gòu)建的網(wǎng)絡(luò)為無標(biāo)度網(wǎng)絡(luò).

本文采用的可視性規(guī)則如圖2所示，具體地，圖2(a)展示的是移動行為序列及其評分，其中{vt1，vt2，…，vtq}代表用戶就餐行為的活動序列，{Rt1，Rt2，…，Rtq}代表用戶在對應(yīng)時(shí)刻給的評分值，直方圖的高度代表該用戶在Yelp上對該餐館所給出的評分，范圍是1～5.當(dāng)條形柱可以相互“看見”時(shí)，它們就建立了一條連邊.舉例來說，如果在 [ta，tb] 內(nèi)的所有點(diǎn)vti滿足Rta>Rti&Rtb>Rti(ta

圖2 用戶行為信息網(wǎng)絡(luò)的構(gòu)建Fig.2 Construction of user behavior information network

3.3 網(wǎng)絡(luò)傳遞效率的計(jì)算

最近的研究[19]發(fā)現(xiàn)，人類接收信息的方式是離散的，比如閱讀一段文本，或是聽一首歌.這些序列信息可以抽象為節(jié)點(diǎn)和邊組成的網(wǎng)絡(luò)，從而編碼了用戶信息的結(jié)構(gòu).該行為信息網(wǎng)絡(luò)決定了人們彼此之間的交互方式.此外，人們感知信息的效率主要依賴于行為信息網(wǎng)絡(luò)的拓?fù)浣Y(jié)構(gòu)，而非序列所產(chǎn)生的信息.模塊化程度高的信息代表該信息傳播效率高，從而更容易被人們所接收.

在現(xiàn)實(shí)世界中，用戶的移動行為一方面取決于用戶自己的興趣愛好，另一方面則會受到其朋友的影響[40].以Yelp網(wǎng)站的用戶為例，人們可能會在Yelp平臺上瀏覽好友訪問餐館的數(shù)據(jù)，該過程可以被視作是接收信息的過程.如果好友的歷史餐館訪問信息在用戶行為信息網(wǎng)絡(luò)中以高模塊度的結(jié)構(gòu)呈現(xiàn)，那么該用戶會更容易接受此好友的信息，這也意味著該用戶更容易受到此好友的影響.為此，本文在上一小節(jié)構(gòu)建用戶行為信息網(wǎng)絡(luò)的基礎(chǔ)上，進(jìn)一步計(jì)算了用戶好友的模塊度，用以衡量用戶對每個(gè)好友的信息接收程度.網(wǎng)絡(luò)模塊度的計(jì)算方式見公式(9)：

(9)

其中E表示了用戶行為信息網(wǎng)絡(luò)中邊的數(shù)量.Aij表示節(jié)點(diǎn)i到節(jié)點(diǎn)j的連邊權(quán)重.ki表示節(jié)點(diǎn)i的度值，kj表示節(jié)點(diǎn)j的度值，ci代表節(jié)點(diǎn)i所屬的社團(tuán).1[ci=cj]代表了指示函數(shù)，當(dāng)ci=cj時(shí)，返回為1，否則為0.

3.4 用戶數(shù)據(jù)增強(qiáng)算法

用戶的社交關(guān)系中包含了大量的用戶個(gè)人信息，甚至在社交平臺上，使用少量朋友在社交網(wǎng)絡(luò)上發(fā)表的內(nèi)容就可以預(yù)測用戶未來發(fā)表的言論[41].然而如何高效地提取社交朋友數(shù)據(jù)一直是個(gè)難題.為此，本文設(shè)計(jì)了一種數(shù)據(jù)增強(qiáng)算法，利用用戶的社交關(guān)系，以用戶朋友的信息傳遞效率為采樣概率，對用戶朋友數(shù)據(jù)進(jìn)行采樣，用以增強(qiáng)用戶數(shù)據(jù)，從而使得模型的預(yù)測性能進(jìn)一步提升.具體地，假設(shè)需要填充用戶在時(shí)間段 [t1，t2] 內(nèi)的行為數(shù)據(jù)，我們選擇用戶朋友的模塊度P作為選擇概率選取出一個(gè)朋友，然后將該朋友在 [t1，t2] 內(nèi)的行為數(shù)據(jù)填充到用戶數(shù)據(jù)中.為了使數(shù)據(jù)量更為充足，在處理時(shí)首先對用戶的朋友進(jìn)行了預(yù)篩選，確保選取的朋友在 [t1，t2] 內(nèi)是存在行為數(shù)據(jù)的.下面的算法偽代碼選擇了uj作為數(shù)據(jù)采集對象，填充目標(biāo)用戶u1在 [t1，t2] 內(nèi)的缺失行為數(shù)據(jù).

算法1.數(shù)據(jù)采集算法

u1的朋友集合F

1.初始化概率累加值L←0

2.foruj∈Fdo：

4.F1.add(uj)

5.L←L+Puj

6. end

7.end

8.生成隨機(jī)數(shù)W∈(0，L]

9.初始化累加值Q←0

10.foruj∈F1do

11.Q←Q+Puj

12. ifW≤Qdo

14. end

15.end

4 實(shí)驗(yàn)和結(jié)果

4.1 數(shù)據(jù)集描述

本文將公開數(shù)據(jù)集Yelp作為實(shí)驗(yàn)對象.Yelp數(shù)據(jù)集主要包含兩部分?jǐn)?shù)據(jù)：餐館信息和用戶信息.其中餐廳信息包括餐廳所在的經(jīng)緯度、所屬城市、營業(yè)時(shí)間、總體評分等信息.用戶信息包括用戶的歷史行為序列、興趣愛好、社交關(guān)系等內(nèi)容.研究用戶移動行為需要知道用戶的位置信息，Yelp數(shù)據(jù)集有兩部分?jǐn)?shù)據(jù)包含位置信息，即簽到信息(check-ins) 和評論信息(reviews).由于簽到行為是最近幾年才開始流行的，所以信息的總體數(shù)據(jù)量偏少.幸運(yùn)的是，用戶的評論信息中也包含了地理信息，因此本文選擇使用評論信息來代替簽到信息.考慮到用戶就餐行為較少發(fā)生在城市間，本文只關(guān)注城市范圍內(nèi)的用戶行為，在實(shí)驗(yàn)中，選取了用戶數(shù)量最多的兩個(gè)城市(Las Vegas 和 Toronto)，這兩個(gè)城市的數(shù)據(jù)總結(jié)如表1所示，兩個(gè)城市的用戶評論數(shù)分布如圖3所示，其中圖3(a)顯示了Las Vegas的評論數(shù)分布，圖3(b)顯示了Toronto的評論數(shù)分布.從圖中我們可以發(fā)現(xiàn)這兩個(gè)城市的用戶評論數(shù)均呈現(xiàn)冪律分布.這意味著在Yelp數(shù)據(jù)集上，用戶的就餐評論行為是非常稀疏的，大部分用戶的評論數(shù)量少于10條.

圖3 用戶的評論數(shù)分布Fig.3 Distribution of users′ reviews

表1 數(shù)據(jù)集總結(jié)Table 1 Dataset summary

此外，Yelp 原始數(shù)據(jù)集的時(shí)間跨度有 10 年之久，遠(yuǎn)遠(yuǎn)大于部分餐館的存在歷史.因此為了確保數(shù)據(jù)的有效性，本文只取了數(shù)據(jù)量最大的兩年(2016年1月～2018年1月)數(shù)據(jù)來進(jìn)行實(shí)驗(yàn).過少的用戶數(shù)據(jù)量無論是在訓(xùn)練還是在測試中都會對模型的結(jié)果造成較大的影響.因此本文只考慮那些相對活躍的用戶(評論記錄大于15條，朋友數(shù)量大于0個(gè)).值得注意的是，由于數(shù)據(jù)的異質(zhì)特性，大部分用戶在篩選后的行為分布還是稀疏的.篩選之后，Las Vegas數(shù)據(jù)集包含來自7，031家餐館上的1，592個(gè)用戶的62，976條評論數(shù)據(jù)以及相應(yīng)的用戶社交網(wǎng)絡(luò).Toronto數(shù)據(jù)集包含來自4，152家餐館上的881個(gè)用戶的34，122條評論數(shù)據(jù)以及相應(yīng)的用戶社交網(wǎng)絡(luò).

4.2 實(shí)驗(yàn)設(shè)置

為了顯示本文提出方法的通用性能，將采樣得到的數(shù)據(jù)集與原始數(shù)據(jù)集在基準(zhǔn)預(yù)測模型上進(jìn)行對比實(shí)驗(yàn).所有基準(zhǔn)模型的參數(shù)均和原始論文中的一致.此外，數(shù)據(jù)集上每個(gè)用戶的前80%的行為歷史被用作訓(xùn)練，剩余20%的數(shù)據(jù)被用作測試.基準(zhǔn)模型如下：

1)RNN[21]：RNN是一種高效的序列預(yù)測方法，已經(jīng)被廣泛地應(yīng)用于詞嵌入和廣告點(diǎn)擊預(yù)測任務(wù).

2)GRU[28]：GRU是RNN模型的一種變種模型，它配備了兩個(gè)門用于控制信息流的流動.

3)LSTM[27]：LSTM是RNN模型的另一種變種模型，它在處理序列數(shù)據(jù)方面表現(xiàn)出了強(qiáng)大的能力，能夠?qū)W習(xí)記憶長期的特征.

4)DEEPMOVE[20]：該方法利用注意力機(jī)制從用戶的行為歷史中學(xué)習(xí)用戶的長期偏好，然后使用RNN來學(xué)習(xí)用戶的短期偏好.

4.3 實(shí)驗(yàn)結(jié)果與分析

表2和表3分別顯示了我們提出的采樣算法和4個(gè)基準(zhǔn)模型方法結(jié)合后在Las Vegas和Toronto數(shù)據(jù)集上的性能.從表中可以明顯看到在對數(shù)據(jù)集進(jìn)行數(shù)據(jù)增強(qiáng)之后，所有模型的預(yù)測性能都得到了大幅的提升.特別地，在Las Vegas數(shù)據(jù)集上，GRU模型的預(yù)測性能提升了約43倍.這意味著僅僅將原先有的數(shù)據(jù)集進(jìn)行數(shù)據(jù)增強(qiáng)，即可使一些表現(xiàn)不好的模型重新得到應(yīng)用.這有助于提升大部分模型的兼容性，降低數(shù)據(jù)采集的成本.此外，還觀察到Toronto數(shù)據(jù)集的預(yù)測效果不如Las Vegas數(shù)據(jù)集，這是由于Toronto的有效用戶數(shù)量僅為Las Vegas的一半，在進(jìn)行用戶數(shù)據(jù)采集的時(shí)候，獲取的朋友信息相對較少，從而導(dǎo)致預(yù)測性能的下降.

表2 Las Vegas數(shù)據(jù)集上的預(yù)測結(jié)果Table 2 Prediction results on the Las Vegas city dataset

表3 Toronto數(shù)據(jù)集上的預(yù)測結(jié)果Table 3 Prediction results on the Toronto city dataset

4.4 參數(shù)敏感性分析

圖4顯示了在Las Vegas和Toronto數(shù)據(jù)集上模型性能與采樣次數(shù)的關(guān)系，這可以為提供有關(guān)參數(shù)選擇的啟迪.從圖4(a)中可以發(fā)現(xiàn)模型的預(yù)測性能隨著采樣次數(shù)的增加而逐漸呈現(xiàn)下降趨勢，這在圖4(b)中也有所體現(xiàn).這說明采樣過多的朋友數(shù)據(jù)會引入太多的噪聲，從而導(dǎo)致深度模型無法有效的學(xué)習(xí)到用戶本身的特征，最終影響模型的預(yù)測性能.此外，過多的采樣在增加數(shù)據(jù)量的同時(shí)會導(dǎo)致計(jì)算量成倍的增加，因此需要在數(shù)據(jù)量和計(jì)算效率上做一定的權(quán)衡.通常來說，采樣一次即可得到近似最優(yōu)的采樣效果.

圖4 采樣次數(shù)對預(yù)測性能的影響Fig.4 Influence of sampling number on prediction performance

5 結(jié) 語

本文提出了一種融合信息網(wǎng)絡(luò)結(jié)構(gòu)的數(shù)據(jù)增強(qiáng)行為預(yù)測算法，該方法包括構(gòu)建用戶行為信息網(wǎng)絡(luò)，度量網(wǎng)絡(luò)信息傳遞效率以及用戶數(shù)據(jù)增強(qiáng)3個(gè)步驟.實(shí)驗(yàn)結(jié)果表明，本文提出的方法能夠大幅提升基于RNN的序列預(yù)測模型的性能，解決了這些模型因數(shù)據(jù)稀疏而導(dǎo)致性能下降的問題.除此之外，本文提出的方法參數(shù)少，能快速的應(yīng)用到各類預(yù)測模型中去，顯示出了不錯(cuò)的擴(kuò)展性與兼容性.當(dāng)前研究中各類基于RNN的預(yù)測方法層出不窮，我們的方法能讓這些RNN預(yù)測模型應(yīng)用到更小更稀疏的數(shù)據(jù)集中，使其能夠在改動極小的情況下，提升預(yù)測算法的性能.在未來的工作中，將在本文提出方法的基礎(chǔ)上研究如何將時(shí)間因素以及空間因素融入到采樣算法中，使得用戶數(shù)據(jù)的增強(qiáng)更為充分.