• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    基于鄰域選擇策略的圖卷積網(wǎng)絡模型

    2019-01-06 07:27陳可佳楊澤宇
    計算機應用 2019年12期

    陳可佳 楊澤宇

    摘 要:鄰域的組成對于基于空間域的圖卷積網(wǎng)絡(GCN)模型有至關(guān)重要的作用。針對模型中節(jié)點鄰域排序未考慮結(jié)構(gòu)影響力的問題,提出了一種新的鄰域選擇策略,從而得到改進的GCN模型。首先,為每個節(jié)點收集結(jié)構(gòu)重要的鄰域并進行層級選擇得到核心鄰域;然后,將節(jié)點及其核心鄰域的特征組成有序的矩陣形式;最后,送入深度卷積神經(jīng)網(wǎng)絡(CNN)進行半監(jiān)督學習。節(jié)點分類任務的實驗結(jié)果表明,該模型在Cora、Citeseer和Pubmed引文網(wǎng)絡數(shù)據(jù)集中的節(jié)點分類準確性均優(yōu)于基于經(jīng)典圖嵌入的節(jié)點分類模型以及四種先進的GCN模型。作為一種基于空間域的GCN,該模型能有效運用于大規(guī)模網(wǎng)絡的學習任務。

    關(guān)鍵詞:圖卷積網(wǎng)絡;鄰域選擇策略;圖嵌入;節(jié)點分類;半監(jiān)督學習

    中圖分類號: TP311文獻標志碼:A

    文章編號:1001-9081(2019)12-3415-05

    DOI:10.11772/j.issn.1001-9081.2019071281

    Graph convolutional network model using neighborhood selection strategy

    CHEN Kejia1,2, YANG Zeyu, LU Hao1,2

    1. School of Computer Science, Nanjing University of Posts and Telecommunications, Nanjing Jiangsu 210046, China;

    2. Jiangsu Key Laboratory of Big Data Security and Intelligent Processing, Nanjing Jiangsu 210046, China

    Abstract: The composition of neighborhoods is crucial for the spatial domain-based Graph Convolutional Network (GCN) model. To solve the problem that the structural influence is not considered in the neighborhood ordering of nodes in the model, a novel neighborhood selection strategy was proposed to obtain an improved GCN model. Firstly, the structurally important neighborhoods were collected for each node and the core neighborhoods were selected hierarchically. Secondly, the features of the nodes and their core neighborhoods were organized into a matrix. Finally, the matrix was sent to deep Convolutional Neural Network (CNN) for semi-supervised learning. The experimental results on Cora, Citeseer and Pubmed citation network datasets show that, the proposed model has a better accuracy in node classification tasks than the model based on classical graph embedding and four state-of-the-art GCN models. As a spatial domain-based GCN, the proposed model can be effectively applied to the learning tasks of large-scale networks.

    Key words: Graph Convolutional Network (GCN); neighborhood selection strategy; graph embedding; node classification; semi-supervised learning

    0 引言

    圖或網(wǎng)絡廣泛存在于日常生活中,是抽象現(xiàn)實世界中對象與對象之間關(guān)系的一種重要數(shù)據(jù)結(jié)構(gòu)。如作者之間的引用關(guān)系、個人之間的社交關(guān)系、城市之間的物流和交通關(guān)系、蛋白質(zhì)之間的交互關(guān)系等數(shù)據(jù)都可以通過圖或網(wǎng)絡抽象地表達。對這類數(shù)據(jù)的分析和建模能夠挖掘豐富的潛在信息,可廣泛應用于節(jié)點分類、社區(qū)發(fā)現(xiàn)、鏈接預測、推薦系統(tǒng)等任務。

    傳統(tǒng)的網(wǎng)絡表示(如鄰接矩陣)存在結(jié)構(gòu)稀疏和維度過高的問題,難以有效地學習。而手動抽取網(wǎng)絡的結(jié)構(gòu)特征(如共同鄰居數(shù))需要豐富的領(lǐng)域知識,根據(jù)網(wǎng)絡特點人工選擇有效的特征,因此不具有普適性。直覺上來看,在網(wǎng)絡中拓撲結(jié)構(gòu)相似的節(jié)點也應該具有相近的向量表示[1]。因此,研究者開始學習圖或網(wǎng)絡的內(nèi)在表示形式,自動融合網(wǎng)絡的結(jié)構(gòu)特征和節(jié)點的內(nèi)在特征。之后,這些學得的特征能夠更好地用于各類學習任務。由于網(wǎng)絡表示學習研究具有重要的學術(shù)價值和應用背景,近年來吸引了大量研究者的關(guān)注,出現(xiàn)了諸如DeepWalk[2]、node2vec[3]、大規(guī)模信息網(wǎng)絡嵌入(Large-scale Information Network Embedding, LINE) [4]等一系列經(jīng)典而有效的算法。

    最近,研究者嘗試將卷積神經(jīng)網(wǎng)絡(Convolutional Neural Network, CNN)用于圖數(shù)據(jù)的處理,進行了圖卷積網(wǎng)絡(Graph Convolutional Network, GCN)機器學習范式的研究,并已取得階段性的成果。CNN具有自動抽取高階語義和自動編碼降維的優(yōu)勢,在圖像分類[5]、目標檢測[6]等圖像處理任務中表現(xiàn)突出。圖像數(shù)據(jù)具有規(guī)則的柵格結(jié)構(gòu)(圖1(a)),CNN通過固定的卷積核掃描整幅圖像,獲得卷積核覆蓋范圍內(nèi)的局部信息,通過訓練獲得卷積核參數(shù),實現(xiàn)特征的自動抽取。然而,圖數(shù)據(jù)一般不具備規(guī)則的空間結(jié)構(gòu),每個節(jié)點的連接數(shù)量不盡相同(圖1(b)),因此CNN的平移不變性在圖上不再適用,需要為待編碼節(jié)點選擇固定數(shù)量且有序的近鄰節(jié)點,以滿足傳統(tǒng)卷積的輸入要求。

    已有的GCN方法大致可以分為兩類:第一類是基于譜域的卷積,也是GCN的理論基礎(chǔ)。經(jīng)典的工作如:Bruna等[7]通過傅里葉變換將圖拉普拉斯矩陣進行特征分解,之后再進行圖卷積,但該方法的復雜度較高;Defferrard等[8]使用切比雪夫多項式逼近譜圖濾波器,降低了算法復雜度;Kipf等[9]提出譜圖濾波器的一階線形逼近,進一步簡化了計算?;谧V域的卷積方法受譜圖理論限制,因此難以有效擴展至大規(guī)模網(wǎng)絡中。第二類是基于空間域的卷積,與基于譜域的卷積相比具有較好的擴展性。經(jīng)典的方法如:Niepert等[10]提出的方法PATCHY-SAN(Patch Select-Assemble-Normalize),在預處理時對所有節(jié)點的重要程度和相似程度進行編號,但編號固定導致后續(xù)難以通過堆疊卷積層獲取更多的信息;Velickovic等[11]提出圖關(guān)注網(wǎng)絡(Graph ATtention network, GAT),在卷積的過程中引入了注意機制以學習不同近鄰節(jié)點的權(quán)重,得到改進的GCN;還有Gao等[12]提出的大規(guī)模可學習圖卷積神經(jīng)網(wǎng)絡(large-scale Learnable GCN, LGCN),通過對鄰居節(jié)點的單個特征值大小進行排序以實現(xiàn)數(shù)據(jù)預處理,訓練時采用傳統(tǒng)的卷積。

    在基于空間域的GCN模型中,節(jié)點的鄰域組成較為簡單,通常由一階鄰居節(jié)點組成,而忽視了二階乃至高階鄰居節(jié)點;此外,鄰居節(jié)點的排序也僅僅根據(jù)節(jié)點的自身屬性,而沒有考慮到節(jié)點的結(jié)構(gòu)重要性。因此,為獲得找到更有效的鄰域序列,本文提出了一種基于鄰域選擇策略的GCN模型——CoN-GCN(Core Neighbors-GCN)。該模型主要工作在于提出了一種啟發(fā)式的鄰域選擇策略,為待編碼節(jié)點選擇重要的鄰域節(jié)點并分級采樣得到固定數(shù)量的核心鄰域節(jié)點。經(jīng)過初步編碼后,將節(jié)點及其鄰域的特征矩陣送入卷積層,和傳統(tǒng)GCN模型一樣進行半監(jiān)督的節(jié)點分類。通過為每個節(jié)點聚合其鄰域節(jié)點的特征,能夠?qū)W得該節(jié)點的有效嵌入表示。

    1 相關(guān)工作

    由于基于空間域的卷積更易擴展,最近得到研究者的密切關(guān)注,也出現(xiàn)了許多新的方法。

    一些方法著重于采樣策略的設(shè)計,例如:PATCHY-SAN方法[10]使用圖形標記方法(如Weisfeiler-Lehman核[13])為節(jié)點分配序號,在每個節(jié)點vi的k步鄰域Nk(i)中選擇固定數(shù)量的節(jié)點定義vi的“接收場”,然后采用標準的1-D CNN并進行歸一化處理。不過該方法依賴于圖形標記過程,并且節(jié)點排序策略較為簡單。PinSage方法[14]是在圖上進行隨機游走以改進鄰域采樣方法,在真正的超大規(guī)模網(wǎng)絡中具有良好的性能。在FastGCN方法[15]中,研究者不是對每個節(jié)點的鄰居進行采樣,而是將圖卷積操作視為積分過程,按照生成的積分函數(shù)對每個卷積層中的節(jié)點進行采樣。

    另一些方法設(shè)計如何聚合鄰居節(jié)點的特征,例如:圖采樣與聚合(Graph Sample and AGgrEgate, GraphSAGE)算法[16]提出了一種鄰居節(jié)點特征聚集方法,每個節(jié)點都采樣固定數(shù)量的鄰居,通過聚集鄰居節(jié)點的特征更新當前節(jié)點的特征。隨著模型層數(shù)的增加,每個節(jié)點可以獲取到距離更遠的節(jié)點信息。LGCN[12]使用了對鄰居節(jié)點特征值排序的方式進行聚合,首先將節(jié)點及其鄰域整合為一個矩陣,并按特征值的大小對每列元素進行排序,不過該方法改變了節(jié)點的原始特征,可解釋性較差。GAT方法[11]采用注意力機制學習相鄰節(jié)點的特征權(quán)重并聚合,每一個節(jié)點由局部過濾器得到所有的相鄰節(jié)點,并通過度量每個鄰居節(jié)點與中心節(jié)點之間特征向量的相關(guān)性來獲得不同的權(quán)重。

    此外,還有一些方法對卷積的過程進行設(shè)計,例如:跳躍知識網(wǎng)絡(Jumping Knowledge Networks, JK-Nets)[17]將所有中間層的信息跳至輸出層,使得模型有選擇性地學習全局和局部結(jié)構(gòu),解決了GCN模型隨層數(shù)加深而效果變差的問題。 雙圖卷積網(wǎng)絡(Dual GCN, DGCN)[18]基于全局一致性和局部一致性的概念,采用基于鄰域節(jié)點和基于鄰域擴散的雙圖卷積模式,通過引入無監(jiān)督時間損失函數(shù)將兩個網(wǎng)絡進行整合。

    2 本文模型CoN-GCN

    本文提出了一種基于空間域的GCN模型CoN-GCN,其偽代碼見算法1。該模型的重點在于如何設(shè)計新的采樣策略,以更好地聚合鄰域節(jié)點的特征。首先為待編碼節(jié)點選擇核心鄰域節(jié)點,隨后將待編碼節(jié)點及其核心鄰域節(jié)點的特征矩陣送入深度CNN中進行訓練,最終實現(xiàn)節(jié)點分類任務。其中,核心鄰域節(jié)點的選擇可分為兩步:第一步是根據(jù)結(jié)構(gòu)緊密度獲得每個待編碼節(jié)點的候選鄰域節(jié)點序列;第二步是從候選鄰域節(jié)點序列中為待編碼節(jié)點按級數(shù)從小到大選擇k個固定數(shù)量的核心鄰域節(jié)點。

    2.1 鄰域節(jié)點重要性排序

    假設(shè)圖中的每個節(jié)點v有M個描述特征,即每個節(jié)點可以表示為x∈R1×M,其中,x=〈x1,x2,…,xM〉。令v0表示待編碼的節(jié)點,xv0i表示v0的第i個特征(i=1,2,…,M)。為了獲得v0的核心鄰域節(jié)點,需要先對候選節(jié)點的重要性進行排序,得到v0的候選鄰域節(jié)點序列N(v0)。為將本文提出的算法應用范圍擴展到僅有連接關(guān)系而沒有具體特征值的數(shù)據(jù)集上,采用了結(jié)構(gòu)優(yōu)先原則,具體為:

    1)計算網(wǎng)絡中所有節(jié)點與中心節(jié)點之間的結(jié)構(gòu)度量作為關(guān)系緊密度,值越高則說明該節(jié)點對于中心節(jié)點越重要。其中,結(jié)構(gòu)度量可使用共同鄰居數(shù)[19]、Jaccard系數(shù)[20]、Adamic/Adar系數(shù)[21]等常用指標,相關(guān)計算式如下。

    其中Γ(v)表示節(jié)點v的1階鄰居節(jié)點集合。

    2)如果序列中出現(xiàn)結(jié)構(gòu)度量值相同的節(jié)點,表示從結(jié)構(gòu)上看這些候選節(jié)點對中心節(jié)點同等重要。為進一步區(qū)分它們的重要性,本文采用距離度量方法,即在節(jié)點的外部特征向量空間中,按候選節(jié)點與中心節(jié)點之間距離進一步判定候選節(jié)點的重要程度,距離越小候選節(jié)點越重要。式(4)表示歐氏距離度量:

    Dist(v0,vk)=(∑Mi=1(xvki-xv0i)1/2; vk∈N(v0)

    (4)

    考慮到節(jié)點特征的稀疏性問題,算法1先對v0進行降維(第1)行),第4)~5)行實現(xiàn)了鄰域節(jié)點重要性排序。第4)行是根據(jù)結(jié)構(gòu)重要性對候選節(jié)點排序。第5)行表示在結(jié)構(gòu)重要性一致的情況下,使用特征相似度對候選節(jié)點序列進一步調(diào)整。

    2.2 核心鄰域節(jié)點的選擇

    傳統(tǒng)CNN要求卷積對象的每次輸入格式固定,因此需要確定k個最核心的鄰域節(jié)點,組成C(v0)。在鄰域節(jié)點重要性排序后,可能出現(xiàn)高階鄰居節(jié)點排在低階鄰居節(jié)點之前的情況。此外,還可能存在節(jié)點的鄰居數(shù)量較少而無法獲得足夠核心鄰域節(jié)點的情況。因此,本文采用層級擴展策略:先對低階鄰居節(jié)點按重要性順序采樣,再逐步進入高階鄰居節(jié)點層采樣,直至C(v0)達到k為止。當遇到候選節(jié)點的結(jié)構(gòu)重要度為0而C(v0)還未達到k時,則由序列中的第一個節(jié)點補足。

    算法1中的第7)~11)行表示核心鄰域選擇過程。Select (·)表示從C(v0)中選出當前層的鄰居序列。

    2.3 1-D CNN生成節(jié)點嵌入

    經(jīng)過上述操作,本文獲得了維度固定且高度有序的矩陣結(jié)構(gòu)V0∈R(k+1)×M,隨后使用1-D卷積核進行特征抽取,將核心鄰域節(jié)點的信息向待編碼節(jié)點進行整合。多次卷積操作之后,v0節(jié)點編碼為x∈R1×m,即節(jié)點維度從M維變?yōu)閙維。

    算法1中的第12)行描述了通過1-D CNN得到節(jié)點v0的嵌入表示。STACK(·)表示將v0和C(v0)的特征向量按行進行拼接。

    圖2為CoN-GCN單層卷積過程示例,左側(cè)部分即為核心鄰域節(jié)點的采樣(k=4,M=4)。圖例中,結(jié)構(gòu)重要度通過Jaccard系數(shù)判定。當Jaccard系數(shù)相同,如圖中JC(v1)=JC(v2),根據(jù)式(4),v1比v2更接近v0,因此v1的特征向量排在v2前面。隨后,將中心節(jié)點v0的原始向量放在首行,按順序拼接核心鄰域節(jié)點的外部特征向量,構(gòu)造出由k+1個向量組成的矩陣結(jié)構(gòu)。圖2的右側(cè)部分表示使用兩層1-D CNN對其進行操作,兩層卷積核的數(shù)量分別為n和m。其中,1-D CNN也可采用其他CNN模型。

    2.4 深度CoN-GCN

    單層CoN-GCN中聚合的是經(jīng)過選擇的鄰域節(jié)點的信息,較為有限。為了獲得更好的特征,本文還提供了更深的CoN-GCN模型,如圖3所示,能夠逐步聚合更遠節(jié)點的信息。CoN-GCN的堆疊數(shù)量一般取決于任務的復雜性,如類的數(shù)量、圖中節(jié)點的數(shù)量等參數(shù)。為了提升CoN-GCN模型性能并促進訓練過程,本文在堆疊的過程中加入了前層信息。在整個模型的最后使用全連接層完成對全部節(jié)點信息的收集,并通過softmax函數(shù)得到節(jié)點分類結(jié)果。

    在算法1中,外層循環(huán)(第3)行)描述了這一過程。CAT(·)表示將特征向量按列進行拼接。

    3 實驗結(jié)果與分析

    本章比較了CoN-GCN與經(jīng)典的節(jié)點嵌入方法DeepWalk[2]以及四種近期提出的GCN方法[8-9,12,22]在節(jié)點分類任務上的準確性,并針對不同的結(jié)構(gòu)度量指標和不同的超參數(shù)k進行了性能對比實驗。

    3.1 數(shù)據(jù)集

    本文使用了Cora、Citeseer和Pubmed三個標準數(shù)據(jù)集,統(tǒng)計信息見表1。這三個數(shù)據(jù)集均為引用被引用網(wǎng)絡數(shù)據(jù)集,其中節(jié)點表示論文,邊表示引用關(guān)系。每個節(jié)點的特征為該論文的詞袋表示(bag of words)。為了便于比較,所有方法均采用了相同的實驗設(shè)置:對于每個類,20個節(jié)點用于訓練,500個節(jié)點用于驗證,1000個節(jié)點用于測試。

    實驗進行了直推學習(transductive learning)下的節(jié)點分類任務。直推學習是一種半監(jiān)督學習算法,在節(jié)點分類任務中,由于數(shù)據(jù)集里僅存在一部分有類別標簽的節(jié)點,該方法可以在訓練過程中使用其他節(jié)點(包括測試節(jié)點)的特征以及節(jié)點間的連接關(guān)系。

    3.2 實驗設(shè)置

    由于數(shù)據(jù)集中節(jié)點的特征維度較高,實驗使用了GCN算法[9]將特征降維至32維。在分類準確性的比較實驗中,本文在三種結(jié)構(gòu)度量指標(CN、JC、AA)下均進行了CoN-GCN方法的實驗,并將核心節(jié)點數(shù)k設(shè)置為8。在Cora、Citeseer和Pubmed中,CoN-GCN的層數(shù)分別為2、1和1。最后使用一個全連接層用于節(jié)點分類和預測。在全連接層之前,本文對特征進行拼接。為了防止過擬合,輸入層使用失活率為0.16的Dropout算法,卷積層使用L2正則化(λ=0.0005)。在訓練過程中,本文使用Adam優(yōu)化器對訓練速度進行優(yōu)化,學習率為0.1,當驗證集錯誤率出現(xiàn)持續(xù)上升時,則停止訓練。

    3.3 節(jié)點分類比較結(jié)果與分析

    表2給出了不同方法(DeepWalk[2]、Planetoid[22]、Chebyshev[8]、GCN[9]、LGCN[12]、CoN-GCNCN、CoN-GCNJC、CoN-GCNAA)在節(jié)點分類中運行10次得到的平均準確率。實驗結(jié)果表明,CoN-GCN模型在不同數(shù)據(jù)集的節(jié)點分類任務中的表現(xiàn)均優(yōu)于其他模型,驗證了本文鄰域采樣策略的有效性。在對比算法中,GCN等由于所使用的種子固定具有復現(xiàn)性,而LGCN等不具備復現(xiàn)性,同時為了觀察不同結(jié)構(gòu)度量對于鄰域選擇的影響,還比較了本文方法在三種配置下(CoN-GCNCN、CoN-GCNJC和CoN-GCNAA)的實驗結(jié)果,發(fā)現(xiàn)總體上CoN-GCNCN表現(xiàn)更好,這表明共同鄰居數(shù)依然是最有效的結(jié)構(gòu)相似性度量方法。Admic/Adar系數(shù)表現(xiàn)較差,可能的原因是該系數(shù)常用于度量社交網(wǎng)絡的節(jié)點結(jié)構(gòu)相似性,而不太適用于引用被引用網(wǎng)絡。

    3.4 超參數(shù)k的影響

    為了觀察不同超參數(shù)k對CoN-GCN的影響,本文對多個k值(k=4,6,8,10,12,14,16)分別進行了實驗,觀察CoN-GCN在三個數(shù)據(jù)集上的分類結(jié)果變化情況,結(jié)果如圖4所示。

    實驗結(jié)果表明,當k=8時,CoN-GCN模型在所有三個數(shù)據(jù)集中均具有良好的表現(xiàn)。經(jīng)過統(tǒng)計可知,Cora、Citeseer和Pubmed數(shù)據(jù)集的平均節(jié)點度分別為4、5和6。從實驗結(jié)果推測,k值通常可選擇比網(wǎng)絡平均節(jié)點度稍大的值。圖4中,當k值過大時,模型的性能有所下降??赡艿脑蚴呛诵泥徲蚬?jié)點中存在過多的零向量,而簡單的填充操作會降低卷積的特征提取能力。

    4 結(jié)語

    本文提出了一種基于空間域的圖卷積模型——CoN-GCN,通過鄰域采樣策略實現(xiàn)對通用圖數(shù)據(jù)的處理,然后進行常規(guī)的卷積操作。實驗結(jié)果表明,在直推學習節(jié)點分類任務中, CoN-GCN具有更優(yōu)的準確率。接下來的工作中,我們將繼續(xù)探討CoN-GCN的深度對于分類性能的影響,并在更多任務(如鏈接預測、社團檢測等)中考察CoN-GCN的魯棒性。此外,我們還將繼續(xù)探討異質(zhì)信息網(wǎng)絡[23]中的CoN-GCN模型。

    參考文獻 (References)

    [1]涂存超,楊成,劉知遠,等.網(wǎng)絡表示學習綜述[J].中國科學:信息科學,2017,47(8):980-996.(TU C C, YANG C, LIU Z Y, et al. Network representation learning: an overview [J]. SCIENTIA SINICA Informationis, 2017, 47(8): 980-996.)

    [2]PEROZZI B, AL-RFOU R, SKIENA S. DeepWalk: online learning of social representations [C]// Proceedings of the 20th ACM SIGKDD International Conference on Knowledge Discovery and Data Mining. New York: ACM, 2014: 701-710.

    [3]GROVER A, LESKOVEC J. Node2Vec: scalable feature learning for networks [C]// Proceedings of the 22nd ACM SIGKDD International Conference on Knowledge Discovery and Data Mining. New York: ACM, 2016: 855-864.

    [4]TANG J, QU M, WANG M, et al. LINE: large-scale information network embedding [C]// Proceedings of the 24th International Conference on World Wide Web. New York: ACM, 2015: 1016-1077.

    [5]DENG J, DONG W, SOCHER R, et al. ImageNet: a large-scale hierarchical image database [C]// Proceedings of the 2009 IEEE Conference on Computer Vision and Pattern Recognition. Piscataway: IEEE, 2009: 248-255.

    [6]REN S, HE K, GIRSHICK R, et al. Faster R-CNN: towards real-time object detection with region proposal networks [J]. IEEE Transactions on Pattern Analysis and Machine Intelligence, 2017, 39(6): 1137-1149.

    [7]BRUNA J, ZAREMBA W, SZLAM A, et al. Spectral networks and locally connected networks on graphs [EB/OL]. [2018-10-13]. https://arxiv.org/pdf/1312.6203.

    [8]DEFFERRARD M, BRESSON X, VANDERGHEYNST P. Convolutional neural networks on graphs with fast localized spectral filtering [C]// Proceedings of the 30th Conference on Neural Information Processing Systems. New York: JMLR, 2016: 3837-3845.

    [9]KIPF T N, WELLING M. Semi-supervised classification with graph convolutional networks [EB/OL]. [2018-11-20]. https://arxiv.org/pdf/1609.02907.

    [10]NIEPERT M, AHMED M, KUTZKOV K. Learning convolutional neural networks for graphs [C]// Proceedings of the 33nd International Conference on Machine Learning. New York: PMLR, 2016: 2014-2023.

    [11]VELICKOVIC P, CUCURULL G, CASANOVA A, et al. Graph attention networks [EB/OL]. [2018-09-10]. https://arxiv.org/pdf/1710.10903.

    [12]GAO H Y, WANG Z, JI S. Large-scale learnable graph convolutional networks [C]// Proceedings of the 24th ACM SIGKDD International Conference on Knowledge Discovery and Data Mining. New York: ACM, 2018: 1416-1424.

    [13]SHERVASHIDZE N, SCHWEITZER P, VAN LEEUWEN E J, et al. Weisfeiler-Lehman graph kernels [J]. Journal of Machine Learning Research, 2011, 12(9): 2539-2561.

    [14]YING R, HE R, CHEN K, et al. Graph convolutional neural networks for web-scale recommender systems [C]// Proceedings of the 24th ACM SIGKDD International Conference on Knowledge Discovery and Data Mining. New York: ACM, 2018: 974-983.

    [15]CHEN J, MA T, XIAO C. FastGCN: fast learning with graph convolutional networks via importance sampling [EB/OL]. [2018-12-20]. https://arxiv.org/pdf/1801.10247.

    [16]HAMILTON W, YING Z, LESKOVEC J. Inductive representation learning on large graphs [C]// Proceedings of the 2017 Conference on Neural Information Processing Systems. San Mateo, CA: Morgan Kaufmann, 2017: 1024-1034.

    [17]XU K, LI C, TIAN Y, et al. Representation learning on graphs with jumping knowledge networks [C]// Proceedings of the 35th International Conference on Machine Learning. New York: JMLR, 2018: 5453-5462.

    [18]ZHUANG C, MA Q. Dual graph convolutional networks for graph-based semi-supervised classification [C]// Proceedings of the 2018 World Wide Web Conference. New York: ACM, 2018: 499-508.

    [19]LYU L, ZHOU T. Link prediction in complex networks: a survey [J]. Physica A: Statistical Mechanics and its Applications, 2011, 390(6): 1150-1170.

    [20]JACCARD P. The distribution of the flora in the alpine zone [J]. New Phytologist, 1912, 11(2): 37-50.

    [21]ADAMIC L, ADAR E. How to search a social network [J]. Social Networks, 2005, 27(3): 187-203.

    [22]YANG Z, COHEN W W, SALAKHUTDINOV R. Revisiting semi-supervised learning with graph embeddings [C]// Proceedings of the 33rd International Conference on Machine Learning. New York: JMLR, 2016: 40-48.

    [23]SHI C, LI Y, ZHANG J, et al. A survey of heterogeneous information network analysis [J]. IEEE Transactions on Knowledge and Data Engineering, 2017, 29(1): 17-37.

    This work is partially supported by the National Natural Science Foundation of China (61603197, 61772284).

    CHEN Kejia, born in 1980, Ph. D., associate professor. Her research interests include data mining, complex network analysis.

    YANG Zeyu, born in 1994, M. S. candidate. His research interests include graph convolutional network.

    LIU Zheng, born in 1980, Ph. D., lecturer. His research interests include graph data mining.

    LU Hao, born in 1995, M. S. candidate. His research interests include graph convolutional network, network representation learning.

    收稿日期:2019-04-29;修回日期:2019-08-07;錄用日期:

    2019-08-12?;痦椖浚簢易匀豢茖W基金資助項目(61603197,61772284)。

    作者簡介:陳可佳(1980—),女,江蘇淮安人,副教授,博士, CCF會員,主要研究方向:數(shù)據(jù)挖掘、復雜網(wǎng)絡分析;楊澤宇(1994—),男,山西晉中人,碩士研究生,主要研究方向:圖卷積網(wǎng)絡;劉崢(1980—) ,男,江蘇南京人,講師,博士, CCF會員,主要研究方向:圖數(shù)據(jù)挖掘;魯浩(1995—) ,男,河南濮陽人,碩士研究生,主要研究方向:圖卷積網(wǎng)絡、網(wǎng)絡表示學習。

    国产日韩欧美亚洲二区| 大码成人一级视频| 亚洲av二区三区四区| 亚洲人成网站高清观看| 午夜精品一区二区三区免费看| 国产精品熟女久久久久浪| 丰满乱子伦码专区| 久久久久精品性色| 自拍欧美九色日韩亚洲蝌蚪91 | 有码 亚洲区| 免费高清在线观看视频在线观看| 国产高潮美女av| 欧美日韩综合久久久久久| 国产成人freesex在线| 97超碰精品成人国产| av专区在线播放| 亚洲人成网站在线观看播放| 极品教师在线视频| 99热全是精品| 日本一二三区视频观看| 成人特级av手机在线观看| 91aial.com中文字幕在线观看| 亚洲经典国产精华液单| 99re6热这里在线精品视频| 久久久欧美国产精品| 亚洲国产精品国产精品| 极品教师在线视频| 国产精品蜜桃在线观看| 免费看日本二区| 久久午夜福利片| 一级a做视频免费观看| 哪个播放器可以免费观看大片| 熟女电影av网| 亚洲精品一二三| 尤物成人国产欧美一区二区三区| 国产片特级美女逼逼视频| 免费大片18禁| 97超视频在线观看视频| 亚洲激情五月婷婷啪啪| 欧美最新免费一区二区三区| 久热这里只有精品99| 女的被弄到高潮叫床怎么办| 99久久精品国产国产毛片| 国产精品精品国产色婷婷| 亚洲综合色惰| 国产精品偷伦视频观看了| 欧美日韩综合久久久久久| 免费av观看视频| 国产爽快片一区二区三区| 久久99热6这里只有精品| 少妇熟女欧美另类| 人妻系列 视频| 亚洲精品456在线播放app| 色视频www国产| 国产精品久久久久久精品古装| 亚洲综合精品二区| 国产综合精华液| 男女国产视频网站| 欧美日韩视频高清一区二区三区二| 亚洲欧美日韩卡通动漫| 亚洲国产欧美人成| 精品久久国产蜜桃| 国产国拍精品亚洲av在线观看| 99热网站在线观看| 99热网站在线观看| 中国三级夫妇交换| 国产精品av视频在线免费观看| 日韩欧美 国产精品| 免费看光身美女| 国产成人精品一,二区| 又爽又黄无遮挡网站| 国产精品久久久久久精品电影小说 | 精品久久久久久久人妻蜜臀av| 91精品一卡2卡3卡4卡| 久久久久久久久久久免费av| av.在线天堂| 国产大屁股一区二区在线视频| 99热这里只有是精品在线观看| 热re99久久精品国产66热6| 嘟嘟电影网在线观看| 啦啦啦啦在线视频资源| 国产成人aa在线观看| av女优亚洲男人天堂| 亚洲婷婷狠狠爱综合网| 六月丁香七月| 国产亚洲精品久久久com| 国产精品熟女久久久久浪| 日韩免费高清中文字幕av| 一级二级三级毛片免费看| 一本—道久久a久久精品蜜桃钙片 精品乱码久久久久久99久播 | 深夜a级毛片| 亚洲一区二区三区欧美精品 | 亚洲色图综合在线观看| 久久久国产一区二区| 久久99热这里只有精品18| 日本av手机在线免费观看| 日韩中字成人| 亚洲真实伦在线观看| 中文天堂在线官网| 熟女电影av网| 女人久久www免费人成看片| 国产伦理片在线播放av一区| 国产欧美日韩精品一区二区| av黄色大香蕉| 久久久久久久大尺度免费视频| 国产视频内射| 久久99热6这里只有精品| 国产精品一二三区在线看| 最近的中文字幕免费完整| 亚洲欧美一区二区三区国产| 女人被狂操c到高潮| 亚洲精品一区蜜桃| 日韩视频在线欧美| 欧美老熟妇乱子伦牲交| 亚洲av二区三区四区| 夜夜看夜夜爽夜夜摸| 插逼视频在线观看| 国产精品一区二区三区四区免费观看| 成人亚洲欧美一区二区av| 欧美最新免费一区二区三区| 国产av码专区亚洲av| av福利片在线观看| 日韩欧美 国产精品| 我的老师免费观看完整版| 只有这里有精品99| 精品国产乱码久久久久久小说| 最近最新中文字幕免费大全7| 日韩强制内射视频| 视频中文字幕在线观看| 在线观看国产h片| 国产欧美另类精品又又久久亚洲欧美| 亚洲国产精品专区欧美| 男女下面进入的视频免费午夜| 97人妻精品一区二区三区麻豆| 欧美亚洲 丝袜 人妻 在线| 2022亚洲国产成人精品| 少妇人妻久久综合中文| 国产亚洲午夜精品一区二区久久 | 一级爰片在线观看| 人妻一区二区av| 精品久久久久久久久亚洲| 国产午夜精品久久久久久一区二区三区| 26uuu在线亚洲综合色| 国产精品人妻久久久影院| 亚洲精品色激情综合| 亚洲欧洲日产国产| 欧美日韩视频高清一区二区三区二| 一级毛片久久久久久久久女| 天美传媒精品一区二区| av卡一久久| 午夜爱爱视频在线播放| 亚洲欧美一区二区三区国产| 亚洲欧美一区二区三区国产| 中文乱码字字幕精品一区二区三区| 男人和女人高潮做爰伦理| 禁无遮挡网站| 日本一二三区视频观看| 午夜福利视频1000在线观看| 国语对白做爰xxxⅹ性视频网站| 天天躁日日操中文字幕| 国产成人免费无遮挡视频| 久久韩国三级中文字幕| 在线观看免费高清a一片| 久久韩国三级中文字幕| 天天躁日日操中文字幕| 97热精品久久久久久| 国产在视频线精品| 亚洲欧美清纯卡通| 亚洲av免费高清在线观看| 最近手机中文字幕大全| 毛片女人毛片| 丝袜脚勾引网站| 狂野欧美白嫩少妇大欣赏| 最近2019中文字幕mv第一页| 婷婷色av中文字幕| 国产淫语在线视频| 免费看不卡的av| 久久久久久久久久人人人人人人| 22中文网久久字幕| 亚洲美女视频黄频| 国产亚洲最大av| 中国国产av一级| 啦啦啦中文免费视频观看日本| av国产久精品久网站免费入址| 人妻少妇偷人精品九色| 亚洲人成网站在线播| 午夜精品国产一区二区电影 | 一级爰片在线观看| 亚洲精华国产精华液的使用体验| 中文字幕久久专区| 另类亚洲欧美激情| 亚洲成色77777| av播播在线观看一区| 99久久中文字幕三级久久日本| 嫩草影院精品99| 欧美xxⅹ黑人| 精品熟女少妇av免费看| 91久久精品电影网| 91久久精品电影网| 亚洲av国产av综合av卡| 国产精品成人在线| 日韩不卡一区二区三区视频在线| 日韩大片免费观看网站| 丰满人妻一区二区三区视频av| 日日撸夜夜添| 国产一区二区三区av在线| 亚洲电影在线观看av| 国产一区二区三区av在线| 一区二区av电影网| 九色成人免费人妻av| 久久影院123| 国产淫片久久久久久久久| 超碰97精品在线观看| 黄色欧美视频在线观看| .国产精品久久| 亚洲精品久久久久久婷婷小说| 18禁裸乳无遮挡动漫免费视频 | 人妻系列 视频| 亚洲美女搞黄在线观看| 尾随美女入室| 国产高潮美女av| 97超视频在线观看视频| 日本猛色少妇xxxxx猛交久久| 免费大片18禁| 乱系列少妇在线播放| 亚洲av不卡在线观看| 男人添女人高潮全过程视频| .国产精品久久| 欧美日韩精品成人综合77777| 激情 狠狠 欧美| 免费观看的影片在线观看| 97精品久久久久久久久久精品| 美女高潮的动态| av在线app专区| 精品久久久久久久人妻蜜臀av| 日韩,欧美,国产一区二区三区| av在线蜜桃| 免费观看a级毛片全部| 午夜激情久久久久久久| 一本久久精品| 国产乱人偷精品视频| 夫妻性生交免费视频一级片| 少妇被粗大猛烈的视频| 亚洲欧洲日产国产| 亚洲最大成人手机在线| 国产日韩欧美亚洲二区| 熟女av电影| 久久久久久久久久成人| 亚洲第一区二区三区不卡| 久久精品久久久久久噜噜老黄| 久久久精品欧美日韩精品| 午夜福利视频1000在线观看| 啦啦啦啦在线视频资源| 国产欧美日韩精品一区二区| 人体艺术视频欧美日本| 亚洲精品成人久久久久久| 精品久久久久久久久av| 亚洲va在线va天堂va国产| 99久久人妻综合| 久久鲁丝午夜福利片| 久久国产乱子免费精品| 免费电影在线观看免费观看| 激情五月婷婷亚洲| 18禁在线无遮挡免费观看视频| 51国产日韩欧美| 18禁动态无遮挡网站| 欧美潮喷喷水| 伦理电影大哥的女人| 天天躁夜夜躁狠狠久久av| 各种免费的搞黄视频| 一级毛片电影观看| 春色校园在线视频观看| 亚洲久久久久久中文字幕| 欧美人与善性xxx| 男人舔奶头视频| 国产精品三级大全| 国产精品熟女久久久久浪| 精品人妻一区二区三区麻豆| 久久久久久久久久成人| 亚洲精品aⅴ在线观看| 日韩制服骚丝袜av| 午夜免费鲁丝| 国产精品伦人一区二区| 亚洲在久久综合| 国产乱人视频| 日日撸夜夜添| 爱豆传媒免费全集在线观看| 嫩草影院新地址| 日本av手机在线免费观看| 最近2019中文字幕mv第一页| 精品久久久久久久人妻蜜臀av| 午夜福利高清视频| 有码 亚洲区| videossex国产| 欧美丝袜亚洲另类| 又爽又黄a免费视频| 尾随美女入室| 亚洲精品aⅴ在线观看| 亚州av有码| 亚洲va在线va天堂va国产| 在线亚洲精品国产二区图片欧美 | 欧美激情国产日韩精品一区| 免费高清在线观看视频在线观看| 丝袜美腿在线中文| 国产在线一区二区三区精| 欧美最新免费一区二区三区| 99久久精品热视频| 午夜福利视频1000在线观看| 成人美女网站在线观看视频| 一级a做视频免费观看| 嫩草影院入口| 女的被弄到高潮叫床怎么办| 日韩,欧美,国产一区二区三区| 男女下面进入的视频免费午夜| 91精品伊人久久大香线蕉| 一级av片app| av在线亚洲专区| 国产精品福利在线免费观看| 嫩草影院精品99| 人妻少妇偷人精品九色| 精品久久久噜噜| 欧美区成人在线视频| 一本色道久久久久久精品综合| 亚洲最大成人手机在线| 男女无遮挡免费网站观看| 国产熟女欧美一区二区| 成人黄色视频免费在线看| 综合色av麻豆| 黄色视频在线播放观看不卡| 日本一本二区三区精品| 欧美最新免费一区二区三区| 亚洲精品日韩av片在线观看| 舔av片在线| 狂野欧美白嫩少妇大欣赏| 日韩视频在线欧美| 肉色欧美久久久久久久蜜桃 | 国产美女午夜福利| 国产色婷婷99| 亚洲电影在线观看av| 少妇人妻久久综合中文| 女人十人毛片免费观看3o分钟| 日本黄色片子视频| 免费av观看视频| 日本色播在线视频| 久久久精品欧美日韩精品| 亚洲欧美日韩另类电影网站 | 男人爽女人下面视频在线观看| 美女被艹到高潮喷水动态| 午夜福利在线在线| 午夜亚洲福利在线播放| 九九爱精品视频在线观看| 精品熟女少妇av免费看| 亚洲欧洲日产国产| 国产精品一区www在线观看| 免费看不卡的av| 亚洲精品,欧美精品| 卡戴珊不雅视频在线播放| 国产综合懂色| 国产爱豆传媒在线观看| 我要看日韩黄色一级片| 亚洲人与动物交配视频| 看黄色毛片网站| 日韩中字成人| 国产免费一区二区三区四区乱码| 99久久人妻综合| 免费观看在线日韩| 高清av免费在线| 99热这里只有是精品在线观看| 人妻一区二区av| 搡女人真爽免费视频火全软件| 午夜福利视频精品| 国产爽快片一区二区三区| 岛国毛片在线播放| 99热国产这里只有精品6| 亚洲色图综合在线观看| 中文字幕亚洲精品专区| 大香蕉久久网| 日本wwww免费看| 精品久久久精品久久久| 国产综合懂色| 亚洲欧美一区二区三区黑人 | 最近最新中文字幕免费大全7| 亚洲综合精品二区| 一级毛片aaaaaa免费看小| 91久久精品电影网| 噜噜噜噜噜久久久久久91| 极品教师在线视频| 日本免费在线观看一区| 激情 狠狠 欧美| 久久久久久久久久久丰满| 欧美精品人与动牲交sv欧美| 精品少妇久久久久久888优播| 又爽又黄a免费视频| 亚洲一区二区三区欧美精品 | kizo精华| 亚洲精品自拍成人| 视频中文字幕在线观看| 伊人久久国产一区二区| av网站免费在线观看视频| 色视频在线一区二区三区| 老师上课跳d突然被开到最大视频| 日韩欧美 国产精品| 国产视频首页在线观看| 成人二区视频| 一级毛片黄色毛片免费观看视频| 日韩av免费高清视频| 亚洲av免费高清在线观看| 欧美日本视频| 精品一区二区免费观看| 特级一级黄色大片| 日产精品乱码卡一卡2卡三| 免费大片18禁| 中文字幕免费在线视频6| 99精国产麻豆久久婷婷| 有码 亚洲区| 韩国高清视频一区二区三区| 久久久久国产网址| 高清av免费在线| 亚洲人成网站在线播| 午夜福利高清视频| 丝袜美腿在线中文| 国产欧美日韩精品一区二区| 亚洲欧美成人综合另类久久久| 亚洲人与动物交配视频| 波野结衣二区三区在线| 国产精品爽爽va在线观看网站| 久久精品国产亚洲av天美| 亚洲精品视频女| 97热精品久久久久久| 国产伦在线观看视频一区| 精品久久久久久电影网| 人妻系列 视频| 高清视频免费观看一区二区| 精品国产三级普通话版| 日韩 亚洲 欧美在线| 麻豆成人av视频| 爱豆传媒免费全集在线观看| 婷婷色av中文字幕| 中文字幕亚洲精品专区| 亚洲欧美一区二区三区黑人 | 日本猛色少妇xxxxx猛交久久| 国产精品蜜桃在线观看| 91久久精品电影网| av卡一久久| 尾随美女入室| 在线观看三级黄色| 99热这里只有精品一区| 欧美精品一区二区大全| 校园人妻丝袜中文字幕| 国产大屁股一区二区在线视频| 在线观看av片永久免费下载| 最近中文字幕高清免费大全6| 国产大屁股一区二区在线视频| 日韩av不卡免费在线播放| 一区二区三区四区激情视频| 丝袜喷水一区| av在线观看视频网站免费| 成人特级av手机在线观看| 少妇人妻精品综合一区二区| 亚洲国产日韩一区二区| 亚洲自偷自拍三级| 青春草国产在线视频| 老司机影院毛片| 97在线视频观看| 蜜桃久久精品国产亚洲av| 中文天堂在线官网| 色综合色国产| 纵有疾风起免费观看全集完整版| 免费观看性生交大片5| 久久这里有精品视频免费| 最近最新中文字幕免费大全7| 免费看日本二区| 中文字幕av成人在线电影| 欧美xxxx黑人xx丫x性爽| 免费av观看视频| 爱豆传媒免费全集在线观看| 国产精品伦人一区二区| 久久久久久九九精品二区国产| 少妇猛男粗大的猛烈进出视频 | 久久99蜜桃精品久久| 麻豆成人午夜福利视频| 色网站视频免费| 免费观看性生交大片5| 亚洲人成网站在线观看播放| 亚洲av免费在线观看| 中文字幕制服av| 国内少妇人妻偷人精品xxx网站| 91久久精品国产一区二区成人| 秋霞伦理黄片| 亚洲美女视频黄频| 99热6这里只有精品| 最近中文字幕2019免费版| 在线观看国产h片| 国产色爽女视频免费观看| 日韩欧美精品v在线| 国产精品熟女久久久久浪| 国产欧美亚洲国产| 色哟哟·www| 伊人久久国产一区二区| 国产精品偷伦视频观看了| 2021少妇久久久久久久久久久| 日韩国内少妇激情av| 日韩av免费高清视频| 新久久久久国产一级毛片| 亚洲自拍偷在线| 热99国产精品久久久久久7| 一级毛片黄色毛片免费观看视频| 午夜福利视频精品| 搞女人的毛片| 国产精品女同一区二区软件| 日韩在线高清观看一区二区三区| 少妇的逼好多水| 国产精品麻豆人妻色哟哟久久| 少妇人妻久久综合中文| 欧美极品一区二区三区四区| 自拍偷自拍亚洲精品老妇| 最近2019中文字幕mv第一页| 午夜福利网站1000一区二区三区| 亚洲最大成人手机在线| av福利片在线观看| 亚洲av一区综合| 久久精品熟女亚洲av麻豆精品| 一本色道久久久久久精品综合| 亚洲图色成人| 精品国产乱码久久久久久小说| 热re99久久精品国产66热6| 亚洲精品自拍成人| 亚洲精品日本国产第一区| 最近中文字幕2019免费版| 国精品久久久久久国模美| 麻豆成人av视频| 我要看日韩黄色一级片| 一级毛片aaaaaa免费看小| 中国三级夫妇交换| 亚洲美女搞黄在线观看| 亚洲成人中文字幕在线播放| 亚洲成人一二三区av| 国产精品偷伦视频观看了| 久久人人爽人人片av| 久久久亚洲精品成人影院| 国产精品久久久久久精品电影小说 | 麻豆成人午夜福利视频| 国产老妇女一区| 女人十人毛片免费观看3o分钟| 日韩在线高清观看一区二区三区| 一级片'在线观看视频| 中文字幕人妻熟人妻熟丝袜美| 日韩伦理黄色片| 成人二区视频| 只有这里有精品99| 日韩 亚洲 欧美在线| 亚洲欧美精品自产自拍| 最后的刺客免费高清国语| 国产精品.久久久| 嫩草影院新地址| 亚洲国产精品999| a级毛片免费高清观看在线播放| 夜夜爽夜夜爽视频| 一本色道久久久久久精品综合| 欧美高清性xxxxhd video| 久久国产乱子免费精品| 韩国高清视频一区二区三区| 男女边摸边吃奶| 免费黄色在线免费观看| 久久热精品热| 久久久久精品性色| 亚洲精品aⅴ在线观看| 黄色视频在线播放观看不卡| 身体一侧抽搐| 热99国产精品久久久久久7| 欧美精品人与动牲交sv欧美| 在线免费观看不下载黄p国产| 婷婷色麻豆天堂久久| 亚洲精品成人av观看孕妇| 成人毛片60女人毛片免费| 精品久久久久久久末码| 色网站视频免费| 男插女下体视频免费在线播放| 中国国产av一级| 亚洲无线观看免费| 91在线精品国自产拍蜜月| 日本熟妇午夜| 69av精品久久久久久| 国产白丝娇喘喷水9色精品| 国产成人a∨麻豆精品| 亚洲成人av在线免费| 最近手机中文字幕大全| 亚洲欧美一区二区三区黑人 | 日韩 亚洲 欧美在线| 亚洲精品视频女| 久久精品久久久久久久性| 国产一区二区三区av在线| 超碰97精品在线观看| 国产真实伦视频高清在线观看| 欧美成人精品欧美一级黄| 99热国产这里只有精品6| av线在线观看网站| 99久久中文字幕三级久久日本| 国产一区有黄有色的免费视频| 国产av不卡久久| 午夜免费男女啪啪视频观看| 我要看日韩黄色一级片| 日日摸夜夜添夜夜添av毛片| 国产精品女同一区二区软件| 欧美人与善性xxx| 免费观看性生交大片5| 大香蕉久久网| 亚洲婷婷狠狠爱综合网| 99视频精品全部免费 在线| 高清欧美精品videossex| 寂寞人妻少妇视频99o| 久久久久精品性色| 日韩av不卡免费在线播放| 韩国av在线不卡| 欧美日韩视频精品一区|