基于自表示和投影映射的不完整多視圖聚類(lèi)

趙翠娜　楊有龍

摘要： 針對(duì)不完整多視圖聚類(lèi)存在的缺陷， 提出一種融合自表示和投影映射的統(tǒng)一框架. 首先， 利用自表示和樣本存在指示矩陣學(xué)習(xí)一致相似圖， 它反映了樣本間的公共相似關(guān)系； 其次， 利用投影映射將樣本矩陣投影到超球面上， 得到公共低維表示； 最后， 將兩者通過(guò)譜表示嵌入在一起， 解決了因多視圖數(shù)據(jù)缺失引起的不完整多視圖聚類(lèi)問(wèn)題. 該算法在真實(shí)數(shù)據(jù)集上的實(shí)驗(yàn)結(jié)果優(yōu)于其他算法， 證明了算法的有效性.

關(guān)鍵詞： 多視圖聚類(lèi)； 不完整視圖； 自表示學(xué)習(xí)； 投影映射

中圖分類(lèi)號(hào)： TP391文獻(xiàn)標(biāo)志碼： A文章編號(hào)： 1671-5489（2024）02-0331-08

Incomplete Multi-view Clustering Based on Self-representation and Projection Mapping

ZHAO Cuina， YANG Youlong

（School of Mathematics and Statistics， Xidian University， Xian 710126， China）

Abstract： Aiming at the shortcomings of incomplete multi-view clustering， we? proposed a unified framework that integrated? self-representation and projection mapping. Firstly， self-representation and sample presence indication matrices were used to learn a uniform similarity graph， which reflected the common similarity relationship between samples. Secondly， the sample matrices were projected onto the hypersphere by using projection mapping to obtain a common low-dimensional representation. Finally， the two were embedded together through spectral representation to solve the incomplete multi-view clustering problem caused by missing multi-view data. The experimental results of this algorithm on real datasets are better than other algorithms， which proves the effectiveness of the proposed algorithm.

Keywords： multi-view clustering； incomplete view； self-representation learning； projection mapping

0 引 言

由于不同的采集源或?qū)ν晃矬w的不同處理方法， 數(shù)據(jù)可被分成多個(gè)特征集， 這些特征集有不同的物理意義和鑒別能力， 因此可將這些不同的特征集視為多視圖數(shù)據(jù). 隨著多視圖數(shù)據(jù)的大量涌現(xiàn)， 多視圖聚類(lèi)（multi-view clustering， MVC） ［1-7］考慮了來(lái)自多個(gè)視圖的互補(bǔ)信息和一致信息， 因此在數(shù)據(jù)挖掘和分析領(lǐng)域已引起廣泛關(guān)注.

但由于一些現(xiàn)實(shí)因素的影響， 多視圖數(shù)據(jù)經(jīng)常是不完整的. 不完整性可能由于隨機(jī)缺少特征或缺少樣本的某個(gè)視圖特征導(dǎo)致. 例如， 在圖像聚類(lèi)時(shí)， 獲取到的圖像可能由于遭到遮擋受到破壞， 這屬于前者； 在多語(yǔ)言文檔聚類(lèi)中， 一種語(yǔ)言可視為文檔的一個(gè)視圖， 一個(gè)文檔可能沒(méi)有所有的語(yǔ)言版本， 這屬于后者. 本文主要關(guān)注后者， 即一個(gè)樣本可以在所有或部分視圖上找到. 在不完整多視圖數(shù)據(jù)上進(jìn)行的聚類(lèi)問(wèn)題稱(chēng)為不完整多視圖聚類(lèi)（incomplete multi-view clustering， IMC）.

近年來(lái)， 已有許多方法處理不完整多視圖聚類(lèi). 不完整多視圖聚類(lèi)與多視圖聚類(lèi)相同， 可分為基于核的不完整多視圖聚類(lèi)、 基于矩陣分解的不完整多視圖聚類(lèi)和基于圖的不完整多視圖聚類(lèi)， 但現(xiàn)有的很多方法已將上述種類(lèi)融合在同一個(gè)框架中， 進(jìn)一步提高學(xué)習(xí)性能. 從視圖缺失處理角度， 不完整多視圖聚類(lèi)可分為基于部分視圖的方法和基于缺失視圖推斷的方法.

基于缺失視圖補(bǔ)充的方法對(duì)缺失視圖或缺失視圖轉(zhuǎn)化部分進(jìn)行填充， 占據(jù)了不完整多視圖聚類(lèi)很大一部分. 例如， Shao等［8］提出了一種集體核學(xué)習(xí)的多視圖補(bǔ)全算法， 該算法對(duì)于兩個(gè)缺失的視圖， 利用共享實(shí)例的對(duì)齊信息， 去優(yōu)化不完全核矩陣的信息， 最后使用核典型相關(guān)分析完成聚類(lèi)； Wen等［9］提出了缺失視圖推斷的統(tǒng)一嵌入對(duì)齊不完整多視圖聚類(lèi)， 通過(guò)將位置重建項(xiàng)引入到矩陣分解和反向圖學(xué)習(xí)中， 使所有視圖都能自然對(duì)齊； Zhang等［10］提出了基于自適應(yīng)缺失視圖歸算和合作學(xué)習(xí)的端到端不完全多視圖模糊聚類(lèi)， 將缺失視圖植入、 隱藏視圖學(xué)習(xí)和聚類(lèi)整合到同一個(gè)框架中， 實(shí)現(xiàn)了隱藏視圖和可見(jiàn)視圖之間的合作學(xué)習(xí)； Wen等［11］提出了基于不完全多視圖聚類(lèi)的自適應(yīng)圖補(bǔ)全， 通過(guò)借用其他視圖的相似性信息恢復(fù)不完整視圖信息， 并且最大程度上保留了自身的相似性信息； Liu等［12］提出了具有不完整核的多核k-均值算法， 并不直接填充缺失部分， 而將缺失部分作為多核聚類(lèi)過(guò)程中需要優(yōu)化的輔助變量， 通過(guò)填充和聚類(lèi)的交替迭代達(dá)到一個(gè)較好的聚類(lèi)結(jié)果； Gao等［13］提出了不完全多視圖聚類(lèi)， 基于譜理論， 將原始數(shù)據(jù)投影到新的空間中， 并將各視圖的投影進(jìn)行整合更新每個(gè)視圖中的缺失部分， 進(jìn)而趨向共識(shí).

基于部分視圖的方法通常將視圖信息分為對(duì)齊部分和非對(duì)齊部分學(xué)習(xí)視圖的潛在表示去聚類(lèi). 例如， Li等［14］提出了部分多視圖聚類(lèi)， 利用矩陣分解在兩個(gè)視圖的共有部分學(xué)習(xí)相同的隱藏表示， 在局部視圖學(xué)習(xí)各自的潛在表示去實(shí)現(xiàn)聚類(lèi)； Shao等［15］提出了基于L2，1正則化加權(quán)非負(fù)矩陣分解的多重不完全視圖聚類(lèi)， 通過(guò)引入一個(gè)值位于0～1間的權(quán)重矩陣在非負(fù)矩陣分解中學(xué)習(xí)共識(shí)矩陣， 使缺失實(shí)例的影響低于存在實(shí)例， 并加入了L2，1正則化使模型對(duì)噪聲和異常值具有魯棒性; Zhuge等［16］提出了基于聯(lián)合表示和聚類(lèi)（joint representation learning and clustering， JRLC）框架的不完全多視圖聚類(lèi)， 提出了帶譜嵌入的JRLC（JRLC-SE）及通過(guò)集成非負(fù)嵌入和譜嵌入的JRLC（JRL-NS）兩種方法； Wang等［17］提出了譜擾動(dòng)滿(mǎn)足不完整多視圖數(shù)據(jù)， 先將樣本缺失轉(zhuǎn)化為樣本間相似性缺失問(wèn)題， 然后基于譜擾動(dòng)理論， 使用每個(gè)視圖的Laplace矩陣進(jìn)行一致性學(xué)習(xí)， 最后使用譜聚類(lèi)在一致Laplace矩陣上進(jìn)行聚類(lèi).

雖然現(xiàn)有的方法在不完整多視圖聚類(lèi)方面都取得了較好的效果， 但仍存在一些缺點(diǎn)：

1） 雖然在聚類(lèi)過(guò)程中完成了缺失數(shù)據(jù)的填充， 但不準(zhǔn)確的填補(bǔ)可能會(huì)使聚類(lèi)結(jié)果和真實(shí)結(jié)果產(chǎn)生較大誤差；

2） 利用各視圖上存在的樣本獲取的共識(shí)表示并未充分探索視圖間的互補(bǔ)信息， 僅學(xué)習(xí)到存在樣本的一致信息；

3） 僅探索低維表示的信息， 原始樣本矩陣中的公共結(jié)構(gòu)信息被忽略.

基于以上限制， 本文提出一種基于自表示和投影映射的不完整多視圖聚類(lèi)（IMSP）. 首先， 在每個(gè)視圖上引入樣本存在指示矩陣學(xué)習(xí)每個(gè)視圖上的自表示矩陣， 既使缺失視圖可以對(duì)齊， 又充分探索了樣本點(diǎn)之間的公共相似度關(guān)系； 其次， 在減少缺失樣本權(quán)重影響的情況下， 將不同視圖的樣本矩陣投影在一個(gè)超球面上獲取共識(shí)低維表示； 最后， 將上述兩部分通過(guò)譜表示嵌入在同一個(gè)框架中相互交替迭代和更新， 使樣本間的公共表示和視圖矩陣的局部表示更具有一致性. 本文使用IMSP-P和IMSP-S兩種算法獲得聚類(lèi)結(jié)果， 進(jìn)一步提高聚類(lèi)結(jié)果的質(zhì)量.

3 實(shí) 驗(yàn)

3.1 數(shù)據(jù)集

1） BBCSport： 該數(shù)據(jù)集包括來(lái)自BBC新聞網(wǎng)站的116篇關(guān)于5個(gè)主題的新聞文章， 每個(gè)文檔被劃分為4個(gè)文本， 對(duì)應(yīng)于特征維度為1 991，2 063，2 113和2 158的4個(gè)視圖.

2） ORL： 是一個(gè)從英國(guó)劍橋?qū)嶒?yàn)室收集的人臉數(shù)據(jù)集， 40個(gè)目錄中有400張圖像， 分別提取對(duì)應(yīng)于3個(gè)視圖的3個(gè)特征集， 3個(gè)特征集的尺寸分別為4 096，3 304和6 750.

3） Wikipedia： 該數(shù)據(jù)集用于檢索， 包含693個(gè)樣本， 其中128維圖像特征和10維文本特征被分為10個(gè)類(lèi)別.

4） BUAA： 該數(shù)據(jù)集共有1 350張圖像， 分為150個(gè)類(lèi)別， 每個(gè)類(lèi)別包含視覺(jué)光譜和近紅外數(shù)據(jù)， 兩個(gè)視圖的尺寸均為100.

5） Caltech-7： 該數(shù)據(jù)集是Caltech-101的一個(gè)子集， 包含7個(gè)類(lèi)， 其中包含1 474張圖像， 6個(gè)視圖分別為48維Gabor特征、 40維WM特征、 254維CENTRIST特征、 1 984維HOG特征、 512維GIST特征和928維LBP特征.

3.2 對(duì)比方法

1） 缺失視圖推斷的統(tǒng)一嵌入對(duì)齊的不完整多視圖聚類(lèi)（UEAF）［9］： 首先， 利用誤差矩陣和索引矩陣對(duì)缺失數(shù)據(jù)進(jìn)行填充， 得到低維一致表示； 其次， 通過(guò)反向圖正則化得到一致相似度圖矩陣; 最后， 利用譜聚類(lèi)和k均值得到最終聚類(lèi)結(jié)果.

2） 基于不完全多視圖聚類(lèi)的自適應(yīng)圖補(bǔ)全（AGC-IMC）［11］： 該方法采用視圖內(nèi)保持和視圖間推斷的方法恢復(fù)完整的相似圖矩陣， 先用自適應(yīng)權(quán)重表示每個(gè)視圖的重要性， 然后利用恢復(fù)后的完整圖進(jìn)行一致表示學(xué)習(xí).

3） 基于L2，1正則化加權(quán)非負(fù)矩陣分解的多重不完全視圖聚類(lèi)（GPMVC）［23］： 在非負(fù)矩陣分解中引入加權(quán)指標(biāo)矩陣， 減小缺失樣本相對(duì)于已有樣本的影響， 并利用協(xié)正則化和L2，1范數(shù)得到一致的低維表示矩陣.

4） 基于圖正則化非負(fù)矩陣分解的局部多視圖聚類(lèi)（MIC）［15］： 該方法在部分多視圖聚類(lèi)（PVC）的基礎(chǔ)上， 將兩視圖的情況擴(kuò)展為多視圖， 并增加了圖正則化懲罰項(xiàng)， 提高了聚類(lèi)的質(zhì)量.

5） 不完整視圖的在線(xiàn)多視圖聚類(lèi)（OMVC）［24］： 針對(duì)大規(guī)模多視圖數(shù)據(jù)的處理問(wèn)題， 提出一種逐塊處理多視圖數(shù)據(jù)的方法. 采用加權(quán)非負(fù)矩陣分解和L1范數(shù)學(xué)習(xí)一致性特征矩陣.

3.3 評(píng)估指標(biāo)

本文選擇聚類(lèi)精度（ACC）、 歸一化互信息（NMI）和純度（Purity）這3個(gè)外部指標(biāo)作為評(píng)價(jià)聚類(lèi)性能的指標(biāo). 這3個(gè)指標(biāo)值均位于0～1間， 其值越大聚類(lèi)效果越好.

3.4 實(shí)驗(yàn)結(jié)果與分析

在實(shí)驗(yàn)中， 確保每個(gè)樣本至少在一個(gè)視圖上出現(xiàn)的情況下， 在每個(gè)視圖上隨機(jī)移除10%，30%和50%的樣本. 為進(jìn)行公平有效的比較， 使用上述方法在每個(gè)缺失率下隨機(jī)生成10組缺失樣本， 并將這10次聚類(lèi)指標(biāo)的平均值作為最終聚類(lèi)結(jié)果. 不同算法在真實(shí)數(shù)據(jù)集上的聚類(lèi)性能比較列于表1. 由表1可見(jiàn)， 在大部分實(shí)驗(yàn)中， 本文算法都優(yōu)于其他算法， 尤其是在數(shù)據(jù)集BUAA上， 本文算法顯著優(yōu)于次優(yōu)算法. 因?yàn)楸疚乃惴ㄔ跍p少缺失樣本的影響下將多個(gè)視圖的公共相似度關(guān)系和超球面低維表示很好地集成在一個(gè)框架中， 且互相促進(jìn)彼此的迭代和更新. 在大多數(shù)情況下， UEAF和AGC-IMC算法的效果顯著優(yōu)于MIC，OMVC和GPMVC算法， 這是因?yàn)閁EAF算法中利用圖正則化學(xué)習(xí)到的誤差矩陣去填補(bǔ)缺失樣本， 誤差矩陣即選取n-nv條最能代表存在樣本特征關(guān)系的dv維向量； AGC-IMC算法是利用其余視圖上的相似性關(guān)系的線(xiàn)性組合填補(bǔ)缺失樣本的相似性關(guān)系， 在缺失率增加的情況下， 甚至在某些數(shù)據(jù)集上效果反而更好； 而MIC，OMVC和GPMVC算法只是簡(jiǎn)單均值填充， 說(shuō)明合理地填補(bǔ)缺失樣本或相似性關(guān)系也可以達(dá)到較好的效果.

雖然在一些數(shù)據(jù)集上， IMSP算法沒(méi)有取得最優(yōu)聚類(lèi)指標(biāo)， 但與最優(yōu)算法相差較小. 在數(shù)據(jù)集BUAA上， IMSP比次優(yōu)方法的聚類(lèi)精度超出了50%， 證明了該算法的優(yōu)越性.

3.5 參數(shù)確定及敏感度分析

在IMSP算法實(shí)驗(yàn)中， 3個(gè)超參數(shù)λ1，λ2，λ3需要通過(guò)網(wǎng)格搜索最優(yōu)參數(shù)， 其中λ1，λ2，λ3的取值范圍均為{10-5，105}. 比較算法的參數(shù)會(huì)根據(jù)相應(yīng)的參數(shù)范圍選擇最優(yōu)結(jié)果. 圖1和圖2分別是參數(shù)λ2和λ3與λ1在數(shù)據(jù)集上的敏感性分析. 由圖1和圖2可見(jiàn)， 參數(shù)在很大范圍內(nèi)都是相對(duì)穩(wěn)定的.

3.6 算法復(fù)雜度分析與收斂性

根據(jù)迭代優(yōu)化算法的更新步驟計(jì)算算法的時(shí)間復(fù)雜度， 變量P，F(xiàn)（v）和Z（v）是時(shí)間代價(jià)最大的， 為O（n3）， 計(jì)算S的時(shí)間可以忽略不計(jì)， 因此總的時(shí)間復(fù)雜度為O（n3）.

圖3是在數(shù)據(jù)集Caltech-7缺失率為0.3時(shí)的收斂曲線(xiàn). 由圖3可見(jiàn)， 在5次迭代以?xún)?nèi)目標(biāo)函數(shù)快速下降， 有效支持了算法的有效性.

綜上所述， 針對(duì)不完整多視圖聚類(lèi)存在的缺陷， 本文提出了一種將自表示學(xué)習(xí)和視圖投影相結(jié)合的統(tǒng)一框架去處理不完整多視圖聚類(lèi)的方法. 首先， 在自表示中引入了樣本存在矩陣， 使學(xué)習(xí)的自表示系數(shù)自然對(duì)齊， 在一些限制條件下學(xué)習(xí)相似圖矩陣； 其次， 每個(gè)視圖上的樣本矩陣經(jīng)過(guò)投影映射到一個(gè)超球體的表面上； 最后， 前兩者經(jīng)過(guò)Laplace正則化組合成一個(gè)統(tǒng)一的框架. 該算法以較快的收斂速度迭代和更新， 實(shí)驗(yàn)結(jié)果證明了算法的有效性.

參考文獻(xiàn)

［1］CAO X C， ZHANG C Q， FU H Z， et al. Diversity-Induced Multi-view Subspace Clustering ［C］//Proceedings of the IEEE Conference on Computer Vision and Pattern Recognition. Piscataway， NJ： IEEE， 2015： 586-594.

［2］KUMAR A， DAUM H. A Co-training Approach for Multi-view Spectral Clustering ［C］//Proceedings of the 28th International Conference on Machine Learning （ICML-11）. Bellevue， WA： Omnipress， 2011： 393-400.

［3］XIA T， TAO D C， MEI T， et al. Multiview Spectral Embedding ［J］. IEEE Transactions on Systems， Man， and Cybernetics， Part B （Cybernetics）， 2010， 40（6）： 1438-1446.

［4］NIE F P， LI J， LI X L. Parameter-Free Auto-weighted Multiple Graph Learning： A Framework for Multiview Clustering and Semi-supervised Classification ［C］//IJCAI. Palo Alto： AAAI Press， 2016： 1881-1887.

［5］BUCAK S S， GUNSEL B. Incremental Subspace Learning via Non-negative Matrix Factorization ［J］. Pattern Recognition， 2009， 42（5）： 788-797.

［6］CHAUDHURI K， KAKADE S M， LIVESCU K， et al. Multi-view Clustering via Canonical Correlation Analysis ［C］//Proceedings of the 26th Annual International Conference on Machine Learning. New York： ACM， 2009： 129-136.

［7］CHEN Y Y， XIAO X L， ZHOU Y C. Multi-view Subspace Clustering via Simultaneously Learning the Representation Tensor and Affinity Matrix ［J］. Pattern Recognition， 2020， 106（5）： 1348-1353.

［8］SHAO W X， SHI X X， PHILIP S Y. Clustering on Multiple Incomplete Datasets via Collective Kernel Learning ［C］//2013 IEEE 13th International Conference on Data Mining. Piscataway， NJ： IEEE， 2013： 1181-1186.

［9］WEN J， ZHANG Z， XU Y， et al. Unified Embedding Alignment with Missing Views Inferring for Incomplete Multi-view Clustering ［C］//Proceedings of the AAAI Conference on Artificial Intelligence. Palo Alto： AAAI Press， 2019： 5393-5400.

［10］ZHANG W， DENG Z H， CHOI K S， et al. End-to-End Incomplete Multiview Fuzzy Clustering with Adaptive Missing View Imputation and Cooperative Learning ［J］. IEEE Transactions on Fuzzy Systems， 2022， 31（5）： 1-14.

［11］WEN J， YAN K， ZHANG Z， et al. Adaptive Graph Completion Based Incomplete Multi-view Clustering ［J］. IEEE Transactions on Multimedia， 2020， 23（2）： 2493-2504.

［12］LIU X W， LI M M， WANG L， et al. Multiple Kernel k-Means with Incomplete Kernels ［J］. IEEE Transactions on Pattern Analysis and Machine Intelligence， 2019， 42（5）： 1191-1204.

［13］GAO H， PENG Y， JIAN S. Incomplete Multi-view Clustering ［C］//International Conference on Intelligent Information Processing. Berlin： Springer， 2016： 245-255.

［14］LI S Y， JIANG Y， ZHOU Z H. Partial Multi-view Clustering ［C］//Proceedings of the AAAI Conference on Artificial Intelligence. Palo Alto： AAAI Press， 2014： 1968-1974.

［15］SHAO W， HE L， YU P S. Multiple Incomplete Views Clustering via Weighted Nonnegative Matrix Factorization with L2，1 Regularization ［C］//Joint European Conference on Machine Learning and Knowledge Discovery in Databases. Berlin： Springer， 2015： 318-334.

［16］ZHUGE W Z， TAO H， LUO T J， et al. Joint Representation Learning and Clustering： A Framework for Grouping Partial Multiview Data ［J］. IEEE Transactions on Knowledge and Data Engineering， 2020， 34（8）： 3826-3840.

［17］WANG H， ZONG L L， LIU B， et al. Spectral Perturbation Meets Incomplete Multi-view Data ［EB/OL］. （2019-03-31）［2023-02-10］. https：//arxiv.org/abs/1906.00098.

［18］ZHANG L， ZHAO Y， ZHU Z F， et al. Multi-view Missing Data Completion ［J］. IEEE Transactions on Knowledge and Data Engineering， 2018， 30（7）： 1296-1309.

［19］LIU J L， TENG S H， FEI L K， et al. A Novel Consensus Learning Approach to Incomplete Multi-view Clustering ［J］. Pattern Recognition， 2021， 115（7）： 1-13.

［20］FU X， HUANG K J， HONG M Y， et al. Scalable and Flexible Multiview MAX-VAR Canonical Correlation Analysis ［J］. IEEE Transactions on Signal Processing， 2017， 65（16）： 4150-4165.

［21］BARTELS R H， STEWART G W. Solution of the Matrix Equation AX+XB=C ［J］. Communications of the ACM， 1972， 15（9）： 820-826.

［22］WANG H， YANG Y， LIU B， et al. A Study of Graph-Based System for Multi-view Clustering ［J］. Knowledge-Based Systems， 2019， 163（5）： 1009-1019.

［23］RAI N， NEGI S， CHAUDHURY S， et al. Partial Multi-view Clustering Using Graph Regularized NMF ［C］//2016 23rd International Conference on Pattern Recognition （ICPR）. Piscataway， NJ： IEEE， 2016： 2192-2197.

［24］SHAO W X， HE L F， LU C T， et al. Online Multi-view Clustering with Incomplete Views ［C］//2016 IEEE International Conference on Big Data. Piscataway， NJ： IEEE， 2016： 1012-1017.

（責(zé)任編輯： 韓 嘯）

收稿日期： 2023-03-01.

第一作者簡(jiǎn)介： 趙翠娜（1997—）， 女， 漢族， 碩士研究生， 從事多視圖聚類(lèi)的研究， E-mail： 20071212564@stu.xidian.edu.cn.

通信作者簡(jiǎn)介： 楊有龍（1967—）， 男， 漢族， 博士， 教授， 從事數(shù)據(jù)分類(lèi)、 數(shù)據(jù)聚類(lèi)融合以及數(shù)據(jù)預(yù)測(cè)的研究， E-mail： ylyang@mail.xidian.edu.cn.

基金項(xiàng)目： 國(guó)家自然科學(xué)基金（批準(zhǔn)號(hào)： 61573266）和陜西省自然科學(xué)基礎(chǔ)研究計(jì)劃項(xiàng)目（批準(zhǔn)號(hào)： 2021JM-133）.