• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    基于潛在因子模型在子空間上的缺失值注意力聚類算法

    2024-01-09 04:01:42王嘯飛鮑勝利陳炯環(huán)
    計(jì)算機(jī)應(yīng)用 2023年12期
    關(guān)鍵詞:注意力比例權(quán)重

    王嘯飛,鮑勝利*,陳炯環(huán)

    基于潛在因子模型在子空間上的缺失值注意力聚類算法

    王嘯飛1,2,鮑勝利1,2*,陳炯環(huán)1,2

    (1.中國科學(xué)院 成都計(jì)算機(jī)應(yīng)用研究所,成都 610041; 2.中國科學(xué)院大學(xué),北京 100049)(?通信作者電子郵箱 baoshengli@casit.com.cn)

    針對(duì)傳統(tǒng)聚類算法在對(duì)缺失樣本進(jìn)行數(shù)據(jù)填充過程中存在樣本相似度難度量且填充數(shù)據(jù)質(zhì)量差的問題,提出一種基于潛在因子模型(LFM)在子空間上的缺失值注意力聚類算法。首先,通過LFM將原始數(shù)據(jù)空間映射到低維子空間,降低樣本的稀疏程度;其次,通過分解原空間得到的特征矩陣構(gòu)建不同特征間的注意力權(quán)重圖,優(yōu)化子空間樣本間的相似度計(jì)算方式,使樣本相似度的計(jì)算更準(zhǔn)確、泛化性更好;最后,為了降低樣本相似度計(jì)算過程中過高的時(shí)間復(fù)雜度,設(shè)計(jì)一種多指針的注意力權(quán)重圖進(jìn)行優(yōu)化。在4個(gè)按比例隨機(jī)缺失的數(shù)據(jù)集上進(jìn)行實(shí)驗(yàn)。在Hand-digits數(shù)據(jù)集上,相較于面向高維特征缺失數(shù)據(jù)的K近鄰插補(bǔ)子空間聚類(KISC)算法,在數(shù)據(jù)缺失比例為10%的情況下,所提算法的聚類準(zhǔn)確度(ACC)提高了2.33個(gè)百分點(diǎn),歸一化互信息(NMI)提高了2.77個(gè)百分點(diǎn),在數(shù)據(jù)缺失比例為20%的情況下,所提算法的ACC提高了0.39個(gè)百分點(diǎn),NMI提高了1.33個(gè)百分點(diǎn),驗(yàn)證了所提算法的有效性。

    潛在因子模型;缺失值;注意力機(jī)制;聚類算法;子空間

    0 引言

    隨著互聯(lián)網(wǎng)的快速發(fā)展以及企業(yè)數(shù)據(jù)業(yè)務(wù)的大規(guī)模擴(kuò)張,數(shù)據(jù)資源呈現(xiàn)爆炸式增長的趨勢,對(duì)數(shù)據(jù)挖掘、信息過濾和搜索的研究得到了廣泛關(guān)注。聚類算法作為數(shù)據(jù)挖掘技術(shù)的一種重要形式,能夠根據(jù)相似度將一組數(shù)據(jù)(通常表現(xiàn)成一組數(shù)據(jù)張量或者多維數(shù)據(jù)空間當(dāng)中的點(diǎn)集)聚類成簇。同一個(gè)簇內(nèi)的數(shù)據(jù)密切相關(guān),不同簇內(nèi)的數(shù)據(jù)存在一定的差異[1]。

    聚類算法作為一種無監(jiān)督的機(jī)器學(xué)習(xí)算法,可以在缺少先驗(yàn)信息的條件下,通過計(jì)算樣本間的相似度對(duì)數(shù)據(jù)進(jìn)行聚類。目前常見的聚類算法包括K均值(K-means)聚類算法[2]、高斯模型聚類[3]、DBSCAN(Density-Based Spatial Clustering of Applications with Noise)[4]、層次聚類[5]和子空間聚類[6]。目前聚類算法被廣泛應(yīng)用到多個(gè)領(lǐng)域,如生物醫(yī)學(xué)分析[7]、推薦系統(tǒng)[8]、工程優(yōu)化和社交網(wǎng)絡(luò)[9]等。

    聚類算法在聚類過程中需要衡量數(shù)據(jù)樣本間的相似程度,盡可能地保證相似樣本分類在一個(gè)簇;但是在現(xiàn)實(shí)世界的數(shù)據(jù)收集過程中,底層數(shù)據(jù)通常不完整,存在部分缺失值樣本。缺失值產(chǎn)生的原因可能有多種:1)人為因素,例如在收集調(diào)查的數(shù)據(jù)集中,調(diào)查參與的人員可能拒絕回答或者忽略某些敏感問題;2)非人為因素,如設(shè)備的故障、不正確的測量、數(shù)據(jù)采集過程中存在限制或數(shù)據(jù)的損壞都會(huì)導(dǎo)致產(chǎn)生缺失數(shù)據(jù)[10]。文獻(xiàn)[11]中闡述了數(shù)據(jù)的缺失是聚類算法過程中常見的一類數(shù)據(jù)質(zhì)量問題,有效缺失值填充可以減少數(shù)據(jù)缺失造成的聚類錯(cuò)誤,提高聚類的準(zhǔn)確度。如果采用不恰當(dāng)?shù)奶畛浞绞?,則數(shù)據(jù)填充只是為了在算法上運(yùn)行缺失數(shù)據(jù),對(duì)提高算法準(zhǔn)確度并沒有幫助;如果算法準(zhǔn)確度較低,則數(shù)據(jù)填充對(duì)后續(xù)工作也沒有幫助,仍然存在數(shù)據(jù)質(zhì)量問題。對(duì)存在缺失值的樣本進(jìn)行聚類的結(jié)果通常不準(zhǔn)確,因?yàn)闃颖鹃g的相似度度量受缺失值的影響導(dǎo)致樣本分類錯(cuò)誤。為了提高聚類算法準(zhǔn)確度,解決數(shù)據(jù)質(zhì)量問題,使用聚類算法對(duì)帶有缺失值的數(shù)據(jù)進(jìn)行聚類,準(zhǔn)確衡量缺失數(shù)據(jù)中樣本的相似度就顯得尤為重要。

    對(duì)于缺失數(shù)據(jù)的處理,比較簡單且常用的方式有直接刪除或者不處理缺失值;但是在聚類過程中必然會(huì)使樣本相似度的計(jì)算準(zhǔn)確率降低,導(dǎo)致聚類的精度降低。目前應(yīng)用較為廣泛的數(shù)據(jù)插補(bǔ)法主要有特殊值替換(均值替換、0替換和最大最小值替換等)、多重插補(bǔ)法、K最近鄰(K-Nearest Neighbors, KNN)插補(bǔ)法、期望最大化(Expectation Maximization, EM)插補(bǔ)法和其他機(jī)器學(xué)習(xí)算法等[12]。

    針對(duì)數(shù)據(jù)不完整的情況,對(duì)缺失數(shù)據(jù)進(jìn)行聚類分析引起了國內(nèi)外學(xué)者的廣泛討論。Albayrak等[13]通過極大似然估計(jì)填充缺失數(shù)據(jù),但需要一部分的完整數(shù)據(jù)進(jìn)行聚類,再對(duì)缺失數(shù)據(jù)進(jìn)行處理;如果數(shù)據(jù)的缺失位分布均勻,將很難篩選完整的數(shù)據(jù)進(jìn)行建模。Pattanodom等[14]通過隨機(jī)填充缺失數(shù)據(jù)構(gòu)建不同的聚類模型,再衡量模型的效果以篩選最佳的填充方式;然而該方法構(gòu)建的模型可解釋性很難被評(píng)估,且對(duì)計(jì)算量的要求過高,如果數(shù)據(jù)規(guī)模較大,將產(chǎn)生大量的子模型。Huayan等[15]通過EM算法結(jié)合K-means算法處理缺失數(shù)據(jù),但是EM算法存在收斂慢和對(duì)初始化依賴較嚴(yán)重的缺點(diǎn),所以存在較大的不穩(wěn)定性。喬永堅(jiān)等[16]提出了一種面向高維特征缺失數(shù)據(jù)的KNN插補(bǔ)子空間聚類(KNN Interpolation Subspace Clustering, KISC)算法,利用數(shù)據(jù)子空間的近鄰關(guān)系填充數(shù)據(jù);然而在樣本相似度計(jì)算上僅計(jì)算了子空間中系數(shù)矩陣的歐氏距離進(jìn)行填充,并未考慮基數(shù)矩陣的關(guān)聯(lián)關(guān)系。王一棠等[17]采用了模糊聚類和非線性回歸插補(bǔ)的算法填充缺失數(shù)據(jù),針對(duì)盾構(gòu)機(jī)數(shù)據(jù)的效果良好;但是應(yīng)用具備一定的領(lǐng)域限制,且實(shí)現(xiàn)較復(fù)雜。

    針對(duì)以上算法存在的問題,本文提出了一種基于潛在因子模型(Latent Factor Model, LFM)在子空間上的缺失值注意力聚類算法。LFM結(jié)合矩陣分解可以很好地處理數(shù)據(jù)稀疏問題[18]。該算法主要分為以下幾個(gè)部分:1)針對(duì)缺失數(shù)據(jù)樣本間相似度難以度量的問題,通過LFM將原始數(shù)據(jù)空間映射到子空間,緩解樣本的稀疏性,且子空間包含樣本的結(jié)構(gòu)特征信息,使得樣本相似度得以計(jì)算且具備一定可解釋性。2)在樣本相似度計(jì)算方式上引入特征矩陣進(jìn)行權(quán)重注意力分配,使得樣本相似度的度量方式更精確,插補(bǔ)的泛化性更好。3)為了緩解在特征點(diǎn)對(duì)點(diǎn)相似度計(jì)算方式上高額的時(shí)間復(fù)雜度問題,改進(jìn)了注意力權(quán)重矩陣的結(jié)構(gòu),使時(shí)間復(fù)雜度達(dá)到了指數(shù)級(jí)別的優(yōu)化。

    1 基于LFM的缺失值注意力聚類算法

    1.1 問題定義

    表1符號(hào)和定義

    Tab.1 Symbols and definitions

    1.2 算法框架

    圖1 本文算法的框架

    1.3 LFM子空間分解

    1.3.1求解方法

    1.3.2優(yōu)化方法

    1.4 樣本間的權(quán)重注意力相似度算法

    1.4.1特征相似度權(quán)重圖

    通過計(jì)算不同特征的余弦相似度可以得到特征間的注意力權(quán)重值,不同特征的注意力權(quán)重可以構(gòu)建一個(gè)樣本注意力權(quán)重矩陣,它的結(jié)構(gòu)如圖2所示。

    圖2 樣本注意力權(quán)重矩陣的結(jié)構(gòu)

    1.4.2樣本注意力相似度計(jì)算方法

    圖3 樣本相似度計(jì)算方式

    如果相似集對(duì)應(yīng)位置存在缺失,則計(jì)算公式如式(13)所示:

    1.5 特征權(quán)重圖的結(jié)構(gòu)優(yōu)化

    算法1 相似樣本集算法。

    圖4 多指針相似度權(quán)重圖

    2 實(shí)驗(yàn)與結(jié)果分析

    2.1 實(shí)驗(yàn)數(shù)據(jù)

    實(shí)驗(yàn)通過4個(gè)數(shù)據(jù)集驗(yàn)證本文算法的有效性,包括兩個(gè)圖像分類數(shù)據(jù)集和兩個(gè)小樣本標(biāo)準(zhǔn)分類數(shù)據(jù)集,數(shù)據(jù)集信息如表2所示。

    表2 數(shù)據(jù)集信息

    其中Hand-digits和COIL20為兩個(gè)被廣泛使用的圖像分類數(shù)據(jù)集,分別為手寫數(shù)字的圖像數(shù)據(jù)集和多個(gè)物體不同角度拍攝的圖像數(shù)據(jù)集[16]。Breast-cancer和Wine為Sklearn開源機(jī)器學(xué)習(xí)工具庫中的標(biāo)準(zhǔn)分類數(shù)據(jù)集。

    2.2 實(shí)驗(yàn)設(shè)置和說明

    實(shí)驗(yàn)在Ubuntu18.04,CPU 2.90 GHz 16 GB內(nèi)存 GPU RTX3060 12 GB顯存上進(jìn)行,其中深度學(xué)習(xí)框架采用Torch,對(duì)數(shù)據(jù)的預(yù)處理和分析采用numpy和pandas進(jìn)行。

    同時(shí)為了驗(yàn)證多指針相似度權(quán)重圖對(duì)算法時(shí)間復(fù)雜度的提升,通過計(jì)算相似度算法每一個(gè)epoch數(shù)據(jù)插補(bǔ)的運(yùn)行時(shí)間進(jìn)行衡量,最終結(jié)果取10次運(yùn)行時(shí)間的平均值。

    2.3 評(píng)價(jià)指標(biāo)

    為了充分驗(yàn)證算法的有效性,實(shí)驗(yàn)選用聚類準(zhǔn)確度(Accuracy,ACC)和歸一化互信息(Normalized Mutual Information, NMI)作為評(píng)測指標(biāo),其中:ACC可以直接衡量聚類的準(zhǔn)確度,是常用的聚類度量指標(biāo);相較于ACC,NMI通過比較兩個(gè)聚類結(jié)果的相似程度,它的值域是[0,1],且NMI值不受簇類標(biāo)簽排列的影響[22]。NMI的計(jì)算公式如式(16)所示:

    2.4 實(shí)驗(yàn)結(jié)果和分析

    表3展示了不同數(shù)據(jù)集分別在ACC和NMI指標(biāo)上的實(shí)驗(yàn)結(jié)果。

    表3不同算法聚類結(jié)果的ACC和NMI比較 單位:%

    Tab.3 Comparison of ACC and NMI in clustering results between different algorithms unit:%

    由表3可以發(fā)現(xiàn):1)在Hand-digits數(shù)據(jù)集上,當(dāng)缺失比例為10%~20%時(shí),本文算法在子空間上的ACC和NMI均高于KISC算法和特殊值填充的K-means算法;相較于次優(yōu)的KISC算法,在數(shù)據(jù)缺失比例為10%的情況下,本文算法的ACC提高了2.33個(gè)百分點(diǎn),NMI提高了2.77個(gè)百分點(diǎn),在數(shù)據(jù)缺失比例為20%的情況下,本文算法的ACC提高了0.39個(gè)百分點(diǎn),NMI提高了1.33個(gè)百分點(diǎn);當(dāng)缺失比例為30%~40%時(shí),本文算法在原始空間的聚類效果優(yōu)于本文算法在子空間的聚類效果,說明當(dāng)缺失比例過大時(shí),子空間的特征結(jié)構(gòu)被損壞,聚類精度降低;同時(shí),在該缺失比例下本文算法在原始空間上的聚類效果優(yōu)于KISC算法和特殊值填充的K-means算法在原始空間的聚類效果,說明本文算法采用的子空間特征注意力的缺失值填充算法是有效的。2)在COIL2數(shù)據(jù)集上,本文算法在子空間上的ACC值均高于KISC算法和特殊值填充的K-means算法,說明了本文算法的先進(jìn)性;但是NMI指標(biāo)在缺失比例為30%時(shí),本文算法相較于KISC算法NMI指標(biāo)精度有所下降,在缺失比例為40%時(shí),本文算法在原始空間上的NMI指標(biāo)最優(yōu),可以發(fā)現(xiàn)當(dāng)缺失比例為30%時(shí)本文算法在原始空間的NMI指標(biāo)和KISC算法在子空間的NMI指標(biāo)差距較小,進(jìn)一步說明了子空間特征注意力的缺失值填充算法的有效性。3)在Breast-cancer和Wine數(shù)據(jù)集上,本文算法的ACC值均高于KISC算法和特殊值填充的K-means算法,只有當(dāng)Wine數(shù)據(jù)集缺失比例為40%時(shí),本文算法的NMI值低于0填充的K-means算法。進(jìn)一步發(fā)現(xiàn),當(dāng)缺失比例擴(kuò)大時(shí),本文算法和其他算法的差距逐漸縮小,如在Wine數(shù)據(jù)集上,當(dāng)缺失比例位于10%~30%,本文算法的ACC和NMI指標(biāo)均為最優(yōu);但當(dāng)缺失比例達(dá)到40%,本文算法的NMI指標(biāo)相較于K-means算法低了1.39個(gè)百分點(diǎn),說明在缺失比例過大的情況下,子空間對(duì)特征的整體概括能力有所下降。所以本文算法在缺失比例位于10%~30%區(qū)間具備明顯優(yōu)勢。

    3 結(jié)語

    本文針對(duì)傳統(tǒng)聚類算法在對(duì)缺失樣本進(jìn)行數(shù)據(jù)填充過程中存在樣本相似度難度量且填充數(shù)據(jù)質(zhì)量差的問題,提出了一種基于LFM在子空間上的缺失值注意力聚類算法。該算法通過LFM解決了因?yàn)闃颖鞠∈栊詫?dǎo)致相似距離無法度量、精度較低的問題;同時(shí)在樣本相似度的計(jì)算上考慮到子空間特征矩陣之間的相關(guān)性,并將它引入相似度計(jì)算方式,提高了樣本相似度計(jì)算方式的準(zhǔn)確度和泛化性。最后在多個(gè)數(shù)據(jù)集上通過ACC和NMI指標(biāo)驗(yàn)證了算法的有效性和可靠性。同時(shí)實(shí)驗(yàn)中發(fā)現(xiàn):當(dāng)數(shù)據(jù)缺失比例增大時(shí),子空間對(duì)特征信息的概括能力有所降低;當(dāng)數(shù)據(jù)缺失比例過大時(shí),當(dāng)前算法的聚類精度會(huì)有所下降。如何在數(shù)據(jù)缺失比例過大的情況下有效提高子空間下數(shù)據(jù)聚類算法的精度,需要進(jìn)一步研究。

    [1] AHALYA G,PANDEY H M. Data clustering approaches survey and analysis [C]// Proceedings of the 2015 International Conference on Futuristic Trends on Computational Analysis and Knowledge Management. Piscataway: IEEE,2015: 532-537.

    [2] XU H, YAO S, LI Q, et al. An improved K-means clustering algorithm[C]// Proceedings of the 2020 IEEE 5th International Symposium on Smart and Wireless Systems within the Conferences on Intelligent Data Acquisition and Advanced Computing Systems. Piscataway: IEEE, 2020: 1-5.

    [3] 王一妹,劉輝,宋鵬,等.基于高斯混合模型聚類的風(fēng)電場短期功率預(yù)測方法[J].電力系統(tǒng)自動(dòng)化,2021,45(7):37-43.(WANG Y M, LIU H, SONG P, et al. Short-term power forecasting method of wind farm based on Gaussian mixture model clustering [J]. Power System Automation, 2021,45(7): 37-43.)

    [4] JEBARI S, SMITI A, LOUATI A.AF-DBSCAN: an unsupervised automatic fuzzy clustering method based on DBSCAN approach[C]// Proceedings of the 2019 IEEE International Work Conference on Bioinspired Intelligence. Piscataway: IEEE,2019:1-6.

    [5] RONG Y, LIU Y.Staged text clustering algorithm based on K-means and hierarchical agglomeration clustering[C]// Proceedings of the 2020 IEEE International Conference on Artificial Intelligence and Computer Applications. Piscataway: IEEE,2020:124-127.

    [6] 任麗娜,秦永彬,黃瑞章,等.基于多層子空間語義融合的深度文本聚類[J].計(jì)算機(jī)應(yīng)用研究, 2023,40(1):70-74,79.(REN L N, QIN Y B, HUANG R Z,et al. Deep document clustering model via multi-layer subspace semantic fusion [J]. Application Research of Computers, 2023,40(1):70-74,79.)

    [7] TAN L, GU S, WU C, et al. K-means clustering method based on node similarity in traditional Chinese medicine efficacy[C]// Proceedings of the 2020 39th Chinese Control Conference. Piscataway: IEEE,2020:742-747.

    [8] YI Y. Design of intelligent recommendation APP for eco-tourism routes based on popular data clustering of points of interest[C]// Proceedings of the 2021 2nd International Conference on Smart Electronics and Communication. Piscataway: IEEE,2021: 1270-1273.

    [9] SHRUTHI S, JOSE A M, ANUROOP P R. Improvisation of cluster efficiency using min-cut algorithm in social networks[C]// Proceedings of the 2017 International Conference on Communication and Signal Processing. Piscataway: IEEE,2017:1641-1644.

    [10] LIU Q,HAUSWIRTH M. A provenance meta learning framework for missing data handling methods selection[C]// Proceedings of the 2020 11th IEEE Annual Ubiquitous Computing, Electronics & Mobile Communication Conference. Piscataway: IEEE,2020: 349-358.

    [11] 徐宇明,陳誠,熊赟,等.APT-KNN:一種面向分類問題的高效缺失值填充算法[J].計(jì)算機(jī)應(yīng)用與軟件,2011,28(4):135-139.(XU Y M, CHEN C, XIONG Y,et al. APT-KNN: an efficient missing value imputation method oriented toward classification issue [J]. Computer Applications and Software, 2011, 28 (4): 135-139.)

    [12] 徐鴻艷,孫云山,秦琦琳,等.缺失數(shù)據(jù)插補(bǔ)方法性能比較分析[J].軟件工程,2021,24(11):11-14.(XU H Y, SUN Y S, QIN Q L, et al. Comparative analysis of the performance of interpolation methods for of missing data[J]. Software Engineering, 2021,24 (11): 11-14.)

    [13] ALBAYRAK M, TURHAN K, KURT B. A missing data imputation approach using clustering and maximum likelihood estimation[C]// Proceedings of the 2017 Medical Technologies National Congress. Piscataway:IEEE, 2017:1-4.

    [14] PATTANODOM, IAM-ON N, BOONGOEN T. Clustering data with the presence of missing values by ensemble approach[C]// Proceedings of the 2016 Second Asian Conference on Defence Technology. Piscataway: IEEE, 2016: 151-156.

    [15] HUAYAN S, YELI L, RUNFEI Z, et al. Accelerating EM missing data filling algorithm based on the K-means[C]// Proceedings of the 2018 4th Annual International Conference on Network and Information Systems for Computers. Piscataway: IEEE, 2018:401-406.

    [16] 喬永堅(jiān),劉曉琳,白亮.面向高維特征缺失數(shù)據(jù)的K最近鄰插補(bǔ)子空間聚類算法[J].計(jì)算機(jī)應(yīng)用,2022,42(11):3322-3329.(QIAO Y J, LIU X L, BAI L. K-nearest neighbor interpolation subspace clustering algorithm for high-dimensional data with feature missing [J]. Journal of Computer Application, 2022,42(11): 3322-3329.)

    [17] 王一棠,龐勇,張立勇,等.面向盾構(gòu)機(jī)不完整數(shù)據(jù)的模糊聚類與非線性回歸填補(bǔ)[J].機(jī)械工程學(xué)報(bào), 2023, 59(12): 28-37.(WANG Y T, PANG Y, ZHANG L Y ,et al. Fuzzy clustering and nonlinear regression filling for incomplete data of shield machine [J]. Journal of Mechanical Engineering, 2023, 59(12): 28-37.)

    [18] 陳曄,劉志強(qiáng).基于LFM矩陣分解的推薦算法優(yōu)化研究[J].計(jì)算機(jī)工程與應(yīng)用,2019,55(2):116-120.(CHEN Y, LIU Z Q. Research on improved recommendation algorithm based on LFM matrix factorization [J]. Computer Engineering and Applications, 2019,55(2): 116-120.)

    [19] XIONG Y, LI H. Collaborative filtering algorithm in pictures recommendation based on SVD[C]// Proceedings of the 2018 International Conference on Robots & Intelligent System. Piscataway: IEEE, 2018:262-265.

    [20] 楊鏌. 基于偏置LFM和LSH的混合電影推薦算法研究[D].武漢:華中師范大學(xué),2021:13-15.(YANG M. Research on hybrid movie recommendation algorithm based on bias LFM and LSH[D]. Wuhan: Central China Normal University, 2021: 13-15.)

    [21] GUO S, LI C. Hybrid recommendation algorithm based on user behavior[C]// Proceedings of the 2020 IEEE 9th Joint International Information Technology and Artificial Intelligence Conference. Piscataway: IEEE, 2020:2242-2246.

    [22] 龍建武,王強(qiáng).反向近鄰構(gòu)造連通圖的聚類算法[J/OL].計(jì)算機(jī)科學(xué)與探索:1-15 [2023-02-07]. http://kns.cnki.net/kcms/detail/11.5602.TP.20220930.1744.006.html.(LONG J W, WANG Q. Clustering algorithm for constructing connected graphs by reverse nearest neighbors [J/OL]. Journal of Frontiers of Computer Science and Technology: 1-15 [2023-02-07]. http://kns.cnki.net/kcms/detail/11.5602.TP.20220930.1744.006.html.)

    Missing value attention clustering algorithm based on latent factor model in subspace

    WANG Xiaofei1,2, BAO Shengli1,2*, CHEN Jionghuan1,2

    (1,,610041,;2,100049,)

    To solve the problems that traditional clustering algorithms are difficult to measure the sample similarity and have poor quality of filled data in the process of filling missing samples, a missing value attention clustering algorithm based on Latent Factor Model (LFM) in subspace was proposed. First, LFM was used to map the original data space to a low dimensional subspace to reduce the sparsity of samples. Then, the attention weight graph between different features was constructed by decomposing the feature matrix obtained from the original space, and the similarity calculation method between subspace samples was optimized to make the calculation of sample similarity more accurate and more generalized. Finally, to reduce the high time complexity in the process of sample similarity calculation, a multi-pointer attention weight graph was designed for optimization. The algorithm was tested on four proportional random missing datasets. On the Hand-digits dataset, compared with the KISC (K-nearest neighbors Interpolation Subspace Clustering) algorithm for high-dimensional feature missing data, when the missing data was 10%, the Accuracy (ACC) of the proposed algorithm was improved by 2.33 percentage points and the Normalized Mutual Information (NMI) was improved by 2.77 percentage points; when the missing data was 20%, the ACC of the proposed algorithm was improved by 0.39 percentage points, and the NMI was improved by 1.33 percentage points, which verified the effectiveness of the proposed algorithm.

    Latent Factor Model (LFM); missing value; attention mechanism; clustering algorithm; subspace

    This work is partially supported by Western Young Scholars Project of Chinese Academy of Sciences (RRJZ2021003).

    WANG Xiaofei, born in 1997, M. S. candidate. His research interests include machine learning, recommendation algorithm.

    BAO Shengli, born in 1973, Ph. D., research fellow, His research interests include software engineering, big data.

    CHEN Jionghuan, born in 1998, M. S. candidate. His research interests include machine learning, big data.

    TP391.1

    A

    1001-9081(2023)12-3772-07

    10.11772/j.issn.1001-9081.2022121838

    2022?12?12;

    2023?02?13;

    2023?02?16。

    中國科學(xué)院西部青年學(xué)者項(xiàng)目(RRJZ2021003)。

    王嘯飛(1997—),男,湖南慈利人,碩士研究生,主要研究方向:機(jī)器學(xué)習(xí)、推薦算法;鮑勝利(1973—),男,安徽黃山人,研究員,博士,主要研究方向:軟件工程、大數(shù)據(jù);陳炯環(huán)(1998—),男,山東濰坊人,碩士研究生,主要研究方向:機(jī)器學(xué)習(xí)、大數(shù)據(jù)。

    猜你喜歡
    注意力比例權(quán)重
    讓注意力“飛”回來
    人體比例知多少
    權(quán)重常思“浮名輕”
    為黨督政勤履職 代民行權(quán)重?fù)?dān)當(dāng)
    基于公約式權(quán)重的截短線性分組碼盲識(shí)別方法
    “揚(yáng)眼”APP:讓注意力“變現(xiàn)”
    A Beautiful Way Of Looking At Things
    按事故責(zé)任比例賠付
    紅土地(2016年7期)2016-02-27 15:05:54
    限制支付比例只是治標(biāo)
    層次分析法權(quán)重的計(jì)算:基于Lingo的數(shù)學(xué)模型
    河南科技(2014年15期)2014-02-27 14:12:51
    嫁个100分男人电影在线观看| 亚洲精品中文字幕一二三四区| 国产欧美日韩一区二区精品| 黑人欧美特级aaaaaa片| 亚洲色图av天堂| 精品人妻1区二区| 在线免费观看的www视频| 欧美精品人与动牲交sv欧美| 大片电影免费在线观看免费| 欧美日韩精品网址| 午夜福利乱码中文字幕| 1024视频免费在线观看| 国产精品 欧美亚洲| 热99国产精品久久久久久7| 99国产极品粉嫩在线观看| 亚洲精品粉嫩美女一区| 91国产中文字幕| 麻豆国产av国片精品| 亚洲免费av在线视频| 成人精品一区二区免费| 亚洲 国产 在线| 久久久久精品人妻al黑| 18禁黄网站禁片午夜丰满| xxxhd国产人妻xxx| 纯流量卡能插随身wifi吗| 久久久久精品人妻al黑| 精品国产一区二区久久| 9色porny在线观看| 少妇粗大呻吟视频| 女性生殖器流出的白浆| 久久精品亚洲av国产电影网| 18禁裸乳无遮挡动漫免费视频| 脱女人内裤的视频| 中文字幕高清在线视频| 免费在线观看影片大全网站| 国产亚洲欧美在线一区二区| 久久久久久亚洲精品国产蜜桃av| 99国产精品一区二区三区| 色在线成人网| 大型av网站在线播放| 色综合欧美亚洲国产小说| 又黄又粗又硬又大视频| 热re99久久精品国产66热6| 两个人免费观看高清视频| 亚洲av第一区精品v没综合| 成人国语在线视频| 美女国产高潮福利片在线看| a级片在线免费高清观看视频| 久久精品91无色码中文字幕| 黑人欧美特级aaaaaa片| www.自偷自拍.com| 午夜福利免费观看在线| 精品一区二区三区四区五区乱码| 欧美人与性动交α欧美软件| 黄色女人牲交| 后天国语完整版免费观看| 国产在线精品亚洲第一网站| 国产无遮挡羞羞视频在线观看| 在线免费观看的www视频| 91国产中文字幕| 国产在线精品亚洲第一网站| 韩国精品一区二区三区| 99国产综合亚洲精品| 日本vs欧美在线观看视频| 看黄色毛片网站| 嫩草影视91久久| 日韩熟女老妇一区二区性免费视频| 99香蕉大伊视频| 国精品久久久久久国模美| 欧美久久黑人一区二区| 丝袜在线中文字幕| 天天添夜夜摸| 99久久综合精品五月天人人| 又紧又爽又黄一区二区| 十八禁网站免费在线| 又大又爽又粗| 黄色丝袜av网址大全| 国产亚洲av高清不卡| 欧美老熟妇乱子伦牲交| 一区在线观看完整版| 怎么达到女性高潮| 老熟妇仑乱视频hdxx| 美女高潮到喷水免费观看| 国产欧美日韩综合在线一区二区| 99久久99久久久精品蜜桃| 国产精品影院久久| 大型av网站在线播放| 多毛熟女@视频| 亚洲专区国产一区二区| 美女高潮喷水抽搐中文字幕| 三级毛片av免费| netflix在线观看网站| 国产男靠女视频免费网站| 极品教师在线免费播放| 国产成人啪精品午夜网站| 黄色成人免费大全| 亚洲精品美女久久久久99蜜臀| 欧美色视频一区免费| 国产精品电影一区二区三区 | 久久久久久亚洲精品国产蜜桃av| av免费在线观看网站| 欧美午夜高清在线| 女警被强在线播放| 高清欧美精品videossex| 国产真人三级小视频在线观看| a级毛片在线看网站| 正在播放国产对白刺激| 少妇粗大呻吟视频| 国产成人精品无人区| 国产成人啪精品午夜网站| 久久香蕉精品热| 一本一本久久a久久精品综合妖精| 欧美日韩视频精品一区| 女人爽到高潮嗷嗷叫在线视频| 亚洲国产毛片av蜜桃av| 久久精品91无色码中文字幕| 夜夜躁狠狠躁天天躁| 午夜视频精品福利| 一个人免费在线观看的高清视频| 午夜成年电影在线免费观看| 久久久久久久国产电影| 亚洲七黄色美女视频| www.熟女人妻精品国产| 好男人电影高清在线观看| 91av网站免费观看| 制服人妻中文乱码| 国产男靠女视频免费网站| 在线看a的网站| 国产精品永久免费网站| 12—13女人毛片做爰片一| 亚洲av电影在线进入| 久久精品国产99精品国产亚洲性色 | 久久久久精品人妻al黑| 亚洲第一欧美日韩一区二区三区| 精品国产超薄肉色丝袜足j| 成人免费观看视频高清| 欧美日韩亚洲国产一区二区在线观看 | 丁香欧美五月| 欧美成狂野欧美在线观看| 真人做人爱边吃奶动态| 国产精品香港三级国产av潘金莲| 波多野结衣一区麻豆| 色播在线永久视频| 一区福利在线观看| 一进一出抽搐动态| 下体分泌物呈黄色| 岛国毛片在线播放| 美女扒开内裤让男人捅视频| 久久久久久人人人人人| 大陆偷拍与自拍| av网站在线播放免费| 亚洲熟女毛片儿| 国产一区二区激情短视频| 狂野欧美激情性xxxx| 侵犯人妻中文字幕一二三四区| 一本一本久久a久久精品综合妖精| 国产成人av教育| 久久精品亚洲熟妇少妇任你| 日韩欧美三级三区| 成年女人毛片免费观看观看9 | 亚洲七黄色美女视频| 制服人妻中文乱码| 精品久久久久久,| 免费人成视频x8x8入口观看| 久久 成人 亚洲| tube8黄色片| 色精品久久人妻99蜜桃| 国产激情欧美一区二区| 欧美黑人精品巨大| 极品人妻少妇av视频| 国产精品国产高清国产av | 精品卡一卡二卡四卡免费| 日本欧美视频一区| 99香蕉大伊视频| 热99国产精品久久久久久7| 免费在线观看完整版高清| 国产成人一区二区三区免费视频网站| 国产精品国产高清国产av | 欧美人与性动交α欧美软件| 成年人免费黄色播放视频| 国产精品久久久人人做人人爽| 国产精品.久久久| 中文字幕色久视频| 国产精品综合久久久久久久免费 | av在线播放免费不卡| 欧美日韩成人在线一区二区| 国产精品久久久久成人av| 亚洲成人国产一区在线观看| 久久精品国产99精品国产亚洲性色 | av福利片在线| 日韩人妻精品一区2区三区| 欧美精品av麻豆av| 亚洲国产精品sss在线观看 | 欧美成人免费av一区二区三区 | 大型av网站在线播放| 黄色怎么调成土黄色| 免费看a级黄色片| 久久精品成人免费网站| 香蕉久久夜色| 国产欧美日韩精品亚洲av| 国产麻豆69| 757午夜福利合集在线观看| 美女高潮喷水抽搐中文字幕| 欧美另类亚洲清纯唯美| 悠悠久久av| 狠狠狠狠99中文字幕| 精品一区二区三区av网在线观看| 一a级毛片在线观看| 一区二区三区精品91| 午夜91福利影院| 亚洲精品一二三| 一进一出抽搐动态| 午夜两性在线视频| 大陆偷拍与自拍| 精品第一国产精品| 午夜福利乱码中文字幕| 女警被强在线播放| 热re99久久精品国产66热6| 中文字幕人妻丝袜制服| 啦啦啦在线免费观看视频4| 国产一区在线观看成人免费| 久久久精品国产亚洲av高清涩受| 国产无遮挡羞羞视频在线观看| 性色av乱码一区二区三区2| 精品少妇久久久久久888优播| 亚洲美女黄片视频| 欧美成狂野欧美在线观看| 免费日韩欧美在线观看| 啦啦啦 在线观看视频| 熟女少妇亚洲综合色aaa.| 欧美 日韩 精品 国产| 国产成人精品久久二区二区91| 久久人人爽av亚洲精品天堂| 99riav亚洲国产免费| 久久精品国产综合久久久| 少妇被粗大的猛进出69影院| e午夜精品久久久久久久| 亚洲欧美激情在线| 大型av网站在线播放| 黄色毛片三级朝国网站| 午夜免费观看网址| 国产精品久久电影中文字幕 | 十八禁网站免费在线| 99久久综合精品五月天人人| 激情视频va一区二区三区| 国产不卡av网站在线观看| 两人在一起打扑克的视频| 午夜两性在线视频| 亚洲av熟女| 少妇猛男粗大的猛烈进出视频| 午夜福利一区二区在线看| 免费在线观看亚洲国产| 丰满饥渴人妻一区二区三| 中文字幕人妻丝袜制服| 久久国产亚洲av麻豆专区| 精品人妻在线不人妻| 亚洲成a人片在线一区二区| 欧美日韩黄片免| 亚洲一码二码三码区别大吗| 欧美乱色亚洲激情| 日韩欧美三级三区| x7x7x7水蜜桃| 色婷婷久久久亚洲欧美| 亚洲成人国产一区在线观看| 天堂俺去俺来也www色官网| 涩涩av久久男人的天堂| 女性生殖器流出的白浆| 精品午夜福利视频在线观看一区| 亚洲专区字幕在线| 久久国产乱子伦精品免费另类| 在线免费观看的www视频| 99精品久久久久人妻精品| 国产激情欧美一区二区| 国产亚洲精品第一综合不卡| 99精品欧美一区二区三区四区| 99热国产这里只有精品6| 精品国产国语对白av| avwww免费| 在线观看免费日韩欧美大片| 国产1区2区3区精品| 日韩成人在线观看一区二区三区| 国产精品自产拍在线观看55亚洲 | 少妇猛男粗大的猛烈进出视频| 十八禁高潮呻吟视频| 国产伦人伦偷精品视频| 狂野欧美激情性xxxx| 欧美不卡视频在线免费观看 | 下体分泌物呈黄色| 国产蜜桃级精品一区二区三区 | 一级毛片高清免费大全| 伊人久久大香线蕉亚洲五| 欧美日韩中文字幕国产精品一区二区三区 | 欧美日韩亚洲国产一区二区在线观看 | 99国产精品一区二区三区| 久久国产乱子伦精品免费另类| 满18在线观看网站| 正在播放国产对白刺激| 丰满饥渴人妻一区二区三| 亚洲久久久国产精品| 国产精品成人在线| 怎么达到女性高潮| 欧美成人午夜精品| 午夜福利,免费看| 中文欧美无线码| 高潮久久久久久久久久久不卡| 999久久久精品免费观看国产| 亚洲av成人av| 国产精品 国内视频| 亚洲精品国产一区二区精华液| 欧美精品啪啪一区二区三区| 色在线成人网| 欧美精品人与动牲交sv欧美| 正在播放国产对白刺激| 国产亚洲精品久久久久久毛片 | 黄片播放在线免费| 国产精品一区二区精品视频观看| 久久国产精品男人的天堂亚洲| 大型av网站在线播放| 欧美成人免费av一区二区三区 | 黄色成人免费大全| 他把我摸到了高潮在线观看| 欧美日韩成人在线一区二区| 欧美大码av| 午夜视频精品福利| 水蜜桃什么品种好| 亚洲精品美女久久久久99蜜臀| 日韩一卡2卡3卡4卡2021年| 丁香六月欧美| 999精品在线视频| 亚洲精品美女久久av网站| 青草久久国产| 美女福利国产在线| 999精品在线视频| 黄色视频不卡| 女人精品久久久久毛片| www日本在线高清视频| 精品一品国产午夜福利视频| a在线观看视频网站| 黄色a级毛片大全视频| 麻豆乱淫一区二区| 日本精品一区二区三区蜜桃| 日韩 欧美 亚洲 中文字幕| 热99久久久久精品小说推荐| 亚洲男人天堂网一区| 99在线人妻在线中文字幕 | 天堂中文最新版在线下载| 在线看a的网站| 一级片免费观看大全| 99久久精品国产亚洲精品| 日韩欧美在线二视频 | 亚洲国产看品久久| 久久99一区二区三区| 大码成人一级视频| 国产精品99久久99久久久不卡| 黄色视频不卡| 亚洲欧美激情综合另类| 久久精品亚洲熟妇少妇任你| 精品一品国产午夜福利视频| 亚洲一卡2卡3卡4卡5卡精品中文| 亚洲av成人一区二区三| 国产淫语在线视频| 91国产中文字幕| 国产成人精品久久二区二区免费| av欧美777| 国产成人影院久久av| 在线观看免费高清a一片| 国产成人系列免费观看| 性色av乱码一区二区三区2| 国产精品一区二区在线不卡| 大型黄色视频在线免费观看| 69av精品久久久久久| 欧美最黄视频在线播放免费 | 日韩免费高清中文字幕av| 精品一区二区三卡| 日韩大码丰满熟妇| 真人做人爱边吃奶动态| 国产一区在线观看成人免费| 亚洲人成电影观看| 香蕉久久夜色| 精品乱码久久久久久99久播| 精品久久久久久电影网| 亚洲自偷自拍图片 自拍| 一进一出好大好爽视频| 午夜精品久久久久久毛片777| 欧美人与性动交α欧美软件| 免费在线观看完整版高清| 成人国语在线视频| 欧美成人午夜精品| 精品国产一区二区三区久久久樱花| 午夜成年电影在线免费观看| 国产高清视频在线播放一区| 亚洲国产精品一区二区三区在线| 在线播放国产精品三级| 国产精品影院久久| 一级片免费观看大全| 看黄色毛片网站| av视频免费观看在线观看| bbb黄色大片| 久热爱精品视频在线9| 美女高潮到喷水免费观看| 欧美国产精品一级二级三级| 国产精品综合久久久久久久免费 | 757午夜福利合集在线观看| 亚洲精品久久成人aⅴ小说| 后天国语完整版免费观看| 欧美人与性动交α欧美软件| 亚洲成av片中文字幕在线观看| 久久草成人影院| 欧美亚洲日本最大视频资源| 最近最新中文字幕大全免费视频| 怎么达到女性高潮| 精品视频人人做人人爽| 一区在线观看完整版| 老熟妇乱子伦视频在线观看| 久久久国产精品麻豆| 免费av中文字幕在线| 亚洲少妇的诱惑av| 久久久久国内视频| 又黄又粗又硬又大视频| 国产一区二区三区综合在线观看| 大码成人一级视频| 悠悠久久av| 1024视频免费在线观看| 一本综合久久免费| 欧美日本中文国产一区发布| 校园春色视频在线观看| 天天躁夜夜躁狠狠躁躁| 日韩大码丰满熟妇| 久久精品亚洲精品国产色婷小说| 99在线人妻在线中文字幕 | 久久国产精品男人的天堂亚洲| 一区二区三区精品91| 又黄又粗又硬又大视频| 91精品三级在线观看| 在线播放国产精品三级| 亚洲第一av免费看| 国产精品成人在线| 久久精品亚洲熟妇少妇任你| 亚洲欧洲精品一区二区精品久久久| netflix在线观看网站| 欧美激情 高清一区二区三区| 精品欧美一区二区三区在线| 丝袜在线中文字幕| av超薄肉色丝袜交足视频| 搡老熟女国产l中国老女人| 久久久久精品人妻al黑| 在线播放国产精品三级| 国产一区有黄有色的免费视频| 女警被强在线播放| 麻豆乱淫一区二区| 亚洲av熟女| 女人爽到高潮嗷嗷叫在线视频| 亚洲熟妇中文字幕五十中出 | 色综合欧美亚洲国产小说| 嫩草影视91久久| 中文欧美无线码| 777久久人妻少妇嫩草av网站| 老司机影院毛片| 人妻丰满熟妇av一区二区三区 | 在线观看午夜福利视频| 中文字幕精品免费在线观看视频| 岛国毛片在线播放| 亚洲欧洲精品一区二区精品久久久| 免费黄频网站在线观看国产| 欧美人与性动交α欧美精品济南到| 国产精品乱码一区二三区的特点 | 欧美国产精品va在线观看不卡| 国产午夜精品久久久久久| 欧美国产精品一级二级三级| 在线观看一区二区三区激情| 国产精品秋霞免费鲁丝片| 欧美亚洲日本最大视频资源| 久久精品91无色码中文字幕| 成人永久免费在线观看视频| 国产一区二区激情短视频| 丰满迷人的少妇在线观看| 少妇被粗大的猛进出69影院| 欧美黄色淫秽网站| 亚洲伊人色综图| 99香蕉大伊视频| 久久香蕉精品热| av超薄肉色丝袜交足视频| 国产免费男女视频| 黄色视频,在线免费观看| 国产精品电影一区二区三区 | 国产精品一区二区在线不卡| 精品一品国产午夜福利视频| 18禁裸乳无遮挡动漫免费视频| 99久久人妻综合| 在线观看免费午夜福利视频| 国产亚洲一区二区精品| 久久天躁狠狠躁夜夜2o2o| 成年版毛片免费区| 在线看a的网站| 国产精品乱码一区二三区的特点 | 色老头精品视频在线观看| 天天添夜夜摸| 精品国内亚洲2022精品成人 | 国产精品成人在线| 一边摸一边抽搐一进一出视频| 黄频高清免费视频| 香蕉久久夜色| 午夜福利免费观看在线| 黄色毛片三级朝国网站| 亚洲熟妇中文字幕五十中出 | 欧美一级毛片孕妇| 亚洲成人免费av在线播放| 99热国产这里只有精品6| 国产无遮挡羞羞视频在线观看| 中国美女看黄片| 国产精品1区2区在线观看. | 亚洲国产中文字幕在线视频| 国产野战对白在线观看| 免费不卡黄色视频| 丝瓜视频免费看黄片| 无人区码免费观看不卡| 午夜视频精品福利| 久久香蕉激情| 婷婷成人精品国产| 久久性视频一级片| 妹子高潮喷水视频| 免费看十八禁软件| 变态另类成人亚洲欧美熟女 | 成人av一区二区三区在线看| 如日韩欧美国产精品一区二区三区| 国产亚洲精品久久久久久毛片 | 侵犯人妻中文字幕一二三四区| 欧美精品人与动牲交sv欧美| 国产精品国产高清国产av | 国产免费男女视频| 国产伦人伦偷精品视频| 色播在线永久视频| 人人妻人人澡人人爽人人夜夜| 久久 成人 亚洲| 视频区欧美日本亚洲| 亚洲精品av麻豆狂野| 亚洲精品粉嫩美女一区| 黄色毛片三级朝国网站| 国产亚洲欧美在线一区二区| 免费观看精品视频网站| 精品人妻熟女毛片av久久网站| 9色porny在线观看| 他把我摸到了高潮在线观看| 久久影院123| 人妻一区二区av| 久久人人爽av亚洲精品天堂| 欧美午夜高清在线| 国产高清国产精品国产三级| 日韩欧美三级三区| 国产成人av激情在线播放| 宅男免费午夜| 人人妻人人添人人爽欧美一区卜| 亚洲久久久国产精品| 精品国内亚洲2022精品成人 | 欧美日韩福利视频一区二区| 国产欧美日韩一区二区三区在线| 欧美日韩一级在线毛片| 三上悠亚av全集在线观看| 日韩有码中文字幕| 亚洲专区中文字幕在线| 视频区图区小说| 新久久久久国产一级毛片| 两人在一起打扑克的视频| 亚洲美女黄片视频| 欧美黄色淫秽网站| av在线播放免费不卡| 国产片内射在线| 国产精品二区激情视频| 人妻丰满熟妇av一区二区三区 | 一级作爱视频免费观看| 亚洲精品国产区一区二| 操出白浆在线播放| 久久久国产欧美日韩av| 国产精品亚洲av一区麻豆| 国产不卡一卡二| 国产高清videossex| 在线免费观看的www视频| 精品国内亚洲2022精品成人 | 人人妻人人澡人人看| av中文乱码字幕在线| e午夜精品久久久久久久| 精品亚洲成a人片在线观看| 自拍欧美九色日韩亚洲蝌蚪91| 另类亚洲欧美激情| 搡老乐熟女国产| 日本精品一区二区三区蜜桃| 亚洲色图综合在线观看| 国产免费现黄频在线看| 一本大道久久a久久精品| 国产成人精品无人区| 九色亚洲精品在线播放| 中国美女看黄片| 亚洲国产欧美日韩在线播放| 99久久国产精品久久久| tube8黄色片| 多毛熟女@视频| 99国产精品免费福利视频| 国产1区2区3区精品| 久久人妻福利社区极品人妻图片| 国产精品乱码一区二三区的特点 | 在线观看66精品国产| 国产色视频综合| 成人国产一区最新在线观看| 国产精品亚洲av一区麻豆| 亚洲片人在线观看| 国产成人av激情在线播放| 午夜福利在线免费观看网站| 热99国产精品久久久久久7| 电影成人av| 三上悠亚av全集在线观看| 成年女人毛片免费观看观看9 | 麻豆av在线久日| 国产成人欧美| 日本vs欧美在线观看视频| 国产免费av片在线观看野外av|