• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    基于圖神經(jīng)網(wǎng)絡(luò)的門級(jí)硬件木馬檢測(cè)方法

    2023-10-17 01:15:12史江義劉鴻瑾王澤坤張紹林馬佩軍
    電子與信息學(xué)報(bào) 2023年9期
    關(guān)鍵詞:木馬邏輯神經(jīng)網(wǎng)絡(luò)

    史江義 溫 聰 劉鴻瑾 王澤坤 張紹林 馬佩軍* 李 康

    ①(西安電子科技大學(xué) 西安 710000)

    ②(北京軒宇空間科技有限公司 北京 100190)

    1 引言

    隨著現(xiàn)代集成電路設(shè)計(jì)的規(guī)模和復(fù)雜度快速增加,芯片供應(yīng)商在芯片設(shè)計(jì)、制造和測(cè)試方面面臨著日益增長(zhǎng)的成本壓力、緊迫的上市時(shí)間壓力以及資源限制。由于使用第三方知識(shí)產(chǎn)權(quán)(Third-Party Intellectual Property, 3PIP)具有可重用性和高的成本效益,設(shè)計(jì)者可以將資源專注于應(yīng)對(duì)新的市場(chǎng)需求。然而,這樣增大了產(chǎn)品通過(guò)3PIP的形式被植入硬件木馬的風(fēng)險(xiǎn)。硬件木馬(Hardware Trojan, HT)是指故意或惡意修改集成電路(Integrated Circuit, IC)的設(shè)計(jì),通常具有信息泄露、功能更改、降低芯片性能或拒絕芯片服務(wù)等危害[1]。由于集成電路在軍事系統(tǒng)、關(guān)鍵基礎(chǔ)設(shè)施、醫(yī)療設(shè)備等領(lǐng)域的廣泛應(yīng)用,硬件木馬引發(fā)的安全事故將非常致命。而隨著集成電路的市場(chǎng)連年增長(zhǎng),不可信的3PIP將成為國(guó)家信息安全、消費(fèi)電子領(lǐng)域的巨大隱患。

    3PIP很難獲取其黃金IC模型(黃金IC模型,經(jīng)驗(yàn)證沒(méi)有硬件木馬植入的IC),因此需要黃金模型的方式具有很大的局限性。同時(shí)在物理實(shí)現(xiàn)前找出硬件木馬是非常關(guān)鍵的,因?yàn)樵陧?xiàng)目后期移除硬件木馬的成本將成倍增加。在一個(gè)大規(guī)模工業(yè)級(jí)3PIP中檢測(cè)僅有幾十個(gè)乃至幾個(gè)門構(gòu)成的硬件木馬邏輯是一項(xiàng)極具挑戰(zhàn)性的工作,因?yàn)楝F(xiàn)有通過(guò)邏輯驗(yàn)證[2]、形式驗(yàn)證[3]、手動(dòng)的代碼檢查等硬件木馬檢測(cè)方式非常耗時(shí),而且不具備拓展性[4]。因此,目前迫切需要一種可拓展且不需要黃金模型的方案來(lái)提高硬件木馬的檢測(cè)效率。

    鑒于上述挑戰(zhàn),本文提出一種應(yīng)用圖神經(jīng)網(wǎng)絡(luò)(Graph Neural Network, GNN)的硅前硬件木馬檢測(cè)方式,本方法可以在沒(méi)有黃金參考電路的情況下準(zhǔn)確定位網(wǎng)表級(jí)電路中植入的硬件木馬。由于門級(jí)網(wǎng)表是一種非歐的圖結(jié)構(gòu),因此本文應(yīng)用更適用的圖神經(jīng)網(wǎng)絡(luò)來(lái)學(xué)習(xí)門級(jí)電路行為,用于檢測(cè)網(wǎng)表中的異常存在。本文提供了一個(gè)全自動(dòng)的硬件木馬檢測(cè)流程,通過(guò)自動(dòng)解析網(wǎng)表構(gòu)建圖結(jié)構(gòu)、自動(dòng)提取網(wǎng)表中門的本征特征以及相關(guān)圖特征用于節(jié)點(diǎn)表征,用于圖神經(jīng)網(wǎng)絡(luò)的訓(xùn)練及硬件木馬檢測(cè)。本文使用兩個(gè)數(shù)據(jù)集[5](基于新思90 nm通用庫(kù)(Synopsys 90 nm generic library, SAED)以及基于系統(tǒng)250 nm庫(kù)(LEDA))來(lái)評(píng)估檢測(cè)模型,在SAED中實(shí)現(xiàn)了92.9%的平均召回率以及86.2%的平均F1分?jǐn)?shù),相比目前最先進(jìn)的學(xué)習(xí)模型F1分?jǐn)?shù)提高了8.4%。而在基于LEDA的數(shù)據(jù)集上,分別在組合邏輯類型硬件木馬檢測(cè)中獲得平均83.6%的召回率、70.8%的F1,在時(shí)序邏輯類型硬件木馬檢測(cè)工作中獲得平均95.0%的召回率以及92.8%的F1分?jǐn)?shù)。

    1.1 貢獻(xiàn)

    本文實(shí)現(xiàn)了一種無(wú)需黃金參考模型的門硬件木馬檢測(cè)方式,應(yīng)用先進(jìn)的有監(jiān)督圖神經(jīng)網(wǎng)絡(luò)構(gòu)建檢測(cè)模型,具有魯棒的硬件木馬和正常電路的區(qū)分能力。由于將硬件木馬檢測(cè)問(wèn)題轉(zhuǎn)換成圖節(jié)點(diǎn)二分類問(wèn)題,因此不需要和IC的黃金模型進(jìn)行對(duì)比。并通過(guò)兩個(gè)數(shù)據(jù)集來(lái)評(píng)估模型檢測(cè)能力,在數(shù)據(jù)量較小的SAED上進(jìn)行方法的調(diào)優(yōu),并在大數(shù)據(jù)量上的LEDA數(shù)據(jù)集上進(jìn)行模型有效性的評(píng)估。主要貢獻(xiàn)如下:

    (1) 本模型不依賴IC設(shè)計(jì)的黃金參考模型,不需要生成高覆蓋率的測(cè)試向量,可以顯著提高檢測(cè)效率。

    (2) 本文應(yīng)用節(jié)點(diǎn)特征為節(jié)點(diǎn)本征特征以及圖結(jié)構(gòu)特征,不涉及硬件木馬的啟發(fā)式特征,具有更高的靈活性、拓展性和更強(qiáng)的模型泛化能力。

    (3) 構(gòu)建了一個(gè)全自動(dòng)的硅前硬件木馬檢測(cè)流程,其中包括門級(jí)網(wǎng)表的解析、門級(jí)圖結(jié)構(gòu)的生成、門特征提取以及圖神經(jīng)網(wǎng)絡(luò)訓(xùn)練和檢測(cè)。

    1.2 相關(guān)工作

    近年來(lái),深度學(xué)習(xí)在計(jì)算機(jī)視覺(jué)、自然語(yǔ)言處理等領(lǐng)域具有廣泛應(yīng)用,并逐漸應(yīng)用于硬件木馬檢測(cè)的問(wèn)題上。電路的結(jié)構(gòu)和功能特征為深度學(xué)習(xí)模型提供了重要數(shù)據(jù)[6]。Shen等人[7,8]使用基于自然語(yǔ)言處理的方法,使用統(tǒng)計(jì)門序列的方式獲取節(jié)點(diǎn)嵌入,之后采用循環(huán)神經(jīng)網(wǎng)絡(luò)(Recurrent Neural Network, RNN)進(jìn)行檢測(cè)模型的訓(xùn)練,結(jié)果顯示[8]獲得82%的平均召回率以及96%的真負(fù)類率(True Negative Rate, TNR)。文獻(xiàn)[9]建立多維度的硬件木馬特征庫(kù),并使用最近鄰不平衡數(shù)據(jù)分類算法均衡硬件木馬特征分布,最終通過(guò)支持向量機(jī)訓(xùn)練檢測(cè)模型獲得97.02%的硬件木馬檢測(cè)準(zhǔn)確率。文獻(xiàn)[10]使用極度梯度提升樹(eXtreme Gradient Boosting,XGBoost)的混合模式,結(jié)合硬件木馬靜態(tài)特征、結(jié)構(gòu)特征以及動(dòng)態(tài)特征,實(shí)現(xiàn)了94.0%的平均召回率。這些特征相關(guān)的工作都極度依賴啟發(fā)式特征來(lái)表征硬件木馬的特性,雖然在已有的數(shù)據(jù)集中有效,但隨著硬件木馬設(shè)計(jì)的對(duì)抗升級(jí)[11],檢測(cè)模型極有可能失去當(dāng)前的檢測(cè)精度。此外硬件木馬邊緣節(jié)點(diǎn)的特征與正常節(jié)點(diǎn)特征相近[12,13],導(dǎo)致檢測(cè)模型很容易將其識(shí)別為正常節(jié)點(diǎn)。在傳統(tǒng)的機(jī)器學(xué)習(xí)范式中,特征一旦提取就不會(huì)改變,這也是它在硬件木馬檢測(cè)工作上的天然劣勢(shì)。

    門級(jí)網(wǎng)表是非歐圖結(jié)構(gòu),可以被圖神經(jīng)網(wǎng)絡(luò)天然兼容,因此圖神經(jīng)網(wǎng)絡(luò)也被應(yīng)用到硬件木馬相關(guān)工作中。由于圖神經(jīng)網(wǎng)絡(luò)具有消息傳遞機(jī)制以及能夠聚合圖結(jié)構(gòu)特征和節(jié)點(diǎn)自身特征,因此基于圖學(xué)習(xí)的硬件木馬檢測(cè)方式對(duì)特征的依賴大大減小。文獻(xiàn)[14]是一項(xiàng)應(yīng)用于寄存器傳輸級(jí)硬件木馬檢測(cè)的工作,該模型能夠判斷代碼中是否植入硬件木馬。該方法將寄存器傳輸級(jí)代碼轉(zhuǎn)換成數(shù)據(jù)流圖,并建立圖神經(jīng)網(wǎng)絡(luò)模型對(duì)數(shù)據(jù)流圖進(jìn)行圖分類。不過(guò)該工作只能識(shí)別設(shè)計(jì)中是否植入HT,可以用于鎖定硬件木馬的檢測(cè)范圍,但無(wú)法找到硬件木馬節(jié)點(diǎn)。文獻(xiàn)[15]通過(guò)對(duì)比學(xué)習(xí)和圖卷積神經(jīng)網(wǎng)絡(luò)結(jié)合的方式構(gòu)建硬件木馬觸發(fā)器的檢測(cè)模型,能準(zhǔn)確識(shí)別硬件木馬觸發(fā)器。文獻(xiàn)[16]是一種采用圖神經(jīng)網(wǎng)絡(luò)尋找狀態(tài)寄存器的工作可以協(xié)助硬件木馬檢測(cè)工作。

    1.3 威脅模型

    本文的威脅模型是在假設(shè)不可信的第三方IP供應(yīng)商在布局布線前的階段植入硬件木馬的前提下進(jìn)行的。威脅模型的對(duì)象是可以綜合成門級(jí)網(wǎng)表的軟核或者是門級(jí)網(wǎng)表級(jí)IP,并被最終的電路設(shè)計(jì)使用。而硬件木馬的植入方式可以有以下場(chǎng)景:

    (1) 可信的第三方通過(guò)不可信的電子設(shè)計(jì)自動(dòng)化工具(Electronic Design Automation, EDA)無(wú)意插入HT;

    (2) 不可信的第三方直接在交付設(shè)計(jì)上植入硬件木馬;

    (3) 在掃描鏈上植入硬件木馬;

    (4) 外包設(shè)計(jì)的不可信第三方設(shè)計(jì)師或者團(tuán)隊(duì)中潛在的惡意設(shè)計(jì)師。

    2 預(yù)備工作

    本節(jié)概述一些用于全文的背景知識(shí)。

    2.1 圖的基本表示

    圖是一種非歐幾里得數(shù)據(jù)結(jié)構(gòu),圖論(graph theory)中的圖是通過(guò)若干個(gè)點(diǎn)及連接兩點(diǎn)之間的線所構(gòu)成的。其中的點(diǎn)代表某個(gè)實(shí)體,而其中連接點(diǎn)之間的線代表兩個(gè)點(diǎn)(即這兩個(gè)實(shí)體)之間所具有的特定關(guān)系。類似地,硬件設(shè)計(jì)根據(jù)電路元件及其連接來(lái)描述電路。

    在圖神經(jīng)網(wǎng)絡(luò)中,圖數(shù)據(jù)結(jié)構(gòu)通常表示為G={V,E,A}, 其中,V代表節(jié)點(diǎn)的集合,即點(diǎn)集,E代表兩點(diǎn)之間的線的集合,即邊集,A代表節(jié)點(diǎn)屬性的集合。

    2.2 圖神經(jīng)網(wǎng)絡(luò)原理

    圖神經(jīng)網(wǎng)絡(luò)(GNN)是非歐圖學(xué)習(xí)范式,其實(shí)質(zhì)是迭代集合鄰居特征的過(guò)程,而從計(jì)算機(jī)數(shù)學(xué)視角來(lái)看則是某個(gè)空間結(jié)構(gòu)上的映射過(guò)程[17]。GNN擅長(zhǎng)于將復(fù)雜的高維圖信息解碼成低維特征嵌入。特征嵌入將結(jié)合節(jié)點(diǎn)的圖上位置信息、節(jié)點(diǎn)自身屬性、相鄰節(jié)點(diǎn)信息以及結(jié)構(gòu)信息。為此,GNN設(shè)計(jì)了消息傳遞機(jī)制,可以實(shí)現(xiàn)消息在圖上節(jié)點(diǎn)的傳播,并通過(guò)神經(jīng)網(wǎng)絡(luò)完成消息的更新。下面將通過(guò)公式來(lái)了解GNN的細(xì)節(jié)。

    在第k層圖神經(jīng)網(wǎng)絡(luò)消息傳遞階段,節(jié)點(diǎn)u將接受其相鄰節(jié)點(diǎn)N(u)的信息并進(jìn)行自身特征的更新,可以表達(dá)為

    其中,AGG和UP均屬于可微的函數(shù),可用于反向傳播算法更新權(quán)重矩陣。m(u)為消息傳遞函數(shù),它實(shí)現(xiàn)了將周圍節(jié)點(diǎn)特征聚合的功能。h是將消息傳遞和自身上一層GNN合成的節(jié)點(diǎn)特征h-1進(jìn)行更新??傊?,GNN就是通過(guò)上述消息傳遞范式實(shí)現(xiàn)了將圖上特征和自身節(jié)點(diǎn)特征的聚合更新。一旦得到節(jié)點(diǎn)特征嵌入,則可以使用端到端的方式應(yīng)用于一系列學(xué)習(xí)任務(wù)中,例如節(jié)點(diǎn)分類、圖分類、機(jī)器視覺(jué)等工作。在這項(xiàng)工作中,本文將門級(jí)網(wǎng)表中的邏輯門作為圖節(jié)點(diǎn),使用有監(jiān)督的方式訓(xùn)練GNN對(duì)硬件木馬門和正常邏輯門進(jìn)行二分類,將問(wèn)題轉(zhuǎn)化為節(jié)點(diǎn)分類。

    3 基于GraphSAGE的硬件木馬檢測(cè)方法

    圖1闡釋了本文門級(jí)硬件木馬檢測(cè)方法全自動(dòng)流程的框架。主要思路是使用基準(zhǔn)訓(xùn)練集訓(xùn)練圖神經(jīng)網(wǎng)絡(luò)模型,之后用已經(jīng)訓(xùn)練好的模型對(duì)待測(cè)網(wǎng)表進(jìn)行推理。第1步是對(duì)網(wǎng)表進(jìn)行格式化并解析,之后構(gòu)建有向無(wú)環(huán)圖用于圖神經(jīng)網(wǎng)絡(luò)的輸入,自動(dòng)提取相關(guān)特征并與節(jié)點(diǎn)進(jìn)行關(guān)聯(lián)。第3步是將特征和圖輸送給3層GraphSAGE管道生成節(jié)點(diǎn)嵌入,最后經(jīng)過(guò)多層感知機(jī)和Softmax激活函數(shù)輸出預(yù)測(cè)結(jié)果,即該嵌入對(duì)應(yīng)的節(jié)點(diǎn)是否為硬件木馬。接下來(lái)將具體介紹上述內(nèi)容。

    圖1 基于GraphSAGE的硬件木馬檢測(cè)框架

    3.1 節(jié)點(diǎn)特征提取

    本文將門級(jí)網(wǎng)表轉(zhuǎn)化為一種通用的圖數(shù)據(jù)結(jié)構(gòu),其中包含著網(wǎng)表中存在的所有邏輯門的連接關(guān)系以及對(duì)應(yīng)門的相應(yīng)特征向量,其中邏輯門是節(jié)點(diǎn),而連接線為邊。本文將門的類型進(jìn)行模糊處理,僅對(duì)門邏輯功能進(jìn)行大體分類,不在意邏輯門扇入、扇出大小的差異,盡可能避免過(guò)多門類型對(duì)特征的稀釋。同時(shí)將圖中的環(huán)進(jìn)行拆解,生成有向無(wú)環(huán)圖。圖2中將顯示特征的具體表現(xiàn)。本文采用的節(jié)點(diǎn)特征向量包含以下信息:節(jié)點(diǎn)類型的獨(dú)熱碼、節(jié)點(diǎn)入度、節(jié)點(diǎn)出度、節(jié)點(diǎn)與主輸入的最小距離PI、節(jié)點(diǎn)與主輸出的最小距離PO。

    圖2 本文特征向量表示以及GNN模型架構(gòu)

    如上所述,節(jié)點(diǎn)的類型由獨(dú)熱碼構(gòu)成,由于對(duì)門類型進(jìn)行處理,本文從Trusthub測(cè)試集中歸納出18種基本門類型,因此獨(dú)熱碼的維度為18。節(jié)點(diǎn)入度是對(duì)應(yīng)節(jié)點(diǎn)輸入端連接節(jié)點(diǎn)的數(shù)量,該特征補(bǔ)充所在門的扇入大小信息。出度則是對(duì)應(yīng)節(jié)點(diǎn)輸出端連接節(jié)點(diǎn)的個(gè)數(shù)。節(jié)點(diǎn)與主輸入與主輸出的最小距離將揭示節(jié)點(diǎn)在組合邏輯鏈上的位置信息(由于圖神經(jīng)網(wǎng)絡(luò)限定了深度,因此無(wú)法應(yīng)對(duì)于長(zhǎng)的組合邏輯鏈)。上述特征都可以根據(jù)節(jié)點(diǎn)信息和圖上連接關(guān)系快速得到,提取所需要的算法復(fù)雜度低,與硬件木馬相關(guān)的先驗(yàn)特性耦合度小,極大提高了檢測(cè)模型的泛化能力。

    3.2 GraphSAGE圖學(xué)習(xí)

    在網(wǎng)表的圖結(jié)構(gòu)、圖上節(jié)點(diǎn)特征以及標(biāo)簽得到后,將歸一化后的節(jié)點(diǎn)特征放入圖采樣聚合算法(Graph Sample and AGgrEgate, GraphSAGE)模型中進(jìn)行節(jié)點(diǎn)嵌入生成及模型訓(xùn)練。本文使用的GraphSAGE[17]是一個(gè)基于空域卷積算法的歸納式(Inductive)圖神經(jīng)網(wǎng)絡(luò)。GraphSAGE能實(shí)現(xiàn)批次訓(xùn)練方案,不僅使訓(xùn)練過(guò)程更高效,也能很好地泛化到推理中,在大規(guī)模圖的準(zhǔn)確性、泛化能力和可擴(kuò)展性方面展示出極大的優(yōu)勢(shì)。實(shí)驗(yàn)中的GraphSAGE算法流程如圖3所示:

    圖3 GraphSAGE算法流程

    (1) 對(duì)節(jié)點(diǎn)圖中的每一個(gè)頂點(diǎn)的鄰居節(jié)點(diǎn)進(jìn)行采樣;

    (2) 通過(guò)模型的聚合函數(shù)聚合各鄰居節(jié)點(diǎn)的信息;

    (3) 將各節(jié)點(diǎn)的信息轉(zhuǎn)換為模型訓(xùn)練所需的圖向量;

    其中,Wk為第k層神經(jīng)網(wǎng)絡(luò)可訓(xùn)練的權(quán)重矩陣,σ為非線性激活函數(shù),例如常用的ReLU。N(v)是采樣到節(jié)點(diǎn)v相鄰節(jié)點(diǎn)的集合。AGG是Graph-SAGE的聚合方式,一般有3種形式:平均聚合(mean)、池化聚合(pool)以及長(zhǎng)短期記憶(Long Short-Term Memory, LSTM)聚合。本文對(duì)這3種聚合方式都進(jìn)行了實(shí)驗(yàn),并采用效果最好的聚合方式作為最終檢測(cè)模型的方案。在通過(guò)GNN的管道后,使用多層感知機(jī)(MultiLayer Perceptron,MLP)和Softmax函數(shù)輸出2維概率向量,分別表示為硬件木馬和正常邏輯門的概率,最終完成分類任務(wù)。

    4 實(shí)驗(yàn)和評(píng)估

    本節(jié)將對(duì)本檢測(cè)模型性能進(jìn)行一個(gè)詳細(xì)的評(píng)估,介紹本次評(píng)估的平臺(tái)集測(cè)試集信息,并與基于支持向量機(jī)(Support Vector Machine, SVM)的基準(zhǔn)測(cè)試和目前最新的3種方法進(jìn)行比較:Grams-Det[8]、隨機(jī)森林[18]和對(duì)抗訓(xùn)練[19]。最后應(yīng)用于基于LEDA的大數(shù)據(jù)集來(lái)驗(yàn)證本方法的有效性。

    4.1 測(cè)試集

    本實(shí)驗(yàn)從Trust-Hub[5,20]中選取了兩組使用不同標(biāo)準(zhǔn)單元庫(kù)的網(wǎng)表,其中之一采用SAED庫(kù),另外一組采用LEDA系統(tǒng)250 nm庫(kù)。數(shù)據(jù)集信息如表1所示。由于SAED數(shù)據(jù)集相對(duì)較小,并且現(xiàn)有工作大部分在SAED數(shù)據(jù)集上實(shí)現(xiàn),因此本文將通過(guò)SAED數(shù)據(jù)集進(jìn)行模型尋優(yōu)以及結(jié)果比對(duì)。而LEDA數(shù)據(jù)集包含大量網(wǎng)表,本文隨機(jī)選取其中80個(gè)網(wǎng)表進(jìn)行本方法有效性的驗(yàn)證。

    表1 Trust-Hub數(shù)據(jù)集

    4.2 實(shí)驗(yàn)評(píng)價(jià)指標(biāo)

    對(duì)于實(shí)驗(yàn)的檢測(cè)結(jié)果,在本文中選用以下3個(gè)指標(biāo)作為評(píng)價(jià)實(shí)驗(yàn)結(jié)果的指標(biāo),它們分別是:TPR(recall), TNR, F1。其中F1可以綜合評(píng)估檢測(cè)模型的分類能力,對(duì)于硬件木馬檢測(cè)這種數(shù)據(jù)集極端不平衡的任務(wù)來(lái)說(shuō)是嚴(yán)苛的指標(biāo)。這3個(gè)評(píng)價(jià)指標(biāo)的公式以及相關(guān)含義如表2所示。

    表2 實(shí)驗(yàn)評(píng)價(jià)指標(biāo)

    4.3 實(shí)驗(yàn)流程

    本實(shí)驗(yàn)的模型算法由pytorch以及深度圖學(xué)習(xí)庫(kù)(Deep Graph Library, DGL)[21]搭建,其中DGL是面向圖神經(jīng)網(wǎng)絡(luò)的開源框架,幫助用戶更容易在現(xiàn)有深度學(xué)習(xí)框架的基礎(chǔ)上高效地執(zhí)行相應(yīng)的圖算法。實(shí)驗(yàn)運(yùn)行的硬件為NVIDIA GeForce RTX 2080ti, Intel(R) Xeon(R) W-2123 CPU @3.60 GHz和16 GB運(yùn)行內(nèi)存。

    在GraphSAGE模型的聚合算法中,本文分別采用了3層GraphSAGE以及1個(gè)MLP用于分類。本文將調(diào)查mean, pool, lstm這3種不同聚合方式對(duì)硬件木馬檢測(cè)結(jié)果的影響。相關(guān)模型參數(shù)以及訓(xùn)練參數(shù)如表3所示。

    表3 圖神經(jīng)網(wǎng)絡(luò)配置參數(shù)以及訓(xùn)練參數(shù)

    同時(shí),由于硬件木馬檢測(cè)屬于極端不平衡的分類任務(wù),本文采用帶權(quán)重的交叉熵作為模型的損失函數(shù)來(lái)平衡數(shù)據(jù),權(quán)重為網(wǎng)表中正常邏輯門數(shù)量與硬件木馬數(shù)量的比值,具體表達(dá)式為

    4.4 SAED實(shí)驗(yàn)

    本節(jié)通過(guò)SAED數(shù)據(jù)集和留一法的交叉驗(yàn)證來(lái)訓(xùn)練模型并研究不同優(yōu)化方法對(duì)模型檢測(cè)能力影響,最后使用最佳方案的結(jié)果與現(xiàn)有文獻(xiàn)進(jìn)行對(duì)比。通過(guò)將提取出的待測(cè)電路特征數(shù)據(jù)放入到GraphSAGE模型中,統(tǒng)計(jì)計(jì)算得出對(duì)應(yīng)網(wǎng)表的TPR, TNR和F1-score。

    表4展示了SAED數(shù)據(jù)集中網(wǎng)表的部分信息。該數(shù)據(jù)集為基于6個(gè)宿主電路的10個(gè)組合邏輯硬件木馬嵌入網(wǎng)表以及11個(gè)時(shí)序邏輯硬件木馬嵌入網(wǎng)表。其中硬件木馬種類比較全面,從組合邏輯到時(shí)序邏輯乃至環(huán)形振蕩器都有涉及。硬件木馬的門數(shù)相對(duì)于整個(gè)網(wǎng)表的比例低至0.24%,屬于極端非平衡的數(shù)據(jù)集。

    表4 SAED數(shù)據(jù)集門級(jí)木馬電路信息

    4.4.1 權(quán)重以及聚合方式的研究

    在該實(shí)驗(yàn)中,主要研究損失添加權(quán)重以及不同聚合方式對(duì)檢測(cè)結(jié)果的影響。為了能夠?qū)Ω鱾€(gè)方式提供一個(gè)公平的評(píng)估,訓(xùn)練方式、超參數(shù)設(shè)置以及訓(xùn)練輪數(shù)都固定。最終結(jié)果如圖4所示。

    圖4 權(quán)重平衡方式結(jié)果對(duì)比

    從F1分?jǐn)?shù)圖可知,采用平均聚合以及權(quán)重平衡的方式在SAED數(shù)據(jù)集上得到了最佳的檢測(cè)結(jié)果,而使用權(quán)重平衡的方式都比同聚合方式的普通方法高。從TPR和TNR圖來(lái)看,使用帶權(quán)重的損失函數(shù)相比于不帶權(quán)重的方式,能夠在小幅降低TNR(小于0.3%)的情況下大幅提高(大于10%)檢測(cè)模型的TPR,從而提高檢測(cè)模型的F1分?jǐn)?shù)。

    考慮在同時(shí)使用權(quán)重平衡的方式的情況下,對(duì)比不同聚合方式對(duì)結(jié)果的影響。可以發(fā)現(xiàn)采用mean的聚合方式在F1分?jǐn)?shù)和TPR都獲得最好效果,而pool聚合方式在TNR上獲得最好結(jié)果,但LSTM的方式結(jié)果是最差的。

    4.4.2 比較

    最后采用平均聚合以及權(quán)重平衡的方式在SAED數(shù)據(jù)集上得到了最佳的檢測(cè)結(jié)果,測(cè)結(jié)果如表5所示。本文為了比較圖神經(jīng)網(wǎng)絡(luò)與傳統(tǒng)機(jī)器學(xué)習(xí)的硬件木馬檢測(cè)能力,添加了基于SVM的硬件木馬檢測(cè)方法作為基準(zhǔn),具體實(shí)施方式是將上述節(jié)點(diǎn)特征放入SVM中進(jìn)行訓(xùn)練獲得硬件木馬檢測(cè)模型并得到基于SVM的硬件木馬檢測(cè)結(jié)果。

    表5 SAED采用MEAN聚合的檢測(cè)結(jié)果

    由表5可知,對(duì)于RS232系列網(wǎng)表來(lái)說(shuō),本模型成功實(shí)現(xiàn)了100%識(shí)別。而對(duì)于其他大網(wǎng)表來(lái)說(shuō),除了s15850-T100, s38417-T100和s38584-T100的F1不高,其余網(wǎng)表的F1都能到達(dá)85%以上。同時(shí)針對(duì)EthernetMAC10GE這類10 000門的大網(wǎng)表,本方案同樣獲得了96.2%的平均Recall和98%的平均F1,具有對(duì)大型網(wǎng)表的硬件木馬檢測(cè)能力??傮w來(lái)看,本方案可以實(shí)現(xiàn)92.9%的平均Recall以及99.8%的平均TNR,整體的F1也到達(dá)了86.2%,可以說(shuō)本模型能夠精確地分別出基本上所有硬件木馬和正常邏輯門。不過(guò)存在少數(shù)正常邏輯門被錯(cuò)誤識(shí)別,但這對(duì)于硬件木馬檢測(cè)來(lái)說(shuō)是完全可以接受的,因?yàn)橛布抉R檢測(cè)的目的是盡可能找全所有硬件木馬,出現(xiàn)遺漏的情況比將正常門識(shí)別為硬件木馬影響更嚴(yán)重。最后是將兩種聚合方式的模型檢測(cè)結(jié)果與SVM基準(zhǔn)測(cè)試以及現(xiàn)有先進(jìn)的硬件木馬檢測(cè)方式進(jìn)行對(duì)比。結(jié)果如表6所示。

    表6 本文結(jié)果與文獻(xiàn)對(duì)比(%)

    從實(shí)驗(yàn)結(jié)果可以看出,圖神經(jīng)網(wǎng)絡(luò)的方式TPR和F1都要高于SVM基準(zhǔn)中的檢測(cè)結(jié)果,TNR都接近100%,說(shuō)明在使用相同特征的情況下,圖神經(jīng)網(wǎng)絡(luò)的非線性表達(dá)能力大幅度強(qiáng)于傳統(tǒng)機(jī)器學(xué)習(xí)方法。下文都以結(jié)果最好的平均聚合方式與現(xiàn)有文獻(xiàn)進(jìn)行對(duì)比。對(duì)比采用自然語(yǔ)言處理技術(shù)的Grams-Det,本文TPR提高10.8%,TNR提高2.8%,F(xiàn)1更是提升多達(dá)40.1%。文獻(xiàn)[18]則是一種基于隨機(jī)森林的硬件木馬檢測(cè)方式,能夠識(shí)別出硬件木馬的情況下不誤識(shí)別正常邏輯門,因此其F1分?jǐn)?shù)較高。不過(guò)隨機(jī)森林的TPR僅為63.6%,限制了其F1分?jǐn)?shù),而本文能夠在犧牲0.2%TNR的情況下提高接近29.3%的TPR, F1分?jǐn)?shù)也提高了8.4%,進(jìn)一步體現(xiàn)了圖神經(jīng)網(wǎng)絡(luò)模型在處理節(jié)點(diǎn)分類的優(yōu)勢(shì)。文獻(xiàn)[19]是一種引入對(duì)抗訓(xùn)練來(lái)提高模型魯棒性的硬件木馬檢測(cè)方法,該方法以犧牲TNR的方式提升TPR,因此TPR較高而F1低至59.9%,意味著大量正常邏輯門被誤認(rèn)為硬件木馬,與本文的F1相比落后26.3%??傊?,基于特征的深度學(xué)習(xí)方法檢測(cè)上限被特征的選取所約束,相對(duì)地,基于圖神經(jīng)網(wǎng)絡(luò)的檢測(cè)方式可以在訓(xùn)練過(guò)程中將節(jié)點(diǎn)信息根據(jù)圖上結(jié)構(gòu)進(jìn)行傳遞更新,不斷增強(qiáng)所在節(jié)點(diǎn)的相應(yīng)特征,極大緩解特征選取帶來(lái)的低檢測(cè)精度問(wèn)題。

    4.5 LEDA實(shí)驗(yàn)結(jié)果

    基于上述實(shí)驗(yàn),聚合方式以及權(quán)重平衡的方式對(duì)本文硬件木馬檢測(cè)模型的影響已經(jīng)調(diào)查清楚。盡管目前大部分論文的工作都是針對(duì)SAED數(shù)據(jù)集,但該數(shù)據(jù)集的宿主電路的數(shù)量以及硬件木馬的類型都非常有限,無(wú)法提供一個(gè)綜合的實(shí)驗(yàn)結(jié)果以及評(píng)估標(biāo)準(zhǔn)。同時(shí)由于數(shù)據(jù)集的規(guī)模小,無(wú)法提供足夠的樣本訓(xùn)練一個(gè)魯棒的檢測(cè)模型。因此本節(jié)將采用LEDA庫(kù)的網(wǎng)表對(duì)檢測(cè)模型的性能進(jìn)行更嚴(yán)苛的評(píng)估。

    為了能夠?qū)崿F(xiàn)一個(gè)公平的評(píng)估,上述超參數(shù)都不變,且對(duì)應(yīng)的聚合方式以及平衡方式都以上文最佳的方式進(jìn)行。本節(jié)將采用40個(gè)組合邏輯硬件木馬植入網(wǎng)表以及40個(gè)時(shí)序邏輯硬件木馬植入網(wǎng)表作為數(shù)據(jù)集,其中80個(gè)網(wǎng)表都隨機(jī)選擇LEDA庫(kù)的914個(gè)網(wǎng)表。對(duì)于訓(xùn)練以及測(cè)試來(lái)說(shuō),本實(shí)驗(yàn)將組合邏輯硬件木馬以及時(shí)序邏輯硬件木馬分別當(dāng)作兩組數(shù)據(jù)集,對(duì)于這兩組數(shù)據(jù)集都采用2折交叉驗(yàn)證(即20個(gè)網(wǎng)表作為訓(xùn)練集,剩下20個(gè)網(wǎng)表作為數(shù)據(jù)集)的方式評(píng)估實(shí)驗(yàn)結(jié)果。

    表7展示了采用上述設(shè)置的硬件木馬檢測(cè)結(jié)果。表7中提供了各個(gè)網(wǎng)表的TP, FN, TN以及FP,最下面一欄提供了最終平均后的TPR, TNR以及F1。通過(guò)結(jié)果可以知道,本方案對(duì)于組合邏輯硬件木馬來(lái)說(shuō)達(dá)到了平均83.6%的TPR以及70.8%的F1分?jǐn)?shù),而對(duì)于時(shí)序邏輯的硬件木馬數(shù)據(jù)集中則是獲得了平均95.0%的TPR以及92.8%的F1。因此,本方案對(duì)于組合邏輯硬件木馬的檢測(cè)能力是低于時(shí)序邏輯硬件木馬的,這與文獻(xiàn)[22]中的結(jié)果相符??傮w來(lái)看,本模型在基于LEDA庫(kù)的數(shù)據(jù)集上以較低的誤識(shí)率實(shí)現(xiàn)了接近90%的硬件木馬識(shí)別率。

    表7 LEDA數(shù)據(jù)集結(jié)果

    5 結(jié)束語(yǔ)

    本文提出一種基于GraphSAGE的門級(jí)硬件木馬檢測(cè)方法,用于實(shí)現(xiàn)門級(jí)硬件木馬的精確定位。本文實(shí)現(xiàn)了一個(gè)全自動(dòng)化的硬件木馬檢測(cè)流程,包括門級(jí)網(wǎng)表解析、門級(jí)特征提取以及圖神經(jīng)網(wǎng)絡(luò)的訓(xùn)練預(yù)測(cè),能夠?qū)崿F(xiàn)高精度的硬件木馬檢測(cè),在大網(wǎng)表中的硬件木馬檢測(cè)中依舊能夠有較高的識(shí)別能力。使用的GNN模型能夠快速更新迭代,無(wú)需從頭訓(xùn)練。本文針對(duì)3種基于不同聚合函數(shù)、不同數(shù)據(jù)平衡方式進(jìn)行研究,其中最佳配置結(jié)果與目前先進(jìn)的硬件木馬檢測(cè)模型相比具有更高的F1精度以及更強(qiáng)的硬件木馬檢測(cè)能力。最后,將本文方案應(yīng)用于基于LEDA庫(kù)的大數(shù)據(jù)量數(shù)據(jù)集時(shí),分別在組合邏輯類型硬件木馬檢測(cè)中獲得平均83.6%的TPR、70.8%的F1,在時(shí)序邏輯類型硬件木馬檢測(cè)工作中獲得平均95.0%的TPR以及92.8%的F1分?jǐn)?shù)。今后的工作將圍繞解決有向圖對(duì)GNN的兼容性以及圖神經(jīng)網(wǎng)絡(luò)中的數(shù)據(jù)增強(qiáng)兩個(gè)方向進(jìn)行。

    猜你喜歡
    木馬邏輯神經(jīng)網(wǎng)絡(luò)
    刑事印證證明準(zhǔn)確達(dá)成的邏輯反思
    法律方法(2022年2期)2022-10-20 06:44:24
    小木馬
    邏輯
    騎木馬
    創(chuàng)新的邏輯
    神經(jīng)網(wǎng)絡(luò)抑制無(wú)線通信干擾探究
    電子制作(2019年19期)2019-11-23 08:42:00
    小木馬
    旋轉(zhuǎn)木馬
    女人買買買的神邏輯
    37°女人(2017年11期)2017-11-14 20:27:40
    基于神經(jīng)網(wǎng)絡(luò)的拉矯機(jī)控制模型建立
    国产91av在线免费观看| 啦啦啦在线观看免费高清www| 亚洲av电影在线观看一区二区三区| 老司机影院成人| av线在线观看网站| 精品酒店卫生间| 久久久午夜欧美精品| 最近最新中文字幕免费大全7| 国产av国产精品国产| 97精品久久久久久久久久精品| 精品亚洲乱码少妇综合久久| 黑丝袜美女国产一区| 婷婷色综合大香蕉| 国产一区二区三区av在线| 一边亲一边摸免费视频| 下体分泌物呈黄色| 午夜免费观看性视频| av在线蜜桃| 日日撸夜夜添| 欧美成人一区二区免费高清观看| 极品少妇高潮喷水抽搐| 国产精品久久久久久久电影| 亚洲精品乱久久久久久| 日韩免费高清中文字幕av| 精品亚洲乱码少妇综合久久| 久久人妻熟女aⅴ| 久久久成人免费电影| 亚洲,一卡二卡三卡| 国产69精品久久久久777片| 夜夜爽夜夜爽视频| 日本-黄色视频高清免费观看| 少妇人妻久久综合中文| 婷婷色综合www| 伊人久久国产一区二区| 国产精品一区二区在线观看99| 观看av在线不卡| 国产精品女同一区二区软件| 蜜桃亚洲精品一区二区三区| 黄色一级大片看看| 亚洲国产av新网站| 一区二区三区乱码不卡18| 亚洲美女搞黄在线观看| 欧美区成人在线视频| 国产伦精品一区二区三区视频9| 国产免费视频播放在线视频| 18禁动态无遮挡网站| 欧美激情国产日韩精品一区| 日韩伦理黄色片| 校园人妻丝袜中文字幕| 久久久久久久国产电影| 久久久久久久久久人人人人人人| 一区二区av电影网| 亚洲精品国产av成人精品| 又爽又黄a免费视频| 黑丝袜美女国产一区| 精品久久久久久电影网| 高清欧美精品videossex| 亚洲国产毛片av蜜桃av| 亚洲av欧美aⅴ国产| 自拍欧美九色日韩亚洲蝌蚪91 | 国产亚洲一区二区精品| 亚洲性久久影院| 免费人妻精品一区二区三区视频| 亚洲欧美日韩卡通动漫| 日日啪夜夜爽| 全区人妻精品视频| 少妇的逼好多水| 五月天丁香电影| 日韩视频在线欧美| av在线观看视频网站免费| 18禁在线播放成人免费| 狠狠精品人妻久久久久久综合| 五月开心婷婷网| 精品久久久久久久久亚洲| 久久99热这里只频精品6学生| 国产精品久久久久久精品古装| 人人妻人人爽人人添夜夜欢视频 | 日韩不卡一区二区三区视频在线| 日韩免费高清中文字幕av| 国产成人精品一,二区| 成年美女黄网站色视频大全免费 | 视频区图区小说| 午夜福利视频精品| 国产高清三级在线| 欧美三级亚洲精品| 男女国产视频网站| 国产欧美日韩一区二区三区在线 | 日韩成人伦理影院| 99热国产这里只有精品6| 亚洲aⅴ乱码一区二区在线播放| 中文字幕亚洲精品专区| 全区人妻精品视频| 国产亚洲欧美精品永久| 国产精品一二三区在线看| 国产成人一区二区在线| 日本wwww免费看| videossex国产| 精品亚洲成a人片在线观看 | 亚洲精品456在线播放app| 国产探花极品一区二区| 日日撸夜夜添| 一级黄片播放器| 日韩成人伦理影院| 视频区图区小说| 亚洲综合精品二区| 大又大粗又爽又黄少妇毛片口| 高清黄色对白视频在线免费看 | 狂野欧美白嫩少妇大欣赏| 少妇的逼水好多| 亚洲真实伦在线观看| 人人妻人人添人人爽欧美一区卜 | 久久99蜜桃精品久久| 亚洲精品久久午夜乱码| tube8黄色片| 成人毛片a级毛片在线播放| 97在线视频观看| 亚洲精品成人av观看孕妇| 日日摸夜夜添夜夜添av毛片| 国产伦精品一区二区三区视频9| 一本久久精品| 久久精品熟女亚洲av麻豆精品| 日韩一本色道免费dvd| 噜噜噜噜噜久久久久久91| 美女高潮的动态| 人妻制服诱惑在线中文字幕| 十分钟在线观看高清视频www | 妹子高潮喷水视频| 国产av精品麻豆| 亚洲国产欧美在线一区| 男人狂女人下面高潮的视频| 精品国产一区二区三区久久久樱花 | 嫩草影院新地址| 99热这里只有精品一区| 国产女主播在线喷水免费视频网站| 久久ye,这里只有精品| 热re99久久精品国产66热6| 人妻制服诱惑在线中文字幕| 大片电影免费在线观看免费| 美女视频免费永久观看网站| 我的老师免费观看完整版| 日韩强制内射视频| 精品亚洲成a人片在线观看 | 在线免费十八禁| 赤兔流量卡办理| 黄片无遮挡物在线观看| 性色avwww在线观看| 精品久久久噜噜| 日韩av不卡免费在线播放| 国产精品女同一区二区软件| 国产日韩欧美在线精品| 国产真实伦视频高清在线观看| 一二三四中文在线观看免费高清| 欧美97在线视频| 久久久午夜欧美精品| 少妇裸体淫交视频免费看高清| 久久久久久人妻| 成年美女黄网站色视频大全免费 | 啦啦啦在线观看免费高清www| 久久人人爽人人片av| 十八禁网站网址无遮挡 | 身体一侧抽搐| 久久久久久久亚洲中文字幕| 国产成人午夜福利电影在线观看| 亚洲精品,欧美精品| 伦理电影免费视频| 国产老妇伦熟女老妇高清| 国产日韩欧美在线精品| 精品人妻偷拍中文字幕| 黑人高潮一二区| 一二三四中文在线观看免费高清| 99热这里只有是精品在线观看| 观看免费一级毛片| 日日撸夜夜添| 欧美3d第一页| 中文天堂在线官网| 免费观看无遮挡的男女| a级一级毛片免费在线观看| 日本av免费视频播放| 国产成人a∨麻豆精品| 青春草视频在线免费观看| 日本与韩国留学比较| 美女福利国产在线 | 亚洲av日韩在线播放| 国产精品一区二区在线不卡| 在线观看人妻少妇| 少妇人妻一区二区三区视频| a 毛片基地| 99re6热这里在线精品视频| 少妇人妻久久综合中文| 超碰97精品在线观看| 亚洲成人av在线免费| 男女边吃奶边做爰视频| 新久久久久国产一级毛片| 亚洲精品亚洲一区二区| 一级毛片我不卡| 国产精品久久久久久久电影| 最近最新中文字幕免费大全7| 精品人妻熟女av久视频| 一个人看的www免费观看视频| 啦啦啦在线观看免费高清www| 成人二区视频| 国产乱人视频| 亚洲精品日本国产第一区| 国产伦理片在线播放av一区| 日韩三级伦理在线观看| 蜜桃久久精品国产亚洲av| av在线蜜桃| 亚洲色图综合在线观看| 精品一区二区三卡| 欧美bdsm另类| 亚洲精品成人av观看孕妇| 波野结衣二区三区在线| 一级二级三级毛片免费看| 乱码一卡2卡4卡精品| freevideosex欧美| 亚洲精品日本国产第一区| 亚洲最大成人中文| 成人特级av手机在线观看| 欧美极品一区二区三区四区| 在线观看免费日韩欧美大片 | 久久久久久久精品精品| 久久这里有精品视频免费| 久久精品国产自在天天线| 下体分泌物呈黄色| 欧美日韩一区二区视频在线观看视频在线| 久久青草综合色| 精品久久久噜噜| 精品久久久久久久久亚洲| 国产淫片久久久久久久久| 亚洲最大成人中文| 成人漫画全彩无遮挡| 中文字幕人妻熟人妻熟丝袜美| 国产精品偷伦视频观看了| 大香蕉97超碰在线| 亚洲最大成人中文| 18禁在线播放成人免费| 国产av一区二区精品久久 | 国产亚洲一区二区精品| 国产永久视频网站| 免费观看的影片在线观看| 亚洲,欧美,日韩| 日韩中文字幕视频在线看片 | 精品午夜福利在线看| 亚洲av综合色区一区| 天堂中文最新版在线下载| 国产av国产精品国产| 午夜视频国产福利| 亚洲国产精品专区欧美| 成人二区视频| 亚洲精品,欧美精品| 男人和女人高潮做爰伦理| 国产成人精品福利久久| 青春草亚洲视频在线观看| 在线观看一区二区三区激情| 亚洲av成人精品一二三区| 三级国产精品片| 日本免费在线观看一区| 国产免费一区二区三区四区乱码| 日本黄色日本黄色录像| 搡老乐熟女国产| 免费黄频网站在线观看国产| 成人国产麻豆网| 国产中年淑女户外野战色| 免费观看在线日韩| 一区二区三区乱码不卡18| 国产成人freesex在线| 一边亲一边摸免费视频| av在线app专区| 国产精品无大码| 亚洲国产精品成人久久小说| 日本黄大片高清| 久久 成人 亚洲| 国产又色又爽无遮挡免| 少妇的逼好多水| 新久久久久国产一级毛片| 精华霜和精华液先用哪个| 男人舔奶头视频| 97热精品久久久久久| 伦精品一区二区三区| 一级片'在线观看视频| 亚洲美女搞黄在线观看| 欧美bdsm另类| 18禁动态无遮挡网站| 国产极品天堂在线| 国产精品99久久99久久久不卡 | 欧美激情国产日韩精品一区| 国产精品精品国产色婷婷| 免费人成在线观看视频色| 久久99热这里只有精品18| 日本黄色片子视频| 欧美亚洲 丝袜 人妻 在线| 久久久色成人| 亚洲成色77777| 我要看日韩黄色一级片| 亚洲av中文字字幕乱码综合| 有码 亚洲区| 新久久久久国产一级毛片| 欧美日韩视频精品一区| 国产精品一二三区在线看| 在线观看av片永久免费下载| 毛片女人毛片| 三级经典国产精品| 美女福利国产在线 | 国产精品欧美亚洲77777| 国产 一区 欧美 日韩| 3wmmmm亚洲av在线观看| 欧美 日韩 精品 国产| 中文天堂在线官网| 久久精品久久久久久噜噜老黄| 精品人妻熟女av久视频| 久久热精品热| 狂野欧美白嫩少妇大欣赏| 高清午夜精品一区二区三区| 少妇猛男粗大的猛烈进出视频| 欧美激情国产日韩精品一区| 18禁在线播放成人免费| 欧美高清成人免费视频www| 精品久久久久久久久av| 日韩一区二区视频免费看| 一本—道久久a久久精品蜜桃钙片| 久久精品国产亚洲av天美| 久久99蜜桃精品久久| 国产黄色视频一区二区在线观看| 大话2 男鬼变身卡| av不卡在线播放| 插逼视频在线观看| 亚洲成人手机| 网址你懂的国产日韩在线| 少妇裸体淫交视频免费看高清| 国产av一区二区精品久久 | 日日啪夜夜爽| 日日撸夜夜添| 国产 一区 欧美 日韩| 亚洲av成人精品一二三区| 久久久久久久大尺度免费视频| 国产午夜精品久久久久久一区二区三区| 秋霞在线观看毛片| 精品人妻偷拍中文字幕| 最近的中文字幕免费完整| 高清黄色对白视频在线免费看 | 国产成人精品一,二区| 美女国产视频在线观看| 尤物成人国产欧美一区二区三区| www.色视频.com| 午夜精品国产一区二区电影| 免费播放大片免费观看视频在线观看| 香蕉精品网在线| 少妇人妻一区二区三区视频| 欧美xxxx性猛交bbbb| 两个人的视频大全免费| 亚洲四区av| 精品国产露脸久久av麻豆| 国产精品久久久久久av不卡| 国产黄片美女视频| 最后的刺客免费高清国语| 黑丝袜美女国产一区| 18禁在线无遮挡免费观看视频| 久久久久国产网址| 欧美成人a在线观看| 女人久久www免费人成看片| 精品少妇久久久久久888优播| 国产精品99久久久久久久久| 啦啦啦中文免费视频观看日本| 国产成人一区二区在线| 亚洲精品久久午夜乱码| 看免费成人av毛片| 六月丁香七月| 国产精品.久久久| 久久国产亚洲av麻豆专区| 免费看光身美女| 超碰av人人做人人爽久久| 人人妻人人爽人人添夜夜欢视频 | 国语对白做爰xxxⅹ性视频网站| 亚洲成色77777| 亚洲婷婷狠狠爱综合网| 日本免费在线观看一区| 男人爽女人下面视频在线观看| 永久免费av网站大全| 久久久色成人| 男女边摸边吃奶| 精品人妻熟女av久视频| 亚洲精品日韩在线中文字幕| 国产视频内射| 日本av免费视频播放| 欧美丝袜亚洲另类| 中文欧美无线码| 成人二区视频| 一区二区av电影网| 少妇精品久久久久久久| 大码成人一级视频| av视频免费观看在线观看| 91久久精品国产一区二区三区| 欧美变态另类bdsm刘玥| 在线观看国产h片| 国产伦在线观看视频一区| 天美传媒精品一区二区| 黄色配什么色好看| 欧美日韩国产mv在线观看视频 | 午夜激情福利司机影院| 精品人妻视频免费看| 18禁动态无遮挡网站| 国内揄拍国产精品人妻在线| 高清毛片免费看| 久久久久久久久大av| 又黄又爽又刺激的免费视频.| 在线观看三级黄色| 日韩欧美一区视频在线观看 | 99热全是精品| 日本午夜av视频| 亚洲国产成人一精品久久久| 日韩制服骚丝袜av| 日本欧美视频一区| 夫妻午夜视频| 尾随美女入室| 午夜福利视频精品| 日本-黄色视频高清免费观看| 国内精品宾馆在线| 在线观看av片永久免费下载| 免费看av在线观看网站| 搡女人真爽免费视频火全软件| 久久精品国产亚洲av天美| 99久久中文字幕三级久久日本| 观看免费一级毛片| 欧美国产精品一级二级三级 | 亚洲精品日韩av片在线观看| 欧美极品一区二区三区四区| 日韩制服骚丝袜av| 亚洲第一av免费看| 欧美另类一区| 午夜视频国产福利| 最近中文字幕高清免费大全6| 亚洲色图av天堂| 插阴视频在线观看视频| 1000部很黄的大片| 一级黄片播放器| 免费观看a级毛片全部| 国产91av在线免费观看| 久久久久视频综合| 国产精品人妻久久久久久| 人人妻人人添人人爽欧美一区卜 | 欧美日韩视频高清一区二区三区二| www.av在线官网国产| 亚洲国产最新在线播放| 人妻夜夜爽99麻豆av| 精品人妻熟女av久视频| 久久国产乱子免费精品| 新久久久久国产一级毛片| 大片电影免费在线观看免费| 人妻一区二区av| 亚洲色图综合在线观看| 免费观看av网站的网址| 秋霞在线观看毛片| 久久久久精品久久久久真实原创| 国产亚洲av片在线观看秒播厂| 亚洲av福利一区| 80岁老熟妇乱子伦牲交| 亚洲色图综合在线观看| 免费观看在线日韩| 久久精品国产亚洲av涩爱| 美女xxoo啪啪120秒动态图| 岛国毛片在线播放| 成人无遮挡网站| 欧美三级亚洲精品| 亚洲欧美日韩另类电影网站 | 人妻系列 视频| 久久精品国产自在天天线| 欧美极品一区二区三区四区| 国产精品人妻久久久影院| 亚洲av中文字字幕乱码综合| 亚洲,一卡二卡三卡| 人体艺术视频欧美日本| 水蜜桃什么品种好| 哪个播放器可以免费观看大片| 亚洲不卡免费看| 又粗又硬又长又爽又黄的视频| 欧美老熟妇乱子伦牲交| 国产精品久久久久久av不卡| 亚洲精品aⅴ在线观看| 亚洲欧美日韩另类电影网站 | 99热6这里只有精品| 亚洲熟女精品中文字幕| 中文在线观看免费www的网站| 亚洲欧洲日产国产| 欧美+日韩+精品| 丰满少妇做爰视频| 久久精品人妻少妇| 亚洲人成网站在线播| 一本色道久久久久久精品综合| av专区在线播放| 精品少妇久久久久久888优播| 欧美区成人在线视频| 51国产日韩欧美| 国产一区二区在线观看日韩| 国产高清三级在线| 99九九线精品视频在线观看视频| 国产高清不卡午夜福利| 97精品久久久久久久久久精品| 久久精品国产自在天天线| 99热这里只有是精品50| 我要看日韩黄色一级片| 老司机影院毛片| 下体分泌物呈黄色| 日韩中字成人| 又黄又爽又刺激的免费视频.| 狂野欧美激情性xxxx在线观看| 亚洲中文av在线| 亚洲av免费高清在线观看| 国产黄频视频在线观看| 乱码一卡2卡4卡精品| 亚洲精品国产色婷婷电影| 人妻制服诱惑在线中文字幕| 久久久久网色| 日韩中字成人| 国产淫语在线视频| 亚洲色图综合在线观看| 纵有疾风起免费观看全集完整版| 中文字幕亚洲精品专区| 九色成人免费人妻av| 亚洲在久久综合| 亚洲综合精品二区| 亚洲精品,欧美精品| 精品亚洲成a人片在线观看 | 国产男女超爽视频在线观看| 狂野欧美激情性bbbbbb| 国产伦精品一区二区三区视频9| 午夜免费观看性视频| 91久久精品国产一区二区成人| 纵有疾风起免费观看全集完整版| 18禁动态无遮挡网站| 久久久国产一区二区| 看免费成人av毛片| 亚洲欧美中文字幕日韩二区| 日韩精品有码人妻一区| 成人午夜精彩视频在线观看| 久久97久久精品| 国产在线免费精品| 国产精品久久久久久av不卡| 午夜福利高清视频| 高清毛片免费看| 丰满人妻一区二区三区视频av| 少妇精品久久久久久久| a级毛片免费高清观看在线播放| 少妇高潮的动态图| 在线免费十八禁| 99热国产这里只有精品6| 日韩一区二区视频免费看| 少妇猛男粗大的猛烈进出视频| 精品人妻偷拍中文字幕| 国产在线一区二区三区精| 国产高清国产精品国产三级 | 最近2019中文字幕mv第一页| 一区二区av电影网| kizo精华| 性色avwww在线观看| 日本与韩国留学比较| 亚洲人成网站高清观看| 久久青草综合色| 国产高潮美女av| 中文字幕制服av| 国国产精品蜜臀av免费| h日本视频在线播放| 秋霞在线观看毛片| 亚洲一级一片aⅴ在线观看| 国产美女午夜福利| 99热国产这里只有精品6| 免费人成在线观看视频色| 久久韩国三级中文字幕| 亚洲精品日韩在线中文字幕| 国产亚洲av片在线观看秒播厂| 国产综合精华液| av在线蜜桃| 熟妇人妻不卡中文字幕| 黑人猛操日本美女一级片| 一个人看的www免费观看视频| 一级黄片播放器| 一本—道久久a久久精品蜜桃钙片| 99国产精品免费福利视频| 亚洲国产色片| 九九久久精品国产亚洲av麻豆| 日韩成人伦理影院| 日本一二三区视频观看| 黄片wwwwww| 亚洲人成网站在线观看播放| 亚洲综合精品二区| av免费观看日本| 久久精品熟女亚洲av麻豆精品| 大片免费播放器 马上看| av在线观看视频网站免费| 国产成人a区在线观看| 一二三四中文在线观看免费高清| 婷婷色麻豆天堂久久| videos熟女内射| 国产黄片视频在线免费观看| 日韩人妻高清精品专区| 老师上课跳d突然被开到最大视频| 校园人妻丝袜中文字幕| 在线观看av片永久免费下载| videos熟女内射| 国产高清有码在线观看视频| 亚洲精品亚洲一区二区| 少妇精品久久久久久久| 久久 成人 亚洲| av在线观看视频网站免费| 日韩视频在线欧美| 18禁在线无遮挡免费观看视频| 黄片无遮挡物在线观看| 一级毛片aaaaaa免费看小| 欧美成人a在线观看| 中文欧美无线码| 秋霞伦理黄片| 亚洲欧美清纯卡通| 日韩伦理黄色片| 中文资源天堂在线| av女优亚洲男人天堂| 久久久久久久久大av|