• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    融合注意力機(jī)制SimAM 的CNN-MogrifierLSTM 航班延誤波及預(yù)測

    2022-12-26 13:22:22屈景怡張金杰趙婭倩李云龍
    信號處理 2022年11期
    關(guān)鍵詞:波及時序航班

    屈景怡 張金杰 趙婭倩 李云龍

    (1.中國民航大學(xué)天津市智能信號與圖像處理重點(diǎn)實(shí)驗(yàn)室,天津 300300;2.上海民航華東通信網(wǎng)絡(luò)發(fā)展有限公司,上海 200355)

    1 引言

    隨著空中交通流量的增加,航班延誤問題給民航的正常運(yùn)轉(zhuǎn)帶來了挑戰(zhàn)。某一機(jī)場產(chǎn)生的航班延誤會在空中交通網(wǎng)絡(luò)內(nèi)部進(jìn)行傳播,航線密集的樞紐機(jī)場一旦發(fā)生航班延誤,延誤更容易直接傳播至其他中小型機(jī)場[1]。提前對航班延誤波及問題進(jìn)行準(zhǔn)確的預(yù)測,可以提高航班延誤預(yù)警水平,減小航空公司和機(jī)場的經(jīng)濟(jì)損失,提高旅客出行滿意度。

    在班延誤波及預(yù)測的問題上,國內(nèi)外學(xué)者們多結(jié)合航班延誤影響因素、機(jī)場繁忙程度、航班計劃等進(jìn)行研究。目前已有的方法多基于概率論的方法來計算連續(xù)航班延誤落在不同區(qū)間的條件概率[2-4],文獻(xiàn)[5]考慮機(jī)場放行能力約束條件來對航班延誤波及進(jìn)行分析,對延誤時長進(jìn)行了定量預(yù)測,提升了預(yù)測準(zhǔn)確率;文獻(xiàn)[6]通過馬爾科夫毯網(wǎng)絡(luò)建立了航班計劃的多個屬性和延誤波及變化的貝葉斯網(wǎng)絡(luò)模型,來研究航班計劃對于航班延誤波及傳播的影響。但以上大多是用小樣本數(shù)據(jù)對航班延誤波及問題產(chǎn)生的原因進(jìn)行研究,面對數(shù)據(jù)量達(dá)到百萬級的航班數(shù)據(jù),如何有效的對航班延誤中復(fù)雜關(guān)系進(jìn)行分析挖掘,深度學(xué)習(xí)是目前研究中使用最為廣泛的方法之一。文獻(xiàn)[7]使用SE-DenseNet模型加強(qiáng)了信息間的傳遞對航班延誤進(jìn)行預(yù)測;文獻(xiàn)[8]提出基于區(qū)域殘差和LSTM 網(wǎng)絡(luò)有效提取機(jī)場延誤數(shù)據(jù)的時間相關(guān)性;文獻(xiàn)[9]使用時空圖卷積神經(jīng)網(wǎng)絡(luò)對離港延誤時長進(jìn)行預(yù)測。雖然這些方法對單航班延誤程度的預(yù)測均有效提高了預(yù)測準(zhǔn)確率,但并未考慮航班間的波及問題。近年來,逐漸有學(xué)者嘗試將深度學(xué)習(xí)用于航班延誤波及的研究中,文獻(xiàn)[10]構(gòu)建基于CBAM-CondenseNet 的航班延誤波及預(yù)測模型,文獻(xiàn)[11]提出雙向LSTMCatboost 的航班鏈?zhǔn)窖诱`預(yù)測模型,用Catboost 取代全連接層對航班波及延誤時長進(jìn)行預(yù)測。航班延誤波及預(yù)測屬于基于時序信息的預(yù)測,又包含豐富的空間信息[12]。但這兩種模型并未對航班延誤波及中的時序與空間屬性同時進(jìn)行特征提取。

    長短時記憶網(wǎng)絡(luò)(Long Short-Term Memory,LSTM),在時間維度上對先前時序信息能夠記憶的更為深刻,但使LSTM 中輸入的x和之前狀態(tài)hprev在輸入細(xì)胞前是相互獨(dú)立的,MogrifierLSTM 使這兩個輸入從完全獨(dú)立到自主交互很好的提升了網(wǎng)絡(luò)性能[13]。TCN 作為時間卷積網(wǎng)絡(luò)融合了膨脹卷積和ResNet 殘差結(jié)構(gòu),彌補(bǔ)了傳統(tǒng)卷積神經(jīng)網(wǎng)絡(luò)提取時序信息不足的缺點(diǎn),但是需要足夠長的原始輸入信息才能保證獲取到歷史信息[14-17]。由于航班波及的航班數(shù)量有限,構(gòu)成時序數(shù)據(jù)集的序列長度有限,所以本文使用CNN 網(wǎng)絡(luò)與MogrifierLSTM 對航班延誤波及問題進(jìn)行預(yù)測,并融合注意力模塊SimAM 來提高預(yù)測準(zhǔn)確率。目前普遍使用的SE 模塊文獻(xiàn)為通道注意模塊,但其只針對通道而忽略了空間,CBAM 模塊在通道注意的基礎(chǔ)上增加了空間注意力,但兩者并不是同時進(jìn)行;文獻(xiàn)[18]提出的Si?mAM不同于現(xiàn)有的通道空間注意力模塊,該模塊無需額外參數(shù)為特征圖推導(dǎo)出3D 注意力權(quán)值,可以更好對關(guān)鍵特征的提取進(jìn)行同時強(qiáng)化。

    針對航班延誤波及的空時特性,本文先后提出兩種不同類型的航班延誤波及數(shù)據(jù)集的構(gòu)造方法,又提出融合注意力機(jī)制SimAM 的CNN-MogrifierLSTM航班延誤波及預(yù)測方法,不僅采用了卷積神經(jīng)網(wǎng)絡(luò)在空間特征提取的優(yōu)勢又考慮了形變長短時記憶網(wǎng)絡(luò)在處理時序信息的優(yōu)越性,并用注意力機(jī)制模塊對特征矩陣進(jìn)行重要神經(jīng)元增強(qiáng)。實(shí)現(xiàn)同一架飛機(jī)在執(zhí)行不同航班任務(wù)時,根據(jù)航班延誤波及的傳播規(guī)律對后續(xù)航班的延誤等級進(jìn)行分類預(yù)測,為有關(guān)民航部門控制延誤波及提供相應(yīng)建議。

    2 航班鏈?zhǔn)侥P徒?/h2>

    航班延誤具有時空分布的特性,當(dāng)同一架飛機(jī)連續(xù)執(zhí)行不同的航班任務(wù)時,由于前一架飛機(jī)的延誤而導(dǎo)致后續(xù)航班繼續(xù)延誤的情況常有發(fā)生。定義同一架航空器在一定時間范圍內(nèi)第一次起飛的機(jī)場為一級機(jī)場。航空器從一級起飛機(jī)場執(zhí)行航班任務(wù)1 到達(dá)的機(jī)場稱為二級機(jī)場,也稱為一級到達(dá)機(jī)場或二級起飛機(jī)場。以此類推,多個機(jī)場由同一架航空器Z 在不同機(jī)場間執(zhí)行飛行任務(wù)聯(lián)系,從而構(gòu)成航班鏈,如圖1 所示。以“北京-上海-廣州”為例,定義北京為一級機(jī)場,同一架飛機(jī)執(zhí)行航班任務(wù)1 從北京飛往上海,上海就是航班鏈中的二級機(jī)場,也叫一級到達(dá)機(jī)場或二級起飛機(jī)場;該飛機(jī)又從上海出發(fā)執(zhí)行航班任務(wù)2 從上海飛往廣州,廣州就是航班鏈中的三級機(jī)場,也叫二級到達(dá)機(jī)場或三級起飛機(jī)場。

    圖1 航班鏈模型Fig.1 Flight chain model

    3 融合注意力機(jī)制SimAM的CNN-Mogrifier-LSTM 網(wǎng)絡(luò)混合模型

    3.1 網(wǎng)絡(luò)描述

    CNN 在預(yù)測中難以學(xué)習(xí)時序數(shù)據(jù)之間的關(guān)系,由于航班鏈數(shù)據(jù)具有時序性,因此對航班延誤波及問題進(jìn)行預(yù)測需要循環(huán)神經(jīng)網(wǎng)絡(luò)系列方法的強(qiáng)化。CNN-LSTM 網(wǎng)絡(luò)結(jié)構(gòu)圖如圖2(a)所示,本文提出的融合注意力機(jī)制SimAM 的CNN-MogrifierLSTM 網(wǎng)絡(luò)模型如圖2(b)所示。

    本文網(wǎng)絡(luò)先通過四個融合SimAM 的結(jié)構(gòu)塊,每個結(jié)構(gòu)塊采用1×1 卷積,然后使用兩個3×3 卷積進(jìn)行特征的提取,最后使用1×1卷積進(jìn)行融合,每個卷積層都通過分組來保證其時序的獨(dú)立性,再通過Si?mAM 模塊進(jìn)行通道和空間上的同步加權(quán)。卷積完成后通過平均池化篩選卷積層已提取的特征,最后數(shù)據(jù)經(jīng)過全連接層送入MogrifierLSTM 中預(yù)測,融合注意力機(jī)制SimAM 的CNN-MogrifierLSTM 網(wǎng)絡(luò)對針對強(qiáng)空間航班鏈數(shù)據(jù)集的網(wǎng)絡(luò)配置如下表1 所示,數(shù)據(jù)集具體構(gòu)造方法見本文4.2節(jié)。

    表1 網(wǎng)絡(luò)結(jié)構(gòu)配置Tab.1 Network structure configuration table

    圖2(b)中使用的SimAM 模塊如圖3(c)所示,改進(jìn)了通道注意力如圖3(a)所示與空間注意力如圖3(b)所示無法同時進(jìn)行的優(yōu)勢,C代表通道數(shù),M代表每個通道輸入H×W矩陣的維度。引用神經(jīng)科學(xué)中信息豐富的神經(jīng)元通常表現(xiàn)出與周圍神經(jīng)元不同的放電模式并會抑制周圍神經(jīng)元,具有空域抑制效應(yīng)的神經(jīng)元應(yīng)當(dāng)賦予更高的重要性,定義了如公式(1)所示的能量函數(shù)。

    圖2 網(wǎng)絡(luò)結(jié)構(gòu)示意圖Fig.2 Diagram of network structure

    圖3 注意力對比示意圖Fig.3 Attention contrast diagram

    圖4 融合SimAM單個結(jié)構(gòu)塊Fig.4 Fusion of SimAM structural block

    LSTM 一直被廣泛應(yīng)用在各類與時序相關(guān)的任務(wù)中[19],MogrifierLSTM 在不改變LSTM 本身的結(jié)構(gòu)下,讓上一時刻的隱藏層狀態(tài)hprev和當(dāng)前時刻的輸入x在輸入當(dāng)前神經(jīng)元前就進(jìn)行了交互,增強(qiáng)了上下文的建模能力。交替地讓x和hprev交互進(jìn)行QR分解如公式(3)所示。

    其中Cprev代表前一個MogrifierLSTM 單元的細(xì)胞狀態(tài),hprev表示隱藏層狀態(tài)。定義為中上標(biāo)最大的那個值,如公式(4)與公式(5)所示。Mog?rifierLSTM 架構(gòu)中的hprev,Cprev是前一個細(xì)胞的隱藏層狀態(tài),在初始化的時均采用從0初始化,以保持每個序列中互不干擾。但在更新隱藏層參數(shù)時,采用的是隨機(jī)初始化。

    3.2 網(wǎng)絡(luò)反向傳播

    本文網(wǎng)絡(luò)的反向傳播過程通過梯度下降算法逐層迭代,根據(jù)誤差項(xiàng)實(shí)現(xiàn)更新參數(shù)直至網(wǎng)絡(luò)收斂。融合注意力機(jī)制SimAM 的CNN-MogrifierLSTM在反向傳播的過程中分為MogrifierLSTM 模塊與融合SimAM的CNN模塊,反向傳播過程如圖5所示。

    圖5 網(wǎng)絡(luò)反向傳播圖Fig.5 Network back propagation

    MogrifierLSTM 在不改變LSTM 本身的結(jié)構(gòu)下,根據(jù)梯度下降算法,先對MogrifierLSTM 網(wǎng)絡(luò)反向傳播過程中的誤差項(xiàng)進(jìn)行推導(dǎo),據(jù)誤差反向傳播原理,推導(dǎo)得出誤差沿網(wǎng)絡(luò)層數(shù)的反向傳播過程為式(6)所示。其中分別代表每個記憶細(xì)胞中各個門的誤差項(xiàng)如式(7)~(10)所示。依次表示輸入門、遺忘門、輸出門的權(quán)重矩陣。

    其中f(·)為激活函數(shù),f(·)'為激活函數(shù)的導(dǎo)數(shù)。上標(biāo)l代表當(dāng)前層,下標(biāo)t代表當(dāng)前時刻。卷積模塊內(nèi)各個隱藏層的誤差計算如式(11)~(17)所示。其中δ1,δ2…δ7分別表示對應(yīng)層的誤差項(xiàng),U1,U2,…U6為各層的輸出特征映射,W表示每層的之間的映射矩陣。

    4 融合注意力機(jī)制SimAM的CNN-Mogrifier-LSTM 航班延誤波及預(yù)測

    融合注意力機(jī)制SimAM 的CNN-MogrifierLSTM航班延誤波及結(jié)構(gòu)圖如圖6 所示,主要包括航班鏈數(shù)據(jù)集構(gòu)造、特征提取、分類預(yù)測三部分,下面主要對航班鏈數(shù)據(jù)集構(gòu)造與分類預(yù)測展開描述。

    圖6 航班延誤波及預(yù)測模型總體結(jié)構(gòu)圖Fig.6 Overall structure diagram of flight delay ripple prediction model

    4.1 數(shù)據(jù)集介紹

    本文所使用的航班數(shù)據(jù)為中國民用航空華東地區(qū)空中交通管理局所提供的2018年3月到2019年5月全國航班飛行數(shù)據(jù),其中關(guān)鍵的樣本屬性包括航班號、飛機(jī)編號、實(shí)際起飛/到達(dá)機(jī)場、飛行航跡、計劃出發(fā)/到達(dá)時間、實(shí)際出發(fā)/到達(dá)時間、目標(biāo)/實(shí)際撤輪檔時間、計劃起飛/到達(dá)機(jī)場、計劃機(jī)型、巡航高度、巡航速度、軍方批號、保障種類、保障類型等38 個屬性。這些特征屬性都與該條航班是否延誤有密切的關(guān)聯(lián),不僅包含了重要的空間特征,也包含了豐富的時間信息。由于空管局所提供航班數(shù)據(jù)中有部分異常值與空值,所以先對原始航班數(shù)據(jù)集選擇目前主流的數(shù)據(jù)分析庫Pandas 進(jìn)行數(shù)據(jù)清洗。

    4.2 航班鏈數(shù)據(jù)集構(gòu)造

    根據(jù)航班延誤波及的空時特點(diǎn),本文首先嘗試了以空間信息為主的強(qiáng)空間航班鏈數(shù)據(jù)集的構(gòu)造方法,為了增強(qiáng)其時間上的關(guān)聯(lián)性又提出了強(qiáng)時序航班鏈數(shù)據(jù)集的構(gòu)造方法。在強(qiáng)空間航班鏈數(shù)據(jù)集中可以根據(jù)往日同一航班鏈延誤情況對延誤等級進(jìn)行預(yù)測,強(qiáng)時序航班鏈數(shù)據(jù)集中上一次航班的延誤狀態(tài)會直接影響下一次航班的延誤程度。

    4.2.1 強(qiáng)空間航班鏈數(shù)據(jù)集構(gòu)建

    根據(jù)第2 章中航班鏈?zhǔn)侥P偷亩x,每次執(zhí)行航班的到達(dá)機(jī)場與執(zhí)行下一次航班的起飛機(jī)場為同一機(jī)場,本文根據(jù)同一架航空器在24小時內(nèi)空間維度上的變化構(gòu)成強(qiáng)空間航班鏈數(shù)據(jù)集。首先選定飛機(jī)編號(航空器編號)、航班執(zhí)行日期、一級到達(dá)機(jī)場、二級起飛機(jī)場四個屬性作為數(shù)據(jù)融合的鍵值,對清洗后的航班數(shù)據(jù)集進(jìn)行第一次數(shù)據(jù)融合,融合后去除二級機(jī)場起飛時間早于一級機(jī)場到達(dá)二級機(jī)場時間的異常航班鏈,此時航班鏈數(shù)據(jù)集中該飛行器執(zhí)行了兩次航班任務(wù),在空間上周轉(zhuǎn)了三個機(jī)場。延誤波及現(xiàn)象的產(chǎn)生有逐級傳遞的特性,以此類推本文對數(shù)據(jù)進(jìn)行了三次融合,然后對融合后的航班鏈數(shù)據(jù)集根據(jù)一級機(jī)場的起飛時間對所有的航班鏈數(shù)據(jù)集進(jìn)行時間軸上排序,構(gòu)成最終的強(qiáng)空間航班鏈數(shù)據(jù)集,每條數(shù)據(jù)中的航空器連續(xù)執(zhí)行了四次航班飛行任務(wù),空間維度涉及五個機(jī)場的中轉(zhuǎn)情況,航班鏈的延誤標(biāo)簽為第4 次航班任務(wù)的延誤等級。大多數(shù)飛機(jī)在執(zhí)行完一次飛行任務(wù)后當(dāng)日并不會再執(zhí)行其他的飛行任務(wù),隨著在同一天內(nèi)執(zhí)行飛行任務(wù)的增多,可研究的航班鏈數(shù)據(jù)集的數(shù)據(jù)量也會越來越少,所以本文主要研究由連續(xù)執(zhí)行四次航班任務(wù)構(gòu)成的航班鏈延誤波及情況。最后將強(qiáng)空間航班鏈數(shù)據(jù)集中的特征屬性劃分為數(shù)值型與離散型,數(shù)值型特征采用Min-Max 歸一化編碼,離散型特征采用Catboost編碼。

    為了更清楚的對強(qiáng)空間數(shù)據(jù)集進(jìn)行描述。定義強(qiáng)空間航班鏈數(shù)據(jù)集Fa中第i條航班鏈數(shù)據(jù)用fi=(fi1,fi2,fi3,fi4)表示。其中fi1,fi2,fi3,fi4分別代表這條航班鏈數(shù)據(jù)fi包含在時間維度上前后執(zhí)行航班任務(wù)的四條單航班信息。Fa數(shù)據(jù)集進(jìn)一步可以用Fa={(f11,f12,f13,f14),(f21,f22,f23,f24),(f31,f32,f33,f34),…}(fn1,fn2,fn3,fn4) 表示。

    4.2.2 強(qiáng)時序航班鏈數(shù)據(jù)集構(gòu)建

    強(qiáng)空間航班鏈數(shù)據(jù)集的每條航班鏈數(shù)據(jù)中包含多級機(jī)場豐富的空間信息,但時序信息只包含在相鄰的航班鏈中,為了進(jìn)一步研究航班鏈內(nèi)部的時序性,本節(jié)提出了第二種數(shù)據(jù)集構(gòu)造方法,如圖7強(qiáng)時序航班鏈數(shù)據(jù)集構(gòu)造圖所示。

    圖7 強(qiáng)時序航班鏈數(shù)據(jù)集結(jié)構(gòu)圖Fig.7 Strong temporal flight chain data construction

    由于每條航班鏈數(shù)據(jù)在時間維度上執(zhí)行航班任務(wù)有前后順序,前序航班的延誤會對后續(xù)航班的延誤會有較大的影響,所以對每條強(qiáng)空間航班鏈數(shù)據(jù)進(jìn)行數(shù)據(jù)分割。為滿足不同情況下的預(yù)測需求,分別構(gòu)建強(qiáng)時序性航班鏈數(shù)據(jù)集Fb,F(xiàn)c,F(xiàn)d分別表示為:

    其中強(qiáng)時序航班鏈數(shù)據(jù)集Fb只根據(jù)第一次航班與第二次航班的數(shù)據(jù)來預(yù)測第二次航班的延誤程度,融合注意力機(jī)制SimAM 的CNN-Mogrifier LSTM 網(wǎng)絡(luò)的步長設(shè)為2。強(qiáng)時序航班鏈數(shù)據(jù)集Fc根據(jù)第一次航班、第二次航班與第三次航班的數(shù)據(jù)來預(yù)測第三次航班的延誤程度,步長設(shè)為3。強(qiáng)時序航班鏈數(shù)據(jù)集Fd根據(jù)第一次航班、第二次航班、第三次航班與第四次航班的數(shù)據(jù)來預(yù)測第四次航班的延誤程度,步長設(shè)為4。不同的強(qiáng)時序航班鏈數(shù)據(jù)集可以訓(xùn)練不同的網(wǎng)絡(luò)模型供空管部門使用,其數(shù)據(jù)集總量增至強(qiáng)空間數(shù)據(jù)集的2倍、3倍、4倍。

    4.3 分類預(yù)測

    根據(jù)《航班正常管理規(guī)定》[20]中“航班延誤”的相關(guān)定義,將航班延誤情況進(jìn)行細(xì)分得到五個延誤等級,并對不同的等級劃分延誤等級數(shù),其判定標(biāo)準(zhǔn)如表2中所示。等級標(biāo)簽根據(jù)數(shù)據(jù)集中的計劃到達(dá)時間與實(shí)際到達(dá)時間進(jìn)行差值計算,最終用Soft?max分類器得到航班延誤預(yù)測等級。

    表2 航班延誤等級劃分Tab.2 Classification of flight delays

    根據(jù)預(yù)測出的最大概率的延誤等級,決定模型輸出航班延誤波及的預(yù)測結(jié)果。為了評估融合注意力機(jī)制SimAM 的CNN-MogrifierLSTM 模型分類的效果,本文使用準(zhǔn)確率作為評估指標(biāo),即模型預(yù)測結(jié)果正確的數(shù)量占數(shù)據(jù)總量的比值,如公式(18)所示。N代表航班鏈數(shù)據(jù)集樣本總量,L代表延誤程度的五種類別,Si代表驗(yàn)證集中延誤等級為i時預(yù)測結(jié)果正確的航班鏈數(shù)據(jù)量。

    5 實(shí)驗(yàn)結(jié)果與分析

    實(shí)驗(yàn)環(huán)境為戴爾PoweredgeR370 機(jī)架式服務(wù)器,16G 顯存,雙Intel XeonE5-2630 CPU,CPU 頻率為2.20GHz,GPU 加速顯卡為NVIDIA P100,軟件的運(yùn)行環(huán)境為Ubuntu16.04 操作系統(tǒng)搭建的Pytorch深度學(xué)習(xí)框架。

    5.1 模型參數(shù)設(shè)計

    本文實(shí)驗(yàn)所使用的原始航班數(shù)據(jù)共1048576條,經(jīng)過數(shù)據(jù)清洗與航班鏈數(shù)據(jù)集構(gòu)造后,航班延誤波及預(yù)測實(shí)驗(yàn)最終使用的強(qiáng)空間航班鏈數(shù)據(jù)集Fa的數(shù)據(jù)量為36287條;根據(jù)前一次航班延誤程度預(yù)測下一次航班延誤的強(qiáng)時序航班鏈數(shù)據(jù)集Fb的數(shù)據(jù)量為72574條;根據(jù)前兩次航班延誤程度預(yù)測下一次航班延誤的強(qiáng)時序航班鏈數(shù)據(jù)集Fc的數(shù)據(jù)量為108861條;根據(jù)前三次航班延誤程度預(yù)測下一次航班延誤的強(qiáng)時序航班鏈數(shù)據(jù)集Fd的數(shù)據(jù)量為145148條;訓(xùn)練集和驗(yàn)證集劃分比例為5∶1。在經(jīng)過多次實(shí)驗(yàn)與參數(shù)調(diào)整后,融合注意力機(jī)制SimAM 的CNNMogrifierLSTM 網(wǎng)絡(luò)的實(shí)驗(yàn)環(huán)境參數(shù)選取信息如表3所示。

    表3 實(shí)驗(yàn)環(huán)境參數(shù)Tab.3 Experimental environment parameters

    融合SimAM 的CNN-MogrifierLSTM 卷積濾波器的數(shù)量為64 個,步長為默認(rèn)值1,同時對邊界進(jìn)行Padding 補(bǔ)0 填充保證輸入卷積層后輸出尺寸不發(fā)生變化;池化層采用平均池化方式,池化尺寸為2×2,步長也設(shè)為1;然后輸入一層MogrifierLSTM 網(wǎng)絡(luò)中,隱藏層維數(shù)256。

    5.2 強(qiáng)空間航班鏈數(shù)據(jù)集結(jié)果分析

    MogrifierLSTM 網(wǎng)絡(luò)在提取時間序列信息的過程中,序列的步長對最終的預(yù)測輸出有著直接的影響。如果輸入網(wǎng)絡(luò)的步長太短,可能會弱化數(shù)據(jù)之間的相關(guān)性,有效的時間信息不能被充分學(xué)習(xí);反之輸入的步長太長,訓(xùn)練過程中可能會存在梯度消失甚至梯度爆炸現(xiàn)象。表4列舉了對于強(qiáng)空間航班鏈數(shù)據(jù)集Fa使用融合SimAM 的CNN-MogrifierLSTM混合網(wǎng)絡(luò)模型不同步長對應(yīng)的準(zhǔn)確率。

    表4 強(qiáng)空間航班鏈數(shù)據(jù)集序列長度準(zhǔn)確率對比Tab.4 Comparison of sequence length accuracy rates in strong space flight chain data

    通過實(shí)驗(yàn)結(jié)果發(fā)現(xiàn),強(qiáng)空間航班鏈數(shù)據(jù)集Fa的序列長度等于8 的時候,預(yù)測結(jié)果的準(zhǔn)確率最高為78.79%。在步長選擇合適的情況下,在對未來航班延誤波及進(jìn)行預(yù)測可以產(chǎn)生很好的時間相關(guān)性,但隨著步長增加,在時間維度上會學(xué)習(xí)到更多不需要的冗余數(shù)據(jù),造成準(zhǔn)確率的下降。本文后續(xù)對強(qiáng)空間航班鏈數(shù)據(jù)集的航班延誤波及預(yù)測的步長取值均選用8。

    5.3 不同航班鏈數(shù)據(jù)集結(jié)果分析

    強(qiáng)空間航班鏈數(shù)據(jù)集在時間上參考前序飛行計劃相同的航班鏈數(shù)據(jù),航班延誤波及信息更多在空間維度上體現(xiàn)。強(qiáng)時序航班鏈數(shù)據(jù)集直接根據(jù)同一架飛行器前幾次飛行任務(wù)情況來對后續(xù)執(zhí)行的航班進(jìn)行延誤預(yù)測,時序性更強(qiáng)。在飛機(jī)實(shí)際執(zhí)行航班任務(wù)的時候,連續(xù)執(zhí)行兩次航班任務(wù)的情況比較多,連續(xù)執(zhí)行三次任務(wù)的情況會相對減少,連續(xù)執(zhí)行四次任務(wù)會更少為了使模型在實(shí)際預(yù)測中具有更好的適用性,針對這三種情況分別構(gòu)建了連續(xù)執(zhí)行兩次航班任務(wù)數(shù)據(jù)集Fb,連續(xù)執(zhí)行三次航班任務(wù)數(shù)據(jù)集Fc,連續(xù)執(zhí)行四次航班任務(wù)數(shù)據(jù)集的強(qiáng)時序數(shù)據(jù)集Fd,不同數(shù)據(jù)集的實(shí)驗(yàn)結(jié)果對比如圖8所示,其中8(a)為延誤等級分類準(zhǔn)確率對比,8(b)為損失值對比。

    圖8 不同數(shù)據(jù)集對比Fig.8 Comparison of different data sets

    從圖中可以看出三種強(qiáng)時序鏈數(shù)據(jù)集在準(zhǔn)確率上相比強(qiáng)空間數(shù)據(jù)集有了很大的提升,準(zhǔn)確率最好的是連續(xù)執(zhí)行四次航班任務(wù)的數(shù)據(jù)集Fd,準(zhǔn)確率達(dá)到了93.16%,相比于強(qiáng)空間數(shù)據(jù)集Fa的準(zhǔn)確率78.79%提升了14.37%,損失值也最低。將三種強(qiáng)時序航班鏈數(shù)據(jù)集進(jìn)行對比發(fā)現(xiàn)隨著連續(xù)執(zhí)行航班次數(shù)的增多,時序性也在增強(qiáng),預(yù)測準(zhǔn)確率也在逐步提升。

    5.4 交替輪數(shù)對預(yù)測結(jié)果的影響

    交替輪數(shù)r值是MogrifierLSTM 網(wǎng)絡(luò)中一個重要的超參數(shù),r值越大x輸入LSTM 網(wǎng)絡(luò)前和之前細(xì)胞的狀態(tài)交互越充分,網(wǎng)絡(luò)更好挖掘時序信息之間的關(guān)聯(lián)性。但是r值每增加1,每次更LSTM 細(xì)胞狀態(tài)時就要多進(jìn)行一次QR 矩陣分解,網(wǎng)絡(luò)計算量與訓(xùn)練時間都會大幅度的增加。由于實(shí)驗(yàn)硬件設(shè)施算力有限,所以實(shí)驗(yàn)r最多設(shè)為6。表5 為交替輪數(shù)r增加時,航班延誤波及預(yù)測的準(zhǔn)確率與每輪訓(xùn)練時間在兩種數(shù)據(jù)集上的實(shí)驗(yàn)結(jié)果。本文實(shí)驗(yàn)對訓(xùn)練模型耗時要求不是很高,所以優(yōu)先考慮對準(zhǔn)確率的影響,故強(qiáng)空間航班鏈數(shù)據(jù)集Fa的r值設(shè)為6,強(qiáng)時序航班鏈數(shù)據(jù)集Fd的r值也設(shè)為6。

    表5 交替輪數(shù)r對準(zhǔn)確率與訓(xùn)練時間的對比Tab.5 Alternating rounds r for accuracy and training time

    5.5 算法復(fù)雜度

    空間復(fù)雜度與時間復(fù)雜度是表示算法復(fù)雜度的兩個重要指標(biāo)。空間復(fù)雜度用來計算資源的消耗程度,模型參數(shù)用Params 衡量,算法越復(fù)雜,參數(shù)量越多。時間復(fù)雜度用浮點(diǎn)運(yùn)算次數(shù)FLOPs 衡量,算法復(fù)雜度越高,模型訓(xùn)練和預(yù)測的時間都會變長。表6 為本文融合注意力機(jī)制SimAM 的CNNMogrifierLSTM 模型與其他幾種模型的復(fù)雜度對比,其中MogrifierLSTM 簡寫為MLSTM。從表6 中可以看出,MLSTM 相比于LSTM 算法復(fù)雜度并無很大增加,在CNN-MLSTM 中融入注意力機(jī)制SimAM 模塊后參數(shù)量增基本不發(fā)生變化,進(jìn)一步驗(yàn)證了SimAM模塊的無參特性。并使用1000 條驗(yàn)證集數(shù)據(jù)對模型進(jìn)行了預(yù)測時間分析,結(jié)果如表6 所示。不同模型平均每條航班的預(yù)測時長差值都在0.001 秒以內(nèi),證明了該模型雖然復(fù)雜度有所增加,但實(shí)際預(yù)測耗時并無很大變化。空管局對預(yù)測實(shí)時性的要求為預(yù)測一條數(shù)據(jù)在一秒以內(nèi),所以犧牲復(fù)雜度提高準(zhǔn)確率在實(shí)際運(yùn)用中是可行的。

    表6 不同網(wǎng)絡(luò)模型算法復(fù)雜度對比Tab.6 Network model algorithm comcexity comparison

    5.6 不同網(wǎng)絡(luò)模型結(jié)果分析

    為了測試融合SimAM 注意力機(jī)制的CNN-MogrifierLSTM 網(wǎng)絡(luò)的性能,本節(jié)在強(qiáng)空間數(shù)據(jù)集Fa與強(qiáng)時序數(shù)據(jù)集Fd兩種數(shù)據(jù)集上分別使用CNN、LSTM、MogrifierLSTM、CNN-LSTM、CNN-MogrifierLSTM五種模型與本文提出的SimAM-CNN-MogrifierLSTM網(wǎng)絡(luò)模型進(jìn)行準(zhǔn)確率與損失值的對比實(shí)驗(yàn)。對于強(qiáng)空間數(shù)據(jù)集Fa不同模型的對比實(shí)驗(yàn)結(jié)果如圖9所示,強(qiáng)時序數(shù)據(jù)集Fd不同模型的準(zhǔn)確率對比實(shí)驗(yàn)結(jié)果如圖10 所示,(a)為準(zhǔn)確率對比,(b)為損失值對比。

    圖9 強(qiáng)空間數(shù)據(jù)集不同模型性能對比Fig.9 Strong spatial data set comparison

    圖10 強(qiáng)時序數(shù)據(jù)集不同模型性能對比Fig.10 Strong sequential data set comparison

    從實(shí)驗(yàn)結(jié)果可以看出在時序的基礎(chǔ)上加上卷積思想后的CNN-MogrifierLSTM 網(wǎng)絡(luò)在兩種數(shù)據(jù)集上相比單獨(dú)的CNN網(wǎng)絡(luò)或LSTM網(wǎng)絡(luò)的準(zhǔn)確率都有了明顯的提升,在強(qiáng)空間數(shù)據(jù)集上,相比CNN 網(wǎng)絡(luò)提升了2.38%,相比LSTM 網(wǎng)絡(luò)提升了2.24%;在強(qiáng)時序數(shù)據(jù)集上,分別提升了16.46%與2.16%。本文對CNN-MogrifierLSTM 加入SimAM 注意力機(jī)制模塊后,在強(qiáng)空間數(shù)據(jù)集上相比CNN-MLSTM 又提升了0.62%達(dá)到了78.79%,在強(qiáng)時序數(shù)據(jù)集上提升了0.53%達(dá)到了93.16%,明顯高于其他五種網(wǎng)絡(luò)的準(zhǔn)確率,損失函數(shù)值也最低。綜合說明本文提出的融合注意力機(jī)制SimAM 的CNN-MogrifierLSTM 網(wǎng)絡(luò)在進(jìn)行航班延誤波及預(yù)測時,預(yù)測出的航班延誤波及分類結(jié)果與實(shí)際最為接近,網(wǎng)絡(luò)性能最優(yōu)。

    為了進(jìn)一步驗(yàn)證運(yùn)用深度學(xué)習(xí)模型在大數(shù)據(jù)基礎(chǔ)上對航班延誤預(yù)測的準(zhǔn)確率相比于傳統(tǒng)算法有很大提升。分別用幾種不同的航班預(yù)測模型[21-23]與本文模型進(jìn)行對比,實(shí)驗(yàn)對比如表7 所示。傳統(tǒng)的機(jī)器學(xué)習(xí)是屬于小樣本學(xué)習(xí),對于大數(shù)據(jù)的訓(xùn)練效果不是很好。從數(shù)據(jù)的屬性分析,航班數(shù)據(jù)其屬性之間具有依賴性,而傳統(tǒng)的如C4.5在選擇屬性是沒有考慮到屬性間的相關(guān)。支持向量機(jī)通過求解凸二次規(guī)劃問題得到一個局部最優(yōu)解,也為全局最優(yōu)解,而航班數(shù)據(jù)的每一條之間其差異性較小。貝葉斯網(wǎng)絡(luò)使用的前提是屬性之間相互獨(dú)立,而該假設(shè)并不適用于本數(shù)據(jù)集。人工神經(jīng)網(wǎng)絡(luò)的可以充分的學(xué)習(xí)屬性之間的相關(guān)性,但是無法估計每條數(shù)據(jù)之間的關(guān)聯(lián)性。本文模型同時考慮到了數(shù)據(jù)屬性之間與數(shù)據(jù)序列間的關(guān)系,采用CNN 融合注意進(jìn)行空間的特征融合,采用MogrifierLSTM 對每條數(shù)據(jù)間的時序性進(jìn)行特征提取,因此本文所提出的網(wǎng)絡(luò)模型更適用于對航班延誤波及等級進(jìn)行預(yù)測。

    表7 傳統(tǒng)模型準(zhǔn)確率對比Tab.7 Accuracy comparison of traditional models

    6 結(jié)論

    本文針對航班延誤波及問題提出了一種融合SimAM 注意力機(jī)制的CNN-MogrifierLSTM 航班延誤波及預(yù)測方法。通過SimAM 注意力機(jī)制模塊對重要特征進(jìn)行通道與空間的同步加強(qiáng),并結(jié)合CNN 提取空間信息與MogrifierLSTM 提取時間信息的優(yōu)勢,對融合空時信息的航班鏈數(shù)據(jù)進(jìn)行充分的特征提取,通過大量實(shí)驗(yàn)驗(yàn)證了該網(wǎng)絡(luò)模型的有效性。

    (1)通過分析航班延誤波及的傳播規(guī)律,提出兩種航班鏈數(shù)據(jù)集的構(gòu)造方法。首先對數(shù)據(jù)清洗后的航班數(shù)據(jù)進(jìn)行三次復(fù)雜融合,提出強(qiáng)空間數(shù)據(jù)集的構(gòu)造方法;為了進(jìn)一步增強(qiáng)時序性提高預(yù)測準(zhǔn)確率,對強(qiáng)空間數(shù)據(jù)集進(jìn)行順序分割,提出強(qiáng)時序航班鏈數(shù)據(jù)集的構(gòu)造方法,增強(qiáng)預(yù)測的適用性,可以根據(jù)波及的次數(shù)選擇適用于網(wǎng)絡(luò)訓(xùn)練的不同數(shù)據(jù)集。

    (2)基于航班鏈數(shù)據(jù)集的空時特性,提出融合SimAM 注意力機(jī)制的CNN-MogrifierLSTM 網(wǎng)絡(luò)模型。首先使用CNN 網(wǎng)絡(luò)層對空間信息進(jìn)行提取,然后通過SimAM 注意力機(jī)制模塊進(jìn)行空間和通道的同步注意對重要特征進(jìn)行增強(qiáng),最后輸入Mogrifi?erLSTM 進(jìn)一步提取航班延誤波及中的時序特性,有效提升了航班延誤波及預(yù)測的準(zhǔn)確率。

    對航班延誤波及問題提前進(jìn)行準(zhǔn)確的預(yù)測,可以有效提升低質(zhì)量航班質(zhì)量,減少航班延誤波及的發(fā)生。在下一階段,將考慮如何使用回歸模型來對延誤的具體時間進(jìn)行預(yù)測,同時在數(shù)據(jù)允許的情況下,增加天氣等影響因素對航班延誤波及進(jìn)行分析。

    猜你喜歡
    波及時序航班
    基于時序Sentinel-2數(shù)據(jù)的馬鈴薯遙感識別研究
    全美航班短暫停飛
    基于Sentinel-2時序NDVI的麥冬識別研究
    山航紅色定制航班
    金橋(2021年10期)2021-11-05 07:23:10
    山航紅色定制航班
    金橋(2021年8期)2021-08-23 01:06:24
    山航紅色定制航班
    金橋(2021年7期)2021-07-22 01:55:10
    聚合物流變性對非均質(zhì)油藏波及效率的影響
    一種毫米波放大器時序直流電源的設(shè)計
    電子制作(2016年15期)2017-01-15 13:39:08
    消除相互影響的基波及諧波相量測量算法
    基于I-O模型船舶工業(yè)關(guān)聯(lián)與波及效應(yīng)研究
    精品人妻1区二区| 在线观看日韩欧美| 他把我摸到了高潮在线观看| 久久久久久久久久黄片| 长腿黑丝高跟| 国产精品九九99| 亚洲国产看品久久| 美女大奶头视频| 精品久久久久久,| 午夜福利高清视频| 亚洲 国产 在线| 国产三级在线视频| 国产又色又爽无遮挡免费看| 午夜免费观看网址| 免费电影在线观看免费观看| 亚洲精品国产精品久久久不卡| 露出奶头的视频| 制服丝袜大香蕉在线| 免费搜索国产男女视频| 午夜精品在线福利| 国产真实乱freesex| 狂野欧美激情性xxxx| 啦啦啦观看免费观看视频高清| 国语自产精品视频在线第100页| 91av网一区二区| av在线天堂中文字幕| 国产成人av教育| 日日夜夜操网爽| 不卡一级毛片| 宅男免费午夜| 久久久国产成人免费| 两个人看的免费小视频| 欧美一区二区精品小视频在线| 国产私拍福利视频在线观看| 一本一本综合久久| 成人一区二区视频在线观看| 久久精品91蜜桃| www日本黄色视频网| 观看美女的网站| 国产亚洲欧美98| 99久久99久久久精品蜜桃| 亚洲 国产 在线| 琪琪午夜伦伦电影理论片6080| 国产欧美日韩一区二区精品| 中文字幕高清在线视频| 久久国产乱子伦精品免费另类| 亚洲av电影在线进入| 狂野欧美白嫩少妇大欣赏| 啦啦啦韩国在线观看视频| 欧美日韩黄片免| 88av欧美| 久久性视频一级片| 天堂av国产一区二区熟女人妻| 国内精品美女久久久久久| 亚洲精品色激情综合| 桃红色精品国产亚洲av| 观看免费一级毛片| 日本黄大片高清| 亚洲精品色激情综合| 美女cb高潮喷水在线观看 | 日韩中文字幕欧美一区二区| 久久精品影院6| 男人和女人高潮做爰伦理| 国产在线精品亚洲第一网站| 久久久久久九九精品二区国产| 老汉色av国产亚洲站长工具| 非洲黑人性xxxx精品又粗又长| 脱女人内裤的视频| 悠悠久久av| 床上黄色一级片| 亚洲成人久久爱视频| 免费一级毛片在线播放高清视频| 午夜福利18| 国内毛片毛片毛片毛片毛片| 精品久久久久久成人av| 国产极品精品免费视频能看的| 88av欧美| 最近在线观看免费完整版| 欧美一级a爱片免费观看看| 身体一侧抽搐| АⅤ资源中文在线天堂| 免费在线观看成人毛片| 国产精品乱码一区二三区的特点| 国产精品久久久久久精品电影| 99riav亚洲国产免费| 最新美女视频免费是黄的| 久久精品91蜜桃| 十八禁网站免费在线| 成年人黄色毛片网站| 看免费av毛片| 国产乱人视频| 国产一区二区三区在线臀色熟女| 国产单亲对白刺激| 久久香蕉精品热| 久久久久久久久久黄片| 很黄的视频免费| 夜夜躁狠狠躁天天躁| 在线国产一区二区在线| 一本一本综合久久| 国产成人av教育| 久久九九热精品免费| 亚洲国产精品成人综合色| 亚洲成av人片免费观看| 1024手机看黄色片| 首页视频小说图片口味搜索| 久久国产精品人妻蜜桃| 搞女人的毛片| 国产午夜福利久久久久久| 成人三级黄色视频| 国产欧美日韩精品亚洲av| 观看美女的网站| 最近在线观看免费完整版| 首页视频小说图片口味搜索| 国产成人av激情在线播放| 国产成+人综合+亚洲专区| 久久国产精品影院| av天堂在线播放| 美女黄网站色视频| 欧美zozozo另类| 亚洲欧美激情综合另类| 午夜精品一区二区三区免费看| 手机成人av网站| 婷婷六月久久综合丁香| 久久久国产成人免费| 欧美高清成人免费视频www| 国产三级在线视频| 亚洲精华国产精华精| 中文字幕最新亚洲高清| 人人妻,人人澡人人爽秒播| 我要搜黄色片| 狂野欧美激情性xxxx| h日本视频在线播放| 香蕉av资源在线| 这个男人来自地球电影免费观看| 亚洲一区高清亚洲精品| 国产精品久久电影中文字幕| 欧美黄色淫秽网站| 黄色丝袜av网址大全| 亚洲在线自拍视频| 欧美绝顶高潮抽搐喷水| 国产一级毛片七仙女欲春2| 美女大奶头视频| 亚洲无线在线观看| 国模一区二区三区四区视频 | 国内精品一区二区在线观看| 日韩欧美 国产精品| 最新中文字幕久久久久 | 1024手机看黄色片| 亚洲天堂国产精品一区在线| 成人国产综合亚洲| 久久人人精品亚洲av| 成年女人永久免费观看视频| 精品99又大又爽又粗少妇毛片 | 三级毛片av免费| 韩国av一区二区三区四区| 少妇丰满av| 免费观看的影片在线观看| 中文字幕av在线有码专区| 精华霜和精华液先用哪个| 久久天躁狠狠躁夜夜2o2o| 久久久久精品国产欧美久久久| 身体一侧抽搐| 国产精品精品国产色婷婷| 法律面前人人平等表现在哪些方面| 午夜福利在线观看免费完整高清在 | 一卡2卡三卡四卡精品乱码亚洲| 在线观看免费视频日本深夜| 国产一区二区三区在线臀色熟女| 日本黄色片子视频| 无限看片的www在线观看| 亚洲国产看品久久| 国产一区二区三区在线臀色熟女| 五月玫瑰六月丁香| 日韩欧美三级三区| 国产高清有码在线观看视频| 国产成人av教育| 亚洲欧洲精品一区二区精品久久久| 熟妇人妻久久中文字幕3abv| 国产三级中文精品| 日韩欧美三级三区| 精品久久久久久久末码| 午夜激情欧美在线| 国内精品久久久久精免费| av福利片在线观看| 欧美av亚洲av综合av国产av| 久久久久久大精品| 久9热在线精品视频| 日本三级黄在线观看| 成人高潮视频无遮挡免费网站| 日韩成人在线观看一区二区三区| 偷拍熟女少妇极品色| 毛片女人毛片| 亚洲午夜理论影院| 亚洲熟妇中文字幕五十中出| 成人亚洲精品av一区二区| 我的老师免费观看完整版| 午夜亚洲福利在线播放| 国产在线精品亚洲第一网站| 最新中文字幕久久久久 | 亚洲av五月六月丁香网| 国产精品av久久久久免费| 午夜久久久久精精品| 精品人妻1区二区| 中国美女看黄片| 国产成人精品久久二区二区免费| 99精品欧美一区二区三区四区| 欧美丝袜亚洲另类 | 国产91精品成人一区二区三区| 在线观看舔阴道视频| 十八禁人妻一区二区| 天天躁日日操中文字幕| 无人区码免费观看不卡| 国产单亲对白刺激| 日本一二三区视频观看| 国产一区二区在线观看日韩 | 国产午夜精品论理片| 老熟妇乱子伦视频在线观看| 免费看日本二区| 国产精品久久电影中文字幕| 国产午夜福利久久久久久| 亚洲美女黄片视频| 男女做爰动态图高潮gif福利片| 99久久无色码亚洲精品果冻| 女警被强在线播放| 欧美日韩国产亚洲二区| 丰满的人妻完整版| www.www免费av| 精品久久久久久久久久免费视频| 国产乱人伦免费视频| 免费看a级黄色片| 免费人成视频x8x8入口观看| 色尼玛亚洲综合影院| www日本在线高清视频| 999久久久国产精品视频| 九九热线精品视视频播放| 99久久综合精品五月天人人| 国产精品99久久99久久久不卡| 久久99热这里只有精品18| a在线观看视频网站| 人妻丰满熟妇av一区二区三区| 国产黄片美女视频| 国产av不卡久久| 欧美一级毛片孕妇| 国产视频一区二区在线看| 国产精品影院久久| 亚洲国产欧美人成| 香蕉国产在线看| 黄色丝袜av网址大全| 亚洲va日本ⅴa欧美va伊人久久| 午夜免费成人在线视频| 夜夜爽天天搞| 99热这里只有是精品50| 我的老师免费观看完整版| 久久精品影院6| 久久久久九九精品影院| 欧美另类亚洲清纯唯美| 亚洲va日本ⅴa欧美va伊人久久| 日本五十路高清| 国产一区二区三区在线臀色熟女| 99久久精品国产亚洲精品| 无限看片的www在线观看| 成人三级黄色视频| 天天躁日日操中文字幕| 日本在线视频免费播放| 久久精品亚洲精品国产色婷小说| av天堂在线播放| 成在线人永久免费视频| 很黄的视频免费| 9191精品国产免费久久| 久久人人精品亚洲av| 99国产精品一区二区蜜桃av| 国内精品久久久久久久电影| 成熟少妇高潮喷水视频| 一级毛片女人18水好多| 国产亚洲精品一区二区www| 1000部很黄的大片| 天堂动漫精品| 真人一进一出gif抽搐免费| 国产精品野战在线观看| 巨乳人妻的诱惑在线观看| 国产亚洲欧美在线一区二区| 欧美国产日韩亚洲一区| 在线观看66精品国产| or卡值多少钱| 高清在线国产一区| 黄色 视频免费看| av在线天堂中文字幕| 一级作爱视频免费观看| 天堂av国产一区二区熟女人妻| 色哟哟哟哟哟哟| or卡值多少钱| 亚洲成a人片在线一区二区| av天堂中文字幕网| 亚洲熟妇熟女久久| 国产久久久一区二区三区| 久久精品人妻少妇| 日本 欧美在线| 免费在线观看日本一区| av国产免费在线观看| 操出白浆在线播放| 国产精品98久久久久久宅男小说| 男女床上黄色一级片免费看| 99在线视频只有这里精品首页| 亚洲av成人精品一区久久| 黑人巨大精品欧美一区二区mp4| 97人妻精品一区二区三区麻豆| 黄色视频,在线免费观看| 无人区码免费观看不卡| 成人欧美大片| 久久精品人妻少妇| 免费看十八禁软件| 久久久久免费精品人妻一区二区| 国内揄拍国产精品人妻在线| 精品熟女少妇八av免费久了| 国产乱人伦免费视频| 欧美性猛交黑人性爽| 级片在线观看| 午夜影院日韩av| www.www免费av| 精品久久久久久久人妻蜜臀av| 精品久久久久久,| 亚洲成av人片免费观看| 国产精品99久久久久久久久| 亚洲精品色激情综合| 午夜激情福利司机影院| 99热精品在线国产| 日韩中文字幕欧美一区二区| 国产精品一及| 18美女黄网站色大片免费观看| 亚洲av成人精品一区久久| 亚洲中文字幕一区二区三区有码在线看 | 1024香蕉在线观看| 国产亚洲精品久久久com| 欧美国产日韩亚洲一区| 亚洲欧美日韩东京热| av欧美777| 一级作爱视频免费观看| 一个人看视频在线观看www免费 | 成年女人永久免费观看视频| 狂野欧美激情性xxxx| 91九色精品人成在线观看| 午夜视频精品福利| 九九热线精品视视频播放| 午夜成年电影在线免费观看| 久久久久久九九精品二区国产| 两个人视频免费观看高清| 高潮久久久久久久久久久不卡| 午夜影院日韩av| 国产精品久久视频播放| 亚洲国产精品久久男人天堂| 日本熟妇午夜| 村上凉子中文字幕在线| 波多野结衣高清作品| 午夜福利在线观看吧| 伦理电影免费视频| 动漫黄色视频在线观看| 叶爱在线成人免费视频播放| 色尼玛亚洲综合影院| ponron亚洲| 国产精品九九99| 伦理电影免费视频| 亚洲精品一区av在线观看| 黄色视频,在线免费观看| 夜夜躁狠狠躁天天躁| 日本黄大片高清| 久久久精品欧美日韩精品| 精品久久蜜臀av无| 国产黄片美女视频| 亚洲激情在线av| 久久天躁狠狠躁夜夜2o2o| 精品国产乱子伦一区二区三区| 麻豆久久精品国产亚洲av| 久久精品综合一区二区三区| 国产亚洲欧美98| 婷婷精品国产亚洲av| 免费电影在线观看免费观看| 日韩有码中文字幕| 亚洲va日本ⅴa欧美va伊人久久| 色噜噜av男人的天堂激情| 欧美色视频一区免费| 国产午夜精品论理片| 宅男免费午夜| 成年人黄色毛片网站| 国产成人精品久久二区二区免费| 12—13女人毛片做爰片一| 18禁国产床啪视频网站| 后天国语完整版免费观看| 99久久精品一区二区三区| 女人高潮潮喷娇喘18禁视频| 久久久久久久精品吃奶| 国产亚洲欧美98| 在线十欧美十亚洲十日本专区| 久久人人精品亚洲av| 国模一区二区三区四区视频 | 色在线成人网| 色精品久久人妻99蜜桃| 看免费av毛片| 午夜影院日韩av| 色精品久久人妻99蜜桃| 亚洲人成网站高清观看| 嫩草影视91久久| 黄片大片在线免费观看| 成人精品一区二区免费| 97人妻精品一区二区三区麻豆| 国产成人av教育| 好看av亚洲va欧美ⅴa在| 88av欧美| 精品一区二区三区四区五区乱码| 午夜日韩欧美国产| 日本 av在线| 18禁黄网站禁片午夜丰满| 免费看光身美女| 最新中文字幕久久久久 | 国产成人欧美在线观看| 亚洲最大成人中文| 在线免费观看的www视频| 两性夫妻黄色片| 久久久久久久久中文| 黄片小视频在线播放| 成熟少妇高潮喷水视频| 婷婷精品国产亚洲av在线| 男人舔奶头视频| 最近在线观看免费完整版| 日本成人三级电影网站| 九九热线精品视视频播放| 最近最新中文字幕大全电影3| av中文乱码字幕在线| 久久这里只有精品19| 久久国产精品影院| 欧美zozozo另类| 国产熟女xx| 欧美性猛交黑人性爽| 看黄色毛片网站| 亚洲av日韩精品久久久久久密| 99久久精品一区二区三区| 国产欧美日韩精品亚洲av| 丰满人妻熟妇乱又伦精品不卡| 97人妻精品一区二区三区麻豆| 美女高潮的动态| av天堂在线播放| 国产69精品久久久久777片 | 亚洲成av人片免费观看| 岛国在线观看网站| 欧美一区二区国产精品久久精品| 久久久久精品国产欧美久久久| 亚洲美女黄片视频| 一进一出抽搐动态| 全区人妻精品视频| 男女视频在线观看网站免费| 欧美不卡视频在线免费观看| 成年女人永久免费观看视频| 国内精品久久久久精免费| 波多野结衣高清作品| 精品99又大又爽又粗少妇毛片 | 亚洲欧美日韩高清在线视频| 亚洲片人在线观看| 亚洲一区高清亚洲精品| 日本五十路高清| 国产精华一区二区三区| 淫妇啪啪啪对白视频| 久久天堂一区二区三区四区| 免费看日本二区| 成人av一区二区三区在线看| 午夜免费激情av| 国语自产精品视频在线第100页| 亚洲五月天丁香| 国产亚洲精品久久久久久毛片| 热99在线观看视频| 欧美另类亚洲清纯唯美| 精华霜和精华液先用哪个| 久久久国产成人精品二区| 亚洲成人精品中文字幕电影| 国产视频内射| 在线视频色国产色| 91麻豆av在线| 巨乳人妻的诱惑在线观看| 精品日产1卡2卡| 国产又色又爽无遮挡免费看| 精品日产1卡2卡| 国产高清激情床上av| 法律面前人人平等表现在哪些方面| 中文字幕人成人乱码亚洲影| 两人在一起打扑克的视频| 亚洲精品一区av在线观看| 又爽又黄无遮挡网站| 午夜影院日韩av| 午夜福利成人在线免费观看| 久久精品国产亚洲av香蕉五月| www.熟女人妻精品国产| 黄色女人牲交| 国产精品久久电影中文字幕| 少妇丰满av| 伦理电影免费视频| 丰满人妻一区二区三区视频av | 久久久久九九精品影院| 九九在线视频观看精品| 欧美激情在线99| 色综合婷婷激情| 香蕉av资源在线| 女警被强在线播放| 欧美乱色亚洲激情| 精品国产三级普通话版| 日本一二三区视频观看| 免费一级毛片在线播放高清视频| 最好的美女福利视频网| 亚洲欧美日韩卡通动漫| 国产综合懂色| 男人舔女人的私密视频| 制服丝袜大香蕉在线| 法律面前人人平等表现在哪些方面| 亚洲熟女毛片儿| 亚洲精品粉嫩美女一区| 日本黄色片子视频| 亚洲精品一卡2卡三卡4卡5卡| 97超视频在线观看视频| 99热6这里只有精品| 色老头精品视频在线观看| 香蕉av资源在线| 一进一出抽搐动态| ponron亚洲| 99精品久久久久人妻精品| 亚洲国产高清在线一区二区三| 叶爱在线成人免费视频播放| 法律面前人人平等表现在哪些方面| 一区二区三区激情视频| a级毛片a级免费在线| 成人亚洲精品av一区二区| 亚洲精品在线美女| 国内毛片毛片毛片毛片毛片| 伦理电影免费视频| 97碰自拍视频| 色精品久久人妻99蜜桃| 美女被艹到高潮喷水动态| 美女免费视频网站| 男人和女人高潮做爰伦理| 好看av亚洲va欧美ⅴa在| 日韩欧美一区二区三区在线观看| 一级作爱视频免费观看| 欧美精品啪啪一区二区三区| 亚洲精品色激情综合| 夜夜夜夜夜久久久久| 亚洲中文字幕日韩| 听说在线观看完整版免费高清| 亚洲国产中文字幕在线视频| 国内少妇人妻偷人精品xxx网站 | 高潮久久久久久久久久久不卡| 男女午夜视频在线观看| 嫁个100分男人电影在线观看| 亚洲国产欧美网| 1024香蕉在线观看| 日本黄色片子视频| 亚洲精品在线美女| 亚洲av第一区精品v没综合| 淫妇啪啪啪对白视频| 一级a爱片免费观看的视频| 久久久国产成人免费| 欧美日韩精品网址| 久久精品综合一区二区三区| 99久国产av精品| 一区二区三区高清视频在线| 日韩av在线大香蕉| 99久久99久久久精品蜜桃| 国产91精品成人一区二区三区| 欧美丝袜亚洲另类 | 亚洲真实伦在线观看| 桃红色精品国产亚洲av| 欧美乱色亚洲激情| 床上黄色一级片| 久久久久精品国产欧美久久久| 精品人妻1区二区| 美女 人体艺术 gogo| 黄色日韩在线| av在线天堂中文字幕| 免费观看精品视频网站| 少妇丰满av| 亚洲成a人片在线一区二区| 亚洲中文字幕一区二区三区有码在线看 | 亚洲av第一区精品v没综合| 99热精品在线国产| 精品国产美女av久久久久小说| 性欧美人与动物交配| 999久久久国产精品视频| 性色avwww在线观看| 日本熟妇午夜| 久久久精品欧美日韩精品| 国内精品久久久久精免费| 在线永久观看黄色视频| 首页视频小说图片口味搜索| 国内少妇人妻偷人精品xxx网站 | 国产熟女xx| 久久久久久国产a免费观看| 国产高清三级在线| 久久99热这里只有精品18| 狂野欧美激情性xxxx| 国产精品久久久久久亚洲av鲁大| 久久九九热精品免费| 亚洲专区国产一区二区| 18禁美女被吸乳视频| 亚洲av中文字字幕乱码综合| 亚洲精品色激情综合| 97超级碰碰碰精品色视频在线观看| www日本在线高清视频| 俄罗斯特黄特色一大片| 国产av麻豆久久久久久久| 五月玫瑰六月丁香| 日本一本二区三区精品| 天堂动漫精品| 中文字幕av在线有码专区| 色综合站精品国产| 啦啦啦韩国在线观看视频| 99精品欧美一区二区三区四区| av黄色大香蕉| 一进一出好大好爽视频| 日本三级黄在线观看| 男女下面进入的视频免费午夜|