• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    融合注意力機(jī)制SimAM 的CNN-MogrifierLSTM 航班延誤波及預(yù)測

    2022-12-26 13:22:22屈景怡張金杰趙婭倩李云龍
    信號處理 2022年11期
    關(guān)鍵詞:波及時序航班

    屈景怡 張金杰 趙婭倩 李云龍

    (1.中國民航大學(xué)天津市智能信號與圖像處理重點(diǎn)實(shí)驗(yàn)室,天津 300300;2.上海民航華東通信網(wǎng)絡(luò)發(fā)展有限公司,上海 200355)

    1 引言

    隨著空中交通流量的增加,航班延誤問題給民航的正常運(yùn)轉(zhuǎn)帶來了挑戰(zhàn)。某一機(jī)場產(chǎn)生的航班延誤會在空中交通網(wǎng)絡(luò)內(nèi)部進(jìn)行傳播,航線密集的樞紐機(jī)場一旦發(fā)生航班延誤,延誤更容易直接傳播至其他中小型機(jī)場[1]。提前對航班延誤波及問題進(jìn)行準(zhǔn)確的預(yù)測,可以提高航班延誤預(yù)警水平,減小航空公司和機(jī)場的經(jīng)濟(jì)損失,提高旅客出行滿意度。

    在班延誤波及預(yù)測的問題上,國內(nèi)外學(xué)者們多結(jié)合航班延誤影響因素、機(jī)場繁忙程度、航班計劃等進(jìn)行研究。目前已有的方法多基于概率論的方法來計算連續(xù)航班延誤落在不同區(qū)間的條件概率[2-4],文獻(xiàn)[5]考慮機(jī)場放行能力約束條件來對航班延誤波及進(jìn)行分析,對延誤時長進(jìn)行了定量預(yù)測,提升了預(yù)測準(zhǔn)確率;文獻(xiàn)[6]通過馬爾科夫毯網(wǎng)絡(luò)建立了航班計劃的多個屬性和延誤波及變化的貝葉斯網(wǎng)絡(luò)模型,來研究航班計劃對于航班延誤波及傳播的影響。但以上大多是用小樣本數(shù)據(jù)對航班延誤波及問題產(chǎn)生的原因進(jìn)行研究,面對數(shù)據(jù)量達(dá)到百萬級的航班數(shù)據(jù),如何有效的對航班延誤中復(fù)雜關(guān)系進(jìn)行分析挖掘,深度學(xué)習(xí)是目前研究中使用最為廣泛的方法之一。文獻(xiàn)[7]使用SE-DenseNet模型加強(qiáng)了信息間的傳遞對航班延誤進(jìn)行預(yù)測;文獻(xiàn)[8]提出基于區(qū)域殘差和LSTM 網(wǎng)絡(luò)有效提取機(jī)場延誤數(shù)據(jù)的時間相關(guān)性;文獻(xiàn)[9]使用時空圖卷積神經(jīng)網(wǎng)絡(luò)對離港延誤時長進(jìn)行預(yù)測。雖然這些方法對單航班延誤程度的預(yù)測均有效提高了預(yù)測準(zhǔn)確率,但并未考慮航班間的波及問題。近年來,逐漸有學(xué)者嘗試將深度學(xué)習(xí)用于航班延誤波及的研究中,文獻(xiàn)[10]構(gòu)建基于CBAM-CondenseNet 的航班延誤波及預(yù)測模型,文獻(xiàn)[11]提出雙向LSTMCatboost 的航班鏈?zhǔn)窖诱`預(yù)測模型,用Catboost 取代全連接層對航班波及延誤時長進(jìn)行預(yù)測。航班延誤波及預(yù)測屬于基于時序信息的預(yù)測,又包含豐富的空間信息[12]。但這兩種模型并未對航班延誤波及中的時序與空間屬性同時進(jìn)行特征提取。

    長短時記憶網(wǎng)絡(luò)(Long Short-Term Memory,LSTM),在時間維度上對先前時序信息能夠記憶的更為深刻,但使LSTM 中輸入的x和之前狀態(tài)hprev在輸入細(xì)胞前是相互獨(dú)立的,MogrifierLSTM 使這兩個輸入從完全獨(dú)立到自主交互很好的提升了網(wǎng)絡(luò)性能[13]。TCN 作為時間卷積網(wǎng)絡(luò)融合了膨脹卷積和ResNet 殘差結(jié)構(gòu),彌補(bǔ)了傳統(tǒng)卷積神經(jīng)網(wǎng)絡(luò)提取時序信息不足的缺點(diǎn),但是需要足夠長的原始輸入信息才能保證獲取到歷史信息[14-17]。由于航班波及的航班數(shù)量有限,構(gòu)成時序數(shù)據(jù)集的序列長度有限,所以本文使用CNN 網(wǎng)絡(luò)與MogrifierLSTM 對航班延誤波及問題進(jìn)行預(yù)測,并融合注意力模塊SimAM 來提高預(yù)測準(zhǔn)確率。目前普遍使用的SE 模塊文獻(xiàn)為通道注意模塊,但其只針對通道而忽略了空間,CBAM 模塊在通道注意的基礎(chǔ)上增加了空間注意力,但兩者并不是同時進(jìn)行;文獻(xiàn)[18]提出的Si?mAM不同于現(xiàn)有的通道空間注意力模塊,該模塊無需額外參數(shù)為特征圖推導(dǎo)出3D 注意力權(quán)值,可以更好對關(guān)鍵特征的提取進(jìn)行同時強(qiáng)化。

    針對航班延誤波及的空時特性,本文先后提出兩種不同類型的航班延誤波及數(shù)據(jù)集的構(gòu)造方法,又提出融合注意力機(jī)制SimAM 的CNN-MogrifierLSTM航班延誤波及預(yù)測方法,不僅采用了卷積神經(jīng)網(wǎng)絡(luò)在空間特征提取的優(yōu)勢又考慮了形變長短時記憶網(wǎng)絡(luò)在處理時序信息的優(yōu)越性,并用注意力機(jī)制模塊對特征矩陣進(jìn)行重要神經(jīng)元增強(qiáng)。實(shí)現(xiàn)同一架飛機(jī)在執(zhí)行不同航班任務(wù)時,根據(jù)航班延誤波及的傳播規(guī)律對后續(xù)航班的延誤等級進(jìn)行分類預(yù)測,為有關(guān)民航部門控制延誤波及提供相應(yīng)建議。

    2 航班鏈?zhǔn)侥P徒?/h2>

    航班延誤具有時空分布的特性,當(dāng)同一架飛機(jī)連續(xù)執(zhí)行不同的航班任務(wù)時,由于前一架飛機(jī)的延誤而導(dǎo)致后續(xù)航班繼續(xù)延誤的情況常有發(fā)生。定義同一架航空器在一定時間范圍內(nèi)第一次起飛的機(jī)場為一級機(jī)場。航空器從一級起飛機(jī)場執(zhí)行航班任務(wù)1 到達(dá)的機(jī)場稱為二級機(jī)場,也稱為一級到達(dá)機(jī)場或二級起飛機(jī)場。以此類推,多個機(jī)場由同一架航空器Z 在不同機(jī)場間執(zhí)行飛行任務(wù)聯(lián)系,從而構(gòu)成航班鏈,如圖1 所示。以“北京-上海-廣州”為例,定義北京為一級機(jī)場,同一架飛機(jī)執(zhí)行航班任務(wù)1 從北京飛往上海,上海就是航班鏈中的二級機(jī)場,也叫一級到達(dá)機(jī)場或二級起飛機(jī)場;該飛機(jī)又從上海出發(fā)執(zhí)行航班任務(wù)2 從上海飛往廣州,廣州就是航班鏈中的三級機(jī)場,也叫二級到達(dá)機(jī)場或三級起飛機(jī)場。

    圖1 航班鏈模型Fig.1 Flight chain model

    3 融合注意力機(jī)制SimAM的CNN-Mogrifier-LSTM 網(wǎng)絡(luò)混合模型

    3.1 網(wǎng)絡(luò)描述

    CNN 在預(yù)測中難以學(xué)習(xí)時序數(shù)據(jù)之間的關(guān)系,由于航班鏈數(shù)據(jù)具有時序性,因此對航班延誤波及問題進(jìn)行預(yù)測需要循環(huán)神經(jīng)網(wǎng)絡(luò)系列方法的強(qiáng)化。CNN-LSTM 網(wǎng)絡(luò)結(jié)構(gòu)圖如圖2(a)所示,本文提出的融合注意力機(jī)制SimAM 的CNN-MogrifierLSTM 網(wǎng)絡(luò)模型如圖2(b)所示。

    本文網(wǎng)絡(luò)先通過四個融合SimAM 的結(jié)構(gòu)塊,每個結(jié)構(gòu)塊采用1×1 卷積,然后使用兩個3×3 卷積進(jìn)行特征的提取,最后使用1×1卷積進(jìn)行融合,每個卷積層都通過分組來保證其時序的獨(dú)立性,再通過Si?mAM 模塊進(jìn)行通道和空間上的同步加權(quán)。卷積完成后通過平均池化篩選卷積層已提取的特征,最后數(shù)據(jù)經(jīng)過全連接層送入MogrifierLSTM 中預(yù)測,融合注意力機(jī)制SimAM 的CNN-MogrifierLSTM 網(wǎng)絡(luò)對針對強(qiáng)空間航班鏈數(shù)據(jù)集的網(wǎng)絡(luò)配置如下表1 所示,數(shù)據(jù)集具體構(gòu)造方法見本文4.2節(jié)。

    表1 網(wǎng)絡(luò)結(jié)構(gòu)配置Tab.1 Network structure configuration table

    圖2(b)中使用的SimAM 模塊如圖3(c)所示,改進(jìn)了通道注意力如圖3(a)所示與空間注意力如圖3(b)所示無法同時進(jìn)行的優(yōu)勢,C代表通道數(shù),M代表每個通道輸入H×W矩陣的維度。引用神經(jīng)科學(xué)中信息豐富的神經(jīng)元通常表現(xiàn)出與周圍神經(jīng)元不同的放電模式并會抑制周圍神經(jīng)元,具有空域抑制效應(yīng)的神經(jīng)元應(yīng)當(dāng)賦予更高的重要性,定義了如公式(1)所示的能量函數(shù)。

    圖2 網(wǎng)絡(luò)結(jié)構(gòu)示意圖Fig.2 Diagram of network structure

    圖3 注意力對比示意圖Fig.3 Attention contrast diagram

    圖4 融合SimAM單個結(jié)構(gòu)塊Fig.4 Fusion of SimAM structural block

    LSTM 一直被廣泛應(yīng)用在各類與時序相關(guān)的任務(wù)中[19],MogrifierLSTM 在不改變LSTM 本身的結(jié)構(gòu)下,讓上一時刻的隱藏層狀態(tài)hprev和當(dāng)前時刻的輸入x在輸入當(dāng)前神經(jīng)元前就進(jìn)行了交互,增強(qiáng)了上下文的建模能力。交替地讓x和hprev交互進(jìn)行QR分解如公式(3)所示。

    其中Cprev代表前一個MogrifierLSTM 單元的細(xì)胞狀態(tài),hprev表示隱藏層狀態(tài)。定義為中上標(biāo)最大的那個值,如公式(4)與公式(5)所示。Mog?rifierLSTM 架構(gòu)中的hprev,Cprev是前一個細(xì)胞的隱藏層狀態(tài),在初始化的時均采用從0初始化,以保持每個序列中互不干擾。但在更新隱藏層參數(shù)時,采用的是隨機(jī)初始化。

    3.2 網(wǎng)絡(luò)反向傳播

    本文網(wǎng)絡(luò)的反向傳播過程通過梯度下降算法逐層迭代,根據(jù)誤差項(xiàng)實(shí)現(xiàn)更新參數(shù)直至網(wǎng)絡(luò)收斂。融合注意力機(jī)制SimAM 的CNN-MogrifierLSTM在反向傳播的過程中分為MogrifierLSTM 模塊與融合SimAM的CNN模塊,反向傳播過程如圖5所示。

    圖5 網(wǎng)絡(luò)反向傳播圖Fig.5 Network back propagation

    MogrifierLSTM 在不改變LSTM 本身的結(jié)構(gòu)下,根據(jù)梯度下降算法,先對MogrifierLSTM 網(wǎng)絡(luò)反向傳播過程中的誤差項(xiàng)進(jìn)行推導(dǎo),據(jù)誤差反向傳播原理,推導(dǎo)得出誤差沿網(wǎng)絡(luò)層數(shù)的反向傳播過程為式(6)所示。其中分別代表每個記憶細(xì)胞中各個門的誤差項(xiàng)如式(7)~(10)所示。依次表示輸入門、遺忘門、輸出門的權(quán)重矩陣。

    其中f(·)為激活函數(shù),f(·)'為激活函數(shù)的導(dǎo)數(shù)。上標(biāo)l代表當(dāng)前層,下標(biāo)t代表當(dāng)前時刻。卷積模塊內(nèi)各個隱藏層的誤差計算如式(11)~(17)所示。其中δ1,δ2…δ7分別表示對應(yīng)層的誤差項(xiàng),U1,U2,…U6為各層的輸出特征映射,W表示每層的之間的映射矩陣。

    4 融合注意力機(jī)制SimAM的CNN-Mogrifier-LSTM 航班延誤波及預(yù)測

    融合注意力機(jī)制SimAM 的CNN-MogrifierLSTM航班延誤波及結(jié)構(gòu)圖如圖6 所示,主要包括航班鏈數(shù)據(jù)集構(gòu)造、特征提取、分類預(yù)測三部分,下面主要對航班鏈數(shù)據(jù)集構(gòu)造與分類預(yù)測展開描述。

    圖6 航班延誤波及預(yù)測模型總體結(jié)構(gòu)圖Fig.6 Overall structure diagram of flight delay ripple prediction model

    4.1 數(shù)據(jù)集介紹

    本文所使用的航班數(shù)據(jù)為中國民用航空華東地區(qū)空中交通管理局所提供的2018年3月到2019年5月全國航班飛行數(shù)據(jù),其中關(guān)鍵的樣本屬性包括航班號、飛機(jī)編號、實(shí)際起飛/到達(dá)機(jī)場、飛行航跡、計劃出發(fā)/到達(dá)時間、實(shí)際出發(fā)/到達(dá)時間、目標(biāo)/實(shí)際撤輪檔時間、計劃起飛/到達(dá)機(jī)場、計劃機(jī)型、巡航高度、巡航速度、軍方批號、保障種類、保障類型等38 個屬性。這些特征屬性都與該條航班是否延誤有密切的關(guān)聯(lián),不僅包含了重要的空間特征,也包含了豐富的時間信息。由于空管局所提供航班數(shù)據(jù)中有部分異常值與空值,所以先對原始航班數(shù)據(jù)集選擇目前主流的數(shù)據(jù)分析庫Pandas 進(jìn)行數(shù)據(jù)清洗。

    4.2 航班鏈數(shù)據(jù)集構(gòu)造

    根據(jù)航班延誤波及的空時特點(diǎn),本文首先嘗試了以空間信息為主的強(qiáng)空間航班鏈數(shù)據(jù)集的構(gòu)造方法,為了增強(qiáng)其時間上的關(guān)聯(lián)性又提出了強(qiáng)時序航班鏈數(shù)據(jù)集的構(gòu)造方法。在強(qiáng)空間航班鏈數(shù)據(jù)集中可以根據(jù)往日同一航班鏈延誤情況對延誤等級進(jìn)行預(yù)測,強(qiáng)時序航班鏈數(shù)據(jù)集中上一次航班的延誤狀態(tài)會直接影響下一次航班的延誤程度。

    4.2.1 強(qiáng)空間航班鏈數(shù)據(jù)集構(gòu)建

    根據(jù)第2 章中航班鏈?zhǔn)侥P偷亩x,每次執(zhí)行航班的到達(dá)機(jī)場與執(zhí)行下一次航班的起飛機(jī)場為同一機(jī)場,本文根據(jù)同一架航空器在24小時內(nèi)空間維度上的變化構(gòu)成強(qiáng)空間航班鏈數(shù)據(jù)集。首先選定飛機(jī)編號(航空器編號)、航班執(zhí)行日期、一級到達(dá)機(jī)場、二級起飛機(jī)場四個屬性作為數(shù)據(jù)融合的鍵值,對清洗后的航班數(shù)據(jù)集進(jìn)行第一次數(shù)據(jù)融合,融合后去除二級機(jī)場起飛時間早于一級機(jī)場到達(dá)二級機(jī)場時間的異常航班鏈,此時航班鏈數(shù)據(jù)集中該飛行器執(zhí)行了兩次航班任務(wù),在空間上周轉(zhuǎn)了三個機(jī)場。延誤波及現(xiàn)象的產(chǎn)生有逐級傳遞的特性,以此類推本文對數(shù)據(jù)進(jìn)行了三次融合,然后對融合后的航班鏈數(shù)據(jù)集根據(jù)一級機(jī)場的起飛時間對所有的航班鏈數(shù)據(jù)集進(jìn)行時間軸上排序,構(gòu)成最終的強(qiáng)空間航班鏈數(shù)據(jù)集,每條數(shù)據(jù)中的航空器連續(xù)執(zhí)行了四次航班飛行任務(wù),空間維度涉及五個機(jī)場的中轉(zhuǎn)情況,航班鏈的延誤標(biāo)簽為第4 次航班任務(wù)的延誤等級。大多數(shù)飛機(jī)在執(zhí)行完一次飛行任務(wù)后當(dāng)日并不會再執(zhí)行其他的飛行任務(wù),隨著在同一天內(nèi)執(zhí)行飛行任務(wù)的增多,可研究的航班鏈數(shù)據(jù)集的數(shù)據(jù)量也會越來越少,所以本文主要研究由連續(xù)執(zhí)行四次航班任務(wù)構(gòu)成的航班鏈延誤波及情況。最后將強(qiáng)空間航班鏈數(shù)據(jù)集中的特征屬性劃分為數(shù)值型與離散型,數(shù)值型特征采用Min-Max 歸一化編碼,離散型特征采用Catboost編碼。

    為了更清楚的對強(qiáng)空間數(shù)據(jù)集進(jìn)行描述。定義強(qiáng)空間航班鏈數(shù)據(jù)集Fa中第i條航班鏈數(shù)據(jù)用fi=(fi1,fi2,fi3,fi4)表示。其中fi1,fi2,fi3,fi4分別代表這條航班鏈數(shù)據(jù)fi包含在時間維度上前后執(zhí)行航班任務(wù)的四條單航班信息。Fa數(shù)據(jù)集進(jìn)一步可以用Fa={(f11,f12,f13,f14),(f21,f22,f23,f24),(f31,f32,f33,f34),…}(fn1,fn2,fn3,fn4) 表示。

    4.2.2 強(qiáng)時序航班鏈數(shù)據(jù)集構(gòu)建

    強(qiáng)空間航班鏈數(shù)據(jù)集的每條航班鏈數(shù)據(jù)中包含多級機(jī)場豐富的空間信息,但時序信息只包含在相鄰的航班鏈中,為了進(jìn)一步研究航班鏈內(nèi)部的時序性,本節(jié)提出了第二種數(shù)據(jù)集構(gòu)造方法,如圖7強(qiáng)時序航班鏈數(shù)據(jù)集構(gòu)造圖所示。

    圖7 強(qiáng)時序航班鏈數(shù)據(jù)集結(jié)構(gòu)圖Fig.7 Strong temporal flight chain data construction

    由于每條航班鏈數(shù)據(jù)在時間維度上執(zhí)行航班任務(wù)有前后順序,前序航班的延誤會對后續(xù)航班的延誤會有較大的影響,所以對每條強(qiáng)空間航班鏈數(shù)據(jù)進(jìn)行數(shù)據(jù)分割。為滿足不同情況下的預(yù)測需求,分別構(gòu)建強(qiáng)時序性航班鏈數(shù)據(jù)集Fb,F(xiàn)c,F(xiàn)d分別表示為:

    其中強(qiáng)時序航班鏈數(shù)據(jù)集Fb只根據(jù)第一次航班與第二次航班的數(shù)據(jù)來預(yù)測第二次航班的延誤程度,融合注意力機(jī)制SimAM 的CNN-Mogrifier LSTM 網(wǎng)絡(luò)的步長設(shè)為2。強(qiáng)時序航班鏈數(shù)據(jù)集Fc根據(jù)第一次航班、第二次航班與第三次航班的數(shù)據(jù)來預(yù)測第三次航班的延誤程度,步長設(shè)為3。強(qiáng)時序航班鏈數(shù)據(jù)集Fd根據(jù)第一次航班、第二次航班、第三次航班與第四次航班的數(shù)據(jù)來預(yù)測第四次航班的延誤程度,步長設(shè)為4。不同的強(qiáng)時序航班鏈數(shù)據(jù)集可以訓(xùn)練不同的網(wǎng)絡(luò)模型供空管部門使用,其數(shù)據(jù)集總量增至強(qiáng)空間數(shù)據(jù)集的2倍、3倍、4倍。

    4.3 分類預(yù)測

    根據(jù)《航班正常管理規(guī)定》[20]中“航班延誤”的相關(guān)定義,將航班延誤情況進(jìn)行細(xì)分得到五個延誤等級,并對不同的等級劃分延誤等級數(shù),其判定標(biāo)準(zhǔn)如表2中所示。等級標(biāo)簽根據(jù)數(shù)據(jù)集中的計劃到達(dá)時間與實(shí)際到達(dá)時間進(jìn)行差值計算,最終用Soft?max分類器得到航班延誤預(yù)測等級。

    表2 航班延誤等級劃分Tab.2 Classification of flight delays

    根據(jù)預(yù)測出的最大概率的延誤等級,決定模型輸出航班延誤波及的預(yù)測結(jié)果。為了評估融合注意力機(jī)制SimAM 的CNN-MogrifierLSTM 模型分類的效果,本文使用準(zhǔn)確率作為評估指標(biāo),即模型預(yù)測結(jié)果正確的數(shù)量占數(shù)據(jù)總量的比值,如公式(18)所示。N代表航班鏈數(shù)據(jù)集樣本總量,L代表延誤程度的五種類別,Si代表驗(yàn)證集中延誤等級為i時預(yù)測結(jié)果正確的航班鏈數(shù)據(jù)量。

    5 實(shí)驗(yàn)結(jié)果與分析

    實(shí)驗(yàn)環(huán)境為戴爾PoweredgeR370 機(jī)架式服務(wù)器,16G 顯存,雙Intel XeonE5-2630 CPU,CPU 頻率為2.20GHz,GPU 加速顯卡為NVIDIA P100,軟件的運(yùn)行環(huán)境為Ubuntu16.04 操作系統(tǒng)搭建的Pytorch深度學(xué)習(xí)框架。

    5.1 模型參數(shù)設(shè)計

    本文實(shí)驗(yàn)所使用的原始航班數(shù)據(jù)共1048576條,經(jīng)過數(shù)據(jù)清洗與航班鏈數(shù)據(jù)集構(gòu)造后,航班延誤波及預(yù)測實(shí)驗(yàn)最終使用的強(qiáng)空間航班鏈數(shù)據(jù)集Fa的數(shù)據(jù)量為36287條;根據(jù)前一次航班延誤程度預(yù)測下一次航班延誤的強(qiáng)時序航班鏈數(shù)據(jù)集Fb的數(shù)據(jù)量為72574條;根據(jù)前兩次航班延誤程度預(yù)測下一次航班延誤的強(qiáng)時序航班鏈數(shù)據(jù)集Fc的數(shù)據(jù)量為108861條;根據(jù)前三次航班延誤程度預(yù)測下一次航班延誤的強(qiáng)時序航班鏈數(shù)據(jù)集Fd的數(shù)據(jù)量為145148條;訓(xùn)練集和驗(yàn)證集劃分比例為5∶1。在經(jīng)過多次實(shí)驗(yàn)與參數(shù)調(diào)整后,融合注意力機(jī)制SimAM 的CNNMogrifierLSTM 網(wǎng)絡(luò)的實(shí)驗(yàn)環(huán)境參數(shù)選取信息如表3所示。

    表3 實(shí)驗(yàn)環(huán)境參數(shù)Tab.3 Experimental environment parameters

    融合SimAM 的CNN-MogrifierLSTM 卷積濾波器的數(shù)量為64 個,步長為默認(rèn)值1,同時對邊界進(jìn)行Padding 補(bǔ)0 填充保證輸入卷積層后輸出尺寸不發(fā)生變化;池化層采用平均池化方式,池化尺寸為2×2,步長也設(shè)為1;然后輸入一層MogrifierLSTM 網(wǎng)絡(luò)中,隱藏層維數(shù)256。

    5.2 強(qiáng)空間航班鏈數(shù)據(jù)集結(jié)果分析

    MogrifierLSTM 網(wǎng)絡(luò)在提取時間序列信息的過程中,序列的步長對最終的預(yù)測輸出有著直接的影響。如果輸入網(wǎng)絡(luò)的步長太短,可能會弱化數(shù)據(jù)之間的相關(guān)性,有效的時間信息不能被充分學(xué)習(xí);反之輸入的步長太長,訓(xùn)練過程中可能會存在梯度消失甚至梯度爆炸現(xiàn)象。表4列舉了對于強(qiáng)空間航班鏈數(shù)據(jù)集Fa使用融合SimAM 的CNN-MogrifierLSTM混合網(wǎng)絡(luò)模型不同步長對應(yīng)的準(zhǔn)確率。

    表4 強(qiáng)空間航班鏈數(shù)據(jù)集序列長度準(zhǔn)確率對比Tab.4 Comparison of sequence length accuracy rates in strong space flight chain data

    通過實(shí)驗(yàn)結(jié)果發(fā)現(xiàn),強(qiáng)空間航班鏈數(shù)據(jù)集Fa的序列長度等于8 的時候,預(yù)測結(jié)果的準(zhǔn)確率最高為78.79%。在步長選擇合適的情況下,在對未來航班延誤波及進(jìn)行預(yù)測可以產(chǎn)生很好的時間相關(guān)性,但隨著步長增加,在時間維度上會學(xué)習(xí)到更多不需要的冗余數(shù)據(jù),造成準(zhǔn)確率的下降。本文后續(xù)對強(qiáng)空間航班鏈數(shù)據(jù)集的航班延誤波及預(yù)測的步長取值均選用8。

    5.3 不同航班鏈數(shù)據(jù)集結(jié)果分析

    強(qiáng)空間航班鏈數(shù)據(jù)集在時間上參考前序飛行計劃相同的航班鏈數(shù)據(jù),航班延誤波及信息更多在空間維度上體現(xiàn)。強(qiáng)時序航班鏈數(shù)據(jù)集直接根據(jù)同一架飛行器前幾次飛行任務(wù)情況來對后續(xù)執(zhí)行的航班進(jìn)行延誤預(yù)測,時序性更強(qiáng)。在飛機(jī)實(shí)際執(zhí)行航班任務(wù)的時候,連續(xù)執(zhí)行兩次航班任務(wù)的情況比較多,連續(xù)執(zhí)行三次任務(wù)的情況會相對減少,連續(xù)執(zhí)行四次任務(wù)會更少為了使模型在實(shí)際預(yù)測中具有更好的適用性,針對這三種情況分別構(gòu)建了連續(xù)執(zhí)行兩次航班任務(wù)數(shù)據(jù)集Fb,連續(xù)執(zhí)行三次航班任務(wù)數(shù)據(jù)集Fc,連續(xù)執(zhí)行四次航班任務(wù)數(shù)據(jù)集的強(qiáng)時序數(shù)據(jù)集Fd,不同數(shù)據(jù)集的實(shí)驗(yàn)結(jié)果對比如圖8所示,其中8(a)為延誤等級分類準(zhǔn)確率對比,8(b)為損失值對比。

    圖8 不同數(shù)據(jù)集對比Fig.8 Comparison of different data sets

    從圖中可以看出三種強(qiáng)時序鏈數(shù)據(jù)集在準(zhǔn)確率上相比強(qiáng)空間數(shù)據(jù)集有了很大的提升,準(zhǔn)確率最好的是連續(xù)執(zhí)行四次航班任務(wù)的數(shù)據(jù)集Fd,準(zhǔn)確率達(dá)到了93.16%,相比于強(qiáng)空間數(shù)據(jù)集Fa的準(zhǔn)確率78.79%提升了14.37%,損失值也最低。將三種強(qiáng)時序航班鏈數(shù)據(jù)集進(jìn)行對比發(fā)現(xiàn)隨著連續(xù)執(zhí)行航班次數(shù)的增多,時序性也在增強(qiáng),預(yù)測準(zhǔn)確率也在逐步提升。

    5.4 交替輪數(shù)對預(yù)測結(jié)果的影響

    交替輪數(shù)r值是MogrifierLSTM 網(wǎng)絡(luò)中一個重要的超參數(shù),r值越大x輸入LSTM 網(wǎng)絡(luò)前和之前細(xì)胞的狀態(tài)交互越充分,網(wǎng)絡(luò)更好挖掘時序信息之間的關(guān)聯(lián)性。但是r值每增加1,每次更LSTM 細(xì)胞狀態(tài)時就要多進(jìn)行一次QR 矩陣分解,網(wǎng)絡(luò)計算量與訓(xùn)練時間都會大幅度的增加。由于實(shí)驗(yàn)硬件設(shè)施算力有限,所以實(shí)驗(yàn)r最多設(shè)為6。表5 為交替輪數(shù)r增加時,航班延誤波及預(yù)測的準(zhǔn)確率與每輪訓(xùn)練時間在兩種數(shù)據(jù)集上的實(shí)驗(yàn)結(jié)果。本文實(shí)驗(yàn)對訓(xùn)練模型耗時要求不是很高,所以優(yōu)先考慮對準(zhǔn)確率的影響,故強(qiáng)空間航班鏈數(shù)據(jù)集Fa的r值設(shè)為6,強(qiáng)時序航班鏈數(shù)據(jù)集Fd的r值也設(shè)為6。

    表5 交替輪數(shù)r對準(zhǔn)確率與訓(xùn)練時間的對比Tab.5 Alternating rounds r for accuracy and training time

    5.5 算法復(fù)雜度

    空間復(fù)雜度與時間復(fù)雜度是表示算法復(fù)雜度的兩個重要指標(biāo)。空間復(fù)雜度用來計算資源的消耗程度,模型參數(shù)用Params 衡量,算法越復(fù)雜,參數(shù)量越多。時間復(fù)雜度用浮點(diǎn)運(yùn)算次數(shù)FLOPs 衡量,算法復(fù)雜度越高,模型訓(xùn)練和預(yù)測的時間都會變長。表6 為本文融合注意力機(jī)制SimAM 的CNNMogrifierLSTM 模型與其他幾種模型的復(fù)雜度對比,其中MogrifierLSTM 簡寫為MLSTM。從表6 中可以看出,MLSTM 相比于LSTM 算法復(fù)雜度并無很大增加,在CNN-MLSTM 中融入注意力機(jī)制SimAM 模塊后參數(shù)量增基本不發(fā)生變化,進(jìn)一步驗(yàn)證了SimAM模塊的無參特性。并使用1000 條驗(yàn)證集數(shù)據(jù)對模型進(jìn)行了預(yù)測時間分析,結(jié)果如表6 所示。不同模型平均每條航班的預(yù)測時長差值都在0.001 秒以內(nèi),證明了該模型雖然復(fù)雜度有所增加,但實(shí)際預(yù)測耗時并無很大變化。空管局對預(yù)測實(shí)時性的要求為預(yù)測一條數(shù)據(jù)在一秒以內(nèi),所以犧牲復(fù)雜度提高準(zhǔn)確率在實(shí)際運(yùn)用中是可行的。

    表6 不同網(wǎng)絡(luò)模型算法復(fù)雜度對比Tab.6 Network model algorithm comcexity comparison

    5.6 不同網(wǎng)絡(luò)模型結(jié)果分析

    為了測試融合SimAM 注意力機(jī)制的CNN-MogrifierLSTM 網(wǎng)絡(luò)的性能,本節(jié)在強(qiáng)空間數(shù)據(jù)集Fa與強(qiáng)時序數(shù)據(jù)集Fd兩種數(shù)據(jù)集上分別使用CNN、LSTM、MogrifierLSTM、CNN-LSTM、CNN-MogrifierLSTM五種模型與本文提出的SimAM-CNN-MogrifierLSTM網(wǎng)絡(luò)模型進(jìn)行準(zhǔn)確率與損失值的對比實(shí)驗(yàn)。對于強(qiáng)空間數(shù)據(jù)集Fa不同模型的對比實(shí)驗(yàn)結(jié)果如圖9所示,強(qiáng)時序數(shù)據(jù)集Fd不同模型的準(zhǔn)確率對比實(shí)驗(yàn)結(jié)果如圖10 所示,(a)為準(zhǔn)確率對比,(b)為損失值對比。

    圖9 強(qiáng)空間數(shù)據(jù)集不同模型性能對比Fig.9 Strong spatial data set comparison

    圖10 強(qiáng)時序數(shù)據(jù)集不同模型性能對比Fig.10 Strong sequential data set comparison

    從實(shí)驗(yàn)結(jié)果可以看出在時序的基礎(chǔ)上加上卷積思想后的CNN-MogrifierLSTM 網(wǎng)絡(luò)在兩種數(shù)據(jù)集上相比單獨(dú)的CNN網(wǎng)絡(luò)或LSTM網(wǎng)絡(luò)的準(zhǔn)確率都有了明顯的提升,在強(qiáng)空間數(shù)據(jù)集上,相比CNN 網(wǎng)絡(luò)提升了2.38%,相比LSTM 網(wǎng)絡(luò)提升了2.24%;在強(qiáng)時序數(shù)據(jù)集上,分別提升了16.46%與2.16%。本文對CNN-MogrifierLSTM 加入SimAM 注意力機(jī)制模塊后,在強(qiáng)空間數(shù)據(jù)集上相比CNN-MLSTM 又提升了0.62%達(dá)到了78.79%,在強(qiáng)時序數(shù)據(jù)集上提升了0.53%達(dá)到了93.16%,明顯高于其他五種網(wǎng)絡(luò)的準(zhǔn)確率,損失函數(shù)值也最低。綜合說明本文提出的融合注意力機(jī)制SimAM 的CNN-MogrifierLSTM 網(wǎng)絡(luò)在進(jìn)行航班延誤波及預(yù)測時,預(yù)測出的航班延誤波及分類結(jié)果與實(shí)際最為接近,網(wǎng)絡(luò)性能最優(yōu)。

    為了進(jìn)一步驗(yàn)證運(yùn)用深度學(xué)習(xí)模型在大數(shù)據(jù)基礎(chǔ)上對航班延誤預(yù)測的準(zhǔn)確率相比于傳統(tǒng)算法有很大提升。分別用幾種不同的航班預(yù)測模型[21-23]與本文模型進(jìn)行對比,實(shí)驗(yàn)對比如表7 所示。傳統(tǒng)的機(jī)器學(xué)習(xí)是屬于小樣本學(xué)習(xí),對于大數(shù)據(jù)的訓(xùn)練效果不是很好。從數(shù)據(jù)的屬性分析,航班數(shù)據(jù)其屬性之間具有依賴性,而傳統(tǒng)的如C4.5在選擇屬性是沒有考慮到屬性間的相關(guān)。支持向量機(jī)通過求解凸二次規(guī)劃問題得到一個局部最優(yōu)解,也為全局最優(yōu)解,而航班數(shù)據(jù)的每一條之間其差異性較小。貝葉斯網(wǎng)絡(luò)使用的前提是屬性之間相互獨(dú)立,而該假設(shè)并不適用于本數(shù)據(jù)集。人工神經(jīng)網(wǎng)絡(luò)的可以充分的學(xué)習(xí)屬性之間的相關(guān)性,但是無法估計每條數(shù)據(jù)之間的關(guān)聯(lián)性。本文模型同時考慮到了數(shù)據(jù)屬性之間與數(shù)據(jù)序列間的關(guān)系,采用CNN 融合注意進(jìn)行空間的特征融合,采用MogrifierLSTM 對每條數(shù)據(jù)間的時序性進(jìn)行特征提取,因此本文所提出的網(wǎng)絡(luò)模型更適用于對航班延誤波及等級進(jìn)行預(yù)測。

    表7 傳統(tǒng)模型準(zhǔn)確率對比Tab.7 Accuracy comparison of traditional models

    6 結(jié)論

    本文針對航班延誤波及問題提出了一種融合SimAM 注意力機(jī)制的CNN-MogrifierLSTM 航班延誤波及預(yù)測方法。通過SimAM 注意力機(jī)制模塊對重要特征進(jìn)行通道與空間的同步加強(qiáng),并結(jié)合CNN 提取空間信息與MogrifierLSTM 提取時間信息的優(yōu)勢,對融合空時信息的航班鏈數(shù)據(jù)進(jìn)行充分的特征提取,通過大量實(shí)驗(yàn)驗(yàn)證了該網(wǎng)絡(luò)模型的有效性。

    (1)通過分析航班延誤波及的傳播規(guī)律,提出兩種航班鏈數(shù)據(jù)集的構(gòu)造方法。首先對數(shù)據(jù)清洗后的航班數(shù)據(jù)進(jìn)行三次復(fù)雜融合,提出強(qiáng)空間數(shù)據(jù)集的構(gòu)造方法;為了進(jìn)一步增強(qiáng)時序性提高預(yù)測準(zhǔn)確率,對強(qiáng)空間數(shù)據(jù)集進(jìn)行順序分割,提出強(qiáng)時序航班鏈數(shù)據(jù)集的構(gòu)造方法,增強(qiáng)預(yù)測的適用性,可以根據(jù)波及的次數(shù)選擇適用于網(wǎng)絡(luò)訓(xùn)練的不同數(shù)據(jù)集。

    (2)基于航班鏈數(shù)據(jù)集的空時特性,提出融合SimAM 注意力機(jī)制的CNN-MogrifierLSTM 網(wǎng)絡(luò)模型。首先使用CNN 網(wǎng)絡(luò)層對空間信息進(jìn)行提取,然后通過SimAM 注意力機(jī)制模塊進(jìn)行空間和通道的同步注意對重要特征進(jìn)行增強(qiáng),最后輸入Mogrifi?erLSTM 進(jìn)一步提取航班延誤波及中的時序特性,有效提升了航班延誤波及預(yù)測的準(zhǔn)確率。

    對航班延誤波及問題提前進(jìn)行準(zhǔn)確的預(yù)測,可以有效提升低質(zhì)量航班質(zhì)量,減少航班延誤波及的發(fā)生。在下一階段,將考慮如何使用回歸模型來對延誤的具體時間進(jìn)行預(yù)測,同時在數(shù)據(jù)允許的情況下,增加天氣等影響因素對航班延誤波及進(jìn)行分析。

    猜你喜歡
    波及時序航班
    基于時序Sentinel-2數(shù)據(jù)的馬鈴薯遙感識別研究
    全美航班短暫停飛
    基于Sentinel-2時序NDVI的麥冬識別研究
    山航紅色定制航班
    金橋(2021年10期)2021-11-05 07:23:10
    山航紅色定制航班
    金橋(2021年8期)2021-08-23 01:06:24
    山航紅色定制航班
    金橋(2021年7期)2021-07-22 01:55:10
    聚合物流變性對非均質(zhì)油藏波及效率的影響
    一種毫米波放大器時序直流電源的設(shè)計
    電子制作(2016年15期)2017-01-15 13:39:08
    消除相互影響的基波及諧波相量測量算法
    基于I-O模型船舶工業(yè)關(guān)聯(lián)與波及效應(yīng)研究
    精品一区二区免费观看| 国产精品久久久久久精品古装| 国产精品福利在线免费观看| 亚洲av成人精品一区久久| 一区二区三区乱码不卡18| 久久精品久久久久久噜噜老黄| 日韩在线高清观看一区二区三区| 嘟嘟电影网在线观看| 69av精品久久久久久| av免费在线看不卡| 亚洲欧美日韩无卡精品| 在线精品无人区一区二区三 | 18禁裸乳无遮挡动漫免费视频 | 卡戴珊不雅视频在线播放| 少妇丰满av| 欧美xxⅹ黑人| 日韩电影二区| 亚洲精品一区蜜桃| 51国产日韩欧美| 国精品久久久久久国模美| 黑人高潮一二区| 精华霜和精华液先用哪个| 色网站视频免费| 国产精品99久久久久久久久| 国产一区有黄有色的免费视频| 亚洲精品国产av蜜桃| 99热6这里只有精品| 一本久久精品| 69av精品久久久久久| 亚洲av电影在线观看一区二区三区 | 边亲边吃奶的免费视频| 18+在线观看网站| 极品教师在线视频| 中文乱码字字幕精品一区二区三区| 国产精品精品国产色婷婷| 日本午夜av视频| 免费高清在线观看视频在线观看| 亚洲色图av天堂| 日本黄色片子视频| 免费av毛片视频| 国产高潮美女av| 成年版毛片免费区| 美女被艹到高潮喷水动态| 国产一级毛片在线| 大香蕉97超碰在线| 精品久久久久久久末码| 嫩草影院精品99| av一本久久久久| 一本—道久久a久久精品蜜桃钙片 精品乱码久久久久久99久播 | 在线观看一区二区三区| 欧美亚洲 丝袜 人妻 在线| 夜夜看夜夜爽夜夜摸| av福利片在线观看| 亚洲国产日韩一区二区| 免费人成在线观看视频色| 真实男女啪啪啪动态图| 女的被弄到高潮叫床怎么办| 秋霞在线观看毛片| 天天躁日日操中文字幕| 欧美一区二区亚洲| 亚洲一级一片aⅴ在线观看| 中文欧美无线码| www.av在线官网国产| 高清在线视频一区二区三区| 青春草国产在线视频| 亚洲高清免费不卡视频| 舔av片在线| 亚洲国产av新网站| 国产永久视频网站| av福利片在线观看| 色5月婷婷丁香| videos熟女内射| 成年免费大片在线观看| 97热精品久久久久久| 丰满乱子伦码专区| 欧美bdsm另类| 97人妻精品一区二区三区麻豆| 22中文网久久字幕| 三级男女做爰猛烈吃奶摸视频| 日日摸夜夜添夜夜添av毛片| 黄色一级大片看看| 成年版毛片免费区| 亚洲人成网站在线观看播放| 亚洲精品乱码久久久v下载方式| 国内精品宾馆在线| 美女内射精品一级片tv| 舔av片在线| 一级片'在线观看视频| 国产成年人精品一区二区| 中文精品一卡2卡3卡4更新| 国产av不卡久久| 麻豆国产97在线/欧美| 男女边吃奶边做爰视频| 色哟哟·www| 五月玫瑰六月丁香| 18禁裸乳无遮挡动漫免费视频 | 51国产日韩欧美| 简卡轻食公司| 美女高潮的动态| 国产v大片淫在线免费观看| 亚洲久久久久久中文字幕| 成年av动漫网址| 别揉我奶头 嗯啊视频| videos熟女内射| 欧美成人午夜免费资源| 国产乱人偷精品视频| 国产一区有黄有色的免费视频| 国产免费又黄又爽又色| 成人综合一区亚洲| 精品久久久久久久人妻蜜臀av| 小蜜桃在线观看免费完整版高清| 欧美高清成人免费视频www| 久久久精品免费免费高清| 中国美白少妇内射xxxbb| 日日摸夜夜添夜夜添av毛片| 人妻一区二区av| 国产伦理片在线播放av一区| 国产伦理片在线播放av一区| 亚洲丝袜综合中文字幕| 80岁老熟妇乱子伦牲交| 国产淫语在线视频| 少妇的逼水好多| 精品久久久久久久人妻蜜臀av| 中文字幕免费在线视频6| 中文天堂在线官网| 久久鲁丝午夜福利片| 亚洲久久久久久中文字幕| 中文字幕亚洲精品专区| 大片电影免费在线观看免费| 男人舔奶头视频| 亚洲欧美一区二区三区黑人 | 99热这里只有精品一区| 毛片女人毛片| 日韩亚洲欧美综合| 大片免费播放器 马上看| 国产成人a∨麻豆精品| 免费大片18禁| 久久综合国产亚洲精品| 深爱激情五月婷婷| 18禁在线播放成人免费| 91在线精品国自产拍蜜月| 久久久久久久精品精品| 91在线精品国自产拍蜜月| 99九九线精品视频在线观看视频| 激情 狠狠 欧美| 综合色av麻豆| 国产亚洲最大av| 国产高清国产精品国产三级 | 亚洲精品日韩av片在线观看| 亚洲自拍偷在线| 国产黄色免费在线视频| 国产精品国产三级专区第一集| 久久99精品国语久久久| 国产黄频视频在线观看| 亚洲激情五月婷婷啪啪| 久久99精品国语久久久| 国产午夜精品久久久久久一区二区三区| 午夜福利网站1000一区二区三区| 只有这里有精品99| 午夜福利在线在线| 2021天堂中文幕一二区在线观| 欧美日韩视频精品一区| 一区二区av电影网| 国产av不卡久久| 国国产精品蜜臀av免费| 舔av片在线| 99九九线精品视频在线观看视频| 久久97久久精品| 日本一二三区视频观看| 少妇熟女欧美另类| 狠狠精品人妻久久久久久综合| 中文字幕久久专区| 内射极品少妇av片p| 国产一区二区三区综合在线观看 | 丰满人妻一区二区三区视频av| 一级毛片 在线播放| 又粗又硬又长又爽又黄的视频| xxx大片免费视频| 久久综合国产亚洲精品| 一区二区三区乱码不卡18| 日韩 亚洲 欧美在线| 亚洲精品中文字幕在线视频 | 精品人妻一区二区三区麻豆| 联通29元200g的流量卡| 日日摸夜夜添夜夜添av毛片| 欧美+日韩+精品| 最近中文字幕2019免费版| 99视频精品全部免费 在线| 两个人的视频大全免费| 肉色欧美久久久久久久蜜桃 | 午夜福利视频1000在线观看| 国产精品99久久99久久久不卡 | 内射极品少妇av片p| 亚洲性久久影院| 国产av码专区亚洲av| 中文天堂在线官网| 精华霜和精华液先用哪个| 草草在线视频免费看| 午夜激情久久久久久久| 18禁在线播放成人免费| 好男人视频免费观看在线| 日韩亚洲欧美综合| 青春草国产在线视频| 91精品国产九色| 黄色欧美视频在线观看| 免费av观看视频| 色综合色国产| 午夜福利高清视频| 国产一区二区在线观看日韩| 亚洲av福利一区| 偷拍熟女少妇极品色| 久久6这里有精品| 最近手机中文字幕大全| 午夜激情福利司机影院| 尤物成人国产欧美一区二区三区| 国产午夜精品一二区理论片| 久久久久国产网址| 身体一侧抽搐| av在线观看视频网站免费| 我的女老师完整版在线观看| av又黄又爽大尺度在线免费看| 亚洲国产欧美人成| 欧美日韩视频高清一区二区三区二| 久久午夜福利片| 又爽又黄无遮挡网站| 在线观看人妻少妇| 伦精品一区二区三区| 精品熟女少妇av免费看| 自拍偷自拍亚洲精品老妇| 又大又黄又爽视频免费| xxx大片免费视频| 国产免费一区二区三区四区乱码| 久久国内精品自在自线图片| 干丝袜人妻中文字幕| 中文字幕久久专区| 国产黄片美女视频| 日韩一本色道免费dvd| 99热国产这里只有精品6| 日韩av免费高清视频| 午夜亚洲福利在线播放| 中文乱码字字幕精品一区二区三区| 亚洲精品国产av蜜桃| 老师上课跳d突然被开到最大视频| 免费看不卡的av| 国产女主播在线喷水免费视频网站| 亚洲真实伦在线观看| 国产精品久久久久久精品电影| 国产亚洲最大av| 99久久精品国产国产毛片| 水蜜桃什么品种好| 亚洲av在线观看美女高潮| 18+在线观看网站| 国产av码专区亚洲av| 亚洲自拍偷在线| 欧美bdsm另类| 精品午夜福利在线看| 嫩草影院精品99| 性色avwww在线观看| 国产69精品久久久久777片| 国产综合懂色| 女人久久www免费人成看片| 久久久久久九九精品二区国产| 97超视频在线观看视频| 91久久精品国产一区二区成人| 久久99热6这里只有精品| 精品视频人人做人人爽| 最近中文字幕2019免费版| 少妇被粗大猛烈的视频| 日本猛色少妇xxxxx猛交久久| 亚洲欧美清纯卡通| 亚洲精品乱码久久久v下载方式| 日韩国内少妇激情av| 久久久亚洲精品成人影院| 国产精品久久久久久精品电影| 亚洲婷婷狠狠爱综合网| 蜜桃亚洲精品一区二区三区| 亚洲人成网站高清观看| 国产精品一区二区在线观看99| 精品人妻视频免费看| 国产亚洲最大av| 久久久久精品性色| 久久久a久久爽久久v久久| 亚洲性久久影院| 街头女战士在线观看网站| 精品久久久久久久久av| 国语对白做爰xxxⅹ性视频网站| 极品教师在线视频| 亚洲人成网站在线观看播放| 日本-黄色视频高清免费观看| 最新中文字幕久久久久| 国产成人福利小说| 男人和女人高潮做爰伦理| 丝袜喷水一区| 免费看光身美女| 国产精品国产三级专区第一集| 午夜激情久久久久久久| 国语对白做爰xxxⅹ性视频网站| 香蕉精品网在线| 在线精品无人区一区二区三 | 色综合色国产| av国产免费在线观看| 欧美性猛交╳xxx乱大交人| 下体分泌物呈黄色| 久久久久久久亚洲中文字幕| 国产黄片美女视频| 97人妻精品一区二区三区麻豆| 欧美性猛交╳xxx乱大交人| 国内精品宾馆在线| 亚洲精品乱码久久久v下载方式| 国产精品99久久久久久久久| 日日啪夜夜撸| 免费不卡的大黄色大毛片视频在线观看| 91精品伊人久久大香线蕉| 美女视频免费永久观看网站| 99re6热这里在线精品视频| 欧美亚洲 丝袜 人妻 在线| 亚洲欧洲日产国产| 下体分泌物呈黄色| 联通29元200g的流量卡| 人体艺术视频欧美日本| 亚洲av中文av极速乱| 自拍欧美九色日韩亚洲蝌蚪91 | 另类亚洲欧美激情| 亚洲国产高清在线一区二区三| 国产成人免费观看mmmm| 一二三四中文在线观看免费高清| 在线免费观看不下载黄p国产| 午夜免费观看性视频| 日韩欧美 国产精品| 国产黄a三级三级三级人| 美女cb高潮喷水在线观看| 亚洲精品一区蜜桃| 欧美精品人与动牲交sv欧美| 91久久精品国产一区二区三区| 在线免费十八禁| 成人午夜精彩视频在线观看| 亚洲av国产av综合av卡| 国产极品天堂在线| 久久久久久伊人网av| 精品久久久久久久久av| 久久国内精品自在自线图片| 国产久久久一区二区三区| 亚洲,欧美,日韩| av免费观看日本| 嫩草影院入口| 国产成人a区在线观看| 寂寞人妻少妇视频99o| 亚洲欧洲日产国产| 亚洲精品成人av观看孕妇| 国产午夜精品一二区理论片| 日韩一本色道免费dvd| 午夜亚洲福利在线播放| 成人二区视频| 搞女人的毛片| 国产精品偷伦视频观看了| 最近中文字幕高清免费大全6| 嘟嘟电影网在线观看| 免费大片黄手机在线观看| 亚洲精品成人久久久久久| 亚洲欧美日韩卡通动漫| 国产欧美日韩一区二区三区在线 | 成人一区二区视频在线观看| 国产女主播在线喷水免费视频网站| 777米奇影视久久| 黄色视频在线播放观看不卡| 国产伦理片在线播放av一区| 亚洲一区二区三区欧美精品 | 日日啪夜夜爽| 亚洲成人av在线免费| av又黄又爽大尺度在线免费看| 五月天丁香电影| 欧美高清成人免费视频www| 亚洲精品,欧美精品| 日韩成人av中文字幕在线观看| 如何舔出高潮| 亚洲高清免费不卡视频| 午夜福利视频1000在线观看| 国产色婷婷99| 亚洲精品视频女| 免费大片18禁| 狠狠精品人妻久久久久久综合| 精品酒店卫生间| av免费在线看不卡| 国产精品99久久99久久久不卡 | 69av精品久久久久久| 伊人久久国产一区二区| 你懂的网址亚洲精品在线观看| 色哟哟·www| a级毛色黄片| 欧美激情久久久久久爽电影| 九色成人免费人妻av| 天堂俺去俺来也www色官网| 日本熟妇午夜| 一区二区av电影网| 久久国内精品自在自线图片| 少妇的逼水好多| 黄片无遮挡物在线观看| 色播亚洲综合网| 成人美女网站在线观看视频| av网站免费在线观看视频| 我要看日韩黄色一级片| 内地一区二区视频在线| 欧美xxⅹ黑人| 激情 狠狠 欧美| 国产爽快片一区二区三区| 国产女主播在线喷水免费视频网站| 97在线视频观看| 热re99久久精品国产66热6| 欧美激情久久久久久爽电影| 爱豆传媒免费全集在线观看| 免费在线观看成人毛片| 黄色配什么色好看| 五月玫瑰六月丁香| 精品一区二区三区视频在线| 欧美+日韩+精品| 亚洲一级一片aⅴ在线观看| 亚洲欧美一区二区三区国产| 五月开心婷婷网| 一本色道久久久久久精品综合| 在线免费观看不下载黄p国产| 久久久久久久久久久免费av| 午夜激情久久久久久久| 女人被狂操c到高潮| .国产精品久久| 欧美精品国产亚洲| 成人亚洲精品av一区二区| 日本黄大片高清| 欧美一区二区亚洲| 亚洲av在线观看美女高潮| 91午夜精品亚洲一区二区三区| 欧美日韩视频高清一区二区三区二| 观看免费一级毛片| 久久99精品国语久久久| 欧美zozozo另类| 午夜精品一区二区三区免费看| 只有这里有精品99| 国产在视频线精品| 在线播放无遮挡| 免费电影在线观看免费观看| 99热6这里只有精品| 国产高清不卡午夜福利| 免费大片18禁| 国产免费又黄又爽又色| av国产免费在线观看| 水蜜桃什么品种好| 亚洲,欧美,日韩| 少妇被粗大猛烈的视频| 精品久久国产蜜桃| 最近中文字幕高清免费大全6| av一本久久久久| 97超视频在线观看视频| 免费观看a级毛片全部| 天堂中文最新版在线下载 | 综合色丁香网| 日日啪夜夜爽| 国产精品无大码| 大香蕉97超碰在线| 人妻制服诱惑在线中文字幕| 中文精品一卡2卡3卡4更新| 女的被弄到高潮叫床怎么办| 亚洲精品aⅴ在线观看| 色播亚洲综合网| 精品一区二区三卡| 最近最新中文字幕大全电影3| 天天躁夜夜躁狠狠久久av| 久久97久久精品| 小蜜桃在线观看免费完整版高清| 免费av毛片视频| 啦啦啦啦在线视频资源| av在线蜜桃| 18禁在线无遮挡免费观看视频| 看黄色毛片网站| 99久久中文字幕三级久久日本| 久热久热在线精品观看| 永久免费av网站大全| 嫩草影院入口| 国产成人一区二区在线| 亚洲av福利一区| 九九爱精品视频在线观看| 在线观看av片永久免费下载| 好男人视频免费观看在线| 亚洲无线观看免费| 亚洲内射少妇av| 亚洲天堂国产精品一区在线| 欧美日韩精品成人综合77777| 国产精品久久久久久精品电影小说 | 久久久色成人| 五月开心婷婷网| 九色成人免费人妻av| 日本三级黄在线观看| 汤姆久久久久久久影院中文字幕| 国语对白做爰xxxⅹ性视频网站| 麻豆成人av视频| 男女边吃奶边做爰视频| 国产大屁股一区二区在线视频| 国产一区二区在线观看日韩| 一级黄片播放器| 日本-黄色视频高清免费观看| 亚洲精品影视一区二区三区av| 欧美激情国产日韩精品一区| 国产精品三级大全| 国产精品麻豆人妻色哟哟久久| 国产一区二区在线观看日韩| 久久精品久久久久久久性| 久久热精品热| 一本一本综合久久| 国产男女超爽视频在线观看| 18禁在线播放成人免费| 波多野结衣巨乳人妻| 亚洲自偷自拍三级| av黄色大香蕉| 99久久精品热视频| 久久久久久久大尺度免费视频| 亚洲精品日韩在线中文字幕| 国产淫片久久久久久久久| 日本-黄色视频高清免费观看| 91久久精品国产一区二区成人| 国产精品99久久久久久久久| 亚洲最大成人av| 午夜免费观看性视频| 日韩三级伦理在线观看| av线在线观看网站| 亚洲自拍偷在线| 久久99热6这里只有精品| 日日啪夜夜撸| 99热6这里只有精品| 亚洲av欧美aⅴ国产| 简卡轻食公司| 22中文网久久字幕| 婷婷色综合www| av天堂中文字幕网| 成人无遮挡网站| 亚洲,欧美,日韩| 国产av不卡久久| 成人美女网站在线观看视频| av又黄又爽大尺度在线免费看| 老师上课跳d突然被开到最大视频| 亚洲欧美成人综合另类久久久| 美女视频免费永久观看网站| 国产午夜精品久久久久久一区二区三区| 水蜜桃什么品种好| 成人毛片a级毛片在线播放| 下体分泌物呈黄色| 在线看a的网站| 日本一二三区视频观看| 成人亚洲欧美一区二区av| 王馨瑶露胸无遮挡在线观看| 国产白丝娇喘喷水9色精品| 91久久精品国产一区二区成人| 看免费成人av毛片| 午夜免费鲁丝| 国产欧美亚洲国产| 欧美日韩视频高清一区二区三区二| 日日摸夜夜添夜夜添av毛片| 91久久精品国产一区二区三区| 成人午夜精彩视频在线观看| 麻豆国产97在线/欧美| 美女被艹到高潮喷水动态| 有码 亚洲区| 日韩欧美一区视频在线观看 | 波多野结衣巨乳人妻| 久久精品综合一区二区三区| 联通29元200g的流量卡| 久久久国产一区二区| 国产成人精品一,二区| 久久久久久久久大av| 久久精品国产a三级三级三级| 精品久久久久久电影网| 亚洲av在线观看美女高潮| 99热网站在线观看| 老师上课跳d突然被开到最大视频| 免费av毛片视频| 真实男女啪啪啪动态图| 亚洲自偷自拍三级| 夜夜爽夜夜爽视频| 日韩av免费高清视频| 国产欧美日韩精品一区二区| 国国产精品蜜臀av免费| 日韩成人伦理影院| 久久久久久久精品精品| 伦精品一区二区三区| 久久精品久久精品一区二区三区| 免费大片黄手机在线观看| 在线观看免费高清a一片| 国产精品99久久久久久久久| 日本爱情动作片www.在线观看| 九草在线视频观看| 国产精品久久久久久av不卡| 国产熟女欧美一区二区| 大香蕉97超碰在线| 男的添女的下面高潮视频| 97精品久久久久久久久久精品| 亚洲激情五月婷婷啪啪| 国产亚洲一区二区精品| 免费观看a级毛片全部| 如何舔出高潮| 国产精品秋霞免费鲁丝片| 老女人水多毛片| 在线观看三级黄色| 成人一区二区视频在线观看| 国产一区二区亚洲精品在线观看| 久久久欧美国产精品| 欧美一区二区亚洲| 少妇高潮的动态图| 精品久久久精品久久久| 亚洲第一区二区三区不卡| 精品一区二区三区视频在线| 亚洲精品视频女| 久热久热在线精品观看| 亚洲国产av新网站| 夜夜爽夜夜爽视频| 综合色av麻豆| 国产伦在线观看视频一区| 午夜福利视频精品| 在线a可以看的网站|