• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    基于Attention-BiLSTM混合模型的月尺度降水量預(yù)測

    2024-01-01 00:00:00成玉祥肖麗英王萍根劉祥周章晨暉
    人民珠江 2024年6期
    關(guān)鍵詞:氣象因子

    摘要:降水受到多種氣象因素的影響,從而導(dǎo)致降水預(yù)測精度不高。針對這個問題,在考慮影響降水的多個氣象因素基礎(chǔ)上,通過 Attention機(jī)制賦予各種氣象因素不同的權(quán)重,結(jié)合雙向長短期記憶神經(jīng)網(wǎng)絡(luò)(BiLSTM),提出了改進(jìn)的 Attention-BiLSTM混合模型去實(shí)現(xiàn)月尺度降水量的預(yù)測。以江西省南昌氣象站為例,將1989—2018年的逐月降水量與逐月氣象因素(氣溫、蒸發(fā)量、氣壓等)觀測資料作為模型輸入數(shù)據(jù),通過 Attention機(jī)制識別出各種氣象因素的權(quán)重,從而提高BiLSTM模型對降水量的預(yù)測性能。結(jié)果表明:Attention-BiLSTM混合模型可有效地提高降水量預(yù)測的精度;通過 Attention機(jī)制的修正,顯著地改善了原有的BiLSTM模型降水量預(yù)測值偏低的問題。

    關(guān)鍵詞:月尺度降水;氣象因子;Attention機(jī)制;BiLSTM;預(yù)測性能

    中圖分類號:TV213.9;P457.6文獻(xiàn)標(biāo)識碼:A文章編號:1001-9235(2024)06-0073-09

    Monthly Precipitation Prediction Based on Attention-BiLSTM Model

    CHENG Yuxiang, XIAO Liying*, WANG Pinggen, LIU Xiangzhou, ZHANG Chenhui

    (School of Hydraulic and Ecological Engineering, Nanchang Institute of Technology, Nanchang 330099, China)

    Abstract: Precipitation is affected by various meteorological factors, leading to low prediction accuracy. To solve this problem, multiple meteorological factors affecting precipitation were considered, and the attention mechanism was used to assign different weights to various meteorological factors. Combined with the bidirectional long short-term memory neural network (BiLSTM), an improved attention-BiLSTM model was proposed to predict monthly precipitation. By taking the Nanchang Meteorological Station in Jiangxi Province as an example, the observation data of monthly precipitation and meteorological factors (temperature, evaporation, pressure, etc.) from 1989 to 2018 were used as input data for the model. The attention mechanism identified the weights of various meteorological factors to improve the prediction performance of the BiLSTM model for precipitation. The results show that the attention-BiLSTM model can effectively improve the accuracy of precipitation prediction. Through the correction of the attention mechanism, the low precipitation prediction values by the original BiLSTM model are significantly improved.

    Keywords: monthly precipitation; meteorological factors; attention mechanism; BiLSTM; prediction performance

    降水量預(yù)測是水文預(yù)報領(lǐng)域的一項(xiàng)必不可少的重要研究內(nèi)容。降水量發(fā)生異?,F(xiàn)象是誘發(fā)洪澇災(zāi)害、旱災(zāi)的直接因素之一。由于每個月的降水量能清晰地反映年內(nèi)降水的時間分布,因此,準(zhǔn)確的降水預(yù)測對社會和經(jīng)濟(jì)部門至關(guān)重要。對降水進(jìn)行準(zhǔn)確的預(yù)測不僅在供水、洪水風(fēng)險和干旱緩解方面發(fā)揮著重要作用,而且在指導(dǎo)農(nóng)業(yè)管理和水力發(fā)電廠的運(yùn)行方面也發(fā)揮著重要作用。

    降水預(yù)測通常是通過采用基于物理過程的模型而實(shí)現(xiàn)的。傳統(tǒng)的數(shù)值計算模型需要在短時間內(nèi)處理龐大的氣象數(shù)據(jù),而且求解物理方程的過程十分復(fù)雜。傳統(tǒng)的降水預(yù)測方法主要的不足之處如下。首先,精度和可靠性有限。由于降水的預(yù)測受到多種因素影響,如大氣環(huán)流、地形和下墊面因素等,降水預(yù)測精度和可靠性受到數(shù)據(jù)和模型的限制。其次,時效性欠佳。傳統(tǒng)預(yù)測方法需要收集和分析大量的觀測數(shù)據(jù)和模型參數(shù),同時需要一定的時間來進(jìn)行預(yù)測,導(dǎo)致無法及時響應(yīng)突發(fā)的氣象事件和水文災(zāi)害[1]。由于降水量數(shù)據(jù)具有非平穩(wěn)、非線性的特征,若直接通過降水?dāng)?shù)據(jù)進(jìn)行預(yù)測,往往達(dá)不到精確的預(yù)測效果。采用信號分解能夠使時間序列平穩(wěn)并且能夠提取時間序列的局部特征。例如,KIM 等[2]采用小波分解算法(Wavelet Decomposition,WD)對降水量數(shù)據(jù)進(jìn)行分解,并與單一的預(yù)測模型做了對比。結(jié)果發(fā)現(xiàn),在相同的預(yù)測模型下,經(jīng)過小波分解后的時間序列預(yù)測模型準(zhǔn)確度更高。

    隨著人工智能理論和應(yīng)用的迅速發(fā)展,LSTM (Long Short Term Memory,LSTM)模型已被廣泛應(yīng)用于降水預(yù)測中[3]。LSTM 模型通過 Cell 門開關(guān)實(shí)現(xiàn)時間上的記憶功能,并防止梯度消失,可以學(xué)習(xí)長期依賴信息,讓信息長期保存。SHI 等[3]在早期提出了ConvLSTM模型。該模型通過將全鏈接的LSTM 模型擴(kuò)展為輸入到輸出、狀態(tài)到狀態(tài)的卷積結(jié)構(gòu),能夠更好地學(xué)習(xí)數(shù)據(jù)的時空相關(guān)性。從此,它成功地將循環(huán)神經(jīng)網(wǎng)絡(luò)引入降水預(yù)測,為降水預(yù)測奠定了基礎(chǔ)。在深度學(xué)習(xí)理論出現(xiàn)之后,循環(huán)神經(jīng)網(wǎng)絡(luò)的表征學(xué)習(xí)能力得到了關(guān)注,并隨著數(shù)值計算設(shè)備的更新而得到發(fā)展?;?LSTM算法的降水預(yù)測模型能更好的處理長時間序列數(shù)據(jù),通過不斷訓(xùn)練可以抓住月尺度降水?dāng)?shù)據(jù)隨時間變化的規(guī)律,并顯著提高預(yù)測精度。例如,劉新等[4]利用 LSTM等5種預(yù)測模型對青藏高原的月尺度降水量預(yù)測結(jié)果進(jìn)行對比。結(jié)果發(fā)現(xiàn),LSTM 模型的預(yù)測精度遠(yuǎn)優(yōu)于其他幾個神經(jīng)網(wǎng)絡(luò)模型。1997年,隨著雙向長短期記憶神經(jīng)網(wǎng)絡(luò)(Bidirectional Long Short-Term Memory,BiLSTM)的提出,Alex Graves 等首次提出了使用BiLSTM網(wǎng)絡(luò)來改進(jìn)語音識別任務(wù)。由于降水預(yù)測和語音識別都屬于序列預(yù)測問題,因此, Ivanov Sergey 等在2015年將BiLSTM網(wǎng)絡(luò)應(yīng)用于降水預(yù)測,并取得一定的效果。凌銘等[5]對比了 LSTM 和 BiLSTM2個模型在鄱陽湖流域的日尺度降水預(yù)測的結(jié)果,發(fā)現(xiàn)BiLSTM模型的預(yù)測效果要明顯優(yōu)于 LSTM模型。綜上所述,在降水預(yù)測方面 LSTM模型的預(yù)測效果在各模型中尤為突出,而且,由 LSTM 變種而來的BiLSTM模型在降水預(yù)測方面的效果更佳。

    降水的形成與不同氣象因素息息相關(guān)。如果將降水與其他氣象因素的原始時間序列直接用作模型輸入,則很難解釋每個輸入特征序列在預(yù)測中所起的作用。為了解決這一問題,有研究指出:根據(jù)輸入特征序列的重要性,為其分配最優(yōu)權(quán)重。近年來,Attention 機(jī)制與深度學(xué)習(xí)模型的結(jié)合已得到廣泛應(yīng)用,并且反饋效果良好[6]。例如,吳香華等[7]將單一的 CNN(Convolutional Neural Network)與CNN-Attention-BP 混合模型的預(yù)測結(jié)果進(jìn)行對比,發(fā)現(xiàn)引入 Attention機(jī)制后的組合模型相較于其他單一的模型具有更高的預(yù)測精度。王怡等[8]使用卷積神經(jīng)網(wǎng)絡(luò)提取氣溫數(shù)據(jù)的局部特征,挖掘氣溫數(shù)據(jù)在空間上的相關(guān)性,并融入 Attention 機(jī)制進(jìn)行權(quán)重分析,最后運(yùn)用BiLSTM進(jìn)行降水預(yù)測。結(jié)果表明,組合模型的預(yù)測結(jié)果精度有了較大的提高。

    因此,將 Attention 機(jī)制加入BiLSTM中,考慮各種氣象因子歷史時間序列的影響,可以捕捉與月降水量相關(guān)的最重要因子。通過對各氣象因子分配相應(yīng)的權(quán)重,使得預(yù)測模型更加深度學(xué)習(xí)對降水預(yù)測影響較大的氣象因子序列,減少或忽略對降水預(yù)測影響較小的氣象因子序列的學(xué)習(xí),從而提高預(yù)測準(zhǔn)確率。

    綜上所述,本文的創(chuàng)新之處在于在降水預(yù)測的常規(guī)數(shù)據(jù)驅(qū)動模型中,考慮各種氣象因子歷史時間序列對降水預(yù)測模型的影響,引入深度學(xué)習(xí)中的 Attention 機(jī)制,對氣溫、蒸發(fā)量、氣壓等各種氣象因子進(jìn)行權(quán)重分析,捕捉到有意義的信息;然后,進(jìn)一步構(gòu)建 Attention-BiLSTM混合模型,采用相關(guān)指標(biāo)來評價該混合模型的預(yù)測性能,并與常規(guī)數(shù)據(jù)驅(qū)動模型的預(yù)測結(jié)果進(jìn)行對比,以觀察月尺度降水量的預(yù)測精度是否得到有效提升。

    1研究方法

    1.1 BiLSTM神經(jīng)網(wǎng)絡(luò)

    長短期神經(jīng)網(wǎng)絡(luò) LSTM 是循環(huán)神經(jīng)網(wǎng)絡(luò)(Recurrent Neural Network,RNN)的一種改進(jìn)[9]。 LSTM 在主體結(jié)構(gòu)上與 RNN 相似,但能解決 RNN 中梯度消失、爆炸等問題。LSTM 在隱藏層 h 中增加了3個門控結(jié)構(gòu)(Gating Mechanism),分別是遺忘門(Forget Gate)、輸入門(Input Gate)、輸出門(Output Gate),同時新增了一個隱藏狀態(tài)(Cell State)[10]。這樣有利于 LSTM 長時間存儲和訪問信息。首先,遺忘門用于確定是否應(yīng)該從先前的狀態(tài)丟棄信息。相關(guān)的計算見式(1)—(4):

    f (t )=σ(Wfht-1+UfXt + bf )

    i (t )=σ(Wi ht-1+ Ui Xt + bi )

    c (t )= tanh(Wcht-1+ Uc Xt +bc )

    o (t )=σ(W h+ U X + b )

    式中:Xt為 t 時刻的輸入;ht-1為 t-1時刻的隱藏層狀態(tài)值;Wf、Wi、Wo、Wc分別為遺忘門、輸入門、輸出門和特征提取過程中ht-1的權(quán)重系數(shù);Uf、Ui、Uo、Uc 分別為遺忘門、輸入門、輸出門和特征提取過程中Xt的權(quán)重系數(shù);bf、bi、bo、bc分別為遺忘門、輸入門、輸出門和特征提取過程中的偏置值;tanh 為雙曲正切函數(shù);σ為激活函數(shù) Sigmoid。

    其次,是確定需要向單元狀態(tài)中添加多少新的信息。在這一步中,有2個部分:第一個部分,由輸入門層確定在當(dāng)前時間步長中使用哪些信息來更新單元狀態(tài);第二個部分,由 tanh 層生成一個更新向量 C 。然后,將這兩部分組合起來創(chuàng)新更新的狀態(tài),見式(5)、(6):

    tanh(x)=1(1) e(e)--2x(2x)(5)

    σ(x)=(6)

    遺忘門和輸入門計算的結(jié)果作用于ct-1,構(gòu)成 t 時刻的細(xì)胞狀態(tài)ct,見式(7):

    ct =ct-1⊙f (t )+i (t )⊙c (t )( 7)

    最后的一個門是輸出門,用于控制單元狀態(tài)ct的信息流入新的隱藏狀態(tài)。其中,t 時刻的隱藏層狀態(tài)ht由輸入門 o(t )和當(dāng)前時刻的細(xì)胞狀態(tài)ct得出:

    ht = o (t )⊙ tanh(ct)(8)式中:⊙為 Hadamard積。

    雙向長短期記憶網(wǎng)絡(luò)(Bi-directional Long Short-Term Memory,BiLSTM)是長短期記憶神經(jīng)網(wǎng)絡(luò)的一個變種。BiLSTM神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)模型分為2個獨(dú)立的 LSTM,輸入序列分別以正序和逆序輸入至2個 LSTM神經(jīng)網(wǎng)絡(luò)進(jìn)行特征提取,將2個輸出向量(即提取后的特征向量)進(jìn)行拼接后形成的詞向量作為該詞的最終特征表達(dá)[11]。BiLSTM的模型設(shè)計理念是使 t 時刻所獲得特征數(shù)據(jù)同時擁有過去和將來之間的信息,這種神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)的參數(shù)特征提取效率和性能要優(yōu)于單個 LSTM 結(jié)構(gòu)模型[12]。另外,在BiLSTM模型中,2個 LSTM神經(jīng)網(wǎng)絡(luò)的參數(shù)相互獨(dú)立。BiLSTM神經(jīng)網(wǎng)絡(luò)的拓?fù)浣Y(jié)構(gòu)見圖1。

    1.2 Attention機(jī)制

    各種氣象因子在降水預(yù)測中的重要性是不同的。在降水預(yù)測中,需要更多地關(guān)注更有意義的預(yù)測因子。Attention機(jī)制即注意力機(jī)制。這種機(jī)制可以通過掃描全局圖像,獲取需要重點(diǎn)關(guān)注的目標(biāo)區(qū)域,而后對這一區(qū)域投入更多的注意力資源,獲取更多與目標(biāo)有關(guān)的細(xì)節(jié)信息,同時忽視其他無關(guān)信息[13]。這種機(jī)制可以利用有限的注意力資源,從大量信息中快速篩選出高價值的信息。因此, Attention機(jī)制可以根據(jù)輸入特征序列的重要性程度賦予不同的權(quán)重,從而在時間序列預(yù)測中對輸入特征序列進(jìn)行優(yōu)化。Attention 機(jī)制的計算分為三步:一是在所有輸入信息上計算注意力分布從而得到權(quán)重系數(shù);二是通過注意力打分函數(shù)的計算,來衡量一個輸入序列中每個元素與當(dāng)前輸出元素之間的相似度得分,用于計算權(quán)重;三是根據(jù)注意力分布來計算輸入信息的加權(quán)平均。Attention機(jī)制的詳細(xì)計算步驟如下。

    步驟一注意力分布αn 的計算,見式(9):α n = p (z = n|X,q )= soft max(s (xn,q ))=

    exp(s (xn,q ))

    exp(s (xj,q ))

    式中:X 為輸入向量;q 為和任務(wù)相關(guān)的查詢向量; X、q 為已給定的參數(shù);在給定任務(wù)相關(guān)的查詢 q 時,α n 為第 n 個輸入向量受關(guān)注的程度;z 為選擇信息的索引位置,例如z = n 表示選擇了第 n 個輸入向量。

    步驟二注意力打分函數(shù) s(x,q )的計算

    s (x,q )=vT tanh(WX +Uq)(10)

    式中:W 為輸入向量 X 的權(quán)重;U 為查詢向量 q 的權(quán)重;v 為用于得分計算的權(quán)重向量。

    步驟三加權(quán)平均

    att(X,q )=α n x n

    式中:α n 為第 n 個輸入向量受關(guān)注的程度;xn為第 n 個輸入向量。

    圖2是 Attention 機(jī)制加權(quán)平均的示例。圖中softmax的作用是將一組任意的實(shí)數(shù)值轉(zhuǎn)化為在[0,1]之間的概率值。

    1.3 Attention-BiLSTM混合模型

    本文引入深度學(xué)習(xí)中的 Attention 機(jī)制與BiLSTM神經(jīng)網(wǎng)絡(luò)融合,將 Attention 機(jī)制加入到BiLSTM的隱含層中,對氣溫、氣壓、風(fēng)速等各氣象因子進(jìn)行特征學(xué)習(xí)之后,再進(jìn)行權(quán)重影響分析。最后,采用BiLSTM神經(jīng)網(wǎng)絡(luò)對降水進(jìn)行預(yù)測,見圖3。

    1.4評價指標(biāo)

    本文選取均方根誤差(Root Mean Square Error, RMSE)、平均絕對誤差(Mean Absolute Deviation, MAE)、皮爾遜相關(guān)系數(shù)(Pearson Correlation Coefficient,PCC)作為評價指標(biāo)。其中,RMSE、MAE 反映預(yù)測的準(zhǔn)確度,二者的值越小代表模型預(yù)測效果越好。PCC 則反映預(yù)測序列與觀測序列的相關(guān)性,PCC 的值越大代表模型預(yù)測準(zhǔn)確度越高,其絕對值越接近1則表明預(yù)測序列與觀測序列越相關(guān)[14],見式(12)—(14)。

    PCC =(13)

    MAE =ht - h(~)t |(14)

    式中:cov為2個變量的協(xié)方差;σ為變量的標(biāo)準(zhǔn)差;n 為樣本數(shù)量;ht、h t(~)分別為 t 時間的觀測降水量與預(yù)測降水量。

    2實(shí)例分析

    2.1數(shù)據(jù)來源與預(yù)處理

    選取江西省南昌站1989年1月至2018年12月的月氣象(降水和其他氣象因子等)觀測數(shù)據(jù)作為研究對象。這些數(shù)據(jù)來源于國家氣象科學(xué)數(shù)據(jù)中心(http://data. cma. cn)的中國地面氣候資料數(shù)據(jù)集。由于不同氣象數(shù)據(jù)的單位不同,首先對數(shù)據(jù)進(jìn)行歸一化處理,見式(15):

    Xi = X(X) a(0)-- X(X)m(m)i(i)n(n)(15)

    式中:Xi 為歸一化處理后的序列;X 0)為輸入的原始?xì)庀笮蛄?,Xmin、Xmax為各個序列的最小值和最大值。經(jīng)過歸一化處理后的數(shù)據(jù)值都在[0,1]內(nèi)。然后,將歸一化處理后的氣象數(shù)據(jù)以8∶2比例劃分訓(xùn)練集與測試集[15]。其中,對于降水?dāng)?shù)據(jù),1989年1月至2012年12月(共計288個月)為訓(xùn)練集;2013年1月至2018年12月(共計72個月)為測試集。

    在對流層內(nèi),與降水有關(guān)的氣象因素主要是氣溫、氣壓、風(fēng)、濕度、云和蒸發(fā)等。對于暴雨,則主要與氣壓、氣溫、濕度、風(fēng)等因素有關(guān)。本文是針對月尺度的降水量進(jìn)行預(yù)測,而南昌屬于亞熱帶季風(fēng)氣候,四季分明,春季氣溫較暖雨水較多,夏季炎熱濕潤時有暴雨,秋冬氣溫降低雨量較少,考慮到實(shí)際情況,本文經(jīng)過初期篩選后,選取氣溫、氣壓、風(fēng)速、相對濕度、蒸發(fā)量這5個氣象因子作為影響南昌站月降水量的主要因素。另外,這些氣象因子的時間序列起止時間也是1989年1月—2018年12月(共計360個月)。

    2.2模型步驟

    步驟一將降水序列以及溫度、濕度、風(fēng)速等氣象因子序列作為輸入數(shù)據(jù),對輸入數(shù)據(jù)進(jìn)行預(yù)處理,并以8∶2比例劃分訓(xùn)練集與測試集。

    步驟二將訓(xùn)練集的數(shù)據(jù)由輸入層傳入,經(jīng)過 Attention層的權(quán)重分析后由BiLSTM層輸出。

    步驟三計算預(yù)測值和觀測值的均方根誤差(RMSE)、平均絕對誤差(MAE)、皮爾遜相關(guān)系數(shù)(PCC)。判斷 RMSE 和 MAE 是否為最小值、PCC 是否為最大值,若3個評價指標(biāo)為最優(yōu)值,則由輸出層輸出結(jié)果;若不滿足最優(yōu)值條件,則調(diào)整輸入長度

    進(jìn)行循環(huán),直到得到滿足最值條件的輸入長度。步驟四經(jīng)過試湊法,調(diào)整 Attention-BiLSTM混合模型參數(shù)以確定最優(yōu)超參數(shù)。然后,根據(jù)由輸出層輸出的訓(xùn)練結(jié)果對測試集的數(shù)據(jù)進(jìn)行降水預(yù)測。

    圖4為 Attention-BiLSTM混合模型的構(gòu)建流程。

    2.3 Attention-BiLSTM混合模型權(quán)重分析

    本文將歸一化后的數(shù)據(jù)經(jīng) Attention層進(jìn)行權(quán)重分析,得出各因子對降水的平均權(quán)重見表1。其中,氣溫、氣壓、風(fēng)速、相對濕度、蒸發(fā)量等5項(xiàng)為主要的氣象因子,這些氣象因子均影響降水的形成或降水量的大小。表1可知,在注意力機(jī)制的權(quán)重分配結(jié)果中,蒸發(fā)量的權(quán)重為最大(0.24),相對濕度權(quán)重次之(0.21),氣壓的權(quán)重為最?。?.17)。這說明,在南昌站,影響降水的主要因素為蒸發(fā)量、相對濕度與風(fēng)速。

    2.4 Attention-BiLSTM混合模型參數(shù)設(shè)置與優(yōu)化

    在 Attention-BiLSTM混合模型的訓(xùn)練過程中,本文采取自適應(yīng)矩估計(Adaptive Moment Estimation,Adam)為優(yōu)化函數(shù),雙曲正切函數(shù)(Hyperbolic Tangent Function,tanh)為激活函數(shù),并采用隨機(jī)失活正則化(Dropout)方法。Adam算法能夠基于訓(xùn)練數(shù)據(jù)迭代更新神經(jīng)網(wǎng)絡(luò)的權(quán)重,使損失函數(shù) RMSE 輸出值達(dá)到最優(yōu)[16]。tanh 收斂速度快,會使迭代次數(shù)大幅度降低,提高模型效率[17]。 Dropout方法會防止過擬合。此外,本文采用試湊法最終確定超參數(shù)。試湊法是指憑借經(jīng)驗(yàn)確定參數(shù)的方法,即根據(jù)觀察結(jié)果調(diào)整 Attention-BiLSTM混合模型的參數(shù),最終得出最優(yōu)超參數(shù)[18]。Attention-BiLSTM混合模型超最優(yōu)超參數(shù)見表2。

    2.5訓(xùn)練階段結(jié)果分析

    為了尋找 Attention-BiLSTM混合模型的最優(yōu)輸入長度,本文在訓(xùn)練階段采用試湊法,根據(jù)不同輸入長度得出 Attention-BiLSTM混合模型預(yù)測值。同時,采用均方根誤差(RMSE)來評價 Attention- BiLSTM混合模型的預(yù)測效果。之后,計算了在不同輸入長度下 Attention-BiLSTM混合模型降水預(yù)測值與觀測值之間的均方根誤差 RMSE。由于訓(xùn)練集的數(shù)據(jù)較大,圖5僅展示以南昌站1989年1月至1992年4月的氣象數(shù)據(jù)為原始數(shù)據(jù)(共計40個月)的Attention-BiLSTM混合模型預(yù)測均方根誤差的變化范圍及誤差變化過程。結(jié)果表明:①采用 Attention- BiLSTM混合模型預(yù)測,降水預(yù)測值與觀測值之間的均方根誤差 RMSE 隨著時間長度的增加而上下波動。在輸入長度為10個月后,波動幅度變小,變化絕對值低于0.3。②在輸入長度為9個月時, Attention-BiLSTM混合模型預(yù)測值與觀測值的RMSE 達(dá)到了最低值。因此,本文在 Attention- BiLSTM混合模型中,采取的模型最優(yōu)輸入序列長度為9個月。

    為了對比 Attention-BiLSTM混合模型和BiLSTM的預(yù)測效果差異,本文采用均方根誤差(RMSE)、平均絕對誤差(MAE)評價預(yù)測的準(zhǔn)確度;采用 Pearson 相關(guān)系數(shù)(PCC)評價預(yù)測序列與觀測

    序列的相關(guān)性。表3給出了在不同輸入長度下,2種預(yù)測模型評價指標(biāo)對比結(jié)果。其中,符號 B代表采用BiLSTM模型預(yù)測,符號 Aamp;B代表采用 Attention- BiLSTM混合模型預(yù)測。因訓(xùn)練集數(shù)據(jù)較大,表3只列出了12個月的評價結(jié)果作示例。

    結(jié)果表明:①在輸入長度為9個月時, Attention-BiLSTM混合模型的預(yù)測效果最優(yōu),RMSE 和 MAE 達(dá)到最小值,分別為2.16和1.73,此外, Attention-BiLSTM混合模型的降水預(yù)測序列與觀測序列之間相關(guān)系數(shù)最高,PCC 達(dá)到最大值0.82;②在不斷改變輸入長度的情況下,發(fā)現(xiàn)采用 Attention- BiLSTM混合模型預(yù)測的 RMSE、MAE 均比采用BiLSTM模型進(jìn)行降水預(yù)測的 RMSE、MAE 低。此外,Attention-BiLSTM混合模型的 PCC 也比BiLSTM模型的 PCC 高。因此,在訓(xùn)練階段,發(fā)現(xiàn) Attention-BiLSTM混合模型的預(yù)測效果比BiLSTM模型更好。

    2.6測試階段結(jié)果分析

    2.6.1不同模型預(yù)測結(jié)果對比

    本文采用南昌站2013年1月至2018年12月(共72個月)逐月降水量與逐月氣象因素(氣溫、蒸發(fā)量、氣壓等)觀測資料作為模型測試集,在輸入長度為9個月的情況下,完成降水預(yù)測模型的測試。在圖6中,給出了BiLSTM模型和 Attention-BiSLTM混合模型測試集的逐月降水預(yù)測結(jié)果;同時,也列出該時期逐月降水量觀測值以便對照。

    結(jié)果表明:在測試階段,BiLSTM模型的預(yù)測值與觀測值波動特征相似,但在有些極值點(diǎn)位置,預(yù)測效果并不是很理想;另一方面,Attention-BiLSTM混合模型的預(yù)測值與觀測值波動特征趨于一致,并且在極值點(diǎn)位置,預(yù)測效果相比于BiLSTM模型更好??傮w上,Attention-BiLSTM混合模型的預(yù)測效果要遠(yuǎn)優(yōu)于BiLSTM模型的預(yù)測效果。

    為了解不同模型在測試階段的預(yù)測效果如何,本文將不同模型預(yù)測結(jié)果的評價指標(biāo)進(jìn)行對比(表4)。結(jié)果表明:①在測試階段,Attention-BiLSTM混合模型的 RMSE(2.21)和 MAE(1.82)均小于BiLSTM模型的 RMSE(2.67)和 MAE(2.01),這說明Attention-BiLSTM混合模型預(yù)測的準(zhǔn)確度高于BiLSTM模型;②Attention-BiLSTM混合模型的 PCC (0.78)高于BiLSTM模型的 PCC(0.67)。這可得出Attention-BiLSTM混合模型預(yù)測序列與觀測序列的相關(guān)性高于BiLSTM模型。因此,從測試階段不同模型的評價指標(biāo)上看,Attention-BiLSTM混合模型預(yù)測效果要優(yōu)于BiLSTM模型。

    2.6.2降水峰值點(diǎn)預(yù)測結(jié)果對比

    前文主要是針對測試階段整體預(yù)測效果的評價,但是,對于汛期或主汛期降水量的預(yù)測效果如何需要進(jìn)一步分析,而這往往是降水模型預(yù)測較難的地方。為了深入對比不同模型的預(yù)測結(jié)果,本文選取測試階段中的21個降水峰值點(diǎn)作對比,計算不同模型預(yù)測值與觀測值的誤差(圖6、表5)。結(jié)果表明:①Attention-BiLSTM混合模型預(yù)測值與觀測值的最大誤差為115.36 mm,最小誤差為0.71 mm,平均誤差為22.25 mm,而BiLSTM模型預(yù)測值與觀測值的最大誤差為307.14 mm,最小誤差為1.44 mm,平均誤差為79.02 mm;②針對圖6中降水序列的峰值點(diǎn)展開進(jìn)一步的預(yù)測對比分析,發(fā)現(xiàn) Attention- BiLSTM混合模型預(yù)測值與觀測值的誤差要小于BiLSTM模型的預(yù)測誤差。Attention-BiLSTM混合模型在峰值點(diǎn)處的預(yù)測誤差相比于BiLSTM模型平均降低了17.69%。因此,在峰值點(diǎn)處 Attention- BiLSTM混合模型要優(yōu)于BiLSTM模型。

    進(jìn)一步選取表5中序號為2、5、8、11、15的峰值點(diǎn)作為汛期代表點(diǎn)。這些代表點(diǎn)均發(fā)生于各年的6月,其月降水量也都超過汛期降水量平均值250.3 mm。計算這些代表點(diǎn)處降水預(yù)測值與觀測值的誤差,發(fā)現(xiàn):①在5個汛期代表點(diǎn)處,采用 Attention- BiLSTM混合模型,降水預(yù)測值與觀測值的誤差絕對值要遠(yuǎn)小于BiLSTM模型的誤差絕對值;② Attention-BiLSTM混合模型在汛期代表點(diǎn)處的誤差相比于BiLSTM模型平均降低了32.12%。因此, Attention-BiLSTM混合模型在汛期代表點(diǎn)處的預(yù)測效果要遠(yuǎn)優(yōu)于BiLSTM模型。

    3結(jié)論

    針對降水因受到多種氣象因素影響而導(dǎo)致降水極值預(yù)測不準(zhǔn)確的問題,本文將 Attention 機(jī)制與BiLSTM神經(jīng)網(wǎng)絡(luò)融合,構(gòu)建出 Attention-BiLSTM混合模型,并以南昌站月降水量為例展開了預(yù)測分析。首先,采用 Attention 機(jī)制對各氣象因子進(jìn)行了權(quán)重分配。其次,將月降水量與月氣象因素等觀測資料作為輸入數(shù)據(jù),通過試湊法確定 Attention-BiLSTM混合模型的最優(yōu)超參數(shù),然后完成對月降水量的預(yù)測。最后,對比了 Attention-BiLSTM混合模型與BiLSTM模型之間的預(yù)測效果,評價了這兩種模型在峰值點(diǎn)和汛期代表性點(diǎn)的預(yù)測效果差異。

    結(jié)果表明:Attention 機(jī)制識別出主要影響南昌站降水的氣象因子為蒸發(fā)量、相對濕度與風(fēng)速,并量化了各個氣象因子的權(quán)重值。在 Attention- BiLSTM混合模型的優(yōu)化方面,發(fā)現(xiàn)輸入長度為9個月是該模型的最優(yōu)時間步長。無論在測試階段與訓(xùn)練階段,Attention-BiLSTM混合模型的降水預(yù)測結(jié)果與觀測結(jié)果基本一致;同時,Attention-BiLSTM混合模型的預(yù)測誤差均小于原始的BiLSTM模型。這說明,經(jīng)過 Attention 機(jī)制的調(diào)節(jié),原有的BiLSTM模型在月降水預(yù)測方面的穩(wěn)定性和準(zhǔn)確性顯著提高。

    通過降水峰值點(diǎn)的預(yù)測誤差分析,可知 Attention-BiLSTM混合模型可以較好地解決降水預(yù)測精度偏低的問題。但是,本研究也發(fā)現(xiàn),在某些降水量峰值點(diǎn)處,Attention-BiLSTM混合模型的預(yù)測精度還不夠高,預(yù)測值也出現(xiàn)了偏高的情況。因此,在下一步工作中還需要引入自適應(yīng)噪聲的完全集合經(jīng)驗(yàn)?zāi)B(tài)分解等方法[19],將數(shù)據(jù)預(yù)先進(jìn)行分解去噪,以提高 Attention-BiLSTM混合模型預(yù)測的精度。此外,本文在模型的參數(shù)調(diào)優(yōu)訓(xùn)練時所采用的試湊法,耗費(fèi)了過多的時間和精力。未來可以引入先進(jìn)的算法進(jìn)行參數(shù)自動調(diào)優(yōu),進(jìn)一步實(shí)現(xiàn)智能化,提高模型的工作效率。

    參考文獻(xiàn):

    [1]劉鑫.傳統(tǒng)與現(xiàn)代水文方法相結(jié)合在水系規(guī)劃中的應(yīng)用研究[J].城市道橋與防洪,2019(2):113-116,15.

    [2] KIM S,KISI O,SEO Y,WANG H,et al. Assessment of rainfall aggregation and disaggregation using data-driven models and wavelet decomposition[J]. Hydrology Research,2017,48(1):99-116.

    [3] SHI X J,ZHOU C R ,WANG H,et al.2015. Convolutional LSTM network: a machine learning approach for precipitationnowcasting[C]// Proceedings of the 28th International Conference on Neural Information Processing Systems,2015:802-810.

    [4]劉新,趙寧,郭金運(yùn),等.基于 LSTM神經(jīng)網(wǎng)絡(luò)的青藏高原月降水量預(yù)測[J].地球信息科學(xué)學(xué)報,2020,22(8):1617-1629.

    [5]凌銘,肖麗英,趙嘉,等.基于 SVM-CEEMDAN-BiLSTM模型的日降水量預(yù)測[J].人民珠江,2023,44(9):61-68.

    [6] LI S Z,XIE G,REN J C,et al. Urban PM2.5 Concentration Prediction via Attention-Based CNN –LSTM[J]. Applied Sciences,2020,10(6). DOI:10.3390/app10061953.

    [7]吳香華,華亞婕,官元紅,等.基于 CNN-Attention-BP 的降水發(fā)生預(yù)測研究[J].南京信息工程大學(xué)學(xué)報(自然科學(xué)版),2022,14(2):148-155.

    [8]王怡,普運(yùn)偉.基于 CNN-BiLSTM-Attention 融合神經(jīng)網(wǎng)絡(luò)的大氣溫度預(yù)測[J].中國水運(yùn)(下半月),2023,23(1):25-27.

    [9]韓瑩,管健,曹允重,等. LSTM-WBLS 模型在日降水量預(yù)測中的應(yīng)用[J].南京信息工程大學(xué)學(xué)報(自然科學(xué)版),2023,15(2):180-186.

    [10]沈皓俊,羅勇,趙宗慈,等.基于 LSTM 網(wǎng)絡(luò)的中國夏季降水預(yù)測研究[J].氣候變化研究進(jìn)展,2020,16(3):263-275.

    [11]翟月昊.基于BiLSTM和 GCN 的氣溫預(yù)測模型研究[D].南京:南京郵電大學(xué),2022.

    [12]萬齊斌,董方敏,孫水發(fā).基于BiLSTM-Attention-CNN 混合神經(jīng)網(wǎng)絡(luò)的文本分類方法[J].計算機(jī)應(yīng)用與軟件,2020,37(9):94-98,201.

    [13]劉媛媛.融合 CNN-LSTM 和注意力機(jī)制的空氣質(zhì)量指數(shù)預(yù)測[J].計算機(jī)時代,2022(1):58-60.

    [14]程娟娟.高??蒲信c教學(xué)關(guān)系實(shí)證研究:基于皮爾遜相關(guān)系數(shù)的分析[J].中國高校科技,2022(10):46-52.

    [15]王宏樂,王興林,李文波,等.深度學(xué)習(xí)訓(xùn)練數(shù)據(jù)分布對植物病害識別的影響研究[J].廣東農(nóng)業(yè)科學(xué),2022,49(6):100-107.

    [16]李梓毓,趙月愛.改進(jìn) Adam優(yōu)化算法的人臉檢測方法[J].太原師范學(xué)院學(xué)報(自然科學(xué)版),2022,21(4):58-63.

    [17]王攀杰,郭紹忠,侯明,等.激活函數(shù)的對比測試與分析[J].信息工程大學(xué)學(xué)報,2021,22(5):551-557.

    [18]WANG X L,YANG H,HAN D R,et al. Trial and error method for optimal tradable credit schemes:The network case[J]. Journal of Advanced Transportation,2014,48(6):685-700.

    [19]劉選.基于 CEEMDAN-BiLSTM的月降水量預(yù)測模型[J].江西水利科技,2023,49(4):277-282.

    (責(zé)任編輯:程茜)

    猜你喜歡
    氣象因子
    氣象因子和品種對冬小麥降落數(shù)值的影響
    金湖蓮藕全生育期氣象因子的影響分析
    春玉米需水量變化及其與氣象因子的關(guān)系探索構(gòu)架
    膠東半島地區(qū)氣象因子對冬小麥產(chǎn)量影響的研究
    遵義烤煙種植區(qū)氣候因子分析
    隨機(jī)森林在棉蚜蟲害等級預(yù)測中的應(yīng)用
    橡膠產(chǎn)量與氣象因子的灰色關(guān)聯(lián)性及逐步回歸分析研究
    呼吸道疾病與氣象因子的相關(guān)分析
    楊樹葉紋斑病與氣象因子的關(guān)系
    玉米彎孢菌葉斑病分生孢子飛散動態(tài)
    中国国产av一级| 噜噜噜噜噜久久久久久91| 在线天堂最新版资源| 黄色欧美视频在线观看| 秋霞在线观看毛片| 日韩成人av中文字幕在线观看| 视频区图区小说| 国产真实伦视频高清在线观看| 亚洲激情五月婷婷啪啪| 日日啪夜夜撸| av播播在线观看一区| 免费人妻精品一区二区三区视频| 亚洲真实伦在线观看| 如日韩欧美国产精品一区二区三区 | 国产国拍精品亚洲av在线观看| 日韩av免费高清视频| 男女国产视频网站| 国产成人免费无遮挡视频| 美女xxoo啪啪120秒动态图| 国产高清有码在线观看视频| 王馨瑶露胸无遮挡在线观看| 黄色视频在线播放观看不卡| 韩国av在线不卡| 少妇精品久久久久久久| 国产伦精品一区二区三区四那| 另类亚洲欧美激情| 三级经典国产精品| 午夜福利网站1000一区二区三区| 日本与韩国留学比较| 一区在线观看完整版| 少妇丰满av| 哪个播放器可以免费观看大片| 有码 亚洲区| 成人18禁高潮啪啪吃奶动态图 | 只有这里有精品99| 婷婷色麻豆天堂久久| 国产成人免费观看mmmm| 噜噜噜噜噜久久久久久91| 国精品久久久久久国模美| 午夜日本视频在线| 国产极品天堂在线| av免费观看日本| 26uuu在线亚洲综合色| 欧美日韩精品成人综合77777| 最黄视频免费看| 色婷婷av一区二区三区视频| 国产黄频视频在线观看| 少妇熟女欧美另类| 人妻一区二区av| 男人狂女人下面高潮的视频| 亚洲av.av天堂| 天天操日日干夜夜撸| 人妻一区二区av| av专区在线播放| av在线app专区| 免费看av在线观看网站| 大片免费播放器 马上看| 91aial.com中文字幕在线观看| 久久精品国产亚洲av涩爱| 国产日韩欧美在线精品| 亚洲av综合色区一区| 亚洲av电影在线观看一区二区三区| 女人精品久久久久毛片| av免费观看日本| 亚洲精品,欧美精品| 成人亚洲欧美一区二区av| 亚洲久久久国产精品| 91成人精品电影| 国产免费视频播放在线视频| 少妇熟女欧美另类| 啦啦啦啦在线视频资源| 人妻少妇偷人精品九色| 麻豆乱淫一区二区| 乱码一卡2卡4卡精品| 国产精品一二三区在线看| 99久久综合免费| av一本久久久久| 国产黄频视频在线观看| 日本免费在线观看一区| h日本视频在线播放| 在线精品无人区一区二区三| 99久久精品一区二区三区| 亚洲美女搞黄在线观看| 国产精品嫩草影院av在线观看| 日本爱情动作片www.在线观看| 一级片'在线观看视频| 69精品国产乱码久久久| 久久鲁丝午夜福利片| 成人无遮挡网站| 日韩伦理黄色片| 只有这里有精品99| 成人毛片a级毛片在线播放| av天堂中文字幕网| 国产黄片美女视频| 黄色配什么色好看| 黄色欧美视频在线观看| 国产在线一区二区三区精| 久热久热在线精品观看| 99热全是精品| 亚洲美女搞黄在线观看| 精品人妻熟女毛片av久久网站| 寂寞人妻少妇视频99o| 欧美日韩视频精品一区| 久久午夜综合久久蜜桃| 亚洲欧美日韩卡通动漫| 欧美 亚洲 国产 日韩一| 简卡轻食公司| 伊人久久国产一区二区| h日本视频在线播放| 国产精品福利在线免费观看| 亚洲av福利一区| 男人和女人高潮做爰伦理| 91精品国产九色| 在线观看一区二区三区激情| 黄色日韩在线| 国产精品偷伦视频观看了| 午夜激情久久久久久久| 性色avwww在线观看| 精品亚洲乱码少妇综合久久| 国产成人精品福利久久| 午夜av观看不卡| 男女啪啪激烈高潮av片| 十八禁网站网址无遮挡 | 亚洲国产毛片av蜜桃av| 成人综合一区亚洲| 欧美另类一区| 26uuu在线亚洲综合色| 国产毛片在线视频| 午夜免费观看性视频| 青春草视频在线免费观看| 久久精品国产a三级三级三级| 91精品国产九色| 晚上一个人看的免费电影| 国产一级毛片在线| 亚洲人与动物交配视频| 日韩免费高清中文字幕av| 性色avwww在线观看| 国产免费视频播放在线视频| 热re99久久国产66热| 亚洲国产最新在线播放| 日韩亚洲欧美综合| av女优亚洲男人天堂| 91久久精品国产一区二区成人| 日本wwww免费看| 免费在线观看成人毛片| 一区二区三区四区激情视频| 亚洲欧洲精品一区二区精品久久久 | 欧美变态另类bdsm刘玥| 熟女av电影| 成年人免费黄色播放视频 | 午夜免费男女啪啪视频观看| 国产精品麻豆人妻色哟哟久久| 免费黄频网站在线观看国产| 亚洲国产欧美日韩在线播放 | 欧美xxⅹ黑人| 国产一区二区在线观看日韩| 天堂8中文在线网| 97精品久久久久久久久久精品| av线在线观看网站| 国产成人精品福利久久| 如日韩欧美国产精品一区二区三区 | 国产 精品1| 亚洲不卡免费看| 久久亚洲国产成人精品v| 国产精品一区二区性色av| 人人妻人人澡人人看| 69精品国产乱码久久久| 夜夜骑夜夜射夜夜干| 九九爱精品视频在线观看| 丝瓜视频免费看黄片| tube8黄色片| 色5月婷婷丁香| 欧美xxⅹ黑人| 久久久久久久久大av| 啦啦啦视频在线资源免费观看| a级毛色黄片| 免费少妇av软件| 在线精品无人区一区二区三| 国产 一区精品| 欧美性感艳星| 国产视频内射| 国产伦理片在线播放av一区| 男女啪啪激烈高潮av片| 成人国产麻豆网| 午夜免费鲁丝| 欧美日韩av久久| 亚洲三级黄色毛片| 哪个播放器可以免费观看大片| 日韩强制内射视频| 亚洲美女搞黄在线观看| 国产欧美亚洲国产| 草草在线视频免费看| 热re99久久国产66热| 亚洲欧美中文字幕日韩二区| 超碰97精品在线观看| 亚洲美女搞黄在线观看| 一个人免费看片子| 少妇被粗大的猛进出69影院 | 色婷婷久久久亚洲欧美| 婷婷色综合www| 精品一区在线观看国产| 一级a做视频免费观看| 女人精品久久久久毛片| 丰满乱子伦码专区| 久久午夜综合久久蜜桃| 亚洲,一卡二卡三卡| 噜噜噜噜噜久久久久久91| 日韩强制内射视频| 黄色毛片三级朝国网站 | 九色成人免费人妻av| 综合色丁香网| 我要看黄色一级片免费的| 热re99久久国产66热| 午夜福利影视在线免费观看| 成人黄色视频免费在线看| 赤兔流量卡办理| 亚洲国产色片| 狂野欧美激情性bbbbbb| 国产高清三级在线| 日日摸夜夜添夜夜添av毛片| 中文天堂在线官网| 国产欧美日韩综合在线一区二区 | 免费黄频网站在线观看国产| 看免费成人av毛片| 国产在线免费精品| 我的老师免费观看完整版| 欧美精品一区二区大全| .国产精品久久| av网站免费在线观看视频| 国产精品国产三级专区第一集| 久久人妻熟女aⅴ| 亚洲欧美一区二区三区黑人 | 最后的刺客免费高清国语| 好男人视频免费观看在线| 韩国av在线不卡| 国产在线一区二区三区精| 久久国产精品男人的天堂亚洲 | 男的添女的下面高潮视频| 亚洲激情五月婷婷啪啪| 久久国产乱子免费精品| 亚洲欧美成人综合另类久久久| 亚洲av男天堂| 在线观看三级黄色| 少妇的逼好多水| 久久人人爽人人爽人人片va| 色哟哟·www| 国产精品女同一区二区软件| 18禁在线无遮挡免费观看视频| 久久久久网色| 嘟嘟电影网在线观看| 新久久久久国产一级毛片| 午夜视频国产福利| 国产一区二区三区综合在线观看 | 大话2 男鬼变身卡| 免费人妻精品一区二区三区视频| 亚洲av男天堂| 日本av手机在线免费观看| 99热全是精品| 一级黄片播放器| 午夜视频国产福利| 最黄视频免费看| 高清不卡的av网站| 秋霞在线观看毛片| .国产精品久久| 丰满人妻一区二区三区视频av| 99九九在线精品视频 | 男女边摸边吃奶| h视频一区二区三区| 99久久精品国产国产毛片| 色哟哟·www| 久久ye,这里只有精品| 五月玫瑰六月丁香| 久久人人爽人人爽人人片va| 大片电影免费在线观看免费| 日韩精品有码人妻一区| 中国三级夫妇交换| 大片电影免费在线观看免费| 精品一区在线观看国产| 视频中文字幕在线观看| 夜夜骑夜夜射夜夜干| 色视频www国产| 少妇精品久久久久久久| 亚洲国产精品999| 女人久久www免费人成看片| 国产永久视频网站| 3wmmmm亚洲av在线观看| 搡老乐熟女国产| 一区二区三区免费毛片| 亚洲精品第二区| 色94色欧美一区二区| 91精品一卡2卡3卡4卡| 国产成人精品福利久久| 天天躁夜夜躁狠狠久久av| 国产欧美日韩综合在线一区二区 | 国产成人a∨麻豆精品| 日韩制服骚丝袜av| 欧美xxⅹ黑人| 女人久久www免费人成看片| 高清在线视频一区二区三区| 少妇熟女欧美另类| 久久人人爽人人片av| 乱系列少妇在线播放| 国产片特级美女逼逼视频| 亚洲高清免费不卡视频| 老司机影院成人| 在线观看人妻少妇| 乱码一卡2卡4卡精品| 亚洲,欧美,日韩| 在线播放无遮挡| 亚洲国产最新在线播放| 午夜福利影视在线免费观看| 2021少妇久久久久久久久久久| 亚洲情色 制服丝袜| 精品少妇内射三级| 午夜福利视频精品| 麻豆乱淫一区二区| 三上悠亚av全集在线观看 | 在线观看www视频免费| 久久国产精品男人的天堂亚洲 | 熟女电影av网| 美女主播在线视频| 午夜福利影视在线免费观看| a级一级毛片免费在线观看| 男人舔奶头视频| 日本爱情动作片www.在线观看| 99久久人妻综合| 新久久久久国产一级毛片| 久久久欧美国产精品| 国产精品一区二区三区四区免费观看| 免费久久久久久久精品成人欧美视频 | 亚洲国产精品一区二区三区在线| 看非洲黑人一级黄片| 国产国拍精品亚洲av在线观看| 久久久久网色| 亚洲无线观看免费| 国产精品国产三级国产av玫瑰| √禁漫天堂资源中文www| 久久久久久人妻| 亚洲第一区二区三区不卡| 九色成人免费人妻av| 免费黄色在线免费观看| 伦精品一区二区三区| 精品国产乱码久久久久久小说| av国产精品久久久久影院| 久久久国产欧美日韩av| 久久久亚洲精品成人影院| 久久久久人妻精品一区果冻| 午夜精品国产一区二区电影| 波野结衣二区三区在线| 97超视频在线观看视频| 下体分泌物呈黄色| 高清在线视频一区二区三区| av天堂中文字幕网| 黑人高潮一二区| 国产成人a∨麻豆精品| av线在线观看网站| 蜜臀久久99精品久久宅男| 成人漫画全彩无遮挡| 啦啦啦啦在线视频资源| 天堂中文最新版在线下载| 成人特级av手机在线观看| 黄色欧美视频在线观看| 成人国产麻豆网| 热99国产精品久久久久久7| 国产中年淑女户外野战色| 啦啦啦视频在线资源免费观看| 久久精品国产a三级三级三级| 亚洲电影在线观看av| 亚洲国产精品专区欧美| 国产亚洲精品久久久com| 80岁老熟妇乱子伦牲交| 国产黄频视频在线观看| 亚洲高清免费不卡视频| 亚洲三级黄色毛片| 日日啪夜夜撸| 国产午夜精品久久久久久一区二区三区| 少妇人妻一区二区三区视频| 男女国产视频网站| 女性被躁到高潮视频| 国产一区有黄有色的免费视频| 国产男女超爽视频在线观看| 国产精品秋霞免费鲁丝片| 观看美女的网站| 在线免费观看不下载黄p国产| 欧美高清成人免费视频www| av免费观看日本| 热re99久久国产66热| 两个人免费观看高清视频 | 国产日韩一区二区三区精品不卡 | 免费大片18禁| av线在线观看网站| 自拍偷自拍亚洲精品老妇| 美女内射精品一级片tv| a级一级毛片免费在线观看| 免费播放大片免费观看视频在线观看| 99久国产av精品国产电影| 久久精品国产亚洲av涩爱| 在线观看三级黄色| 美女视频免费永久观看网站| 男女边摸边吃奶| 久久韩国三级中文字幕| 黑人巨大精品欧美一区二区蜜桃 | 搡老乐熟女国产| av在线app专区| 这个男人来自地球电影免费观看 | 国产探花极品一区二区| 日韩制服骚丝袜av| 国产69精品久久久久777片| 中文字幕人妻丝袜制服| 少妇裸体淫交视频免费看高清| 色吧在线观看| 亚洲欧美中文字幕日韩二区| 九草在线视频观看| 欧美国产精品一级二级三级 | 日产精品乱码卡一卡2卡三| 少妇猛男粗大的猛烈进出视频| 男人添女人高潮全过程视频| 日本与韩国留学比较| 亚洲欧美日韩卡通动漫| 男人添女人高潮全过程视频| 天堂中文最新版在线下载| 深夜a级毛片| 美女xxoo啪啪120秒动态图| 久久精品国产a三级三级三级| 不卡视频在线观看欧美| 汤姆久久久久久久影院中文字幕| 我要看日韩黄色一级片| 狂野欧美激情性bbbbbb| 黄色欧美视频在线观看| 国产精品久久久久久久电影| 99久久精品热视频| 嫩草影院入口| 亚洲婷婷狠狠爱综合网| 久久精品国产鲁丝片午夜精品| 国产高清不卡午夜福利| 亚洲美女黄色视频免费看| 欧美精品国产亚洲| 日日爽夜夜爽网站| 大片免费播放器 马上看| 另类精品久久| 亚洲国产欧美日韩在线播放 | 99热国产这里只有精品6| 国产免费一区二区三区四区乱码| 纯流量卡能插随身wifi吗| 看十八女毛片水多多多| 菩萨蛮人人尽说江南好唐韦庄| 国产精品三级大全| 在线免费观看不下载黄p国产| 日韩在线高清观看一区二区三区| freevideosex欧美| 最新中文字幕久久久久| 最近手机中文字幕大全| 两个人免费观看高清视频 | 久久99热6这里只有精品| 国产一区有黄有色的免费视频| 黄色配什么色好看| 国产极品天堂在线| 国产一区二区在线观看av| 一二三四中文在线观看免费高清| 国产69精品久久久久777片| 国产精品麻豆人妻色哟哟久久| 三级经典国产精品| 国内揄拍国产精品人妻在线| 男男h啪啪无遮挡| 亚洲高清免费不卡视频| 在线观看人妻少妇| 国内少妇人妻偷人精品xxx网站| 一本色道久久久久久精品综合| 亚洲欧美中文字幕日韩二区| 一级毛片aaaaaa免费看小| 亚洲电影在线观看av| 亚洲综合色惰| 精品国产国语对白av| 亚洲第一av免费看| 亚洲国产欧美日韩在线播放 | 日韩视频在线欧美| 在线观看免费日韩欧美大片 | 亚洲国产色片| h日本视频在线播放| 亚洲情色 制服丝袜| 国产淫语在线视频| 十分钟在线观看高清视频www | 麻豆精品久久久久久蜜桃| 亚洲不卡免费看| 日韩人妻高清精品专区| 久久久久人妻精品一区果冻| 一个人免费看片子| 69精品国产乱码久久久| 99久国产av精品国产电影| 国产欧美亚洲国产| 亚洲内射少妇av| 亚洲人成网站在线播| 亚洲精品亚洲一区二区| 一级毛片我不卡| 99re6热这里在线精品视频| 免费久久久久久久精品成人欧美视频 | 亚洲精品成人av观看孕妇| 最近中文字幕2019免费版| av在线播放精品| 亚洲精品一二三| 国产精品人妻久久久影院| 新久久久久国产一级毛片| 国产精品秋霞免费鲁丝片| 国产精品久久久久久久久免| 日韩不卡一区二区三区视频在线| 久久狼人影院| 久久综合国产亚洲精品| 99精国产麻豆久久婷婷| 久久久久国产精品人妻一区二区| 日本午夜av视频| 日日啪夜夜爽| 精品久久久久久久久av| 国产一区二区三区综合在线观看 | 搡老乐熟女国产| 女人久久www免费人成看片| 热99国产精品久久久久久7| 欧美亚洲 丝袜 人妻 在线| 久久久久久人妻| 久久人人爽人人爽人人片va| 内射极品少妇av片p| 亚洲综合精品二区| 日韩av不卡免费在线播放| 在线亚洲精品国产二区图片欧美 | 亚洲精品国产av成人精品| 亚洲精品视频女| 免费黄网站久久成人精品| 2018国产大陆天天弄谢| 久久鲁丝午夜福利片| 99久国产av精品国产电影| 日本与韩国留学比较| 97在线人人人人妻| 亚洲欧洲日产国产| 亚洲欧美日韩东京热| 人妻人人澡人人爽人人| 亚洲av中文av极速乱| 高清毛片免费看| 夫妻午夜视频| 黄色一级大片看看| 国产精品嫩草影院av在线观看| 黄片无遮挡物在线观看| 新久久久久国产一级毛片| 国产视频首页在线观看| 女性生殖器流出的白浆| 乱系列少妇在线播放| 国产欧美日韩综合在线一区二区 | 亚洲国产av新网站| 国产av一区二区精品久久| 一区二区三区四区激情视频| 国产女主播在线喷水免费视频网站| 亚洲精品456在线播放app| 最近最新中文字幕免费大全7| 91精品一卡2卡3卡4卡| 午夜91福利影院| 精品人妻偷拍中文字幕| 少妇熟女欧美另类| 91aial.com中文字幕在线观看| 精品99又大又爽又粗少妇毛片| 免费久久久久久久精品成人欧美视频 | 免费观看a级毛片全部| 晚上一个人看的免费电影| 亚洲av福利一区| 91精品一卡2卡3卡4卡| 国产综合精华液| 内射极品少妇av片p| 高清欧美精品videossex| 欧美精品一区二区免费开放| 久久久久久久亚洲中文字幕| 校园人妻丝袜中文字幕| 久久99一区二区三区| 国产精品伦人一区二区| 亚洲精品色激情综合| 人妻一区二区av| 亚洲四区av| 观看av在线不卡| 成年女人在线观看亚洲视频| 91精品国产国语对白视频| 在线观看av片永久免费下载| 精品99又大又爽又粗少妇毛片| 精品久久国产蜜桃| 人人妻人人澡人人爽人人夜夜| 久久久久国产精品人妻一区二区| 日本vs欧美在线观看视频 | 99久久综合免费| freevideosex欧美| 在线观看人妻少妇| 校园人妻丝袜中文字幕| 两个人的视频大全免费| 成年av动漫网址| 欧美国产精品一级二级三级 | 丝袜脚勾引网站| 26uuu在线亚洲综合色| 久久精品熟女亚洲av麻豆精品| 国产成人a∨麻豆精品| 婷婷色麻豆天堂久久| 精品亚洲乱码少妇综合久久| 9色porny在线观看| 大话2 男鬼变身卡| 国产91av在线免费观看| 91久久精品国产一区二区三区| 99视频精品全部免费 在线| 青春草国产在线视频| 十分钟在线观看高清视频www | 精品久久久久久久久av| 久久久国产精品麻豆| 国产精品国产三级国产专区5o| 国产欧美另类精品又又久久亚洲欧美| 成年人免费黄色播放视频 | 你懂的网址亚洲精品在线观看| 亚洲国产色片| 国内揄拍国产精品人妻在线| 97超碰精品成人国产| 国语对白做爰xxxⅹ性视频网站| 自拍偷自拍亚洲精品老妇| 日韩视频在线欧美| 男男h啪啪无遮挡|