• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    支撐電力業(yè)務(wù)規(guī)劃的軟件定義網(wǎng)絡(luò)控制器時(shí)延性能分析

    2017-11-13 01:56:21李炳林黃紅兵
    電力系統(tǒng)自動(dòng)化 2017年17期
    關(guān)鍵詞:流表交換機(jī)數(shù)據(jù)包

    劉 川, 李炳林, 婁 征, 陳 雷, 黃紅兵

    (1. 全球能源互聯(lián)網(wǎng)研究院, 江蘇省南京市 210003; 2. 國(guó)家電網(wǎng)公司電力通信網(wǎng)絡(luò)技術(shù)實(shí)驗(yàn)室, 江蘇省南京市 210003; 3. 國(guó)網(wǎng)江蘇省電力公司南京供電公司, 江蘇省南京市 210000; 4. 中國(guó)信息通信研究院, 北京市 100191;5. 國(guó)網(wǎng)浙江省電力公司, 浙江省杭州市 310007)

    支撐電力業(yè)務(wù)規(guī)劃的軟件定義網(wǎng)絡(luò)控制器時(shí)延性能分析

    劉 川1,2, 李炳林1,2, 婁 征3, 陳 雷4, 黃紅兵5

    (1. 全球能源互聯(lián)網(wǎng)研究院, 江蘇省南京市 210003; 2. 國(guó)家電網(wǎng)公司電力通信網(wǎng)絡(luò)技術(shù)實(shí)驗(yàn)室, 江蘇省南京市 210003; 3. 國(guó)網(wǎng)江蘇省電力公司南京供電公司, 江蘇省南京市 210000; 4. 中國(guó)信息通信研究院, 北京市 100191;5. 國(guó)網(wǎng)浙江省電力公司, 浙江省杭州市 310007)

    引入集中控制理念的軟件定義網(wǎng)絡(luò)(SDN)技術(shù)為網(wǎng)絡(luò)的智能化提供了新的思路,但也同時(shí)在業(yè)務(wù)的端到端傳輸時(shí)延中引入了控制時(shí)延。詳細(xì)闡述了SDN架構(gòu)下,硬件資源和流表下發(fā)模式對(duì)控制時(shí)延的影響,在仿真環(huán)境和實(shí)際測(cè)試中,開展了兩種流表下發(fā)模式下端到端時(shí)延對(duì)比和應(yīng)用系統(tǒng)控制時(shí)延對(duì)比。從數(shù)據(jù)分析中可以得出Reactive模式擁有較高的自動(dòng)化程度與靈活性,但會(huì)引入高控制時(shí)延,Proactive模式的控制時(shí)延很低,但需要人工干預(yù)和預(yù)配置?;趯?duì)比結(jié)論,結(jié)合現(xiàn)網(wǎng)業(yè)務(wù)承載方式,建議電力通信網(wǎng)中涉及路由的承載方式可采用SDN技術(shù)進(jìn)行優(yōu)化,通過預(yù)配置業(yè)務(wù)路徑,以Proactive模式保障實(shí)時(shí)性,同時(shí)支持Reactive模式,應(yīng)對(duì)復(fù)雜網(wǎng)絡(luò)的靈活性需求。

    電力通信網(wǎng); 軟件定義網(wǎng)絡(luò); 時(shí)延; 流表下發(fā)模式

    0 引言

    一次設(shè)備智能化后,電網(wǎng)狀態(tài)信息的實(shí)時(shí)交換、網(wǎng)絡(luò)化的視頻監(jiān)控和多媒體交互信息管理等業(yè)務(wù)將更多的數(shù)據(jù)匯聚到集控中心、調(diào)度中心和數(shù)據(jù)容災(zāi)中心,數(shù)據(jù)類業(yè)務(wù)成為電力通信網(wǎng)帶寬的主要消耗業(yè)務(wù)[1]。

    傳統(tǒng)電力通信網(wǎng)由于老舊設(shè)備攀升、受制于一次線路切改等原因,呈現(xiàn)出網(wǎng)絡(luò)結(jié)構(gòu)薄弱、智能化程度不高等不適應(yīng)性。因此,迫切需要引入全新的網(wǎng)絡(luò)技術(shù),以提高網(wǎng)絡(luò)資源控制的靈活性和帶寬的利用率,而軟件定義網(wǎng)絡(luò)(software defined networking,SDN)正是這樣一種技術(shù)。

    SDN最初是由美國(guó)斯坦福大學(xué)Clean Slate研究組提出的一種新型網(wǎng)絡(luò)架構(gòu),其設(shè)計(jì)初衷是解決無法利用現(xiàn)有網(wǎng)絡(luò)中的大規(guī)模真實(shí)流量和豐富應(yīng)用進(jìn)行試驗(yàn)的問題,同時(shí)研究如何提高網(wǎng)絡(luò)的速度、可靠性、能效性和安全性等問題。隨著研究的深入,SDN逐漸得到了學(xué)術(shù)界和工業(yè)界的廣泛認(rèn)可,成為未來互聯(lián)網(wǎng)的主流發(fā)展方向[2]。

    由于電力業(yè)務(wù)在實(shí)時(shí)性與可靠性方面的極高要求,在將SDN技術(shù)引入電力系統(tǒng)的過程中,時(shí)延敏感業(yè)務(wù)[3-5]對(duì)SDN網(wǎng)絡(luò)的適應(yīng)性,成為論證SDN技術(shù)在電力通信網(wǎng)中應(yīng)用可行性的重要因素之一,也是軟件定義電網(wǎng)[6]概念下的重要研究方向。由于實(shí)時(shí)性并不是SDN技術(shù)本身所關(guān)注的問題,因此,業(yè)界對(duì)于SDN時(shí)延的研究仍以設(shè)備的轉(zhuǎn)發(fā)時(shí)延為主。

    本文研究了SDN控制器的時(shí)延性能,通過測(cè)試與仿真,確定硬件資源對(duì)時(shí)延性能的影響,詳細(xì)闡述了SDN流表下發(fā)模式中業(yè)務(wù)控制及傳輸時(shí)延的組成,并基于時(shí)延性能與電力業(yè)務(wù)需求,提出規(guī)劃建議,提高SDN技術(shù)與電力業(yè)務(wù)的適配性。

    1 業(yè)務(wù)時(shí)延需求分析

    繼電保護(hù)、電量數(shù)據(jù)采集、變電站視頻監(jiān)控等[7]電力業(yè)務(wù)對(duì)丟包和時(shí)延極為敏感,即使很小的響應(yīng)時(shí)間增加,都會(huì)對(duì)業(yè)務(wù)性能造成影響。以系統(tǒng)保護(hù)通信網(wǎng)的需求為例,考慮區(qū)域之間的通信需求,以區(qū)域內(nèi)最大傳輸距離3 000 km,區(qū)域間最大傳輸距離5 000 km估算,要求系統(tǒng)在60 ms內(nèi)實(shí)現(xiàn)電網(wǎng)發(fā)、輸、配及直流全景狀態(tài)監(jiān)測(cè),300 ms內(nèi)實(shí)現(xiàn)重要擾動(dòng)故障防御控制,而采集和控制通信時(shí)延均應(yīng)控制在50 ms以內(nèi)。

    精準(zhǔn)負(fù)荷控制系統(tǒng)(下文簡(jiǎn)稱精控系統(tǒng))作為系統(tǒng)保護(hù)的重要部分,在業(yè)務(wù)時(shí)延方面有著更加明確的需求,精控系統(tǒng)的時(shí)延需求如表1所示。

    表1 精控系統(tǒng)時(shí)延需求Table 1 Time delay demand of precise load control system

    2 SDN控制器時(shí)延性能

    SDN控制器的流表下發(fā)性能受到諸多因素的影響。在硬件層面,控制器流表下發(fā)的性能與硬件配置直接相關(guān)。在軟件層面,根據(jù)不同的流表下發(fā)模式,會(huì)涉及多個(gè)處理模塊與軟件接口。

    2.1 硬件資源對(duì)控制器時(shí)延性能的影響

    SDN控制器是安裝在通用硬件平臺(tái)上的一組軟件程序,硬件資源的各種配置直接影響軟件的運(yùn)行性能。服務(wù)器主要的硬件資源包括計(jì)算資源(CPU主頻)、存儲(chǔ)資源(內(nèi)存和硬盤)和網(wǎng)絡(luò)資源(網(wǎng)卡接口和速率)。因流表的下發(fā)一般不會(huì)涉及硬盤存儲(chǔ),故硬盤不作為流表下發(fā)時(shí)延產(chǎn)生的因素。

    2.1.1 網(wǎng)絡(luò)資源對(duì)流表下發(fā)性能的影響

    如果控制器和交換機(jī)分屬于不同的物理位置,南向接口的流表下發(fā)需要通過物理網(wǎng)卡,且本文考察流表下發(fā)成功以物理交換機(jī)接收到流表為考察點(diǎn),網(wǎng)絡(luò)資源對(duì)于流表下發(fā)性能的影響應(yīng)該考慮進(jìn)去。對(duì)于網(wǎng)卡接口速率對(duì)下發(fā)速度的影響,以通用服務(wù)器網(wǎng)卡線速1 000 Mbit/s,OpenFlow下發(fā)流表的Flow_MOD消息為例,以實(shí)際應(yīng)用中發(fā)送流表的Flow_MOD消息為200 B計(jì)算,則千兆網(wǎng)卡流表下發(fā)速度理論上可以達(dá)到655條/s。

    因此,如果使用Proactive模式(動(dòng)態(tài)模式)大規(guī)模部署流表,或者在小數(shù)據(jù)包大數(shù)據(jù)流量背景下的Reactive模式(靜態(tài)模式)下發(fā)流表,網(wǎng)卡速率有可能成為流表下發(fā)的瓶頸。

    同時(shí),考慮到整個(gè)網(wǎng)絡(luò)傳輸?shù)馁|(zhì)量,如線纜的質(zhì)量和網(wǎng)絡(luò)所通過連接設(shè)備的線速與轉(zhuǎn)發(fā)性能等各種綜合因素,以目前千兆網(wǎng)絡(luò)為主流的背景下,不建議流表下發(fā)速率規(guī)劃在500條/s之上。以現(xiàn)有網(wǎng)絡(luò)的狀況,更高的流表下發(fā)速率將難以保障網(wǎng)絡(luò)的可靠性與實(shí)時(shí)性[7]。

    2.1.2 內(nèi)存資源對(duì)流表下發(fā)性能的影響

    為了探討服務(wù)器內(nèi)存資源對(duì)流表下發(fā)的影響,本文使用VMWare虛擬機(jī)安裝開放式網(wǎng)絡(luò)操作系統(tǒng)(open network operating system,ONOS)控制器,每次測(cè)試重新分配虛擬機(jī)內(nèi)存,在其他條件不變的情況下,通過調(diào)整ONOS所在虛擬機(jī)的內(nèi)存大小,來觀察內(nèi)存大小變化對(duì)流表下發(fā)的影響。除內(nèi)存因素之外,其他不變因素見附錄A表A1。流表下發(fā)采用控制器的北向接口,通過表述性狀態(tài)轉(zhuǎn)移(representational state transfer,RESTful)在遠(yuǎn)端調(diào)用下發(fā)的方式轉(zhuǎn)換為控制器原語(yǔ),再經(jīng)由南向接口下發(fā)至交換設(shè)備進(jìn)行。測(cè)試結(jié)果如圖1所示。

    圖1 內(nèi)存資源對(duì)時(shí)延特性影響的測(cè)試結(jié)果Fig.1 Test result of impact of time delay characteristics on memory resource

    通過圖1可以看出,在10萬條流表下發(fā)的情況下,內(nèi)存資源在0~13 GB的變化區(qū)間內(nèi),時(shí)延的浮動(dòng)在7 s左右,這種時(shí)延的波動(dòng)是由于某一測(cè)試時(shí)間點(diǎn),控制器內(nèi)部運(yùn)行模塊調(diào)度等因素造成了運(yùn)行背景環(huán)境的差異而導(dǎo)致的,考慮到此種誤差因素,結(jié)合實(shí)際測(cè)試數(shù)據(jù),可以得出單條流表承載單個(gè)業(yè)務(wù)的控制邏輯時(shí),內(nèi)存對(duì)于流表下發(fā)性能的影響不大于0.07 ms,且該時(shí)延與內(nèi)存資源不存在線性比例關(guān)系。因此,在保證控制器正常運(yùn)轉(zhuǎn)的條件下,控制器的流表下發(fā)速率與內(nèi)存變化的關(guān)系不明顯,可以認(rèn)為內(nèi)存的大小與流表下發(fā)時(shí)延性能基本無關(guān)。

    2.1.3 CPU資源對(duì)流表下發(fā)性能的影響

    為了探討CPU資源對(duì)流表下發(fā)的影響,本文同樣使用VMWare虛擬機(jī)安裝ONOS控制器,在其他條件不變的情況下,每次測(cè)試調(diào)整CPU主頻與核數(shù),來觀察CPU資源對(duì)流表下發(fā)性能的影響。流表下發(fā)通過控制器的北向接口,通過使用RESTful在遠(yuǎn)端調(diào)用下發(fā)的方式轉(zhuǎn)換為控制器原語(yǔ),再經(jīng)由南向接口下發(fā)至交換設(shè)備進(jìn)行。

    分別測(cè)試流表下發(fā)性能在2 394 MHz(單核)、4 788 MHz(雙核)和7 183 MHz(三核)的主頻下的數(shù)據(jù),與內(nèi)存資源數(shù)據(jù)擬合,結(jié)果如圖2所示。除CPU因素之外,其他不變因素見附錄A表A2。

    圖2 CPU資源與內(nèi)存資源時(shí)延特性的數(shù)據(jù)擬合Fig.2 Data fitting of time delay characteristics of CPU resource and memory resource

    從圖2中可以看出,CPU的性能對(duì)控制器流表下發(fā)性能的影響較大,在提高CPU性能的條件下,流表下發(fā)時(shí)延明顯縮短,而這種提升存在一個(gè)CPU主頻的最優(yōu)值,即無法通過無限提高CPU主頻和核數(shù)來無限減少時(shí)延。

    2.2 控制器流表下發(fā)模式對(duì)時(shí)延性能的影響

    2.2.1 Proactive模式流表下發(fā)時(shí)延分析

    SDN控制器與交換機(jī)之間的OpenFlow通道建立后,由控制器向OpenFlow交換機(jī)預(yù)先發(fā)送流表項(xiàng)設(shè)定的設(shè)置稱為Proactive模式,也即動(dòng)態(tài)模式。Proactive模式是在大量數(shù)據(jù)包進(jìn)入交換機(jī)需要轉(zhuǎn)發(fā)之前,用控制器將流表預(yù)先下發(fā)給交換機(jī),這樣交換機(jī)在收到數(shù)據(jù)包時(shí),就能根據(jù)相關(guān)的流表進(jìn)行轉(zhuǎn)發(fā)。通過預(yù)先定義好所有流表的規(guī)則,并通過控制器下發(fā),在交換機(jī)中生效,該模式能夠避免交換機(jī)生成Packet-in消息所產(chǎn)生的時(shí)延,所有進(jìn)入交換機(jī)的數(shù)據(jù)包都可以按照線速轉(zhuǎn)發(fā)。

    SDN控制器流表的主動(dòng)下發(fā)過程,可以在控制器的北向接口使用RESTful風(fēng)格的Web調(diào)用,或使用超文本傳輸協(xié)議(HTTP)在遠(yuǎn)端進(jìn)行,也可以在控制器內(nèi)部通過內(nèi)嵌應(yīng)用(APP),利用嵌入式的應(yīng)用程序編程接口(application programming interface,API)直接下發(fā)流表[8]。一些支持如地址解析協(xié)議(address resolution protocol,ARP)解析等現(xiàn)有基本業(yè)務(wù)的流表下發(fā),就是通過內(nèi)嵌APP模塊的Proactive模式實(shí)現(xiàn)的。兩種Proactive模式下流表下發(fā)的過程見附錄B圖B1。

    對(duì)于Proactive模式的流表下發(fā),當(dāng)采用北向接口RESTful調(diào)用的方式時(shí),從控制器北向接口看,流表下發(fā)過程的時(shí)延TPRestful滿足:

    (1)

    式中:TN為SDN控制器北向接口處理RESTful HTTP請(qǐng)求的時(shí)延,該部分時(shí)延主要包括SDN控制器北向接口(可能是物理接口)的處理時(shí)延TNp和控制器北向接口對(duì)HTTP請(qǐng)求進(jìn)行協(xié)議處理,并將該請(qǐng)求轉(zhuǎn)化為控制器系統(tǒng)原語(yǔ)的時(shí)延TNh;TS為控制器南向接口流表下發(fā)時(shí)延,該部分時(shí)延主要包括控制器南向接口的OpenFlow協(xié)議棧生成OpenFlow流表下發(fā)消息的時(shí)延TSp和將流表下發(fā)的Flow Mod消息通過南向接口(可能是物理接口)轉(zhuǎn)發(fā)出去的時(shí)延TSh。

    當(dāng)Proactive模式的流表下發(fā)采用控制器內(nèi)嵌APP模塊方式實(shí)現(xiàn)時(shí),流表下發(fā)過程的時(shí)延TPAPP滿足:

    TPAPP=TC+TS

    (2)

    式中:TC為SDN控制器內(nèi)部業(yè)務(wù)邏輯處理時(shí)延。

    由于北向接口對(duì)HTTP請(qǐng)求進(jìn)行協(xié)議處理可能會(huì)經(jīng)歷復(fù)雜的迭代過程,且北向接口的實(shí)現(xiàn)方式與算法的不同都會(huì)影響到TNh這部分的時(shí)延,因此北向接口調(diào)用的處理時(shí)延TN要遠(yuǎn)大于控制器內(nèi)部業(yè)務(wù)邏輯的處理時(shí)延TC。因此,對(duì)于時(shí)延敏感業(yè)務(wù)的主動(dòng)流表下發(fā)處理,使用控制器內(nèi)嵌APP方式處理,比通過RESTful進(jìn)行遠(yuǎn)端調(diào)用實(shí)時(shí)性更高。

    2.2.2 Reactive模式流表下發(fā)時(shí)延分析

    Reactive模式,也即靜態(tài)模式,是當(dāng)一個(gè)新的數(shù)據(jù)包進(jìn)入交換機(jī)時(shí),交換機(jī)首先在流表中查找匹配規(guī)則,如果沒有發(fā)現(xiàn)匹配的流表,交換機(jī)根據(jù)不匹配數(shù)據(jù)包規(guī)則或者丟棄數(shù)據(jù)包或者使用OpenFlow的Packet_in消息將該數(shù)據(jù)包上送到控制器,控制器根據(jù)數(shù)據(jù)包的各種信息和預(yù)配置的相關(guān)規(guī)則計(jì)算創(chuàng)建一個(gè)流表項(xiàng),使用OpenFlow的Flow Mod消息通過南向接口發(fā)送給交換機(jī)[9-10]。交換機(jī)下一次收到類似的數(shù)據(jù)包時(shí)就可以直接轉(zhuǎn)發(fā)。

    Reactive模式的流表下發(fā)速率主要和控制器收到Packet-in消息并生成相關(guān)流表規(guī)則并下發(fā)的響應(yīng)時(shí)間有關(guān)。使用Reactive模式的流表下發(fā),控制器可根據(jù)上報(bào)的數(shù)據(jù)包,按照策略實(shí)時(shí)改變特定粒度業(yè)務(wù)的路徑,可能涉及流量或者業(yè)務(wù)的動(dòng)態(tài)調(diào)整,因此,該模式流表下發(fā)的各部分處理時(shí)延就顯得尤其重要。Reactive模式下流表下發(fā)過程見附錄B圖B2。對(duì)于Reactive模式的流表下發(fā),時(shí)延TR滿足:

    (3)

    式中:TF為SDN控制器收到Packet_in數(shù)據(jù)包,根據(jù)數(shù)據(jù)包內(nèi)容和應(yīng)用處理邏輯生成流表的時(shí)延,該部分時(shí)延主要包括控制器通過接口(可能是物理接口)收到Packet_in并做協(xié)議處理的時(shí)延TP和控制器根據(jù)內(nèi)部應(yīng)用處理邏輯產(chǎn)生流表項(xiàng)的時(shí)延TFL。

    2.3 SDN架構(gòu)下端到端業(yè)務(wù)傳輸時(shí)延分析

    在基于OpenFlow的SDN控制器與交換機(jī)環(huán)境下,端到端數(shù)據(jù)發(fā)送時(shí)延涉及的因素較多,除了鏈路傳送時(shí)延和交換機(jī)轉(zhuǎn)發(fā)時(shí)延以外,還要考慮OpenFlow流表處理機(jī)制對(duì)端到端數(shù)據(jù)包傳送的影響。如果端到端的數(shù)據(jù)包轉(zhuǎn)發(fā)之前,數(shù)據(jù)包經(jīng)過路徑的全部交換機(jī)都已通過控制器使用Proactive模式將流表下發(fā)好且流表生效,則端到端的數(shù)據(jù)包時(shí)延只需要考慮數(shù)據(jù)包經(jīng)過每個(gè)OpenFlow交換機(jī)流表匹配和轉(zhuǎn)發(fā)的時(shí)延,此種情況下,控制器流表下發(fā)的時(shí)間將不會(huì)對(duì)業(yè)務(wù)的端到端時(shí)延造成影響。

    如果該數(shù)據(jù)包在首個(gè)OpenFlow交換機(jī)中流表匹配未命中,而交換機(jī)的Table-Miss表規(guī)則是將未匹配的數(shù)據(jù)包轉(zhuǎn)發(fā)到控制器,就會(huì)觸發(fā)Reactive模式的流表下發(fā),如圖3所示。

    圖3 未知數(shù)據(jù)包在SDN網(wǎng)絡(luò)中的匹配過程Fig.3 Matching process of unknown packet in SDN network

    如圖3所示,當(dāng)觸發(fā)Reactive模式的流表下發(fā),端到端的數(shù)據(jù)傳輸時(shí)延TEnd-to-End除了數(shù)據(jù)在物理鏈路上的傳送時(shí)延以外,還滿足:

    TEnd-to-End=TPacket_in+TP_send+TF_send+TF_act+TR

    (4)

    TPacket_in=Tpim+Tpic+Tpis

    (5)

    TF_act=TFMc+Tset

    (6)

    式中:TPacket_in為交換機(jī)收到收據(jù)包后產(chǎn)生Packet_in報(bào)文的時(shí)延,該部分時(shí)延包括數(shù)據(jù)包在交換機(jī)內(nèi)部查找流表匹配的時(shí)延Tpim、交換機(jī)生成Packet_in消息的協(xié)議處理時(shí)延Tpic,以及Packet_in消息通過網(wǎng)絡(luò)接口的發(fā)送時(shí)延Tpis;TP_send為Packet_in報(bào)文通過OpenFlow通道的傳送時(shí)延;TF_send為流表通過OpenFlow通道的傳送時(shí)延;TF_act為流表在交換機(jī)中生效的時(shí)延,該時(shí)延包括了Flow Mod進(jìn)入交換機(jī)接口的處理時(shí)延TFMc和流表的安裝時(shí)延Tset。

    通過上述分析可以發(fā)現(xiàn),在Reactive模式下,所引入的端到端轉(zhuǎn)發(fā)時(shí)延因素要遠(yuǎn)多于Proactive模式下的數(shù)據(jù)包轉(zhuǎn)發(fā)。

    為了考察Proactive和Reactive兩種模式下端到端的時(shí)延情況,本文首先通過ONOS控制器和Mininet軟件交換機(jī)仿真環(huán)境進(jìn)行了以下實(shí)驗(yàn):使用Mininet創(chuàng)建7臺(tái)交換機(jī)的線形拓?fù)浜蜆湫瓮負(fù)?見附錄C圖C1、圖C2),分別模擬電力通信網(wǎng)絡(luò)中兩種典型的數(shù)據(jù)流向。線形拓?fù)淠M縱向交互的業(yè)務(wù)流向,如精控系統(tǒng)中,業(yè)務(wù)流僅在控制終端、控制子站、控制主站與控制中心站之間縱向交互,同一層級(jí)之間無數(shù)據(jù)交互;樹形拓?fù)淠M橫向交互的業(yè)務(wù)流向,如電力數(shù)據(jù)中心業(yè)務(wù)服務(wù)器之間的數(shù)據(jù)交互?;赟DN分層分域的控制架構(gòu),在同一個(gè)域間交互的業(yè)務(wù)一般不大于7跳。

    兩個(gè)主機(jī)分別下掛在路徑最遠(yuǎn)的兩個(gè)交換機(jī)下,考察端到端的數(shù)據(jù)傳送時(shí)延,結(jié)果見附錄C表C1。此次測(cè)試的轉(zhuǎn)發(fā)平面是基于服務(wù)器內(nèi)部采用軟件環(huán)境生成的OpenFlow交換機(jī),雖然沒有經(jīng)過實(shí)際的網(wǎng)卡和物理線路傳送,但對(duì)于兩種模式時(shí)延的比較結(jié)果沒有影響。從數(shù)據(jù)中可以得出,Proactive模式的端到端平均時(shí)延要遠(yuǎn)小于Reactive模式,并且可以滿足電力系統(tǒng)正常通信狀態(tài)和應(yīng)急通信狀態(tài)下的時(shí)延要求。

    在控制器上層通過北向接口加入應(yīng)用系統(tǒng)后,本文在并發(fā)數(shù)50,100,150三種情況下,對(duì)Reactive和Proactive兩種模式下業(yè)務(wù)的端到端控制時(shí)延進(jìn)行了實(shí)際測(cè)試,測(cè)試結(jié)果如表2所示。

    從測(cè)試結(jié)果中可以得出,Reactive模式在加入應(yīng)用系統(tǒng)后的控制時(shí)延較高,而Proactive模式的控制時(shí)延可以達(dá)到毫秒級(jí)。

    3 支撐電力業(yè)務(wù)時(shí)延需求的SDN應(yīng)用規(guī)劃模式建議

    3.1 硬件資源的選擇建議

    根據(jù)上文硬件資源對(duì)SDN控制器時(shí)延性能的研究結(jié)論發(fā)現(xiàn),在硬件資源的選擇上,如果考慮流表下發(fā)時(shí)延和下發(fā)速率等性能因素,應(yīng)首先保證服務(wù)器計(jì)算資源(CPU)的充足配置。

    表2 兩種流表下發(fā)模式下控制時(shí)延的測(cè)試結(jié)果Table 2 Test results of control time delay under two flow table release modes

    在流表下發(fā)性能規(guī)劃的考慮上,應(yīng)該考慮控制通道的網(wǎng)絡(luò)接口瓶頸,合理規(guī)劃和配置網(wǎng)絡(luò)的硬件配置(網(wǎng)卡接口極限和物理網(wǎng)絡(luò)極限),盡量保證控制通道的網(wǎng)絡(luò)帶寬不會(huì)成為瓶頸,減少控制器南向接口流表消息下發(fā)的pending狀態(tài)[9],以減少時(shí)延。

    3.2 流表下發(fā)模式選擇建議

    電力通信網(wǎng)組網(wǎng)中涉及路由的承載方式可以采用SDN的技術(shù)體制實(shí)現(xiàn)業(yè)務(wù)的統(tǒng)一管控與靈活調(diào)度。例如:精控系統(tǒng)中的秒級(jí)及分鐘級(jí)控制模式,由于其采集和控制指令通過營(yíng)銷控制大區(qū)的網(wǎng)絡(luò)傳送,涉及路由調(diào)度,因此適合用SDN的方式承載,而毫秒級(jí)控制模式的業(yè)務(wù)通道采用基于SDH的2 Mbit/s專線方式,利用骨干傳輸網(wǎng)分層傳輸,不具備靈活調(diào)度的條件,因此,不建議采用SDN方式承載。流表下發(fā)模式選擇建議如表3所示。

    表3 流表下發(fā)模式選擇建議Table 3 Suggestions on flow table release mode

    SDN技術(shù)最大的特色在于其靈活性與開放性,從某種意義上來說,SDN在某些場(chǎng)合反而會(huì)犧牲掉一定的實(shí)時(shí)性,正因如此,SDN在公網(wǎng)應(yīng)用中的優(yōu)勢(shì)一般體現(xiàn)在資源利用率的提升和運(yùn)維管理的智能化上。然而,電力業(yè)務(wù)與公網(wǎng)業(yè)務(wù)卻也有著不同特點(diǎn),首先,電力通信網(wǎng)作為輔助電力一次設(shè)備的基礎(chǔ)設(shè)施,其網(wǎng)絡(luò)相對(duì)固定,也即很少出現(xiàn)拓?fù)漕l繁變化的狀況;其次,電力業(yè)務(wù)數(shù)據(jù)流相對(duì)固定,業(yè)務(wù)流向與公網(wǎng)相反,一般以上行數(shù)據(jù)為主,也即電力業(yè)務(wù)一般不會(huì)伴隨高隨機(jī)性與高突發(fā)性?;谏鲜鲭娏I(yè)務(wù)特點(diǎn),SDN技術(shù)在電力通信網(wǎng)中的應(yīng)用可以采用策略預(yù)先配置的方式,以Proactive模式的流表下發(fā)來保障業(yè)務(wù)傳輸?shù)膶?shí)時(shí)性,同時(shí)輔以Reactive模式的流表下發(fā),來應(yīng)對(duì)大規(guī)模網(wǎng)絡(luò)或復(fù)雜網(wǎng)絡(luò)的靈活性需求。針對(duì)不同業(yè)務(wù)的時(shí)延需求和控制需求,引入Hybrid模式(混合模式)的流表下發(fā)機(jī)制,在業(yè)務(wù)傳輸時(shí)延可容忍的前提下,達(dá)到實(shí)時(shí)性與靈活性的平衡[11-12]。

    4 結(jié)論

    本文開展的面向電力業(yè)務(wù)規(guī)劃的SDN控制器時(shí)延性能分析,通過實(shí)際測(cè)試與仿真,從硬件資源和流表下發(fā)模式的角度詳細(xì)分析了各種情況下,網(wǎng)絡(luò)SDN化對(duì)承載業(yè)務(wù)時(shí)延造成的影響,并以系統(tǒng)保護(hù)精控系統(tǒng)的業(yè)務(wù)時(shí)延需求出發(fā),提出SDN技術(shù)引入及流表下發(fā)模式選擇的方案,可以得到如下結(jié)論。

    1)對(duì)于硬件資源,內(nèi)存和硬盤基本不會(huì)影響流表下發(fā)的時(shí)延,網(wǎng)卡會(huì)成為流表下發(fā)時(shí)延的瓶頸,CPU資源會(huì)明顯影響流表下發(fā)時(shí)延,但存在一個(gè)閾值。

    2)Proactive流表下發(fā)模式比Reactive流表下發(fā)模式擁有更低的時(shí)延,但Reactive模式的自動(dòng)化程度更高。

    3)考慮Hybrid模式理論上可以實(shí)現(xiàn)實(shí)時(shí)性與靈活性的平衡,但在實(shí)際網(wǎng)絡(luò)部署中,引入的環(huán)境因素將會(huì)更多,混合流表下發(fā)模式是否比單一流表下發(fā)模式更適用于實(shí)際部署還需要進(jìn)一步驗(yàn)證。

    在后續(xù)工作中,將進(jìn)一步優(yōu)化SDN技術(shù)在實(shí)時(shí)性與靈活性方面的平衡點(diǎn),引入更多環(huán)境變量進(jìn)行仿真和測(cè)試,使其更加適用于實(shí)際部署。

    附錄見本刊網(wǎng)絡(luò)版(http://www.aeps-info.com/aeps/ch/index.aspx)。

    [1] 劉川,黃輝,喻強(qiáng),等.基于SDN的電力通信集中控制高可靠性業(yè)務(wù)支撐機(jī)制研究[J].電力信息與通信技術(shù),2015,13(12):1-5.

    LIU Chuan, HUANG Hui, YU Qiang, et al. Research of high reliability business support mechanism for power communication system centralized control based on SDN[J]. Electric Power Information and Communication Technology, 2015, 13(12): 1-5.

    [2] 張朝昆,崔勇,唐翯祎,等.軟件定義網(wǎng)絡(luò)(SDN)研究進(jìn)展[J].軟件學(xué)報(bào),2015,26(1):62-81.

    ZHANG Chaokun, CUI Yong, TANG Heyi, et al. State-of-the-art survey on software defined networking (SDN)[J]. Journal of Software, 2015, 26(1): 62-81.

    [3] 張蕾,占震濱,魏路平,等.廣域測(cè)量系統(tǒng)分段時(shí)延測(cè)量及分析[J].電力系統(tǒng)自動(dòng)化,2016,40(6):101-106.DOI:10.7500/AEPS20150427008.

    ZHANG Lei, ZHAN Zhenbin, WEI Luping, et al. Test and analysis of piecewise delay in wide area measurement system[J]. Automation of Electric Power Systems, 2016, 40(6): 101-106. DOI: 10.7500/AEPS20150427008.

    [4] 劉文霞,羅紅,陳錦山.考慮網(wǎng)絡(luò)保護(hù)的廣域測(cè)量系統(tǒng)通信時(shí)延分析[J].電力系統(tǒng)自動(dòng)化,2011,35(21):68-73.

    LIU Wenxia, LUO Hong, CHEN Jinshan. Communication delay analysis of WAMS considering network protection mechanisms[J]. Automation of Electric Power Systems, 2011, 35(21): 68-73.

    [5] 陸子剛,衛(wèi)志農(nóng),孫國(guó)強(qiáng),等.相關(guān)量測(cè)下處理時(shí)延的電力系統(tǒng)動(dòng)態(tài)狀態(tài)更新法[J].電力系統(tǒng)自動(dòng)化,2015,39(11):132-138.DOI:10.7500/AEPS20140505003.

    LU Zigang, WEI Zhinong, SUN Guoqiang, et al. Power system dynamic state updating method in processing time delay with correlated measurement[J]. Automation of Electric Power Systems, 2015, 39(11): 132-138. DOI: 10.7500/AEPS20140505003.

    [6] 曹袖,黃瀚,王雪平,等.軟件定義電網(wǎng):概念、結(jié)構(gòu)與示例[J].電力系統(tǒng)自動(dòng)化,2016,40(6):1-9.DOI:10.7500/AEPS20150907009.

    CAO Xiu, HUANG Han, WANG Xueping, et al. Software defined grid: concept, architecture and samples[J]. Automation of Electric Power Systems, 2016, 40(6): 1-9. DOI: 10.7500/AEPS20150907009.

    [7] KREUTZ D, RAMOS F M V, ESTEVES VERISSIMO P, et al. Software-defined networking: a comprehensive survey[J]. Proceedings of the IEEE, 2015, 103(1): 10-13.

    [8] MCKEOWN N. Software-defined networking[C]// Proceedings of IEEE INFOCOM, April 19-25, 2009, Rio De Janeiro, Brazil.

    [9] MCKEOWN N, ANDERSON T, BALAKRISHNAN H,et al. OpenFlow: enabling innovation in campus networks[J]. ACM SIGCOMM Computer Communication Review, 2008, 38(2): 69-74.

    [10] MIT Technology Review. 10 breakthrough technologies,TR10: software-defined networking[EB/OL]. [2015-12-30]. http://www.technologyreview.com/article/412194/tr10-software-defined-networking/.

    [11] 王繼業(yè),劉川,吳軍民,等.軟件定義電力廣域網(wǎng)通信業(yè)務(wù)資源公平分配技術(shù)[J].電網(wǎng)技術(shù),2015,39(1):1425-1431.

    WANG Jiye, LIU Chuan, WU Junmin, et al. Research of software defined service resource equitable allocation technology of power WAN[J]. Power System Technology, 2015, 39(1): 1425-1431.

    [12] 左青云,陳鳴,趙廣松,等.基于OpenFlow的SDN技術(shù)研究[J].軟件學(xué)報(bào),2013,24(5):1078-1097.

    ZUO Qingyun, CHEN Ming, ZHAO Guangsong, et al. Research on OpenFlow-based SDN technologies[J]. Journal of Software, 2013, 24(5): 1078-1097.

    Analysis on Time Delay Performance of Software Defined Networking Controller in Support of Power Service Planning

    LIUChuan1,2,LIBinglin1,2,LOUZheng3,CHENLei4,HUANGHongbing5

    (1. Global Energy Interconnection Research Institute, Nanjing 210003, China; 2. State Grid Laboratory of Electric Power Communication Network Technology, Nanjing 210003, China; 3. Nanjing Power Supply Company, State Grid Jiangsu Electric Power Company, Nanjing 210000, China; 4. China Institute of Information and Communication, Beijing 100191, China; 5. State Grid Zhejiang Electric Power Company, Hangzhou 310007, China)

    The technology of software defined networking (SDN) has provided the intelligent network with a new line of thought. But at the same time, control delay is introduced into the end-to-end transmission delay of transaction. The influence of hardware resources and flow table release mode on control delay is described in detail under the SDN architecture. In the simulation environment and actual test, comparisons of end-to-end time delay and control time delay with application systems are made. From the data analysis, it can be seen that the Reactive mode has a high degree of automation and flexibility, but introduces high control delay. However, the Proactive mode has a low control delay, but requires manual intervention and pre-configuration. Based on the comparison conclusions and combined with business bearer of current network, it is suggested that the bearer mode involved in routing in the power communication network be optimized by SDN technology. Proactive mode guarantees real-time performance by pre-configuring service paths, while supporting Reactive mode to meet the flexibility requirements of complicated networks.

    This work is supported by State Grid Corporation of China.

    power communication network; software defined networking (SDN); time delay; flow table release mode

    2017-03-02;

    2017-06-12。

    上網(wǎng)日期: 2017-07-21。

    國(guó)家電網(wǎng)公司科技項(xiàng)目“面向電力通信多域交互的軟件定義光網(wǎng)絡(luò)關(guān)鍵技術(shù)研究”。

    劉 川(1986—),男,通信作者,碩士,高級(jí)工程師,主要研究方向:電力通信網(wǎng)絡(luò)與傳感、未來網(wǎng)絡(luò)技術(shù)。E-mail:liuchuan@geiri.sgcc.com.cn

    李炳林(1970—),男,碩士,研究員級(jí)高級(jí)工程師,主要研究方向:電力通信網(wǎng)絡(luò)與傳感。

    婁 征(1978—),男,碩士,高級(jí)工程師,主要研究方向:電力信息安全及計(jì)算機(jī)體系結(jié)構(gòu)。

    (編輯 章黎)

    猜你喜歡
    流表交換機(jī)數(shù)據(jù)包
    基于時(shí)序與集合的SDN流表更新策略
    SmartSniff
    基于緩存策略的OpenFlow流表存儲(chǔ)優(yōu)化方案研究
    修復(fù)損壞的交換機(jī)NOS
    簡(jiǎn)析yangUI流表控制
    軟件定義網(wǎng)絡(luò)中一種兩步式多級(jí)流表構(gòu)建算法
    使用鏈路聚合進(jìn)行交換機(jī)互聯(lián)
    PoE交換機(jī)雷擊浪涌防護(hù)設(shè)計(jì)
    基于Libpcap的網(wǎng)絡(luò)數(shù)據(jù)包捕獲器的設(shè)計(jì)與實(shí)現(xiàn)
    羅克韋爾自動(dòng)化交換機(jī)Allen-Bradley ArmorStratix 5700
    男女那种视频在线观看| 三级经典国产精品| 国产精品野战在线观看| 日韩欧美在线乱码| 人人妻人人看人人澡| www.av在线官网国产| av福利片在线观看| 国产极品精品免费视频能看的| 欧美一级a爱片免费观看看| 久久精品国产鲁丝片午夜精品| 久久精品国产亚洲网站| 国产精品蜜桃在线观看| 99久国产av精品| 精品人妻偷拍中文字幕| 特大巨黑吊av在线直播| 99热6这里只有精品| 又爽又黄无遮挡网站| 尤物成人国产欧美一区二区三区| 日韩视频在线欧美| 久久鲁丝午夜福利片| 大话2 男鬼变身卡| 国产一区二区在线观看日韩| 国产亚洲最大av| 青青草视频在线视频观看| 亚洲av免费高清在线观看| 久久草成人影院| 亚洲在线观看片| 亚洲国产精品合色在线| 日本免费一区二区三区高清不卡| 午夜a级毛片| 日本猛色少妇xxxxx猛交久久| 久久久久久久午夜电影| 性插视频无遮挡在线免费观看| 亚洲四区av| 国产69精品久久久久777片| 午夜福利成人在线免费观看| 人人妻人人澡欧美一区二区| 成人三级黄色视频| 床上黄色一级片| 一区二区三区免费毛片| 麻豆乱淫一区二区| 天堂av国产一区二区熟女人妻| 亚洲经典国产精华液单| 精品人妻偷拍中文字幕| 国产精品一及| 久久综合国产亚洲精品| 久久久久九九精品影院| 久久99热6这里只有精品| 欧美成人午夜免费资源| 18禁动态无遮挡网站| 一级爰片在线观看| 久久精品熟女亚洲av麻豆精品 | 亚洲国产精品成人综合色| 高清日韩中文字幕在线| 激情 狠狠 欧美| 成人无遮挡网站| 人妻系列 视频| av线在线观看网站| 国产伦理片在线播放av一区| 中文亚洲av片在线观看爽| 日韩欧美精品v在线| 中文精品一卡2卡3卡4更新| 91在线精品国自产拍蜜月| 亚洲欧美日韩高清专用| 亚洲美女搞黄在线观看| a级一级毛片免费在线观看| 黄色日韩在线| 亚洲精品自拍成人| 日日撸夜夜添| 麻豆国产97在线/欧美| 男女国产视频网站| 日本爱情动作片www.在线观看| 色播亚洲综合网| 91久久精品国产一区二区三区| 日韩av在线大香蕉| 国产精品久久久久久精品电影小说 | 国产亚洲5aaaaa淫片| 变态另类丝袜制服| 亚洲国产最新在线播放| 免费在线观看成人毛片| 国产综合懂色| 伊人久久精品亚洲午夜| 美女脱内裤让男人舔精品视频| 国产亚洲5aaaaa淫片| 国产高清视频在线观看网站| 免费搜索国产男女视频| 51国产日韩欧美| 久久人妻av系列| 亚洲欧美日韩东京热| ponron亚洲| 少妇被粗大猛烈的视频| 久久久久久大精品| 久久国内精品自在自线图片| 欧美高清性xxxxhd video| 国产精品人妻久久久久久| 国产午夜福利久久久久久| 亚洲国产精品sss在线观看| 色哟哟·www| 午夜福利在线观看吧| 国产精品伦人一区二区| 欧美高清性xxxxhd video| 国产精品人妻久久久久久| 寂寞人妻少妇视频99o| 久久国产乱子免费精品| or卡值多少钱| 久久久久网色| 99久久人妻综合| av在线亚洲专区| 国内少妇人妻偷人精品xxx网站| 日本wwww免费看| 青春草亚洲视频在线观看| 午夜福利视频1000在线观看| 久久久久久久国产电影| 精品人妻一区二区三区麻豆| 成人美女网站在线观看视频| 国语自产精品视频在线第100页| 波多野结衣高清无吗| 欧美又色又爽又黄视频| 免费播放大片免费观看视频在线观看 | 中文天堂在线官网| 午夜a级毛片| 少妇裸体淫交视频免费看高清| 亚洲成人久久爱视频| 国产又黄又爽又无遮挡在线| 日韩,欧美,国产一区二区三区 | 三级毛片av免费| 99久久成人亚洲精品观看| 国产精品99久久久久久久久| 午夜福利高清视频| 国产一区亚洲一区在线观看| 嫩草影院入口| 干丝袜人妻中文字幕| 人人妻人人看人人澡| 中文天堂在线官网| av免费在线看不卡| 国产精品精品国产色婷婷| 亚洲av免费高清在线观看| 国产91av在线免费观看| 国产免费男女视频| 亚洲av中文av极速乱| 男女国产视频网站| 国内精品宾馆在线| 99久国产av精品| 久久欧美精品欧美久久欧美| 国产极品天堂在线| 天堂√8在线中文| 一级毛片我不卡| 亚洲不卡免费看| 亚洲欧美日韩东京热| 亚洲精品,欧美精品| 国产一区二区在线av高清观看| 最近手机中文字幕大全| av线在线观看网站| 三级经典国产精品| 久久精品久久久久久噜噜老黄 | 中国美白少妇内射xxxbb| 国产乱人视频| 99在线人妻在线中文字幕| 最近手机中文字幕大全| 国产精品永久免费网站| 九草在线视频观看| 亚洲真实伦在线观看| a级毛片免费高清观看在线播放| 老司机影院成人| 国产成人精品一,二区| 夜夜看夜夜爽夜夜摸| av免费在线看不卡| 久久久久九九精品影院| 99久久成人亚洲精品观看| 亚洲成色77777| 亚洲欧洲国产日韩| 欧美激情在线99| 18禁动态无遮挡网站| 国产精品99久久久久久久久| 久久99精品国语久久久| 精品久久国产蜜桃| 久99久视频精品免费| 啦啦啦韩国在线观看视频| 亚洲av日韩在线播放| 亚洲精品色激情综合| 男人的好看免费观看在线视频| 久久久久久久久久久丰满| 成年版毛片免费区| 国产一区二区在线观看日韩| 69人妻影院| 免费看av在线观看网站| 免费观看精品视频网站| 亚洲中文字幕日韩| 91aial.com中文字幕在线观看| 亚洲av免费在线观看| 女人十人毛片免费观看3o分钟| 晚上一个人看的免费电影| 高清视频免费观看一区二区 | av免费观看日本| 精品免费久久久久久久清纯| 久久久久性生活片| 国产激情偷乱视频一区二区| 久久久久久九九精品二区国产| 精品久久国产蜜桃| 亚洲欧美一区二区三区国产| 国产精品野战在线观看| 男的添女的下面高潮视频| 一边亲一边摸免费视频| 男人和女人高潮做爰伦理| 亚洲人成网站高清观看| 九九在线视频观看精品| 免费av毛片视频| 亚洲va在线va天堂va国产| 日韩欧美国产在线观看| 高清午夜精品一区二区三区| 在线免费观看的www视频| 男插女下体视频免费在线播放| 日韩欧美国产在线观看| 亚洲国产高清在线一区二区三| 久久久久久伊人网av| 亚洲国产最新在线播放| 久久久久久久亚洲中文字幕| 永久网站在线| 国产黄a三级三级三级人| 日韩 亚洲 欧美在线| 国产又色又爽无遮挡免| av在线观看视频网站免费| 免费观看人在逋| 婷婷色av中文字幕| 九草在线视频观看| 99久久精品热视频| 亚洲五月天丁香| 国产亚洲av片在线观看秒播厂 | 天堂影院成人在线观看| 九九在线视频观看精品| 国产 一区精品| 青青草视频在线视频观看| 亚洲av不卡在线观看| 不卡视频在线观看欧美| 亚洲成人精品中文字幕电影| 亚洲av熟女| 九九爱精品视频在线观看| 最近中文字幕2019免费版| 国产精品,欧美在线| 日本欧美国产在线视频| 成人综合一区亚洲| 久久精品人妻少妇| 激情 狠狠 欧美| 男人狂女人下面高潮的视频| www.av在线官网国产| 草草在线视频免费看| 亚洲精品国产av成人精品| 国产探花在线观看一区二区| 91午夜精品亚洲一区二区三区| 欧美性猛交╳xxx乱大交人| 91精品国产九色| 99久久九九国产精品国产免费| 日本wwww免费看| 毛片女人毛片| 少妇的逼水好多| 日本与韩国留学比较| 日韩成人av中文字幕在线观看| 老司机福利观看| 日日摸夜夜添夜夜添av毛片| 精华霜和精华液先用哪个| 成人无遮挡网站| 精品国内亚洲2022精品成人| 波多野结衣高清无吗| 美女xxoo啪啪120秒动态图| 婷婷色av中文字幕| 一个人看的www免费观看视频| 我的女老师完整版在线观看| 国产老妇伦熟女老妇高清| 97超碰精品成人国产| 国产一区二区在线观看日韩| 午夜免费激情av| 99久久精品一区二区三区| 久久久亚洲精品成人影院| 亚洲欧美日韩东京热| 国产成人91sexporn| 亚洲av免费高清在线观看| 午夜视频国产福利| 亚洲成人精品中文字幕电影| 性色avwww在线观看| 国产免费又黄又爽又色| 一区二区三区高清视频在线| a级毛片免费高清观看在线播放| 又爽又黄无遮挡网站| 国产黄片美女视频| 99热网站在线观看| 99在线视频只有这里精品首页| 中文字幕av在线有码专区| 日韩精品青青久久久久久| 一个人免费在线观看电影| 在线播放国产精品三级| 国产女主播在线喷水免费视频网站 | 亚洲精品日韩在线中文字幕| 免费观看人在逋| 亚洲精品一区蜜桃| 边亲边吃奶的免费视频| 中国国产av一级| 亚洲久久久久久中文字幕| av.在线天堂| 亚洲最大成人av| 精品久久久久久成人av| 国内精品美女久久久久久| 青春草亚洲视频在线观看| 国产精品久久电影中文字幕| 永久网站在线| 欧美性感艳星| 日本三级黄在线观看| 两个人的视频大全免费| 国产精品女同一区二区软件| 欧美成人午夜免费资源| 边亲边吃奶的免费视频| 搡老妇女老女人老熟妇| 丝袜喷水一区| 久久久午夜欧美精品| 日日干狠狠操夜夜爽| 丝袜喷水一区| 蜜臀久久99精品久久宅男| av卡一久久| 亚洲人成网站高清观看| 插逼视频在线观看| 国产一区二区在线av高清观看| 秋霞在线观看毛片| 少妇高潮的动态图| 精品国产三级普通话版| av女优亚洲男人天堂| 精品少妇黑人巨大在线播放 | 久久久久久久久久久丰满| 22中文网久久字幕| 日日摸夜夜添夜夜爱| 青春草视频在线免费观看| 美女大奶头视频| 禁无遮挡网站| 伦精品一区二区三区| 久久久久久久久久黄片| 久久99热6这里只有精品| 亚洲中文字幕日韩| 听说在线观看完整版免费高清| 又爽又黄a免费视频| 日产精品乱码卡一卡2卡三| 91精品伊人久久大香线蕉| 联通29元200g的流量卡| 精品久久久久久久久亚洲| 一本一本综合久久| 两性午夜刺激爽爽歪歪视频在线观看| 97超视频在线观看视频| 成年免费大片在线观看| 精品不卡国产一区二区三区| 噜噜噜噜噜久久久久久91| 日本三级黄在线观看| 国产乱人视频| 精品久久久久久久末码| 亚洲av中文字字幕乱码综合| 日韩精品有码人妻一区| 亚洲成人久久爱视频| 三级经典国产精品| 国产视频首页在线观看| 尤物成人国产欧美一区二区三区| 日韩av在线免费看完整版不卡| 国产精品久久久久久av不卡| 欧美变态另类bdsm刘玥| 人人妻人人澡欧美一区二区| 成人午夜高清在线视频| 美女被艹到高潮喷水动态| 男女下面进入的视频免费午夜| 人妻少妇偷人精品九色| 一个人看的www免费观看视频| 久久久久久国产a免费观看| 亚洲美女搞黄在线观看| 纵有疾风起免费观看全集完整版 | 99久久中文字幕三级久久日本| 简卡轻食公司| 亚洲av二区三区四区| 18禁在线播放成人免费| 欧美一级a爱片免费观看看| 精华霜和精华液先用哪个| 成人av在线播放网站| 亚洲av二区三区四区| 中国国产av一级| 国产色爽女视频免费观看| 美女大奶头视频| 成人av在线播放网站| 波野结衣二区三区在线| 最近视频中文字幕2019在线8| 老女人水多毛片| 亚洲国产精品sss在线观看| 国产亚洲精品久久久com| 欧美激情久久久久久爽电影| 久久久精品94久久精品| 久久久久久久久久久丰满| 日本与韩国留学比较| 好男人在线观看高清免费视频| 女人久久www免费人成看片 | 日本一本二区三区精品| 少妇人妻一区二区三区视频| 人妻少妇偷人精品九色| 小说图片视频综合网站| 天美传媒精品一区二区| 黄色欧美视频在线观看| 亚洲欧洲国产日韩| 啦啦啦啦在线视频资源| 国产精品综合久久久久久久免费| 一区二区三区免费毛片| 久久久久久久久久成人| 国产黄a三级三级三级人| 精品人妻一区二区三区麻豆| 国产午夜精品久久久久久一区二区三区| 一级毛片我不卡| 国产成人freesex在线| 亚洲av成人av| 久久久久久久久久久丰满| 深夜a级毛片| 51国产日韩欧美| 亚洲中文字幕日韩| 日日摸夜夜添夜夜爱| 人人妻人人看人人澡| 精品午夜福利在线看| 日本三级黄在线观看| 深夜a级毛片| 精品无人区乱码1区二区| 亚洲中文字幕一区二区三区有码在线看| 毛片一级片免费看久久久久| 国产成人一区二区在线| 有码 亚洲区| 国产一区有黄有色的免费视频 | 亚洲av免费在线观看| 欧美另类亚洲清纯唯美| 亚洲真实伦在线观看| 在线免费十八禁| 色网站视频免费| 女人十人毛片免费观看3o分钟| 亚洲国产日韩欧美精品在线观看| 亚洲av成人av| 最近最新中文字幕大全电影3| 在线观看一区二区三区| 国产69精品久久久久777片| 人妻夜夜爽99麻豆av| videossex国产| 黄色配什么色好看| 中文字幕熟女人妻在线| 亚洲在线观看片| 草草在线视频免费看| 国产视频内射| 亚洲欧美精品自产自拍| 国产精品久久久久久av不卡| 日本熟妇午夜| 成人特级av手机在线观看| 麻豆av噜噜一区二区三区| 一区二区三区四区激情视频| 欧美高清性xxxxhd video| 日本免费一区二区三区高清不卡| 亚洲精品国产av成人精品| www.av在线官网国产| 青青草视频在线视频观看| 亚洲欧美成人精品一区二区| 中文字幕熟女人妻在线| 波多野结衣巨乳人妻| 国产精品三级大全| 国产综合懂色| 久久久成人免费电影| 亚洲av电影不卡..在线观看| 欧美又色又爽又黄视频| 在线免费十八禁| 午夜福利高清视频| 一本一本综合久久| 精品国产一区二区三区久久久樱花 | 国产私拍福利视频在线观看| 中文资源天堂在线| 人体艺术视频欧美日本| 91在线精品国自产拍蜜月| 久久久久久久久久成人| 欧美性感艳星| 亚洲成av人片在线播放无| 一级毛片电影观看 | 午夜福利高清视频| 亚洲欧美日韩高清专用| 亚洲中文字幕一区二区三区有码在线看| 午夜福利在线观看吧| 成年版毛片免费区| 99国产精品一区二区蜜桃av| 久久久欧美国产精品| 色综合站精品国产| 亚洲av中文字字幕乱码综合| 高清av免费在线| 国产一区有黄有色的免费视频 | 在线天堂最新版资源| 97热精品久久久久久| 网址你懂的国产日韩在线| 亚洲国产精品成人综合色| 亚洲国产精品合色在线| 精品免费久久久久久久清纯| 特级一级黄色大片| 欧美一区二区亚洲| 国产伦理片在线播放av一区| 变态另类丝袜制服| 久久精品熟女亚洲av麻豆精品 | 久久精品国产自在天天线| 女的被弄到高潮叫床怎么办| 3wmmmm亚洲av在线观看| 韩国高清视频一区二区三区| 日韩av不卡免费在线播放| 日韩 亚洲 欧美在线| 国内精品美女久久久久久| 亚洲欧美日韩高清专用| 91久久精品电影网| 午夜爱爱视频在线播放| 1000部很黄的大片| 久久久国产成人免费| 国产免费一级a男人的天堂| 一区二区三区乱码不卡18| 国产高清不卡午夜福利| 成人午夜高清在线视频| 麻豆成人av视频| 一夜夜www| 成人高潮视频无遮挡免费网站| 校园人妻丝袜中文字幕| 天堂av国产一区二区熟女人妻| 成人特级av手机在线观看| 久久久a久久爽久久v久久| 深夜a级毛片| 青春草国产在线视频| 神马国产精品三级电影在线观看| av国产久精品久网站免费入址| 国产精品99久久久久久久久| 一夜夜www| 欧美激情久久久久久爽电影| 丝袜美腿在线中文| 亚洲成色77777| 亚洲va在线va天堂va国产| 欧美三级亚洲精品| 91久久精品国产一区二区成人| 波野结衣二区三区在线| 午夜老司机福利剧场| 国产午夜福利久久久久久| 久久久国产成人免费| 亚洲激情五月婷婷啪啪| 一级黄片播放器| 国产 一区精品| 亚洲国产成人一精品久久久| 久久这里只有精品中国| 日本三级黄在线观看| 国产精品,欧美在线| 午夜精品一区二区三区免费看| 有码 亚洲区| 亚洲欧美成人精品一区二区| 搡老妇女老女人老熟妇| 国产精品国产高清国产av| 亚洲精品影视一区二区三区av| 精品国产一区二区三区久久久樱花 | 国产精品国产三级国产av玫瑰| 夜夜爽夜夜爽视频| 国产亚洲午夜精品一区二区久久 | 男插女下体视频免费在线播放| 看免费成人av毛片| 午夜福利在线观看吧| 天堂中文最新版在线下载 | 永久网站在线| 国产美女午夜福利| 2021天堂中文幕一二区在线观| 91精品国产九色| 精品一区二区免费观看| 国产又黄又爽又无遮挡在线| 国产av一区在线观看免费| 最新中文字幕久久久久| 尤物成人国产欧美一区二区三区| 亚洲精品色激情综合| 美女被艹到高潮喷水动态| 成人漫画全彩无遮挡| 人妻制服诱惑在线中文字幕| av视频在线观看入口| 精品国产露脸久久av麻豆 | av在线播放精品| 不卡视频在线观看欧美| 嫩草影院入口| 免费观看在线日韩| 亚洲欧美一区二区三区国产| 日韩欧美精品v在线| 欧美另类亚洲清纯唯美| 一本—道久久a久久精品蜜桃钙片 精品乱码久久久久久99久播 | 日日啪夜夜撸| 亚洲国产成人一精品久久久| 久久久久久久久大av| 国产探花在线观看一区二区| 久久久精品欧美日韩精品| 岛国毛片在线播放| 男插女下体视频免费在线播放| 边亲边吃奶的免费视频| 国产乱来视频区| 亚洲自拍偷在线| 国产在线一区二区三区精 | 少妇人妻精品综合一区二区| 中文欧美无线码| 亚洲图色成人| 一边亲一边摸免费视频| 日韩成人伦理影院| 一个人观看的视频www高清免费观看| av.在线天堂| 18禁裸乳无遮挡免费网站照片| 永久免费av网站大全| 超碰97精品在线观看| 国产精品久久久久久精品电影| 国产探花在线观看一区二区| 听说在线观看完整版免费高清| 黄色一级大片看看| 国产亚洲精品久久久com| 亚洲av中文av极速乱| 午夜精品国产一区二区电影 | 欧美成人午夜免费资源| 日韩欧美三级三区| 亚洲人成网站在线观看播放| 日本爱情动作片www.在线观看| 一级黄色大片毛片| 一本一本综合久久| 久久99蜜桃精品久久| 欧美成人午夜免费资源| 国产黄a三级三级三级人| 国产伦一二天堂av在线观看|