• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    一種臨時私有云中邏輯拓撲感知的作業(yè)調(diào)度算法

    2015-01-06 08:20:26趙玉艷陳海寶趙生慧
    計算機工程 2015年2期
    關(guān)鍵詞:分組邏輯耦合

    趙玉艷,陳海寶,2,趙生慧

    (1.滁州學(xué)院計算機與信息工程學(xué)院,安徽滁州239000;2.華中科技大學(xué)計算機科學(xué)與技術(shù)學(xué)院,武漢430074)

    一種臨時私有云中邏輯拓撲感知的作業(yè)調(diào)度算法

    趙玉艷1,陳海寶1,2,趙生慧1

    (1.滁州學(xué)院計算機與信息工程學(xué)院,安徽滁州239000;2.華中科技大學(xué)計算機科學(xué)與技術(shù)學(xué)院,武漢430074)

    考慮到成本和靈活性等因素,利用公共云計算系統(tǒng)的資源構(gòu)建臨時私有云代替本地物理集群,已成為用戶在特定時間段內(nèi)處理大量并行作業(yè)的一種有效途徑。然而現(xiàn)有作業(yè)調(diào)度算法不能感知并利用臨時私有云的邏輯拓撲結(jié)構(gòu),容易降低緊耦合并行應(yīng)用的性能。為解決該問題,提出一種邏輯拓撲感知的作業(yè)調(diào)度算法,根據(jù)私有云中虛擬機之間的帶寬和延遲等信息構(gòu)建邏輯拓撲關(guān)系,并綜合考慮用戶所提交作業(yè)的類型,進而產(chǎn)生對應(yīng)的作業(yè)調(diào)度決策。實驗結(jié)果表明,該算法在提高臨時私有云中緊耦合并行應(yīng)用性能方面優(yōu)于開源云計算系統(tǒng)中常用的輪轉(zhuǎn)算法和隨機算法。

    臨時私有云;并行應(yīng)用;虛擬機;拓撲結(jié)構(gòu);調(diào)度算法;網(wǎng)絡(luò)性能

    1 概述

    隨著虛擬化和云計算的快速普及和發(fā)展,在公共云計算系統(tǒng)中構(gòu)建臨時私有云(也稱為虛擬集群)來替代本地物理集群,已成為用戶在特定時間段內(nèi)處理大量并行作業(yè)(如基于消息傳遞接口(Message Passing Interface,MPI[1])的并行應(yīng)用程序)的有效途徑。在創(chuàng)建臨時私有云后,用戶如同操作本地物理集群一般操作臨時私有云,使用作業(yè)調(diào)度系統(tǒng)管理作業(yè)調(diào)度。臨時私有云給用戶帶來的好處具體有:(1)不需要用戶對基礎(chǔ)設(shè)施進行前期投資和運維;(2)提供可定制的應(yīng)用運行環(huán)境;(3)按使用付費。

    在一般情況下,運行環(huán)境中的網(wǎng)絡(luò)拓撲對緊耦合并行應(yīng)用(也就是進程之間需要頻繁通信和同步的并行應(yīng)用)的性能有著重要影響[2-3]。傳統(tǒng)的物理集群環(huán)境中,在網(wǎng)絡(luò)基礎(chǔ)設(shè)施建設(shè)完成后,計算節(jié)點之間的拓撲結(jié)構(gòu)是固定的。然而,在臨時私有云環(huán)境中,虛擬機之間的網(wǎng)絡(luò)性能以及邏輯拓撲結(jié)構(gòu)卻是多變且未知的[4],這主要歸因于云計算基礎(chǔ)設(shè)施供應(yīng)商(例如Amazon EC2,阿里云等)在為用戶提供臨時私有云時,根據(jù)供應(yīng)商自身的調(diào)度策略來放置和遷移虛擬機,并且對用戶屏蔽了上述信息。在這種情況下,已有的作業(yè)調(diào)度算法因不能夠感知并利用臨時私有云的邏輯拓撲結(jié)構(gòu),容易造成緊耦合并行應(yīng)用(也就是進程之間需要頻繁的通信和同步的并行應(yīng)用)的性能降低。針對該問題,本文提出一種邏輯拓撲感知的作業(yè)調(diào)度算法以提高臨時私有云中緊耦合并行應(yīng)用的性能。

    2 相關(guān)研究

    在云計算環(huán)境中,當(dāng)并行應(yīng)用的進程與虛擬機之間存在一對一的映射關(guān)系時,并行應(yīng)用的調(diào)度問題可以等價于虛擬機的調(diào)度問題。具體地,云計算系統(tǒng)中的虛擬機調(diào)度工作大致分為3類:(1)初始的虛擬機放置,研究的是如何把用戶所請求的一個或多個虛擬機映射到可用的資源池中。(2)離線的虛擬機合并,研究的是如何把具有不同資源需求的虛擬機映射到物理資源中,它通過最小化活躍的物理服務(wù)器數(shù)量來節(jié)約能源。(3)在線遷移,研究的是如何制定在線虛擬機的重新映射決策。本文研究第(1)類問題。

    對于虛擬機的初始放置問題,已有的云管理系統(tǒng)例如OpenStack[5]和OpenNebula[6]使用了輪轉(zhuǎn)算法、隨機算法、首次適應(yīng)算法和最佳適應(yīng)算法等策略。此外,研究者也提出了諸多解決方法。例如,文獻[7]提出使用遺傳算法來解決虛擬機的放置問題。文獻[8]提出一種基于離散粒子群優(yōu)化的調(diào)度算法。文獻[9]提出一種融合遺傳算法與蟻群算法的混合調(diào)度算法。文獻[10]提出一種具備反饋機制的動態(tài)調(diào)度算法。然而,上述方法都忽略了多個虛擬機因運行同一個并行應(yīng)用而產(chǎn)生的緊耦合性,并且未考慮臨時私有云環(huán)境中虛擬機之間網(wǎng)絡(luò)性能的不穩(wěn)定性。

    Amazon EC2推出了集群計算實例[11],并利用放置組策略來讓同一個組內(nèi)的所有實例(虛擬機)具有低延遲和高帶寬。然而,由于Amazon EC2的非開源特性,研究者并不清楚Amazon EC2的放置組策略到底有多嚴格以及使用何種技術(shù)來提供上述保證。

    由以上分析可以看出,目前在臨時私有云中仍缺乏一種能夠感知并利用虛擬機之間邏輯拓撲結(jié)構(gòu)的作業(yè)調(diào)度算法。為了解決這個問題,本文提出了一種邏輯拓撲感知的作業(yè)調(diào)度算法。

    3 邏輯拓撲構(gòu)建與調(diào)度算法

    下文介紹了臨時私有云的邏輯拓撲構(gòu)建算法,并以此為基礎(chǔ),給出了邏輯拓撲感知的作業(yè)調(diào)度算法。

    3.1 臨時私有云的邏輯拓撲

    如前所述,受云計算基礎(chǔ)設(shè)施供應(yīng)商自身調(diào)度策略和資源供應(yīng)策略的影響,臨時私有云中虛擬機之間的網(wǎng)絡(luò)性能并不穩(wěn)定[4],為了能夠在調(diào)度并行應(yīng)用時充分利用虛擬機之間的網(wǎng)絡(luò)性能信息,需要獲取臨時私有云在當(dāng)前時間的一個邏輯拓撲結(jié)構(gòu)。

    在傳統(tǒng)物理集群的樹狀網(wǎng)絡(luò)拓撲中,計算節(jié)點之間的路徑越長,它們之間的網(wǎng)絡(luò)性能一般會越差。以圖1中的物理集群為例,共有128個計算節(jié)點組成了一個樹狀網(wǎng)絡(luò)拓撲結(jié)構(gòu)。其中,編號為1~8的8個計算節(jié)點通過接入點A0互相通信,并通過A0與其余120個計算節(jié)點(編號為9~128)進行通信。在這個場景中,計算節(jié)點1和節(jié)點8之間的網(wǎng)絡(luò)性能通常會優(yōu)于計算節(jié)點1和節(jié)點128之間的網(wǎng)絡(luò)性能。其主要原因分析如下:(1)計算節(jié)點1與節(jié)點8之間只需要通過A0進行通信,而計算節(jié)點1和節(jié)點128之間則需要經(jīng)過A0-D0-C0-D3-A15等方可進行通信,因此,從通信延遲的角度來看,前者要優(yōu)于后者;(2)隨著樹狀層次的增加,共享高層線路的計算節(jié)點數(shù)量也在增加,這必然降低了共享同一條線路的節(jié)點所實際分到的可用帶寬。因此,從可用帶寬的角度來看,前者要優(yōu)于后者。

    圖1 集群樹狀網(wǎng)絡(luò)拓撲

    受到傳統(tǒng)物理集群樹狀結(jié)構(gòu)中節(jié)點之間網(wǎng)絡(luò)性能的差異性所啟發(fā),本文利用虛擬機之間的網(wǎng)絡(luò)性能,將臨時私有云的拓撲構(gòu)建為樹狀層次結(jié)構(gòu)。實際上,構(gòu)建樹狀層次結(jié)構(gòu)就是對所有虛擬機進行劃分的過程。然而,計算一個最優(yōu)的分層結(jié)構(gòu)是一個NP-hard問題(類似于裝箱問題)[12]。由于指數(shù)級的復(fù)雜性,通常計算最優(yōu)解決方法是不可行的,尤其是在虛擬機的數(shù)量很龐大時,因此本文采用貪心方法來構(gòu)建層次結(jié)構(gòu)。其基本思想是:設(shè)定一個網(wǎng)絡(luò)性能閾值,然后根據(jù)虛擬機之間的網(wǎng)絡(luò)性能,將所有虛擬機劃分到彼此無交集的分組中。在同一個網(wǎng)絡(luò)性能閾值下劃分出的所有分組構(gòu)成樹狀層次結(jié)構(gòu)中的一個層次。增大網(wǎng)絡(luò)性能閾值,重復(fù)之前的操作,從而形成一個新的層次。以此類推,直到滿足樹狀結(jié)構(gòu)的層數(shù)限制。

    對于一個由N臺虛擬機組成的臨時私有云,本文首先定義了3個矩陣來記錄虛擬機之間的網(wǎng)絡(luò)信息,分別是延遲矩陣、帶寬矩陣和網(wǎng)絡(luò)性能矩陣。其中,延遲矩陣和帶寬矩陣中的數(shù)據(jù)可以通過在每臺虛擬機中安裝測試代理的方式來獲取。在構(gòu)建臨時私有云邏輯拓撲之前,需要利用延遲矩陣和帶寬矩陣對虛擬機兩兩之間的網(wǎng)絡(luò)性能進行建模,具體描述如下:

    (1)延遲矩陣:Latency[0,1,…,N-1][0, 1,…,N-1],其中,Latency[i][j]表示虛擬機i到虛擬機j的平均延遲,其初始值為0。

    (2)帶寬矩陣:Bandwidth[0,1,…,N-1][0, 1,…,N-1],其中,Bandwidth[i][j]表示虛擬機i到虛擬機j的平均帶寬,其初始值為∞。

    (3)網(wǎng)絡(luò)性能矩陣:Performance[0,1,…,N-1] [0,1,…,N-1],其中,Performance[i][j]=Latency[i][j]+1/Bandwidth[i][j]。在計算出網(wǎng)絡(luò)性能矩陣后,需要對其進行離散化處理。

    貪心算法用到的符號和函數(shù)具體如下:group表示分組,由網(wǎng)絡(luò)性能滿足條件的虛擬機組成,如group={vm1,vm2,vm3};setcounter表示在第counter次迭代中產(chǎn)生的全部分組所組成的集合;|setcounter|表示集合中的分組數(shù)量;set0表示集合set的初始值,每個分組只包含一個虛擬機,即set0={{vm1},{vm2},…, {vmn}};partition(set)表示劃分函數(shù),對集合set的分組進行劃分,返回值為新的一個集合set’,集合中分組數(shù)量小于集合set中的分組數(shù)量;distance(v,group)表示距離函數(shù),返回虛擬機v與分組group之間的網(wǎng)絡(luò)性能值;logicHierarchy表示臨時私有云的邏輯層次。邏輯拓撲構(gòu)建算法的具體步驟如下:

    算法1邏輯拓撲構(gòu)建算法

    輸入網(wǎng)絡(luò)性能矩陣Performance[0,1,…,N-1] [0,1,…,N-1]

    輸出臨時私有云的邏輯拓撲

    在算法1中,根據(jù)設(shè)定的虛擬機之間的距離閾值(如partition()函數(shù)中的第5行所示)將所有虛擬機劃分為一些不重疊的分組(group),每個分組之間具有類似的網(wǎng)絡(luò)性能(即每個分組內(nèi)任一對虛擬機之間的距離不大于設(shè)定的閾值)。隨著逐漸放松距離閾值(如partition()函數(shù)中的第8行所示),小的分組(子分組)會隨之組成大的分組(父分組)。而分組之間的父子關(guān)系形成了一個樹形層次結(jié)構(gòu)(如算法1中的第6行所示)。

    為了清楚地展示算法具體流程,此處以5個虛擬機(vm1~vm5)為例來進行說明,如圖2所示。

    圖2 邏輯拓撲構(gòu)建算法

    在初始化階段,集合set0中共有5個分組,其中,每個分組中包含1個虛擬機,即{vm1},{vm2}, {vm3},{vm4}和{vm5}。

    在第1次調(diào)用partition()函數(shù)對集合set0進行劃分時,將set0中的5個分組重新劃分為2個分組,即{vm1,vm2,vm3}和{vm4,vm5},并保存在集合set1中。

    在第2次調(diào)用partition()函數(shù)對集合set1進行劃分時,將set1中的2個分組劃分為一個分組,并保存在集合set2中。

    經(jīng)過上述2次劃分后,得到樹形層次的邏輯拓撲結(jié)構(gòu)logicHierarchy={set0,set1,set2}。

    3.2 邏輯拓撲感知的作業(yè)調(diào)度算法

    在獲得了臨時私有云的邏輯拓撲結(jié)構(gòu)信息后,本文設(shè)計一個基于邏輯拓撲感知的作業(yè)調(diào)度算法(如算法2所示)。針對不同類型的并行應(yīng)用(緊耦合并行應(yīng)用和松耦合并行應(yīng)用)分別做出不同的調(diào)度決策。由構(gòu)建邏輯拓撲結(jié)構(gòu)的算法1可知,在樹狀層次結(jié)構(gòu)里,同一層中各分組內(nèi)的虛擬機網(wǎng)絡(luò)性能相似。

    算法2 邏輯拓撲感知的作業(yè)調(diào)度算法

    輸入作業(yè)的資源需求,臨時私有云邏輯拓撲結(jié)構(gòu)logicTopology

    輸出作業(yè)放置策略

    算法2的基本思想是:當(dāng)用戶提交緊耦合并行應(yīng)用時,算法首先在每層中把分組按照所含空閑虛擬機的數(shù)量進行升序排列(算法2中的第1行),然后從網(wǎng)絡(luò)性能最好的層次(算法2中的第4行~第7行)開始,從排列好的分組中選擇大小合適的分組(即分組中空閑虛擬機的數(shù)量略大于或等于緊耦合并行應(yīng)用所需要的虛擬機數(shù)量),找到這樣的分組后,將所需數(shù)量的虛擬機分配給上述緊耦合并行應(yīng)用(算法2中的第8行~第10行)。若在性能最好的層次中沒有找到可以放置緊耦合并行應(yīng)用的分組,則在性能次好的層次中尋找。依此類推,直到找到合適的分組為止,或者因系統(tǒng)中沒有足夠數(shù)量的空閑虛擬機而返回空集(算法2中的第15行)。

    當(dāng)用戶提交松耦合并行應(yīng)用時,因松耦合并行應(yīng)用對虛擬機之間的網(wǎng)絡(luò)性能要求不高,所以算法只需在網(wǎng)絡(luò)性能最好的層次,從按升序排列的分組中依此收集每個分組中的空閑虛擬機(算法2中的第18行~第21行),直到收集的空閑虛擬機數(shù)量滿足松耦合并行應(yīng)用的需求為止(算法2中的第22行~第24行),或者因系統(tǒng)中沒有足夠數(shù)量的空閑虛擬機而返回空集(算法2中的第27行)。

    4 實驗結(jié)果與分析

    為評估本文提出的邏輯拓撲感知算法,在不同數(shù)量的緊耦合并行應(yīng)用實驗和不同的網(wǎng)絡(luò)性能標準差實驗下,對其進行性能測試,并對實驗結(jié)果進行分析。

    4.1 實驗設(shè)置

    實驗設(shè)置具體如下:

    (1)模擬環(huán)境

    本文使用CloudSim[13]模擬了一個云計算環(huán)境。本文選擇CloudSim作為云模擬器主要考慮到以下2個原因:1)CloudSim能夠有效模擬云計算環(huán)境,并受到了國內(nèi)外研究者的廣泛認可;2)文獻[14]通過擴展CloudSim的功能已使其具備了對緊耦合并行應(yīng)用進行模擬的能力。

    (2)算法比較對象

    如在第1節(jié)的相關(guān)研究中所述,為了解決虛擬機的初始放置問題,研究者們已提出了諸多方法(如基于粒子群的方法、基于遺傳算法的方法等)。然而,它們主要關(guān)注的是如何解決裝箱問題(即如何在一臺物理機中裝入更多的虛擬機)來提高云計算系統(tǒng)的資源利用率。上述方法在制定放置決策時,都忽略了多個虛擬機因運行同一個并行應(yīng)用而產(chǎn)生的緊耦合關(guān)系,并且未考慮和利用在臨時私有云環(huán)境中虛擬機之間的邏輯拓撲關(guān)系。而本文算法關(guān)注于通過合理放置虛擬機來提升虛擬機中并行應(yīng)用的性能,并且充分考慮和利用臨時私有云中虛擬機之間的邏輯拓撲關(guān)系。

    由此可以看出,本文算法與上述幾種方法在關(guān)注點以及評價指標方面有所不同,所以,不適合與它們進行比較?;谝陨峡紤],本文選取了開源云計算系統(tǒng)(OpenStack和OpenNebula)采用的2種通用方法(輪轉(zhuǎn)算法和隨機算法)作為對比對象。

    (3)系統(tǒng)并行應(yīng)用

    在實驗中模擬了100個并行應(yīng)用,為了簡單明了地對算法進行評估,不失一般性,本文實驗假設(shè)每個應(yīng)用包含4個并行進程。其中,每個進程運行在一個單核虛擬機中。

    4.2 緊耦合并行應(yīng)用實驗

    實驗1不同數(shù)量的緊耦合并行應(yīng)用實驗。模擬了400臺虛擬機,并根據(jù)文獻[4]對Amazon EC2網(wǎng)絡(luò)性能的測試數(shù)據(jù)模擬生成了400臺虛擬機之間的網(wǎng)絡(luò)性能矩陣,取值范圍在400~650之間,相對標準差為13.7%。

    本文實驗中的100個并行應(yīng)用包括了X個緊耦合并行應(yīng)用(如NPB benchmark[15]中的BT,SP,IS, CG,LU和MG)以及Y個松耦合并行應(yīng)用(如NPB benchmark中的EP),其中,X+Y=100,X的初始值為10,并以10為單位遞增,最大值為90。例如在X=10,Y=90時進行一輪實驗(運行5次求平均值),獲取10個緊耦合并行應(yīng)用在不同算法(邏輯拓撲感知算法、輪轉(zhuǎn)算法、隨機算法)下的平均執(zhí)行時間,并根據(jù)理想狀態(tài)下10個緊耦合并行應(yīng)用的平均運行時間進行規(guī)格化處理。其中,理想狀態(tài)是指網(wǎng)絡(luò)性能矩陣中數(shù)據(jù)的標準偏差為0且能完全滿足緊耦合并行應(yīng)用對網(wǎng)絡(luò)性能的需求。

    在X=20,30,…,90時,分別進行一輪上述實驗,規(guī)格化實驗數(shù)據(jù)如圖3所示。

    圖3 不同數(shù)量緊耦合并行應(yīng)用下的性能比較

    具體分析如下:

    (1)邏輯拓撲感知算法的性能明顯優(yōu)于輪轉(zhuǎn)算法和隨機算法。原因在于:相對于輪轉(zhuǎn)算法和隨機算法,邏輯拓撲感知算法能夠利用臨時私有云中虛擬機之間的網(wǎng)絡(luò)拓撲關(guān)系,選擇網(wǎng)絡(luò)性能好的多個虛擬機來運行緊耦合并行應(yīng)用,從而達到提高緊耦合并行應(yīng)用性能的目的,而輪轉(zhuǎn)算法和隨機算法并不考慮虛擬機之間的邏輯拓撲關(guān)系。

    (2)在臨時私有云環(huán)境中,輪轉(zhuǎn)算法與隨機算法的性能相近,并且比較穩(wěn)定。具體地,在上述2種算法下,緊耦合并行應(yīng)用的平均執(zhí)行時間在規(guī)格化后介于1.45~1.50之間。原因在于:臨時私有云中每個虛擬機的位置是受到云計算基礎(chǔ)設(shè)施供應(yīng)商調(diào)度算法和負載均衡算法的控制,并且這種控制對臨時私有云的所有者來說是不透明的。因此,在臨時私有云中輪轉(zhuǎn)和隨機算法的性能是相當(dāng)?shù)?。在這種情況下,輪轉(zhuǎn)算法退化為隨機算法。

    (3)隨著緊耦合并行應(yīng)用數(shù)量的增加,邏輯拓撲感知算法的性能逐漸變差,但是仍優(yōu)于輪轉(zhuǎn)算法和隨機算法。原因在于:本文實驗中網(wǎng)絡(luò)性能矩陣中的數(shù)值介于400~650之間,相對標準差為13.7%,也就是說,所有虛擬機之間的網(wǎng)絡(luò)性能數(shù)據(jù)并非全部相同(有的網(wǎng)絡(luò)性能好,有的網(wǎng)絡(luò)性能差)。因此,隨著緊耦合并行應(yīng)用數(shù)量的增加,網(wǎng)絡(luò)性能差的虛擬機會被用來執(zhí)行緊耦合并行應(yīng)用,從而導(dǎo)致緊耦合并行應(yīng)用的平均執(zhí)行時間也變長。但是由于邏輯拓撲感知算法能夠有效利用虛擬機之間的邏輯拓撲,其性能仍優(yōu)于輪轉(zhuǎn)和隨機算法。

    4.3 網(wǎng)絡(luò)性能實驗

    實驗2不同的網(wǎng)絡(luò)性能實驗。虛擬機數(shù)量與實驗1中的數(shù)量相同。因為實驗1中已經(jīng)比較了算法在系統(tǒng)中有不同數(shù)量緊耦合并行應(yīng)用時的性能,得出了相應(yīng)結(jié)論。因此,實驗2固定了緊耦合并行應(yīng)用的數(shù)量(即X=10),通過改變虛擬機之間網(wǎng)絡(luò)性能矩陣的取值范圍來評估算法在不同相對標準差情況下的性能表現(xiàn)。虛擬機之間網(wǎng)絡(luò)性能矩陣的取值范圍以及相對標準差如表1所示。

    表1 虛擬機間網(wǎng)絡(luò)性能矩陣的取值范圍及相對標準差

    實驗結(jié)果如圖4所示,具體分析如下:

    (1)在系統(tǒng)中有10個緊耦合并行應(yīng)用的情況下(即X=10),邏輯拓撲感知算法在不同的網(wǎng)絡(luò)性能標準差下與理想狀態(tài)的性能相近。這說明在不同的網(wǎng)絡(luò)性能相對標準差下,模擬系統(tǒng)中至少有40個虛擬機(10×4)的網(wǎng)絡(luò)性能與理想狀態(tài)下的網(wǎng)絡(luò)性能相當(dāng)。邏輯拓撲感知算法能夠有效利用這些網(wǎng)絡(luò)性最好的虛擬機來運行上述10個緊耦合并行應(yīng)用。

    (2)輪轉(zhuǎn)算法與隨機算法性能相近,并且性能隨著相對標準差的降低而變好,尤其是在相對標準差為2.4%時,輪轉(zhuǎn)算法與隨機算法的性能接近于邏輯拓撲感知算法以及理想狀態(tài)下的性能。原因在于:隨著相對標準差的降低,虛擬機網(wǎng)絡(luò)性能越來越接近于理想狀態(tài)。此時,不同算法對緊耦合并行應(yīng)用的性能影響不斷減弱。因此,邏輯拓撲感知算法、輪轉(zhuǎn)算法和隨機算法的性能都開始接近于理想狀態(tài)下的性能。

    圖4 各虛擬機間網(wǎng)絡(luò)性能的相對標準差比較

    在真實的云計算系統(tǒng)中虛擬機之間的網(wǎng)絡(luò)性能一般會隨著時間而呈現(xiàn)出波動現(xiàn)象,因此,在算法應(yīng)用于實際臨時私有云時,需要每隔一定的時間(需要根據(jù)不同的云計算系統(tǒng)設(shè)定不同值)重新構(gòu)建臨時私有云的邏輯拓撲結(jié)構(gòu)。不失一般性,實驗1和實驗2評估了一次邏輯拓撲構(gòu)建完成后的算法性能。從實驗結(jié)果可以看出,邏輯拓撲感知調(diào)度算法更適合于臨時私有云環(huán)境。

    5 結(jié)束語

    本文研究在創(chuàng)建臨時私有云后,如何利用邏輯拓撲信息來優(yōu)化緊耦合并行應(yīng)用性能的問題。為獲取邏輯拓撲信息,提出一個邏輯拓撲構(gòu)建算法,并基于此設(shè)計一種邏輯拓撲感知的作業(yè)調(diào)度算法。實驗結(jié)果表明,邏輯拓撲感知的調(diào)度算法比輪轉(zhuǎn)算法和隨機算法性能更好。在真實環(huán)境中構(gòu)建原型系統(tǒng)以進一步測試和優(yōu)化邏輯拓撲感知的調(diào)度算法是后續(xù)研究的重點。

    [1] ANL Mathematics and Computer Science Division.The MessagePassingInterfaceStandard[EB/OL]. [2014-07-19].http://www.mcs.anl.gov/research/ projects/mpi/.

    [2] Expósito R R,TaboadaGL,RamosS,etal. Performance AnalysisofHPCApplicationsinthe Cloud[J].Future Generation Computer Systems,2013, 29(1):218-229.

    [3] Gupta A,Kalé L V,Milojicic D,et al.HPC-aware VM Placement in Infrastructure Clouds[C]//Proceedings of 2013 International Conference on Cloud Engineering. [S.l.]:IEEE Press,2013:11-20.

    [4] Wang Guohui,Ng T S E.The Impact of Virtualization onNetworkPerformanceofAmazonEC2Data Center[C]//Proceedings of INFOCOM’10.[S.l.]: IEEE Press,2010:1-9.

    [5] OpenStack.Open Source Software for Building Private and Public Clouds[EB/OL].[2014-07-19].https:// www.openstack.org/.

    [6] OpenNebula.Cloud and Data Center Virtual Infrastructure Management[EB/OL].[2014-07-19].https://www. opennebula.org/.

    [7] Xu J,Fortes J.A Multi-objective Approach to Virtual Machine Management in Datacenters[C]//Proceedings of the 8th ACM International Conference on Autonomic Computing.[S.l.]:ACM Press,2011:225-234.

    [8] 鄔開俊,魯懷偉.云環(huán)境下基于DPSO的任務(wù)調(diào)度算法[J].計算機工程,2014,40(1):59-62.

    [9] 張 雨,李 芳,周 濤.云計算環(huán)境下基于遺傳蟻群算法的任務(wù)調(diào)度研究[J].計算機工程與應(yīng)用,2014, 50(6):51-55.

    [10] 馬 莉,唐善成,王 靜,等.云計算環(huán)境下的動態(tài)反饋作業(yè)調(diào)度算法[J].西安交通大學(xué)學(xué)報,2014, 48(7):77-82.

    [11] 亞馬遜公司.AWS產(chǎn)品與解決方案[EB/OL].(2014-03-01).http://aws.amazon.com/cn/ec2/.

    [12] Gong Yifan,He Bingsheng,Zhong Jianlang.Network PerformanceAwareMPICollectiveCommunication Operations in the Cloud[J].IEEE Transactions on Parallel Distributed Systems,2013,96(1):1-9.

    [13] Calheiros R N,RanjanR,BeloglazovA,etal. CloudSim:A Toolkit for Modeling and Simulation of CloudComputingEnvironmentsandEvaluationof Resource Provisioning Algorithms[J].Software:Practice and Experience,2011,41(1):23-50.

    [14] Garg S K,Buyya R.An Environment for Modeling and Simulation of Message——Passing Parallel Applications for CloudComputing[J].Software:Practiceand Experience,2013,43(11):1359-1375.

    [15] NASA.NPB Benchmark[EB/OL].[2014-07-19]. http://www.nas.nasa.gov/publications/npb.html/.

    編輯 陸燕菲

    A Logic-topology-aware Job Scheduling Algorithm in Temporary Private Cloud

    ZHAO Yuyan1,CHEN Haibao1,2,ZHAO Shenghui1
    (1.School of Computer and Information Engineering,Chuzhou University,Chuzhou 239000,China;
    2.School of Computer Science&Technology,Huazhong University of Science and Technology,Wuhan 430074,China)

    Considering the cost and flexibility,building a temporary private cloud in public cloud to replace the local physical cluster is an effective way for users to run a large number of parallel jobs during a particular period.However,the existing scheduling algorithms are not suitable for temporary private cloud hosting tightly coupled parallel applications, because they can not use the logic topology information of temporary private cloud,which probably results in the performance degradation of such type of applications.To mitigate such impact,a logic-topology-aware scheduling algorithm is presented.It builds the logic topology of virtual machines according to bandwidth and latency among them, makes scheduling decisions based on the logic topology and the information of applications.Experimental results show that compared with Round Robin and Random algorithms of open-source cloud software,logic-topology-aware scheduling algorithm improves the performance of tightly coupled parallel applications.

    temporary private cloud;parallel application;virtual machine;topology structure;scheduling algorithm; network performance

    趙玉艷,陳海寶,趙生慧.一種臨時私有云中邏輯拓撲感知的作業(yè)調(diào)度算法[J].計算機工程, 2015,41(2):1-6.

    英文引用格式:Zhao Yuyan,Chen Haibao,Zhao Shenghui.A Logic-topology-aware Job Scheduling Algorithm in Temporary Private Cloud[J].Computer Engineering,2015,41(2):1-6.

    1000-3428(2015)02-0001-06

    :A

    :TP393.09

    10.3969/j.issn.1000-3428.2015.02.001

    安徽省自然科學(xué)基金資助面上項目(1408085MF126);安徽省教育廳自然科學(xué)研究基金資助重大項目(KJ2011ZD06);滁州學(xué)院優(yōu)秀青年人才基金資助重點項目(2013RC006);滁州學(xué)院科研啟動基金資助項目(2014qd016)。

    趙玉艷(1982-),女,講師、碩士,主研方向:數(shù)據(jù)挖掘,云計算;陳海寶,講師、博士研究生;趙生慧,教授、博士。

    2014-08-20

    :2014-10-03E-mail:zhyy@chzu.edu.cn

    猜你喜歡
    分組邏輯耦合
    刑事印證證明準確達成的邏輯反思
    法律方法(2022年2期)2022-10-20 06:44:24
    非Lipschitz條件下超前帶跳倒向耦合隨機微分方程的Wong-Zakai逼近
    邏輯
    創(chuàng)新的邏輯
    分組搭配
    怎么分組
    女人買買買的神邏輯
    37°女人(2017年11期)2017-11-14 20:27:40
    分組
    基于“殼-固”耦合方法模擬焊接裝配
    大型鑄鍛件(2015年5期)2015-12-16 11:43:20
    求解奇異攝動Volterra積分微分方程的LDG-CFEM耦合方法
    欧美一级a爱片免费观看看| 免费大片18禁| 丝袜脚勾引网站| 中文字幕制服av| 日韩一区二区视频免费看| 成人免费观看视频高清| 又大又黄又爽视频免费| 天美传媒精品一区二区| 晚上一个人看的免费电影| 亚洲欧美成人精品一区二区| freevideosex欧美| 成人漫画全彩无遮挡| 国产成人aa在线观看| 精品亚洲乱码少妇综合久久| 成年版毛片免费区| 亚洲国产精品专区欧美| 亚洲婷婷狠狠爱综合网| 精品人妻一区二区三区麻豆| 国产毛片a区久久久久| 国产精品偷伦视频观看了| 久久久久久国产a免费观看| 日韩亚洲欧美综合| 一级毛片aaaaaa免费看小| 日本黄大片高清| 99久久中文字幕三级久久日本| 毛片一级片免费看久久久久| 日本三级黄在线观看| 少妇高潮的动态图| www.色视频.com| 国产精品久久久久久av不卡| av黄色大香蕉| 亚洲第一区二区三区不卡| 国产精品一及| 国产精品熟女久久久久浪| 涩涩av久久男人的天堂| 国产老妇女一区| 亚洲伊人久久精品综合| 最后的刺客免费高清国语| 欧美成人午夜免费资源| 国产有黄有色有爽视频| 精品午夜福利在线看| 禁无遮挡网站| 青春草视频在线免费观看| 欧美日韩一区二区视频在线观看视频在线 | 国产真实伦视频高清在线观看| 久久久久久久午夜电影| 亚洲精品第二区| 老师上课跳d突然被开到最大视频| 国产黄片美女视频| 国产精品秋霞免费鲁丝片| 性插视频无遮挡在线免费观看| 在线亚洲精品国产二区图片欧美 | 性色avwww在线观看| 亚洲精品乱码久久久v下载方式| 少妇高潮的动态图| 97超视频在线观看视频| av女优亚洲男人天堂| 亚洲丝袜综合中文字幕| 日产精品乱码卡一卡2卡三| 男女国产视频网站| 如何舔出高潮| 欧美日韩综合久久久久久| 国产伦精品一区二区三区视频9| 亚洲欧美日韩卡通动漫| 精品人妻一区二区三区麻豆| 欧美精品一区二区大全| 我要看日韩黄色一级片| 特大巨黑吊av在线直播| 亚洲最大成人中文| 99热网站在线观看| 亚洲va在线va天堂va国产| 精品人妻一区二区三区麻豆| av网站免费在线观看视频| 色哟哟·www| 亚洲国产色片| 久久久欧美国产精品| 国产黄色免费在线视频| 啦啦啦中文免费视频观看日本| 嘟嘟电影网在线观看| 精品少妇黑人巨大在线播放| 黄片wwwwww| 嫩草影院入口| 午夜精品一区二区三区免费看| 纵有疾风起免费观看全集完整版| 99九九线精品视频在线观看视频| 亚洲不卡免费看| 国产高清不卡午夜福利| 久久人人爽人人爽人人片va| 国产精品一二三区在线看| 欧美激情国产日韩精品一区| 色吧在线观看| 一级黄片播放器| 国产毛片在线视频| 日本wwww免费看| av国产久精品久网站免费入址| 新久久久久国产一级毛片| 色网站视频免费| 99久久中文字幕三级久久日本| 日本欧美国产在线视频| 黄色欧美视频在线观看| 欧美日韩在线观看h| 国精品久久久久久国模美| 中文字幕免费在线视频6| h日本视频在线播放| 免费av毛片视频| 日本一二三区视频观看| 久久久欧美国产精品| 国产精品偷伦视频观看了| 最近中文字幕高清免费大全6| 高清毛片免费看| 你懂的网址亚洲精品在线观看| 国产欧美另类精品又又久久亚洲欧美| 日韩一区二区三区影片| 三级经典国产精品| 黑人高潮一二区| 国产精品久久久久久精品电影小说 | 99re6热这里在线精品视频| 3wmmmm亚洲av在线观看| 国内精品宾馆在线| 欧美+日韩+精品| 少妇人妻一区二区三区视频| 欧美成人a在线观看| 亚洲天堂国产精品一区在线| 国产免费福利视频在线观看| 久久久精品欧美日韩精品| 国产精品久久久久久精品古装| 黄色配什么色好看| 欧美精品国产亚洲| 热re99久久精品国产66热6| 久久鲁丝午夜福利片| 亚洲av男天堂| 少妇 在线观看| 国产成人一区二区在线| 高清日韩中文字幕在线| 最后的刺客免费高清国语| 联通29元200g的流量卡| 日本色播在线视频| 国产亚洲精品久久久com| 成年女人在线观看亚洲视频 | 中文字幕免费在线视频6| 久久久久国产网址| 国产av不卡久久| 日韩一区二区三区影片| 一个人看的www免费观看视频| 五月玫瑰六月丁香| 蜜桃亚洲精品一区二区三区| 国产女主播在线喷水免费视频网站| 欧美性猛交╳xxx乱大交人| 99热这里只有精品一区| 久久久久久九九精品二区国产| 嫩草影院精品99| 如何舔出高潮| 久久热精品热| 大片免费播放器 马上看| 观看免费一级毛片| 少妇人妻一区二区三区视频| 精品一区二区三区视频在线| 伦精品一区二区三区| 国产成人91sexporn| 亚洲精品日本国产第一区| 人妻一区二区av| 久久久久精品久久久久真实原创| 狂野欧美白嫩少妇大欣赏| 内射极品少妇av片p| 国产成人免费观看mmmm| 欧美丝袜亚洲另类| 黄色配什么色好看| 综合色av麻豆| 最近最新中文字幕大全电影3| 国内少妇人妻偷人精品xxx网站| 校园人妻丝袜中文字幕| 久久这里有精品视频免费| 婷婷色麻豆天堂久久| 久久6这里有精品| 男女那种视频在线观看| 哪个播放器可以免费观看大片| 性色avwww在线观看| 可以在线观看毛片的网站| 国产精品无大码| 国产在视频线精品| 青春草视频在线免费观看| 深夜a级毛片| 最后的刺客免费高清国语| 小蜜桃在线观看免费完整版高清| www.色视频.com| 亚洲欧美日韩另类电影网站 | av网站免费在线观看视频| 日本av手机在线免费观看| 国产日韩欧美亚洲二区| 国产一区二区三区av在线| 久久久久九九精品影院| 不卡视频在线观看欧美| 国产亚洲午夜精品一区二区久久 | 精品午夜福利在线看| 免费看av在线观看网站| 午夜福利网站1000一区二区三区| 久久韩国三级中文字幕| 熟女av电影| 精品久久久久久电影网| 啦啦啦啦在线视频资源| 三级国产精品欧美在线观看| 国产免费视频播放在线视频| 在线播放无遮挡| 美女国产视频在线观看| 国产中年淑女户外野战色| 99久久九九国产精品国产免费| 国产成年人精品一区二区| 国产视频内射| 亚洲av日韩在线播放| 我要看日韩黄色一级片| 久久精品熟女亚洲av麻豆精品| 亚洲熟女精品中文字幕| 水蜜桃什么品种好| 日本-黄色视频高清免费观看| 超碰av人人做人人爽久久| 国产大屁股一区二区在线视频| 免费看a级黄色片| 丰满少妇做爰视频| 特级一级黄色大片| 夫妻午夜视频| 国产精品麻豆人妻色哟哟久久| 91aial.com中文字幕在线观看| 午夜福利视频1000在线观看| 一个人看的www免费观看视频| 久久精品综合一区二区三区| tube8黄色片| 国产黄频视频在线观看| 中文乱码字字幕精品一区二区三区| 日韩,欧美,国产一区二区三区| 亚洲国产欧美在线一区| 日本三级黄在线观看| 久久久午夜欧美精品| 国产免费一区二区三区四区乱码| 内射极品少妇av片p| 国产av不卡久久| 熟妇人妻不卡中文字幕| 亚洲真实伦在线观看| 丰满少妇做爰视频| 国产白丝娇喘喷水9色精品| 国产亚洲午夜精品一区二区久久 | 夫妻午夜视频| 午夜精品一区二区三区免费看| 黄片wwwwww| 人妻少妇偷人精品九色| 你懂的网址亚洲精品在线观看| 色视频在线一区二区三区| 国产免费又黄又爽又色| 久久久久久伊人网av| 女人被狂操c到高潮| 亚洲欧美精品自产自拍| 日韩欧美精品免费久久| www.av在线官网国产| 久久久久久久午夜电影| 成人综合一区亚洲| 国产精品一及| 久久久久久久久久久丰满| 国产极品天堂在线| 男人爽女人下面视频在线观看| 看十八女毛片水多多多| 观看美女的网站| 成年女人在线观看亚洲视频 | 欧美变态另类bdsm刘玥| 国产成人精品婷婷| videos熟女内射| 国产真实伦视频高清在线观看| 丝袜脚勾引网站| 最近中文字幕2019免费版| 欧美性感艳星| 亚洲欧美成人精品一区二区| 欧美另类一区| 亚洲三级黄色毛片| 日韩大片免费观看网站| 蜜桃久久精品国产亚洲av| av在线观看视频网站免费| 久久国内精品自在自线图片| 精品国产露脸久久av麻豆| 国产高清有码在线观看视频| 欧美老熟妇乱子伦牲交| a级毛片免费高清观看在线播放| 尤物成人国产欧美一区二区三区| 精品国产三级普通话版| 国产v大片淫在线免费观看| 22中文网久久字幕| 亚洲欧美中文字幕日韩二区| 日本-黄色视频高清免费观看| 卡戴珊不雅视频在线播放| 免费看不卡的av| 国产男人的电影天堂91| 中文在线观看免费www的网站| 黄片wwwwww| 国产视频内射| 免费看a级黄色片| 午夜爱爱视频在线播放| 身体一侧抽搐| 禁无遮挡网站| 精品熟女少妇av免费看| 男插女下体视频免费在线播放| 欧美激情久久久久久爽电影| 国产精品人妻久久久影院| 欧美极品一区二区三区四区| 黄片wwwwww| 欧美丝袜亚洲另类| 亚洲真实伦在线观看| 乱系列少妇在线播放| 高清午夜精品一区二区三区| 一区二区三区免费毛片| av福利片在线观看| 国产精品久久久久久av不卡| 国产黄片美女视频| 毛片一级片免费看久久久久| 国产黄片美女视频| 久久6这里有精品| 欧美高清成人免费视频www| eeuss影院久久| 91精品伊人久久大香线蕉| 免费少妇av软件| 亚洲精品乱码久久久久久按摩| 久久6这里有精品| 久久久久久久亚洲中文字幕| 亚洲av日韩在线播放| 搡老乐熟女国产| 97在线人人人人妻| 91午夜精品亚洲一区二区三区| 深爱激情五月婷婷| 亚洲人成网站在线播| 两个人的视频大全免费| 嫩草影院新地址| 18+在线观看网站| 少妇的逼好多水| 亚洲精品一区蜜桃| 在线看a的网站| 中文精品一卡2卡3卡4更新| 欧美丝袜亚洲另类| 岛国毛片在线播放| 91在线精品国自产拍蜜月| 国产毛片在线视频| 天美传媒精品一区二区| 天天一区二区日本电影三级| 91在线精品国自产拍蜜月| 人人妻人人爽人人添夜夜欢视频 | 国产精品一区二区性色av| 国模一区二区三区四区视频| 美女脱内裤让男人舔精品视频| 六月丁香七月| 99视频精品全部免费 在线| 午夜福利视频精品| 三级男女做爰猛烈吃奶摸视频| 一个人观看的视频www高清免费观看| 日本熟妇午夜| 午夜亚洲福利在线播放| 人妻制服诱惑在线中文字幕| 卡戴珊不雅视频在线播放| 黄色一级大片看看| 91精品伊人久久大香线蕉| 色综合色国产| 王馨瑶露胸无遮挡在线观看| 在线a可以看的网站| 在线观看免费高清a一片| 久久久久国产网址| 六月丁香七月| 一级毛片黄色毛片免费观看视频| 日韩免费高清中文字幕av| 免费av不卡在线播放| 在线观看免费高清a一片| 成人免费观看视频高清| 丰满少妇做爰视频| 欧美xxⅹ黑人| 亚洲成人久久爱视频| 纵有疾风起免费观看全集完整版| 狂野欧美激情性bbbbbb| freevideosex欧美| 成人二区视频| 亚洲欧洲国产日韩| 亚洲av在线观看美女高潮| 菩萨蛮人人尽说江南好唐韦庄| av线在线观看网站| av免费在线看不卡| 中文字幕久久专区| 九色成人免费人妻av| 又黄又爽又刺激的免费视频.| 高清日韩中文字幕在线| 夜夜爽夜夜爽视频| a级毛片免费高清观看在线播放| 国产午夜精品一二区理论片| 我要看日韩黄色一级片| 久久精品国产亚洲av涩爱| 69人妻影院| 伦理电影大哥的女人| 在线观看免费高清a一片| 成人亚洲精品一区在线观看 | 水蜜桃什么品种好| 免费看a级黄色片| a级毛色黄片| 精品人妻视频免费看| 成人二区视频| 亚洲av成人精品一二三区| 亚洲久久久久久中文字幕| 又大又黄又爽视频免费| 国产大屁股一区二区在线视频| 18禁裸乳无遮挡动漫免费视频 | 亚洲最大成人av| 免费av观看视频| 成人漫画全彩无遮挡| 在线精品无人区一区二区三 | 亚洲久久久久久中文字幕| 国产伦精品一区二区三区视频9| 国产乱人偷精品视频| 亚洲国产精品专区欧美| 国产免费又黄又爽又色| 亚洲精品国产色婷婷电影| 91狼人影院| 天美传媒精品一区二区| 波野结衣二区三区在线| 午夜福利视频1000在线观看| 国内少妇人妻偷人精品xxx网站| 亚洲精品第二区| 中文欧美无线码| 一级av片app| 婷婷色综合大香蕉| 涩涩av久久男人的天堂| 高清av免费在线| 人人妻人人看人人澡| 免费大片18禁| 亚洲经典国产精华液单| 欧美精品人与动牲交sv欧美| 午夜福利视频1000在线观看| 久久久亚洲精品成人影院| 亚洲精品成人av观看孕妇| av播播在线观看一区| 久久久久久久大尺度免费视频| 少妇丰满av| 国产日韩欧美亚洲二区| 有码 亚洲区| 91精品一卡2卡3卡4卡| 黄色怎么调成土黄色| 国产黄片美女视频| 五月天丁香电影| 午夜日本视频在线| 特大巨黑吊av在线直播| 一本—道久久a久久精品蜜桃钙片 精品乱码久久久久久99久播 | 深夜a级毛片| 亚洲人成网站在线播| 国产成人免费观看mmmm| 日韩欧美一区视频在线观看 | 国产成人精品婷婷| 国产伦理片在线播放av一区| 日日摸夜夜添夜夜爱| av天堂中文字幕网| 五月天丁香电影| 亚洲精品久久久久久婷婷小说| 热re99久久精品国产66热6| 日韩精品有码人妻一区| 国产高清三级在线| 狂野欧美激情性xxxx在线观看| 伊人久久精品亚洲午夜| 午夜老司机福利剧场| 夜夜看夜夜爽夜夜摸| 亚洲国产色片| 欧美日韩视频精品一区| 国产大屁股一区二区在线视频| 欧美xxxx黑人xx丫x性爽| 日本免费在线观看一区| 在线免费观看不下载黄p国产| av播播在线观看一区| 亚洲精品乱码久久久v下载方式| 亚洲伊人久久精品综合| 国产爽快片一区二区三区| 亚洲精品日韩av片在线观看| 国产中年淑女户外野战色| 男女啪啪激烈高潮av片| 在线免费十八禁| 欧美三级亚洲精品| 一区二区三区免费毛片| 一个人看视频在线观看www免费| 午夜免费鲁丝| 久久精品国产亚洲av涩爱| 一级二级三级毛片免费看| 伦精品一区二区三区| 久久久色成人| 男女啪啪激烈高潮av片| 午夜精品国产一区二区电影 | 久久精品久久精品一区二区三区| kizo精华| 国产精品精品国产色婷婷| 白带黄色成豆腐渣| 一本久久精品| 日韩av在线免费看完整版不卡| 美女视频免费永久观看网站| 一本色道久久久久久精品综合| 国产午夜精品一二区理论片| 午夜福利视频精品| 中文天堂在线官网| 18禁动态无遮挡网站| 国产精品一及| 国产探花在线观看一区二区| 校园人妻丝袜中文字幕| 亚洲电影在线观看av| 亚洲精品第二区| 成人国产麻豆网| 欧美一级a爱片免费观看看| 欧美性感艳星| 美女脱内裤让男人舔精品视频| 狂野欧美白嫩少妇大欣赏| 精品国产乱码久久久久久小说| 成人美女网站在线观看视频| 美女xxoo啪啪120秒动态图| 亚洲av二区三区四区| 国产老妇伦熟女老妇高清| 2021天堂中文幕一二区在线观| 久久精品国产鲁丝片午夜精品| 五月玫瑰六月丁香| 内射极品少妇av片p| 男插女下体视频免费在线播放| 国产精品国产三级专区第一集| 99久久人妻综合| 久久久久久国产a免费观看| 久久久久国产网址| 国产精品久久久久久精品电影小说 | 亚洲伊人久久精品综合| 赤兔流量卡办理| 日日摸夜夜添夜夜爱| 交换朋友夫妻互换小说| 91精品国产九色| 精品午夜福利在线看| 内射极品少妇av片p| 亚洲最大成人手机在线| 亚洲欧美精品专区久久| av黄色大香蕉| 欧美性猛交╳xxx乱大交人| 欧美区成人在线视频| 亚洲欧美日韩另类电影网站 | 成人特级av手机在线观看| 国产黄片美女视频| 午夜激情福利司机影院| 国产精品久久久久久精品电影| 日韩欧美一区视频在线观看 | 欧美日韩视频高清一区二区三区二| 精品国产一区二区三区久久久樱花 | 毛片女人毛片| 国产午夜精品久久久久久一区二区三区| 乱码一卡2卡4卡精品| 日韩强制内射视频| av福利片在线观看| 国产精品国产三级国产专区5o| 日日撸夜夜添| 高清视频免费观看一区二区| 亚洲最大成人手机在线| av国产免费在线观看| 亚洲三级黄色毛片| 91久久精品国产一区二区成人| 成人毛片60女人毛片免费| 国产精品久久久久久久久免| 日韩av免费高清视频| 女人久久www免费人成看片| 亚洲欧美中文字幕日韩二区| 欧美bdsm另类| 秋霞伦理黄片| 色播亚洲综合网| 国产爱豆传媒在线观看| 丝瓜视频免费看黄片| 激情五月婷婷亚洲| 波野结衣二区三区在线| 国产精品一二三区在线看| 黑人高潮一二区| 看免费成人av毛片| 51国产日韩欧美| 国产成人免费观看mmmm| 特级一级黄色大片| 在线免费十八禁| 九九久久精品国产亚洲av麻豆| 97超碰精品成人国产| 美女cb高潮喷水在线观看| 亚洲天堂av无毛| 精品一区二区三卡| av卡一久久| 国产亚洲5aaaaa淫片| 99热这里只有是精品50| 女人十人毛片免费观看3o分钟| 亚洲av欧美aⅴ国产| 亚洲精品一区蜜桃| 国产综合精华液| 三级国产精品欧美在线观看| 蜜桃久久精品国产亚洲av| 久久久精品欧美日韩精品| 国产午夜福利久久久久久| 午夜精品国产一区二区电影 | 成人综合一区亚洲| 国产成人a∨麻豆精品| 久久99精品国语久久久| 又黄又爽又刺激的免费视频.| av国产精品久久久久影院| 91久久精品电影网| 亚洲国产精品国产精品| 成人漫画全彩无遮挡| 国产精品一区二区性色av| 欧美成人午夜免费资源| 18禁在线播放成人免费| 两个人的视频大全免费| 久久久久久久久久久丰满| 亚洲av一区综合| 成人毛片60女人毛片免费| 日本三级黄在线观看| 免费大片18禁| 国内少妇人妻偷人精品xxx网站| av黄色大香蕉| 免费观看性生交大片5| 亚洲精品乱码久久久久久按摩| 免费黄频网站在线观看国产| av国产精品久久久久影院| 日韩av在线免费看完整版不卡| 国产高清三级在线| 在线观看免费高清a一片| 亚洲精品,欧美精品| 成年女人在线观看亚洲视频 | freevideosex欧美|