• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    任務(wù)執(zhí)行時間不確定性條件下實時云工作流的可靠調(diào)度研究

    2022-07-12 14:03:30何小東
    計算機應(yīng)用與軟件 2022年6期
    關(guān)鍵詞:代價不確定性調(diào)度

    何 芳 何小東

    1(湖南財經(jīng)工業(yè)職業(yè)技術(shù)學(xué)院電子信息系 湖南 衡陽 421002) 2(中南林業(yè)科技大學(xué)計算機與信息工程學(xué)院 湖南 長沙 410004)

    0 引 言

    云計算是分布式計算的新模式體現(xiàn),云提供方可以向消費者以即付即用模式按需分發(fā)服務(wù),如應(yīng)用、平臺和計算資源等服務(wù)[1]。從消費者角度看,云模型是代價有效模型,由于消費者僅需按其實際使用云資源支付代價,且其服務(wù)是可擴展的,消費者對于資源的租用是不受限制的。這種特征使云計算在諸多領(lǐng)域得到了廣泛應(yīng)用[2-3]。這類應(yīng)用通常具有相互關(guān)聯(lián)的計算和數(shù)據(jù)傳輸類任務(wù),由于任務(wù)間的依賴約束,任務(wù)間的大量空閑時槽將被虛擬機資源所浪費,導(dǎo)致虛擬機資源整體利用率不高[4]。此外,云平臺較低的資源利用率也會浪費大量代價,資源利用率的提升也是代價有效的整體調(diào)度手段。

    有效的工作流任務(wù)調(diào)度算法是解決以上云平臺問題的有效方法。然而,已有方法基本都是以準(zhǔn)確的任務(wù)執(zhí)行時間和任務(wù)間的通信時間信息為前提條件。而在實際的云環(huán)境中,任務(wù)執(zhí)行時間通常無法進行準(zhǔn)確可靠估計,僅在任務(wù)完成后,任務(wù)的準(zhǔn)確執(zhí)行時間值才是可用的,主要原因在于:(1) 工作流任務(wù)通常在不同輸入下包含條件式指令,即特定應(yīng)用中的任務(wù)通常包含多種選擇和條件語句,其程序分支和循環(huán)不盡相同,使得任務(wù)的計算時間在不同的數(shù)據(jù)輸入下體現(xiàn)出極大的不同;(2) 云平臺中虛擬機的性能隨時間發(fā)生變化。以Xen和VMware等虛擬機技術(shù)為例,其多個虛擬機可以同步地分享相同的物理主機硬件資源,如CPU、I/O和網(wǎng)絡(luò)資源等。這種資源分享模式可能導(dǎo)致虛擬機的性能遭遇到虛擬機間資源干擾的影響而產(chǎn)生諸多的不確定性[5]。

    由于云平臺的動態(tài)性和不確定性,如可變的任務(wù)執(zhí)行時間、可變的虛擬機性能以及動態(tài)的工作流的到達,均可能導(dǎo)致預(yù)定的調(diào)度方案無法有效地運行于實際環(huán)境中。已有的工作流調(diào)度算法均忽略了這些動態(tài)不確定性因素,為了解決這種不確定性,提高虛擬機資源利用率和降低執(zhí)行代價,本文將設(shè)計一種基于不確定性環(huán)境的云工作流調(diào)度算法,并對其有效性和可行性做出實驗驗證。

    1 相關(guān)研究

    已有的工作流調(diào)度算法可以劃分為表調(diào)度、聚類調(diào)度和元啟發(fā)式調(diào)度。文獻[6]設(shè)計了一種基于表調(diào)度的工作流調(diào)度算法MO-HEFT,可以均衡調(diào)度跨度與能耗。文獻[7]設(shè)計了兩階段調(diào)度方案,先生成確保執(zhí)行跨度最小的調(diào)度方案,然后進一步最小化資源浪費率得到更優(yōu)的調(diào)度方案。文獻[8]提出了一種基于局部關(guān)鍵路徑PCP的工作流調(diào)度算法,在確保工作流截止時間約束的同時最小化工作流執(zhí)行代價。文獻[9]在以上工作的基礎(chǔ)上,設(shè)計了IC-PCP工作流調(diào)度算法。另外,元啟發(fā)式方法也是求解工作流調(diào)度問題的有效方法。文獻[10]設(shè)計了基于遺傳算法的工作流調(diào)度算法,利用賦予任務(wù)優(yōu)先級的方式,啟發(fā)式地將每個任務(wù)映射至處理器上執(zhí)行。文獻[11]提出了進化多目標(biāo)優(yōu)化算法求解云工作流調(diào)度問題。然而,以上方法均是針對單一工作流的調(diào)度環(huán)境,并且忽略了云平臺中任務(wù)執(zhí)行時間的不確定性和工作流應(yīng)用的動態(tài)特征。

    針對隨機計算環(huán)境下的工作流調(diào)度問題,文獻[12]通過任務(wù)復(fù)制的方法減輕工作流調(diào)度時資源性能變化對于工作流截止時間的影響。文獻[13]設(shè)計了基于隨機啟發(fā)式方法的工作流調(diào)度算法最小化工作流執(zhí)行跨度。文獻[14]基于蒙特卡羅方法處理工作流任務(wù)執(zhí)行時間的不確定性。文獻[15]則側(cè)重于虛擬機的性能變化,設(shè)計了基于粒子群優(yōu)化的工作流調(diào)度算法,可以在確保截止時間條件的同時最小化全局工作流執(zhí)行代價。然而,以上算法也是相對于單一工作流調(diào)度環(huán)境設(shè)計的調(diào)度算法,不適用于動態(tài)的云計算平臺,也無法有效處理多工作流的提交環(huán)境。

    2 問題描述

    2.1 云虛擬機模型

    云計算可提供多種類型的虛擬機服務(wù),定義為:V={v1,v2,…,vm},每種虛擬機類型vi均具有特定性能配置和使用代價,i∈{1,2,…,m}。不同虛擬機類型配置擁有不同的CPU性能、內(nèi)存、存儲和網(wǎng)絡(luò)帶寬等性能。令P(vi)代表虛擬機vi的使用代價,以單位時間收費。不滿單位時間的虛擬機租用依然按一個時間單位收費。令VMk,vi代表虛擬機類型vi的第k個虛擬機,令WBkh代表虛擬機VMk,vi與虛擬機VMh,vj間的網(wǎng)絡(luò)帶寬,并忽略網(wǎng)絡(luò)通信之間可能產(chǎn)生的網(wǎng)絡(luò)擁塞,以簡化任務(wù)調(diào)度模型。

    2.2 工作流任務(wù)模型

    云平臺下的工作流應(yīng)用可被用戶連續(xù)提交執(zhí)行需求,將這類工作流應(yīng)用定義為:W={w1,w2,…,wm}。某一特定工作流應(yīng)用wi∈W可定義為wi={ATi,Di,Gi},ATi為工作流的到達時間,Di為工作流完成的截止時間,Gi為工作流的結(jié)構(gòu)模型。工作流wi的結(jié)構(gòu)Gi可建立為無向無環(huán)圖DAG模型,表示為Gi=(Ti,Ei),Ti={t1,i,t2,i,…,ti,|Ti|}代表有向圖中的頂點集合,表示任務(wù)節(jié)點,ti,j代表工作流wi中的任務(wù)j,Ei?Ti×Ti代表任務(wù)節(jié)點間的有向邊集合。有向邊eipj∈Ei若存在于有向圖中,即表明任務(wù)tip與任務(wù)tij之間存在依賴約束關(guān)系,而任務(wù)tip可稱為任務(wù)tij的直接后繼任務(wù)。有向邊eipj的權(quán)重值w(eipj)代表任務(wù)tip與任務(wù)tij之間傳輸數(shù)據(jù)量。由于有向圖中的某個任務(wù)可能存在多個前驅(qū)任務(wù)或后繼任務(wù),令pred(tij)表示任務(wù)tij的前驅(qū)任務(wù)集合,succ(tij)表示任務(wù)tij的后繼任務(wù)集合。對于不確定性環(huán)境而言,由于云虛擬機資源性能的變化以及系統(tǒng)負載的不確定性,任務(wù)的準(zhǔn)確執(zhí)行時間是無法提前預(yù)知的,因此任務(wù)執(zhí)行時間可理解為一個隨機變量,并具有獨立性,服從正態(tài)分布。

    2.3 調(diào)度模型

    具有不確定性的云平臺中的工作流調(diào)度模型如圖1所示。平臺由用戶層、調(diào)度層和資源層三個部分構(gòu)成。云調(diào)度平臺中,用戶負責(zé)向資源提供方發(fā)送工作流應(yīng)用執(zhí)行需求,調(diào)度層負責(zé)依據(jù)制定的調(diào)度策略,并根據(jù)確定的目標(biāo)函數(shù)和資源性能狀況,生成每個工作流任務(wù)與虛擬機資源間的映射關(guān)系,資源層由大規(guī)模的異構(gòu)虛擬機資源構(gòu)成,而這些虛擬機的性能可以動態(tài)的縮放以滿足不同需求的用戶任務(wù)。

    圖1 調(diào)度模型

    調(diào)度層主要由工作流任務(wù)集模塊、調(diào)度分析模塊、資源調(diào)節(jié)控制模塊及任務(wù)分配控制模塊組成。工作流任務(wù)集模塊負責(zé)接收等待的工作流任務(wù),調(diào)度分析模塊負責(zé)生成計算資源的擴展性能和等待任務(wù)與虛擬機資源間的映射關(guān)系,計算資源的擴展調(diào)節(jié)包括何時添加或刪除不同類型虛擬機資源的數(shù)量,并由資源調(diào)節(jié)控制模塊對其執(zhí)行。任務(wù)分配控制模塊負責(zé)動態(tài)地根據(jù)任務(wù)與虛擬機間的映射關(guān)系將等待的工作流任務(wù)分配至對應(yīng)的虛擬機上執(zhí)行。該調(diào)度模型的主要特征是多數(shù)的等待任務(wù)均會在工作流任務(wù)集模塊中處于等待狀態(tài),而不是直接處于虛擬機的等待隊列中,而僅有一個就緒任務(wù)被直接映射至虛擬機上,即每臺虛擬機僅允許一個任務(wù)等待。

    2.4 最優(yōu)化模型

    定義變量xi,j,k用于表示任務(wù)ti,j與虛擬機VMk,vh間的映射關(guān)系,并滿足以下條件:

    (1)

    令r(ti,j)表示任務(wù)ti,j映射的虛擬機的序號。由于工作流任務(wù)的執(zhí)行時間是隨機變量,利用其α分位數(shù)表示執(zhí)行時間的近似值。令ETα,ijk表示任務(wù)tij在虛擬機VMk,vh上執(zhí)行時間的α分位數(shù)。令PSTij,k表示任務(wù)tij在虛擬機VMk,vh上的估計開始時間,PFTij,k表示任務(wù)tij在虛擬機VMk,vh上的估計完成時間。估計開始時間計算方式如下:

    (2)

    式中:PFTlh,k表示虛擬機VMk,vh上最后一個任務(wù)tlh的估計完成時間;r(tip)表示任務(wù)tip調(diào)度的虛擬機的序號;TTipj表示任務(wù)間的有向邊eipj上的數(shù)據(jù)傳輸時間。

    工作流wi的所有任務(wù)調(diào)度后,其估計完成時間可定義為:

    (3)

    任務(wù)完成后,其實際開始時間、執(zhí)行時間和完成時間將是準(zhǔn)確可知的。令RSTijk、RETijk和RFTijk分別表示任務(wù)tij在虛擬機VMk,vh上的實際開始時間、實際執(zhí)行時間和實際完成時間。因此,工作流wi的實際完成時間可定義為:

    (4)

    不確定性的調(diào)度環(huán)境中,工作流wi的實際完成時間RFTi決定了任務(wù)的執(zhí)行時間需求是否可以確保。因此,以下約束條件需要務(wù)必滿足:

    (5)

    由于工作流應(yīng)用中任務(wù)間存在順序約束,一個任務(wù)僅能在其所有前驅(qū)任務(wù)完成后才能被執(zhí)行,因此需要滿足以下約束:

    RSTijk≥RFTip,r(tip)+TTipj?eipj∈Ei

    (6)

    結(jié)合以上的兩個約束條件,工作流集合W調(diào)度的第一個目標(biāo)是最小化總體執(zhí)行代價,即:

    (7)

    式中:|VM|為執(zhí)行工作流集合W的虛擬機總量;Wk為虛擬機VMk,vh的工作時間。

    資源利用率最大化是調(diào)度算法的第二個目標(biāo),可定義為:

    (8)

    式中:WTk和TTk分別為工作流集合W執(zhí)行時虛擬機VMk,vh的工作時間和總活躍時間(包括工作時間和空閑時間)。

    在不確定性環(huán)境下,另一個需要優(yōu)化的目標(biāo)是最小化方差代價函數(shù),定義為工作流的估計完成時間與實際完成時間絕對差的權(quán)重之和的均值,表示為:

    (9)

    式中:τi為估計完成時間與實際完成時間的時間差的邊界代價。

    3 算法設(shè)計

    由于工作流任務(wù)的執(zhí)行指令與虛擬機性能的變化,任務(wù)的準(zhǔn)確執(zhí)行時間在調(diào)度前通常無法準(zhǔn)確估算。因此,工作流任務(wù)的執(zhí)行時間和完成時間是具有不確定性的。調(diào)度任務(wù)時,如果執(zhí)行任務(wù)的預(yù)留時間過短,任務(wù)的實際完成時間將大于其期望完成時間,進而會導(dǎo)致其他任務(wù)執(zhí)行的延遲,并違背任務(wù)執(zhí)行的截止時間約束。因此,本文設(shè)計了一種主動式調(diào)度策略用于建立工作流的底線調(diào)度方案,該方案利用了工作流的最差執(zhí)行時間。本文中,當(dāng)α遠大于0.5或小于1時,算法將任務(wù)執(zhí)行時間的α分位數(shù)考慮為最差執(zhí)行時間。但是,工作流任務(wù)在多數(shù)情況下的執(zhí)行時間會小于最差執(zhí)行時間。因此主動式工作流調(diào)度策略會浪費大量資源性能。為了處理這種影響,任務(wù)執(zhí)行期間,需要設(shè)計一種基于響應(yīng)式的工作流調(diào)度策略,能夠動態(tài)調(diào)度等待任務(wù)以充分利用剩余資源性能。

    將以上主動式調(diào)度和響應(yīng)式調(diào)度劃分為兩類事件的發(fā)生:一是新的工作流到達時進行主動式調(diào)度,二是當(dāng)虛擬機完成一個任務(wù)時進行響應(yīng)式調(diào)度。

    3.1 基于任務(wù)執(zhí)行時間不確定性的任務(wù)分級

    工作流任務(wù)集合中的所有任務(wù)依據(jù)其估計最遲開始時間PLSTij進行分級,任務(wù)tij的估計最遲開始時間PLSTij定義為任務(wù)開始執(zhí)行后,工作流wi的估計完成時間PFTi將大于其截止時間Di的最遲時間,定義為:

    (10)

    式中:succ(tij)為任務(wù)tij的直接后繼任務(wù)集合;METα,ij為任務(wù)tij的執(zhí)行時間的α分位數(shù)的最小值。

    則任務(wù)tij的估計最遲完成時間PLFTij可計算為:

    PLFTij=PLSTij+METα,ij

    (11)

    3.2 調(diào)度算法設(shè)計

    一個任務(wù)視為就緒任務(wù),當(dāng)其不存在任一前驅(qū)任務(wù),即pred(tij)=null,或其所有前驅(qū)任務(wù)已被映射至虛擬機上,且至少一個前驅(qū)任務(wù)已經(jīng)完成。傳統(tǒng)的工作流調(diào)度方法中,一旦新的工作流到達,其所有任務(wù)被直接調(diào)度至虛擬機的本地隊列中。本文的調(diào)度策略不同,將多數(shù)等待任務(wù)放入工作流任務(wù)集合中,僅有一個就緒任務(wù)被調(diào)度和分配至虛擬機。在整個云平臺的實際執(zhí)行過程中,工作流任務(wù)集合中的等待任務(wù)的新的映射方案將連續(xù)生成。算法1為執(zhí)行當(dāng)新的工作流到達時的主動式工作流調(diào)度策略。

    算法1新工作流到達時的主動式工作流調(diào)度策略

    1.taskSet←null

    2.foreach new workflowwiarrivesdo

    3. 通過式(11)和式(12)計算PLSTijandPLFTijfor eachtijinwi

    4.readyTasks←get all the ready tasks in workflowwi

    5. sortreadyTasksby tasks’ ranks in an increasing order

    6.foreach ready tasktijinreadyTasksdo

    7. scheduletijby Algorithm 3

    8.endfor

    9. add all the non-ready tasks inwiinto settaskSet

    10.endfor

    步驟1首先將工作流任務(wù)集合置為空集。當(dāng)新的工作流wi到達時,算法1通過步驟3計算工作流中每個任務(wù)的估計最遲開始時間和估計最遲完成時間。步驟4將工作流中的所有就緒任務(wù)放入就緒任務(wù)集合中,并在步驟5中根據(jù)任務(wù)的分級值的遞增排序?qū)途w任務(wù)進行排列。最后,在步驟6-步驟8中,通過調(diào)用算法3將這些就緒任務(wù)調(diào)度至虛擬機上執(zhí)行。步驟9則將新工作流中的所有的非就緒任務(wù)添加至工作流任務(wù)集合中。

    由于任務(wù)在一個虛擬機上的完成時間是隨機的,將一臺虛擬機上的一個任務(wù)的完成事件視為一個突發(fā)事件。當(dāng)突發(fā)事件發(fā)生時,如果虛擬機上存在等待任務(wù),則第一個等待任務(wù)立即開始執(zhí)行(其所有前驅(qū)任務(wù)已經(jīng)完成)。此外,當(dāng)一個任務(wù)完成時,其后繼任務(wù)變?yōu)榫途w任務(wù),此時將觸發(fā)算法1對就緒任務(wù)進行主動式調(diào)度。算法2執(zhí)行當(dāng)虛擬機完成一個任務(wù)時的響應(yīng)式調(diào)度。

    算法2虛擬機完成一個任務(wù)時的響應(yīng)式調(diào)度

    1.ifthere exist waiting tasks onVMVMk,vithen

    2. start to execute the first waiting task onVMVMk,vi

    3.endif

    4.readyTasks←null

    5.fortis∈succ(tij)do

    6.iftasktisis readythen

    7. readyTasks←(readyTasks+tis)

    8.endif

    9.endfor

    10.taskSet←(taskSet-readyTasks)

    11. sortreadyTasksby their ranksPLSTijin an increasing order

    12.foreach readytasktij∈readyTasksdo

    13. schedule tasktijby Algorithm 3

    14.endfor

    在步驟1~步驟3中,當(dāng)虛擬機VMk,vi完成其執(zhí)行的任務(wù)后,如果其等待任務(wù)隊列wtkk為非空,則立即開始執(zhí)行該隊列中第一個等待任務(wù)。然后,選擇處于就緒狀態(tài)的任務(wù)tij的后繼任務(wù),即步驟4-步驟9。具體地,步驟4首先將就緒任務(wù)隊列置為空,然后在步驟5-步驟9中遍歷當(dāng)前就緒任務(wù)tij的所有后繼任務(wù),在步驟6中判斷該后繼任務(wù)是否為就緒狀態(tài),若為就緒狀態(tài),則更新當(dāng)前就緒任務(wù)隊列readyTasks。步驟10將以上就緒任務(wù)從工作流任務(wù)集合taskSet中移除。步驟11中,算法根據(jù)估計最遲開始時間PLSTij對就緒任務(wù)進行遞增排序并更新就緒任務(wù)隊列。根據(jù)式(11)定義可知,按照最遲開始時間遞增排序后按序調(diào)度就緒隊列中的任務(wù),可以確保工作流任務(wù)間的執(zhí)行順序約束。最后,對于所有處于就緒任務(wù)集合中的任務(wù),通過算法3將就緒任務(wù)調(diào)度至虛擬機上執(zhí)行,即步驟12-步驟14。

    任務(wù)tij在虛擬機VMk,vi上的估計代價為:

    Pcij,k=P(VMk,vi)×(PFTij,k-PRTk)

    (12)

    式中:PRTk代表虛擬機VMk,vi對于任務(wù)tij可用的估計時間。算法3用于對處于就緒狀態(tài)的任務(wù)進行調(diào)度。

    算法3調(diào)度處于就緒狀態(tài)的任務(wù)

    1.minCost←∞,targetVM←null

    2.foreachVMVMk,vithe systemdo

    3.通過式(3)和式(13)計算PFTij,kandPcij,kfor tasktijonVMVMk,vi

    4.ifPFTij,k≤PLFTijandPcij,k

    5.targetVM←VMk,vi,minCost←Pcij,k

    6.endif

    7.endfor

    8.iftargetVM!=nullthen

    9.schedule tasktijto thetargetVM

    10.else

    11.lease a newVMVMk,viwith the minimalPcij,kwhile satisfyingPFTij,k≤PLFTij

    12.schedule tasktijtoVMVMk,viafter it has been initiated

    13.endif

    步驟1對算法得到的最小執(zhí)行代價和調(diào)度目標(biāo)虛擬機進行置空初始化。算法利用了兩種方式將一個就緒任務(wù)調(diào)度至虛擬機上。方法一對于能夠在其估計最遲完成時間PLFTij以內(nèi)且以最小的估計代價Pcij,k完成任務(wù)的初始化的虛擬機(步驟4-步驟6),將選擇為完成該就緒任務(wù)的虛擬機,即步驟2-步驟7所示。如果該方法不能為就緒任務(wù)找到合適的虛擬機,方法二將租用一個生成最小估計代價Pcij,k,且在其估計最遲完成時間PLFTij以內(nèi)完成該任務(wù)的新的虛擬機進行任務(wù)調(diào)度,即步驟10-步驟13。

    4 性能評估

    4.1 實驗搭建和參數(shù)配置

    利用CloudSim云計算仿真平臺實現(xiàn)云平臺中工作流任務(wù)調(diào)度問題的仿真。為云平臺配置六種不同類型的虛擬機,每種類型的虛擬機配置數(shù)量不受限制。表1給出以上虛擬機的具體配置,具體包括虛擬機類型名稱、使用代價、CPU的內(nèi)核數(shù)量及擴展因子,該配置參考了亞馬遜的彈性計算云EC2的配置參數(shù),具備很好的代表性。此外,虛擬機的租用時間單位為一小時,虛擬機之間的網(wǎng)絡(luò)帶寬設(shè)置為1 Gbit/s。

    表1 虛擬機配置參數(shù)

    利用四種現(xiàn)實工作流模型進行算法的仿真測試,包括Montage工作流、SIPHT工作流、CyberShake工作流和LIGO工作流,這些工作流模塊集合中包括多種描述元素,具體參考文獻[16]。設(shè)置三種不同規(guī)模的工作流任務(wù)模型,30個任務(wù)組成小規(guī)模工作流執(zhí)行模型,50個任務(wù)組成中等規(guī)模工作流執(zhí)行模型,100個任務(wù)組成大規(guī)模工作流執(zhí)行模型。另外,為了實現(xiàn)云平臺中工作流執(zhí)行的動態(tài)特征,工作流模塊在固定的時間間隔內(nèi)進行隨機選取,并發(fā)送至調(diào)度器上。兩個連續(xù)工作流的時間間隔為一個變量,令其服務(wù)1/λ=100 s的泊松分布。

    由于虛擬機類型不盡相同,導(dǎo)致任務(wù)的基準(zhǔn)執(zhí)行時間不同類型的虛擬機上也是不相同的。利用擴展因子f描述以上不確定性特征。任務(wù)tij在不同虛擬機類型上的基準(zhǔn)執(zhí)行時間計算為:

    BETij,k=BETij×f

    (13)

    式中:k為虛擬機的類型序號,對應(yīng)于擴展因子f的虛擬機。

    將每個任務(wù)的執(zhí)行時間建立為正態(tài)分布,即ETij,k=N(μ,δ),任務(wù)基準(zhǔn)執(zhí)行時間均值為μ,相對任務(wù)執(zhí)行時間標(biāo)準(zhǔn)方差為δ:

    μ=BETij,k

    δ=BETij,k×var

    (14)

    式中:var為任務(wù)執(zhí)行時間的變化。

    實驗中,任務(wù)的實現(xiàn)執(zhí)行時間為:

    RETij,k=r_N(BETij,k,(BETij,k×var)2)

    (15)

    式中:r_N(μ,δ2)表示隨機數(shù)生成器,用于生成均值為BETij,k和標(biāo)準(zhǔn)方差為(BETij,k×var)的正態(tài)分布值。

    為了給每個工作流分配截止時間,定義最快調(diào)度方案為將每個工作流任務(wù)調(diào)度至最快的虛擬機(即表1中的M2.xlarge虛擬機)上執(zhí)行得到的調(diào)度結(jié)果,參數(shù)MF定義為一個工作流的最快調(diào)度方案下得到的執(zhí)行跨度。令u表示截止時間因子,將工作流的截止時間設(shè)置為:

    Di=ATi+u×MF

    (16)

    選擇IC-PCP工作流調(diào)度算法[9]和WSTR工作流調(diào)度算法作為對比算法[12],保留兩種算法的調(diào)度思路,并在仿真實驗環(huán)境中將其擴展為可調(diào)度多工作流的調(diào)度模型。

    4.2 結(jié)論分析與比較

    首先分析不確定性的任務(wù)執(zhí)行時間對性能的影響,改變?nèi)蝿?wù)執(zhí)行時間變化參數(shù)var的值,將其設(shè)置在0.1至0.5之間,并以步長0.1進行遞增。圖2為該參數(shù)對于工作流執(zhí)行代價、資源利用率和方差代價的影響。圖2(a)顯示,隨機該參數(shù)的增加,工作流執(zhí)行代價在不同算法間以不同的遞增速率增加,兩種對比算法的增加趨勢比本文算法更加明顯。這是由于兩種對比算法均未采用任何響應(yīng)式調(diào)度策略控制任務(wù)執(zhí)行時間的不確定性和云平臺中資源性能的動態(tài)性,而僅是以基準(zhǔn)調(diào)度方案進行任務(wù)執(zhí)行。本文算法相較兩種對比算法IC-PCP和WSTR算法分別降低了65%和48%左右的執(zhí)行代價,這表明本文算法可以降低云提供方的代價,且不受任務(wù)時間可變和不確定性的影響。圖2(b)表明本文算法得到的資源利用率始終處于較高的水平,遠遠高于另外兩種對比算法。原因在于:(1) 當(dāng)?shù)却蝿?wù)處于就緒時,本文算法動態(tài)將就緒任務(wù)調(diào)度至虛擬機上,使得每個虛擬機上的空閑時槽被大大壓縮。(2) 兩種對比算法中執(zhí)行時間變量的增加導(dǎo)致任務(wù)的估計完成時間與實際完成時間之差變得更大,這大大地浪費了調(diào)度時間,同時導(dǎo)致了更低的虛擬機資源利用率。圖2(c)表明,隨著執(zhí)行時間參數(shù)的增加,三種算法的方差代價均有所增加,這是由于該參數(shù)的增加使得估計完成時間和實際完成時間之差變大。此外,本文算法的方差代價要低于對比算法,由于它們并沒有控制等待任務(wù)的不確定性。

    (a) 任務(wù)執(zhí)行時間變化對執(zhí)行代價的影響

    (b) 任務(wù)執(zhí)行時間變化對資源利用率的影響

    (c) 任務(wù)執(zhí)行時間變化對方差代價的影響圖2 任務(wù)執(zhí)行時間變化對性能的影響

    圖3分析了截止時間因子的設(shè)置對于算法性能的影響,不同的截止時間因子可以生成不同大小的工作流截止時間。由圖3(a)可以看到,三種算法的執(zhí)行代價會隨著截止時間因子的增加(即工作流的截止時間變得更加寬松)而輕微下降,這表明截止時間延長時,可以使工作流在時間約束內(nèi)更遲完成。相應(yīng)地,更多的工作流中的并行任務(wù)(任務(wù)間不具有執(zhí)行順序依賴關(guān)系)可以執(zhí)行在相同的虛擬機上,使得更少量的虛擬機被利用,資源利用率得以提高。此外,本文算法的執(zhí)行代價對兩種對比算法的代價平均低44%和76%,該結(jié)果表明融合了主動式調(diào)度策略和響應(yīng)式調(diào)度策略的本文算法在降低執(zhí)行代價方面是有效可行的。由圖3(b)可以看到,當(dāng)截止時間因增加時,三種算法的資源利用率會相應(yīng)增加,這是由于工作流執(zhí)行的截止時間變長時,其執(zhí)行跨度在不違背截止時間約束的同時也會變長,進而使得虛擬機資源的空閑時槽大大壓縮和減少。本文算法得到的資源利用率平均來說要分別高于對比算法30%和40%,本文算法得到極高的資源利用率是由于算法僅在任務(wù)變?yōu)榫途w狀態(tài)時就直接動態(tài)地調(diào)度至虛擬機上執(zhí)行,使得虛擬機的空閑時槽被大大減少。圖3(c)的結(jié)果表明,隨著截止時間因子的增加,本文算法和WSTR算法的方差代價輕微增加,而IC-PCP算法則基本保持不變。此外,本文算法的方差代價平均來說低于兩種對比算法,原因在于兩種對比算法在一旦有新的工作流到達時就立即調(diào)度其所有任務(wù)至虛擬機上,導(dǎo)致任務(wù)執(zhí)行時間不確定性對性能造成了較大的影響。圖3結(jié)果表明本文算法在處理調(diào)度不確定性時具有很好的控制功能。

    (a) 截止時間因子對執(zhí)行代價的影響

    (b) 截止時間因子對資源利用率的影響

    (c) 截止時間因子對方差代價的影響圖3 截止時間因子對性能的影響

    實驗最后觀察執(zhí)行工作流的規(guī)模對于系統(tǒng)性能的影響,如圖4所示。由圖4(a)可見,三種算法的總體執(zhí)行代價會隨著工作流執(zhí)行數(shù)量的增加而得到增進。很明顯,執(zhí)行的工作流數(shù)量越多,越需要更多的虛擬機工作時間,導(dǎo)致了更高的執(zhí)行代價。而本文算法的執(zhí)行代價依然比兩種對比算法分別低54%和71%。圖4(b)表明,工作流執(zhí)行數(shù)量增加時,三種算法的資源利用率基本會穩(wěn)定在77%、50%和45%左右。該結(jié)果表明工作流執(zhí)行數(shù)量的增加對于云平臺下的資源利用率的影響比較有限。圖4(c)的結(jié)果表明,三種算法的方差代價分別為0.055、0.15和0.3,這表明工作流執(zhí)行數(shù)量的增加對基準(zhǔn)調(diào)度的影響甚少。本文算法得到較低的方差代價是由于能夠通過主動式和響應(yīng)式調(diào)度策略將任務(wù)執(zhí)行時間不確定性降低至最小,從而得到與實際調(diào)度情形更加接近的工作流調(diào)度解。

    (a) 執(zhí)行工作流的數(shù)量對執(zhí)行代價的影響

    (b) 執(zhí)行工作流的數(shù)量對資源利用率的影響

    (c) 執(zhí)行工作流的數(shù)量對方差代價的影響圖4 執(zhí)行工作流的數(shù)量對性能的影響

    5 結(jié) 語

    為了改善云平臺下多工作流的執(zhí)行代價和資源利用率,提出一種不確定性感知的工作流可靠調(diào)度算法。該算法利用主動式和響應(yīng)式的調(diào)度策略,可以實時觸發(fā)新工作流的調(diào)度請求和響應(yīng)虛擬機完成任務(wù)后的任務(wù)調(diào)度請求,并滿足多工作流的執(zhí)行環(huán)境。在現(xiàn)實工作流模型的測試表明新的工作流調(diào)度算法可以在確保滿足截止時間約束的同時,極大降低工作流執(zhí)行代價和提高虛擬機資源利用率,并將不確定性影響降至最低。

    猜你喜歡
    代價不確定性調(diào)度
    法律的兩種不確定性
    法律方法(2022年2期)2022-10-20 06:41:56
    《調(diào)度集中系統(tǒng)(CTC)/列車調(diào)度指揮系統(tǒng)(TDCS)維護手冊》正式出版
    一種基于負載均衡的Kubernetes調(diào)度改進算法
    英鎊或繼續(xù)面臨不確定性風(fēng)險
    中國外匯(2019年7期)2019-07-13 05:45:04
    虛擬機實時遷移調(diào)度算法
    愛的代價
    海峽姐妹(2017年12期)2018-01-31 02:12:22
    代價
    具有不可測動態(tài)不確定性非線性系統(tǒng)的控制
    成熟的代價
    SVC的RTP封裝及其在NS2包調(diào)度中的應(yīng)用研究
    免费在线观看影片大全网站| 久久香蕉精品热| 亚洲精品乱码久久久v下载方式 | 高清在线国产一区| 国产97色在线日韩免费| 国产伦在线观看视频一区| 成年女人看的毛片在线观看| 大型黄色视频在线免费观看| 国产精品永久免费网站| 亚洲国产高清在线一区二区三| 黑人欧美特级aaaaaa片| 国产综合懂色| www.精华液| 国产午夜精品久久久久久| 久久久久九九精品影院| 伦理电影免费视频| 欧美性猛交╳xxx乱大交人| 亚洲五月天丁香| 女警被强在线播放| 一区二区三区高清视频在线| 狠狠狠狠99中文字幕| 免费观看人在逋| 中文字幕人成人乱码亚洲影| 黄色视频,在线免费观看| 一个人免费在线观看的高清视频| 午夜亚洲福利在线播放| 精品午夜福利视频在线观看一区| 欧美精品啪啪一区二区三区| 91九色精品人成在线观看| 91字幕亚洲| 精品人妻1区二区| 国产黄片美女视频| 真实男女啪啪啪动态图| 少妇裸体淫交视频免费看高清| 国产激情偷乱视频一区二区| 大型黄色视频在线免费观看| 丝袜人妻中文字幕| 午夜视频精品福利| 国产亚洲精品久久久久久毛片| 此物有八面人人有两片| 亚洲成人中文字幕在线播放| 天天一区二区日本电影三级| 久久九九热精品免费| 给我免费播放毛片高清在线观看| 国产亚洲欧美在线一区二区| 丰满人妻一区二区三区视频av | 99热这里只有是精品50| 韩国av一区二区三区四区| 亚洲av电影在线进入| 淫秽高清视频在线观看| 两个人看的免费小视频| av女优亚洲男人天堂 | 天堂av国产一区二区熟女人妻| 久久精品91蜜桃| 国产在线精品亚洲第一网站| 一a级毛片在线观看| 99热这里只有是精品50| 曰老女人黄片| 怎么达到女性高潮| 国产成人av教育| 日韩免费av在线播放| 欧美性猛交╳xxx乱大交人| e午夜精品久久久久久久| 亚洲aⅴ乱码一区二区在线播放| 美女cb高潮喷水在线观看 | 欧美激情久久久久久爽电影| 国产av一区在线观看免费| 男女午夜视频在线观看| 一个人免费在线观看的高清视频| 精品一区二区三区四区五区乱码| 999久久久国产精品视频| 亚洲国产欧美一区二区综合| 亚洲av熟女| 女生性感内裤真人,穿戴方法视频| 18禁国产床啪视频网站| 在线播放国产精品三级| 国产视频内射| 视频区欧美日本亚洲| 噜噜噜噜噜久久久久久91| 国产视频一区二区在线看| 亚洲av免费在线观看| 亚洲 欧美一区二区三区| 国产亚洲精品久久久久久毛片| 日韩三级视频一区二区三区| 国产亚洲欧美在线一区二区| 国产乱人视频| 日韩精品中文字幕看吧| 级片在线观看| 一个人看的www免费观看视频| cao死你这个sao货| 一本久久中文字幕| 欧美日韩中文字幕国产精品一区二区三区| av片东京热男人的天堂| 国产爱豆传媒在线观看| 国产1区2区3区精品| www日本在线高清视频| 91久久精品国产一区二区成人 | 91字幕亚洲| 69av精品久久久久久| 无遮挡黄片免费观看| 最新在线观看一区二区三区| 91麻豆精品激情在线观看国产| 男人舔女人下体高潮全视频| a在线观看视频网站| 国产毛片a区久久久久| 国产成+人综合+亚洲专区| 精品久久久久久成人av| 中文亚洲av片在线观看爽| 99国产综合亚洲精品| 叶爱在线成人免费视频播放| 国产免费男女视频| av视频在线观看入口| 国产成年人精品一区二区| 听说在线观看完整版免费高清| 全区人妻精品视频| 两人在一起打扑克的视频| 亚洲成人免费电影在线观看| 一夜夜www| 亚洲美女黄片视频| 国产亚洲欧美98| 日本与韩国留学比较| 成人欧美大片| 国产91精品成人一区二区三区| 午夜福利成人在线免费观看| 黄色成人免费大全| 国产高清视频在线观看网站| 久久久久国产精品人妻aⅴ院| 最好的美女福利视频网| 十八禁人妻一区二区| 露出奶头的视频| 国产欧美日韩一区二区精品| 美女大奶头视频| 久久午夜亚洲精品久久| 欧美黑人巨大hd| 欧美高清成人免费视频www| 久9热在线精品视频| 国产免费av片在线观看野外av| 最新美女视频免费是黄的| 午夜a级毛片| 亚洲电影在线观看av| 少妇丰满av| 麻豆一二三区av精品| 一卡2卡三卡四卡精品乱码亚洲| 丝袜人妻中文字幕| 亚洲成a人片在线一区二区| 99精品欧美一区二区三区四区| 欧美日韩中文字幕国产精品一区二区三区| 男女做爰动态图高潮gif福利片| 天堂网av新在线| 欧美性猛交╳xxx乱大交人| 国产精品亚洲一级av第二区| 亚洲天堂国产精品一区在线| 午夜成年电影在线免费观看| 亚洲熟妇中文字幕五十中出| 两性夫妻黄色片| 久久久久久国产a免费观看| 国产主播在线观看一区二区| 国内久久婷婷六月综合欲色啪| 香蕉丝袜av| 在线观看午夜福利视频| 99久久99久久久精品蜜桃| 欧美日韩乱码在线| 窝窝影院91人妻| 狂野欧美激情性xxxx| 亚洲精品美女久久久久99蜜臀| 国产成人aa在线观看| 亚洲真实伦在线观看| 女生性感内裤真人,穿戴方法视频| 日韩三级视频一区二区三区| 一个人观看的视频www高清免费观看 | 成年版毛片免费区| 成人18禁在线播放| 午夜福利在线观看吧| 三级国产精品欧美在线观看 | 免费观看精品视频网站| 日本在线视频免费播放| 日韩高清综合在线| 小说图片视频综合网站| 每晚都被弄得嗷嗷叫到高潮| 国产乱人视频| 又粗又爽又猛毛片免费看| 老司机午夜福利在线观看视频| 欧洲精品卡2卡3卡4卡5卡区| 69av精品久久久久久| 两个人视频免费观看高清| 国产又色又爽无遮挡免费看| 色综合婷婷激情| tocl精华| 国产精品,欧美在线| 不卡一级毛片| 不卡一级毛片| 中文资源天堂在线| 久久伊人香网站| 免费搜索国产男女视频| 在线a可以看的网站| 精品国产乱子伦一区二区三区| 久久伊人香网站| 一进一出好大好爽视频| www国产在线视频色| 精品一区二区三区视频在线 | 啦啦啦韩国在线观看视频| 91老司机精品| 亚洲欧美日韩高清专用| 在线十欧美十亚洲十日本专区| 麻豆国产av国片精品| 精品午夜福利视频在线观看一区| 曰老女人黄片| 九九在线视频观看精品| 1024手机看黄色片| 一a级毛片在线观看| 成人鲁丝片一二三区免费| 色老头精品视频在线观看| 全区人妻精品视频| 99久久综合精品五月天人人| 国产成人aa在线观看| 精品久久久久久久末码| 成年免费大片在线观看| 欧美乱码精品一区二区三区| bbb黄色大片| 90打野战视频偷拍视频| 久久中文字幕一级| 九九在线视频观看精品| 欧美色欧美亚洲另类二区| 午夜a级毛片| 中出人妻视频一区二区| 国产不卡一卡二| 欧美又色又爽又黄视频| 亚洲在线观看片| 亚洲狠狠婷婷综合久久图片| 成人av一区二区三区在线看| 成人高潮视频无遮挡免费网站| 亚洲国产欧美网| 最好的美女福利视频网| 淫秽高清视频在线观看| 亚洲av电影在线进入| 每晚都被弄得嗷嗷叫到高潮| 欧美中文综合在线视频| 18禁裸乳无遮挡免费网站照片| 成年版毛片免费区| 一区二区三区国产精品乱码| 男插女下体视频免费在线播放| 叶爱在线成人免费视频播放| 成年免费大片在线观看| 十八禁人妻一区二区| 99国产综合亚洲精品| 国产av不卡久久| 免费在线观看视频国产中文字幕亚洲| 91九色精品人成在线观看| 中亚洲国语对白在线视频| 国产精品1区2区在线观看.| 国产一区二区在线av高清观看| 成年女人永久免费观看视频| 亚洲18禁久久av| 色综合站精品国产| 成年人黄色毛片网站| 九九久久精品国产亚洲av麻豆 | 每晚都被弄得嗷嗷叫到高潮| 久久天躁狠狠躁夜夜2o2o| 久久性视频一级片| 国内毛片毛片毛片毛片毛片| 久久中文看片网| 丰满的人妻完整版| 国产精品免费一区二区三区在线| cao死你这个sao货| 精品无人区乱码1区二区| 久久热在线av| 波多野结衣巨乳人妻| 精品久久蜜臀av无| 国产精品亚洲一级av第二区| 看免费av毛片| 后天国语完整版免费观看| 男人和女人高潮做爰伦理| 色综合亚洲欧美另类图片| 国产乱人视频| 男人和女人高潮做爰伦理| 免费观看的影片在线观看| 亚洲七黄色美女视频| 午夜视频精品福利| 亚洲精品美女久久av网站| 麻豆国产av国片精品| 小蜜桃在线观看免费完整版高清| 亚洲乱码一区二区免费版| 国产一区二区三区在线臀色熟女| 国产97色在线日韩免费| 老熟妇乱子伦视频在线观看| 在线免费观看的www视频| bbb黄色大片| 香蕉久久夜色| 国产av在哪里看| 九九热线精品视视频播放| 国产成人欧美在线观看| 国产熟女xx| 久久国产乱子伦精品免费另类| 国产精品 国内视频| 老司机福利观看| 熟女电影av网| 男女那种视频在线观看| 在线观看免费视频日本深夜| 久久久久亚洲av毛片大全| 亚洲五月天丁香| 国产精华一区二区三区| 首页视频小说图片口味搜索| 18禁黄网站禁片午夜丰满| 亚洲av中文字字幕乱码综合| 久久久久精品国产欧美久久久| 免费看美女性在线毛片视频| 国产精品电影一区二区三区| 91老司机精品| 久久国产精品影院| 在线看三级毛片| 久久午夜亚洲精品久久| 亚洲五月婷婷丁香| 久久99热这里只有精品18| 国产精品av久久久久免费| 国产伦精品一区二区三区四那| 色综合亚洲欧美另类图片| 好看av亚洲va欧美ⅴa在| 不卡av一区二区三区| 色播亚洲综合网| 国产综合懂色| 999精品在线视频| 国产91精品成人一区二区三区| 欧美日韩黄片免| 国产激情欧美一区二区| www.999成人在线观看| 性色avwww在线观看| av欧美777| 久久国产乱子伦精品免费另类| 九九久久精品国产亚洲av麻豆 | 天天添夜夜摸| x7x7x7水蜜桃| 国产精品免费一区二区三区在线| 成人高潮视频无遮挡免费网站| 国产精品电影一区二区三区| 日韩欧美三级三区| 国产精品亚洲一级av第二区| 国产极品精品免费视频能看的| 窝窝影院91人妻| 精品欧美国产一区二区三| 精品久久久久久久久久久久久| 99久久综合精品五月天人人| 日韩精品中文字幕看吧| 亚洲欧洲精品一区二区精品久久久| 国产精品久久久久久人妻精品电影| 日韩人妻高清精品专区| 亚洲 欧美一区二区三区| 久久草成人影院| 香蕉丝袜av| 日韩欧美免费精品| 国产高潮美女av| 欧美一区二区精品小视频在线| 亚洲国产欧美网| 9191精品国产免费久久| 国产精品日韩av在线免费观看| 偷拍熟女少妇极品色| 亚洲欧美精品综合一区二区三区| 久久久精品大字幕| 国产亚洲精品av在线| 少妇的逼水好多| 国产欧美日韩精品一区二区| tocl精华| 后天国语完整版免费观看| 97超级碰碰碰精品色视频在线观看| 舔av片在线| 国产三级黄色录像| 精品一区二区三区视频在线 | 黄色女人牲交| 免费看美女性在线毛片视频| 久久草成人影院| 中出人妻视频一区二区| 一区二区三区国产精品乱码| 搡老岳熟女国产| 欧美+亚洲+日韩+国产| 婷婷六月久久综合丁香| 999精品在线视频| 国产激情欧美一区二区| 99热精品在线国产| 欧美日韩综合久久久久久 | 日本五十路高清| 亚洲电影在线观看av| 欧美一级a爱片免费观看看| 91麻豆av在线| 18禁观看日本| 中文亚洲av片在线观看爽| 欧美日韩亚洲国产一区二区在线观看| 欧美成人免费av一区二区三区| 国产欧美日韩精品一区二区| 免费一级毛片在线播放高清视频| 18美女黄网站色大片免费观看| 成人无遮挡网站| 久9热在线精品视频| 国产精品av久久久久免费| 日韩欧美三级三区| 在线免费观看的www视频| 少妇的逼水好多| 成人欧美大片| 国产探花在线观看一区二区| 麻豆国产97在线/欧美| 久久精品人妻少妇| xxx96com| 欧美另类亚洲清纯唯美| 国产在线精品亚洲第一网站| 嫁个100分男人电影在线观看| 天天躁日日操中文字幕| 人人妻,人人澡人人爽秒播| 日韩欧美 国产精品| 麻豆一二三区av精品| 一级毛片女人18水好多| 亚洲国产色片| 国产黄a三级三级三级人| 老汉色∧v一级毛片| 中文字幕熟女人妻在线| 淫秽高清视频在线观看| 999久久久精品免费观看国产| h日本视频在线播放| 国产午夜福利久久久久久| 国内精品一区二区在线观看| 国产男靠女视频免费网站| 国产精品九九99| 久久久色成人| 一个人免费在线观看电影 | 色综合站精品国产| 国产又色又爽无遮挡免费看| 久久热在线av| 国产成人精品久久二区二区免费| 午夜精品一区二区三区免费看| 特大巨黑吊av在线直播| 中文字幕熟女人妻在线| 亚洲人与动物交配视频| 日韩欧美一区二区三区在线观看| 人人妻人人澡欧美一区二区| 国产视频一区二区在线看| 老熟妇乱子伦视频在线观看| 久久久国产欧美日韩av| 黄片小视频在线播放| 精品欧美国产一区二区三| 久久精品人妻少妇| 我要搜黄色片| 日本撒尿小便嘘嘘汇集6| 巨乳人妻的诱惑在线观看| 给我免费播放毛片高清在线观看| 母亲3免费完整高清在线观看| 日本黄色视频三级网站网址| 色吧在线观看| 国产不卡一卡二| 欧美最黄视频在线播放免费| 免费人成视频x8x8入口观看| 最近最新免费中文字幕在线| 最近最新免费中文字幕在线| 国产精品 国内视频| 99热这里只有精品一区 | 18美女黄网站色大片免费观看| 精品久久久久久久末码| 九色成人免费人妻av| 99久久精品热视频| 九九热线精品视视频播放| 久久久久亚洲av毛片大全| 日韩大尺度精品在线看网址| 久久久水蜜桃国产精品网| 在线观看日韩欧美| 美女大奶头视频| 亚洲专区中文字幕在线| 日韩国内少妇激情av| 在线观看66精品国产| 夜夜夜夜夜久久久久| www.精华液| 久久草成人影院| 欧美成人免费av一区二区三区| 好看av亚洲va欧美ⅴa在| 国产99白浆流出| 啦啦啦免费观看视频1| 丰满人妻一区二区三区视频av | 99久久成人亚洲精品观看| svipshipincom国产片| а√天堂www在线а√下载| 久久久久久久久久黄片| www日本黄色视频网| 亚洲男人的天堂狠狠| 久久草成人影院| 午夜精品久久久久久毛片777| 国产探花在线观看一区二区| 香蕉久久夜色| 12—13女人毛片做爰片一| 又粗又爽又猛毛片免费看| 露出奶头的视频| 女警被强在线播放| 丁香六月欧美| 日韩中文字幕欧美一区二区| 免费看a级黄色片| 亚洲av日韩精品久久久久久密| 成人18禁在线播放| 国产美女午夜福利| 国产探花在线观看一区二区| 曰老女人黄片| 久久99热这里只有精品18| 久久久久亚洲av毛片大全| 男女床上黄色一级片免费看| АⅤ资源中文在线天堂| 亚洲七黄色美女视频| 午夜久久久久精精品| 亚洲人成网站高清观看| 久久久久久久久免费视频了| 免费av不卡在线播放| 美女免费视频网站| 久久久精品欧美日韩精品| 亚洲成人久久爱视频| 午夜成年电影在线免费观看| 在线观看舔阴道视频| 麻豆一二三区av精品| 欧美日本亚洲视频在线播放| 国产精品久久久久久亚洲av鲁大| 亚洲国产欧洲综合997久久,| 99国产综合亚洲精品| 午夜日韩欧美国产| 亚洲av日韩精品久久久久久密| 免费一级毛片在线播放高清视频| 日韩三级视频一区二区三区| 99热精品在线国产| 一二三四社区在线视频社区8| 日本一本二区三区精品| 岛国视频午夜一区免费看| 成人18禁在线播放| 一进一出好大好爽视频| 国产av一区在线观看免费| 国产精品av视频在线免费观看| 国产成人啪精品午夜网站| 99久久精品热视频| 亚洲欧洲精品一区二区精品久久久| 他把我摸到了高潮在线观看| 国产 一区 欧美 日韩| 精品乱码久久久久久99久播| 国产av一区在线观看免费| 1024香蕉在线观看| 亚洲av成人精品一区久久| 国产欧美日韩精品亚洲av| 国产精品电影一区二区三区| 亚洲中文av在线| 成人精品一区二区免费| 亚洲国产欧美人成| 小蜜桃在线观看免费完整版高清| 淫秽高清视频在线观看| 搡老熟女国产l中国老女人| 日韩欧美免费精品| 成人高潮视频无遮挡免费网站| 欧美在线一区亚洲| 三级男女做爰猛烈吃奶摸视频| 俺也久久电影网| av在线蜜桃| 无人区码免费观看不卡| 免费看a级黄色片| 国产v大片淫在线免费观看| 最新中文字幕久久久久 | 亚洲熟女毛片儿| 1024手机看黄色片| 91字幕亚洲| 欧美黄色淫秽网站| 国产不卡一卡二| 国产高清videossex| 精品乱码久久久久久99久播| 国内精品久久久久精免费| 亚洲精品粉嫩美女一区| 在线国产一区二区在线| 香蕉丝袜av| 手机成人av网站| 亚洲九九香蕉| 婷婷亚洲欧美| 十八禁人妻一区二区| 每晚都被弄得嗷嗷叫到高潮| 99久久国产精品久久久| 男人舔奶头视频| 免费看日本二区| 久久精品夜夜夜夜夜久久蜜豆| 99久久成人亚洲精品观看| 波多野结衣高清作品| 日日摸夜夜添夜夜添小说| 国产一区二区三区在线臀色熟女| 亚洲va日本ⅴa欧美va伊人久久| 狠狠狠狠99中文字幕| 亚洲欧美精品综合一区二区三区| 桃红色精品国产亚洲av| 久久久久久人人人人人| av片东京热男人的天堂| 99re在线观看精品视频| 制服人妻中文乱码| 久久香蕉国产精品| 熟妇人妻久久中文字幕3abv| 嫩草影院入口| av在线蜜桃| e午夜精品久久久久久久| 一区福利在线观看| 精品久久久久久久久久免费视频| 国产亚洲欧美在线一区二区| 久久久久免费精品人妻一区二区| 亚洲黑人精品在线| 国产99白浆流出| 免费在线观看成人毛片| 精华霜和精华液先用哪个| 级片在线观看| 久久久久久国产a免费观看| 亚洲无线观看免费| 91久久精品国产一区二区成人 | 成人永久免费在线观看视频| 国产精品 国内视频| 午夜福利在线观看免费完整高清在 | 国产精品国产高清国产av| 18禁裸乳无遮挡免费网站照片| 精品电影一区二区在线| 成年女人毛片免费观看观看9| 国产伦精品一区二区三区视频9 | 精品日产1卡2卡| 日韩欧美三级三区| 亚洲成av人片在线播放无| 久久亚洲真实| 国内精品美女久久久久久| 日本撒尿小便嘘嘘汇集6|