• <tr id="yyy80"></tr>
  • <sup id="yyy80"></sup>
  • <tfoot id="yyy80"><noscript id="yyy80"></noscript></tfoot>
  • 99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

    利用優(yōu)先級雙重深度強化學(xué)習(xí)的自適應(yīng)Web服務(wù)組合方法

    2022-06-01 13:36:48張鑫雯
    計算機測量與控制 2022年5期
    關(guān)鍵詞:適應(yīng)能力動態(tài)深度

    張鑫雯

    (新疆工程學(xué)院 工程技能實訓(xùn)學(xué)院,烏魯木齊 830023)

    0 引言

    隨著Web服務(wù)數(shù)量的急劇增加,網(wǎng)絡(luò)數(shù)據(jù)請求日益增多,且呈現(xiàn)出復(fù)雜化的趨勢,Web服務(wù)組合的優(yōu)化難度越來越大,要求也越來越高。如何從眾多的候選服務(wù)中快速地選擇出滿足用戶要求的可靠服務(wù),在服務(wù)計算機方面帶來了一定的技術(shù)障礙。面向服務(wù)計算(SOC,service-oriented computing)的應(yīng)用主要是用來解決多款軟件在多個平臺中的相互協(xié)作,在不同服務(wù)提供商以及消費者能夠合作的系統(tǒng)上,才可以更好的將SOC的作用發(fā)揮出來。由于單一服務(wù)無法確保符合人們對實際要求,多個服務(wù)開展合作就成了必然需求。服務(wù)組合的目的就是未來能夠進(jìn)一步制定面向服務(wù)架構(gòu)(SOA,service-oriented architecture)。在該過程中,最大的挑戰(zhàn)是,如何從一組功能等效的服務(wù)組合中選擇滿足服務(wù)質(zhì)量(QoS,quality of service)約束的最佳集合。雖然滿足QoS的服務(wù)組合在SOC和SOA領(lǐng)域得到了廣泛研究,但大多數(shù)現(xiàn)有的服務(wù)組合方法都建立于確定性環(huán)境中,當(dāng)面對動態(tài)服務(wù)環(huán)境時,這些方法大多會失效。因為SOC本就具有動態(tài)特征,并且十分復(fù)雜,所以服務(wù)組合方法就要確保能夠更好地滿足服務(wù)環(huán)境將會發(fā)生變化的可能。除此之外,功能等效服務(wù)數(shù)量呈現(xiàn)幾何倍數(shù)遞增,所以這就要求要設(shè)計更加高效的算法,以便能夠快速在候選服務(wù)組合中進(jìn)行選擇的問題。

    強化學(xué)習(xí)(RL,reinforcement learning)通過一系列順序決策來達(dá)到特定目標(biāo),在該策略過程中,智能體與環(huán)境進(jìn)行交互,通過反復(fù)試驗來獲得最佳學(xué)習(xí)方案,目前,RL已經(jīng)成為處理自適應(yīng)服務(wù)組合的強大工具,通過與動態(tài)服務(wù)環(huán)境的交互進(jìn)行反復(fù)學(xué)習(xí),RL可以動態(tài)地選擇最佳服務(wù)集,無需對服務(wù)環(huán)境的完整性和充分性進(jìn)行了解。近年來,基于RL的自適應(yīng)服務(wù)組合算法受到越來越多的關(guān)注,如Q學(xué)習(xí)及其相關(guān)的算法。這些算法通常將服務(wù)組合建模為一個隨機過程,在該過程中,智能體通過在動態(tài)環(huán)境中與這些服務(wù)的順序交互和迭代交互,選擇具有最高QoS值的Web服務(wù)集。雖然這些算法已經(jīng)成功應(yīng)用于中小型Web服務(wù)環(huán)境,但當(dāng)部署到大規(guī)模服務(wù)環(huán)境時,其難以獲得良好的狀態(tài)空間和行為空間,影響了學(xué)習(xí)過程的穩(wěn)定性。

    針對上述問題,本文將探討采取Web服務(wù)組合方法,該方法能夠真正實現(xiàn)深度學(xué)習(xí)。首先,要通過利用特定的馬爾科夫決策過程(POMDP)進(jìn)行建模。然后,在POMDP基礎(chǔ)上,結(jié)合雙重深度強化學(xué)習(xí)方法對優(yōu)化策略進(jìn)行分層重構(gòu)并求得最優(yōu)解。通過該方法能夠提高服務(wù)組合在可變服務(wù)環(huán)境下的可靠性、準(zhǔn)確度和決策效率。該方法的主要創(chuàng)新點在于:

    1)基于POMDP針對大規(guī)模Web服務(wù)組合不同策略建立相應(yīng)的數(shù)學(xué)模型,不僅減少了分析的過程,同時能夠?qū)崿F(xiàn)效率對優(yōu)化。

    2)在POMDP基礎(chǔ)上,結(jié)合優(yōu)先級雙重深度強化學(xué)習(xí)方法對優(yōu)化策略進(jìn)行分層重構(gòu)并求得最優(yōu)解,提高了組合服務(wù)對動態(tài)服務(wù)環(huán)境的適應(yīng)能力。

    1 基于POMDP的組合優(yōu)化模型

    POMDP是一個離散時間的隨機決策過程,用于對不確定決策進(jìn)行建模、描述動態(tài)環(huán)境下服務(wù)組合和自適應(yīng)過程。POMDP定義如下:

    定義1:POMDP模型。

    組合優(yōu)化模型的基礎(chǔ)是POMDP模型,POMDP模型是一個5元組,即POMDP=(

    S

    A

    ,

    P

    ,

    R

    ,

    Y

    )。其中:

    S

    為一組有限狀態(tài)集合,

    S

    S

    S

    表示第

    i

    步的狀態(tài);

    A

    為一組有限動作集合,有

    a

    A

    ,

    a

    表示第

    i

    步的動作。

    P

    是狀態(tài)轉(zhuǎn)換概率,表示智能體在經(jīng)過動作

    a

    的作用后,從狀態(tài)

    s

    轉(zhuǎn)移到

    S

    ′的概率可以表示為

    P

    (

    s

    ′|

    s

    ,

    a

    )。

    R

    是獎勵函數(shù),在狀態(tài)

    S

    條件下,采取動作

    a

    ,到達(dá)下一狀態(tài)所能獲得的回報值

    γ

    定義為

    γ

    =

    R

    (

    s

    ′|

    s

    ,

    a

    );

    γ

    為折扣因子,

    γ

    ∈[0,1]表示的是區(qū)分未來獎勵與即時獎勵重要性的影響因素。POMDP屬于一種典型的決策策略。

    π

    反映的是一種概率分布,一般為從狀態(tài)到動作所產(chǎn)生的概率。

    π

    是從狀態(tài)到動作的映射,表示為

    π

    :

    s

    A

    。若POMDP是偶發(fā)性的,即狀態(tài)在每個長度為

    t

    的事件之后重置,則每個事件中的狀態(tài)、動作和回報序列將構(gòu)成策略軌跡或策略制定。每次策略制定都會從環(huán)境中獲得回報

    R

    。因此,針對POMDP模型做出優(yōu)化的最終目標(biāo)就是要發(fā)現(xiàn)其中的最優(yōu)策略,該策略幾乎可以涵蓋全部的最大預(yù)期回報值。

    2 強化學(xué)習(xí)以實現(xiàn)服務(wù)組合

    由于動態(tài)環(huán)境的復(fù)雜性,當(dāng)前缺乏有效的解決方案。所以如果在具有動態(tài)性特點且無法準(zhǔn)確確定的環(huán)境中使用RL實現(xiàn)自適應(yīng)服務(wù)組合能夠起到很好的效果。在組合模型中通過RL,在基于自適應(yīng)方法進(jìn)而確定最優(yōu)秀的服務(wù)策略。

    RL通過順序決策來達(dá)到特定目標(biāo),智能體能夠利用上述算法從其他智能體在動態(tài)、復(fù)雜環(huán)境表現(xiàn)進(jìn)行學(xué)習(xí),比如學(xué)習(xí)它們?nèi)绾芜M(jìn)行交互,如何在環(huán)境中實現(xiàn)信息的獲取。通常將這種環(huán)境定義為POMDP。在此條件下,RL能夠利用它與環(huán)境的協(xié)作進(jìn)一步得到最優(yōu)策略。該策略能夠利用四元組(

    s

    ,

    a

    ,

    γ

    ,

    s

    +1)的近似Q函數(shù)得到,其中,

    s

    反映的是在

    t

    時間的環(huán)境狀態(tài)情況,

    a

    反映的是選擇的控制動作,

    γ

    反映的是獲得的即時獎勵,

    s

    +1反映的是后繼的環(huán)境狀態(tài),基于以上四元組能夠通過Q函數(shù)得到相應(yīng)的控制策略。RL算法應(yīng)用效果最為明顯的場景是復(fù)雜控制場景,并且短時間內(nèi)無法確定最佳控制方案。對于一些動態(tài)環(huán)境,通過在自適應(yīng)服務(wù)組合中使用這一算法將會發(fā)揮更好的效果。所以,如果模型中涉及到RL算法就可以確保模型的學(xué)習(xí)效果,進(jìn)而得到相對優(yōu)秀從而得到一個最佳的策略。利用POMDP具體如下。

    定義2:基于POMDP的Web服務(wù)組合(POMDP-WSC)。

    這個回報值可用如下方法來計算:

    Q

    (

    s

    ,

    a

    )=

    Q

    (

    s

    ,

    a

    )+

    a

    [

    r

    +

    γ

    max·

    Q

    (

    s

    ′-

    a

    ′)-

    Q

    (

    s

    ,

    a

    )]

    (1)

    式中,

    s

    表示狀態(tài)空間(即抽象服務(wù)),為了滿足用戶請求智能體

    i

    遍歷的所有可能工作流;

    α

    代表可用Web服務(wù)的動作向量;

    r

    表示選擇特定服務(wù)而獲得的回報值;

    α

    是控制收斂性的學(xué)習(xí)速率;

    γ

    是反映學(xué)習(xí)策略的折扣因子。當(dāng)智能

    i

    體選擇Web服務(wù)

    ws

    時,它會收到回報,該回報值是

    ws

    的 QoS屬性的累計值。能夠利用下面計算公式進(jìn)行計算:

    (2)

    模型構(gòu)建過程中,通過

    ε

    -貪婪策略,確保任意一個智能體在過去體驗過的Web服務(wù)與當(dāng)前隨機選擇的新Web服務(wù)做出對比。如果智能體

    i

    ,確定了狀態(tài)以及一組能夠使用的Web服務(wù)

    A

    (

    s

    ),那么智能體

    i

    選擇下一個Web服務(wù)

    α

    的概率可以表示為如下公式:

    (3)

    其中:

    ε

    反映的是一個Web服務(wù)的概率。所有的智能體

    i

    按照它的策略以(1-

    ε

    )的概率確定最優(yōu)的Web服務(wù),不然將通過

    ε

    概率任意從中選擇一個Web服務(wù)。

    3 優(yōu)先級雙重深度強化學(xué)習(xí)的組合優(yōu)化模型

    深度學(xué)習(xí)是機器學(xué)習(xí)算法的一個領(lǐng)域,旨在學(xué)習(xí)多層次的表示和抽象,以幫助理解圖像、聲音和文本等復(fù)雜數(shù)據(jù)。深度學(xué)習(xí)采用多層非線性處理單元進(jìn)行特征提取和轉(zhuǎn)換,當(dāng)前層使用前一層的輸出作為輸入。在學(xué)習(xí)過程中,不同的抽象層次對應(yīng)不同的表征層次,這些層次的形成最終變成了層次結(jié)構(gòu),即,深度學(xué)習(xí)的結(jié)構(gòu)。

    3.1 深度強化學(xué)習(xí)

    在RL中加入深度學(xué)習(xí)就變成了深度強化學(xué)習(xí)(DRL,deep reinforcement learning)。深度學(xué)習(xí)的應(yīng)用使強化學(xué)習(xí)能夠擴展到以前難以解決的領(lǐng)域,例如,具有高維狀態(tài)和動作空間的問題。實際上,大規(guī)模的狀態(tài)空間和動作空間使得單獨對每個狀態(tài)-動作對的Q學(xué)習(xí)數(shù)值進(jìn)行估計非常困難。為了解決這個問題,使用深度強化學(xué)習(xí)代表具有深度神經(jīng)網(wǎng)絡(luò)的智能體的各個組成部分,例如,策略

    π

    (

    s

    ,

    a

    )和狀態(tài)動作映射空間

    Q

    (

    s

    ,

    a

    )。對這些深度神經(jīng)網(wǎng)絡(luò)的參數(shù)使用梯度下降法進(jìn)行訓(xùn)練,以便使其損失最小化。學(xué)習(xí)過程具體如下:首先,智能體從環(huán)境中獲得一個觀察結(jié)果,并將其作為輸入傳遞給深度神經(jīng)網(wǎng)絡(luò)。然后,深度神經(jīng)網(wǎng)絡(luò)從高維輸入或觀察中學(xué)習(xí)抽象表示,接著評估動作空間并根據(jù)當(dāng)前觀察結(jié)果映射合適的動作。最后,環(huán)境對這個動作給出反應(yīng),并過渡到下一個環(huán)節(jié)。針對大規(guī)模環(huán)境下的服務(wù)組合問題,提出了一種基于DRL的服務(wù)組合方法。

    3.2 基于深度強化學(xué)習(xí)的服務(wù)組合方法

    為了在大規(guī)模服務(wù)環(huán)境中實現(xiàn)自適應(yīng)服務(wù)組合,本文提出了一種將DRL應(yīng)用到服務(wù)組合的方法,采用DQN作為基準(zhǔn),使用雙Q學(xué)習(xí)對提出的方法進(jìn)行強化,以解決Q學(xué)習(xí)過程中出現(xiàn)的高估偏差問題。通過將引導(dǎo)操作的選擇步驟和評價步驟進(jìn)行分離,消除Q學(xué)習(xí)的高估偏差;此外,還實施了優(yōu)先體驗重播方案,通過更頻繁地重播需要學(xué)習(xí)的數(shù)據(jù)來提高轉(zhuǎn)換效率。每個強化措施都大大提升了學(xué)習(xí)方法的性能,采用的強化措施也解決了幾個具有挑戰(zhàn)性的問題,所提方法如下。

    3.2.1 DQN

    為了估算給定狀態(tài)

    S

    的動作值,將其作為神經(jīng)網(wǎng)絡(luò)的輸入(以原始像素幀的堆棧形式),深度神經(jīng)網(wǎng)絡(luò)和強化學(xué)習(xí)通過使用卷積神經(jīng)網(wǎng)絡(luò)在DQN中成功組合。在每個步驟中,根據(jù)當(dāng)前狀態(tài),智能體會根據(jù)動作值選擇一個動作,并根據(jù)動作值應(yīng)用貪婪策略添加一個轉(zhuǎn)換值到重播存儲緩沖區(qū)(

    S

    ,

    A

    ,

    R

    +1,

    γ

    +1,

    S

    +1)。此重播存儲緩沖區(qū)保存最后一百萬次轉(zhuǎn)換值。然后,使用隨機梯度下降法來優(yōu)化神經(jīng)網(wǎng)絡(luò)的參數(shù),使其損失最小化,如下所示:

    (4)

    3.2.2 雙Q學(xué)習(xí)

    如式(1)所示,由于Q學(xué)習(xí)會受到高估偏差的影響,這種高估偏差反過來又會導(dǎo)致差異,影響學(xué)習(xí)過程的穩(wěn)定性。為了解決這種高估偏差,采用了一種分離方案,該方案將動作的選擇與對動作的評估分開。這種分離方案可以有效地與DQN結(jié)合,其損失表示如下:

    (5)

    如此,可有效減少DQN中存在的不利高估偏差,有助于提高學(xué)習(xí)過程的穩(wěn)定性。

    3.2.3 優(yōu)先重播

    優(yōu)先重播的基本思想是先保存某個智能體的經(jīng)驗,然后統(tǒng)一提取這些已經(jīng)保存的經(jīng)驗,從而有效地訓(xùn)練神經(jīng)網(wǎng)絡(luò)。通過不斷保存和提取經(jīng)驗,智能體能夠在具體任務(wù)中更加有效地學(xué)習(xí)。然而在實踐中,智能體需要頻繁地從具有更高優(yōu)先級的經(jīng)驗庫中取樣,即從中學(xué)習(xí)更多的經(jīng)驗。為此,在所提方法中設(shè)計了一個經(jīng)驗優(yōu)先重播方案,該方案能夠以概率

    P

    進(jìn)行轉(zhuǎn)換采樣,

    P

    與最后遇到的絕對時間差有關(guān),表示如下:

    (6)

    式中,

    ω

    是確定分布形狀的超參數(shù)。優(yōu)先重播方案以最大優(yōu)先級將新轉(zhuǎn)換的經(jīng)驗插入到經(jīng)驗庫中。

    4 實驗結(jié)果與分析

    為了從不同的角度評價所提方法,進(jìn)行了兩個實驗。第一個實驗研究了環(huán)境規(guī)模對該方法學(xué)習(xí)高質(zhì)量服務(wù)組合策略的影響。第二個實驗評估了該方法在動態(tài)服務(wù)環(huán)境中的性能以及動態(tài)變化對學(xué)習(xí)過程的影響。

    4.1 實驗設(shè)計

    所提方法在連續(xù)迭代的單集中運行,直到達(dá)到收斂點。當(dāng)智能體在連續(xù)數(shù)個事件中獲得相同的累積回報值時,它就能夠進(jìn)一步得出相應(yīng)的最佳策略。然后將累積回報值再作對比,同時利用閾值對差異進(jìn)行預(yù)測。閾值參數(shù)一般設(shè)定成0.001,連續(xù)次數(shù)一般設(shè)定成1 000。

    在實驗中,利用Web 服務(wù)質(zhì)量的數(shù)據(jù)集合需要用到QoS的3個參數(shù),一是可用性,二是可靠性,三是響應(yīng)時間。再通過QoS向量就能夠計算出每個工作流的平均累積回報,具體如表1所示。

    表1 聚合參數(shù)設(shè)置

    4.2 實驗對比

    為了驗證所提學(xué)習(xí)方法的可行性和效率,將其與文獻(xiàn)[4]、文獻(xiàn)[7]、文獻(xiàn)[9]提出方法進(jìn)行比較。實驗中的參數(shù)設(shè)置是根據(jù)文獻(xiàn)[13]中的模擬實驗建立,如表2所示。

    表2 對比實驗參數(shù)設(shè)置

    4.2.1 大型環(huán)境中的Web服務(wù)組合能力分析

    4.2.1.1 學(xué)習(xí)質(zhì)量

    實驗開展的作用是對理論的驗證與評估,如果解決方案最終能夠獲得最好的一個服務(wù)選擇策略,那么通過智能體得到對平均累積回報就可以用于量化評價該方法的學(xué)習(xí)能力。不同服務(wù)數(shù)量下,所提方法、文獻(xiàn)[4]、文獻(xiàn)[7]和文獻(xiàn)[9]提出的方法所得回報數(shù)的對比結(jié)果如圖1所示。

    圖1 回報數(shù)實驗結(jié)果對比圖

    從圖1中可以看出,當(dāng)服務(wù)數(shù)量為100時,所提方法所得回報數(shù)約為86,文獻(xiàn)[4]、文獻(xiàn)[7]、文獻(xiàn)[9]所得回報數(shù)分別約為54、67、84,所提方法所得回報數(shù)最高。當(dāng)服務(wù)數(shù)量為1 000時,所提方法所得回報數(shù)約為1 393,其他對比方法所得回報數(shù)分別為542、743、1 023。由此可見,所提方法的總回報數(shù)高于其他幾種對比方法,具有更好的服務(wù)組合能力。隨著服務(wù)數(shù)量的增加,4種方法所得回報數(shù)都會增加,但所提方法所得回報數(shù)增加速度最快。該結(jié)果表明,所提方法更適合大規(guī)模Web服務(wù)組合的應(yīng)用。

    4.2.1.2 可伸縮性

    為了便于比較,將所提方法得到的可伸縮性作為基準(zhǔn)量,將其他幾種方法得到的可伸縮性與所提方法的比值(即相對可伸縮性)進(jìn)行對比,結(jié)果如圖2所示。

    圖2 可伸縮性實驗對比結(jié)果圖

    從圖2中看出,當(dāng)服務(wù)數(shù)量為100時,文獻(xiàn)[4]、文獻(xiàn)[7]、文獻(xiàn)[9]得到的可伸縮性分別約為0.36、0.84、0.86,可伸縮性均小于1.0,可見所提方法的可伸縮性較高,更加有能力面對可變服務(wù)環(huán)境。當(dāng)服務(wù)數(shù)量為2 000時,文獻(xiàn)[9]提出的方法得到的可伸縮性約為1.02,大于1.0,其可伸縮性優(yōu)于所提方法。但在大部分實驗環(huán)境下,所提方法的可伸縮性優(yōu)于其他幾種對比方法,在處理可變服務(wù)環(huán)境時的綜合表現(xiàn)最為理想。

    4.2.2 動態(tài)服務(wù)環(huán)境中的Web服務(wù)組合能力分析

    4.2.2.1 摘要服務(wù)對象的總回報

    實驗?zāi)康氖窃u估所提學(xué)習(xí)方法在動態(tài)服務(wù)環(huán)境中找到最佳服務(wù)選擇策略的能力,通過智能體在動態(tài)服務(wù)環(huán)境中收斂到最佳服務(wù)選擇策略時獲得的累積回報進(jìn)行衡量。在不同的摘要服務(wù)數(shù)量情況下,4種方法的累積回報結(jié)果如圖3所示。

    圖3 摘要服務(wù)數(shù)量與總回報的關(guān)系

    從圖3中可以看出,當(dāng)摘要服務(wù)量為500時,所提方法得到的總回報為632,文獻(xiàn)[4]、文獻(xiàn)[7]、文獻(xiàn)[9]中方法所得到的總回報分別約為254、302、304,因此,所提方法所得到的總回報最高。同樣,當(dāng)摘要服務(wù)量為1 000時,所提方法所得的總回報也是最高的。因此,相比于其他幾種對比方法,所提方法在面對動態(tài)服務(wù)對象時具有明顯優(yōu)勢。

    4.2.2.2 可靠性

    在不同服務(wù)數(shù)量下,所提方法和文獻(xiàn)[4]、文獻(xiàn)[7]和文獻(xiàn)[9]的可靠性結(jié)果如圖4所示。將所提方法的可靠性作為基準(zhǔn)比較量,其他方法的可靠性與所提方法的可靠性的比例為相對可靠性。

    從圖4中可以看出,當(dāng)服務(wù)量為100時,所提方法的可靠性為1.0,其他對比方法分別是0.83、0.9、0.95。因此,所提方法得到的相對可靠性最高,求解質(zhì)量最好。當(dāng)服務(wù)數(shù)量為2 000時,所提方法得到的相對可靠性仍然最高,求解質(zhì)量最好,文獻(xiàn)[9]所提方法次之,文獻(xiàn)[7]所提方法略差,文獻(xiàn)[4]所提方法在可靠性方面表現(xiàn)最差。

    圖4 可靠性的實驗結(jié)果

    4.2.2.3 動態(tài)環(huán)境適應(yīng)能力

    在不同服務(wù)數(shù)量下,所提方法和文獻(xiàn)[4]、文獻(xiàn)[7]、文獻(xiàn)[9]的動態(tài)環(huán)境適應(yīng)能力如圖5所示。為了便于分析,將所提方法的動態(tài)環(huán)境適應(yīng)能力作為基準(zhǔn)比較量,將其他方法與所提方法之間的可靠性比值(相對動態(tài)環(huán)境適應(yīng)能力)進(jìn)行對比。

    圖5 動態(tài)環(huán)境適應(yīng)能力的實驗結(jié)果

    從圖5中可以看出,當(dāng)服務(wù)數(shù)量為100時,所提方法得到的動態(tài)環(huán)境適應(yīng)能力最高,對環(huán)境的適應(yīng)能力最強,文獻(xiàn)[9]與文獻(xiàn)[7]所提方法次之,文獻(xiàn)[4]所提方法的動態(tài)環(huán)境適應(yīng)能力最差,且差距較大。當(dāng)服務(wù)量為2 000時,所提方法得到的相對動態(tài)環(huán)境適應(yīng)能力為1.0,文獻(xiàn)[4]、文獻(xiàn)[7]、文獻(xiàn)[9]提出的方法所得相對動態(tài)環(huán)境適應(yīng)能力分別為0.83、0.90和0.95。此外,當(dāng)服務(wù)數(shù)量增加時,相對動態(tài)適應(yīng)能力都會隨之減弱,這說明服務(wù)數(shù)量越多,對動態(tài)環(huán)境的適應(yīng)能力越弱。然而,相比文獻(xiàn)[4]、文獻(xiàn)[7]和文獻(xiàn)[9]提出的方法,所提方法的相對動態(tài)適應(yīng)能力較強,在動態(tài)環(huán)境適應(yīng)方面表現(xiàn)最好。

    5 結(jié)束語

    針對大規(guī)模Web服務(wù)組合在動態(tài)環(huán)境下難以實現(xiàn)高可靠性、高動態(tài)適應(yīng)能力的問題,探討了一種采取Web服務(wù)組合的方法,該方法充分發(fā)揮了深度學(xué)習(xí)的優(yōu)勢以及POMDP模型的作用,通過模型能夠獲得更加的策略,不僅簡化了組合步驟,顯著提高了大規(guī)模Web組合服務(wù)的計算效率。該方法利用優(yōu)先級雙重深度強化學(xué)習(xí)對優(yōu)化策略進(jìn)行分層重構(gòu)并求取最優(yōu)解,有效提升了組合服務(wù)在動態(tài)服務(wù)環(huán)境下的適應(yīng)能力。實驗結(jié)果表明,相比其他幾種現(xiàn)有方法,所提方法在Web服務(wù)組合應(yīng)用中具有更高的可靠性和更高的效率。

    未來,將會引入“協(xié)同效應(yīng)值”,將服務(wù)質(zhì)量作為信息素,以求解并行服務(wù)的協(xié)同效應(yīng)值,從而獲得綜合評價值最高的服務(wù)組合方法。

    猜你喜歡
    適應(yīng)能力動態(tài)深度
    國內(nèi)動態(tài)
    國內(nèi)動態(tài)
    國內(nèi)動態(tài)
    大學(xué)生社會適應(yīng)能力培養(yǎng)的有效途徑探索
    深度理解一元一次方程
    動態(tài)
    深度觀察
    深度觀察
    深度觀察
    初中生拖延行為與社會適應(yīng)能力的相關(guān)研究
    这个男人来自地球电影免费观看| 久久久精品国产亚洲av高清涩受| 久久久久久人人人人人| 久久久久久久久久久久大奶| 国产日韩欧美视频二区| 精品久久久久久电影网| 午夜免费观看性视频| 男女国产视频网站| 久久人妻熟女aⅴ| 国产三级黄色录像| 久久天堂一区二区三区四区| 波多野结衣av一区二区av| 欧美 日韩 精品 国产| 日韩 亚洲 欧美在线| 国产亚洲精品一区二区www | 午夜福利视频在线观看免费| 丝瓜视频免费看黄片| 亚洲五月色婷婷综合| 欧美 亚洲 国产 日韩一| 国产成人精品久久二区二区免费| 免费久久久久久久精品成人欧美视频| 久久久久国产一级毛片高清牌| 成人手机av| 又大又爽又粗| 欧美在线一区亚洲| 国产精品成人在线| 久久久水蜜桃国产精品网| 欧美变态另类bdsm刘玥| 国产日韩欧美亚洲二区| 欧美日韩亚洲高清精品| 久久精品国产a三级三级三级| 在线观看免费高清a一片| 9色porny在线观看| 老司机福利观看| 精品国产一区二区久久| 一区在线观看完整版| 久久久久久久久久久久大奶| 交换朋友夫妻互换小说| 人成视频在线观看免费观看| 一二三四社区在线视频社区8| 水蜜桃什么品种好| 欧美另类亚洲清纯唯美| 亚洲av日韩在线播放| 久久精品国产a三级三级三级| 黑人欧美特级aaaaaa片| 超色免费av| 国产亚洲欧美在线一区二区| 无限看片的www在线观看| 国产一区二区在线观看av| 深夜精品福利| 亚洲国产成人一精品久久久| 91老司机精品| 国产精品 国内视频| 国产xxxxx性猛交| 国产精品久久久久成人av| 色婷婷av一区二区三区视频| 久久久久精品人妻al黑| 亚洲一区中文字幕在线| 一级片'在线观看视频| 成年人免费黄色播放视频| 91成人精品电影| 性少妇av在线| 视频区欧美日本亚洲| 美女高潮喷水抽搐中文字幕| 国产淫语在线视频| 久久国产精品男人的天堂亚洲| 桃红色精品国产亚洲av| 欧美激情极品国产一区二区三区| 日本黄色日本黄色录像| 男女高潮啪啪啪动态图| 十八禁人妻一区二区| 伊人亚洲综合成人网| 性色av乱码一区二区三区2| 久久女婷五月综合色啪小说| 亚洲国产精品999| 蜜桃在线观看..| 黄片小视频在线播放| 亚洲国产看品久久| 亚洲美女黄色视频免费看| 黄片大片在线免费观看| 欧美xxⅹ黑人| 欧美激情高清一区二区三区| 国产av精品麻豆| 最近中文字幕2019免费版| 久久国产精品大桥未久av| 黄色视频不卡| 女性生殖器流出的白浆| 成人免费观看视频高清| 午夜福利在线免费观看网站| 大陆偷拍与自拍| 成年美女黄网站色视频大全免费| 性色av乱码一区二区三区2| 电影成人av| 国产精品偷伦视频观看了| 啦啦啦中文免费视频观看日本| 欧美另类亚洲清纯唯美| 免费久久久久久久精品成人欧美视频| 国产精品欧美亚洲77777| av一本久久久久| 人人澡人人妻人| 精品亚洲成国产av| 啦啦啦啦在线视频资源| 建设人人有责人人尽责人人享有的| 可以免费在线观看a视频的电影网站| 日韩制服骚丝袜av| 国产成人欧美在线观看 | 日韩人妻精品一区2区三区| 两个人免费观看高清视频| 国产高清视频在线播放一区 | 免费黄频网站在线观看国产| 午夜两性在线视频| 啦啦啦视频在线资源免费观看| 菩萨蛮人人尽说江南好唐韦庄| a级毛片在线看网站| 麻豆乱淫一区二区| 777久久人妻少妇嫩草av网站| 侵犯人妻中文字幕一二三四区| 黄网站色视频无遮挡免费观看| 亚洲熟女毛片儿| 一边摸一边做爽爽视频免费| 亚洲精品一卡2卡三卡4卡5卡 | 精品亚洲乱码少妇综合久久| 12—13女人毛片做爰片一| 蜜桃国产av成人99| 纯流量卡能插随身wifi吗| 男人舔女人的私密视频| 无遮挡黄片免费观看| 国产又爽黄色视频| 两个人免费观看高清视频| 日本精品一区二区三区蜜桃| 99国产精品免费福利视频| 亚洲av电影在线进入| 香蕉丝袜av| av网站免费在线观看视频| 黑人欧美特级aaaaaa片| www.精华液| 国产精品一区二区在线不卡| 午夜福利乱码中文字幕| 九色亚洲精品在线播放| 亚洲专区国产一区二区| 免费在线观看影片大全网站| 在线看a的网站| 大型av网站在线播放| 久久免费观看电影| 国产一区二区三区av在线| 欧美人与性动交α欧美精品济南到| 精品国产一区二区久久| 国产激情久久老熟女| 天堂8中文在线网| 真人做人爱边吃奶动态| 亚洲国产欧美网| 五月天丁香电影| 国产麻豆69| 黄片大片在线免费观看| 欧美亚洲 丝袜 人妻 在线| 国产欧美日韩一区二区精品| 欧美黄色淫秽网站| 搡老乐熟女国产| 精品高清国产在线一区| 欧美大码av| 国产成人av激情在线播放| 国产免费一区二区三区四区乱码| 男人爽女人下面视频在线观看| 欧美亚洲日本最大视频资源| 国产亚洲精品第一综合不卡| 国产野战对白在线观看| kizo精华| 大陆偷拍与自拍| 亚洲精品日韩在线中文字幕| 欧美精品一区二区免费开放| 欧美日韩一级在线毛片| 婷婷丁香在线五月| 中文字幕最新亚洲高清| 精品国产乱子伦一区二区三区 | 精品一区二区三卡| 久久亚洲国产成人精品v| 美女脱内裤让男人舔精品视频| 青草久久国产| av福利片在线| 国产精品免费大片| 黄色怎么调成土黄色| 王馨瑶露胸无遮挡在线观看| av免费在线观看网站| 新久久久久国产一级毛片| 国产一卡二卡三卡精品| 精品国产一区二区三区久久久樱花| 久久久久国内视频| 亚洲avbb在线观看| 啦啦啦视频在线资源免费观看| 亚洲一区中文字幕在线| 热99久久久久精品小说推荐| 80岁老熟妇乱子伦牲交| 精品少妇黑人巨大在线播放| 性色av乱码一区二区三区2| 亚洲色图 男人天堂 中文字幕| 国产亚洲午夜精品一区二区久久| 亚洲精品国产一区二区精华液| 精品国产一区二区三区久久久樱花| 中文精品一卡2卡3卡4更新| 国产男女内射视频| 日韩制服骚丝袜av| 国产在线观看jvid| 99久久人妻综合| 精品乱码久久久久久99久播| 在线天堂中文资源库| 欧美日本中文国产一区发布| 电影成人av| 亚洲伊人久久精品综合| 黄色片一级片一级黄色片| 亚洲欧洲日产国产| 中文字幕精品免费在线观看视频| 亚洲专区中文字幕在线| 男女床上黄色一级片免费看| 又大又爽又粗| av网站在线播放免费| 一本大道久久a久久精品| 纯流量卡能插随身wifi吗| 国产一区二区三区综合在线观看| 啪啪无遮挡十八禁网站| 国产成人欧美在线观看 | 精品亚洲乱码少妇综合久久| 18禁国产床啪视频网站| 狠狠狠狠99中文字幕| 日本wwww免费看| 黄色怎么调成土黄色| 国产精品一二三区在线看| 欧美黑人精品巨大| 国产精品99久久99久久久不卡| 又紧又爽又黄一区二区| 亚洲国产看品久久| 日韩视频一区二区在线观看| 在线观看免费午夜福利视频| 亚洲情色 制服丝袜| 麻豆乱淫一区二区| 久热这里只有精品99| 亚洲国产精品一区二区三区在线| 夜夜夜夜夜久久久久| 亚洲av成人一区二区三| 69精品国产乱码久久久| 久久午夜综合久久蜜桃| 久久久久网色| 十八禁高潮呻吟视频| 十八禁网站网址无遮挡| 日本vs欧美在线观看视频| 亚洲av男天堂| 国产av国产精品国产| 婷婷色av中文字幕| 日韩欧美一区视频在线观看| 日韩视频一区二区在线观看| 99香蕉大伊视频| 天堂8中文在线网| 韩国高清视频一区二区三区| 精品亚洲乱码少妇综合久久| 国产91精品成人一区二区三区 | 亚洲精品久久久久久婷婷小说| av一本久久久久| 久久久久国产精品人妻一区二区| 国产在线观看jvid| 国产精品av久久久久免费| 麻豆国产av国片精品| 青青草视频在线视频观看| 国产视频一区二区在线看| 人妻 亚洲 视频| 亚洲七黄色美女视频| 在线av久久热| 天天躁日日躁夜夜躁夜夜| 97在线人人人人妻| 日韩,欧美,国产一区二区三区| av超薄肉色丝袜交足视频| 一级毛片电影观看| 精品少妇一区二区三区视频日本电影| 人妻 亚洲 视频| 亚洲黑人精品在线| 亚洲国产欧美在线一区| 久久精品国产综合久久久| 无遮挡黄片免费观看| 精品国产乱码久久久久久男人| 亚洲欧美成人综合另类久久久| 国精品久久久久久国模美| 亚洲精品国产区一区二| 一本一本久久a久久精品综合妖精| 久久久久国内视频| 中文字幕最新亚洲高清| 麻豆乱淫一区二区| 老汉色av国产亚洲站长工具| 69精品国产乱码久久久| 99九九在线精品视频| 黑人巨大精品欧美一区二区蜜桃| 国产精品九九99| 精品久久久久久电影网| 精品高清国产在线一区| av线在线观看网站| 精品免费久久久久久久清纯 | 亚洲国产精品999| 十八禁人妻一区二区| 免费在线观看日本一区| 每晚都被弄得嗷嗷叫到高潮| 久久久久精品人妻al黑| 国产极品粉嫩免费观看在线| 午夜福利视频精品| 黑人巨大精品欧美一区二区蜜桃| 大陆偷拍与自拍| 日韩中文字幕视频在线看片| 在线 av 中文字幕| 另类亚洲欧美激情| 久久精品亚洲av国产电影网| 成人18禁高潮啪啪吃奶动态图| 蜜桃国产av成人99| 色94色欧美一区二区| 婷婷丁香在线五月| 老熟妇乱子伦视频在线观看 | 久久精品国产亚洲av高清一级| 久久久国产一区二区| 男人爽女人下面视频在线观看| 久久精品熟女亚洲av麻豆精品| 亚洲av欧美aⅴ国产| 亚洲精品国产色婷婷电影| 久久久精品区二区三区| 高清视频免费观看一区二区| 国产一区二区三区av在线| 国产成人免费无遮挡视频| 伊人久久大香线蕉亚洲五| 99国产精品一区二区蜜桃av | 精品人妻在线不人妻| 久久精品成人免费网站| 久久久久精品国产欧美久久久 | 午夜91福利影院| 亚洲伊人色综图| 少妇裸体淫交视频免费看高清 | 黄网站色视频无遮挡免费观看| 亚洲精品美女久久av网站| 又大又爽又粗| 黄色怎么调成土黄色| 亚洲精品乱久久久久久| 欧美日韩国产mv在线观看视频| av天堂在线播放| 国产伦人伦偷精品视频| 亚洲综合色网址| 亚洲欧美日韩另类电影网站| 亚洲视频免费观看视频| 18在线观看网站| 精品少妇久久久久久888优播| 亚洲少妇的诱惑av| 丝袜美足系列| 十八禁高潮呻吟视频| 老鸭窝网址在线观看| 一级毛片电影观看| 亚洲中文字幕日韩| 国产在线免费精品| 亚洲综合色网址| 亚洲国产成人一精品久久久| 黄色视频,在线免费观看| 黑人猛操日本美女一级片| 悠悠久久av| 午夜福利免费观看在线| 久久久久国产一级毛片高清牌| 亚洲成人免费电影在线观看| 人人妻人人澡人人爽人人夜夜| 各种免费的搞黄视频| 久久国产精品影院| 女人久久www免费人成看片| 亚洲精品乱久久久久久| 精品少妇一区二区三区视频日本电影| 亚洲成av片中文字幕在线观看| 国产精品一区二区精品视频观看| 一本一本久久a久久精品综合妖精| 亚洲av美国av| 女警被强在线播放| 成年人午夜在线观看视频| 欧美激情 高清一区二区三区| av福利片在线| 欧美 亚洲 国产 日韩一| 另类亚洲欧美激情| 亚洲国产av新网站| 99热全是精品| 人人妻人人澡人人爽人人夜夜| 免费久久久久久久精品成人欧美视频| 亚洲国产精品999| 热99re8久久精品国产| 欧美激情久久久久久爽电影 | 欧美乱码精品一区二区三区| 久久精品熟女亚洲av麻豆精品| 香蕉国产在线看| 无限看片的www在线观看| 国产欧美日韩一区二区三 | 淫妇啪啪啪对白视频 | 香蕉丝袜av| 亚洲国产精品一区三区| 国产野战对白在线观看| 十八禁人妻一区二区| 午夜91福利影院| 国产又爽黄色视频| 香蕉国产在线看| 王馨瑶露胸无遮挡在线观看| 两个人免费观看高清视频| 国产欧美日韩综合在线一区二区| 日韩 亚洲 欧美在线| 亚洲精品国产精品久久久不卡| 色综合欧美亚洲国产小说| 老司机靠b影院| 最近最新中文字幕大全免费视频| av国产精品久久久久影院| 青春草视频在线免费观看| 欧美人与性动交α欧美精品济南到| a级毛片黄视频| 日韩,欧美,国产一区二区三区| 国产97色在线日韩免费| 99热全是精品| 黑丝袜美女国产一区| 久久久久精品国产欧美久久久 | 日韩,欧美,国产一区二区三区| 国产97色在线日韩免费| 国产日韩欧美视频二区| 亚洲av电影在线进入| 男女国产视频网站| 伊人久久大香线蕉亚洲五| 一级片免费观看大全| 精品高清国产在线一区| 日韩精品免费视频一区二区三区| 99国产精品一区二区三区| 日本欧美视频一区| 99香蕉大伊视频| 国产精品一区二区精品视频观看| 在线天堂中文资源库| 婷婷丁香在线五月| 国产亚洲一区二区精品| 免费观看av网站的网址| 黄片播放在线免费| 免费黄频网站在线观看国产| 超色免费av| 亚洲欧美清纯卡通| 热99久久久久精品小说推荐| 一区二区av电影网| 欧美精品亚洲一区二区| 性高湖久久久久久久久免费观看| 久久久久国产一级毛片高清牌| 欧美激情 高清一区二区三区| 亚洲av美国av| 操美女的视频在线观看| 精品高清国产在线一区| 免费少妇av软件| 在线观看免费午夜福利视频| 狂野欧美激情性bbbbbb| 精品国内亚洲2022精品成人 | av视频免费观看在线观看| 精品国产一区二区久久| 午夜两性在线视频| 少妇裸体淫交视频免费看高清 | 女性被躁到高潮视频| 精品亚洲成a人片在线观看| 欧美日韩成人在线一区二区| 免费在线观看视频国产中文字幕亚洲 | 久久国产精品人妻蜜桃| 精品亚洲乱码少妇综合久久| 亚洲av国产av综合av卡| 夜夜骑夜夜射夜夜干| 欧美激情极品国产一区二区三区| svipshipincom国产片| av天堂在线播放| 黄片大片在线免费观看| 热99国产精品久久久久久7| 国产欧美亚洲国产| 搡老乐熟女国产| 国产xxxxx性猛交| 国产一区二区在线观看av| 亚洲成人免费电影在线观看| 国产欧美日韩一区二区三区在线| 香蕉国产在线看| 啦啦啦啦在线视频资源| 一区二区三区精品91| 亚洲熟女毛片儿| 又大又爽又粗| 热99国产精品久久久久久7| 国产免费现黄频在线看| 中国国产av一级| 精品一品国产午夜福利视频| 日本wwww免费看| 老汉色∧v一级毛片| 国产成人精品无人区| 亚洲国产欧美网| 精品乱码久久久久久99久播| 可以免费在线观看a视频的电影网站| 欧美日韩亚洲高清精品| 免费看十八禁软件| 欧美人与性动交α欧美软件| 日韩熟女老妇一区二区性免费视频| 久久人人爽av亚洲精品天堂| 日韩电影二区| 色婷婷av一区二区三区视频| 午夜视频精品福利| 又大又爽又粗| 曰老女人黄片| 国产免费福利视频在线观看| 在线观看免费高清a一片| 人妻一区二区av| 色综合欧美亚洲国产小说| 新久久久久国产一级毛片| 精品国产乱码久久久久久小说| 一边摸一边做爽爽视频免费| 性色av乱码一区二区三区2| 亚洲中文日韩欧美视频| 91精品三级在线观看| 久久影院123| 国产精品国产av在线观看| 成人三级做爰电影| 亚洲av成人不卡在线观看播放网 | av免费在线观看网站| 51午夜福利影视在线观看| 久久精品国产综合久久久| 日韩熟女老妇一区二区性免费视频| 精品一区二区三区av网在线观看 | 久久久欧美国产精品| 成人三级做爰电影| 极品少妇高潮喷水抽搐| 日本一区二区免费在线视频| 妹子高潮喷水视频| 亚洲精品久久久久久婷婷小说| av免费在线观看网站| 久久久久久久久久久久大奶| 免费日韩欧美在线观看| 性色av乱码一区二区三区2| 午夜91福利影院| 亚洲av日韩精品久久久久久密| 欧美久久黑人一区二区| 精品人妻在线不人妻| 国产男女内射视频| 巨乳人妻的诱惑在线观看| 性少妇av在线| 亚洲熟女精品中文字幕| 国产在视频线精品| 国产亚洲欧美在线一区二区| 美女扒开内裤让男人捅视频| 美女视频免费永久观看网站| 18在线观看网站| 久久久久国产精品人妻一区二区| 天天操日日干夜夜撸| 9热在线视频观看99| 欧美在线一区亚洲| 欧美日韩黄片免| 老司机影院毛片| 丁香六月欧美| 亚洲精品粉嫩美女一区| 黑人欧美特级aaaaaa片| 亚洲第一青青草原| 黑人欧美特级aaaaaa片| 99精国产麻豆久久婷婷| 91精品国产国语对白视频| 国产精品.久久久| 亚洲成人手机| 亚洲精品国产精品久久久不卡| 精品少妇久久久久久888优播| 国产伦理片在线播放av一区| 欧美少妇被猛烈插入视频| 一区福利在线观看| 狂野欧美激情性xxxx| 国产亚洲av片在线观看秒播厂| e午夜精品久久久久久久| 亚洲精品一区蜜桃| bbb黄色大片| 成人国产一区最新在线观看| 久久久国产成人免费| 亚洲精品国产av蜜桃| 日本一区二区免费在线视频| 成人国产一区最新在线观看| 99久久国产精品久久久| 乱人伦中国视频| 亚洲国产av影院在线观看| 人人妻,人人澡人人爽秒播| 一区二区av电影网| videos熟女内射| 亚洲国产欧美在线一区| 无遮挡黄片免费观看| 最新在线观看一区二区三区| 国产在线观看jvid| 国产男人的电影天堂91| 午夜免费观看性视频| 伦理电影免费视频| 久久中文看片网| 黄片播放在线免费| www.av在线官网国产| 99国产精品99久久久久| 国产精品自产拍在线观看55亚洲 | 亚洲欧美一区二区三区黑人| 蜜桃国产av成人99| 亚洲一卡2卡3卡4卡5卡精品中文| 妹子高潮喷水视频| 亚洲人成电影免费在线| 国产深夜福利视频在线观看| 99热网站在线观看| 日韩视频在线欧美| svipshipincom国产片| 欧美亚洲 丝袜 人妻 在线| 亚洲精品成人av观看孕妇| 91国产中文字幕| 成人av一区二区三区在线看 | 成人av一区二区三区在线看 | 好男人电影高清在线观看| 日韩一卡2卡3卡4卡2021年| 国产成人系列免费观看| 国产男女内射视频| 亚洲成人国产一区在线观看| 精品少妇久久久久久888优播| 91成年电影在线观看| 免费在线观看视频国产中文字幕亚洲 | 黄片大片在线免费观看| 午夜视频精品福利| 亚洲av男天堂| 精品国产一区二区三区四区第35| 男女国产视频网站| 99国产精品免费福利视频| 中文字幕高清在线视频| 91av网站免费观看| av免费在线观看网站| 免费高清在线观看视频在线观看| 蜜桃国产av成人99|