基于云網(wǎng)邊端協(xié)同計(jì)算的智能分發(fā)網(wǎng)絡(luò)研究

黃曉慶，魏旭賓，朱 磊，王 偉，楊光華

(達(dá)闥機(jī)器人有限公司，上海200245)

0 引言

智能服務(wù)機(jī)器人將成為社會發(fā)展的重要組成部分，它們將協(xié)助人類從事嚴(yán)重缺乏生產(chǎn)力或者人類不愿從事的重復(fù)、高危、困難或不潔凈的工作等。通常智能服務(wù)機(jī)器人的“大腦”位于機(jī)器人的本體上，由機(jī)器人本體獨(dú)立處理圖像、語音、地圖等信息并完成服務(wù)任務(wù)。但是機(jī)器人本體的“大腦”受到計(jì)算能力、存儲空間及能源消耗等因素的制約，無法適應(yīng)更復(fù)雜的應(yīng)用場景，為此云端機(jī)器人應(yīng)運(yùn)而生。云端機(jī)器人是將云計(jì)算技術(shù)應(yīng)用于機(jī)器人的技術(shù)。運(yùn)用云計(jì)算技術(shù)的強(qiáng)大運(yùn)算和存儲能力，能夠給機(jī)器人提供一個更智能的“大腦”[1]，但云端機(jī)器人存在分配云與端的計(jì)算任務(wù)、保證網(wǎng)絡(luò)傳輸效果、降低傳輸帶寬成本、云端實(shí)時響應(yīng)等問題需要解決。

在現(xiàn)有云端機(jī)器人理論研究的基礎(chǔ)上，本文先通過對“云-網(wǎng)-邊-端”機(jī)器人架構(gòu)的介紹，提出智能分發(fā)網(wǎng)絡(luò)的概念，解決算力、通信、存儲三大問題，再對智能分發(fā)網(wǎng)絡(luò)與內(nèi)容分發(fā)網(wǎng)絡(luò)的管理對象、管理目標(biāo)和流量模型進(jìn)行對比和討論，最后闡述在智能分發(fā)網(wǎng)絡(luò)架構(gòu)下機(jī)器人的典型應(yīng)用場景，以激發(fā)更多研究和思考，共同促進(jìn)云端機(jī)器人的發(fā)展。

1 云端機(jī)器人

1.1 智能服務(wù)機(jī)器人現(xiàn)狀及問題

據(jù)《2020中國服務(wù)機(jī)器人產(chǎn)業(yè)發(fā)展研究報(bào)告》介紹，從市場層面來看，全球范圍內(nèi)，中國服務(wù)機(jī)器人行業(yè)增速高于全球平均增速，市場規(guī)模占全球比例超25%[2]。從技術(shù)層面來看，環(huán)境感知、運(yùn)動控制、人機(jī)交互、操作系統(tǒng)及芯片幾大技術(shù)模塊的技術(shù)發(fā)展成熟度決定著服務(wù)機(jī)器人產(chǎn)品的應(yīng)用落地程度[2]。本文將主要從服務(wù)機(jī)器人的軟件系統(tǒng)層面進(jìn)行研究。

智能服務(wù)機(jī)器人的主要能力包括語言能力、視覺能力、運(yùn)動能力及情感能力等。智能機(jī)器人為實(shí)現(xiàn)這些能力，通過感知、推理、執(zhí)行三步完成[3]。為了實(shí)現(xiàn)智能服務(wù)機(jī)器人全方位的感知，其本體將集成大量的傳感器，例如高清攝像頭、激光雷達(dá)、多麥克風(fēng)陣列及紅外傳感器等。這些部件在正常運(yùn)行時將產(chǎn)生大量的采集數(shù)據(jù)，如何處理數(shù)據(jù)、計(jì)算并下發(fā)決策將面臨以下三大問題。

首先是計(jì)算能力不足問題，業(yè)界常用的海量數(shù)據(jù)處理是完全基于終端的本地化處理，該方法受制于智能終端本體的計(jì)算能力、能源消耗、樣本空間的大小，其計(jì)算能力及處理結(jié)果的準(zhǔn)確性都無法達(dá)到很高的水平。利用圖形處理器(Graphics Processing unit，GPu)執(zhí)行更快的基于區(qū)域的卷積神經(jīng)網(wǎng)絡(luò)(Faster Region-based Convolutional Neural Networks，F(xiàn)aster R-CNN)算法以進(jìn)行圖像識別，處理能力可以達(dá)到5 fps， 但是功耗達(dá)到200 W以上[4]。雖然機(jī)器人本體的計(jì)算能力不斷增強(qiáng)，但是也很難滿足人工智能(Artificial Intelligence，AI)算法對算力的需求。

其次是網(wǎng)絡(luò)通信問題，智能機(jī)器人不是信息孤島，需要通過網(wǎng)絡(luò)與外界通信來獲取信息。這些過程都受到機(jī)器人接入網(wǎng)絡(luò)質(zhì)量的影響，時延、抖動、丟包等因素都可能造成網(wǎng)絡(luò)通信不暢通、反映在機(jī)器人的響應(yīng)效果卡頓、無響應(yīng)等。

最后是數(shù)據(jù)存儲及數(shù)據(jù)安全問題，智能機(jī)器人本體的存儲空間有限，數(shù)據(jù)時效性也可能過期，需要及時獲取更新數(shù)據(jù)。數(shù)據(jù)在本地的存儲和在網(wǎng)絡(luò)中的傳輸都面臨著被盜竊、劫持、篡改的風(fēng)險。一旦數(shù)據(jù)泄露或機(jī)器人被劫持，將會對用戶的隱私及安全造成巨大的損失。

1.2 智能服務(wù)機(jī)器人云端化趨勢

通過分析智能服務(wù)機(jī)器人的問題和挑戰(zhàn)，真正解決智能機(jī)器人對算力、通信、存儲等能力的需求與現(xiàn)有機(jī)器人架構(gòu)不完善之間的矛盾，使機(jī)器人更好地為人類服務(wù)，需要從系統(tǒng)架構(gòu)的角度把機(jī)器人、通信、AI和邊緣計(jì)算、云計(jì)算技術(shù)結(jié)合起來，形成一個完整的計(jì)算通信體系，將智能機(jī)器人最終轉(zhuǎn)變成云端機(jī)器人。利用“云-網(wǎng)-邊-端”架構(gòu)實(shí)現(xiàn)云端機(jī)器人的多級智能，將位于終端的“小腦”、位于邊緣的“中腦”和位于云端的“大腦”相結(jié)合，串聯(lián)多級“腦”組成智能分發(fā)網(wǎng)絡(luò)(Intelligence Distribution Network，IDN)。目的是利用云端的強(qiáng)大計(jì)算能力和存儲能力解決機(jī)器人計(jì)算能力不足和數(shù)據(jù)存儲的問題，利用5G和云邊協(xié)同技術(shù)解決機(jī)器人到云端的通信問題。IDN是實(shí)現(xiàn)云端智能機(jī)器人大規(guī)模商用的必經(jīng)之路和關(guān)鍵技術(shù)。

2 智能分發(fā)網(wǎng)絡(luò)(IDN)

2.1 IDN概念

智能分發(fā)網(wǎng)絡(luò)是構(gòu)建在現(xiàn)有網(wǎng)絡(luò)基礎(chǔ)之上的分布式智能分發(fā)和計(jì)算系統(tǒng)。在構(gòu)建的云端、邊緣、終端多級智能架構(gòu)基礎(chǔ)之上，集中化AI訓(xùn)練、分布式AI推理，以降低中心云負(fù)載和上行網(wǎng)絡(luò)帶寬，提高云端機(jī)器人的反應(yīng)速度和云端大腦的智能程度。

IDN的本質(zhì)是一個基于網(wǎng)絡(luò)連接的云、邊、端分布式計(jì)算系統(tǒng)。IDN中分發(fā) “智能”的本質(zhì)是“算法+數(shù)據(jù)”的AI單元，通過網(wǎng)絡(luò)連接，將“智能”在網(wǎng)絡(luò)中按需分發(fā)。

IDN概念的核心是AI的處理能力被按需分布在不同的中心云、若干邊緣云和智能終端上，智能分發(fā)管理平臺和嵌入在各級的管理代理負(fù)責(zé)動態(tài)控制中云、邊緣云和終端的具體分工，以及AI概念模塊的分布。由于將算力從云端逐層下放，減輕了云端壓力，提升了響應(yīng)速度，降低了上行帶寬，進(jìn)而降低了運(yùn)營成本。

例如：云端機(jī)器人通過終端側(cè)采集，將視頻、音頻、圖像等數(shù)據(jù)作為IDN的輸入先在終端進(jìn)行預(yù)處理，終端將需要分析的數(shù)據(jù)上傳至邊緣，邊緣根據(jù)預(yù)先加載的“智能”進(jìn)行推理。而預(yù)先加載的“智能”計(jì)算單元則是經(jīng)過云端海量數(shù)據(jù)訓(xùn)練的AI模型，經(jīng)過更充足的樣本空間、更強(qiáng)大的GPU計(jì)算等資源，訓(xùn)練出更加精準(zhǔn)的模型，預(yù)先推送到邊緣。由于每一層級別都根據(jù)更加精準(zhǔn)的“算法+數(shù)據(jù)”去推理輸入的數(shù)據(jù)，從而輸出更加精準(zhǔn)的結(jié)果。經(jīng)過研究，IDN較為合理的處理模式分為以下3種。

快速反應(yīng)模式對于需要快速反應(yīng)的智能處理，如支持動作或?qū)Ш接嘘P(guān)的智能功能，在智能終端處理可以增加反應(yīng)速度，擴(kuò)展應(yīng)用的適用范圍，該模式中本地計(jì)算承擔(dān)全部的工作任務(wù)。

多層智能處理模式很多智能處理需要經(jīng)過多層次提煉和聚焦。底層終端偏重?cái)?shù)據(jù)處理和提煉，高層邊緣云做語義和綜合智能的處理。在這個模式中，形成了全網(wǎng)統(tǒng)一的算力面和數(shù)據(jù)面。另外，為解決數(shù)據(jù)在不同的云端或邊緣相互獨(dú)立存儲、管理形成數(shù)據(jù)孤島，多層智能處理模式引入聯(lián)邦學(xué)習(xí)[5]，打破數(shù)據(jù)屏障的同時，將多參與方在不提供加密形態(tài)和底層數(shù)據(jù)的前提下，多方共同建模，既保護(hù)了用戶的隱私數(shù)據(jù)，又提高了模型的精準(zhǔn)度，還突破了計(jì)算能力的邊界。

中心高層智能處理模式中心高層的智能處理，基于大規(guī)模的模型，需要大量各方匯總的數(shù)據(jù)和實(shí)時數(shù)據(jù)，經(jīng)常只能在中心云處理。根據(jù)具體的應(yīng)用場景，所需的AI功能和性能、網(wǎng)絡(luò)狀況等，智能分發(fā)管理平臺動態(tài)地在以上3種模式之間進(jìn)行選擇和配置，如圖1所示。

圖1 智能分發(fā)網(wǎng)絡(luò)概念圖Fig.1 Concept of Intelligence Distribution Network

2.2 IDN架構(gòu)

IDN的技術(shù)關(guān)鍵在于如何將3種處理模式有效地結(jié)合，故將IDN的總體架構(gòu)體系劃分為資源層、平臺層和應(yīng)用層三層，并包括縱向貫穿3層、橫向端到端的安全防護(hù)體系,如圖2所示。

圖2 IDN的總體架構(gòu)Fig.2 Architecture of intelligence distribution network

資源層包含計(jì)算、存儲、網(wǎng)絡(luò)和數(shù)據(jù)中心等基礎(chǔ)設(shè)施資源。平臺層在資源層之上，為智能機(jī)器人提供高速、安全、可靠的端到端虛擬網(wǎng)絡(luò)連接，提供統(tǒng)一認(rèn)證，并針對云端智能機(jī)器人智能應(yīng)用分發(fā)、運(yùn)行和管理的要求，提供中心云和邊緣云的統(tǒng)一管理和多云協(xié)同能力。應(yīng)用層支撐智能應(yīng)用的運(yùn)行，并能夠根據(jù)策略和系統(tǒng)狀態(tài)智能編排應(yīng)用在多云協(xié)作分布計(jì)算環(huán)境下的分發(fā)，實(shí)現(xiàn)云邊端的協(xié)同作業(yè)。IDN聚焦于云邊端系統(tǒng)中智能的管理，IDN將智能作為一種可創(chuàng)建、可分發(fā)、可回收、可監(jiān)測、可調(diào)配的資源進(jìn)行全局統(tǒng)一管理，提供給智能機(jī)器人進(jìn)行調(diào)用。

IDN架構(gòu)中充分考慮安全防護(hù)問題。大規(guī)模服務(wù)型機(jī)器人的運(yùn)營體系對整體的安全需求是一個復(fù)雜、多樣化、涉及從網(wǎng)絡(luò)到應(yīng)用層面的問題。而隱私數(shù)據(jù)保護(hù)是安全防護(hù)的重中之重，為IDN構(gòu)建一個可靠的、機(jī)器人有自主權(quán)的身份管理系統(tǒng)是必要的。萬維網(wǎng)聯(lián)盟(World Wide Web Consortium，W3C)提出了去中心化標(biāo)識符(Decentrailized Identifier，DID)[6]的概念，其中DID強(qiáng)調(diào)用戶自主的身份管理，用戶身份不屬于任何服務(wù)提供商，這構(gòu)成隱私保護(hù)的重要基礎(chǔ)，也是打破傳統(tǒng)的身份管理孤島格局。同時DID對用戶各種證書的管理機(jī)制成為整體系統(tǒng)安全的基礎(chǔ)。例如，云端機(jī)器人在實(shí)現(xiàn)DID的過程中采用了區(qū)塊鏈技術(shù)[7]，充分利用區(qū)塊鏈的不可篡改性和去中心化的特征，為每1個機(jī)器人分配一個唯一的DID，機(jī)器人接入IDN時使用DID進(jìn)行身份識別，在IDN的每個節(jié)點(diǎn)實(shí)現(xiàn)軟件定義邊界(Software Defined Perimeter，SDP)功能[8]，只有認(rèn)證通過的DID訪問才會得到動態(tài)授權(quán)訪問IDN，以此來實(shí)現(xiàn)零信任接入，達(dá)到安全防護(hù)的目的。

2.3 IDN的云邊端協(xié)同

IDN架構(gòu)下的云邊端協(xié)同包括應(yīng)用層的智能協(xié)同和數(shù)據(jù)協(xié)同，平臺層的編排協(xié)同、部署協(xié)同、調(diào)度協(xié)同，資源層協(xié)同、安全協(xié)同和監(jiān)控協(xié)同。

數(shù)據(jù)協(xié)同是邊緣云或中心云采集智能設(shè)備數(shù)據(jù)，并在本地存儲和分析，中心云與邊緣云之間可以協(xié)同配置數(shù)據(jù)、策略數(shù)據(jù)、業(yè)務(wù)數(shù)據(jù)，以及在智能分發(fā)網(wǎng)絡(luò)內(nèi)的IDN節(jié)點(diǎn)分布式處理智能應(yīng)用和數(shù)據(jù)；智能協(xié)同是IDN智能分發(fā)網(wǎng)絡(luò)分發(fā)各智能到邊緣云后，中心云與邊緣云上的智能應(yīng)用基于“微服務(wù)”的架構(gòu)、分布式方式實(shí)現(xiàn)AI能力協(xié)作。中心云和邊緣云基于云原生[9]的容器編排技術(shù)，在多云環(huán)境下由中心云的管理平臺來控制編排、部署、調(diào)度策略，協(xié)同邊緣云控制器執(zhí)行，由邊緣云的“容器云”完成編排協(xié)同、部署協(xié)同和調(diào)度協(xié)同的流程。此外，中心云統(tǒng)一規(guī)劃管理所有環(huán)境的資源、管理安全信息以及所有環(huán)境的監(jiān)控告警策略，邊緣云側(cè)使用并上報(bào)資源狀態(tài)，使用并執(zhí)行安全和進(jìn)口策略，以實(shí)現(xiàn)資源協(xié)同、安全協(xié)同和監(jiān)控協(xié)同。中心云對邊緣云及終端有總體的管控能力，邊緣云對邊緣節(jié)點(diǎn)環(huán)境有自治能力。在網(wǎng)絡(luò)忠誠連接的情況下，由統(tǒng)一的控制中心完成對中心云、邊緣云和端側(cè)的監(jiān)測和協(xié)同管理。

3 IDN與CDN的對比

3.1 CDN概念和架構(gòu)

內(nèi)容分發(fā)網(wǎng)絡(luò)(Content Delivery Network，CDN)是構(gòu)建在現(xiàn)有網(wǎng)絡(luò)基礎(chǔ)之上的智能虛擬網(wǎng)絡(luò)，依靠部署在各地的邊緣服務(wù)器，通過中心平臺的負(fù)載均衡、內(nèi)容分發(fā)及調(diào)度等功能模塊，使用戶就近獲取所需內(nèi)容，降低網(wǎng)絡(luò)擁塞，提高用戶訪問響應(yīng)速度和命中率[10]。CDN的關(guān)鍵技術(shù)主要有內(nèi)容存儲和分發(fā)技術(shù)。如圖3所示，在用戶與原始內(nèi)容提供的源站之間增加CDN層，通過添加CNAME域名解析的方式將用戶流量劫持，調(diào)度系統(tǒng)根據(jù)來源用戶的IP地址將流量引導(dǎo)到最優(yōu)一級Cache節(jié)點(diǎn)，Cache節(jié)點(diǎn)通過預(yù)加載的方式將用戶所需內(nèi)容預(yù)先從源站獲取并本地緩存，如果本地沒有命中則該節(jié)點(diǎn)向上級Cache節(jié)點(diǎn)或者源站獲取內(nèi)容并逐級返回，直至將內(nèi)容返回給用戶。CDN系統(tǒng)通過多級緩存的方式，提升Cache系統(tǒng)的性能、可靠性和減少回到源站獲取內(nèi)容的次數(shù)，以達(dá)到減輕源站壓力，快速響應(yīng)用戶的目的。

圖3 內(nèi)容分發(fā)網(wǎng)絡(luò)概念圖Fig.3 Concept of content delivery network

3.2 IDN與CDN的區(qū)別

經(jīng)過20多年的持續(xù)發(fā)展，CDN技術(shù)已經(jīng)非常成熟，雖然IDN與CDN有共同的分布式計(jì)算的理論基礎(chǔ)，但是又存在本質(zhì)上的不同。本文總結(jié)出IDN與CDN具有如下三點(diǎn)不同之處。

① 管理對象不同。CDN中的管理對象為內(nèi)容資源，內(nèi)容資源具有全局不變、可重復(fù)、允許失效等特點(diǎn)[11]；而IDN中的管理對象為智能，智能是一個或者一系列智能應(yīng)用及其運(yùn)行配置、關(guān)聯(lián)數(shù)據(jù)的封裝。因此，IDN的智能分發(fā)包含智能應(yīng)用鏡像分發(fā)、應(yīng)用運(yùn)行配置管理以及應(yīng)用關(guān)聯(lián)數(shù)據(jù)的轉(zhuǎn)移。智能應(yīng)用鏡像分發(fā)與CDN中的內(nèi)容下發(fā)類似，但還需要考慮應(yīng)用執(zhí)行環(huán)境差異、分發(fā)過程安全性等因素；應(yīng)用運(yùn)行配置的管理則需要通過通用模板和個性化參數(shù)來實(shí)現(xiàn)不同環(huán)境的差異化配置管理；關(guān)聯(lián)數(shù)據(jù)是智能應(yīng)用運(yùn)行時依賴的原始數(shù)據(jù)。根據(jù)智能應(yīng)用的不同業(yè)務(wù)特點(diǎn)，關(guān)聯(lián)數(shù)據(jù)的來源可以分為終端上傳、中心下發(fā)和邊緣產(chǎn)生，這三類數(shù)據(jù)的數(shù)據(jù)量、實(shí)時性等特點(diǎn)各不相同，而根據(jù)這些特點(diǎn)，IDN對于關(guān)聯(lián)數(shù)據(jù)的轉(zhuǎn)移管理包括向上匯聚、向下分發(fā)和水平移動等方式。由此可見，IDN的管理對象比CDN更加復(fù)雜。

② 管理目標(biāo)不同。CDN的指導(dǎo)思想是讓數(shù)據(jù)盡可能貼近終端用戶，以存儲來換時間并降低下行帶寬需求[12]；而IDN的管理目標(biāo)則是讓特定智能可以更加自由、更加高效地運(yùn)行在整個“云-網(wǎng)-邊-端”環(huán)境中。這里的“自由”是指通過IDN，可以快速地將云端智能下沉到邊緣，以及將邊緣的智能轉(zhuǎn)移至云端，也可以將IDN延申到終端，通過這種方式來打破云邊端的應(yīng)用鴻溝。在“自由”的基礎(chǔ)上，IDN將“智能”轉(zhuǎn)到更貼近業(yè)務(wù)需要的環(huán)境中運(yùn)行，將云端智能下沉到邊緣來換取帶寬節(jié)省、降低時延，將邊緣的智能轉(zhuǎn)移至云端來換取更強(qiáng)的處理性能、更大的數(shù)據(jù)集合和數(shù)據(jù)共享，通過這種方式來實(shí)現(xiàn)更“高效”的智能。

③ 網(wǎng)絡(luò)流量模型不同。CDN的主要流量是以所服務(wù)的源服務(wù)器為源頭，自上而下地分發(fā)到終端用戶(不排除以上傳流量為主的CDN業(yè)務(wù)，此為宏觀總體流量)，而IDN的主要流量則是以智能終端為源點(diǎn)，自下而上的網(wǎng)絡(luò)流量占據(jù)主要。據(jù)統(tǒng)計(jì)2019年互聯(lián)網(wǎng)中下行流量是上行流量的14倍[13]，而IDN的流量模型中自下而上的網(wǎng)絡(luò)流量為主要占比，據(jù)機(jī)器人運(yùn)營商達(dá)闥機(jī)器人統(tǒng)計(jì)，智能機(jī)器的平均上行網(wǎng)絡(luò)流量是平均下行網(wǎng)絡(luò)流量的10～100倍。達(dá)闥機(jī)器人運(yùn)營的不同種類機(jī)器人的IDN上下行流量對比，如表1所示。經(jīng)過IDN的使用，可以有效地降低骨干網(wǎng)上行帶寬，達(dá)到提升骨干網(wǎng)帶寬利用率并節(jié)省成本的目的。

表1 不同種類機(jī)器人上下行帶寬對比表

4 IDN賦能云端機(jī)器人

4.1 IDN應(yīng)用于云端機(jī)器人

2020年12月2日，達(dá)闥科技發(fā)布了云端機(jī)器人海睿操作系統(tǒng)HARIX。這也是在電腦操作系統(tǒng)Windows、手機(jī)上的安卓操作系統(tǒng)Android和蘋果操作系統(tǒng)IOS之后，全球首個面向機(jī)器人的操作系統(tǒng)。

本文以海睿操作系統(tǒng)下的云端服務(wù)機(jī)器人Ginger為例，在實(shí)驗(yàn)室場景下，進(jìn)行一次“幫助客人取茶杯”的抓取實(shí)驗(yàn)，通過對比使用IDN前后完成的效果來證明IDN對機(jī)器人反應(yīng)速度的提升。

機(jī)器人Ginger的任務(wù)是自主完成指令識別、茶杯的尋找和定位、逼近、抓取、遞送等功能，將茶杯從指定的桌子抓取并送到目標(biāo)人的手中。實(shí)驗(yàn)環(huán)境包括： 100 m2的房間、一個茶杯、一張1 m高桌子、一臺Ginger機(jī)器人以及IDN系統(tǒng)。

Ginger機(jī)器人是達(dá)闥機(jī)器人自主設(shè)計(jì)研發(fā)的云端服務(wù)型機(jī)器人。機(jī)器人本體通過遠(yuǎn)程控制單元(Remote Control Unit，RCU)與云端大腦HARIX連接，RCU與HARIX之間通過智能分發(fā)網(wǎng)絡(luò)IDN進(jìn)行連接，IDN包括中心云和邊緣云機(jī)器人云端大腦HARIX。HARIX實(shí)現(xiàn)了數(shù)字孿生技術(shù)[14]，在云端虛擬一個和實(shí)驗(yàn)環(huán)境相同的虛擬世界，并對環(huán)境中所有事物進(jìn)行掃描和建模，對桌子、茶杯等物體的位置、高度等信息進(jìn)行了標(biāo)記。HARIX作為云端大腦還包括各種智能技能：云端自動語音識別技術(shù)(Cloud Automatic Speech Recognition，Cloud ASR)、云端自然語言處理(Cloud Natural Lauguage Processing，Cloud NLP)、云端自然語言理解(Cloud Natural Language Understanding，Cloud NLU)、云端同步定位與地圖繪制(Cloud Simultaneous Localization and Mapping，Cloud SLAM)、云端計(jì)算機(jī)視覺(Cloud Computer Vision，Cloud CV)等，這些智能彼此獨(dú)立，既可以單獨(dú)對外提供服務(wù)，又可以相互調(diào)用。IDN的智能管理中心將機(jī)器人所需的智能以鏡像加數(shù)據(jù)模型的方式推送到所需節(jié)點(diǎn)，并以服務(wù)的方式啟動后對外提供接口。

4.2 云端機(jī)器人抓取實(shí)驗(yàn)

本實(shí)驗(yàn)設(shè)計(jì)了Ginger機(jī)器人完成任務(wù)所需的流程，并對流程進(jìn)行詳細(xì)拆解，如圖4所示。

圖4 Ginger機(jī)器人抓取投遞流程Fig.4 Process of Ginger robot grasping and delivery process

其中語音識別和深度圖像識別在云端進(jìn)行。而目標(biāo)的尋找需要調(diào)整機(jī)器人的頭部并通過深度相機(jī)進(jìn)行拍攝，每200 ms一張高清深度圖像，如果云端未能識別出茶杯則需要調(diào)整頭部循環(huán)進(jìn)行，由于機(jī)器人尋找物體過程為主要耗時過程，故分析機(jī)器人尋物的耗時。機(jī)器人尋物總時間公式為：

(1)

式中，T為機(jī)器人尋物的總體時間，t1為機(jī)器人頭部移動時間，t2為RGBD相機(jī)拍攝彩色圖像、深度圖像并合成的時間，t3為一次云端推理的時間(此處為一次圖像識別的時間)，n為尋物嘗試的次數(shù)，理想情況下n=1，S為圖像的大小(單位是MByte)，RTT為延遲，Loss為網(wǎng)絡(luò)丟包率,此處Loss不為0，MSS為TCP最大報(bào)文長度，參數(shù)C通常為1，注意此處帶寬計(jì)算公式根據(jù)Mathis 公式[15]，為理論最大帶寬，且在不受基礎(chǔ)傳輸網(wǎng)絡(luò)最大帶寬限制的情況下。為體現(xiàn)IDN對于機(jī)器人計(jì)算和傳輸方面的效果，文中將機(jī)器人的實(shí)現(xiàn)消耗進(jìn)一步細(xì)分為機(jī)器人本體用時和云端用時。完成一次云端調(diào)用所需時間如式(2)所示，此處Loss不為0。

(2)

實(shí)驗(yàn)一所有智能技能部署在中心云。IDN智能管理中心將Cloud ASR、Cloud NLP、Cloud NLU、Cloud SLAM和Cloud CV程序以及數(shù)據(jù)推送并部署在中心云節(jié)點(diǎn)。為模擬機(jī)器人在5G接入時實(shí)際工作中的場景，設(shè)定從終端到云端的平均時延RTT為150 ms，平均丟包率Loss為1×10-6，MSS為1 460 Byte，不設(shè)置骨干網(wǎng)傳輸最大帶寬上限。

實(shí)驗(yàn)二IDN智能管理中心將Cloud CV技能推送并部署在邊緣云節(jié)點(diǎn)，其他技能在中心云節(jié)點(diǎn)。設(shè)定從終端到邊緣的平均時延10 ms，從終端到云端的平均時延150 ms，平均丟包率Loss為1×10-6，MSS為1 460 Byte，不設(shè)置骨干網(wǎng)傳輸最大帶寬上限。

實(shí)驗(yàn)三IDN智能管理中心將所有智能技能推送并部署在邊緣云，設(shè)定從終端到邊緣的時延10 ms，丟包率Loss為1×10-6，MSS為1 460 Byte，不設(shè)置骨干網(wǎng)傳輸最大帶寬上限。

實(shí)驗(yàn)總結(jié)如表2所示，根據(jù)實(shí)驗(yàn)一和實(shí)驗(yàn)二對比所得，將大文件的圖像識別下發(fā)到邊緣進(jìn)行計(jì)算，云端調(diào)用總時長優(yōu)化22.99%。根據(jù)實(shí)驗(yàn)二和實(shí)驗(yàn)三所得，將小文件的語音識別下發(fā)到邊緣進(jìn)行計(jì)算，總優(yōu)化比僅占3.10%。

表2 實(shí)驗(yàn)結(jié)果

因此得出結(jié)論：將計(jì)算復(fù)雜、上傳大文件、調(diào)用頻繁的智能運(yùn)算下發(fā)到邊緣更合適；相反，計(jì)算簡單、上傳小文件、調(diào)用不頻繁的智能運(yùn)算在云端更合適。雖然實(shí)驗(yàn)三整體的時效性最優(yōu)，但是考慮實(shí)際情況，相當(dāng)于把全部智能計(jì)算在所有的邊緣都部署一整套，在資源消耗方面反而得不償失。由此可見IDN根據(jù)云邊端的統(tǒng)一調(diào)度，在響應(yīng)速度與資源消耗方面的優(yōu)勢。

5 結(jié)束語

本文從讓機(jī)器人更加智能的目的出發(fā)，提出了智能分發(fā)網(wǎng)絡(luò)IDN概念，總結(jié)了智能分發(fā)網(wǎng)絡(luò)在解決云端機(jī)器人計(jì)算能力問題、網(wǎng)絡(luò)通信問題、數(shù)據(jù)存儲及安全問題方面的優(yōu)勢：智能分發(fā)網(wǎng)絡(luò)IDN，通過站在全局視角的智能分發(fā)中心協(xié)同云、網(wǎng)、邊、端的計(jì)算能力，利用云端更強(qiáng)大的運(yùn)算能力、存儲能力進(jìn)行模型訓(xùn)練，通過私有骨干網(wǎng)絡(luò)將訓(xùn)練后的模型和智能程序在中心節(jié)點(diǎn)和邊緣節(jié)點(diǎn)傳輸，最終利用運(yùn)營商5G網(wǎng)絡(luò)加速終端訪問和響應(yīng)。通過對比IDN與CDN的區(qū)別，得出IDN在管理對象、管理目標(biāo)、流量模型的特征，通過服務(wù)型機(jī)器人在實(shí)物抓取場景下使用IDN的應(yīng)用范例說明IDN對于智能調(diào)度的靈活性和必要性。

目前云端智能機(jī)器人已經(jīng)逐漸在服務(wù)機(jī)器人領(lǐng)域進(jìn)行了商用?；谶@些豐富的機(jī)器人設(shè)計(jì)、開發(fā)、運(yùn)營經(jīng)驗(yàn)建設(shè)的智能分發(fā)網(wǎng)絡(luò)IDN，已經(jīng)成為云端機(jī)器人的“神經(jīng)系統(tǒng)”。這充分說明IDN是實(shí)現(xiàn)云端智能機(jī)器人大規(guī)模商用的必經(jīng)之路和關(guān)鍵技術(shù)。在機(jī)器人向云端智能發(fā)展的大趨勢之下，充分串聯(lián)“小腦” “中腦” “大腦”，助力云端機(jī)器人更迅速發(fā)展的同時，對機(jī)器人更可管、更可控、更安全，從而更好地服務(wù)于人類。智能分發(fā)網(wǎng)絡(luò)IDN還處于初級發(fā)展階段，還存在很多局限性和不足。未來云端機(jī)器人數(shù)量將達(dá)到百萬、千萬，甚至更高數(shù)量級別，如何保障每一臺機(jī)器人都可以得到精準(zhǔn)的智能調(diào)度？期待業(yè)界共同研究協(xié)作，共同促進(jìn)云端機(jī)器人和智能分發(fā)網(wǎng)絡(luò)IDN的發(fā)展。