利用云計(jì)算進(jìn)行LiDAR數(shù)據(jù)產(chǎn)品虛擬化處理

湯 璇, 王留召，鐘 良

(1. 武漢軍械士官學(xué)校, 湖北 武漢 430075; 2. 中國測(cè)繪科學(xué)研究院，北京 100830; 3. 長江水利委員會(huì)長江空間信息技術(shù)工程有限公司，湖北 武漢 430010)

一、引 言

機(jī)載激光雷達(dá)系統(tǒng)是集激光、GPS和慣性導(dǎo)航系統(tǒng)(INS)三種技術(shù)于一體的空間測(cè)量系統(tǒng)[1]。機(jī)載LiDAR系統(tǒng)與傳統(tǒng)遙感技術(shù)相比較具有自動(dòng)化程度高、受天氣影響小、數(shù)據(jù)生產(chǎn)周期短、精度高等技術(shù)特點(diǎn),是先進(jìn)的獲取地表三維空間信息和影像數(shù)據(jù)的新型遙感系統(tǒng)。LiDAR系統(tǒng)通常包括激光測(cè)距設(shè)備，POS系統(tǒng)及相機(jī)設(shè)備。采集的數(shù)據(jù)主要包括高分辨率數(shù)碼影像、點(diǎn)云數(shù)據(jù)，少數(shù)還帶有波形數(shù)據(jù)。機(jī)載LiDAR獲取的數(shù)據(jù)對(duì)于國土規(guī)劃、資源調(diào)查、林業(yè)管理、城市建筑工程、數(shù)字城市及國防等領(lǐng)域具有重要價(jià)值[2]，因此有效提高其處理效率，是預(yù)防和抵御災(zāi)害侵襲、減輕災(zāi)害損失、保障社會(huì)經(jīng)濟(jì)的可持續(xù)發(fā)展的重要任務(wù)之一。

機(jī)載LiDAR產(chǎn)生的點(diǎn)云數(shù)據(jù)高度密集，一個(gè)飛行條帶的數(shù)據(jù)多達(dá)上千萬個(gè)點(diǎn)，一個(gè)測(cè)區(qū)有多個(gè)飛行條帶，所采集的點(diǎn)云達(dá)到幾千萬甚至上億個(gè)點(diǎn)，機(jī)載LiDAR設(shè)備上攜帶的框幅式相機(jī)同步獲取的影像也隨著測(cè)區(qū)大小的不同，數(shù)目從數(shù)百張到上千張不等，文件大小從數(shù)GB到數(shù)十GB。在進(jìn)行數(shù)據(jù)處理時(shí)， LiDAR點(diǎn)云數(shù)據(jù)及影像必須經(jīng)過各種預(yù)處理：濾波、分類、勻光和糾正等，算法種類繁多，且根據(jù)用戶不同需求，參數(shù)設(shè)置、處理流程各不相同，極大地限制了用戶快速獲取數(shù)據(jù)成果的需求。針對(duì)上述問題，本文提出了云計(jì)算環(huán)境下LiDAR數(shù)據(jù)產(chǎn)品的虛擬化處理。

二、云環(huán)境下虛擬LiDAR數(shù)據(jù)產(chǎn)品處理

所謂虛擬遙感處理產(chǎn)品是指目前影像庫或數(shù)據(jù)庫中尚不存在、但數(shù)據(jù)處理系統(tǒng)能夠按照用戶的請(qǐng)求而生產(chǎn)的產(chǎn)品[3]。由于用戶需求的產(chǎn)品不一定是標(biāo)準(zhǔn)產(chǎn)品，因此形成用戶需求產(chǎn)品的過程必然會(huì)有不同的處理流程，涉及大量的計(jì)算資源，因此，遙感產(chǎn)品的虛擬化必須在網(wǎng)絡(luò)環(huán)境中才能實(shí)現(xiàn)，同時(shí)面臨海量數(shù)據(jù)的網(wǎng)絡(luò)傳輸問題及大數(shù)據(jù)量、多計(jì)算機(jī)的網(wǎng)絡(luò)數(shù)據(jù)協(xié)同處理兩大問題[4]。云計(jì)算是分布式計(jì)算、網(wǎng)格計(jì)算和效用計(jì)算的進(jìn)一步發(fā)展，是以網(wǎng)絡(luò)為載體，以虛擬化技術(shù)為基礎(chǔ)，根據(jù)用戶需求動(dòng)態(tài)配置資源的新興計(jì)算模式，可以通過同時(shí)利用大量的計(jì)算機(jī)提供同步或異步計(jì)算服務(wù)，來實(shí)現(xiàn)超大規(guī)模的數(shù)據(jù)的快速處理[5-6]。因此將云計(jì)算與虛擬LiDAR數(shù)據(jù)產(chǎn)品相結(jié)合，就能夠解決用戶個(gè)性化需求及海量LiDAR數(shù)據(jù)處理之間的矛盾。

云計(jì)算平臺(tái)與傳統(tǒng)應(yīng)用模式相比，具有很多優(yōu)點(diǎn)[7]。云計(jì)算技術(shù)與虛擬LiDAR處理產(chǎn)品相結(jié)合后具備以下優(yōu)點(diǎn)：

1) 對(duì)計(jì)算資源的要求降低。一般的計(jì)算資源包含存儲(chǔ)資源(內(nèi)外存)、CPU資源等。由于用戶的處理請(qǐng)求獲取到的計(jì)算資源不一定為本地的計(jì)算機(jī)，可能同時(shí)被多個(gè)計(jì)算資源處理，因此相對(duì)于傳統(tǒng)的單個(gè)計(jì)算節(jié)點(diǎn)來說，對(duì)用戶本身的計(jì)算資源要求可大幅度降低。

2) 用戶請(qǐng)求獲得的數(shù)據(jù)可以不受標(biāo)準(zhǔn)數(shù)據(jù)產(chǎn)品的約束。通常用戶只能獲得已定義好的標(biāo)準(zhǔn)數(shù)據(jù)，但這些數(shù)據(jù)不一定滿足用戶需求。利用本處理方式，用戶可根據(jù)自身需求快速對(duì)產(chǎn)品進(jìn)行定制，標(biāo)準(zhǔn)產(chǎn)品單一化和用戶需求之間多樣化的矛盾迎刃而解。

3) 推進(jìn)LiDAR數(shù)據(jù)處理系統(tǒng)朝智能化方向發(fā)展。將現(xiàn)有的基于單機(jī)、單作業(yè)員環(huán)境下的LiDAR專業(yè)算法移植和封裝成處理模塊，以適應(yīng)新的云計(jì)算環(huán)境，使得用戶可以方便地調(diào)用云端或本地的專業(yè)算法，組合新的處理流程，同時(shí)專業(yè)處理算法的升級(jí)也非常方便快捷，只需更換相應(yīng)的處理模塊即可。

三、云計(jì)算環(huán)境的建立

當(dāng)前云計(jì)算環(huán)境有兩種建設(shè)途徑可供選擇：類似于并行計(jì)算中的緊密耦合型(tightly coupled)和類似于分布式計(jì)算中的松散耦合型(1oosely coupled)。前者被認(rèn)為計(jì)算節(jié)點(diǎn)分布在局域網(wǎng)內(nèi)，需要處理的過程相互之間比較“接近”，通信是可靠而穩(wěn)健的；后者則被認(rèn)為計(jì)算節(jié)點(diǎn)分布于萬維網(wǎng)上，處于不同網(wǎng)段，相互間的通信成本較高，通信有可能是錯(cuò)誤的或不穩(wěn)健的。本文中基于現(xiàn)實(shí)的網(wǎng)絡(luò)環(huán)境和數(shù)據(jù)安全的考慮，將云計(jì)算環(huán)境建立在局域網(wǎng)環(huán)境下，呈緊密耦合型分布。

平臺(tái)的設(shè)計(jì)思想將集中式任務(wù)管理和分布式任務(wù)執(zhí)行相結(jié)合，上層應(yīng)由監(jiān)控模塊、資源及任務(wù)搜集模塊、發(fā)布管理模塊和調(diào)度模塊所組成；底層采用集中式系統(tǒng)管理，對(duì)局域網(wǎng)中的計(jì)算資源及上層提交的任務(wù)進(jìn)行自動(dòng)管理。系統(tǒng)設(shè)計(jì)的重點(diǎn)在于解決面向云計(jì)算環(huán)境下虛擬化LiDAR數(shù)據(jù)處理運(yùn)行環(huán)境面臨的一系列問題，包括數(shù)據(jù)獲取、安全、通信與監(jiān)控等。系統(tǒng)需要能夠屏蔽網(wǎng)絡(luò)底層設(shè)施的異構(gòu)性，可提供局域網(wǎng)、廣域網(wǎng)范圍的硬件、軟件的無縫集成，構(gòu)建一個(gè)大計(jì)算量的處理環(huán)境，使用戶不必考慮軟、硬件系統(tǒng)的異構(gòu)。經(jīng)過分析研究，上述需求實(shí)現(xiàn)的平臺(tái)選擇在云計(jì)算開發(fā)包Condor上進(jìn)行開發(fā)實(shí)現(xiàn)。

Condor是由美國威斯康星大學(xué)研究開發(fā)的全新的適合云計(jì)算作業(yè)的分布式處理開發(fā)包[8-9]，其突出特點(diǎn)是利用分布在網(wǎng)上的閑置資源，形成一個(gè)大吞吐量的云計(jì)算環(huán)境(Condor 計(jì)算資源池)，然后通過對(duì)大粒度的任務(wù)進(jìn)行分解及多個(gè)子任務(wù)在云計(jì)算環(huán)境下的并行處理來加快計(jì)算任務(wù)的執(zhí)行速度，具有良好的容錯(cuò)性，能在計(jì)算資源發(fā)生異常的情況下，自動(dòng)將當(dāng)前計(jì)算節(jié)點(diǎn)上的計(jì)算任務(wù)遷移到其他可利用計(jì)算資源上進(jìn)行。系統(tǒng)主要由作業(yè)管理和資源管理兩部分組成。作業(yè)管理部分負(fù)責(zé)管理用戶作業(yè)運(yùn)行，用戶可以通過它了解作業(yè)隊(duì)列，提交新的作業(yè)，查詢作業(yè)完成的情況等。資源管理部分負(fù)責(zé)監(jiān)視軟、硬件資源的可用情況，進(jìn)行任務(wù)資源的自動(dòng)分配與調(diào)度。

四、LiDAR數(shù)據(jù)處理中間件設(shè)計(jì)

LiDAR數(shù)據(jù)處理中間件的設(shè)計(jì)如圖1所示。該中間件由任務(wù)信息搜集模塊、專業(yè)LiDAR處理模塊(如圖2所示)、RAW文件數(shù)據(jù)庫、任務(wù)生成模塊、產(chǎn)品數(shù)據(jù)庫等組成。

1) 任務(wù)參數(shù)搜集模塊：用來接受客戶提交的任務(wù)配置參數(shù)。

2) 專業(yè)LiDAR處理模塊：目前主要包含點(diǎn)云濾波處理模塊、DEM生成模塊、DOM生成模塊。這些模塊的內(nèi)容將現(xiàn)有單機(jī)上的LiDAR數(shù)據(jù)處理算法拆分為一系列專業(yè)處理模塊，每一種處理算法被封裝成一個(gè)專業(yè)處理模塊，從而達(dá)到讓現(xiàn)有的基于單機(jī)環(huán)境下的LiDAR專業(yè)算法適應(yīng)新的云環(huán)境的目的，使得用戶可以方便調(diào)用各種專業(yè)的算法及實(shí)現(xiàn)算法的組合。

3) RAW文件數(shù)據(jù)庫：存儲(chǔ)原始的LiDAR數(shù)據(jù)資源的數(shù)據(jù)庫。

4) 任務(wù)生成模塊：根據(jù)用戶提交的任務(wù)的描述，抽取要引用的專業(yè)處理模塊和相應(yīng)的影像資源來組成最終的任務(wù)文件，然后自動(dòng)調(diào)用提交模塊將任務(wù)提交到基于Condor的云計(jì)算池中進(jìn)行處理。

5) 提交模塊：將處理任務(wù)直接或通過Web服務(wù)提交到云計(jì)算的中央管理器，實(shí)現(xiàn)任務(wù)提交的透明化、自動(dòng)化。

6) 任務(wù)管理器模塊：根據(jù)任務(wù)屬性，將任務(wù)池中任務(wù)自動(dòng)分配到最適應(yīng)的計(jì)算節(jié)點(diǎn)。

圖1 處理中間件模型

圖2 專業(yè)處理模塊

7) 產(chǎn)品數(shù)據(jù)庫：存放處理成果的數(shù)據(jù)庫。

由于LiDAR數(shù)據(jù)處理過程多為逐點(diǎn)或逐像素處理，因此大部分LiDAR數(shù)據(jù)處理的過程可分解為若干個(gè)可以同時(shí)進(jìn)行的步驟，通過該處理中間件可將傳統(tǒng)的線性任務(wù)轉(zhuǎn)變成適應(yīng)云計(jì)算的并行化處理的子任務(wù)，從而達(dá)到提高計(jì)算速度，滿足用戶個(gè)性化需求，充分利用網(wǎng)絡(luò)中空余的計(jì)算資源的目的。

五、試驗(yàn)結(jié)果與分析

試驗(yàn)平臺(tái)采用C++語言開發(fā)，云計(jì)算環(huán)境為Condor，測(cè)試時(shí)云計(jì)算池的配置由6臺(tái)計(jì)算機(jī)構(gòu)成，其中4個(gè)節(jié)點(diǎn)的配置為雙核3.0 GHz的CPU，內(nèi)存2 GB，另外2個(gè)節(jié)點(diǎn)的配置為 單核2.66 GHz的CPU，內(nèi)存1 GB。一臺(tái)作為主節(jié)點(diǎn)，額外部署了中央管理器，因此該節(jié)點(diǎn)除計(jì)算功能外還承擔(dān)協(xié)調(diào)計(jì)算任務(wù)、匹配計(jì)算資源的職能。另外5臺(tái)作為普通計(jì)算節(jié)點(diǎn)。當(dāng)配置完成后，6臺(tái)計(jì)算機(jī)都同時(shí)具有提交和執(zhí)行計(jì)算任務(wù)的功能。

整個(gè)云系統(tǒng)通過1 Gbps的千兆局域網(wǎng)互聯(lián)，實(shí)際測(cè)試網(wǎng)絡(luò)速度最大為50 MB/s,操作系統(tǒng)為Windows7。專業(yè)算法模塊為點(diǎn)云濾波、DEM生成、DOM生成。這些算法模塊的實(shí)現(xiàn)無需對(duì)現(xiàn)有代碼進(jìn)行改動(dòng)，只需在其上構(gòu)建遵循相應(yīng)接口的功能，調(diào)用該算法庫即可，從而達(dá)到軟件算法資源的最大共享及利用。云計(jì)算的任務(wù)提交界面如圖3所示。

圖3 任務(wù)控制界面

試驗(yàn)時(shí)，根據(jù)任務(wù)需求，用戶可提前設(shè)置需要調(diào)用的資源、算法模塊及處理參數(shù)，指定數(shù)據(jù)的處理順序。系統(tǒng)將依據(jù)任務(wù)屬性自動(dòng)在云環(huán)境中匹配到當(dāng)前可獲得的最優(yōu)計(jì)算資源作為計(jì)算節(jié)點(diǎn)參與計(jì)算，從而達(dá)到充分利用計(jì)算資源、優(yōu)化數(shù)據(jù)處理效率的目的。

試驗(yàn)測(cè)試成果見表1、表2。表中統(tǒng)計(jì)的時(shí)間為了準(zhǔn)確，均為測(cè)試三次的平均時(shí)間。

表1 各算法模塊的并行測(cè)試

常用于分析并行算法性能的指標(biāo)參數(shù)是加速比(speedup)和效率(efficiency)。設(shè)定一個(gè)已知任務(wù)的串行處理算法，其時(shí)間復(fù)雜度為Ts，該任務(wù)并行處理的時(shí)間復(fù)雜度為Tp，使用處理器個(gè)數(shù)為P，則可以定義

加速比=Ts/Tp

效率=Ts/P·Tp

在采用云計(jì)算處理方式時(shí)，每次任務(wù)獲取的處理器個(gè)數(shù)是一個(gè)動(dòng)態(tài)的值，因此目前通常采用加速比來衡量并行處理帶來的處理效率的提升[10]。

表2 加速比

一般加速比的值理論上不會(huì)超過處理器的個(gè)數(shù)，加速比幾乎等于處理器數(shù)目的并行處理情況也是極為少見，這是因?yàn)樵谌蝿?wù)分解后，并行處理時(shí)，LiDAR數(shù)據(jù)的傳遞和程序的響應(yīng)過程將占據(jù)大量的通信開銷。

不同節(jié)點(diǎn)數(shù)并行處理的加速比見表2。從表2可以看出，增加處理節(jié)點(diǎn)數(shù)可以有效提高LiDAR數(shù)據(jù)的處理效率，但是由于數(shù)據(jù)通信時(shí)間的影響，加速比不隨著計(jì)算節(jié)點(diǎn)的增長呈線性增長。在試驗(yàn)中，對(duì)于大數(shù)據(jù)量的影像微分糾正生成DOM的效率提升是最小的，而點(diǎn)云內(nèi)插生成DEM的處理加速效果較為明顯，這是因?yàn)橛跋裎⒎旨m正處理中輸入數(shù)據(jù)與輸出數(shù)據(jù)傳輸?shù)臅r(shí)間與計(jì)算所占的時(shí)間相比較大，直接導(dǎo)致其加速比較??；而在相同計(jì)算節(jié)點(diǎn)數(shù)的情況下，點(diǎn)云內(nèi)插算法得到的加速比約為DOM處理加速比的2.4倍，這反映了在云計(jì)算環(huán)境下任務(wù)的計(jì)算量越大，需要通信的數(shù)據(jù)量越小，則加速比的提高就會(huì)越明顯。

通過上述測(cè)試可推論出，在云計(jì)算環(huán)境下可采用以下適當(dāng)?shù)牟呗詠碛行岣邤?shù)據(jù)的處理效率：

1) 使計(jì)算和通信過程重疊，即在計(jì)算的同時(shí)進(jìn)行通信，隱藏網(wǎng)絡(luò)延遲。

2) 算法分解中，注意增大計(jì)算的粒度，減少數(shù)據(jù)的交互性，以降低通信開銷。

3) 提高網(wǎng)絡(luò)的速度，可大幅度降低通信開銷，減輕網(wǎng)絡(luò)負(fù)載，直接增進(jìn)整個(gè)云計(jì)算的處理速度。

六、結(jié)束語

云計(jì)算環(huán)境中的虛擬化組織的概念及對(duì)虛擬化組織中的各種數(shù)據(jù)、算法服務(wù)和計(jì)算資源的管理和調(diào)度，為LiDAR產(chǎn)品虛擬化提供了強(qiáng)大的載體。借助迅猛發(fā)展的網(wǎng)絡(luò)技術(shù)，將傳統(tǒng)的單機(jī)、單作業(yè)員集中式LiDAR數(shù)據(jù)處理模式轉(zhuǎn)換為基于網(wǎng)絡(luò)的云計(jì)算處理方式。本研究設(shè)計(jì)了適合云計(jì)算平臺(tái)的LiDAR處理中間件，通過云計(jì)算來解決數(shù)據(jù)密集型和計(jì)算密集型的處理，滿足了用戶對(duì)于個(gè)性化LiDAR產(chǎn)品的需求，并通過試驗(yàn)分析表明，該計(jì)算平臺(tái)可有效結(jié)合各種軟件算法與硬件資源，實(shí)現(xiàn)LiDAR數(shù)據(jù)的自動(dòng)化與并行化處理，較大地提高LiDAR數(shù)據(jù)產(chǎn)品的生產(chǎn)效率。

參考文獻(xiàn)：

[1] WEHR A, LOHR U. Airborne Laser Scanning——an Introduction and Overview[J]. ISPRS Journal of Photogrammetry and Remote Sensing, 1999, 54(2-3): 68-82.

[2] 楊玲, 劉春, 吳杭彬, 等. 顧及矢量特征的機(jī)載 LiDAR 點(diǎn)云數(shù)據(jù)壓縮方法[J]. 地理與地理信息科學(xué), 2009, 25(4): 25-30.

[3] DI Liping．Customizable Virtual Geospatial Products at Web/Grid Service Environment[C]∥IGARSS 2005.Seoul:[s.n.],2005:231-237.

[4] 馬洪超, 徐宏根, 狄黎平, 等. 論地球空間網(wǎng)格環(huán)境下的遙感產(chǎn)品虛擬化[J]. 武漢大學(xué)學(xué)報(bào): 信息科學(xué)版, 2007, 32(9): 808-816.

[5] ARMBRUST M，F(xiàn)OX A，GIFFITH R，et al．Above the Clouds：a Berkeley View of Cloud Computing[EB/OL]．[2009-10-08]．http：∥www.eecs.berkeley.edu/Pubs/TechRpts/2OO9/EECS-2009-28.htm1．

[6] BUYYA R，YEO C S，VENUGOPAL S，et al．Cloud Computing and Emerging IT Platforms：Vision，Hype，and Reality for Delivering Computing as the 5th Utility[J]．Future Generation Computer Systems，2009，25(6)：599-616．

[7] 王鵬．走進(jìn)云計(jì)算[M]． 北京: 人民郵電出版社，2009．

[8] CHASE J S, IRWIN D E, GRIT L E, et al. Dynamic Virtual Clusters in a Grid Site Manager[C]∥12th IEEE International Symposium on High Performance Distributed Computing. [S.l.]: IEEE, 2003:487-495.

[9] V?CKLER J S, JUVE G, DEELMAN E, et al. Experiences Using Cloud Computing for a Scientific Workflow Application [C]∥Proceedings of the 2nd International Workshop on Scientific Cloud Computing. [S.l.]:ACM, 2011: 15-24.

[10] 黃曉玲, 陳桂林, 趙生慧.基于云計(jì)算的并行測(cè)試方案設(shè)計(jì)與實(shí)現(xiàn)[J]. Computer Engineering, 2012, 38(24):41-46.