基于Hadoop 的物聯(lián)云監(jiān)控系統(tǒng)的設(shè)計(jì)與實(shí)現(xiàn)?

趙 康 楊余旺

（南京理工大學(xué) 南京 210094）

1 引言

物聯(lián)網(wǎng)是新一代網(wǎng)絡(luò)信息技術(shù)［1］。它在互聯(lián)網(wǎng)的基礎(chǔ)上，在用戶端進(jìn)行拓展和延伸，來(lái)進(jìn)行信息交換和通信，互聯(lián)網(wǎng)強(qiáng)調(diào)人與人之前的通信和信息交流，而物聯(lián)網(wǎng)通過(guò)自組網(wǎng)建立起新形式的無(wú)線傳感網(wǎng)［2～3］，按照約定的協(xié)議，將物與物，物與人聯(lián)系在一起，實(shí)現(xiàn)萬(wàn)物聯(lián)網(wǎng)。物聯(lián)網(wǎng)表現(xiàn)出高度智能，全面感知，無(wú)縫互聯(lián)的特征，使物聯(lián)網(wǎng)被廣泛地應(yīng)用與各個(gè)領(lǐng)域。

將物聯(lián)網(wǎng)技術(shù)應(yīng)用與環(huán)境檢測(cè)，能夠獲得大量實(shí)時(shí)、動(dòng)態(tài)的數(shù)據(jù)［4～5］。傳統(tǒng)的物聯(lián)網(wǎng)技術(shù)強(qiáng)調(diào)物與物的連接與整合，對(duì)于其產(chǎn)生的大量數(shù)據(jù)，僅僅是傳輸?shù)街付ǖ臄?shù)據(jù)的數(shù)據(jù)中心，缺少深入的數(shù)據(jù)整合和數(shù)據(jù)分析，沒有發(fā)揮出數(shù)據(jù)集成的優(yōu)勢(shì)［6～7］；將云計(jì)算技術(shù)與物聯(lián)網(wǎng)相結(jié)合，利用計(jì)算機(jī)服務(wù)集群強(qiáng)大的計(jì)算能力，可以實(shí)現(xiàn)靈活多變的數(shù)據(jù)分析應(yīng)用，深度發(fā)掘物聯(lián)網(wǎng)數(shù)據(jù)的價(jià)值。

大數(shù)據(jù)平臺(tái)Hadoop 目前是最流行的云計(jì)算開源項(xiàng)目［8～9］，它旨在利用集群節(jié)點(diǎn)的資源，使用簡(jiǎn)單的編程模型對(duì)大數(shù)據(jù)集進(jìn)行分布式存儲(chǔ)和處理，可以在大量通用硬件設(shè)備組成的集群上運(yùn)行應(yīng)用程序，構(gòu)建一個(gè)擴(kuò)容性強(qiáng)，成本低廉，高效可靠的分布式系統(tǒng)［10～11］。

本文基于Hadoop 設(shè)計(jì)構(gòu)建一個(gè)物聯(lián)云監(jiān)控系統(tǒng)，并給出了原型系統(tǒng)和實(shí)驗(yàn)驗(yàn)證。該系統(tǒng)由物聯(lián)自組網(wǎng)和物聯(lián)云平臺(tái)兩大子系統(tǒng)組成，物聯(lián)自組網(wǎng)采用無(wú)線傳感網(wǎng)技術(shù)，采用多種傳感器技術(shù)采集和檢測(cè)環(huán)境數(shù)據(jù)，利用GPRS 技術(shù)實(shí)現(xiàn)無(wú)線傳感網(wǎng)與傳統(tǒng)電信網(wǎng)絡(luò)之間的數(shù)據(jù)傳送［12］；物聯(lián)云平臺(tái)采用Windows 網(wǎng)絡(luò)編程技術(shù)實(shí)現(xiàn)存儲(chǔ)網(wǎng)關(guān)實(shí)現(xiàn)電信網(wǎng)絡(luò)與互聯(lián)網(wǎng)之間的數(shù)據(jù)傳輸，采用Hadoop 技術(shù)實(shí)現(xiàn)云計(jì)算平臺(tái)實(shí)現(xiàn)對(duì)監(jiān)測(cè)數(shù)據(jù)的分析和處理，采用JavaEE 技術(shù)實(shí)現(xiàn)檢測(cè)數(shù)據(jù)和數(shù)據(jù)應(yīng)用程序的可視化［13］。該系統(tǒng)充分結(jié)合了物聯(lián)網(wǎng)技術(shù)和云計(jì)算技術(shù)的優(yōu)點(diǎn)，能夠?qū)崿F(xiàn)環(huán)境數(shù)據(jù)的實(shí)時(shí)監(jiān)控和海量監(jiān)控?cái)?shù)據(jù)的處理和分析。希望能夠?qū)τ诟纳票O(jiān)控手段和提高物聯(lián)網(wǎng)數(shù)據(jù)處理和數(shù)據(jù)分析能力有所借鑒。

2 物聯(lián)云監(jiān)控系統(tǒng)總體設(shè)計(jì)

本物聯(lián)網(wǎng)監(jiān)控系統(tǒng)體系由兩大部分組成，分別為物聯(lián)自組網(wǎng)和物聯(lián)云平臺(tái)。如圖1 所示。

圖1 物聯(lián)網(wǎng)監(jiān)控系統(tǒng)體系圖

其中物聯(lián)自組網(wǎng)由若干個(gè)數(shù)據(jù)采集節(jié)點(diǎn)和一個(gè)中繼節(jié)點(diǎn)組成，形成一個(gè)無(wú)線傳感網(wǎng)絡(luò)兩類節(jié)點(diǎn)通過(guò)射頻天線模塊形成一個(gè)星型拓?fù)渚W(wǎng)絡(luò)。數(shù)據(jù)采集節(jié)點(diǎn)包括傳感單元，網(wǎng)內(nèi)通信單元等。傳感單元有多種環(huán)境傳感器，用以采集環(huán)境數(shù)據(jù)（包括光照強(qiáng)度傳感器，空氣溫濕度傳感器和土壤空氣溫濕度傳感器）。網(wǎng)內(nèi)通信單元，用以將其采集到的數(shù)據(jù)傳輸?shù)街欣^節(jié)點(diǎn)。中繼節(jié)點(diǎn)包括網(wǎng)內(nèi)通信單元，數(shù)據(jù)顯示單元，遠(yuǎn)程通信單元等［14］。數(shù)據(jù)顯示單元用以實(shí)時(shí)顯示自數(shù)據(jù)采集節(jié)點(diǎn)接收到的數(shù)據(jù)；網(wǎng)內(nèi)通信單元實(shí)現(xiàn)節(jié)點(diǎn)間的通信。

物聯(lián)云平臺(tái)由上位機(jī)服務(wù)器，云計(jì)算平臺(tái)和Web服務(wù)器組成。上位機(jī)服務(wù)器作為數(shù)據(jù)網(wǎng)關(guān)，負(fù)責(zé)與物聯(lián)自組網(wǎng)的網(wǎng)絡(luò)通信，接收物聯(lián)自組網(wǎng)發(fā)送過(guò)來(lái)的數(shù)據(jù)，為了保證數(shù)據(jù)持久化，采用數(shù)據(jù)庫(kù)技術(shù)保存這些接收到的數(shù)據(jù)［15］。云計(jì)算平臺(tái)負(fù)責(zé)對(duì)上位機(jī)服務(wù)器接收到，持久化保存下的數(shù)據(jù)進(jìn)行分析和處理。Web 服務(wù)器負(fù)責(zé)對(duì)上位機(jī)服務(wù)器接收到數(shù)據(jù)和云計(jì)算平臺(tái)的數(shù)據(jù)分析結(jié)果進(jìn)行可視化展示。

3 物聯(lián)自組網(wǎng)設(shè)計(jì)與實(shí)現(xiàn)

物聯(lián)自組網(wǎng)采集環(huán)境中的數(shù)據(jù)并將其上傳到服務(wù)器，是物聯(lián)云監(jiān)控系統(tǒng)的重要組成部分。物聯(lián)自組網(wǎng)有兩類節(jié)點(diǎn)組成，數(shù)據(jù)采集節(jié)點(diǎn)和中繼節(jié)點(diǎn)。接下來(lái)將從硬件和軟件兩方面介紹這兩個(gè)節(jié)點(diǎn)。

3.1 物聯(lián)自組網(wǎng)的硬件設(shè)計(jì)

數(shù)據(jù)采集節(jié)點(diǎn)采用STC89C52RC 作為主控單元，使用SHT11 空氣溫濕度傳感器和BH1750 光照強(qiáng)度傳感器作為傳感單元，采用MC13213 射頻模塊來(lái)作為網(wǎng)內(nèi)通信單元［16］，主控單元通過(guò)通用I/O從傳感單元獲取所要的數(shù)據(jù)，再通過(guò)串口傳輸給網(wǎng)內(nèi)通信單元，其硬件結(jié)構(gòu)圖如圖2所示。

圖2 數(shù)據(jù)采集節(jié)點(diǎn)硬件結(jié)構(gòu)圖

中繼節(jié)點(diǎn)采用MSP430F149 作為主控單元，采用MC13213 射頻模塊來(lái)作為網(wǎng)內(nèi)通信單元，與數(shù)據(jù)采集節(jié)點(diǎn)形成自組網(wǎng)。使用LCD12864液晶作為數(shù)據(jù)顯示單元，實(shí)時(shí)顯示采集到的數(shù)據(jù)，采用GTM900B 無(wú)線通信模塊將作為遠(yuǎn)程通信單元，將采集到數(shù)據(jù)通過(guò)電信網(wǎng)絡(luò)上傳至上位機(jī)服務(wù)器，其硬件結(jié)構(gòu)圖如圖3所示。

圖3 中繼節(jié)點(diǎn)硬件結(jié)構(gòu)圖

3.2 物聯(lián)自組網(wǎng)的軟件設(shè)計(jì)

為了實(shí)現(xiàn)自組網(wǎng)各節(jié)點(diǎn)的功能，必須對(duì)于兩類主控制器芯片進(jìn)行程序設(shè)計(jì)。

數(shù)據(jù)采集節(jié)點(diǎn)的功能在于采集數(shù)據(jù)和向傳輸中繼節(jié)點(diǎn)傳輸數(shù)據(jù)。程序首先初始化光照強(qiáng)度傳感器和空氣溫濕度傳感器，隨后初始化串口并開啟串口，隨后監(jiān)聽串口，如果接收到中繼節(jié)點(diǎn)發(fā)送的數(shù)據(jù)采集指令，則開始采集環(huán)境中光照數(shù)據(jù)，溫度數(shù)據(jù)和濕度數(shù)據(jù)，獲取這些數(shù)據(jù)，將它們進(jìn)行封裝后，再通過(guò)串口發(fā)送至射頻模塊，由其將封裝后的數(shù)據(jù)傳輸至中繼節(jié)點(diǎn)。

中繼節(jié)點(diǎn)的功能在于顯示數(shù)據(jù)和接收來(lái)自采集節(jié)點(diǎn)的數(shù)據(jù)，和向上位機(jī)服務(wù)器發(fā)送數(shù)據(jù)。其主程序首先初始化液晶模塊和兩個(gè)串口，串口1 與射頻模塊通信，串口2 與GPRS 模塊通信，隨后通過(guò)AT 指令控制GPRS 模塊連接上位機(jī)服務(wù)器。連接服務(wù)器成功后，開始監(jiān)控串口1，如果接收到數(shù)據(jù)采集節(jié)點(diǎn)傳輸過(guò)來(lái)的數(shù)據(jù)，將封裝在AT指令中，向串口2 轉(zhuǎn)發(fā)，隨后解析源數(shù)據(jù)并將其顯示在液晶屏上。

4 物聯(lián)云平臺(tái)的設(shè)計(jì)與實(shí)現(xiàn)

物聯(lián)云平臺(tái)由上位機(jī)服務(wù)器，Web 服務(wù)器，和云計(jì)算平臺(tái)組成，接下來(lái)分別對(duì)這三部分進(jìn)行介紹。

4.1 上位機(jī)服務(wù)器

上位機(jī)服務(wù)器為一個(gè)TCP服務(wù)器，能夠獲取本地IP，監(jiān)聽特定端口，與中繼節(jié)點(diǎn)建立可靠的連接鏈路，持續(xù)地從中繼節(jié)點(diǎn)接收數(shù)據(jù)，并將這些數(shù)據(jù)保存到數(shù)據(jù)庫(kù)中，并且能夠與多個(gè)中繼節(jié)點(diǎn)同時(shí)通信，且保證各個(gè)節(jié)點(diǎn)的數(shù)據(jù)不會(huì)混淆。

采用.NET 架構(gòu)實(shí)現(xiàn)這些功能，利用網(wǎng)絡(luò)套接字實(shí)現(xiàn)數(shù)據(jù)傳輸，上位機(jī)服務(wù)器啟動(dòng)后，自動(dòng)獲取本地IP 并開始監(jiān)聽指定的端口，同時(shí)新建一個(gè)線程池來(lái)處理不同節(jié)點(diǎn)的連接，某一節(jié)點(diǎn)連接到服務(wù)器則從線程池中取出一個(gè)線程來(lái)處理此節(jié)點(diǎn)的連接。當(dāng)接收到從中繼節(jié)點(diǎn)發(fā)來(lái)的數(shù)據(jù)包時(shí)，服務(wù)器對(duì)其進(jìn)行解析，分析其節(jié)點(diǎn)號(hào)和數(shù)據(jù)信息，將主要信息在圖形界面上顯示；隨后根據(jù)這些信息構(gòu)造相應(yīng)的SQL 語(yǔ)句，將獲取的數(shù)據(jù)存儲(chǔ)至數(shù)據(jù)庫(kù)中，實(shí)現(xiàn)數(shù)據(jù)持久化。數(shù)據(jù)庫(kù)管理系統(tǒng)采用是開源關(guān)系型數(shù)據(jù)庫(kù)MySQL。MySQL 數(shù)據(jù)庫(kù)支持標(biāo)準(zhǔn)SQL 語(yǔ)言，功能強(qiáng)大，高效易用，可以滿足本系統(tǒng)的要求。

4.2 云計(jì)算平臺(tái)的設(shè)計(jì)與實(shí)現(xiàn)

云計(jì)算平臺(tái)為整個(gè)系統(tǒng)提供的數(shù)據(jù)的分析處理能力，本系統(tǒng)中云計(jì)算機(jī)平臺(tái)通過(guò)Hadoop 集群來(lái)實(shí)現(xiàn)，架構(gòu)如圖4所示。

圖4 云計(jì)算平臺(tái)體系圖

整個(gè)集群共有六臺(tái)服務(wù)器，其中一臺(tái)服務(wù)器作為主節(jié)點(diǎn)（NameNode），一臺(tái)作為備份節(jié)點(diǎn)（Secondary NameNode），其余四臺(tái)作為數(shù)據(jù)節(jié)點(diǎn)（DataNode）；每臺(tái)服務(wù)器均配置有Intel Xeon E552中央處理器，32G 內(nèi)存，并且安裝64 位CentOS 6.5操作系統(tǒng)。集群服務(wù)器通過(guò)企業(yè)級(jí)路由器與外界通信，服務(wù)器之間通過(guò)千兆交換機(jī)進(jìn)行通信，為了方便對(duì)集群服務(wù)器進(jìn)行操作，配置有16 端口多電腦切換器（KVM）［17］。

具體到每一類上節(jié)點(diǎn)，主節(jié)點(diǎn)負(fù)責(zé)控制所有的節(jié)點(diǎn)，通過(guò)JobTracker 和TaskTracker 監(jiān)視數(shù)據(jù)節(jié)點(diǎn)的心跳及其協(xié)調(diào)MapReduce計(jì)算［18～19］；通過(guò)SQOOP將數(shù)據(jù)格式轉(zhuǎn)換成 HDFS 數(shù)據(jù)格式［20］；Hive 服務(wù)器負(fù)責(zé)管理和查詢存儲(chǔ)在HDFS 中的數(shù)據(jù)集；通過(guò)Oozie控制工作流的調(diào)度。為了更好地管理整個(gè)集群，在主節(jié)點(diǎn)上安裝了Cloudera Manager管理系統(tǒng)，該系統(tǒng)能夠通過(guò)配置參數(shù)管理寄存，并監(jiān)控集群的健康情況，對(duì)集群出現(xiàn)的問(wèn)題進(jìn)行診斷。備份節(jié)點(diǎn)定時(shí)到主節(jié)點(diǎn)上獲取edits 日志文件，并更新到fsimage 上，控制edit 日志文件的規(guī)模，一旦它有了新的fsimage 文件，將其拷貝回主節(jié)點(diǎn)中；如果主節(jié)點(diǎn)宕機(jī)，可利用備份節(jié)點(diǎn)來(lái)恢復(fù)主節(jié)點(diǎn)。數(shù)據(jù)節(jié)點(diǎn)提供真實(shí)文件數(shù)據(jù)的存儲(chǔ)服務(wù)和MapReduce 計(jì)算。數(shù)據(jù)節(jié)點(diǎn)響應(yīng)來(lái)自客戶機(jī)的請(qǐng)求和來(lái)自主節(jié)點(diǎn)的命令。當(dāng)執(zhí)行MapReduce 作業(yè)時(shí)，主節(jié)點(diǎn)上Job-Tracker 會(huì)激活數(shù)據(jù)節(jié)點(diǎn)上的TaskTracker，通過(guò)心跳與之通信，數(shù)據(jù)節(jié)點(diǎn)上的TaskTracker 接收作業(yè)，并執(zhí)行每一個(gè)任務(wù)，同時(shí)反饋執(zhí)行狀態(tài)給JobTracker［21］。

4.3 Web服務(wù)器

本系統(tǒng)提供一個(gè)網(wǎng)站來(lái)更好地呈現(xiàn)數(shù)據(jù)和實(shí)現(xiàn)節(jié)點(diǎn)管理，網(wǎng)站采用MVC 模式開發(fā)，網(wǎng)站前端采用Bootstrap 架構(gòu)來(lái)實(shí)現(xiàn)，能夠提供一個(gè)友好的界面；網(wǎng)站后端采用structs2 架構(gòu)，實(shí)現(xiàn)用戶登錄和數(shù)據(jù)的增刪改查。

5 系統(tǒng)運(yùn)行測(cè)試

5.1 物聯(lián)自組網(wǎng)部署與運(yùn)行

本文實(shí)現(xiàn)的物聯(lián)自組網(wǎng)由兩個(gè)數(shù)據(jù)采集節(jié)點(diǎn)和一個(gè)中繼節(jié)點(diǎn)組成，數(shù)據(jù)采集節(jié)點(diǎn)不至于實(shí)驗(yàn)房間內(nèi)，中繼節(jié)點(diǎn)布置與實(shí)驗(yàn)房間外，兩個(gè)數(shù)據(jù)采集節(jié)點(diǎn)相距30m，它們與中繼節(jié)點(diǎn)的距離均為50m。兩類節(jié)點(diǎn)的實(shí)物圖如圖5 所示（左為數(shù)據(jù)采集節(jié)點(diǎn)，右為中繼節(jié)點(diǎn)）。

圖5 物聯(lián)自組網(wǎng)節(jié)點(diǎn)圖

5.2 上位機(jī)服務(wù)器和Web服務(wù)器部署和運(yùn)行

上位機(jī)服務(wù)器接收下位機(jī)傳輸過(guò)來(lái)的數(shù)據(jù)，并將數(shù)據(jù)存入數(shù)據(jù)庫(kù)中，供系統(tǒng)中其他組件調(diào)用，它部署于物聯(lián)云平臺(tái)的入口。上位機(jī)服務(wù)器工作效果如圖6所示，在配置服務(wù)器的IP地址和端口后啟動(dòng)服務(wù)器，服務(wù)器即開始向下位機(jī)提供服務(wù)。

圖6 上位機(jī)服務(wù)器工作圖

Web 服務(wù)器負(fù)責(zé)呈現(xiàn)數(shù)據(jù)和接受數(shù)據(jù)分析請(qǐng)求，是整個(gè)系統(tǒng)對(duì)外交互的接口。能夠時(shí)實(shí)時(shí)采集到的傳感器數(shù)據(jù)，包括光照，溫度和濕度數(shù)據(jù)。還可以查詢到歷史數(shù)據(jù)和利用云計(jì)算平臺(tái)對(duì)數(shù)據(jù)進(jìn)行分析，并展示分析結(jié)果，圖7 是歷史數(shù)據(jù)查詢的數(shù)據(jù)展示圖。

圖7 數(shù)據(jù)信息網(wǎng)頁(yè)圖

5.3 云計(jì)算平臺(tái)運(yùn)行測(cè)試

Hadoop 集群是整個(gè)物理云平臺(tái)的核心。集群主機(jī)配置如圖8 所示:整個(gè)集群由六個(gè)節(jié)點(diǎn)組成，包括一個(gè)主節(jié)點(diǎn)（master），一個(gè)備份節(jié)點(diǎn)（secondnn）和四個(gè)數(shù)據(jù)節(jié)點(diǎn)（slaves0x），六個(gè)節(jié)點(diǎn)被組織在同一個(gè)域中，主節(jié)點(diǎn)可以通過(guò)心跳與數(shù)據(jù)節(jié)點(diǎn)通信。

圖8 集群主機(jī)配置圖

整個(gè)集群使用Cloudera Manager來(lái)管理各類云計(jì)算組件，并對(duì)集群中各類資源，如CPU，內(nèi)存，I/O消耗等參數(shù)進(jìn)行監(jiān)控。對(duì)集群信息的管理情況如圖9所示。

圖9 集群信息管理圖

6 結(jié)語(yǔ)

本文設(shè)計(jì)并實(shí)現(xiàn)了一個(gè)基于Hadoop 構(gòu)建的物聯(lián)云監(jiān)控系統(tǒng)，采用無(wú)線傳感技術(shù)構(gòu)建物聯(lián)自組網(wǎng)實(shí)現(xiàn)對(duì)于環(huán)境數(shù)據(jù)的實(shí)時(shí)監(jiān)控，并且能夠利用Hadoop 云計(jì)算平臺(tái)實(shí)現(xiàn)對(duì)海量監(jiān)控?cái)?shù)據(jù)的處理和分析。該系統(tǒng)界面簡(jiǎn)潔，功能實(shí)用，能夠推廣應(yīng)用于智能家居、工業(yè)監(jiān)控、智能電網(wǎng)、等物聯(lián)網(wǎng)應(yīng)用領(lǐng)域。