基于CNN-LSTM模型的中國(guó)碳排放量實(shí)時(shí)預(yù)測(cè)研究

張學(xué)清 李 芳 張 絢 喬小燕 李瀟怡

（1.山東工商學(xué)院數(shù)學(xué)與信息科學(xué)學(xué)院,山東 煙臺(tái) 264005；2.山東工商學(xué)院統(tǒng)計(jì)學(xué)院,山東 煙臺(tái) 264005；3.山東工商學(xué)院計(jì)算機(jī)科學(xué)與技術(shù)學(xué)院,山東 煙臺(tái) 264005）

2021年4月22日世界地球日，習(xí)近平總書記在以視頻方式出席領(lǐng)導(dǎo)人氣候峰會(huì)時(shí)，首次全面系統(tǒng)闡釋人與自然生命共同體理念，為加強(qiáng)全球環(huán)境治理提出中國(guó)方案，指明應(yīng)對(duì)環(huán)境挑戰(zhàn)助力實(shí)現(xiàn)碳中和[1]。

目前國(guó)內(nèi)對(duì)于碳排放相關(guān)問題的研究主要從影響因素、行業(yè)、地區(qū)、方法這四個(gè)方面展開。從影響因素來看，徐軍委（2013）從全國(guó)視角，運(yùn)用LMDI模型，探究了我國(guó)二氧化碳排放增長(zhǎng)的現(xiàn)狀及其形成的原因，依據(jù)測(cè)算結(jié)果分析了減排目標(biāo)實(shí)現(xiàn)的可能性[2]。馬宏偉等（2015）針對(duì)我國(guó)人均二氧化碳排放，運(yùn)用了STIRPAT方法對(duì)影響我國(guó)人均二氧化碳排放的因素進(jìn)行了實(shí)證研究[3]。

從行業(yè)來看，碳排放主要是化石燃料的燃燒造成的，而鋼鐵行業(yè)、交通運(yùn)輸業(yè)、電力行業(yè)目前仍然依賴于化石能源的供能，關(guān)于這些行業(yè)的研究較為集中。高春艷等（2021）介紹了多種鋼材碳排放分析理論和核算方法等，以及如何選取碳排放因子的數(shù)值[4]。曾曉瑩等（2020）對(duì)交通碳排放時(shí)空分布格局進(jìn)行研究，采用探索性空間數(shù)據(jù)分析（ESDA）方法，同時(shí)考慮空間單元的差異性，構(gòu)建地理加權(quán)回歸（GWR）模型分析了交通碳排放影響因素的時(shí)空異質(zhì)性[5]。

從研究方法上來看，對(duì)于分析影響因素和預(yù)測(cè)都可以使用傳統(tǒng)的STIRPAT模型[2]，目前將深度學(xué)習(xí)的方法應(yīng)用于碳排放的研究也越來越多。針對(duì)碳排放預(yù)測(cè)問題，學(xué)者們也運(yùn)用了多種方法模型，包括趙成柏等（2012）使用的ARIMA和BP神經(jīng)網(wǎng)絡(luò)組合模型[6]，王珂珂等（2020）使用的WOA-ELM模型[7]等等。

國(guó)外關(guān)于碳排放相關(guān)問題的研究主要從碳排放影響因素分解及碳排放量預(yù)測(cè)方法兩個(gè)方面展開。Chekouri（2020）利用STIRPAT模型以阿爾及利亞為例對(duì)碳排放的驅(qū)動(dòng)因素進(jìn)行研究，結(jié)果表明人口數(shù)量是造成碳排放的首要因素[8]。國(guó)外主要用于碳排放量預(yù)測(cè)的方法有灰色模型、機(jī)器學(xué)習(xí)算法、情景分析法三種。Ding等（2017）提出改進(jìn)的灰色多變量模型，避免了傳統(tǒng)灰色模型預(yù)測(cè)不準(zhǔn)確、適應(yīng)性差等不足[9]。Chiroma等（2015）應(yīng)用神經(jīng)網(wǎng)絡(luò)預(yù)測(cè)OPEC石油消費(fèi)的碳排放量，利用混合布谷鳥搜索算法優(yōu)化神經(jīng)網(wǎng)絡(luò)中的參數(shù)，預(yù)測(cè)結(jié)果為OPEC成員國(guó)經(jīng)濟(jì)發(fā)展和結(jié)構(gòu)調(diào)整提供參考[10]。

目前關(guān)于碳排放量的預(yù)測(cè)還沒有一個(gè)公認(rèn)的統(tǒng)一的預(yù)測(cè)模型，通過閱讀文獻(xiàn)，可以發(fā)現(xiàn)CNN-LSTM模型對(duì)居民價(jià)格消費(fèi)指數(shù)、短時(shí)交通流、中國(guó)消費(fèi)者信心指數(shù)以及股票指數(shù)問題在預(yù)測(cè)方面展示出優(yōu)越的性質(zhì)，結(jié)合碳排放量數(shù)據(jù)的特性，本文將構(gòu)建一個(gè)基于CNN-LSTM模型的中國(guó)碳排放量實(shí)時(shí)預(yù)測(cè)模型。通過使用多層CNN網(wǎng)絡(luò)提取碳排放影響因素的空間特征，并運(yùn)用LSTM網(wǎng)絡(luò)捕捉碳排放量的時(shí)間依賴特征，優(yōu)化算法機(jī)制進(jìn)行模型的優(yōu)化訓(xùn)練，模型采用碳排放量影響因素?cái)?shù)據(jù)作為數(shù)據(jù)集進(jìn)行預(yù)測(cè)是可行的，深度學(xué)習(xí)神經(jīng)網(wǎng)絡(luò)也可對(duì)宏觀數(shù)據(jù)進(jìn)行處理，實(shí)現(xiàn)對(duì)各個(gè)領(lǐng)域的預(yù)測(cè)。

1 CNN-LSTM神經(jīng)網(wǎng)絡(luò)模型

1.1 CNN卷積神經(jīng)網(wǎng)絡(luò)模型

CNN是深度學(xué)習(xí)中常用的一種前饋式神經(jīng)網(wǎng)絡(luò)，它是由多層神經(jīng)網(wǎng)絡(luò)擴(kuò)展延伸而來。在大量數(shù)據(jù)輸入的基礎(chǔ)上，它能夠有效提取數(shù)據(jù)特征，得到有用的數(shù)據(jù)。

學(xué)者們探索了CNN在時(shí)間序列預(yù)測(cè)中的應(yīng)用，發(fā)現(xiàn)其噪聲容忍度十分優(yōu)秀。在時(shí)間序列預(yù)測(cè)中通常采用的是一維CNN，把卷積核視為一個(gè)窗口，在時(shí)間序列數(shù)據(jù)上進(jìn)行窗口滑動(dòng)，提取局部序列段并與權(quán)重進(jìn)行點(diǎn)乘，持續(xù)不斷輸出計(jì)算得到的序列特征，從而進(jìn)行池化下采樣，進(jìn)一步過濾數(shù)據(jù)中對(duì)于預(yù)測(cè)無益的噪聲信息，使得預(yù)測(cè)性能得到優(yōu)化。

1.2 LSTM長(zhǎng)短期記憶網(wǎng)絡(luò)模型

LSTM屬于遞歸神經(jīng)網(wǎng)絡(luò)（RNN），是由RNN改進(jìn)而來的一種特殊的循環(huán)神經(jīng)網(wǎng)絡(luò)。基礎(chǔ)的循環(huán)神經(jīng)擁有普通神經(jīng)網(wǎng)絡(luò)所沒有的自連接隱藏層結(jié)構(gòu)，可以用前一時(shí)刻的隱藏層狀態(tài)更新當(dāng)前時(shí)刻的隱藏層狀態(tài)，這使得RNN適用于處理時(shí)間序列數(shù)據(jù)。但隨著時(shí)間序列長(zhǎng)度的增加，RNN會(huì)因“忘記”早期的時(shí)序信息而變得難以訓(xùn)練，出現(xiàn)梯度消失或梯度爆炸。LSTM的提出，在一定程度上解決了RNN無法記住早期時(shí)間序列信息的問題[6]。相比之下，LSTM解決了RNN無法充分利用歷史信息的問題，常用來解決長(zhǎng)期依賴問題。

LSTM共擁有四層以特殊方式進(jìn)行交互的神經(jīng)網(wǎng)絡(luò)層，細(xì)胞狀態(tài)以類似傳輸帶的形式貫穿這四層神經(jīng)網(wǎng)絡(luò)，神經(jīng)網(wǎng)絡(luò)層對(duì)細(xì)胞進(jìn)行很小的線性變換，因此細(xì)胞狀態(tài)很容易保持信息的不變性。模型的第一步通過遺忘門決定要從細(xì)胞狀態(tài)中丟棄、保留哪些信息，該決定由sigmoid函數(shù)篩選t層輸入值和上一層輸出值 及經(jīng)過遺忘門后仍保留的長(zhǎng)期狀態(tài)中的信息。當(dāng)同時(shí)獲取到的信息后，將采用激活函數(shù)對(duì)數(shù)據(jù)進(jìn)行處理。同時(shí)，遺忘門將這個(gè)結(jié)果傳遞給上一層細(xì)胞長(zhǎng)期狀態(tài)，其輸出遺忘門值的表達(dá)式為：

以上就是LSTM的整個(gè)運(yùn)行原理，其內(nèi)部的權(quán)重和參.數(shù)通過神經(jīng)網(wǎng)絡(luò)的反向傳播不斷調(diào)整優(yōu)化得到，進(jìn)而生成LSTM預(yù)測(cè)模型。

2 中國(guó)碳排放預(yù)測(cè)模型及其結(jié)果

2.1 數(shù)據(jù)的選取與處理

2.1.1 數(shù)據(jù)的選取

通過文獻(xiàn)研究及綜合前人篩選的中國(guó)碳排放影響因素，梳理得到碳排放的影響因素有人口數(shù)量、富裕程度、技術(shù)水平、城鎮(zhèn)化水平、產(chǎn)業(yè)結(jié)構(gòu)、能源消費(fèi)總量及化石燃料消費(fèi)占比。

以上碳排放影響因素中，技術(shù)水平難以實(shí)現(xiàn)量化，即便量化也容易出現(xiàn)以偏概全的情況。學(xué)者們通過不斷地研究、改進(jìn)得到的與碳排放相關(guān)的影響變量，基本涵蓋了全國(guó)生產(chǎn)生活所有的碳排放量，但是存在指標(biāo)過于宏觀、指標(biāo)單位不一致的問題，可能會(huì)降低碳排放量的預(yù)測(cè)精度。為此，本研究重新設(shè)置了相關(guān)指標(biāo)，涵蓋了生產(chǎn)生活的六個(gè)方面，其含義及計(jì)算方法如表1所示。

表1 中國(guó)碳排放量影響因素

本文數(shù)據(jù)來源于全球?qū)崟r(shí)碳數(shù)據(jù)Carbon Monitor官網(wǎng)。數(shù)據(jù)集來源于幾個(gè)關(guān)鍵的排放部門：電力部門（占總排放量的39%）、工業(yè)生產(chǎn)（28%）、地面運(yùn)輸（18%）、航空運(yùn)輸（3%）、船舶運(yùn)輸（2%）和居民消費(fèi)（10%）。這是第一次根據(jù)動(dòng)態(tài)和定期更新的活動(dòng)數(shù)據(jù)，對(duì)這六個(gè)部門進(jìn)行每日排放估計(jì)。這是因?yàn)橛辛俗罱幕顒?dòng)數(shù)據(jù)，如每小時(shí)的發(fā)電量、交通指數(shù)、飛機(jī)位置和天然氣分布，并假定排放量的每日變化是由活動(dòng)數(shù)據(jù)驅(qū)動(dòng)的，而排放因素的貢獻(xiàn)如政策實(shí)施和技術(shù)轉(zhuǎn)變，因?yàn)樗鼈冊(cè)谳^長(zhǎng)的時(shí)間范圍內(nèi)演變，可以忽略不計(jì)。

2.1.2 數(shù)據(jù)的處理

(1)獲取數(shù)據(jù)

從全球?qū)崟r(shí)碳數(shù)據(jù)Carbon Monitor官網(wǎng)上獲取2019年1月1日至2020年11月30日中國(guó)碳排放量的數(shù)據(jù)作為模型測(cè)試數(shù)據(jù)，共700條數(shù)據(jù)集。

(2)歸--化處理

為了避免獲取數(shù)據(jù)中的某些異常值使模型難以收斂，同時(shí)讓CNN-LSTM模型收斂得更快更穩(wěn)定，本研究對(duì)碳排放:量的相關(guān)數(shù)據(jù)進(jìn)行了歸--化處理，使CNN-LSTM的輸入值處于[0,1]區(qū)間。歸一化處理公式為數(shù)據(jù)歸一化處理公式:

(3)數(shù)據(jù)還原

在訓(xùn)練結(jié)束后對(duì)模型進(jìn)行評(píng)估時(shí)，采用公式(8)對(duì)歸一化后的數(shù)據(jù)進(jìn)行還原(即逆歸一化)處理，以便評(píng)估模型預(yù)測(cè)值的誤差。

2.2 模型構(gòu)建

本研究構(gòu)造的CNN-LSTM模型的第一部分搭建了2個(gè)卷積層、1個(gè)最大池化層和1個(gè)展平層。在提取數(shù)據(jù)進(jìn)行訓(xùn)練時(shí)，基于一周碳排放量數(shù)據(jù)以及不同影響因素的數(shù)據(jù)變化情況，且要保證數(shù)據(jù)預(yù)測(cè)的準(zhǔn)確性，對(duì)比用一周、三周的數(shù)據(jù)預(yù)測(cè)的效果后，最終將輸入層高度設(shè)置為14，也就是兩周。通過滑動(dòng)窗口的訓(xùn)練機(jī)制，每滑動(dòng)一步，將輸入14×7窗口大小的訓(xùn)練集數(shù)據(jù)進(jìn)入卷積1層。后期LSTM部分則采用LSTM網(wǎng)絡(luò)對(duì)展平層輸入的時(shí)序數(shù)據(jù)進(jìn)行建模，最終得到中國(guó)碳排放量連續(xù)7天的實(shí)時(shí)預(yù)測(cè)結(jié)果。

第二部分則采用LSTM網(wǎng)絡(luò)對(duì)展平層輸入的時(shí)序數(shù)據(jù)進(jìn)行建模，將卷積神經(jīng)網(wǎng)絡(luò)捕捉到的特征序列通過LSTM的多次疊加計(jì)算，最終得到中國(guó)碳排放量連續(xù)7天的實(shí)時(shí)預(yù)測(cè)結(jié)果。CNN-LSTM中國(guó)碳排放量實(shí)時(shí)預(yù)測(cè)模型運(yùn)行的整個(gè)過程如圖1所示。

圖1 CNN-LSTM運(yùn)行流程圖

為了將本研究構(gòu)建的模型更好地運(yùn)用到真實(shí)數(shù)據(jù)預(yù)測(cè)過程中，將數(shù)據(jù)的前80%劃分為訓(xùn)練數(shù)據(jù)，后20%劃分為測(cè)試數(shù)據(jù)。在訓(xùn)練過程中，訓(xùn)練周期以三周為單位，前兩周多變量數(shù)據(jù)作為模型的訓(xùn)練輸入，后一周碳排放總量作為驗(yàn)證輸入，以兩周數(shù)據(jù)預(yù)測(cè)后一周數(shù)據(jù)，采用交叉驗(yàn)證的方法，訓(xùn)練集和驗(yàn)證集不斷調(diào)整模型參數(shù)，把MAE和MAPE作為模型損失值，通過反向傳播誤差信息進(jìn)行迭代權(quán)重更新，不斷優(yōu)化卷積內(nèi)核中的參數(shù)、權(quán)重及LSTM的參數(shù)信息的參數(shù)直至收斂，完成模型的訓(xùn)練。在測(cè)試階段，20%的測(cè)試數(shù)據(jù)用于評(píng)估最終訓(xùn)練完成的模型的泛化能力。

總而言之，CNN-LSTM碳排放實(shí)時(shí)預(yù)測(cè)模型是將兩個(gè)模型結(jié)合在一起，其模型內(nèi)部的運(yùn)行原理不變，充分利用了兩者的優(yōu)勢(shì)，彌補(bǔ)了不足。數(shù)據(jù)部分采用了碳排放相關(guān)影響因素每天的數(shù)值，得到的是碳排放量每天的實(shí)時(shí)預(yù)測(cè)值，數(shù)據(jù)與方法的恰當(dāng)結(jié)合最終得到了能用于預(yù)測(cè)實(shí)時(shí)碳排放量的較好的模型。

2.3 模型參數(shù)設(shè)置

CNN-LSTM深度神經(jīng)網(wǎng)絡(luò)通過最小化碳排放量的預(yù)測(cè)值與實(shí)際值（真實(shí)值）之間的誤差進(jìn)行訓(xùn)練。對(duì)于損失函數(shù)定義為：

其中表示輸出的碳排放量預(yù)測(cè)值，y表示真實(shí)值，W、b表示待學(xué)習(xí)的參數(shù)，Loss的隱含意義是預(yù)測(cè)的殘差，本研究的目標(biāo)是使得Loss=0（或盡量?。?。

根據(jù)損失函數(shù)值最小化原理，需要對(duì)CNN-LSTM模型的超參數(shù)進(jìn)行設(shè)置，它在一定程度上影響了該模型的預(yù)測(cè)性能。經(jīng)過反復(fù)地試驗(yàn)、調(diào)整，最終確定了相對(duì)較優(yōu)的超參數(shù)和激活函數(shù)，同時(shí)為了調(diào)整多變量數(shù)據(jù)輸入和一維數(shù)據(jù)的輸出維數(shù)轉(zhuǎn)化，配置了Repeat-vector層和TimeDistributed層。

2.4 結(jié)果分析

2.4.1 擬合結(jié)果分析

CNN-LSTM模型下對(duì)應(yīng)時(shí)段中國(guó)碳排放量的預(yù)測(cè)結(jié)果與實(shí)際值對(duì)比如圖2所示。可以看出，預(yù)測(cè)值的波動(dòng)趨勢(shì)大體與實(shí)際值的波動(dòng)趨勢(shì)一致，可見CNN-LSTM模型對(duì)碳排放量的預(yù)測(cè)表現(xiàn)較好，該模型具有較強(qiáng)的泛化性能。

圖2 CNN-LSTM模型驗(yàn)證集預(yù)測(cè)值與實(shí)測(cè)值對(duì)比圖（133天）

2.4.2 預(yù)測(cè)結(jié)果

根據(jù)模型可得到一周內(nèi)每天碳排放量預(yù)測(cè)值，顯示一周內(nèi)的波動(dòng)差值大概在0.5以內(nèi)。

3 模型性能的評(píng)估

3.1 模型評(píng)價(jià)方法

本文CNN-LSTM模型的預(yù)測(cè)評(píng)價(jià)方法主要采用較為常用的均方誤差MSE和平均絕對(duì)百分比誤差MAPE來進(jìn)行預(yù)測(cè)的評(píng)價(jià)分析。評(píng)判誤差大小的標(biāo)準(zhǔn)：MSE和MAPE值越小，其預(yù)測(cè)誤差越小。

3.2 模型評(píng)估結(jié)果

通過CNN-LSTM模型得到的一周內(nèi)碳排放量預(yù)測(cè)誤差在合理范圍內(nèi)且偏小，具體數(shù)值如表2所示。

表2 一周內(nèi)中國(guó)碳排放量預(yù)測(cè)誤差

3.3 不同模型性能對(duì)比

通過對(duì)比不同模型對(duì)碳排放量進(jìn)行預(yù)測(cè)得到的均方根及平均絕對(duì)誤差值可知，不同模型按兩者從小到大排列順序?yàn)镃NN-LSTM＜WOA-ELM＜ELM＜BPNN。根據(jù)誤差值越小精度越高的原理，得到不同模型按預(yù)測(cè)精度降序排列為CNN-LSTM＞W(wǎng)OA-ELM＞ELM＞BPNN。結(jié)論證實(shí)了采用CNN-LSTM預(yù)測(cè)碳排放量具有更高的精度，模型可行性高，可用于對(duì)中國(guó)每天的碳排放量進(jìn)行實(shí)時(shí)預(yù)測(cè)。

4 結(jié)論及建議

4.1 結(jié)論

（1）本文構(gòu)建的CNN-LSTM預(yù)測(cè)模型具有較小的誤差值，在碳排放量預(yù)測(cè)精度上優(yōu)于WOA-ELM和BPNN模型，既解決了CNN難以記憶早期時(shí)間序列信息的問題，又克服了LSTM預(yù)測(cè)數(shù)據(jù)信息精度不足的缺陷，具有較強(qiáng)的泛化性能。

（2）通過該模型可以預(yù)測(cè)到每一天實(shí)時(shí)的碳排放量，由此可以通過每天的碳排放量監(jiān)控與碳排放相關(guān)的生產(chǎn)活動(dòng)，對(duì)比年度、季度甚至月度的碳排放量數(shù)據(jù)，本研究得到的每日碳排量數(shù)據(jù)更具有時(shí)效性，便于及時(shí)調(diào)控各生產(chǎn)活動(dòng)的碳排放量，也為進(jìn)一步如何采取相關(guān)措施有效降低碳排放量、實(shí)現(xiàn)碳中和提供了分析數(shù)據(jù)。

4.2 政策建議

（1）積極調(diào)控可控因素可以有效控制碳排放總量數(shù)值。短期碳排放量的數(shù)值，容易受到碳排放生產(chǎn)端和消費(fèi)端的控制，但長(zhǎng)期來看，要把碳達(dá)峰與碳中和綜合考慮，既不能為了短期數(shù)值，限制相關(guān)企業(yè)的發(fā)展，也不能放任碳排放總量達(dá)峰，造成生態(tài)環(huán)境的破壞后，再考慮碳減排。

（2）各個(gè)地區(qū)要因地制宜，積極探索適合本地區(qū)的碳中和措施。

（3）積極推動(dòng)碳排放權(quán)的交易市場(chǎng)建設(shè)。國(guó)家要不斷完善交易機(jī)制，進(jìn)一步規(guī)范全國(guó)碳排放權(quán)的登記、交易、結(jié)算活動(dòng)。加快建立各項(xiàng)行政法規(guī)、市場(chǎng)標(biāo)準(zhǔn)，積極對(duì)接國(guó)際碳排放權(quán)交易市場(chǎng)，為全球碳排放交易市場(chǎng)提供中國(guó)智慧、中國(guó)方案和中國(guó)標(biāo)準(zhǔn)。

（4）應(yīng)該大力鼓勵(lì)節(jié)能減排等相關(guān)技術(shù)的研究與創(chuàng)新。

（5）提高公眾環(huán)保低碳意識(shí)，培養(yǎng)綠色健康生活方式。

（6）在后疫情時(shí)代，我們面臨著全球未來重構(gòu)與轉(zhuǎn)型發(fā)展。全球碳中和目標(biāo)將會(huì)對(duì)相關(guān)產(chǎn)業(yè)及金融業(yè)產(chǎn)生深遠(yuǎn)影響，我們應(yīng)該提前做好準(zhǔn)備，積極面對(duì)全球投資的機(jī)遇和挑戰(zhàn)，以對(duì)碳排放量精確地掌握，應(yīng)對(duì)挑戰(zhàn)、抓住機(jī)遇，促進(jìn)企業(yè)綠色生產(chǎn)，滿足人民對(duì)美好生活的向往和追求。