基于深度神經(jīng)網(wǎng)絡(luò)的智能交互式學(xué)習(xí)系統(tǒng)

王 欣，雷 珺，李小歡，湯 成

（中移（杭州）信息技術(shù)有限公司，浙江 杭州 310000）

《教育信息化十年發(fā)展規(guī)劃（2011-2020 年）》中提出要“促進(jìn)人才培養(yǎng)模式創(chuàng)新。加快對(duì)課程和專業(yè)的數(shù)字化改造，創(chuàng)新信息化教學(xué)與學(xué)習(xí)方式，提升個(gè)性化互動(dòng)教學(xué)水平…”?，F(xiàn)有的在線學(xué)習(xí)平臺(tái)普遍存在重內(nèi)容建設(shè)輕應(yīng)用深度，其信息技術(shù)與教學(xué)融合不深等問題。究其原因在于平臺(tái)往往僅基于人工設(shè)計(jì)規(guī)則對(duì)學(xué)生學(xué)習(xí)狀況進(jìn)行反饋，模式單一、內(nèi)容推薦不精準(zhǔn)，從而無法有效提升學(xué)生的學(xué)習(xí)主動(dòng)性，造成資源浪費(fèi)。針對(duì)以上問題，該文提出了基于深度神經(jīng)網(wǎng)絡(luò)的智能交互式學(xué)習(xí)系統(tǒng)。通過神經(jīng)網(wǎng)絡(luò)獲取特征的效率更高，魯棒性更強(qiáng)，實(shí)現(xiàn)了更精準(zhǔn)的推薦，緩解了傳統(tǒng)人工涉及規(guī)則的在線學(xué)習(xí)系統(tǒng)中出題模式單一，無法針對(duì)性提升學(xué)習(xí)內(nèi)容的缺點(diǎn)。同時(shí)采用基于微服務(wù)實(shí)現(xiàn)的智能交互式學(xué)習(xí)系統(tǒng)相較于傳統(tǒng)在線平臺(tái)，具備易于開發(fā)、維護(hù)，上線部署快等優(yōu)點(diǎn)，相較于傳統(tǒng)的單體應(yīng)用，較大地縮短了平臺(tái)的更新發(fā)布周期。

1 推薦系統(tǒng)

1.1 推薦系統(tǒng)簡(jiǎn)介

推薦系統(tǒng)可以被視為一個(gè)搜索排序系統(tǒng)，需要解決搜索排序的問題，做好記錄和生成兩個(gè)關(guān)鍵工作。記錄需要系統(tǒng)能夠通過用戶的一系列行為操作和屬性來更新用戶畫像，最直接的方式就是利用用戶歷史數(shù)據(jù)的相關(guān)性以及這一類用戶畫像出現(xiàn)的相同特征。生成則需要系統(tǒng)根據(jù)用戶畫像自動(dòng)生成最優(yōu)的排序結(jié)果，最重要的是體現(xiàn)基于相關(guān)性的傳遞性，探索一些潛在的聯(lián)系。推薦系統(tǒng)中嵌入的模型根據(jù)是否依賴深度學(xué)習(xí)可分為基于傳統(tǒng)因子分解的因子分解機(jī)和深度神經(jīng)網(wǎng)絡(luò)[1-2]。

針對(duì)傳統(tǒng)因子分解機(jī)存在的問題，He 提出一種新的模型神經(jīng)因式分解機(jī)（NFM），用于稀疏環(huán)境下的預(yù)測(cè)，NFM 將FM 在二階特征交互建模中的線性和神經(jīng)網(wǎng)絡(luò)在高階特征交互建模中的非線性無縫結(jié)合[3]。Vozalis 提出了基于奇異值(SVD) 分解的協(xié)同過濾算法,在協(xié)同過濾算法中引入奇異值分解，較為有效地解決了數(shù)據(jù)稀疏問題[4]。

結(jié)合推薦系統(tǒng)的使用場(chǎng)景，最近還有研究者根據(jù)實(shí)際應(yīng)用場(chǎng)景，添加了經(jīng)濟(jì)學(xué)的價(jià)值論在模型之中，使模型的效果更佳優(yōu)異。Zhao 提出了多產(chǎn)品效用最大化（MPUM），它將消費(fèi)者選擇的經(jīng)濟(jì)學(xué)理論與個(gè)性化推薦相結(jié)合，重點(diǎn)研究產(chǎn)品集對(duì)個(gè)體用戶的效用[5]。Zhang 提出了歷史影響感知潛在因素模型（HIALF），這是真實(shí)評(píng)級(jí)系統(tǒng)的第一個(gè)模型，用于捕捉和減輕單個(gè)評(píng)級(jí)中的歷史扭曲[6]。

推薦系統(tǒng)中的嵌入深度學(xué)習(xí)技術(shù)具有以下優(yōu)點(diǎn)：1）借助深度學(xué)習(xí)的深層非線性結(jié)構(gòu)構(gòu)建了用戶和項(xiàng)目的潛在特征向量,從用戶和項(xiàng)目相關(guān)的海量數(shù)據(jù)中學(xué)習(xí)到深層次表示信息,從而挖掘數(shù)據(jù)背后的隱含特征，提高了模型的表述能力；2）基于深度學(xué)習(xí)的推薦系統(tǒng)通過集成來自多個(gè)異構(gòu)數(shù)據(jù)源的用戶/物料畫像較好地緩解算法冷啟動(dòng)問題。

該文從企業(yè)內(nèi)部黨建學(xué)習(xí)平臺(tái)的個(gè)性化服務(wù)理念入手，構(gòu)建一套基于“云”+“端”融合的智能交互式學(xué)習(xí)系統(tǒng)。該系統(tǒng)利用用戶歷史學(xué)習(xí)、答題數(shù)據(jù)，通過深度神經(jīng)網(wǎng)絡(luò)Deep&Wide 離線訓(xùn)練得到一個(gè)面向個(gè)體用戶的知識(shí)推薦模型，以該模型為基礎(chǔ)，實(shí)現(xiàn)精準(zhǔn)知識(shí)點(diǎn)推送服務(wù)，包含每日知識(shí)推送、定期問題更新、前后期知識(shí)反饋等。該系統(tǒng)旨在培養(yǎng)用戶自主學(xué)習(xí)的能動(dòng)性，提升企業(yè)黨建學(xué)習(xí)的用戶粘性和學(xué)習(xí)有效程度。通過對(duì)智能交互式學(xué)習(xí)系統(tǒng)關(guān)鍵技術(shù)的討論，分析學(xué)習(xí)用戶的個(gè)人知識(shí)推薦模型建立和系統(tǒng)平臺(tái)開發(fā)的基本流程。該系統(tǒng)能依據(jù)學(xué)習(xí)者相關(guān)的學(xué)習(xí)信息建立學(xué)習(xí)者的個(gè)性化知識(shí)推薦模型，驅(qū)動(dòng)學(xué)習(xí)者主動(dòng)學(xué)習(xí)與自主評(píng)測(cè)補(bǔ)漏，極大地促進(jìn)了人工智能技術(shù)在教育領(lǐng)域，尤其是在線教育領(lǐng)域的技術(shù)落地與發(fā)展[5-6]。

1.2 數(shù)據(jù)收集及預(yù)處理

用戶學(xué)習(xí)數(shù)據(jù)的收集和預(yù)處理是建立智能知識(shí)推薦模型非常關(guān)鍵的一步，是實(shí)現(xiàn)整個(gè)系統(tǒng)的先決條件。用戶數(shù)據(jù)詳細(xì)記錄了學(xué)習(xí)者的學(xué)習(xí)過程，為建立針對(duì)其個(gè)性化的學(xué)習(xí)模型提供了充分的數(shù)據(jù)支撐。

訓(xùn)練樣本一共采集了1 536 名用戶的歷史學(xué)習(xí)數(shù)據(jù)及用戶個(gè)人信息，如表1 所示，其中涉及對(duì)象的個(gè)人特征，如年齡、崗位、學(xué)歷以及性別等，還包含對(duì)象在學(xué)習(xí)系統(tǒng)中的行為數(shù)據(jù)，如每日學(xué)習(xí)時(shí)長(zhǎng)、學(xué)習(xí)內(nèi)容類別和學(xué)習(xí)內(nèi)容類型等。

表1 用戶樣本數(shù)據(jù)

表1 中描述的用戶數(shù)據(jù)，在輸入深度神經(jīng)網(wǎng)絡(luò)前都會(huì)經(jīng)過預(yù)處理轉(zhuǎn)化為向量，因?yàn)樯鲜鎏卣骶鶠殡x線特征，在預(yù)處理上該文采用一位有效編碼(One-Hot Encoding)對(duì)輸入特征進(jìn)行編碼，相較于其他編碼方式如哈希編碼，一位有效編碼后向量依舊具有實(shí)際意義，可映射回原有特征；相較于特征學(xué)習(xí)的編碼方式，一位有效編碼不需要大量的語(yǔ)料進(jìn)行訓(xùn)練。

編碼成向量后，經(jīng)過一層嵌入層（Embedding Layer）映射到同一維度的低維稠密向量，該向量維度為可變參數(shù)，該文經(jīng)過測(cè)試選取128 位嵌入向量作為深度神經(jīng)網(wǎng)絡(luò)的輸入。數(shù)據(jù)預(yù)處理分為向量構(gòu)建和數(shù)據(jù)量化——將原有的數(shù)值按量化條件轉(zhuǎn)為向量[7-8]。

1.3 搭建深度神經(jīng)網(wǎng)絡(luò)

目前，深度神經(jīng)網(wǎng)絡(luò)架構(gòu)廣泛，有卷積神經(jīng)網(wǎng)絡(luò)（CNN）、循環(huán)神經(jīng)網(wǎng)絡(luò)（RNN）和注意力神經(jīng)網(wǎng)絡(luò)（Transformer）等。該文采用如圖1所示的Deep&Wide深度神經(jīng)網(wǎng)絡(luò)算法模型，將1.2 節(jié)中的所有數(shù)據(jù)特征都輸入Deep 子模型，另外從中選取與學(xué)習(xí)過程強(qiáng)相關(guān)的特征——每日學(xué)習(xí)時(shí)長(zhǎng)、每周學(xué)習(xí)時(shí)長(zhǎng)、學(xué)習(xí)內(nèi)容類別、學(xué)習(xí)內(nèi)容類型、答題歷史、知識(shí)點(diǎn)內(nèi)容類別、知識(shí)點(diǎn)內(nèi)容類型、知識(shí)點(diǎn)歷史作為Wide 子模型輸入，Deep 子模型為多層神經(jīng)網(wǎng)絡(luò)，Wide 部分為線性模型。

通過Google 深度學(xué)習(xí)框架TensorFlow 實(shí)現(xiàn)Deep&Wide 模型，其輸出為二分類：1 即用戶與知識(shí)點(diǎn)匹配，0 即用戶與知識(shí)點(diǎn)不匹配。Deep 模型部分重點(diǎn)在Embedding 層和后面三層以ReLU 為激活函數(shù)的隱藏層，存在中間通過Concatenated Embedding 層拼接所有Embedding 層輸出的128 位低維特征向量，最后輸入損失函數(shù)進(jìn)行計(jì)算。

傳統(tǒng)的Deep&Wide 深度神經(jīng)網(wǎng)絡(luò)算法同時(shí)學(xué)習(xí)低階和高階組合特征，它混合了一個(gè)線性模型（Wide part）和Deep 模型(Deep part)。這兩部分模型需要不同的輸入，而Wide part 部分的輸入，依舊依賴人工特征工程，導(dǎo)致模型偏向于提取低階或者高階的組合特征，而不能同時(shí)提取這兩種類型的特征。該文算法Deep 模型后面的三層分別是以ReLU 為激活函數(shù)的隱藏層、線性模型和Dropout 層，Dropout 的機(jī)制：在每次神經(jīng)網(wǎng)絡(luò)的反向傳播中，會(huì)隨機(jī)選擇一些神經(jīng)元，設(shè)定其反向傳播對(duì)應(yīng)的參數(shù)為0，然后對(duì)于被改變后的神經(jīng)網(wǎng)絡(luò)進(jìn)行反向傳播，削弱模型對(duì)于低階或者高階的單一特征依賴，更容易學(xué)習(xí)到低階和高階特征的組合，相對(duì)于深度因子分解方法，該文方法計(jì)算效率更高，模型計(jì)算更為有效[9-10]。

每一隱藏層計(jì)算如式（1）：

ReLU 的定義為：

1.4 智能推薦模型實(shí)驗(yàn)結(jié)果

Deep&Wide 聯(lián)合模型一共使用了1 536 名用戶數(shù)據(jù)，從用戶數(shù)據(jù)中提取知識(shí)點(diǎn)總計(jì)7 588 個(gè)，經(jīng)數(shù)據(jù)清洗及標(biāo)注后得到101 202 個(gè)樣本數(shù)據(jù)，為了防止過擬合/欠擬合，將正負(fù)樣本比例控制在10%，進(jìn)行k-fold 交叉驗(yàn)證（k=10），得到驗(yàn)證集的準(zhǔn)確率如表2所示，最后得到平均準(zhǔn)確率為89.08%。

表2 k-fold交叉驗(yàn)證結(jié)果

另外，針對(duì)Embedding Layer 的128 維低維稠密向量，對(duì)這個(gè)128 維度參數(shù)做比對(duì)實(shí)驗(yàn)，其于訓(xùn)練并行計(jì)算和先前研究結(jié)果，維數(shù)皆為2 的冪次，結(jié)果如表3 所示，發(fā)現(xiàn)256 維為最佳，維度增加并未與準(zhǔn)確率成正比，為在計(jì)算速度和準(zhǔn)確率之間做平衡，最后應(yīng)用選取128 維。

表3 嵌入向量維數(shù)對(duì)比結(jié)果

為了驗(yàn)證該文算法改進(jìn)的有效性，在Embedding Layer 的128 維低維稠密向量的基礎(chǔ)上，通過消融實(shí)驗(yàn)對(duì)比增加dropout 層前后的準(zhǔn)確率，可以看出添加dropout 層后，驗(yàn)證集準(zhǔn)確率相較于原始Deep&Wide模型提高了6.76%，如表4 所示。具有明顯的提升效果[11-12]。

表4 dropout層消融實(shí)驗(yàn)交叉驗(yàn)證結(jié)果

2 系統(tǒng)架構(gòu)及功能

2.1 微服務(wù)架構(gòu)技術(shù)簡(jiǎn)介

微服務(wù)架構(gòu)（Micro-service Architecture）是一種架構(gòu)概念，通過將功能分解到各個(gè)獨(dú)立的服務(wù)中實(shí)現(xiàn)整個(gè)服務(wù)系統(tǒng)的解耦。微服務(wù)的概念是2012 年提出的，用來滿足Web 和移動(dòng)應(yīng)用快速開發(fā)的需求。微服務(wù)的定義范疇如下：1）分布式服務(wù)組成的系統(tǒng)；2）按照業(yè)務(wù)而不是技術(shù)來劃分組織；3）做有生命的產(chǎn)品而不是項(xiàng)目；4）強(qiáng)服務(wù)個(gè)體和弱通信（smart endpoints and dumb pipes）；5）自動(dòng)化運(yùn)維（DevOps）；6）高度容錯(cuò)性；7）快速演化和迭代。相較于傳統(tǒng)的單體應(yīng)用架構(gòu)，微服務(wù)架構(gòu)的優(yōu)點(diǎn)如下：1）提升開發(fā)交流，每個(gè)服務(wù)足夠內(nèi)聚，足夠小，代碼容易理解；2）服務(wù)獨(dú)立測(cè)試、部署、升級(jí)、發(fā)布；3）可按需定制產(chǎn)品生命周期和資源利用率，每個(gè)服務(wù)可以各自進(jìn)行擴(kuò)展，而且每個(gè)服務(wù)可以根據(jù)自己的需要部署到合適的硬件服務(wù)器上；4）可按需選擇冗余備份的模式，選擇接受服務(wù)的實(shí)例個(gè)數(shù)；5）容易擴(kuò)大開發(fā)團(tuán)隊(duì)，可以針對(duì)每個(gè)服務(wù)（service）組件開發(fā)團(tuán)隊(duì)；6）提高服務(wù)容錯(cuò)性，一個(gè)服務(wù)的內(nèi)存泄露并不會(huì)讓整個(gè)系統(tǒng)癱瘓；7）便利新技術(shù)的應(yīng)用，系統(tǒng)不會(huì)被長(zhǎng)期限制在某個(gè)技術(shù)棧上。

2.2 智能交互式學(xué)習(xí)系統(tǒng)架構(gòu)

智能交互式學(xué)習(xí)系統(tǒng)架構(gòu)分為在線和離線兩個(gè)子系統(tǒng)。離線子系統(tǒng)負(fù)責(zé)大數(shù)據(jù)分析和深度神經(jīng)網(wǎng)絡(luò)訓(xùn)練驗(yàn)證。

如圖2 所示，黨建學(xué)習(xí)平臺(tái)總體架構(gòu)分為負(fù)載均衡層、連接層、服務(wù)層及數(shù)據(jù)層，每一層在邏輯上相互獨(dú)立且支持?jǐn)U展。

負(fù)載均衡層舍棄了傳統(tǒng)的F5 硬件負(fù)載均衡(Load Balance)方案，采用了Nginx 軟件負(fù)載均衡方式，大大降低了運(yùn)維成本，同時(shí)提高了系統(tǒng)的靈活性。

連接層負(fù)責(zé)接入各終端、業(yè)務(wù)系統(tǒng)，通過采用前后端分開、自研輕量級(jí)交互協(xié)議、移動(dòng)端維持長(zhǎng)連接的方式，實(shí)現(xiàn)終端用戶良好的使用體驗(yàn)[13-14]。

黨建學(xué)習(xí)平臺(tái)的關(guān)鍵是服務(wù)層，服務(wù)層負(fù)責(zé)平臺(tái)業(yè)務(wù)邏輯，各個(gè)服務(wù)之間可以進(jìn)行相互通信，運(yùn)用服務(wù)治理的設(shè)計(jì)理念，實(shí)現(xiàn)服務(wù)之間負(fù)載自動(dòng)均衡和提升系統(tǒng)的擴(kuò)展性；另外，服務(wù)層引入嵌入式監(jiān)管的理念，實(shí)時(shí)監(jiān)控服務(wù)生命周期的健康水平。服務(wù)層承接“智能知識(shí)推薦模型”的運(yùn)行，針對(duì)每個(gè)用戶提供個(gè)體化學(xué)習(xí)與評(píng)測(cè)內(nèi)容。

數(shù)據(jù)層負(fù)責(zé)各服務(wù)的數(shù)據(jù)、文件、通知-推送、緩存的存儲(chǔ)管理，其中數(shù)據(jù)通過離線備份到深度神經(jīng)網(wǎng)絡(luò)訓(xùn)練平臺(tái)，用于模型訓(xùn)練及驗(yàn)證。

3 應(yīng)用成果

以智能交互式知識(shí)學(xué)習(xí)系統(tǒng)為核心的黨建學(xué)習(xí)平臺(tái)自建設(shè)上線以來，為十余個(gè)省市提供了黨建知識(shí)學(xué)習(xí)信息化服務(wù)，通過發(fā)起在線考試了解黨員的學(xué)習(xí)成果，后臺(tái)自動(dòng)統(tǒng)計(jì)結(jié)果，高效省時(shí)，減少了以往組織類似競(jìng)賽活動(dòng)的人工成本和時(shí)間成本，并有力推動(dòng)了黨群部門的無紙化辦公應(yīng)用。同時(shí)，廣大省市移動(dòng)公司通過聯(lián)合當(dāng)?shù)亟M織部門開展競(jìng)賽活動(dòng)，進(jìn)一步在當(dāng)?shù)財(cái)U(kuò)大了公司的影響力并提升了廣大用戶的4G 流量使用度，社會(huì)價(jià)值和經(jīng)濟(jì)價(jià)值均有所體現(xiàn)[15-16]。

根據(jù)平臺(tái)數(shù)據(jù)統(tǒng)計(jì)，部署了智能知識(shí)推薦模型后，參與黨建學(xué)習(xí)平臺(tái)活動(dòng)的各單位黨員的學(xué)習(xí)效率顯著提升，與傳統(tǒng)學(xué)習(xí)方式相比，使用該平臺(tái)后，黨員的黨建知識(shí)測(cè)評(píng)平均分提高了15 分，黨建活動(dòng)的員工參與度也上升了30%。截止目前，黨建學(xué)習(xí)平臺(tái)已經(jīng)接入移動(dòng)云、小移人家、和飛信、和辦公、和助理等諸多APP 產(chǎn)品中，累計(jì)服務(wù)單位近80 家，服務(wù)黨員規(guī)模超過100 萬人，累計(jì)答題數(shù)超過5 000 萬人次，累計(jì)直接創(chuàng)收超過300 萬元。

4 結(jié)論

從黨建學(xué)習(xí)平臺(tái)的個(gè)性化服務(wù)理念入手，以深度神經(jīng)網(wǎng)絡(luò)和機(jī)器學(xué)習(xí)技術(shù)為基礎(chǔ)，針對(duì)現(xiàn)有學(xué)習(xí)資源多元冗余但缺乏智能化交互的網(wǎng)絡(luò)學(xué)習(xí)平臺(tái)，該文提出了一種自動(dòng)記錄用戶歷史學(xué)習(xí)數(shù)據(jù)、離線訓(xùn)練智能推薦模型、在線應(yīng)用模型的智能交互式知識(shí)學(xué)習(xí)系統(tǒng)。通過對(duì)系統(tǒng)設(shè)計(jì)和模型研究的詳細(xì)介紹，分析和討論了學(xué)習(xí)平臺(tái)和智能推薦模型的基本研究過程和關(guān)鍵技術(shù)點(diǎn)。該系統(tǒng)能依據(jù)學(xué)習(xí)者相關(guān)的學(xué)習(xí)信息建立學(xué)習(xí)者的個(gè)性化知識(shí)推薦模型，驅(qū)動(dòng)學(xué)習(xí)者主動(dòng)學(xué)習(xí)與自主評(píng)測(cè)補(bǔ)漏，極大促進(jìn)了人工智能技術(shù)在教育領(lǐng)域，尤其是在線教育領(lǐng)域的發(fā)展。