基于知識圖譜理論的信息論課程教學(xué)改革研究

劉振丙 李澤亞

摘要：信息論是信息工程和通信系統(tǒng)等相關(guān)專業(yè)學(xué)生所應(yīng)掌握的一門課程。隨著信息時代的到來和人工智能的不斷進(jìn)步，針對信息論課程教學(xué)中存在的主要問題，該文結(jié)合當(dāng)前熱門的知識圖譜理論的學(xué)習(xí)方法，提出了優(yōu)化教學(xué)方案的幾點(diǎn)方法，使教學(xué)內(nèi)容更加系統(tǒng)完善，可以很大程度上增強(qiáng)學(xué)生對信息論這一課程學(xué)習(xí)興趣，同時提高學(xué)生對知識的自學(xué)能力，進(jìn)而達(dá)到教學(xué)的目的。

關(guān)鍵詞：信息論；知識圖譜理論；人工智能教學(xué)方案

中圖分類號：TP3 文獻(xiàn)標(biāo)識碼：A 文章編號：1009-3044（2018）12-0125-03

Abstract： Information theory is a course for students majoring in information engineering and communication system. With the advent of the information age and the continuous improvement of artificial intelligence， aiming at the main problems in the teaching of information theory， this paper presents some methods to optimize the teaching plan according to the current popular learning methods of knowledge graph theory， and makes the teaching content more systematic Perfect， can greatly enhance students interest in learning information theory of this course， while improving students' self-learning ability of knowledge， so as to achieve the purpose of teaching.

Key words： information theory； knowledge Graph theory； artificial intelligence； teaching plan

1 研究的背景和目標(biāo)

信息論是研究信息傳輸和信息處理的一般規(guī)律的科學(xué)。追溯到1948年和1949年，在《貝爾系統(tǒng)技術(shù)雜志》（Bell System Technical Shannon）上，美國數(shù)學(xué)家C.E.香農(nóng)發(fā)表了信息論的奠基性論文《通信的數(shù)學(xué)原理》（A Mathematical Theory of Communication），該論文的發(fā)表標(biāo)志著信息論這一新學(xué)科的誕生，并于第二年發(fā)表了著名的論文《噪聲下的通信》（Communicationin The Presence of Noise），這兩篇論文是信息論科學(xué)的奠基性著作，香農(nóng)在文章中深刻地闡明了關(guān)于通信的一系列基本問題。 在無失真或允許一定失真（限失真）的條件下，如何實(shí)現(xiàn)噪聲信道中信息的有效傳輸，文章中運(yùn)用數(shù)學(xué)概率論的知識，對信息這一抽象概念進(jìn)行了定量度量的定義，并給出了信息熵的定義。信息熵是對隨機(jī)事件可變性的度量，其公式如下：

[HX=Elog2X= x∈Xpxlog2（1p（x））]

其中X為有限個事件 x 的集合，X是定義在X上的隨機(jī)變量。

信息論雖然只有短短的幾十年的發(fā)展歷程，但隨著通信科學(xué)的不斷進(jìn)步，它對學(xué)術(shù)界的研究和通信領(lǐng)域的發(fā)展產(chǎn)生了重要的影響力。自2010年以來，人工智能得到了快速發(fā)展，交叉學(xué)科的應(yīng)用趨勢越來越受科研人員的重視，信息論的研究內(nèi)容也不再局限于通信單個領(lǐng)域，逐漸的拓展到其他科學(xué)領(lǐng)域，如語義學(xué)、模式識別、神經(jīng)生理學(xué)、遺傳學(xué)、金融投資學(xué)等與信息技術(shù)息息相關(guān)的方向。在通信系統(tǒng)中，信息以消息的形式傳遞，經(jīng)過系統(tǒng)接收處理，掌握信號傳遞規(guī)律和處理規(guī)律，進(jìn)而做出調(diào)整，以提高通信的時效性和平穩(wěn)性，最終達(dá)到系統(tǒng)的最優(yōu)化。

目前，在全國高等院校的信息工程和通信系統(tǒng)等各類專業(yè)中，基本上都開設(shè)了信息論這一學(xué)科。信息論是信息科學(xué)的理論基礎(chǔ)，是一門新興的橫斷學(xué)課，其涉及知識點(diǎn)繁多且復(fù)雜，作為通信的數(shù)學(xué)原理，應(yīng)用到了線性代數(shù)、隨機(jī)過程、概率論與數(shù)理統(tǒng)計等中的大量數(shù)學(xué)知識。由此可見，真正掌握和學(xué)好信息論這一課程，對學(xué)生的數(shù)學(xué)基礎(chǔ)和思維能力有著更高的要求。

如何能讓學(xué)生更好地掌握和應(yīng)用信息論的知識，正確的教學(xué)方案是關(guān)鍵?；纠碚摰膶W(xué)習(xí)是基礎(chǔ)，實(shí)踐與應(yīng)用是對能力進(jìn)一步的提升。隨著信息論對多學(xué)科領(lǐng)域和社會經(jīng)濟(jì)發(fā)展的推動，更應(yīng)該重視其產(chǎn)生的影響，并更好地加以學(xué)習(xí)，信息型人才是將來社會發(fā)展所不可缺少的。對傳統(tǒng)的教學(xué)模式進(jìn)行適當(dāng)?shù)膭?chuàng)新，根據(jù)知識圖譜理論，建立思維導(dǎo)圖，讓學(xué)生更好地掌握這一門課程，這是本次教學(xué)改革研究的重點(diǎn)。

2 教學(xué)中存在的主要問題

信息論的主要內(nèi)容是通信的數(shù)學(xué)定理，廣泛應(yīng)用了理工科學(xué)生本科所修讀的大部分?jǐn)?shù)學(xué)學(xué)科的理論，對一些非數(shù)學(xué)專業(yè)的本科學(xué)生來說，課程內(nèi)容涉及未學(xué)的數(shù)學(xué)知識，面對復(fù)雜的公式推導(dǎo)證明和抽象的內(nèi)容概念，這無疑是教學(xué)和學(xué)習(xí)中的難點(diǎn)。在傳統(tǒng)的信息論教學(xué)中，課程的大部分時間用來進(jìn)行公式的推導(dǎo)證明及理論的講解，沒有合理的知識拓展分析及相關(guān)應(yīng)用，造成學(xué)生最后不能有效的理解和學(xué)習(xí)。

教學(xué)中缺乏對理論知識的實(shí)踐與應(yīng)用，不能將信息論與現(xiàn)代信息技術(shù)的相關(guān)應(yīng)用很好地結(jié)合起來。隨著信息技術(shù)和互聯(lián)網(wǎng)的快速發(fā)展，對隱馬爾可夫模型、信道容量的迭代算法、無失真信源編碼、有噪信道編碼、限失真信源編碼、圖像的離散余弦變換等知識點(diǎn)的應(yīng)用越來越多，而信息論教科書中繼續(xù)沿用之前的例子，存在不能做到與時俱進(jìn)，缺乏與現(xiàn)代應(yīng)用實(shí)例的結(jié)合，應(yīng)用與學(xué)習(xí)者專業(yè)相關(guān)性不大的問題，從而不能調(diào)動學(xué)習(xí)者的興趣和學(xué)習(xí)積極性。

另外，信息論的教學(xué)學(xué)時在逐漸削減，從而導(dǎo)致教學(xué)過程中，只是介紹經(jīng)典信息論的內(nèi)容，沒有涉及過多的分支。以“教”為中心的教學(xué)，缺乏自主創(chuàng)新意識，由于教學(xué)內(nèi)容比較復(fù)雜，教學(xué)模式不新穎，未能調(diào)動學(xué)習(xí)者進(jìn)修的能動性，學(xué)習(xí)者很難產(chǎn)生學(xué)習(xí)興趣，對這一課程很好的學(xué)習(xí)。

3 優(yōu)化教學(xué)方案主要內(nèi)容

在信息論的教學(xué)過程中，如何運(yùn)用知識圖譜的理念呢？ 教學(xué)模式的改革應(yīng)該順應(yīng)形勢發(fā)展的要求，引入知識圖譜理論，構(gòu)建信息知識體系，將信息論知識點(diǎn)與交叉學(xué)科信息融合， 同時結(jié)合當(dāng)今的技術(shù)應(yīng)用，建立多個完整系統(tǒng)的圖譜，更好地去講解這一學(xué)科。

3.1 識圖譜理論的相關(guān)介紹

3.1.1 知識圖譜的概念及發(fā)展

隨著大數(shù)據(jù)時代的到來和人工智能的迅速發(fā)展，人們越來越重視對相關(guān)知識點(diǎn)的交叉和系統(tǒng)融合，知識圖譜成為當(dāng)前互聯(lián)網(wǎng)領(lǐng)域一個重要的研究分支。

知識圖譜（Knowledge Graph）于2012年加入Google搜索，其作為一個知識庫，使用語義檢索功能從多種途徑中網(wǎng)羅信息，進(jìn)而提升搜索的質(zhì)量。Google網(wǎng)絡(luò)中的知識圖譜，一方面羅列了重要信息的鏈接路徑，另一方面提供了相關(guān)信息的結(jié)構(gòu)化屬性及關(guān)于主題的詳細(xì)信息。通過構(gòu)建系統(tǒng)完整的知識圖譜，用戶將能夠使用相關(guān)功能提供的信息以快速地解決查詢的問題，大大地提升了查詢效率，減少查問者對相關(guān)問題的不必要搜索。知識圖譜的構(gòu)建主要是為了獲得大量可供計算機(jī)處理的數(shù)據(jù)，包括重要知識點(diǎn)的基本內(nèi)容及其交叉相關(guān)的知識。

知識圖譜又稱為科學(xué)知識圖譜，是展示知識發(fā)展進(jìn)程與結(jié)構(gòu)聯(lián)系的一系列各種差異的圖像，是一個有序的、完整的思維導(dǎo)圖體系。知識圖譜是將應(yīng)用數(shù)學(xué)、圖形學(xué)、信息可視化技術(shù)、信息科學(xué)等課程的理論與方法與計量學(xué)引文分析、共現(xiàn)分析、自然語言理解等方法相結(jié)合，并利用可視化的圖進(jìn)行直觀地展示學(xué)科的層次結(jié)構(gòu)、發(fā)展過程、發(fā)展方向、最新研究成果及整體知識架構(gòu)，以此實(shí)現(xiàn)多課程融合目的的當(dāng)代搜索方法。

3.1.2 如何構(gòu)建知識圖譜

知識圖譜的構(gòu)建過程就是從各種結(jié)構(gòu)化、半結(jié)構(gòu)化或非結(jié)構(gòu)化數(shù)據(jù)中，采用自然語言理解等相應(yīng)技術(shù)抽取實(shí)體，實(shí)體屬性及實(shí)體之間的聯(lián)系，將各實(shí)體之間的屬性有規(guī)律地連接起來，組成一張圖。構(gòu)建的知識圖譜可以體現(xiàn)真實(shí)世界的相關(guān)信息，顯示實(shí)體間的相關(guān)性及交叉拓展的信息。獲取實(shí)體信息，需要實(shí)現(xiàn)實(shí)體識別、消歧 （重名，別名） 、實(shí)體關(guān)系挖掘等，以構(gòu)建完善的知識圖譜。

從圖1可以看出，知識圖譜涉及的技術(shù)非常多，并且每一項(xiàng)技術(shù)都值得去深究。

3.2 信息論教學(xué)中如何運(yùn)用知識圖譜理念

3.2.1 信息論中的教學(xué)重點(diǎn)難點(diǎn)及解決辦法

在信息論學(xué)科的教學(xué)中，使用到了大量的數(shù)學(xué)理論，包含高等數(shù)學(xué)、線性代數(shù)、離散數(shù)學(xué)、概率論與數(shù)理統(tǒng)計、隨機(jī)過程以及數(shù)值分析等，而數(shù)學(xué)本身就存在著許多重難點(diǎn)，再加上眾多數(shù)學(xué)知識點(diǎn)的融合，對學(xué)生數(shù)學(xué)基礎(chǔ)能力的要求更進(jìn)一步加大。使用知識圖譜教學(xué)理念，構(gòu)建思維導(dǎo)圖體系，建立知識點(diǎn)之間的聯(lián)系，將信息論與數(shù)學(xué)理論結(jié)合，同時與其他的外延學(xué)科相結(jié)合，實(shí)現(xiàn)一個完整的系統(tǒng)學(xué)習(xí)。例如，在信源熵的數(shù)學(xué)特征計算中，對連續(xù)性和離散性進(jìn)行結(jié)構(gòu)化分類，一方面要用到高等數(shù)學(xué)中的積分運(yùn)算對連續(xù)信源的概率密度進(jìn)行求解，另一方面使用多元函數(shù)的條件極值來求離散信源熵的最值問題

通過多知識點(diǎn)實(shí)體的連接，構(gòu)建端到端之間的聯(lián)系，將抽象的概念和寬泛的理論，轉(zhuǎn)化成相對應(yīng)的熟悉的各學(xué)科知識點(diǎn)，依靠學(xué)科間知識點(diǎn)的貫通，在教學(xué)中不斷引申，學(xué)生能夠很好地掌握并進(jìn)行各知識點(diǎn)的自學(xué)。例如，在對哈夫曼編碼的學(xué)習(xí)中，以哈夫曼編碼為實(shí)體中心，拓展與其相關(guān)的交叉學(xué)科分支，建立圖譜體系。很多專業(yè)課程都涉及了對哈夫曼編碼的應(yīng)用，包括在數(shù)據(jù)結(jié)構(gòu)課程中，如何從算法的角度解決二叉樹的生成和遍歷的最優(yōu)化問題；在多媒體技術(shù)課程中，如何處理對圖像、聲音、視頻等數(shù)字信息的壓縮和加解密問題；在計算機(jī)體系結(jié)構(gòu)科目中，如何處理計算機(jī)指令操作碼的優(yōu)化問題等。

將應(yīng)用工程實(shí)例及實(shí)踐加入知識圖譜之中，強(qiáng)調(diào)對知識本質(zhì)的理解與應(yīng)用拓展，突出核心內(nèi)容，加強(qiáng)應(yīng)用型引申，結(jié)合當(dāng)今信息產(chǎn)業(yè)發(fā)展現(xiàn)狀，引出并講解相應(yīng)的應(yīng)用，以增強(qiáng)學(xué)生的學(xué)習(xí)興趣。例如將無失真信源編碼應(yīng)用到計算機(jī)文件的壓縮中，面對龐大的數(shù)據(jù)存儲問題，應(yīng)用信息論相關(guān)壓縮算法，當(dāng)今已經(jīng)達(dá)到的壓縮技術(shù)能在保證文件不失真的情況下，存儲量只占原來的三分之一；將有噪信道編碼應(yīng)用到模擬話路中，使調(diào)制解調(diào)器的數(shù)據(jù)傳輸速率提高到盡可能接近理論極限的水平；將限失真信源編碼應(yīng)用到語音信號的壓縮，使編碼速率可以遠(yuǎn)遠(yuǎn)低于奈奎斯特采樣定律和量化噪聲理論中的編碼速率。

建立信息論教學(xué)知識圖譜，劃分側(cè)重點(diǎn)，構(gòu)建重要實(shí)體之間的框架，減少對次重要和不重要知識點(diǎn)的講解時間，及對其中知識點(diǎn)進(jìn)行壓縮。例如教學(xué)的側(cè)重點(diǎn)應(yīng)當(dāng)順應(yīng)形勢發(fā)展的要求，當(dāng)前的信息處理和編碼技術(shù)已普遍數(shù)字化，在講習(xí)內(nèi)容安排方面，應(yīng)恰當(dāng)刪減連續(xù)信源理論、連續(xù)信道容量等相關(guān)內(nèi)容，對離散信號知識點(diǎn)的講解應(yīng)該比連續(xù)性信號更加詳細(xì)， 同時要減少對相關(guān)公式的推導(dǎo)與證明過程，側(cè)重離散概念，帶動連續(xù)信號的分析，建立起二者的系統(tǒng)概念圖，建立對比與應(yīng)用分析。

3.2.2 教學(xué)方案的改革

信息學(xué)科是一個新型的學(xué)科，而且是一個逐漸發(fā)展和深入的科目。構(gòu)建合理的課程體系，在課程章節(jié)講解上有條理地分配相應(yīng)的時間，考慮到學(xué)習(xí)者自我學(xué)習(xí)和思考的能力所在，合理的分配課后作業(yè)和思考題，以提高學(xué)生自我學(xué)習(xí)能力。鼓勵學(xué)習(xí)者將書本知識轉(zhuǎn)化為解決工程問題的方法，并將實(shí)踐所獲得的知識與經(jīng)驗(yàn)，有效運(yùn)用于理解書本知識，鼓勵學(xué)生提出假設(shè)與否定。

在備課過程中，從教學(xué)資源數(shù)據(jù)庫及網(wǎng)絡(luò)中，獲取大量課程相關(guān)的授課素材，將信息論中的定理證明和推導(dǎo)過程， 結(jié)合其所包含的物理含義及應(yīng)用能力反復(fù)強(qiáng)調(diào)出來。在授課時，對本課程與其他專業(yè)相關(guān)聯(lián)的內(nèi)容，進(jìn)行總結(jié)歸納和拓展，建立課程之間的交叉聯(lián)系，將不同科目的相關(guān)理論綜合起來，聯(lián)系實(shí)際應(yīng)用，多舉實(shí)例展現(xiàn)，以提升學(xué)習(xí)者的學(xué)習(xí)興趣。

在教學(xué)過程中，注意適時提出一些問題，指引學(xué)習(xí)者更深入和更全面的理解。增加師生互動，轉(zhuǎn)變師生角色，讓基礎(chǔ)扎實(shí)并對信息論知識點(diǎn)熟練的學(xué)生，站在老師的位置，給其他同學(xué)進(jìn)行講解，老師做出總結(jié)拓展并糾正錯誤。鼓勵學(xué)生進(jìn)行小組討論，課堂上進(jìn)行小組間的自我學(xué)習(xí)，搭建知識圖譜，從而增強(qiáng)課堂的活躍性，激發(fā)學(xué)生的學(xué)習(xí)興趣，加深對信息論課程的理解。

4 結(jié)語

將知識圖譜理論應(yīng)用到信息論系統(tǒng)中，通過建立合理的知識體系，拓展與教學(xué)內(nèi)容相關(guān)的應(yīng)用實(shí)例，調(diào)動學(xué)生的實(shí)踐能力，讓學(xué)生更好地接受新知識，同時加深對信息論的理解與應(yīng)用，教會學(xué)生如何構(gòu)建體系進(jìn)行自我學(xué)習(xí)，真正意義上達(dá)到了教學(xué)的目的。在今后的教學(xué)過程中，也將不斷把這一種新的教學(xué)模式應(yīng)用到信息論及其他學(xué)科的教學(xué)中。

參考文獻(xiàn)：

[1] 李梅.信息論基礎(chǔ)與應(yīng)用[M].北京：電子工業(yè)出版社，2016.

[2] 傅祖蕓.信息論——基礎(chǔ)理論與應(yīng)用[M].北京：電子工業(yè)出版社，2001.

[3] 鄧家先.信息論與編碼課程教學(xué)改革探討[J].電氣電子教學(xué)學(xué)報，2007（02）.

[4] 楊曉萍，錢志鴻，高博.“信息論”教學(xué)內(nèi)容和方法的改革[J].電氣電子教學(xué)學(xué)報，2012，6.

[5] 劉嶠，等.知識圖譜構(gòu)建技術(shù)綜述[J].計算機(jī)研究與發(fā)展，2016，3.

[6] 唐琳.“信息論基礎(chǔ)”課程優(yōu)化教學(xué)初探[J].赤峰學(xué)院學(xué)報（自然科學(xué)版），2010，26（11）：194-196.