學(xué)貫中西：讓機(jī)器學(xué)習(xí)華夏智慧

高煥堂

0 前言

機(jī)器學(xué)習(xí)（ML）除了能夠?qū)W習(xí)大數(shù)據(jù)（big data）中的規(guī)律和法則之外，也能夠?qū)W習(xí)人類的智慧。華夏文化淵源長(zhǎng)久、博大精深，處處充滿智慧。因此，我們可以讓機(jī)器來(lái)學(xué)習(xí)華夏的文化底蘊(yùn)和智能，還能更上層樓而學(xué)貫中西。

1 復(fù)習(xí)：什么是特征（feature）

機(jī)器學(xué)習(xí)之路，首先從觀察特征出發(fā)?；貞浺幌拢藗儗?duì)于周圍的問(wèn)題或事件常從不同的角度來(lái)觀察或看出不同的特征。所謂特征（feature），就是一件事物或一群事物，其具有與眾不同的特色或表征。例如，人們?cè)诒鎰e其他人的長(zhǎng)相時(shí)，常常會(huì)觀察對(duì)方的臉形、眼神、嘴巴、發(fā)型等特征來(lái)區(qū)分和判斷，只要記住對(duì)方獨(dú)特的長(zhǎng)相特征就可以，而不必記憶其他細(xì)節(jié)。這是人們天賦的觀察和提取特征的能力。再如，當(dāng)您一大早從家里出門(mén)時(shí)，常常會(huì)先觀察天氣的特征：溫度23℃、“陽(yáng)光普照”等。

在前面各期曾經(jīng)說(shuō)明了ML（機(jī)器學(xué)習(xí)）的目的并不一定是拿數(shù)據(jù)來(lái)運(yùn)算，而是在于〈觀察〉在此X空間里數(shù)據(jù)的大小、分布及重復(fù)出現(xiàn)頻率（次數(shù)）等。每一條數(shù)據(jù)成為空間里的一個(gè)點(diǎn)（point），而每一項(xiàng)特征則成為空間的一個(gè)維度（dimension）。于是，各條數(shù)據(jù)的特征值成為該點(diǎn)的坐標(biāo)值。

2 特征的種類

在ML（機(jī)器學(xué)習(xí)）領(lǐng)域，特征常分為兩種：數(shù)值型（Numerical）特征與分類型（Categorical）特征?！皵?shù)值型特征”是大家很熟悉的，可以用整數(shù)或浮點(diǎn)數(shù)表示，是能拿來(lái)進(jìn)行加減乘除等數(shù)學(xué)計(jì)算的特征（值）。例如剛才提到的氣溫是23℃。這就是一個(gè)數(shù)值特征。再如，人的身高、貓尾巴長(zhǎng)度等也都是數(shù)值特征。至于分類型特征，又可細(xì)分為兩種：次序型（ordinal）特征和名目型（nominal）特征。

其中，“次序型特征”是具有順序、可分等級(jí)的特征。例如，衣服的大小常常分為：?。⊿）、中（M）、大（L）、特大（XL）4個(gè)等級(jí)。再如，牛排的熟度可分為：Blue、Rare、Medium Rare、Medium、Medium Well和Well Done 6個(gè)級(jí)別。

再如，《孫子兵法》有言：“不戰(zhàn)而屈人之兵，善之善者也。故上兵伐謀，其次伐交，其次伐兵，其下攻城?！逼渲蟹譃?個(gè)等級(jí)：伐謀、伐交、伐兵和攻城?！秾O子兵法》又言：“知彼知己，百戰(zhàn)不殆。不知彼而知己，一勝一負(fù)。不知彼不知己，每戰(zhàn)必殆。”其中分為三個(gè)等級(jí)：知彼知己、不知彼而知己和不知彼不知己。

“名目型（nominal）特征”只是對(duì)事物分門(mén)別類之后各類別的名稱或標(biāo)簽而已。例如，性別：男、女。兩儀：陰、陽(yáng)。五行：金、木、水、火、土。它們之間沒(méi)有級(jí)別之分。

3 如何對(duì)“分類型特征”進(jìn)行編碼

在ML領(lǐng)域，必須將分類型特征轉(zhuǎn)換成數(shù)字，又稱為對(duì)這些特征進(jìn)行編碼（encoding）。對(duì)于次序型與名目型特征，各有不同的方法將它們轉(zhuǎn)換成數(shù)字。

例如，對(duì)于次序型（ordinal）特征常使用卷標(biāo)編碼（label-encoding）方式進(jìn)行轉(zhuǎn)換。例如，衣服的?。⊿）、中（M）、大（L）、特大（XL）4個(gè)等級(jí)對(duì)應(yīng)1、2、3、4，這樣特征（值）之間的大小順序也就呈現(xiàn)出。再如，牛排熟度的Blue、Rare、Medium Rare、Medium、Medium Well和Well Done 6個(gè)等級(jí)對(duì)應(yīng)1、2、3、4、5、6，這樣就可以了。

另外，對(duì)于名目型（nominal）特征則常使用唯1編碼（one-hot-encoding）方式進(jìn)行轉(zhuǎn)換，在中文里又稱為“獨(dú)熱編碼”。例如上述的兩儀。

由于它們之間不具有順序性，所以也可把“陽(yáng)”對(duì)應(yīng)成[01]，而“陰”對(duì)應(yīng)成[10]。

由于每一個(gè)編碼中都含有一個(gè)1，其他都為0，所以稱為One-Hot-Encoding編碼；簡(jiǎn)稱OHE編碼。

4 “分類型特征”的范例

剛才已經(jīng)提到了華夏文化中的五行觀念，就是金、木、水、火、土。使用OHE編碼如下：

大家知道，五行之間有“相生”關(guān)系，也有“相克”關(guān)系。

現(xiàn)在，來(lái)建立一個(gè)兩層神經(jīng)網(wǎng)絡(luò)（NN）模型，如圖5所示。

以NN模型表示如圖6所示。

在Z空間中設(shè)定了5個(gè)目標(biāo)值，如圖7所示。

只要按下“學(xué)習(xí)”按鈕，ML就會(huì)尋找出隱藏層的權(quán)重WH和BH，同時(shí)尋找出輸出層的權(quán)重W和B。如圖8所示。

有了隱藏層的權(quán)重WH和BH，以及輸出層的權(quán)重W和B之后，就可以隨時(shí)輸入層X(jué)空間，對(duì)應(yīng)隱藏層H空間，再對(duì)應(yīng)輸出層的Z空間，就得到預(yù)測(cè)值了。例如，把剛才訓(xùn)練好的權(quán)重拿過(guò)來(lái)，就可以隨時(shí)輸入X值，然后通過(guò)兩層權(quán)重的計(jì)算得到Z預(yù)測(cè)值。這個(gè)過(guò)程，就是所謂的：預(yù)測(cè)（Predict）。如圖9所示。

請(qǐng)按下“相生”，輸入木和水的OHE編碼，然后通過(guò)兩層權(quán)重的計(jì)算得到Z預(yù)測(cè)值。如圖10所示。

例如，輸入測(cè)試數(shù)據(jù)：木=[0，1，0，0，0]，通過(guò)NN模型的兩層權(quán)重計(jì)算得到預(yù)測(cè)值。此時(shí)，ML計(jì)算出預(yù)測(cè)值：Z=[0.02、0、0、0.95、0.03]。那么，ML如何得知這個(gè)預(yù)測(cè)值就是“火”呢？非常簡(jiǎn)單，只要看看Z空間中這個(gè)預(yù)測(cè)值代表的點(diǎn)靠近哪一個(gè)目標(biāo)值（點(diǎn)）就知道了。例如，預(yù)測(cè)值Z=[0.02、0、0、0.95、0.03]，非?？拷黐0、0、0、1、0]，所以歸于“火”類。如圖 11所示。

同樣，另一測(cè)試資料：水=[0、0、1、0、0]，通過(guò)NN模型的兩層權(quán)重計(jì)算得到預(yù)測(cè)值：Z=[0、0.97、0、0、0.03]。那么，ML如何得知這個(gè)預(yù)測(cè)值就是“木”呢？非常簡(jiǎn)單，只要看看Z空間中這個(gè)預(yù)測(cè)值代表的點(diǎn)靠近哪一個(gè)目標(biāo)值（點(diǎn)）就知道了。例如，這預(yù)測(cè)值Z=[0、0.97、0、0、0.03]，非?？拷黐0、1、0、0、0]，所以歸于“木”類。

5 結(jié)語(yǔ)

善于使用OHE編碼將非常方便表達(dá)華夏文化中的概念（Concept）和術(shù)語(yǔ)。然而，您可能會(huì)問(wèn)：如果數(shù)千或數(shù)萬(wàn)個(gè)術(shù)語(yǔ)，其OHE編碼將變得很冗長(zhǎng)，實(shí)際上可行嗎？答案是沒(méi)問(wèn)題的。因?yàn)镸L有很好的機(jī)制可以進(jìn)行“降維”，能有效化解上述問(wèn)題。下一期，將會(huì)繼續(xù)說(shuō)明。

3175501908239