ML(機(jī)器學(xué)習(xí))：輕松理解回歸觀念

高煥堂

1 簡單的回歸觀念

當(dāng)今主流的AI是機(jī)器學(xué)習(xí)（ML）。這種AI的主要能力之一就是：從復(fù)雜的數(shù)據(jù)里探索潛在的規(guī)律?；镜母怕屎突貧w分析觀念，就是AI/機(jī)器學(xué)習(xí)探索規(guī)律的基礎(chǔ)技術(shù)。例如，有一群二維的數(shù)據(jù)點(diǎn)，有一條最具有代表性的直線：X*W+B=Y。在統(tǒng)計(jì)學(xué)上，這條線通稱為：回歸（Regression）線。其中，X[ ]和Y[ ]值是已知的，而W和B是未知的，如圖1。

所謂“回歸分析”就是找尋最棒的W和B值。就得到這條線了。從上圖的Excel畫面里，按下“尋找規(guī)律”按鈕，就會(huì)進(jìn)行回歸分析，找出最適合的W和B值，并輸出如圖2。

剛才的回歸分析已經(jīng)找出最棒的W和B值了，也就是找到最具代表性的回歸曲線了。于是就繪出圖形如圖3。

這一條線就是X*1.3+3.3=Y線性方程式的圖形表示。接下來，就拿圖3里的“test data”來進(jìn)行預(yù)測（Predict）。現(xiàn)在，請按下“Predict”，就拿新數(shù)據(jù)X來預(yù)測出對(duì)應(yīng)的E（Y/X）值，如圖4。

這兩筆資料，就會(huì)對(duì)映到這回歸線上的兩個(gè)點(diǎn)，如圖5。

這就意味著，我們已知X值為：1.5，經(jīng)由X*1.3+3.3=Y線性方程式來計(jì)算出Y值為：5.25。這就是一種預(yù)測的方法。

2 邏輯回歸（Logistic Regression）

一樣使用線性回歸：X*W+B=Y。將得出的Y值，經(jīng)由Sigmoid（）函數(shù)，可以計(jì)算出條件概率P（Y/X）值。這是機(jī)器學(xué)習(xí)的二元分類的標(biāo)準(zhǔn)做法。例如，有7瓶水，其攝氏溫度分別是：[-5，-2，-1，2，3，4，6]。此時(shí)人們常常將之區(qū)分為兩個(gè)類別：水與冰。就把這X值和P（Y/X）值，呈現(xiàn)于Excel上，如圖6。

其數(shù)據(jù)的意義是：依據(jù)人們?nèi)粘Ｉ钪械慕?jīng)驗(yàn)，第1瓶溫度是-5℃，有95%的概率是屬于“冰”類。再如最后一瓶的溫度是6℃，有95%的概率是屬于“水”類。現(xiàn)在，可以按下“尋找規(guī)律”，就進(jìn)行回歸分析，找出最棒的W和B值，如圖7。

就得到了線性方程式：X*0.689393699-0.071644135=Y。 于是就繪出圖形如圖8。

這條直線就是AI機(jī)器學(xué)習(xí)里，常常聽到的：分類線。只要經(jīng)有Sigmoid（）函數(shù)進(jìn)行轉(zhuǎn)換，就成為S型的回歸曲線了。接著，按下“Sigmoid圖”，就由Sigmoid（）激活函數(shù)轉(zhuǎn)換，將直線轉(zhuǎn)換成為曲線，并繪出圖形如圖9。

因?yàn)镾igmoid（）函數(shù)能從線性公式計(jì)算出來Y值轉(zhuǎn)換成為P（Y/X）概率值。因此，這條曲線成為上述（Excel里）數(shù)據(jù)的最佳代表曲線（即回歸線）。這時(shí)候，就把7個(gè)瓶子區(qū)分為兩類了，如圖10。

于是您就可以了解了，AI/機(jī)器學(xué)習(xí)就是，通過這樣來一堆數(shù)據(jù)進(jìn)行分門別類，簡稱為：分類（Classification）。 剛才的回歸分析已經(jīng)找出最棒的W和B值了，然后經(jīng)由Sigmoid（）轉(zhuǎn)換，而找到最具代表性的回歸曲線。接下來，就能給予新的數(shù)據(jù)X，如圖11。

現(xiàn)在，按下“Predict”，就會(huì)通過這條回歸曲線而計(jì)算（預(yù)測）出相對(duì)應(yīng)的P（Y/X）條件概率值。如圖12。

其中，先計(jì)算：X*W+B=Y，得到了Y值。再將Y值經(jīng)由sigmoid（）函數(shù)計(jì)算出P（Y/X）值。并且繪出圖形，如圖13。

以上說明了，我們先提供7筆訓(xùn)練數(shù)據(jù)（Training Data），按下“尋找規(guī)律”來進(jìn)行訓(xùn)練（即回歸分析），找出最棒的W和B值。然后，拿5筆新數(shù)據(jù)來（Test Data）來進(jìn)行分類，果然完美地分類了。

現(xiàn)在，可以按下“繪圖P（Y=兔/X）”，就會(huì)把各P（Y/X）條件概率值繪出于一條數(shù)值線（即一維空間），如圖14。

以上的X只含有一個(gè)特征值。下一期里，將會(huì)說明多個(gè)特征值的例子。