自動學習演算法

㈠ 浜哄伐鏅鴻兘鐨勭畻娉曚腑瀛︿範鏂規硶鏈夊嚑縐

浜哄伐鏅鴻兘鐨勭畻娉曞︿範鏂規硶鏈5縐嶃

1銆佺洃鐫ｅ︿範錛氱洃鐫ｅ︿範鏄涓縐嶉氳繃宸茬煡杈撳叆鍜岃緭鍑烘潵璁緇冩ā鍨嬬殑瀛︿範鏂規硶銆傚畠閫氳繃浣跨敤璁緇冩暟鎹闆嗘潵璁緇冩ā鍨嬶紝浠ヤ究鍦ㄧ粰瀹氳緭鍏ユ椂鑳藉熼勬祴杈撳嚭銆

2銆佹棤鐩戠潱瀛︿範錛氭棤鐩戠潱瀛︿範鏄涓縐嶉氳繃鏃犳爣絳炬暟鎹鏉ヨ緇冩ā鍨嬬殑瀛︿範鏂規硶銆傚畠閫氳繃鍒嗘瀽鏁版嵁涓鐨勬ā寮忓拰緇撴瀯鏉ュ︿範鏁版嵁鐨勫唴鍦ㄧ壒寰佸拰鍒嗗竷銆

3銆佸己鍖栧︿範錛氬己鍖栧︿範鏄涓縐嶉氳繃鏅鴻兘浣撲笌鐜澧冧氦浜掓潵璁緇冩ā鍨嬬殑瀛︿範鏂規硶銆傚畠閫氳繃璁╂櫤鑳戒綋鍦ㄧ幆澧冧腑鎵ц屼竴緋誨垪鍔ㄤ綔騫惰瘎浼扮粨鏋滄潵紜瀹氭渶浣沖姩浣滅瓥鐣ャ

3銆佽嚜鐒惰璦澶勭悊錛氫漢宸ユ櫤鑳界畻娉曞彲浠ヨ嚜鍔ㄧ悊瑙ｅ拰瑙ｆ瀽鑷鐒惰璦鏂囨湰錛屾彁鍙栧叾涓鐨勫疄浣撱佹傚康銆佹儏鎰熺瓑淇℃伅錛屽府鍔╀紒涓氳繘琛屾枃鏈鍒嗘瀽鍜屼俊鎮鎻愬彇銆傝繖縐嶆妧鏈鍦ㄦ悳緔㈠紩鎿庛佹櫤鑳藉㈡湇銆佹儏鎰熷垎鏋愮瓑棰嗗煙鏈夌潃騫挎硾鐨勫簲鐢ㄣ

4銆佸浘鍍忓拰璇闊寵瘑鍒錛氫漢宸ユ櫤鑳界畻娉曞彲浠ヨ嚜鍔ㄨ瘑鍒鍜屽垎鏋愬浘鍍忓拰璇闊充俊鎮錛屽疄鐜拌嚜鍔ㄥ寲褰曞叆銆佽闊寵漿鏂囧瓧銆佽闊沖悎鎴愮瓑鍔熻兘銆傝繖縐嶆妧鏈鍦ㄦ櫤鑳戒氦浜掋佹櫤鑳藉畨闃茬瓑棰嗗煙鏈夌潃騫挎硾鐨勫簲鐢ㄣ

㈡ 機器學習一般常用的演算法有哪些

機器學習是人工智慧的核心技術，是學習人工智慧必不可少的環節。機器學習中有很多演算法，能夠解決很多以前難以企的問題，機器學習中涉及到的演算法有不少，下面小編就給大家普及一下這些演算法。

一、線性回歸

一般來說，線性回歸是統計學和機器學習中最知名和最易理解的演算法之一。這一演算法中我們可以用來預測建模，而預測建模主要關注最小化模型誤差或者盡可能作出最准確的預測，以可解釋性為代價。我們將借用、重用包括統計學在內的很多不同領域的演算法，並將其用於這些目的。當然我們可以使用不同的技術從數據中學習線性回歸模型，例如用於普通最小二乘法和梯度下降優化的線性代數解。就目前而言，線性回歸已經存在了200多年，並得到了廣泛研究。使用這種技術的一些經驗是盡可能去除非常相似（相關）的變數，並去除噪音。這是一種快速、簡單的技術。

二、Logistic 回歸

它是解決二分類問題的首選方法。Logistic 回歸與線性回歸相似，目標都是找到每個輸入變數的權重，即系數值。與線性回歸不同的是，Logistic 回歸對輸出的預測使用被稱為 logistic 函數的非線性函數進行變換。logistic 函數看起來像一個大的S，並且可以將任何值轉換到0到1的區間內。這非常實用，因為我們可以規定logistic函數的輸出值是0和1並預測類別值。像線性回歸一樣，Logistic 回歸在刪除與輸出變數無關的屬性以及非常相似的屬性時效果更好。它是一個快速的學習模型，並且對於二分類問題非常有效。

三、線性判別分析（LDA）

在前面我們介紹的Logistic 回歸是一種分類演算法，傳統上，它僅限於只有兩類的分類問題。而LDA的表示非常簡單直接。它由數據的統計屬性構成，對每個類別進行計算。單個輸入變數的 LDA包括兩個，第一就是每個類別的平均值，第二就是所有類別的方差。而在線性判別分析，進行預測的方法是計算每個類別的判別值並對具備最大值的類別進行預測。該技術假設數據呈高斯分布，因此最好預先從數據中刪除異常值。這是處理分類預測建模問題的一種簡單而強大的方法。

四、決策樹

決策樹是預測建模機器學習的一種重要演算法。決策樹模型的表示是一個二叉樹。這是演算法和數據結構中的二叉樹，沒什麼特別的。每個節點代表一個單獨的輸入變數x和該變數上的一個分割點。而決策樹的葉節點包含一個用於預測的輸出變數y。通過遍歷該樹的分割點，直到到達一個葉節點並輸出該節點的類別值就可以作出預測。當然決策樹的有點就是決策樹學習速度和預測速度都很快。它們還可以解決大量問題，並且不需要對數據做特別准備。

五、樸素貝葉斯

其實樸素貝葉斯是一個簡單但是很強大的預測建模演算法。而這個模型由兩種概率組成，這兩種概率都可以直接從訓練數據中計算出來。第一種就是每個類別的概率，第二種就是給定每個 x 的值，每個類別的條件概率。一旦計算出來，概率模型可用於使用貝葉斯定理對新數據進行預測。當我們的數據是實值時，通常假設一個高斯分布，這樣我們可以簡單的估計這些概率。而樸素貝葉斯之所以是樸素的，是因為它假設每個輸入變數是獨立的。這是一個強大的假設，真實的數據並非如此，但是，該技術在大量復雜問題上非常有用。所以說，樸素貝葉斯是一個十分實用的功能。

六、K近鄰演算法

K近鄰演算法簡稱KNN演算法，KNN 演算法非常簡單且有效。KNN的模型表示是整個訓練數據集。KNN演算法在整個訓練集中搜索K個最相似實例（近鄰）並匯總這K個實例的輸出變數，以預測新數據點。對於回歸問題，這可能是平均輸出變數，對於分類問題，這可能是眾數類別值。而其中的訣竅在於如何確定數據實例間的相似性。如果屬性的度量單位相同，那麼最簡單的技術是使用歐幾里得距離，我們可以根據每個輸入變數之間的差值直接計算出來其數值。當然，KNN需要大量內存或空間來存儲所有數據，但是只有在需要預測時才執行計算。我們還可以隨時更新和管理訓練實例，以保持預測的准確性。

七、Boosting 和 AdaBoost

首先，Boosting 是一種集成技術，它試圖集成一些弱分類器來創建一個強分類器。這通過從訓練數據中構建一個模型，然後創建第二個模型來嘗試糾正第一個模型的錯誤來完成。一直添加模型直到能夠完美預測訓練集，或添加的模型數量已經達到最大數量。而AdaBoost 是第一個為二分類開發的真正成功的 boosting 演算法。這是理解 boosting 的最佳起點。現代 boosting 方法建立在 AdaBoost 之上，最顯著的是隨機梯度提升。當然，AdaBoost 與短決策樹一起使用。在第一個決策樹創建之後，利用每個訓練實例上樹的性能來衡量下一個決策樹應該對每個訓練實例付出多少注意力。難以預測的訓練數據被分配更多權重，而容易預測的數據分配的權重較少。依次創建模型，每一個模型在訓練實例上更新權重，影響序列中下一個決策樹的學習。在所有決策樹建立之後，對新數據進行預測，並且通過每個決策樹在訓練數據上的精確度評估其性能。所以說，由於在糾正演算法錯誤上投入了太多注意力，所以具備已刪除異常值的干凈數據十分重要。

八、學習向量量化演算法（簡稱 LVQ）

學習向量量化也是機器學習其中的一個演算法。可能大家不知道的是，K近鄰演算法的一個缺點是我們需要遍歷整個訓練數據集。學習向量量化演算法（簡稱 LVQ）是一種人工神經網路演算法，它允許你選擇訓練實例的數量，並精確地學習這些實例應該是什麼樣的。而學習向量量化的表示是碼本向量的集合。這些是在開始時隨機選擇的，並逐漸調整以在學習演算法的多次迭代中最好地總結訓練數據集。在學習之後，碼本向量可用於預測。最相似的近鄰通過計算每個碼本向量和新數據實例之間的距離找到。然後返回最佳匹配單元的類別值或作為預測。如果大家重新調整數據，使其具有相同的范圍，就可以獲得最佳結果。當然，如果大家發現KNN在大家數據集上達到很好的結果，請嘗試用LVQ減少存儲整個訓練數據集的內存要求