標準化與規範化

簡介

標準化和規範化是資訊預處理中兩種常用的策略，旨在將原始資料轉換為適合分析和建模的合理格式。這些策略透過改進資料的屬性（例如範圍、分佈和尺度）在機器學習中發揮著至關重要的作用。規範化包括將資料縮放到特定範圍，通常在 0 和 1 之間，同時保持特徵之間的相對關係。另一方面，標準化將資料集中在其均值上，並將其縮放到標準差為 1。在本文中，我們將探討規範化和標準化的概念、技術以及它們為資訊預處理管道帶來的好處。

什麼是規範化？

規範化是一種資訊預處理策略，它將資料縮放到特定範圍，通常在 0 和 1 之間。它根據資料的範圍相對地更改值，同時保持不同特徵之間的相對關係。當特徵具有不同的尺度或單位時，規範化特別有用，並且保持其相對重要性至關重要。

規範化的方法包括根據資料的範圍相對地更改值。一種常見的規範化策略是 Min-Max 縮放，它將資料的最小值對映到 0，最大值對映到 1，其他值則相應地進行縮放。

規範化有一些優點。首先，它保持了特徵之間的相對關係，因為它是在相對地更改值。通常，當比較具有不同尺度或單位的不同特徵時，這一點尤其重要。此外，規範化有助於防止某些特徵由於其較大的值而支配分析。它確保每個特徵對建模過程做出同等貢獻。第三，規範化有助於提高某些機器學習演算法的穩健性和收斂性，特別是那些依賴於距離計算的演算法，例如 K-最近鄰 (KNN) 和支援向量機 (SVM)。最後，規範化允許更好地解釋和理解資料，因為值被轉換為通用範圍。

但是，規範化也有一些限制需要注意。一個主要的限制是它對異常值的影響。由於規範化基於資料的最小值和最大值，因此異常值會顯著影響規範化資料的範圍和分佈。具有極端值的異常值可能會扭曲規範化過程，並導致產生偏差的結果。因此，在應用規範化策略之前，適當處理異常值非常重要。

什麼是標準化？

當資料的分佈至關重要並且消除尺度影響至關重要時，標準化特別有用。標準化的方法包括從每個資料點中減去均值，並將其除以標準差。

標準化提供了一些優點。首先，它消除了資料中的尺度影響，從而能夠更容易地比較不同的特徵。透過標準化資料，具有不同尺度和單位的特徵被置於一個共同的尺度上，這有助於分析和解釋其相對重要性。此外，標準化降低了異常值對資料的影響。由於標準化基於標準差，因此與規範化相比，極端值對標準化資料的影響較小。這使得標準化在存在異常值的情況下成為更穩健的過程。第三，標準化在某些機器學習演算法中特別有用，例如線性迴歸和邏輯迴歸，這些演算法依賴於均值為 0 且尺度相似的特徵才能進行精確的引數估計。

但是，需要注意的是，標準化不會解決資料中偏斜分佈的問題。如果初始資料包含偏斜分佈，則標準化資料仍將保持相同的偏斜性。在這種情況下，可能需要額外的轉換來解決偏斜並使分佈正常化。