Scikit Learn - 樸素貝葉斯分類

---

---

樸素貝葉斯方法是一組基於貝葉斯定理的監督學習演算法，並假設所有預測變數彼此獨立，即一個特徵在一個類別中的出現與同一類別中任何其他特徵的出現無關。這是一個天真的假設，這就是為什麼這些方法被稱為樸素貝葉斯方法。

貝葉斯定理陳述了以下關係，以便找到類別的後驗機率，即標籤和一些觀察到的特徵的機率，$P\left(\begin{array}{c} Y\arrowvert features\end{array}\right)$。

$$P\left(\begin{array}{c} Y\arrowvert features\end{array}\right)=\left(\frac{P\lgroup Y\rgroup P\left(\begin{array}{c} features\arrowvert Y\end{array}\right)}{P\left(\begin{array}{c} features\end{array}\right)}\right)$$

這裡，$P\left(\begin{array}{c} Y\arrowvert features\end{array}\right)$ 是類的後驗機率。

$P\left(\begin{array}{c} Y\end{array}\right)$ 是類的先驗機率。

$P\left(\begin{array}{c} features\arrowvert Y\end{array}\right)$ 是似然度，即給定類別的預測變數的機率。

$P\left(\begin{array}{c} features\end{array}\right)$ 是預測變數的先驗機率。

Scikit-learn 提供了不同的樸素貝葉斯分類器模型，即高斯、多項式、互補和伯努利。它們的主要區別在於它們對 𝑷$P\left(\begin{array}{c} features\arrowvert Y\end{array}\right)$（即給定類別的預測變數的機率）的分佈所做的假設。

構建樸素貝葉斯分類器

我們也可以在 Scikit-learn 資料集上應用樸素貝葉斯分類器。在下面的示例中，我們正在應用 GaussianNB 並擬合 Scikit-leran 的 breast_cancer 資料集。

示例

Import Sklearn
from sklearn.datasets import load_breast_cancer
from sklearn.model_selection import train_test_split
data = load_breast_cancer()
label_names = data['target_names']
labels = data['target']
feature_names = data['feature_names']
features = data['data']
   print(label_names)
   print(labels[0])
   print(feature_names[0])
   print(features[0])
train, test, train_labels, test_labels = train_test_split(
   features,labels,test_size = 0.40, random_state = 42
)
from sklearn.naive_bayes import GaussianNB
GNBclf = GaussianNB()
model = GNBclf.fit(train, train_labels)
preds = GNBclf.predict(test)
print(preds)

輸出

[
   1 0 0 1 1 0 0 0 1 1 1 0 1 0 1 0 1 1 1 0 1 1 0 1 1 1 1
   1 1 0 1 1 1 1 1 1 0 1 0 1 1 0 1 1 1 1 1 1 1 1 0 0 1 1 
   1 1 1 0 0 1 1 0 0 1 1 1 0 0 1 1 0 0 1 0 1 1 1 1 1 1 0 
   1 1 0 0 0 0 0 1 1 1 1 1 1 1 1 0 0 1 0 0 1 0 0 1 1 1 0 
   1 1 0 1 1 0 0 0 1 1 1 0 0 1 1 0 1 0 0 1 1 0 0 0 1 1 1 
   0 1 1 0 0 1 0 1 1 0 1 0 0 1 1 1 1 1 1 1 0 0 1 1 1 1 1 
   1 1 1 1 1 1 1 0 1 1 1 0 1 1 0 1 1 1 1 1 1 0 0 0 1 1 0 
   1 0 1 1 1 1 0 1 1 0 1 1 1 0 1 0 0 1 1 1 1 1 1 1 1 0 1 
   1 1 1 1 0 1 0 0 1 1 0 1
]

以上輸出包含一系列 0 和 1，它們基本上是來自腫瘤類別（即惡性和良性）的預測值。