什麼是徑向基函式網路?


流行的前饋網路型別是徑向基函式 (RBF) 網路。它有兩層,不包括輸入層,並且在隱藏單元實現計算的方法上與多層感知器形成對比。

每個隱藏單元都顯著定義了輸入空間中的特定點,以及它針對給定例項的輸出或啟用,該輸出或啟用基於其點與例項之間的距離,這只是一個不同的點。這兩個點越接近,啟用就越好。

這是透過利用非線性變換函式將距離修改為相似性度量來實現的。通常使用鐘形高斯啟用服務(每個隱藏單元的寬度可以不同)來實現此目標。隱藏單元被稱為 RBF,因為給定隱藏單元產生類似啟用的例項區域中的點形成超球體或超橢球體。

RBF 結構的輸出層類似於多層感知器的輸出層 - 它獲取隱藏單元輸出的線性組合,並在分類問題中透過 sigmoid 函式傳遞它。

此類網路理解的引數是 RBF 的中心和寬度以及用於設計從隱藏層獲得的輸出的線性組合的權重。與多層感知器相比,一個重要的好處是第一組引數可以獨立於第二組引數確定並建立準確的分類器。

確定第一組引數的一種方法是使用聚類。可以應用簡單的 k 均值聚類演算法,獨立地對每個類進行聚類以獲得每個類的 k 個基函式。

第二組引數是在保持第一組引數不變的情況下確定的。這包括使用線性或邏輯迴歸等方法之一學習簡單的線性分類器。如果隱藏單元的數量遠少於訓練例項的數量,則可以快速完成此操作。

RBF 網路的侷限性在於它們為每個屬性提供相同的權重,因為除非屬性權重引數包含在完整的最佳化過程中,否則所有屬性在距離計算中都被認為是同等重要的。

因此,與多層感知器相比,它們無法有效地處理不相關的屬性。支援向量機也存在類似的問題。具有高斯核(即“RBF 核”)的支援向量機是 RBF 網路的一種特定方法,其中每個訓練例項上都集中了一個函式,所有基函式都具有相同的寬度,並且透過計算最大邊距超平面線性合併輸出。這導致某些 RBF 具有非零權重,這些權重定義了支援向量。

更新於:2022年2月10日

7K+ 次瀏覽

開啟你的 職業生涯

透過完成課程獲得認證

開始學習
廣告

© . All rights reserved.