基于吉薩金字塔建造算法優(yōu)化概率神經(jīng)網(wǎng)絡(luò)PNN的分類預(yù)測 - 附代碼

摘要：針對PNN神經(jīng)網(wǎng)絡(luò)的光滑因子選擇問題，利用吉薩金字塔建造算法優(yōu)化PNN神經(jīng)網(wǎng)絡(luò)的光滑因子的選擇，并應(yīng)用于變壓器故障診斷。

1.PNN網(wǎng)絡(luò)概述

概率神經(jīng)網(wǎng)絡(luò)（ probabilistic neural networks , PNN ）是 D. F. Specht 博士在 1 989 年首先提出的，是一種基于 Bayes 分類規(guī)則與 Parzen窗的概率密度面數(shù)估計方法發(fā)展而來的并行算 法。它是一類結(jié)胸簡單、訓(xùn)練簡潔、應(yīng)用廣泛的人工神經(jīng)網(wǎng)絡(luò) 。在實際應(yīng)用中，尤其是在解決分類問題的應(yīng)用中， PNN 的優(yōu)勢在于用線性學(xué)習(xí)算法來完成非線性學(xué) 習(xí)算法所傲的工作，同 時保持非線性算法的高精度等特性；這種網(wǎng)絡(luò)對應(yīng)的權(quán)值就是模式樣本的分布，網(wǎng)絡(luò)不需要訓(xùn)練，因而能夠滿足訓(xùn)練上實時處理的要求。

PNN 網(wǎng)絡(luò)是由徑向基函數(shù)網(wǎng)絡(luò)發(fā)展而來的一種前饋型神經(jīng)網(wǎng)絡(luò)，其理論依據(jù)是貝葉斯最小風(fēng)險準(zhǔn)則（即貝葉斯決策理論）， PNN作為徑向基網(wǎng)絡(luò)的一種，適合于模式分類。當(dāng)分布密度 SPREAD 的值接近于 0 時，它構(gòu)成最鄰分類器； 當(dāng) SPREAD 的值較大時，它構(gòu)成對幾個訓(xùn)練樣本的臨近分類器 。 PNN 的層次模型，由輸入層、模式層、求和層、輸出層共 4 層組成 ， 其基本結(jié)構(gòu)如圖 1 所示。
$$f(X,w_i)=exp[?(X?w_i{)}^T(X?W_i)/2\delta ]\text{\hspace{1em}(1)}$$
式中，$w_i$為輸入層到模式層連接的權(quán)值 ；$\delta$為平滑因子，它對分類起著至關(guān)重要的作用。第 3 層是求和層，是將屬于某類的概率累計 ，按式（1）計算 ，從而得到故障模式的估計概率密度函數(shù)。每一類只有一個求和層單元，求和層單元與只屬于自己類的模式層單元相連接，而與模式層中的其他單元沒有連接。因此求和層單元簡單地將屬于自己類的模式層單元 的輸出相加，而與屬于其他類別的模式層單元的輸出無關(guān)。求和層單元的輸出與各類基于內(nèi) 核的概率密度的估計成比例，通過輸出層的歸一化處理 ， 就能得到各類的概率估計。網(wǎng)絡(luò)的輸 出決策層由簡單的闊值辨別器組成，其作用是在各個故障模式的估計概率密度中選擇一個具 有最大后驗概率密度的神經(jīng)元作為整個系統(tǒng)的輸出。輸出層神經(jīng)元是一種競爭神經(jīng)元，每個神經(jīng)元分別對應(yīng)于一個數(shù)據(jù)類型即故障模式，輸出層神經(jīng)元個數(shù)等于訓(xùn)練樣本數(shù)據(jù)的種類個 數(shù)，它接收從求和層輸出的各類概率密度函數(shù)，概率密度函數(shù)最大的那個神經(jīng)元輸出為 1 ，即 所對應(yīng)的那一類為待識別的樣本模式類別，其他神經(jīng)元的輸出全為 0 。

圖1.PNN網(wǎng)絡(luò)結(jié)構(gòu)

2.變壓器故障診街系統(tǒng)相關(guān)背景

運行中的變壓器發(fā)生不同程度的故障時，會產(chǎn)生異?，F(xiàn)象或信息。故障分析就是搜集變壓器的異?，F(xiàn)象或信息，根據(jù)這些現(xiàn)象或信息進行分析 ，從而判斷故障的類型 、嚴(yán)重程度和故障部位 。 因此 ， 變壓器故障診斷的目的首先是準(zhǔn)確判斷運行設(shè)備當(dāng)前處于正常狀態(tài)還是異常狀態(tài)。若變壓器處于異常狀態(tài)有故障，則判斷故障的性質(zhì)、類型和原因 。 如是絕緣故障、過熱故障還是機械故障。若是絕緣故障，則是絕緣老化 、 受潮，還是放電性故障 ；若是放電性故障又 是哪種類型的放電等。變壓器故障診斷還要根據(jù)故障信息或根據(jù)信息處理結(jié)果，預(yù)測故障的可能發(fā)展即對故障的嚴(yán)重程度、發(fā)展趨勢做出診斷；提出控制故障的措施，防止和消除故障；提出設(shè)備維修的合理方法和相應(yīng)的反事故措施；對設(shè)備的設(shè)計、制造、裝配等提出改進意見，為設(shè)備現(xiàn)代化管理提供科學(xué)依據(jù)和建議。

2.1 模型建立

本案例在對油中溶解氣體分 析法進行深入分析后，以改良三比值法為基礎(chǔ)，建立基于概率神經(jīng)網(wǎng)絡(luò)的故障診斷模型。案例數(shù)據(jù)中的 data. mat 是 33 × 4 維的矩陣，前3列為改良三比值法數(shù)值，第 4 列為分類的輸出，也就是故障的類別 。 使用前 23 個樣本作為 PNN 訓(xùn)練樣本，后10個樣本作為驗證樣本 。

3.基于吉薩金字塔建造優(yōu)化的PNN網(wǎng)絡(luò)

吉薩金字塔建造算法原理請參考：https://blog.csdn.net/u011835903/article/details/120418542

利用吉薩金字塔建造算法對PNN網(wǎng)絡(luò)的光滑因子進行優(yōu)化。適應(yīng)度函數(shù)設(shè)計為訓(xùn)練集與測試集的分類錯誤率：
f i t n e s s = a r g m i n { T r a i n E r r o r R a t e + P r e d i c t E r r o r R a t e } (2) fitness = argmin\{TrainErrorRate + PredictErrorRate\}\tag{2} fitness=argmin{TrainErrorRate+PredictErrorRate}(2)

適應(yīng)度函數(shù)表明，如果網(wǎng)絡(luò)的分類錯誤率越低越好。

5.測試結(jié)果

吉薩金字塔建造參數(shù)設(shè)置如下：

%% 吉薩金字塔建造參數(shù)
pop=20; %種群數(shù)量
Max_iteration=20; %  設(shè)定最大迭代次數(shù)
dim = 1;%維度，即權(quán)值與閾值的個數(shù)
lb = 0.01;%下邊界
ub = 5;%上邊界

從結(jié)果來看，吉薩金字塔建造-pnn能夠獲得好的分類結(jié)果。

6.參考文獻(xiàn)

書籍《MATLAB神經(jīng)網(wǎng)絡(luò)43個案例分析》，PNN原理部分均來自該書籍

7.Matlab代碼