前言:一篇好文章的誕生,需要你不斷地搜集資料、整理思路,本站小編為你收集了豐富的神經(jīng)網(wǎng)絡(luò)的運用主題范文,僅供參考,歡迎閱讀并收藏。
關(guān)鍵詞:物流;神經(jīng)網(wǎng)絡(luò);Matlab;預(yù)測;多種模型
中圖分類號:U294.1 文獻(xiàn)標(biāo)識碼:A 文章編號:2095-1302(2016)01-00-02
0 引 言
現(xiàn)如今物流業(yè)的快速發(fā)展對人們的生活與產(chǎn)能經(jīng)濟(jì)都產(chǎn)生了重要影響,而整個物流鏈中的關(guān)鍵就是貨運環(huán)節(jié)。影響貨物運輸?shù)囊蛩乇容^復(fù)雜,包括相關(guān)體制、交通條件、城市環(huán)境、產(chǎn)業(yè)布局等,這些因素在數(shù)學(xué)模型上是非線性且不確定的,于是給預(yù)測造成了較大困難。為了做好庫存控制、信息管理的工作,在貨物運輸前對貨運量進(jìn)行預(yù)測是非常有必要的。
1 神經(jīng)網(wǎng)絡(luò)模型及其特點
1.1 系統(tǒng)概述
本文研究的預(yù)測模型是基于貨運預(yù)測系統(tǒng)的,該系統(tǒng)的主要功能是將項目輸入的數(shù)據(jù)確定為預(yù)測目標(biāo),并根據(jù)具體要求與有關(guān)資料動態(tài)分析出可執(zhí)行計劃,將預(yù)測結(jié)果保存到數(shù)據(jù)庫備份。貨運預(yù)測系統(tǒng)的具體結(jié)構(gòu)包括初始數(shù)據(jù)模塊、預(yù)測方法選擇、結(jié)果處理模塊、系統(tǒng)輔助管理及數(shù)據(jù)庫模塊等。系統(tǒng)結(jié)構(gòu)圖如圖1所示。
圖1 貨運預(yù)測系統(tǒng)結(jié)構(gòu)圖
1.2 模型特點
神經(jīng)網(wǎng)絡(luò)分為單層前向網(wǎng)絡(luò)(LMS學(xué)習(xí)算法)、多層前向網(wǎng)絡(luò)(BP學(xué)習(xí)算法)、改進(jìn)型神經(jīng)網(wǎng)絡(luò)等,其中BP神經(jīng)網(wǎng)絡(luò)是目前應(yīng)用最廣泛的模型之一,模型拓?fù)浣Y(jié)構(gòu)如圖2所示。
圖2 含有兩個隱層的BP網(wǎng)絡(luò)結(jié)構(gòu)
多層前向網(wǎng)絡(luò)是單層感知器的推廣,解決了非線性可分問題,其由輸入層、隱含層和輸出層組成,其中隱含層可以為一層或多層。輸入層中每個源節(jié)點作為激勵單元,組成了下一層的輸入信號,而該層的輸出信號又成為后層的輸入,以此類推。多層感知器中每個神經(jīng)元的激勵函數(shù)是可微的Sigmoid函數(shù),見式(1)所示:
(1)
式中ui是第i個神經(jīng)元的輸入信號,vi是該神經(jīng)元的輸出信號。
BP學(xué)習(xí)過程具有工作信號正向傳播、誤差信號反向傳播的特點。對于圖2,設(shè)輸入層任意一個輸入信號用m表示,第一層、第二層、輸出層任意神經(jīng)元分別用i,j,p表示。按誤差反向傳播方向,從輸出節(jié)點到隱含層的修正權(quán)值公式見式(2):
(2)
按Delta學(xué)習(xí)規(guī)則求得:
Δwjp(n)=ηδp(n)vj(n) (3)
其中,η是學(xué)習(xí)步長, vj(n) 可由信號的正向傳播過程求得。
該系統(tǒng)的訓(xùn)練目標(biāo)是總的平均誤差能量Eav達(dá)到最小,。其中,ekp為網(wǎng)絡(luò)輸入第k個訓(xùn)練樣本時輸出神經(jīng)元p的誤差,N為訓(xùn)練樣本的個數(shù)。
2 預(yù)測實例及結(jié)果分析
2.1 問題描述
貨站是物流的一種重要形式,被認(rèn)為是物流中心,包含著物資信息、資金流動等管理,這里取若干年的某貨站數(shù)據(jù)進(jìn)行預(yù)測并與實際結(jié)果對比,貨運量走勢如圖3所示。
圖3 近十年某貨站物流量走勢圖
圖中曲線很明顯不適合做直線擬合,我們可運用指數(shù)平滑法、神經(jīng)網(wǎng)絡(luò)等進(jìn)行外推預(yù)測。對于指數(shù)平滑法,歷史數(shù)據(jù)影響程度逐漸減小,隨著數(shù)據(jù)遠(yuǎn)離權(quán)數(shù)收斂趨近零,因此適用于短期預(yù)測;對于灰色模型,十分依賴于歷史數(shù)據(jù),其精度受原始數(shù)據(jù)的影響較大。本預(yù)測系統(tǒng)會根據(jù)輸入數(shù)據(jù)的各項因子最終選擇最合適的算法模型。下面就神經(jīng)網(wǎng)絡(luò)的一般預(yù)測步驟進(jìn)行說明。
2.2 預(yù)測步驟
一般來說,BP算法的預(yù)測步驟如下:
(1)樣本預(yù)處理。由于數(shù)據(jù)的評價標(biāo)準(zhǔn)或量綱不一樣,所以需要對樣本作歸一化處理。可采取極差變換(xn-xmin)/(xmax-xmin)進(jìn)行處理;
(2)樣本分組。每組前m個值作為輸入,后一個作為輸出期望值;
(3)網(wǎng)絡(luò)訓(xùn)練。使訓(xùn)練后的網(wǎng)絡(luò)自適應(yīng)樣本數(shù)據(jù)的特征,網(wǎng)絡(luò)訓(xùn)練狀態(tài)如圖4所示;
圖4 網(wǎng)絡(luò)訓(xùn)練狀態(tài)
(4)得到預(yù)測值后??赏ㄟ^對2001至2010年數(shù)據(jù)的網(wǎng)絡(luò)訓(xùn)練,得到2011年的輸出預(yù)測值。Matlab中仿真程序如下:
x=[105129.1 113918.7 121421.3 122757.9 122690.2 135560.5 159988.1 172152 210655.0 238749.2];
r=max(x)-min(x);
for n=1:length(x)
y(n)=[x(n)-min(x)]/r;
end
p=[y(length(x)-4) y(length(x)-3) y(length(x)-2) y(length(x)-1)]’;
L=length(p);
R1=zeros(1,L);
R2=ones(1,L);
R=[R1;R2]’;
t=y(length(x));
input=[y(length(x)-3) y(length(x)-2) y(length(x)-1) y(length(x))]’;
net=newff(R,[4,5,1],{‘logsig’,’logsig’,’purelin’},’trainlm’);
net.trainParam.show=20;
net.trainParam.lr=0.01;
net.trainParam.epochs=100; net.trainParam.goal=1.0e-030; net=train(net,p,t);
out=sim(net,input);
out=out*r+min(x);
(5)反歸一化處理。由于第一步對樣本進(jìn)行歸一化處理,則需要把結(jié)果還原,才能得到有效的預(yù)測值。
2.3 結(jié)果分析
最后得到2011年貨運量預(yù)測值為259 137(噸)[實際值262 551(噸)],與指數(shù)平滑法的271 740(噸)相比誤差由3.5%降為-1.3%。需要指出的是,增加隱含層的數(shù)目可以更加逼近非線性曲線提高映射能力,但多于某個值,會使整體預(yù)測性能降低。
3 結(jié) 語
貨運預(yù)測影響因素的不確定性直接給預(yù)測系統(tǒng)的研究帶來困難,人工神經(jīng)網(wǎng)絡(luò)模仿自人的大腦,具備自適應(yīng)算法特性,擁有運算、推理、識別及控制等能力,若能將其很好地運用在貨運預(yù)測方面,則能為物流業(yè)提供更大意義的幫助。
參考文獻(xiàn)
[1] Simon Haykin.神經(jīng)網(wǎng)絡(luò)原理[M].葉世偉,史忠植,譯.北京:機(jī)械工業(yè)出版社,2004.
[2]孫明璽.預(yù)測與評價[M].杭州:浙江教育出版社,2000.
[3]李采蓉.新的組合模型及在港口客流量預(yù)測上的應(yīng)用[J].遼寧大學(xué)學(xué)報,2000,27(4):309-311.
[4]云俊,王少梅.物流系統(tǒng)的多目標(biāo)預(yù)測[J].武漢理工大學(xué)學(xué)報(社會科學(xué)版),2001,14(3):243-245.
[5]駱溫平.物流與供應(yīng)鏈管理[M].北京:電子工業(yè)出版社,2002.
[6](美)Tom M.Mitchell.機(jī)器學(xué)習(xí)[M].曾華軍,譯.北京:機(jī)械工業(yè)出版社,2008.
[7](美)Martin T Hagan,Howard B.Demuth.神經(jīng)網(wǎng)絡(luò)設(shè)計[M].戴葵,等,譯.北京:機(jī)械工業(yè)出版社,2005.
[8]黨耀國,劉思峰,王正新.灰色預(yù)測與決策模型研究[M].北京:科學(xué)出版社,2009.
關(guān)鍵詞:神經(jīng)網(wǎng)絡(luò);計算機(jī)網(wǎng)絡(luò);安全管理;應(yīng)用
中圖分類號:TP393.08
進(jìn)入到信息時代,便捷的計算機(jī)網(wǎng)絡(luò)技術(shù)不僅給人們的生活帶來了極大的便利,但同時也容易遭到蠕蟲病毒、木馬病毒等破壞性極強的程序病毒攻擊留下便利的通道,使得計算機(jī)網(wǎng)絡(luò)安全面臨巨大的威脅。鑒于此,要對計算機(jī)網(wǎng)絡(luò)安全所面臨的風(fēng)險進(jìn)行科學(xué)、合理以及準(zhǔn)確的分析、評估,同時要采取相應(yīng)的措施對面臨的風(fēng)險有效的進(jìn)行防范,盡可能的減少由于計算機(jī)網(wǎng)絡(luò)安全管理問題所帶來的損失。另外,計算機(jī)網(wǎng)絡(luò)安全受到很多種因素的影響,主要有病毒的入侵以及系統(tǒng)漏洞,更重要的是這些因素之間有很強的關(guān)聯(lián)性,這也就導(dǎo)致計算機(jī)網(wǎng)絡(luò)安全管理的問題逐漸趨于復(fù)雜化,在這種情況下,就必須要求計算機(jī)網(wǎng)絡(luò)系統(tǒng)的管理者以及使用者對網(wǎng)絡(luò)的安全進(jìn)行有效的管理,更要對網(wǎng)絡(luò)的安全性有清楚的認(rèn)識和了解,切實的掌握影響計算機(jī)網(wǎng)絡(luò)安全的因素。為了更好的解決計算機(jī)網(wǎng)絡(luò)安全管理問題,神經(jīng)網(wǎng)絡(luò)逐漸被應(yīng)用到計算機(jī)網(wǎng)絡(luò)安全管理之中,使得對計算機(jī)網(wǎng)絡(luò)安全管理更加準(zhǔn)確和有效。
1 計算機(jī)網(wǎng)絡(luò)安全管理概述
一般而言,計算機(jī)網(wǎng)路安全管理指的是計算機(jī)在連接網(wǎng)絡(luò)后進(jìn)行信息的交換、瀏覽以及下載的過程中,對信息安全進(jìn)行有效的管理,防止信息被他人竊取或者破壞。隨著信息時代的到來,越來越多的人對計算機(jī)產(chǎn)生了很強的依賴,從兒童到老年人,計算機(jī)的影響無處不在,隨著計算機(jī)的普及,人們在使用計算機(jī)的過程中對其安全性就有了顧忌。對于計算機(jī)網(wǎng)絡(luò),只要連接互聯(lián)網(wǎng),隨時都存在被攻擊的可能,相對而言,沒有任何計算機(jī)是絕對的安全或者是不受到任何的攻擊。運用計算機(jī)網(wǎng)絡(luò)技術(shù)進(jìn)行攻擊或者盜取個人信息或者是企業(yè)信息的事件幾乎每年都會發(fā)生,計算機(jī)網(wǎng)絡(luò)存在嚴(yán)重的安全隱患。所以,要及時的認(rèn)識以及了解計算機(jī)網(wǎng)絡(luò)面臨的安全隱患,積極的采取相應(yīng)的措施加強對計算機(jī)網(wǎng)絡(luò)安全的管理。
2 神經(jīng)網(wǎng)絡(luò)在計算機(jī)網(wǎng)絡(luò)安全管理應(yīng)用的現(xiàn)狀
2.1 對神經(jīng)網(wǎng)絡(luò)在計算機(jī)安全管理運用中的重視程度不夠
計算機(jī)網(wǎng)絡(luò)安全是因特網(wǎng)發(fā)展的最基礎(chǔ)的目的,但與此同時近乎所有的計算機(jī)網(wǎng)絡(luò)在開創(chuàng)以及不斷的發(fā)展過程中都趨向于實用以及便利,相反卻在一定程度上沒有重視對計算機(jī)的安全管理,更沒有將神經(jīng)網(wǎng)絡(luò)技術(shù)運用到計算機(jī)的安全管理中,進(jìn)而對計算機(jī)網(wǎng)絡(luò)的安全管理留下了嚴(yán)重的隱患。另外,神經(jīng)網(wǎng)絡(luò)在計算機(jī)網(wǎng)絡(luò)安全管理中主要是對計算機(jī)的網(wǎng)絡(luò)安全進(jìn)行評估,然而由于不重視對神經(jīng)網(wǎng)絡(luò)在計算機(jī)網(wǎng)絡(luò)安全管理中的運用,使得沒有建立良好的計算機(jī)網(wǎng)絡(luò)安全評價標(biāo)準(zhǔn)體系。
2.2 對神經(jīng)網(wǎng)絡(luò)在計算機(jī)網(wǎng)絡(luò)安全評價模型的設(shè)計和實際運用不夠合理
一般來說,神經(jīng)網(wǎng)絡(luò)在計算機(jī)網(wǎng)絡(luò)安全管理中主要是對計算機(jī)網(wǎng)絡(luò)安全進(jìn)行一定的評估,在對其進(jìn)行評估的過程中,就需要設(shè)計一定的計算機(jī)網(wǎng)絡(luò)安全評價模型,主要包含對輸入層、輸出層以及隱含層的設(shè)計;但是,目前神經(jīng)網(wǎng)絡(luò)在計算機(jī)網(wǎng)絡(luò)安全管理中對于評價模型的設(shè)計還沒有將這三方面有效的聯(lián)系起來。除此之外,對神經(jīng)網(wǎng)絡(luò)在計算機(jī)網(wǎng)絡(luò)安全管理的實際運用中,不能科學(xué)、合理的實現(xiàn)計算機(jī)網(wǎng)絡(luò)安全管理評價模型運用,不注重對評價模型的學(xué)習(xí)以及不關(guān)注對評價模型進(jìn)行有效的驗證。
3 加強神經(jīng)網(wǎng)絡(luò)在計算機(jī)網(wǎng)絡(luò)安全管理中的應(yīng)用采取的措施
3.1 神經(jīng)網(wǎng)絡(luò)在計算機(jī)網(wǎng)絡(luò)安全管理中要科學(xué)、合理的設(shè)計網(wǎng)絡(luò)安全評價模型
神經(jīng)網(wǎng)絡(luò)在計算機(jī)網(wǎng)絡(luò)安全管理中要科學(xué)、合理的設(shè)計網(wǎng)絡(luò)安全評價模型,以便更好的實現(xiàn)計算機(jī)網(wǎng)絡(luò)安全、高效的運行。為此,計算機(jī)網(wǎng)絡(luò)安全評價模型需要進(jìn)行一下設(shè)計:首先是對輸入層的設(shè)計,一般來說,神經(jīng)網(wǎng)絡(luò)在計算機(jī)網(wǎng)絡(luò)安全管理運用中,對于輸入層考慮的是神經(jīng)元的節(jié)點數(shù)以及評價指標(biāo)的數(shù)量,盡可能的使這兩者數(shù)量保持一致。其次是對隱含層的設(shè)計,對于隱含層的設(shè)計需要注意的是若某個連續(xù)函數(shù)在任意的閉區(qū)間中,可以通過在隱含層里的神經(jīng)網(wǎng)絡(luò)來靠近,大多數(shù)情況下,神經(jīng)網(wǎng)絡(luò)通常運用的是單隱含層。最后是輸出層的設(shè)計,神經(jīng)網(wǎng)絡(luò)的輸出層設(shè)計主要是獲得計算機(jī)網(wǎng)絡(luò)安全管理評價的最終結(jié)果,例如可以設(shè)置計算機(jī)網(wǎng)絡(luò)安全管理評價的輸出層節(jié)點數(shù)為2,那么相應(yīng)的輸出結(jié)果(1,1)指的是非常安全、(0,1)指的是較不安全、(1,0)指的是基本安全以及(0,0)指的是非常的不安全。
3.2 神經(jīng)網(wǎng)絡(luò)在計算機(jī)網(wǎng)絡(luò)安全管理運用中要對評價模型進(jìn)行有效的驗證
需要注意的是,神經(jīng)網(wǎng)絡(luò)在計算機(jī)網(wǎng)絡(luò)安全管理運用中要對評價模型進(jìn)行有效的驗證,一般體現(xiàn)在一下幾方面:首先是要關(guān)注評價模型的實現(xiàn),為了實現(xiàn)神經(jīng)網(wǎng)絡(luò)在計算機(jī)網(wǎng)絡(luò)安全管理中的良好運用,就要依據(jù)客戶滿意的評價模型,運用計算機(jī)網(wǎng)絡(luò)技術(shù)創(chuàng)建設(shè)置含有輸入層、隱含層以及輸出層的神經(jīng)網(wǎng)絡(luò)模型,然后再對網(wǎng)絡(luò)安全進(jìn)行檢驗。其次是要注意對評價模型的學(xué)習(xí),在對計算機(jī)網(wǎng)絡(luò)安全進(jìn)行評價之前,需要對神經(jīng)網(wǎng)絡(luò)進(jìn)行標(biāo)準(zhǔn)化的處理,才能盡可能的減少對計算機(jī)網(wǎng)絡(luò)安全管理評價中的誤差。最后要注意對評價模型進(jìn)行驗證,當(dāng)神經(jīng)網(wǎng)絡(luò)經(jīng)過標(biāo)準(zhǔn)化處理以及在計算機(jī)網(wǎng)絡(luò)安全評價之后,就需要對輸出的結(jié)果進(jìn)行一定的驗證,以便確定神經(jīng)網(wǎng)絡(luò)對計算機(jī)網(wǎng)絡(luò)安全的評價輸出結(jié)果是否與期望的評價結(jié)果相一致,進(jìn)一步驗證神經(jīng)網(wǎng)絡(luò)在計算機(jī)網(wǎng)絡(luò)安全管理中安全評價模型的準(zhǔn)確與否。
3.3 重視神經(jīng)網(wǎng)絡(luò)在計算機(jī)網(wǎng)絡(luò)安全管理運用以及建立健全安全評價標(biāo)準(zhǔn)體系
神經(jīng)網(wǎng)絡(luò)在計算機(jī)網(wǎng)絡(luò)安全管理運用中主要的任務(wù)是對計算機(jī)網(wǎng)絡(luò)的安全進(jìn)行一定的評價,并且將評價的結(jié)果準(zhǔn)確、及時的反饋給用戶,所以就應(yīng)該對其在計算機(jī)網(wǎng)絡(luò)安全管理中的應(yīng)用引起高度的重視,為此就應(yīng)該建立健全計算機(jī)網(wǎng)絡(luò)安全管理的評價標(biāo)準(zhǔn)體系。一方面是評價指標(biāo)的建立,計算機(jī)網(wǎng)絡(luò)安全管理是復(fù)雜的過程,同時影響計算機(jī)網(wǎng)絡(luò)安全的因素比較多。因此,建立科學(xué)、合理以及有效的計算機(jī)網(wǎng)絡(luò)安全管理評價標(biāo)準(zhǔn),對于神經(jīng)網(wǎng)絡(luò)高效的開展評價工作有很大的關(guān)聯(lián)。另一方面是對評價標(biāo)準(zhǔn)的準(zhǔn)確化,影響計算機(jī)網(wǎng)絡(luò)安全管理的因素非常的多,就應(yīng)該對各種評價標(biāo)準(zhǔn)進(jìn)行細(xì)化,以達(dá)到評價的準(zhǔn)確。
4 結(jié)束語
綜上所述,通過神經(jīng)網(wǎng)絡(luò)對計算機(jī)網(wǎng)絡(luò)安全的評價,可以有效的對計算機(jī)網(wǎng)絡(luò)安全進(jìn)行管理。運用神經(jīng)網(wǎng)絡(luò)技術(shù)手段,提高了計算機(jī)網(wǎng)絡(luò)安全管理的效率,并且在運用神經(jīng)網(wǎng)絡(luò)的過程中建立健全安全評價標(biāo)準(zhǔn)體系、注重對評價模型進(jìn)行有效的驗證以及加強對計算機(jī)網(wǎng)絡(luò)安全評價模型的設(shè)計,切實的提升計算機(jī)網(wǎng)絡(luò)安全管理水平。
參考文獻(xiàn):
[1]毛志勇.BP神經(jīng)網(wǎng)絡(luò)在計算機(jī)網(wǎng)絡(luò)安全評價中的應(yīng)用[J].信息技術(shù),2008(06).
[2]周忠.神經(jīng)網(wǎng)絡(luò)技術(shù)在網(wǎng)絡(luò)安全中的應(yīng)用[J].科技致富向?qū)В?010(32).
[3]趙冬梅,劉海峰,劉晨光.基于BP神經(jīng)網(wǎng)絡(luò)的信息安全風(fēng)險評估[J].計算機(jī)工程與應(yīng)用,2007(01).
[4]樓文高,姜麗,孟祥輝.計算機(jī)網(wǎng)絡(luò)安全綜合評價的神經(jīng)網(wǎng)絡(luò)模型[J].計算機(jī)工程與應(yīng)用,2007(32).
[5]沈宗慶,劉西林.基于BP神經(jīng)網(wǎng)絡(luò)的分銷商績效指標(biāo)評價及應(yīng)用[J].華東交通大學(xué)學(xué)報,2007(04).
關(guān)鍵詞:BP神經(jīng)網(wǎng)絡(luò)、圖像分割、特征提取
Abstract: the image recognition process including the image preprocessing, feature extraction, image understanding and analysis. Which BP artificial neural network in the image segmentation using better; In the feature extraction phase BP neural network is also very good find application, and obtain the better feature extraction results; In the image understanding and the analysis phase using neural network classifier design, can get accurate classification results.
Keywords: BP neural network, image segmentation, feature extraction
中圖分類號:TP183 文獻(xiàn)標(biāo)識碼:A文章編號:
引言
BP人工神經(jīng)網(wǎng)絡(luò)算法是現(xiàn)今應(yīng)用較為廣泛的多層前向反饋式神經(jīng)網(wǎng)絡(luò)算法,BP人工神經(jīng)網(wǎng)絡(luò)有較好的容錯能力、魯棒性、并行協(xié)同處理能力和自適應(yīng)能力,受到了國內(nèi)外眾多領(lǐng)域?qū)W者的關(guān)注。由于神經(jīng)網(wǎng)絡(luò)高效率的集體計算能力和較強的魯棒性,它在圖像分割方面的應(yīng)用已經(jīng)很廣泛,Jain和Karu采用了多通道濾波與前向神經(jīng)網(wǎng)絡(luò)相結(jié)合的方法實現(xiàn)圖像紋理分割算法。神經(jīng)網(wǎng)絡(luò)算法在特征提取階段,壓縮特征數(shù)量,以提高分類速度和精度。在圖像識別領(lǐng)域中神經(jīng)網(wǎng)絡(luò)作為分類器的研究也得到了很大的進(jìn)展,尤其是其學(xué)習(xí)能力和容錯性對于模式識別是非常有利的,在一定程度上提高了訓(xùn)練速度和識別率。Le Cun等人提出了多層特征選擇(Multilayer Selection Procedure)方法用于字符識別,每一層神經(jīng)網(wǎng)絡(luò)處理較低層次的特征,獲取該層特征信息并傳給上一層。
BP神經(jīng)網(wǎng)絡(luò)的基本原理
人工神經(jīng)網(wǎng)絡(luò)的研究起源于對生物神經(jīng)系統(tǒng)的研究,它將若干處理單元(即神經(jīng)元)通過一定的互連模型連結(jié)成一個網(wǎng)絡(luò),這個網(wǎng)絡(luò)通過一定的機(jī)制可以模仿人的神經(jīng)系統(tǒng)的動作過程,以達(dá)到識別分類的目的。人工神經(jīng)網(wǎng)絡(luò)區(qū)別于其他識別方法的最大特點是它對待識別的對象不要求有太多的分析與了解,具有一定的智能化處理的特點。神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)過程實際上就是不斷地調(diào)整權(quán)值和閾值的過程。根據(jù)有無訓(xùn)練樣本的指導(dǎo)可以將神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)方式分為兩種:監(jiān)督學(xué)習(xí)方式和非監(jiān)督學(xué)習(xí)方式,也稱為有導(dǎo)師指導(dǎo)學(xué)習(xí)方式和無導(dǎo)師指導(dǎo)學(xué)習(xí)方式。監(jiān)督學(xué)習(xí)方式,是在給定固定的輸入輸出樣本集的情況下,由網(wǎng)絡(luò)根據(jù)一定的學(xué)習(xí)規(guī)則進(jìn)行訓(xùn)練學(xué)習(xí),每一次學(xué)習(xí)完成后,通過對比實際的輸出和期望的輸出,以此決定網(wǎng)絡(luò)是否需要再學(xué)習(xí),如果還沒有達(dá)到期望的誤差,則將實際誤差反饋到網(wǎng)絡(luò),進(jìn)行權(quán)值和閾值的調(diào)整,使實際的誤差隨著學(xué)習(xí)的反復(fù)進(jìn)行而逐步減小,直至達(dá)到所要求的性能指標(biāo)為止。非監(jiān)督學(xué)習(xí)方式,是在沒有外界的指導(dǎo)下進(jìn)行的學(xué)習(xí)方式,在學(xué)習(xí)過程中,調(diào)整網(wǎng)絡(luò)的權(quán)重不受外來教師的影響,但在網(wǎng)絡(luò)內(nèi)部會對其性能進(jìn)行自適應(yīng)調(diào)節(jié)。
BP神經(jīng)網(wǎng)絡(luò)分類器的設(shè)計
BP神經(jīng)網(wǎng)絡(luò)是基于誤差反向傳播算法(Back Propagation Algorithm,BPA)的多層前向神經(jīng)網(wǎng)絡(luò),由輸入層、輸出層、一個或多個隱含層所組成。BP神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)確定之后,通過對輸出和輸入樣本集進(jìn)行訓(xùn)練,反復(fù)修正網(wǎng)絡(luò)的權(quán)值和閾值,達(dá)到學(xué)習(xí)訓(xùn)練的期望誤差,以使網(wǎng)絡(luò)能夠?qū)崿F(xiàn)給定的輸入輸出映射關(guān)系。BP人工神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)過程分為兩個階段,第一階段是輸入己知的學(xué)習(xí)樣本數(shù)據(jù),給定網(wǎng)絡(luò)的結(jié)構(gòu)和初始連接權(quán)值和閾值,從輸入層逐層向后計算各神經(jīng)元的輸出;第二階段是對權(quán)值和閾值進(jìn)行修改,即根據(jù)網(wǎng)絡(luò)誤差從最后一層向前反饋計算各層權(quán)值和閾值的增減量,來逐層修正各層權(quán)值和閾值。以上正反兩個階段反復(fù)交替,直到網(wǎng)絡(luò)收斂。具體實現(xiàn)步驟如下:
(1) 網(wǎng)絡(luò)的初始化:首先對輸入的學(xué)習(xí)訓(xùn)練樣本進(jìn)行歸一化處理,對權(quán)值矩陣W和閾值向量賦初值,將網(wǎng)絡(luò)計數(shù)器和訓(xùn)練次數(shù)計數(shù)器置為1,網(wǎng)絡(luò)誤差置為0。
(2) 輸入訓(xùn)練樣本,計算輸入層,隱含層以及輸出層的實際輸出。
(3) 計算網(wǎng)絡(luò)輸出誤差。將實際的輸出和期望的輸出值進(jìn)行對比,采用均方根誤差指標(biāo)作為網(wǎng)絡(luò)的誤差性能函數(shù)。
(4) 若誤差還沒達(dá)到期望標(biāo)準(zhǔn),則根據(jù)誤差信號,逐層調(diào)整權(quán)值矩陣和閾值向量。
(5) 若最終調(diào)整之后的網(wǎng)絡(luò)輸出達(dá)到了誤差范圍之內(nèi),則進(jìn)行下一組訓(xùn)練樣本繼續(xù)訓(xùn)練網(wǎng)絡(luò)。
(6) 若全部的訓(xùn)練樣本訓(xùn)練完畢,并且達(dá)到了期望的誤差,則訓(xùn)練結(jié)束,輸出最終的網(wǎng)絡(luò)聯(lián)接權(quán)值和閾值。
BP神經(jīng)網(wǎng)絡(luò)可以逼近任意連續(xù)函數(shù),具有很強的非線性映射能力,而且BP神經(jīng)網(wǎng)絡(luò)中間層數(shù)、各層神經(jīng)元數(shù)及網(wǎng)絡(luò)學(xué)習(xí)速率等參數(shù)均可以根據(jù)具體情況設(shè)定,靈活性較強,所以BP神經(jīng)網(wǎng)絡(luò)在許多領(lǐng)域中廣泛應(yīng)用。一般來說,神經(jīng)網(wǎng)絡(luò)方法應(yīng)同傳統(tǒng)的人工智能方法相聯(lián)系的。神經(jīng)網(wǎng)絡(luò)本身結(jié)構(gòu)及性能上的特點使其對問題的處理更富有彈性,更加穩(wěn)健。神經(jīng)網(wǎng)絡(luò)的基本特點是采用自下而上的設(shè)計思路,使其容易確定具體的目標(biāo)分割或識別算法,在增加了不確定因素的同時也產(chǎn)生了網(wǎng)絡(luò)最優(yōu)化的問題,這就是所謂的偽狀態(tài)(pseudo-trap)。盡管在實踐中并非所有的偽狀態(tài)對應(yīng)完全失敗的結(jié)果,但是畢竟這不符合對之完美的或者說合理的期望。人工智能則一般采用自上而下的方法,偏重于邏輯推理建立系統(tǒng)模型。因此將神經(jīng)網(wǎng)絡(luò)同人工智能結(jié)合起來,相當(dāng)于賦予神經(jīng)網(wǎng)絡(luò)高層指導(dǎo)的知識及邏輯推理的能力,具有潛在的優(yōu)勢。
輸入層中間層 輸出層
圖1 BP人工神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)
BP神經(jīng)網(wǎng)絡(luò)的訓(xùn)練
4.1 BP神經(jīng)網(wǎng)絡(luò)的設(shè)計
BP神經(jīng)網(wǎng)絡(luò)的設(shè)計主要包括兩方面內(nèi)容:一是神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)的確定,特別是隱含層層數(shù)及隱含層單元數(shù)目的確定;二是高精度收斂問題,隱含層和隱含層單元數(shù)過多,將導(dǎo)致訓(xùn)練時間過長并出現(xiàn)過度擬和的問題,隱含層單元數(shù)過少又導(dǎo)致網(wǎng)絡(luò)收斂速度慢甚至不收斂,達(dá)不到誤差精度要求。在確定隱含層層數(shù)以及隱含層單元數(shù)目時,沒有一個嚴(yán)格的理論依據(jù)指導(dǎo),需要根據(jù)特定的問題,結(jié)合經(jīng)驗公式確定大致范圍來進(jìn)行逐步試算比較得到。
4.2 數(shù)據(jù)預(yù)處理
為了加快網(wǎng)絡(luò)的訓(xùn)練速度,通常在網(wǎng)絡(luò)訓(xùn)練前進(jìn)行神經(jīng)網(wǎng)絡(luò)輸入和輸出數(shù)據(jù)預(yù)處理,即將每組數(shù)據(jù)都?xì)w一化變?yōu)閇-1,1]之間的數(shù)值的處理過程。
4.3 神經(jīng)網(wǎng)絡(luò)的訓(xùn)練
%當(dāng)前輸入層權(quán)值和閾值
inputWeights=net.IW{1,1}
inputbias=net.b{1}
%當(dāng)前網(wǎng)絡(luò)層權(quán)值和閾值
layerWeights=net.LW{2,1}
layerbias=net.b{2}
%設(shè)置訓(xùn)練參數(shù)
net.trainParam.show = 1000;%限時訓(xùn)練迭代過程
net.trainParam.lr = 0.1; %學(xué)習(xí)率,缺省為0.01
net.trainParam.epochs = 100000; %最大訓(xùn)練次數(shù),缺省為100
net.trainParam.goal = 0.001; %訓(xùn)練要求精度,缺省為0
[net,tr]=train(net,P,T);%調(diào)用 TRAINGDM 算法訓(xùn)練 BP 網(wǎng)絡(luò)
A = sim(net,P) %對 BP 網(wǎng)絡(luò)進(jìn)行仿真
E = T - A;%計算仿真誤差
MSE=mse(E)
結(jié)束語
BP網(wǎng)絡(luò)因為具有較強的學(xué)習(xí)性、自適應(yīng)型和容錯性,在很多領(lǐng)域均已經(jīng)大量運用。本文將BP人工神經(jīng)網(wǎng)絡(luò)運用于圖像的識別,探索人工神經(jīng)網(wǎng)絡(luò)在圖像識別領(lǐng)域中的重要的現(xiàn)實意義。研究表明,BP人工神經(jīng)網(wǎng)絡(luò)應(yīng)用于圖像識別在一定程度上提高了識別的效率和準(zhǔn)確率。但是,BP神經(jīng)網(wǎng)絡(luò)算法還存在以下幾點不足之處:(1)權(quán)的調(diào)整方法存在局限性,容易陷入局部最優(yōu);(2)網(wǎng)絡(luò)的結(jié)構(gòu)需要提前指定或者在訓(xùn)練過程中不斷的修正;(3)過分依賴學(xué)習(xí)樣本,由于學(xué)習(xí)樣本是有限的或者學(xué)習(xí)樣本質(zhì)量不高,那么會導(dǎo)致訓(xùn)練達(dá)不到效果;(4)對于規(guī)模較大的模式映射問題,存在收斂速度慢、容易陷入局部極小點、判斷不準(zhǔn)確等缺陷。總之,如何解決以上問題,如何進(jìn)一步提高識別精度,擴(kuò)大識別范圍,使之更具有更好的工程實用性,是有待進(jìn)一步研究的內(nèi)容。
參考文獻(xiàn):
[1] WE Blanz,S L Gish.A Connectionist Classifier Architecture Applied to Image Segmentation.Proc.10th ICPR,1990,272-277.
[2] Y Le Cun,L D Jackel,B Boser,J S Denker,H P Graf,I Guyon,D Henderson,R E Howard,and W Hubbard,Handwriten Digit Recognition:Applications of Neural Network Chips and Automatic Learning,IEEE Comm.Magazine.Nov.1989.
[3] A K Jain and K Karu,Automatic Filter Design for Texture Discrimination,Proc.12th Int’l Conf.NeuralNetworks,Orlando,Oct.1994,454-458.
[4] 邊肇其,張學(xué)工.模式識別(第二版)[M].清華大學(xué)出版社,北京.1999,12.
[5] 陳書海,傅錄祥.實用數(shù)字圖像處理[M].科學(xué)出版社,北京.2005.
[6] 萬來毅,陳建勛.基于BP神經(jīng)網(wǎng)絡(luò)的圖像識別研究[J].武漢科技大學(xué)學(xué)報(自然科學(xué)版).2006,6.
[7] 叢爽.面向MATLAB工具箱的神經(jīng)網(wǎng)絡(luò)理論與應(yīng)用(第2版)[M].北京:中國科學(xué)技術(shù)出版社,2003.
[8] 王娟,慈林林等.特征方法綜述[J].計算機(jī)工程與科學(xué).2005.27(12).68-71.
[9] 賈花萍.基于神經(jīng)網(wǎng)絡(luò)的特征選擇與提取方法研究[J].網(wǎng)絡(luò)安全.2008,7.33-35.
[10] 龔聲榮,劉純平等編著.?dāng)?shù)字圖像處理與分析[M].清華大學(xué)出版社,北京.2006.7.
在上世紀(jì)九十年代初期,利用數(shù)學(xué)知識將感知器模型的弊病全面提出,致使社會各界對于人工神經(jīng)網(wǎng)絡(luò)的探究非常少。另一方面,針對邏輯運算的人工神經(jīng)網(wǎng)絡(luò)研究存在一定的弊端,一直沒有被大家發(fā)現(xiàn),因此,致使人工神經(jīng)網(wǎng)絡(luò)探究工程進(jìn)入嚴(yán)重的低谷期。
關(guān)于人工神經(jīng)網(wǎng)絡(luò)技術(shù)飛速發(fā)展時期,九十年代初期,對于人工神經(jīng)網(wǎng)絡(luò)技術(shù)的弊端予以充分解決,尤其是Hopefield的人工神經(jīng)網(wǎng)絡(luò)技術(shù)模型的提出,致使對于互聯(lián)網(wǎng)的穩(wěn)定性以及收斂性的探究有了充分的理論依據(jù)。而且將人工神經(jīng)網(wǎng)絡(luò)模型全面應(yīng)用到具體的實踐中,并且得到全面推廣,同時,將科學(xué)技術(shù)和人工神經(jīng)網(wǎng)絡(luò)進(jìn)行有機(jī)結(jié)合,使人工神經(jīng)網(wǎng)絡(luò)技術(shù)更加具有可研究性。
2關(guān)于人工神經(jīng)技術(shù)的構(gòu)造以及典型模型
互聯(lián)網(wǎng)人工神經(jīng)技術(shù)的構(gòu)造的組成包括以神經(jīng)元件為主,同時,這項包含多種神經(jīng)元結(jié)構(gòu)的互聯(lián)網(wǎng)信息處理技術(shù)是可以并行存在的。每一個具體的人工神經(jīng)元件可以單一輸出,還可以和其他的神經(jīng)元件相結(jié)合,并且具有非常多的連接輸出方法,每一種連接措施都會有相應(yīng)的權(quán)系數(shù)。具體的人工神經(jīng)網(wǎng)絡(luò)技術(shù)的特點有:(1)針對每一個節(jié)點i,都會有相應(yīng)的狀態(tài)變量Xi存在;(2)節(jié)點j到節(jié)點i之間,是相應(yīng)的權(quán)系數(shù)Wij存在;(3)在每一個節(jié)點i的后面,具體存在相應(yīng)的閾值θi;(4)在每一個節(jié)點i的后面,存在變換函數(shù)fi(Xi,Wijθi),但是,通常情況來說,這個函數(shù)取fi(∑,WijXi-θi)的情況。
3將人工神經(jīng)網(wǎng)絡(luò)技術(shù)進(jìn)行全面使用
互聯(lián)網(wǎng)的人工神經(jīng)網(wǎng)絡(luò)技術(shù)具有獨特的結(jié)構(gòu)和處理措施,具體包括在:自動控制處理和網(wǎng)絡(luò)技術(shù)模式識別、模型圖像處理和相應(yīng)的傳感器信號處理技術(shù)。信號處理技術(shù)和機(jī)器人控制處理技術(shù)、地理領(lǐng)域和焊接、在電力系統(tǒng)應(yīng)用和相關(guān)數(shù)據(jù)挖掘、軍事和交通行業(yè)、農(nóng)業(yè)和氣象行業(yè)等多個領(lǐng)域紛紛體現(xiàn)出其卓越的貢獻(xiàn)。
ART人工神經(jīng)網(wǎng)絡(luò)技術(shù)的運用。人工神經(jīng)網(wǎng)絡(luò)技術(shù)ART在網(wǎng)絡(luò)語音和網(wǎng)絡(luò)圖像、文字處理和具體識別等方面,得到廣泛的應(yīng)用;同時,在工業(yè)處理系統(tǒng)中也有相應(yīng)的應(yīng)用,例如,在工業(yè)系統(tǒng)中的故障診斷和故障檢測以及事故警報等情況的控制;人工神經(jīng)網(wǎng)絡(luò)ART技術(shù)還應(yīng)用在數(shù)據(jù)挖掘方面,在相關(guān)數(shù)據(jù)中挖掘最穩(wěn)定和最有意義的模式。具體的神經(jīng)網(wǎng)絡(luò)技術(shù)ART的優(yōu)勢為:網(wǎng)絡(luò)技術(shù)處理能力高、穩(wěn)定性強以及聚類效果非常好。
4結(jié)束語
介紹了基于神經(jīng)網(wǎng)絡(luò)的故障針診斷方法和結(jié)合模糊理論應(yīng)用的故障診斷。分析了小波變換的現(xiàn)代模擬電路軟故障診斷的研究現(xiàn)狀。
關(guān)鍵詞:
模擬電路;軟故障診斷;神經(jīng)網(wǎng)絡(luò);模糊理論;小波變換
在最近幾年,現(xiàn)代模擬電路故障診斷方法的研究成為了新的熱點。其中有基于神經(jīng)網(wǎng)絡(luò)。并結(jié)合專家系統(tǒng)、小波變換、模糊理論和遺傳算法?!靶〔ㄉ窠?jīng)網(wǎng)絡(luò)”和“模糊神經(jīng)網(wǎng)絡(luò)”成為主流的模擬電路軟故障診斷方法。
1基于神經(jīng)網(wǎng)絡(luò)的故障診斷方法
神經(jīng)網(wǎng)絡(luò)有自組織性、自學(xué)性、并行性、聯(lián)想記憶和分類功能,這些信息處理特點使其能夠解決一些傳統(tǒng)模式難以解決的問題。其中模擬電路故障診斷中的非線性和容差問題就是運用神經(jīng)網(wǎng)絡(luò)的非線性映射能力和泛化能力來解決的,同時這也是專家門的較為感興趣的研究熱點?;谏窠?jīng)網(wǎng)絡(luò)的模擬電路故障診斷方法有一些,其中包括測試節(jié)點的選擇、確定被測故障集、故障特征的提取等步驟,這種方法與基于測前仿真的故障字典法雷同。前者用制作神經(jīng)網(wǎng)絡(luò)和樣本集來儲存特征信息,而且在測試完畢后定位故障是通過神經(jīng)網(wǎng)絡(luò)來處理。所以可以把基于神經(jīng)網(wǎng)絡(luò)的方法當(dāng)作是基于測后仿真和測前仿真的延伸與綜合。在故障診斷領(lǐng)域,誤差反傳神經(jīng)網(wǎng)絡(luò)(backpropagationneuralnetwork,BPNN)擁有較好的模式分類特性。然而僅僅以節(jié)點電壓視作故障特征訓(xùn)練的BPNN只能適用于診斷模擬電路的硬故障。在軟故障方面,一般需要基于神經(jīng)網(wǎng)絡(luò)和多種特征提取方法的綜合應(yīng)用來診斷。
2基于模糊理論應(yīng)用的模擬電路軟故障診斷
在一些故障診斷問題中,模糊規(guī)則適合描述故障診斷的機(jī)理。模糊理論中的模糊運算、模糊邏輯系統(tǒng)、模糊集合擁有對模糊信息的準(zhǔn)確應(yīng)付能力,這使得模糊理論成為故障診斷的一種有力工具。神經(jīng)網(wǎng)絡(luò)與模糊理論相結(jié)合,充分發(fā)揮了模糊理論和神經(jīng)網(wǎng)絡(luò)各自的優(yōu)點,并以此來彌補各自的不足,這就是所謂的“模糊神經(jīng)網(wǎng)絡(luò)”。這種方法的基本思想是在BPNN的輸出層和輸入層中間增加一到兩層模糊層構(gòu)造模糊神經(jīng)網(wǎng)絡(luò),分別利用神經(jīng)網(wǎng)絡(luò)和模糊邏輯處理低層感知數(shù)據(jù)與描述高層的邏輯框架,這樣一來跟神經(jīng)網(wǎng)絡(luò)分類器相比,“模糊神經(jīng)網(wǎng)絡(luò)”對模擬電路軟故障診斷效果的優(yōu)勢就非常明顯。通過一個無監(jiān)督的聚類算法自組織地確定模糊規(guī)則的數(shù)目并生成一個初始的故障診斷模糊規(guī)則庫,構(gòu)造了一類模糊神經(jīng)網(wǎng)絡(luò),通過訓(xùn)練調(diào)整網(wǎng)絡(luò)權(quán)值,使故障診斷模糊規(guī)則庫的分類更加精確,實現(xiàn)了電路元件的軟故障診斷。
3基于小波變換的模擬電路軟故障診斷
小波變換是一種新的變換分析方法,它繼承和發(fā)展了短時傅立葉變換局部化的思想,同時又克服了窗口大小不隨頻率變化等缺點,能夠提供一個隨頻率改變的"時間-頻率"窗口,是進(jìn)行信號時頻分析和處理的理想工具。它的主要特點是通過變換能夠充分突出問題某些方面的特征,能對時間(空間)頻率的局部化分析,通過伸縮平移運算對信號(函數(shù))逐步進(jìn)行多尺度細(xì)化,最終達(dá)到高頻處時間細(xì)分,低頻處頻率細(xì)分,能自動適應(yīng)時頻信號分析的要求,從而可聚焦到信號的任意細(xì)節(jié),解決了Fourier變換的困難問題,成為繼Fourier變換以來在科學(xué)方法上的重大突破。若滿足時,則由經(jīng)過伸縮和平移得到的函數(shù)成為小波函數(shù)族。小波變換具有時域局部特征,而神經(jīng)網(wǎng)絡(luò)具有魯棒性、自學(xué)習(xí)、自適性和容錯性。如何把二者的優(yōu)勢結(jié)合起來一直是人們所關(guān)注的問題。一種方法是用小波變換對信號進(jìn)行預(yù)處理,即以小波空間作為模式識別的特征空間,通過小波分析來實現(xiàn)信號的特征提取,然后將提取的特征向量送入神經(jīng)網(wǎng)絡(luò)處理;另一種即所謂的小波神經(jīng)網(wǎng)絡(luò)或小波網(wǎng)絡(luò)。小波神經(jīng)網(wǎng)絡(luò)是神經(jīng)網(wǎng)絡(luò)與小波理論相結(jié)合的產(chǎn)物,最早是由法國著名的信息科學(xué)研究機(jī)構(gòu)IRLSA的ZhangQinghu等人1992年提出來的。小波神經(jīng)用絡(luò)是基于小波變換而構(gòu)成的神經(jīng)網(wǎng)絡(luò)模型,即用非線性小波基取代通常的神經(jīng)元非線性激勵函數(shù)(如Sigmoid函數(shù)),把小波變換與神經(jīng)網(wǎng)絡(luò)有機(jī)地結(jié)合起來,充分繼承了兩者的優(yōu)點。近幾年來,國內(nèi)外有關(guān)小波網(wǎng)絡(luò)的研究報告層出不窮。小波與前饋神經(jīng)網(wǎng)絡(luò)是小波網(wǎng)絡(luò)的主要研究方向。小波還可以與其他類型的神經(jīng)網(wǎng)絡(luò)結(jié)合,例如Kohonen網(wǎng)絡(luò)對信號做自適應(yīng)小波分解。
由于神經(jīng)網(wǎng)絡(luò)、小波變換、模糊理論在當(dāng)今的發(fā)展上還不是很完善,例如在診斷中,模糊度該如何準(zhǔn)確地定量化,對小波變換之后故障信號進(jìn)行怎樣構(gòu)造能體現(xiàn)故障類別的特征等,因此這些基于神經(jīng)網(wǎng)絡(luò)的診斷方法或多或少地存在一些局限性。一般來說,神經(jīng)網(wǎng)絡(luò)方法的長處并不是提高診斷精度,而且無論運用什么方法,在選取狀態(tài)特征參量和確定電路故障集方面,傳統(tǒng)的故障診斷方法仍然具有理論上的指導(dǎo)意義。所以,抽取合理的故障特征比構(gòu)造合適的神經(jīng)網(wǎng)絡(luò)更為重要。
參考文獻(xiàn):
[1]梁戈超,何怡剛,朱彥卿.基于模糊神經(jīng)網(wǎng)絡(luò)融合遺傳算法的模擬電路故障診斷法[J].電路與系統(tǒng)學(xué)報,2004,9(2):54-57.
[2]譚陽紅,何怡剛.模擬電路故障診斷的小波方法[J].電工技術(shù)學(xué)報,2005,20(8):89-93.
【關(guān)鍵詞】混合時滯 神經(jīng)網(wǎng)絡(luò) 穩(wěn)定性分析
【中圖分類號】G642 【文獻(xiàn)標(biāo)識碼】A 【文章編號】2095-3089(2016)04-0237-02
人工神經(jīng)網(wǎng)絡(luò)是基于人腦的功能,通過建構(gòu)與生物神經(jīng)元類似的電路結(jié)構(gòu),從而在微觀的層次上實現(xiàn)對人類智能的仿真。神經(jīng)網(wǎng)絡(luò)是由神經(jīng)元的相互連接而形成的,反映在數(shù)學(xué)中,神經(jīng)元實質(zhì)上就是適當(dāng)?shù)暮瘮?shù),也被稱為激活函數(shù)。神經(jīng)網(wǎng)絡(luò)在模式識別、優(yōu)化計算、智能控制以及聯(lián)想記憶等領(lǐng)域得到了廣泛的應(yīng)用,發(fā)展前景非常的廣闊[1]。
一、混合時滯神經(jīng)網(wǎng)絡(luò)發(fā)展的脈絡(luò)
穩(wěn)定性研究的開始可以追溯到十九世紀(jì)末期的Lyapunov理論和Poincare理論,在我國對穩(wěn)定性進(jìn)行充分研究的是著名物理學(xué)家錢學(xué)森,錢學(xué)森在其著名的《工程控制論》中,明確指出,穩(wěn)定性是系統(tǒng)控制的第一要求。美國的著名數(shù)學(xué)家LsSalle也說過,吸引全世界的數(shù)學(xué)家注意的點就是穩(wěn)定性。由此可見,穩(wěn)定性在數(shù)學(xué)研究中具有極其重要的作用[2]。
大部分的動力系統(tǒng)都會隨著時間的演化不僅依賴于系統(tǒng)的當(dāng)前狀態(tài),并且還會依賴于系統(tǒng)過去的某個時刻,這就是被科學(xué)家們稱作的時滯動力系統(tǒng)。在工程系統(tǒng)中,時滯一般是指對測控過程中的測量時滯、形成控制決策所需要的時滯以及信號傳輸中的時滯等,這也是為什么大部分的動力學(xué)系統(tǒng)都需要時滯動力系統(tǒng)來進(jìn)行描述的主要原因。事實上,時滯系統(tǒng)的初始狀態(tài)空間是一個無限維的空間,而且沒有特殊的性質(zhì),因此對其進(jìn)行理論分析非常困難 [3]。
二、混合時滯神經(jīng)網(wǎng)絡(luò)穩(wěn)定性的發(fā)展研究分析
系統(tǒng)的穩(wěn)定性在神經(jīng)網(wǎng)絡(luò)的應(yīng)用中非常的廣泛,如最優(yōu)化的問題研究、模式識別研究以及圖像處理研究等,都需要運用系統(tǒng)的穩(wěn)定性。在上個世紀(jì),有很多文獻(xiàn)都給出了不同類型神經(jīng)網(wǎng)絡(luò)的穩(wěn)定性判據(jù),最著名的當(dāng)屬Hopfield神經(jīng)網(wǎng)絡(luò)。神經(jīng)網(wǎng)絡(luò)規(guī)模的應(yīng)用范圍也在不斷的擴(kuò)大,人們對時滯神經(jīng)網(wǎng)絡(luò)模型的研究也越來越深入。時滯通常是由定時的時滯發(fā)展到連續(xù)分布的時滯。當(dāng)前神經(jīng)網(wǎng)絡(luò)穩(wěn)定性的研究領(lǐng)域運用的主要方法就是Lyapunov泛函,然后再利用不同的不等式來對不等式進(jìn)行分析,從而得到具有穩(wěn)定性的數(shù)據(jù)[4]。
在優(yōu)化問題的應(yīng)用中,需要根據(jù)問題的基本特征,對設(shè)計所要求的神經(jīng)網(wǎng)絡(luò)達(dá)到唯一的、全局的漸進(jìn)穩(wěn)定的平衡點。當(dāng)神經(jīng)網(wǎng)絡(luò)應(yīng)用于實時的計算時,為了有效的提高收斂的速度,就需要神經(jīng)網(wǎng)絡(luò)必須具有非常高的指數(shù)收斂度。這也是時滯神經(jīng)網(wǎng)絡(luò)的全局漸近穩(wěn)定性與全局指數(shù)穩(wěn)定性研究如此吸引人的最為主要的原因。時滯反饋網(wǎng)絡(luò)的應(yīng)用和研究需要大量的具有穩(wěn)定性的數(shù)據(jù)作為基礎(chǔ),因此,人們需要在不斷擴(kuò)展的網(wǎng)絡(luò)模型的條件下放寬對網(wǎng)絡(luò)中所有參數(shù)和激勵函數(shù)的限制。只有這樣,才能更好的促進(jìn)神經(jīng)網(wǎng)絡(luò)研究的快速發(fā)展[5]。
目前,對時滯反饋神經(jīng)網(wǎng)絡(luò)解的穩(wěn)定性進(jìn)行判別和分析的主要方法是Lyapunov方法,在進(jìn)行判別和分析時,需要同時結(jié)合泛函數(shù)的分不等式穩(wěn)定性理論來推導(dǎo)網(wǎng)絡(luò)解的穩(wěn)定性,通過這一方法能夠?qū)⒎€(wěn)定性的研究放到某個適當(dāng)?shù)亩x系統(tǒng)的軌跡上,而且通過對這些泛函數(shù)的研究分析,能夠得到穩(wěn)定性的相應(yīng)條件。這些穩(wěn)定性條件的最常用的表述形式就是我們經(jīng)常用的線矩不等式、系數(shù)矩陣的范數(shù)不等式以及Hanalay微分不等式。在這一研究領(lǐng)域,由于線矩不等式方法對系統(tǒng)的參數(shù)的限制比其它方法要少,而且比較容易驗證,因此,這種方法在穩(wěn)定性理論的研究中應(yīng)用的非常的廣泛[6]。
三、混合時滯神經(jīng)網(wǎng)絡(luò)的穩(wěn)定性分析研究
最近幾年,隨著人們對穩(wěn)定性研究的進(jìn)一步發(fā)展,人們對于驅(qū)動-響應(yīng)系統(tǒng)的同步問題更加的重視,而且經(jīng)過大量的實踐和理論分析,人們發(fā)現(xiàn)驅(qū)動-響應(yīng)系統(tǒng)是包含同樣的激活函數(shù)的。但是,在實際的模型中,驅(qū)動-響應(yīng)系統(tǒng)卻含有不同的激活函數(shù),需要對非恒同的情況進(jìn)行分析研究,也就是說驅(qū)動-響應(yīng)系統(tǒng)的激活函數(shù)含有不相匹配的參數(shù),致使對混沌系統(tǒng)的同步控制變得更加的復(fù)雜。由此可知,研究混合時滯神經(jīng)網(wǎng)絡(luò)的穩(wěn)定性是非常有必要的[7]。
如下混合時滯神經(jīng)網(wǎng)絡(luò)
其中,是神經(jīng)元的狀態(tài),
。在(1)中,是定義在上的實值內(nèi)部函數(shù)。代表離散時滯,表示分布時滯;代表外部輸入;;,,,分別代表連接權(quán)矩陣,離散時滯連接權(quán)矩陣和分布時滯連接權(quán)矩陣。
對于如下兩種情形的時滯,
第一種情形是,如果所有的和給定的標(biāo)量 、h>0和,
是一個可微函數(shù),且滿足以下條件:,,
是一個連續(xù)函數(shù)且滿足以下條件
。 。
第二種情形是,如果所有的和給定的標(biāo)量 、h>0和,且和都是連續(xù)的函數(shù),且函數(shù)和函數(shù)滿足以下條件:
。
假設(shè)是系統(tǒng)(1)的平衡點,那么會得到如下系統(tǒng)
根據(jù)上面的條件我們可以得出對于混合時滯神經(jīng)網(wǎng)絡(luò)系統(tǒng)(2), 在滿足一定條件的第一種情況和第二種情況下,它的平衡點是全局指數(shù)穩(wěn)定的 [8]。
時滯神經(jīng)網(wǎng)絡(luò)的穩(wěn)定性在理論和實踐方面都得到了廣泛的研究,但是對混合時滯的神經(jīng)網(wǎng)絡(luò)模型穩(wěn)定性的研究并不是很多。除此之外,在神經(jīng)網(wǎng)絡(luò)穩(wěn)定性的研究領(lǐng)域,雖然有很多大量的判別條件,不過由于大部分的條件都需要采用計算矩陣范數(shù)的方法來進(jìn)行,在進(jìn)行驗證的時候也比較的困難,而且限制條件也非常的嚴(yán)格,在實際中的應(yīng)用比較少。通過利用線性矩陣不等式研究神經(jīng)網(wǎng)絡(luò)的穩(wěn)定性能夠在很大程度上克服以上提及的缺點,所得到的條件更少保守,并且更容易得到充分的驗證[9]。
線性矩陣不等式的研究在最近幾年受到人們的廣泛關(guān)注的原因,既有理論方面的原因,也有實踐方面的原因。從理論上來說,人們可以利用很多的矩形運算技巧來對線性矩陣不等式問題進(jìn)行研究和推理;但是,從實際的觀點來說,線性矩陣不等式問題也可以憑借數(shù)值算法并借助電腦的強大的運算能力從而快速、有效的求出數(shù)值解,最終使得線性矩陣不等式的求解變得更加的容易控制,從而使問題的解決更加可行。假設(shè)可以將一個復(fù)雜的問題轉(zhuǎn)換成線性矩陣不等式問題,那么就能夠利用Matab的LMI Toolbox進(jìn)行求解了。
運用線性矩陣的不等式對混合時滯條件下的神經(jīng)網(wǎng)絡(luò)的穩(wěn)定性進(jìn)行研究分析,可以充分掌握神經(jīng)網(wǎng)絡(luò)的全局指數(shù)的穩(wěn)定性。通過建構(gòu)新的Lyapunov-Krasovkii泛函,利用隨機(jī)微分與矩陣變換技巧導(dǎo)出線性矩陣不等式的穩(wěn)定性數(shù)據(jù)。由于線性矩陣不等式的穩(wěn)定性數(shù)據(jù)比利用矩陣范數(shù)進(jìn)行估計的判據(jù)更為保守,因此,人們可以利用MATLAB提供的線性矩陣不等式工具箱進(jìn)行求解驗證,從而真正應(yīng)用于實踐[10]。
人們按照Lyapunov的穩(wěn)定性理論,建構(gòu)了新型的Lyapunov-Krasovskii泛函。從而對混合時滯條件下神經(jīng)網(wǎng)絡(luò)的穩(wěn)定性進(jìn)行了科學(xué)、合理的分析。在對混合時滯條件下的神經(jīng)網(wǎng)絡(luò)的穩(wěn)定性進(jìn)行分析時,線性矩陣不等式的應(yīng)用為對時滯穩(wěn)定性的進(jìn)一步研究提供了有利的條件。同時,對網(wǎng)絡(luò)中所包含的隨機(jī)擾動采用了隨機(jī)微分公式的討論模式,從而使得混合時滯條件下的神經(jīng)網(wǎng)絡(luò)能夠應(yīng)用Lyapunov的穩(wěn)定性討論技巧與方法。在模型中對激活函數(shù)或者連接權(quán)矩陣的限制對混合時滯條件下的神經(jīng)網(wǎng)絡(luò)的研究深有幫助,而且采用線性矩陣不等式的表示方式,比之前的矩陣范數(shù)的判別條件要更加的有利。
四、結(jié)語
綜上所述,混合時滯條件下的神經(jīng)網(wǎng)絡(luò)的穩(wěn)定性分析是以Lyapunov的穩(wěn)定性理論與線性矩陣不等式技術(shù)為基礎(chǔ),同時利用積分不等式的方法,對混合時滯條件下的神經(jīng)網(wǎng)絡(luò)的穩(wěn)定性進(jìn)行了科學(xué)、合理的分析,并給出了時滯依賴指數(shù)穩(wěn)定性的基本準(zhǔn)則,從而將對混合時滯條件下的神經(jīng)網(wǎng)絡(luò)的穩(wěn)定性的研究又向前推進(jìn)了一大步。
參考文獻(xiàn):
[1]武志鵬.帶有混合時滯的神經(jīng)網(wǎng)絡(luò)的穩(wěn)定性分析[D].山西大學(xué),2008.
[2]劉曉琳.混合變時滯神經(jīng)網(wǎng)指數(shù)穩(wěn)定性分析[D].曲阜師范大學(xué),2009.
[3]王寧,孫曉玲.基于LMI的混合時滯隨機(jī)神經(jīng)網(wǎng)絡(luò)指數(shù)穩(wěn)定性[J].計算機(jī)仿真,2010,07:125-129.
[4]張金.具混合時滯的隨機(jī)神經(jīng)網(wǎng)絡(luò)的穩(wěn)定性分析[J].蘇州大學(xué)學(xué)報(自然科學(xué)版),2011,02:16-22.
[5]吳文娟,劉德友,張靜文,劉海濤.具有混合時滯的隨機(jī)Hopfield神經(jīng)網(wǎng)絡(luò)的穩(wěn)定性分析[J].蘭州理工大學(xué)學(xué)報,2011,03:89-93.
[6]陳一鳴,徐增輝,趙所所,周志全.具有混合時滯隨機(jī)離散神經(jīng)網(wǎng)絡(luò)的漸近穩(wěn)定性分析[J].鄭州大學(xué)學(xué)報(理學(xué)版),2011,04:33-38.
[7]耿立杰,李海穎,張曉靜,蘇廣.具有混合時滯的隨機(jī)反應(yīng)擴(kuò)散神經(jīng)網(wǎng)絡(luò)指數(shù)穩(wěn)定性[J].工程數(shù)學(xué)學(xué)報,2014,05:687-696.
[8]龍述君,張永新,向麗.具有混合時滯的隨機(jī)細(xì)胞神經(jīng)網(wǎng)絡(luò)的穩(wěn)定性分析[J].四川師范大學(xué)學(xué)報(自然科學(xué)版),2012,06:796-801.
關(guān)鍵詞:科技型創(chuàng)業(yè)企業(yè);信用評價;BP神經(jīng)網(wǎng)絡(luò)
中圖分類號:F27
文獻(xiàn)標(biāo)識碼:A
文章編號:16723198(2015)23006203
1 引言
目前,科技型創(chuàng)業(yè)企業(yè)已成為推動國民經(jīng)濟(jì)持續(xù)健康發(fā)展的重要動力之一,然而在其發(fā)展和壯大過程中也最容易出現(xiàn)制約其發(fā)展的問題。由于科技型創(chuàng)業(yè)企業(yè)需要大量的資金投入,融資問題已成為影響其是否取得成功的關(guān)鍵因素。在國內(nèi)企業(yè)取得融資的有限渠道中,銀行和金融市場起著至關(guān)重要的作用,但往往由于市場信息的不對稱以及企業(yè)信息不透明等因素的限制,出于規(guī)避高昂的監(jiān)督成本和收益的高度不確定性等風(fēng)險,銀行和金融機(jī)構(gòu)在放貸額度中給予科技型創(chuàng)業(yè)企業(yè)的融資額度相對有限。由于科技型創(chuàng)業(yè)企業(yè)的研發(fā)周期長,在缺乏有效的外部融資的狀況下,即使項目有大好投資前景,企業(yè)也有較大的失敗風(fēng)險,最終無法發(fā)揮出科技型創(chuàng)業(yè)企業(yè)對企業(yè)技術(shù)創(chuàng)新的促進(jìn)作用。因此,對國內(nèi)科技型創(chuàng)業(yè)企業(yè)進(jìn)行信用評價,建立適合其特征的信用評價模型,來提高其信用水平、財務(wù)信息透明度、拓寬其融資渠道十分必要。目前國內(nèi)針對企業(yè)信用評價的研究有了一定的發(fā)展,但統(tǒng)一的主要針對科技型創(chuàng)業(yè)企業(yè)信用評價的指標(biāo)體系和評價模型尚未形成。
傳統(tǒng)的企業(yè)信用評價模型主要有專家打分法、信用評級方法和信用評分方法等,現(xiàn)代的信用評價模型主要有:KMV模型、財務(wù)比率分析模型、Logit回歸模型、神經(jīng)網(wǎng)絡(luò)模型、模糊綜合評價法和AHP(Analytical Hierarchy Process)法。由于企業(yè)的信用風(fēng)險與反映企業(yè)信用風(fēng)險狀況的各項指標(biāo)變量之間通常具有非線性的關(guān)系,而上述企業(yè)信用評價方法都不能有效解決變量之間的非線性關(guān)系,也不能有效解決指標(biāo)變量存在的非正態(tài)分布問題。由于神經(jīng)網(wǎng)絡(luò)模型在解決變量間的非線性關(guān)系問題中具有優(yōu)越性,在Odom(1990年)運用神經(jīng)網(wǎng)絡(luò)模型解決企業(yè)信用評價問題之后,神經(jīng)網(wǎng)絡(luò)模型逐漸獲得了相關(guān)實踐者和學(xué)者的極大關(guān)注。Tam(1991)、Kiang(1992)、Datta(1991)和Shekhar(1992)將神經(jīng)網(wǎng)絡(luò)模型用于銀行破產(chǎn)預(yù)測,Altman(1994)將其用于對意大利企業(yè)經(jīng)營成敗狀況進(jìn)行預(yù)測,取得了比多元判別分析模型預(yù)測結(jié)果更加準(zhǔn)確的結(jié)果。根據(jù)小微型科技企業(yè)信用狀況的特點,何躍、蔣國銀(2005)運用人工神經(jīng)網(wǎng)絡(luò)原理構(gòu)建了三層BP神經(jīng)網(wǎng)絡(luò)信用評價模型,該模型的優(yōu)點是具有較強的自學(xué)習(xí)和非線性處理能力,針對小微型科技企業(yè)信用狀況的預(yù)測具有較高的預(yù)測結(jié)果。國內(nèi)許多學(xué)者(鮑盛祥、殷永飛,2009;龐素琳,2012)認(rèn)為,在變量之間是非線性關(guān)系的情況下,人工神經(jīng)網(wǎng)絡(luò)模型的精度優(yōu)于傳統(tǒng)的統(tǒng)計方法。
2 BP神經(jīng)網(wǎng)絡(luò)概述
BP神經(jīng)網(wǎng)絡(luò)具有準(zhǔn)確性高、誤差小、收斂速度快的顯著優(yōu)勢,相比其他企業(yè)信用評價方法,BP神經(jīng)網(wǎng)絡(luò)模型的自學(xué)習(xí)能力和自聯(lián)想功能較強,也不要求樣本數(shù)據(jù)呈正態(tài)分布、滿足先驗概率已知以及協(xié)方差相等要求,同時也具有能夠有效解決非線性分類問題、對樣本數(shù)據(jù)容量不做具體要求等優(yōu)勢,是處理企業(yè)信用評價問題的理想方法。因此,本文使用BP神經(jīng)網(wǎng)絡(luò)來建立適合科技型創(chuàng)業(yè)企業(yè)的信用評價模型。
神經(jīng)網(wǎng)絡(luò)內(nèi)部依次為輸入層、隱含層、輸出層,BP神經(jīng)網(wǎng)絡(luò)屬于前向反饋神經(jīng)網(wǎng)絡(luò),BP神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)算法包含了正向和反向傳播兩個過程,正向傳播過程即為:指標(biāo)變量信息由輸入層經(jīng)隱含層各神經(jīng)元傳向輸出層,前層神經(jīng)元的處理結(jié)果只對后層神經(jīng)元的結(jié)果產(chǎn)生影響,如果最后輸出層產(chǎn)生的結(jié)果與期望輸出不符,則自動轉(zhuǎn)變?yōu)榉聪騻鞑ミ^程。反向傳播即為:將輸出誤差經(jīng)隱含層神經(jīng)元向輸入層逐層反饋,在此過程中,網(wǎng)絡(luò)會將誤差均攤給各層的每一個神經(jīng)元,從而網(wǎng)絡(luò)可以取得各層神經(jīng)元傳來的誤差信號,網(wǎng)絡(luò)將其作為修正各神經(jīng)元權(quán)值的依據(jù),經(jīng)過權(quán)值的不斷調(diào)整使網(wǎng)絡(luò)完成訓(xùn)練。權(quán)值的調(diào)整過程持續(xù)到預(yù)先設(shè)定的學(xué)習(xí)次數(shù)或輸出誤差減小到可接受程度為止。三層前饋BP神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)如圖1所示。其中,X=(x1,x2,……,xn)代表輸入向量,Y=(y1,y2,……,ym)代表輸出向量,n和m分別代表輸入和輸出向量的維數(shù)。不同層間的神經(jīng)元屬于全互聯(lián)接,每層次內(nèi)的神經(jīng)元沒有任何連接。
來衡量其信用的高低。反映科技型創(chuàng)業(yè)企業(yè)經(jīng)營和財務(wù)狀況的財務(wù)指標(biāo)具體包括償債能力、盈利能力、營運能力和成長能力等方面。本文在借鑒現(xiàn)有企業(yè)信用評價研究成果并結(jié)合科技型創(chuàng)業(yè)企業(yè)的特征,選擇出16項可以有效反映科技型創(chuàng)業(yè)企業(yè)特點的財務(wù)指標(biāo)。為解決某些財務(wù)指標(biāo)變量間高度的相關(guān)性問題,本文通過SPSS 19.0軟件,使用因子分析法對這些指標(biāo)變量進(jìn)行分析和整理,在刪除那些與科技型創(chuàng)業(yè)企業(yè)信用狀況不相關(guān)或與其他指標(biāo)高度相關(guān)的指標(biāo)后,本文最終確定了包含12項指標(biāo)變量的指標(biāo)體系作為下文對科技型創(chuàng)業(yè)企業(yè)的信用狀況進(jìn)行評價的指標(biāo)體系(如圖1所示)。但由于保留的指標(biāo)變量間還可能存在多重共線性問題,為保證評價結(jié)果的準(zhǔn)確性、可靠性,本文再次對其進(jìn)行因子分析來提取公因子,以特征根大于1且累計方差貢獻(xiàn)率大于80%作為提取公因子的標(biāo)準(zhǔn),通過分析本文提出了5個能夠體現(xiàn)原始變量的主要信息的公因子,它們即為下文評價模型中的輸入變量。
由于選取的樣本企業(yè)的各項財務(wù)指標(biāo)包含了不同的量綱和數(shù)量級,本文首先將各指標(biāo)變量進(jìn)行標(biāo)準(zhǔn)化處理,從而使各個指標(biāo)變量都具有共同的數(shù)值特性。本文運用的標(biāo)準(zhǔn)化方法如下式所示:
Xij=xij-xjσj,其中,Xj為原始數(shù)據(jù)的均值,Xj=1ni=1xi,σj為原始數(shù)據(jù)的標(biāo)準(zhǔn)差,σj=1nni=1(xij-xj)。
4 科技型創(chuàng)業(yè)企業(yè)信用評價實證分析
4.1 BP神經(jīng)網(wǎng)絡(luò)的設(shè)計
BP神經(jīng)網(wǎng)絡(luò)可以根據(jù)實際情況來設(shè)置一個或者多個隱含層,當(dāng)樣本較多時,增加一個隱含層可以顯著減小網(wǎng)絡(luò)規(guī)模。由于包含單個隱含層網(wǎng)絡(luò)可以通過適當(dāng)調(diào)增神經(jīng)元個數(shù)來實現(xiàn)任意非線性映射,所以,包含單個隱含層的神經(jīng)網(wǎng)絡(luò)即可解決大部分場合下問題。因此本文建立的BP神經(jīng)網(wǎng)絡(luò)模型包含單個隱含層。
(1)輸入層和輸出層神經(jīng)元個數(shù)。輸入層神經(jīng)元個數(shù)等于輸入變量的個數(shù),由于本文得到了5個公因子,因此輸入層神經(jīng)元數(shù)n=5。輸出層神經(jīng)元的個數(shù)m取決于科技型創(chuàng)業(yè)企業(yè)信用評價結(jié)果類別。本文用輸出“1”表示中小企業(yè)信用正常,用輸出“0”表示中小企業(yè)信用較差,因此本文建立的模型的輸出層神經(jīng)元的個數(shù)為1。
(2)隱含層神經(jīng)元個數(shù)。隱含層神經(jīng)元個數(shù)的確定目前還沒有一個理想的解析式,通常根據(jù)經(jīng)驗公式來確定。
常用的經(jīng)驗公式為:n1=n+m+a,其中m為輸出層個數(shù),n為輸入層個數(shù),a為[1,10]之間的常數(shù),有上文可知,m=1,n=5,代入公式可知隱含層個數(shù)的取值范圍為(3,13),經(jīng)過實際對比分析,當(dāng)隱含層選10時,訓(xùn)練誤差較小,因此,本文設(shè)定隱含層個數(shù)為10。
(3)訓(xùn)練函數(shù)的選擇。本文建立的BP神經(jīng)網(wǎng)絡(luò)模型的輸入層和輸出層函數(shù)均為Sigmoid函數(shù),并設(shè)定最大訓(xùn)練步長epoch=1500。
(4)樣本原始數(shù)據(jù)來源。本文選擇了100家在創(chuàng)業(yè)板和新三板上市的科技型創(chuàng)業(yè)企業(yè)的財務(wù)數(shù)據(jù)作為實證樣本數(shù)據(jù)進(jìn)行訓(xùn)練,各項數(shù)據(jù)取自于瑞思數(shù)據(jù)庫和東方財富Choices數(shù)據(jù)庫。為了確保能夠得到可靠、準(zhǔn)確的訓(xùn)練結(jié)果,樣本企業(yè)行業(yè)的選取包含了電子、化工、制藥、家電、生物科技、機(jī)械制造、金屬加工等多個行業(yè)部門,能夠反映科技型創(chuàng)業(yè)企業(yè)的特征。
4.2 實證分析與結(jié)果輸出
本文運行Matlab2014a版本并運用編寫的程序?qū)?00家企業(yè)各自的5項主因子作為輸入變量,對網(wǎng)絡(luò)進(jìn)行訓(xùn)練和檢驗并對訓(xùn)練樣本進(jìn)行了仿真。本文將前90家企業(yè)數(shù)據(jù)作為訓(xùn)練樣本來訓(xùn)練網(wǎng)絡(luò),將后10家企業(yè)數(shù)據(jù)作為檢驗樣本代入網(wǎng)絡(luò)以檢驗網(wǎng)絡(luò)的預(yù)測精度。對于得出的預(yù)測結(jié)果設(shè)定以0.5為分界值,如過大于05,則將公司判定為信用好的企業(yè),反之則判定為信用差的企業(yè)。由圖2可知網(wǎng)絡(luò)可以以較快的速度實現(xiàn)收斂。
為了抵消隨機(jī)因素的影響,本文取相同的訓(xùn)練參數(shù)和測試樣本代入網(wǎng)絡(luò)重復(fù)運算20次,統(tǒng)計正確率和迭代次數(shù)(如圖3所示),20次訓(xùn)練結(jié)果如表2。
由網(wǎng)絡(luò)20次訓(xùn)練結(jié)果(表2)可知,使用BP神經(jīng)網(wǎng)絡(luò)模型對實證樣本數(shù)據(jù)進(jìn)行預(yù)測的結(jié)果和期望輸出對比后,模型的平均正確率達(dá)到83%,預(yù)測精度較高,適合作為預(yù)測科技型創(chuàng)業(yè)企業(yè)信用狀況的評價模型。實證結(jié)果表明,利用BP神經(jīng)網(wǎng)絡(luò)對科技型創(chuàng)業(yè)企業(yè)進(jìn)行信用評價,具有較高的可操作性和準(zhǔn)確性。
5 結(jié)論
本文在借鑒國內(nèi)外現(xiàn)有的企業(yè)信用評價理論和相關(guān)研究成果的基礎(chǔ)上,結(jié)合科技型創(chuàng)業(yè)企業(yè)的特點構(gòu)建了適合對其進(jìn)行信用評價的指標(biāo)體系,然后在運用因子分析提取反映企業(yè)信用狀況的公因子作為代入模型的指標(biāo)變量,據(jù)此建立了BP神經(jīng)網(wǎng)絡(luò)信用評價模型,通過對國內(nèi)100家在創(chuàng)業(yè)板和新三板上市公司的實際數(shù)據(jù)進(jìn)行分析,得出的實證結(jié)果表明使用BP神經(jīng)網(wǎng)絡(luò)對科技型創(chuàng)業(yè)企業(yè)進(jìn)行信用評價的平均正確率可以達(dá)到83%,具有較高的準(zhǔn)確率和可操作性。因此,金融機(jī)構(gòu)可以據(jù)此加強對科技型創(chuàng)業(yè)企業(yè)的信用評價,篩選優(yōu)秀的科技型創(chuàng)業(yè)企業(yè)借款人以降低信用風(fēng)險,同時也可改善科技型創(chuàng)業(yè)企業(yè)與金融機(jī)構(gòu)之間的信息不對稱程度,使科技型創(chuàng)業(yè)企業(yè)能夠獲得更多的融資機(jī)會,促使其能夠以健康的方式持續(xù)的發(fā)展,進(jìn)而充分發(fā)揮出其促進(jìn)企業(yè)技術(shù)創(chuàng)新的作用。
參考文獻(xiàn)
[1]龐素琳.信用評價與股市預(yù)測模型研究及應(yīng)用統(tǒng)計學(xué)、神經(jīng)網(wǎng)絡(luò)與支持向量基方法[M].北京:科學(xué)出版社,2005.
[2]遲國泰,章穗,齊菲.小企業(yè)貸款信用評價模型及實證研究―基于最優(yōu)組合賦權(quán)視角[J].財經(jīng)問題研究,2012,(9):5357.
[3]李菁苗,吳吉義,章劍林等.電子商務(wù)環(huán)境下中小企業(yè)信用評價[J].系統(tǒng)工程理論與實踐,2012,(3):555560.
[4]劉湘勤,龍海雯.銀行結(jié)構(gòu)、信用環(huán)境與中小企業(yè)發(fā)展:基于中國跨省數(shù)據(jù)的實證分析[J].西北大學(xué)學(xué)報(哲學(xué)社會科學(xué)版),2007,(6):159161.
[5]譚慶美,吳金克,趙黎明.基于BP神經(jīng)網(wǎng)絡(luò)的中小企業(yè)信用評價研究[J].西北農(nóng)林科技大學(xué)學(xué)報(社會科學(xué)版),2009,(5):5762.
[6]邢樂成,梁永賢.中小企業(yè)融資難的困境與出路[J].濟(jì)南大學(xué)學(xué)報(社會科學(xué)版),2013,(2):17.
【摘要】 將小麥葉片原始光譜經(jīng)過預(yù)處理后,采用主成分分析(PCA)對數(shù)據(jù)進(jìn)行降維,取前3個主成分輸入小波神經(jīng)網(wǎng)絡(luò),建立了基于主成分分析和小波神經(jīng)網(wǎng)絡(luò)的近紅外多組分預(yù)測模型(WNN);進(jìn)一步研究了小波基函數(shù)個數(shù)的選取(WNN隱層節(jié)點數(shù))對小波神經(jīng)網(wǎng)絡(luò)模型性能的影響,并將WNN模型與偏最小二乘法(PLS)和傳統(tǒng)的反向傳播神經(jīng)網(wǎng)絡(luò)(BPNN)模型進(jìn)行了比較。結(jié)果表明,所建立的WNN模型能用于同時預(yù)測小麥葉片全氮和可溶性總糖兩種組分含量,其預(yù)測均方根誤差(RMSEP)分別為0.101%和0.089%,預(yù)測相關(guān)系數(shù)(R)分別為0.980和0.967。另外,在收斂速度和預(yù)測精度上,WNN模型明顯優(yōu)于BPNN和PLS模型,從而為將小波神經(jīng)網(wǎng)絡(luò)用于近紅外光譜的多組分定量分析奠定了基礎(chǔ)。
【關(guān)鍵詞】 小波神經(jīng)網(wǎng)絡(luò), 主成分分析, 近紅外光譜, 小麥葉片, 全氮, 可溶性總糖
本文系教育部新世紀(jì)優(yōu)秀人才支持計劃(No.NCET080797)、國家自然科學(xué)基金(No.30871448)、國家科技支撐計劃(No.2008BADA4B02)、江蘇省創(chuàng)新學(xué)者攀登計劃(No.BK20081479)和江蘇省自然科學(xué)基金(No.BK2008330)資助
1 引 言
近紅外光譜(NIR)分析技術(shù)以其快速、環(huán)保、可多組分同時檢測等優(yōu)點[1],在各個領(lǐng)域得到了廣泛應(yīng)用[2]。NIR屬于弱信號,信息提取必須依靠化學(xué)計量學(xué)才能實現(xiàn),傳統(tǒng)的定量校正方法,如偏最小二乘法(PLS),僅適用于線性模型,而實際應(yīng)用中卻存在很多非線性關(guān)系[3]。人工神經(jīng)網(wǎng)絡(luò)可解決連續(xù)非線性函數(shù)的逼近,在多組分分析中優(yōu)勢明顯,其中反向傳播(BP)算法是采用最多也是最成熟的神經(jīng)網(wǎng)絡(luò)訓(xùn)練算法之一[4],但是BP網(wǎng)絡(luò)(BPNN)存在著易陷于局部最小和收斂速度慢等弱點[5,6]。
小波神經(jīng)網(wǎng)絡(luò)(Wavelet neural network, WNN)已經(jīng)在化學(xué)領(lǐng)域得到了廣泛應(yīng)用[7,8]。小波神經(jīng)網(wǎng)絡(luò)綜合了小波多尺度分析和神經(jīng)網(wǎng)絡(luò)自學(xué)習(xí)的優(yōu)點,因而具有比傳統(tǒng)神經(jīng)網(wǎng)絡(luò)更快的收斂速度和更強的逼近性能。已有的多組分預(yù)測模型大都采用PLS方法[9]和傳統(tǒng)BP網(wǎng)絡(luò)[10,11],而將小波神經(jīng)網(wǎng)絡(luò)用于近紅外光譜定量分析的報道較少。小波神經(jīng)網(wǎng)絡(luò)用于函數(shù)優(yōu)化時,其輸入層的維數(shù)和小波基函數(shù)都不能太多,否則會大大增加模型參數(shù)[12]。主成分分析(Principal component analysis, PCA)是對光譜數(shù)據(jù)壓縮和信息提取的有效方法[13],通過提取少數(shù)幾個主成分(即原始變量的線性組合),并把它們作為小波神經(jīng)網(wǎng)絡(luò)的輸入,既可以保證輸入數(shù)據(jù)的精度,又可以大大加快神經(jīng)網(wǎng)絡(luò)的收斂速度[14,15]。
本研究首先運用主成分分析方法(PCA)從預(yù)處理后的小麥葉片近紅外光譜中提取主成分,以達(dá)到降維目的;然后將降維后得到的主成分作為小波神經(jīng)網(wǎng)絡(luò)的輸入,建立基于主成分分析和小波神經(jīng)網(wǎng)絡(luò)的近紅外多組分預(yù)測模型,以用于同時預(yù)測小麥葉片全氮和可溶性總糖含量;最后通過與PLS方法和傳統(tǒng)神經(jīng)網(wǎng)絡(luò)的比較分析,檢驗小波神經(jīng)網(wǎng)絡(luò)模型的收斂速度和預(yù)測精度。
2 理論部分
2.1 主成分分析
主成分分析(PCA)是一種數(shù)據(jù)壓縮的常用方法,通過少數(shù)幾個主成分(即原始變量的線性組合)解釋多變量的方差, 即導(dǎo)出少數(shù)幾個主成分,使它們盡可能完整地保留原始變量的信息,且彼此間不相關(guān),以達(dá)到簡化數(shù)據(jù)的目的。將該方法結(jié)合神經(jīng)網(wǎng)絡(luò)用于近紅外光譜定量分析,既能保證輸入數(shù)據(jù)的精度、減少訓(xùn)練時間,又能簡化網(wǎng)絡(luò)結(jié)構(gòu)[13]。
2.2 小波神經(jīng)網(wǎng)絡(luò)理論
小波神經(jīng)網(wǎng)絡(luò)(WNN)是將小波理論與人工神經(jīng)網(wǎng)絡(luò)的思想相結(jié)合而形成的一種新的神經(jīng)網(wǎng)絡(luò)[7]。它將傳統(tǒng)神經(jīng)網(wǎng)絡(luò)中的隱層節(jié)點激勵函數(shù)(如Sigmoid函數(shù))用小波函數(shù)Ψ來代替, 圖1 小波神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)
Fig.1 Structure of wavelet neural network相應(yīng)的輸入層到隱層的權(quán)值及隱層閾值分別由小波函數(shù)的伸縮參數(shù)a與平移參數(shù)b所代替,而輸出層通常為線性神經(jīng)元,它將隱層的小波伸縮系進(jìn)行線性疊加形成輸出結(jié)果。對于一個單隱層的神經(jīng)網(wǎng)絡(luò),假設(shè)有p個輸入節(jié)點,h個隱層節(jié)點,q個輸出節(jié)點,則小波神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)如圖1所示,其輸出表達(dá)式見公式(1):fk(x)=∑hj=1wjk[ψ(∑pi=1xi-bjaj)](1)其中,xi(i=1, 2, …, p)為輸入層第i個輸入變量,k =1, 2, …, q,h為隱層節(jié)點數(shù),Ψ為隱層的小波基函數(shù),wjk是隱層第j個節(jié)點到輸出層第k個節(jié)點的連接權(quán)值,bj和aj分別是小波函數(shù)的平移參數(shù)(隱層節(jié)點的閾值)和伸縮參數(shù)(輸入層到隱層節(jié)點的權(quán)值)。由此可見,小波網(wǎng)絡(luò)可調(diào)整的參數(shù)包括wjk、bj和aj,共有3×h個,它們通過最小均方誤差函數(shù)得到優(yōu)化。本研究選擇常用的Morlet小波函數(shù)[16]作為小波神經(jīng)網(wǎng)絡(luò)的隱層激勵函數(shù),該小波是余弦調(diào)制的高斯波,時頻域分辯率較高。
3 實驗部分
3.1 樣品和儀器
3.1.1 樣品來源 樣品采自以下2個小麥田間試驗,于主要生育期獲取小麥不同葉位的葉片共144份,殺青烘干后粉碎過40目篩,用自封帶密封后置于干燥器中備用。實驗1 2006~2007年在江蘇南京市農(nóng)林局試驗站(南京市江寧區(qū),118°59′E,31°56′N)進(jìn)行。土壤有機(jī)質(zhì)含量1.01%、全氮含量0.11%、速效氮含量90.3 mg/kg、速效磷含量40.3 mg/kg、速效鉀含量100.3 mg/kg,前茬水稻。供試品種為寧麥9號和豫麥34號,試驗設(shè)4個施氮水平,分別為0, 90, 180和270 kg N/ha純氮 (ha為公頃),兩因素隨機(jī)區(qū)組排列,3次重復(fù),每小區(qū)面積約為23 m2,基本苗1.5×106 株/ha,行距25 cm。氮肥基追比2∶1∶1,追肥時期為拔節(jié)期和孕穗期,各占25%。各處理配施105 kg/ha P2O5和80 kg/ha KCl,全部用作基肥。其它管理措施同高產(chǎn)小麥田。實驗2 2007~2008年在南京農(nóng)業(yè)大學(xué)江浦試驗站(南京市浦口區(qū),118°37′E,32°02′N)進(jìn)行。土壤有機(jī)質(zhì)含量1.95%,全氮含量0.08%,速效磷含量13.4 mg/kg,速效鉀含量48.9 mg/kg,前茬玉米。供試品種為寧麥9號,設(shè)4個施氮水平,分別為0, 90, 180和270 kg/ha 純氮,兩因素隨機(jī)區(qū)組排列,3次重復(fù),每小區(qū)面積約為16 m2,基本苗1.5×106株/ha,行距25 cm。氮肥基追比1∶1,追肥時期為拔節(jié)期,占50%。各處理配施150 kg/ha P2O5和 150 kg/ha K2O,全部用作基肥。其它管理措施同高產(chǎn)小麥田。
3.1.2 光譜采集和化學(xué)值測定 光譜采集用Thermo Nicolet 5700 FTIR近紅外光譜儀(自帶OMNIC 7.2集成軟件和內(nèi)徑2.5 cm、高5 cm的專用石英杯)。光譜采集前,先在室溫下開機(jī)預(yù)熱約1 h,然后將過篩樣品裝入石英杯,容量約1/3,用專用砝碼壓緊,置于樣品臺上掃描,每次采集前均用鍍金內(nèi)壁作背景。掃描范圍10000~4000 cm-1,分辨率4 cm-1,每次光譜采集掃描64次,每份樣品重復(fù)采集光譜9次,取平均值代表該樣品的光譜,以吸光度的格式存儲于計算機(jī)中。 圖2 葉片樣品近紅外吸光度譜圖
Fig.2 Near infrared absorbance spectra of leaf samples所有光譜數(shù)據(jù)都轉(zhuǎn)化為波長形式,范圍為1000~2500 nm,數(shù)據(jù)點間隔取為1 nm,因而所有的樣品光譜就組成了一個144行1501列的矩陣。圖2為144份樣品的近紅外原始光譜圖。
樣品全氮含量(TNC)采用凱氏微量定氮法測定,可溶性總糖含量(TSSC)采用蒽酮比色法測定[17]。每份樣品每個指標(biāo)重復(fù)測定3次,取平均值作為該樣品化學(xué)值(各組分含量單位均為%),樣品集的全氮和可溶性總糖含量變化范圍分別為0.60%~4.32%和0.50%~4.78%。
3.2 數(shù)據(jù)處理與分析
運用馬氏距離法[18]剔除奇異樣品后,對NIR光譜進(jìn)行多元散射校正和Norris一階導(dǎo)數(shù)濾波處理,然后采用PCA方法將光譜壓縮成若干主成分,最后將降維后的主成分分別作為小波神經(jīng)網(wǎng)絡(luò)和BP網(wǎng)絡(luò)的輸入節(jié)點,全氮和可溶性總糖兩個化學(xué)組分作為輸出節(jié)點,進(jìn)行網(wǎng)絡(luò)訓(xùn)練后得到模型,同時利用預(yù)處理后的光譜進(jìn)行PLS建模。本研究中涉及到光譜預(yù)處理方法、PCA和神經(jīng)網(wǎng)絡(luò)算法均在Matlab 7.0下編程實現(xiàn)。
3.2.1 樣品集的劃分 為了減少偶然誤差、提高模型精度,首先運用馬氏距離法[18]從采集到的144份樣品中剔除5份奇異樣品,剩下139份樣品,再從中隨機(jī)選擇出100份作為校正集,其余39份作為檢驗集。
3.2.2 光譜預(yù)處理 光譜預(yù)處理方法的選擇關(guān)系著模型的預(yù)測性能。為了消除光譜散射、平移和偏轉(zhuǎn),減少環(huán)境噪聲對光譜的干擾,通過對樣品光譜預(yù)處理方法的多次選擇,發(fā)現(xiàn)采用多元散射校正(MSC)[19]和Norris一階導(dǎo)數(shù)[20]處理后的光譜建模效果最好,處理結(jié)果見圖3。因此,在用1000~2500 nm全譜區(qū)進(jìn)行建模前,采用上述方法對光譜進(jìn)行預(yù)處理。
3.2.3 光譜主成分的提取 光譜經(jīng)過預(yù)處理后,用PCA方法提取其主成分,結(jié)果如表1所示,前3個主成分累計貢獻(xiàn)達(dá)99.69%,可代表樣品光譜,因而可將前3個主成分(原變量的線性組合)經(jīng)標(biāo)準(zhǔn)化處理后作為網(wǎng)絡(luò)的輸入節(jié)點。由此可以確定,小波神經(jīng)網(wǎng)絡(luò)的輸入層節(jié)點數(shù)應(yīng)為3,依次對應(yīng)于3個主成分;而輸出層節(jié)點數(shù)是2,對應(yīng)于全氮和可溶性總糖兩個化學(xué)組分。為了與PLS方法和傳統(tǒng)神經(jīng)網(wǎng)絡(luò)進(jìn)行比較, 圖3 經(jīng)預(yù)處理后的葉片NIR光譜
Fig.3 Near infrared spectra after preprocessing利用光譜儀自帶的TQ化學(xué)計量學(xué)軟件建立PLS模型,同時將PCA提取的3個主成分作為三層BP神經(jīng)網(wǎng)絡(luò)的輸入。表1 光譜數(shù)據(jù)前3個主成分的貢獻(xiàn)率
3.3 模型性能的優(yōu)化與評價
為保證模型的整體性能,本研究通過“剔一法”(Leaveoneout)得到的交互檢驗均方根誤差RMSECV(Root mean square error of crossvalidation)來優(yōu)化建模參數(shù);而模型的預(yù)測性能,則通過預(yù)測均方根誤差RMSEP(Root mean square error of prediction)和相關(guān)系數(shù)R(Correlation coefficient)來評價,計算公式如下:RMSECV=∑Mi=1(Oi-Pi)2M-1(2)
RMSEP=∑Ni=1(Oi-Pi)2N(3)式中M,N分別表示用于建模和檢驗的樣品數(shù), Oi, Pi分別為樣品i化學(xué)組分的觀測值(Observed value)和預(yù)測值(Predicted value)。
4 結(jié)果與討論
4.1 隱層節(jié)點數(shù)的選取
隱層節(jié)點數(shù)(h)對神經(jīng)網(wǎng)絡(luò)的整體性能影響巨大,但是目前還無明確理論來指導(dǎo)h的選值[21]。 h過多可能造成訓(xùn)練時間過長和過擬合; h過少又可能導(dǎo)致訓(xùn)練達(dá)不到要求[22]。對于小波神經(jīng)網(wǎng)絡(luò), h就是小波基函數(shù)的個數(shù)??梢砸罁?jù)小波分析方法,事先確定小波基函數(shù)的個數(shù),但是一般不宜超過10,因為h的增加會大大增加小波神經(jīng)網(wǎng)絡(luò)模型的參數(shù)[14]。本研究為了找到最佳h,在實際操作中,比較了基于不同h(h≤10)所建模型的RMSECV,見圖4a;而對于傳統(tǒng)的BP網(wǎng)絡(luò),則嘗試了取不同的h(h≤15)進(jìn)行建模,見圖4b。進(jìn)一步將RMSECV最小時的h確定為最佳h,由此獲得小波神經(jīng)網(wǎng)絡(luò)和BP網(wǎng)絡(luò)的最佳h分別為5和7(圖4)。
4.2 神經(jīng)網(wǎng)絡(luò)參數(shù)的確定
神經(jīng)網(wǎng)絡(luò)參數(shù)關(guān)系著模型的預(yù)測性能,關(guān)于小波神經(jīng)網(wǎng)絡(luò)參數(shù)的選取方法,已有眾多報道[23,24]。本研究中,兩種神經(jīng)網(wǎng)絡(luò)都采用三層結(jié)構(gòu),其中,小波神經(jīng)網(wǎng)絡(luò)的隱層小波基函數(shù)采用時頻域分辯率較高的Morlet函數(shù)[16,24];BP網(wǎng)絡(luò)隱層傳遞函數(shù)分別采用常用的Tansig函數(shù),輸出層采用Purelin函數(shù)。為了便于比較兩種網(wǎng)絡(luò)模型的性能,經(jīng)過反復(fù)嘗試,并綜合考慮網(wǎng)絡(luò)穩(wěn)定性和訓(xùn)練時間,將學(xué)習(xí)速率均設(shè)為0.01,網(wǎng)絡(luò)優(yōu)化算法選擇LevevbergMarquardt算法,最大訓(xùn)練次數(shù)都為1000,期望誤差為0.001。
4.3 模型性能的檢驗與評價
用WNN模型對39個測試樣品的全氮(TNC)和可溶性總糖含量(TSSC)進(jìn)行了預(yù)測,結(jié)果如圖5。從預(yù)測均方根誤差(RMSEP)和相關(guān)系數(shù)(R)可以看出,小波神經(jīng)網(wǎng)絡(luò)模型的擬合精度較。
a. 全氮(Total nitrogen content); b. 可溶性總糖(Total soluble sugar content)。綜合比較了WNN模型和BPNN模型的收斂時間(Time)、達(dá)到期望誤差時的訓(xùn)練次數(shù)(Iteration, Iter)以及PLS模型對39份測試樣品的預(yù)測性能(RMSEP和R) (表2)。可見,兩種神經(jīng)網(wǎng)絡(luò)模型的預(yù)表2 WNN模型、PLS模型和BPNN模型的表現(xiàn)比較測精度都高于PLS模型,因為PLS是線性回歸方法,而在近紅外光譜上,盡管官能團(tuán)特征吸收頻率的位置是基本固定的,但是樣品各組分化合物之間的關(guān)系復(fù)雜,會發(fā)生不同程度的締合作用,如誘導(dǎo)效應(yīng)、空間位阻效應(yīng)和氫鍵效應(yīng)等[25],這些因素決定了葉片樣品近紅外光譜與各組分之間的非線性關(guān)系,人工神經(jīng)網(wǎng)絡(luò)可以有效克服這種非線性干擾[3];從綜合收斂速度和預(yù)測精度來看,WNN模型均優(yōu)于傳統(tǒng)的BPNN模型[26]。即,在保證不發(fā)生過擬合的前提下,要達(dá)到同樣的期望誤差,小波神經(jīng)網(wǎng)絡(luò)所用的訓(xùn)練時間和訓(xùn)練次數(shù)均少于傳統(tǒng)的BP網(wǎng)絡(luò);而經(jīng)過同樣的訓(xùn)練次數(shù),小波神經(jīng)網(wǎng)絡(luò)達(dá)到的預(yù)測精度也會比BP網(wǎng)絡(luò)高。因為傳統(tǒng)BP網(wǎng)絡(luò)的隱層基函數(shù)一般為Sigmoid函數(shù)(本研究為Tansig函數(shù)),這類函數(shù)相互不正交,權(quán)重的學(xué)習(xí)容易出現(xiàn)峽谷型誤差曲面,導(dǎo)致收斂速度變慢,也很難保證非線性系統(tǒng)的唯一解。而小波神經(jīng)網(wǎng)絡(luò)的基函數(shù)是小波函數(shù),它具有快速衰減性,局部逼近能力也就更強;另一方面,小波基函數(shù)是正交或者近似正交的,權(quán)重之間相關(guān)冗余度很小,且小波神經(jīng)網(wǎng)絡(luò)的誤差函數(shù)是關(guān)于權(quán)值的凸函數(shù),不存在局部極小點,因而收斂速度更快。
4.4 小結(jié)
本研究將小波神經(jīng)網(wǎng)絡(luò)引入到近紅外光譜的多組分分析模型中,建立了能同時預(yù)測小麥葉片全氮和可溶性總糖含量的小波神經(jīng)網(wǎng)絡(luò)(WNN)模型,并對WNN模型的整體性能與表現(xiàn)進(jìn)行了檢驗和比較。結(jié)果表明,WNN模型預(yù)測結(jié)果可靠,可用于小麥近紅外光譜的多組分預(yù)測;與偏最小二乘法(PLS)和傳統(tǒng)神經(jīng)網(wǎng)絡(luò)模型(BPNN)相比,小波神經(jīng)網(wǎng)絡(luò)模型具有更好的全局收斂性和預(yù)測精度,從而為近紅外光譜的多組分定量分析提供了新的建模方法。
參考文獻(xiàn)
1 Yan YanLu(嚴(yán)衍祿). Near Infrared Spectroscopy and its application(近紅外光譜分析基礎(chǔ)與應(yīng)用). Beijing(北京): China Light Industry Press(中國輕工業(yè)出版社), 2005: 1~115
2 Zhu XiaoLi(褚小立), Tian GaoYou(田高友), Yuan HongFu(袁洪福), Lu WanZhen(陸婉珍). Chinese J. Anal. Chem.(分析化學(xué)), 2006, 34(9): S175~S178
3 PérezMarín D, GarridoVaro A, Guerrero J E. Talanta, 2007, 72(1): 28~42
4 Marengo E, Bobba M, Robotti E, Lenti M. Anal. Chim. Acta, 2004, 511(2): 313~322
5 Xu Lu(許 祿), Shao XueGuang(邵學(xué)廣). Methods of Chemometrics(化學(xué)計量學(xué)方法). Beijing(北京): Science Press(科學(xué)出版社), 2004: 279~298
6 Phua P K H, Ming Daohua. IEEE Transactions on Neural Networks, 2003, 14(6): 1460~1467
7 Tabaraki R, Khayamian T, Ensafi A A. Dyes and Pigments, 2007, 73 (2): 230~238
8 Balabin R M, Safieva R Z, Lomakina E I. Chemometrics and Intelligent Laboratory Systems, 2008, 93(1): 58~62
9 Wang JiaJun(王家俊), Liang YiZeng(梁逸曾), Wang Fan(汪 帆). Chinese J. Anal. Chem.(分析化學(xué)), 2005, 33(6): 793~797
10 Liu BoPing(劉波平), Qin HuaJun(秦華俊), Luo Xiang(羅 香), Cao ShuWen(曹樹穩(wěn)), Wang JunDe(王俊德). Chinese J. Anal. Chem.(分析化學(xué)), 2007, 35(4): 525~528
11 Dou Y, Sun Y, Ren Y, Ren Y. Anal. Chim. Acta, 2005, 528(1): 55~61
12 Zhang Q. IEEE Transactions on Neural Networks, 1997, 8(2): 227~236
13 He Y, Li X, Deng X. Journal of Food Engineering, 2007, 79(4): 1238~1242
14 Wang W, Paliwal J. Biosystems Engineering, 2006, 94(1): 7~18
15 Dou Y, Mi H, Zhao L, Ren Y, Ren Y. Anal. Biochem., 2006, 351(2): 174~180
16 Subasi A, Alkan A, Koklukaya E, Kiymik M K. Neural Networks, 2005, 18(7): 985~997
17 Li HeSheng(李合生). The Principle and Technology of Physiological and Biochemical Experiment of Plant(植物生理生化實驗原理和技術(shù)). Beijing(北京): Higher Education Press(高等教育出版社), 2000: 186~197
18 Smith B M, Gemperline P J. Anal. Chim. Acta, 2000, 423(2): 167~177
19 Fernandez J E, Badiali M, Guidetti A, Scot V. Nuclear Instruments and Methods in Physics Research, 2007, 580(1): 77~80
20 Norris K H, Williams P C. Cereal Chemistry, 1984, 61(2): 158~165
21 Janik L J, Cozzolino D, Dambergs R, Cynkar W, Gishen M. Anal. Chim. Acta, 2007, 594(1): 107~118
22 Wen Xin(聞 新), Zhou Lu(周 露), Wang DanLi(力), Xiong XiaoYing(熊曉英). MATLAB Design for Neural Networks application(MATLAB神經(jīng)網(wǎng)絡(luò)應(yīng)用設(shè)計). Beijing(北京): Science Press (科學(xué)出版社), 2001: 225~232
23 Xu J, Daniel W C H. Neurocomputing, 2002, 48: 681~689
24 Tabaraki R, Khayamian T, Ensafi A A. Journal of Molecular Graphics and Modelling, 2006, 25(1): 46~54
只有清楚地了解電梯控制系統(tǒng)的運行原理才能夠及時準(zhǔn)確的診斷出電梯故障原因,因此清楚的了解電梯運行原理,每一個電梯維修人員必須要做到。電梯運行過程總體上可分為以下幾個階段:第一、登記層外召喚信號和登記內(nèi)選指令階段;第二、電梯門關(guān)閉或者電梯按照系統(tǒng)指令停運階段;第三、啟動階段;第四、在到達(dá)信號記錄的樓層前進(jìn)行減速制動;第五、平層開門階段。在整個過程中電梯需要從外界接收信號并處理,然后完成相應(yīng)的指令或者輸出信號,由此可以將電梯看作是一個完整的獨立的系統(tǒng),只需要外界給予相應(yīng)的信號就可以自動的做出動作。電梯系統(tǒng)內(nèi)部復(fù)雜的構(gòu)件緊密的結(jié)合在一起,正是如此才使得電梯系統(tǒng)故障具有了復(fù)雜性、層次性、相關(guān)性以及不確定性的特點。
二、神經(jīng)網(wǎng)絡(luò)技術(shù)基本原理
生物學(xué)上的神經(jīng)是由一個個簡單的神經(jīng)元相互連接進(jìn)而形成了復(fù)雜的龐大的神經(jīng)系統(tǒng),同理,神經(jīng)網(wǎng)絡(luò)就是由大量簡單的處理單元相互連接形成的復(fù)雜的智能系統(tǒng)。單獨的處理單元類似于一個神經(jīng)元,是一個可以接受不同信息但是只輸出一種信息的結(jié)構(gòu)單位。神經(jīng)網(wǎng)絡(luò)系統(tǒng)與生物學(xué)神經(jīng)系統(tǒng)相似的是具有自我修改能力,它可以同時接收大量的數(shù)據(jù)并進(jìn)行統(tǒng)一的分析處理,進(jìn)而輸出相應(yīng)的處理結(jié)果。這就使得神經(jīng)網(wǎng)絡(luò)系統(tǒng)具有了高度容錯性、高度并行性、自我修改性、學(xué)習(xí)性以及高度復(fù)雜性,也正是由于這些特性才使的利用神經(jīng)網(wǎng)絡(luò)技術(shù)能夠及時準(zhǔn)確的查明電梯故障原因并得出故障解決方案。電梯故障診斷中應(yīng)用的神經(jīng)網(wǎng)絡(luò)模型分為三個層次:輸入層、接收外部信號或者是電梯自我檢測信息(如載重信息);隱含層、對接收到了大量數(shù)據(jù)進(jìn)行相應(yīng)的分析處理;輸出層、將記錄著動作命令的數(shù)據(jù)傳送出來。在電梯出現(xiàn)故障時,首先可以通過神經(jīng)網(wǎng)絡(luò)模型快速確定故障發(fā)生在哪一層達(dá)到節(jié)約時間的目的。但是神經(jīng)網(wǎng)絡(luò)也會因為收斂速度過于慢、訓(xùn)練強度太大或者是選擇的網(wǎng)絡(luò)模型不好等問題導(dǎo)致診斷結(jié)果受到影響。
三、神經(jīng)網(wǎng)絡(luò)模型在電梯故障診斷中的應(yīng)用分類
神經(jīng)網(wǎng)絡(luò)模型已經(jīng)成為了如今電梯故障診斷中應(yīng)用最廣泛的技術(shù)模型,相比于傳統(tǒng)方式它具有診斷速度快、故障原因命中率高的優(yōu)點,因此引起了各方面專業(yè)人士的強烈關(guān)注,并在他們的不懈努力下得到了發(fā)展與創(chuàng)新。它跨越多個專業(yè)領(lǐng)域、通過對各種復(fù)雜的高難度工作的不斷的發(fā)展與改進(jìn)出現(xiàn)了越來越多的應(yīng)用模型,下面主要介紹了當(dāng)前應(yīng)用最普遍的BP網(wǎng)絡(luò)模型,并且簡單的引入并介紹了近年來新興的模糊神經(jīng)網(wǎng)絡(luò)模型和遺傳小波神經(jīng)網(wǎng)絡(luò)模型。
(一)BP網(wǎng)絡(luò)模型
BP神經(jīng)網(wǎng)絡(luò)作為神經(jīng)網(wǎng)絡(luò)應(yīng)用最廣泛的一種,它多應(yīng)用的誤差反向傳播算法使其在模式識別、診斷故障、圖像識別以及管理系統(tǒng)方面具有相對先進(jìn)性?;贐P網(wǎng)絡(luò)的電梯故障診斷技術(shù)就是通過學(xué)習(xí)故障信息、診斷經(jīng)驗并不斷訓(xùn)練,并將所學(xué)到的知識利用各層次之間節(jié)點上的權(quán)值從而表達(dá)出來。BP網(wǎng)絡(luò)系統(tǒng)的主要診斷步驟主要可以分為三步。第一步:對輸入輸出的數(shù)據(jù)進(jìn)行歸一化處理,將數(shù)據(jù)映射到特定的區(qū)間。第二步:建立BP網(wǎng)絡(luò)模型,訓(xùn)練BP網(wǎng)絡(luò)模型。第三:通過已經(jīng)訓(xùn)練好的網(wǎng)絡(luò)模型對原來的樣本進(jìn)行全面的檢測。算法步驟:a、在一定的取值范圍內(nèi)對數(shù)據(jù)進(jìn)行初始化;b、確定輸入值數(shù)值大小,計算出預(yù)期輸出量;c、用實際輸出的值減去上一步得到的數(shù)值;d、將上一步得到的誤差分配到隱含層,從而計算出隱含層的誤差;e、修正輸出層的權(quán)值和閾值,修正隱含層的權(quán)值;f、修正隱含層的閾值,修正隱含層和輸入層的權(quán)值。
(二)遺傳小波神經(jīng)網(wǎng)絡(luò)模型
遺傳算法運用了生物界的優(yōu)勝劣汰、適者生存的思想對復(fù)雜問題進(jìn)行優(yōu)化,適用于復(fù)雜的故障,起到了優(yōu)化簡化問題的作用。對局部數(shù)據(jù)進(jìn)行詳細(xì)的分析是小波法最大的特點,所以它被譽為“數(shù)字顯微鏡”。遺傳算法小波神經(jīng)網(wǎng)絡(luò)就是運用小波進(jìn)行分解的方法分解模擬故障信號,將得到的數(shù)據(jù)進(jìn)行歸一化,將歸一化后的數(shù)值輸入到神經(jīng)網(wǎng)絡(luò)模型中。它融合了神經(jīng)網(wǎng)絡(luò)、小波分析和遺傳算法三者所有的優(yōu)點?;谶z傳小波神經(jīng)網(wǎng)絡(luò)的電梯故障診斷的一般步驟為:測試節(jié)點信號采樣、小波分解、故障特征量提取、歸一化得到訓(xùn)練樣本集、遺傳算法優(yōu)化、得到故障類型。遺傳小波神經(jīng)網(wǎng)絡(luò)模型在故障原因復(fù)雜、數(shù)據(jù)信息量巨大的電梯系統(tǒng)的應(yīng)用中能夠發(fā)揮更大的作用。
(三)模糊神經(jīng)網(wǎng)絡(luò)模型
模糊神經(jīng)網(wǎng)絡(luò)模型就是創(chuàng)新性的將神經(jīng)網(wǎng)絡(luò)與模糊理論結(jié)合到一起。它采用了廣義的方向推理和廣義的前向推理兩種推理方式。與其它兩種模型不同的是,它的語言邏輯、判斷依據(jù)和結(jié)論都是模糊的。但是它的數(shù)據(jù)處理能力還有自我學(xué)習(xí)能力并沒有因此而變差,反而更加豐富了它的定性知識的內(nèi)容。在處理實際問題的過程中,首先要建立所有可能發(fā)生的故障的完整集合,其次將所有的故障發(fā)生原因歸入到同一個集合中去,最后就是建立故障和原因的關(guān)系矩陣。分別叫做模糊故障集、模糊原因集、模糊關(guān)系矩陣。相較于BP網(wǎng)絡(luò)模型,這種模型更加的簡單易行,充分發(fā)揮了神經(jīng)網(wǎng)絡(luò)和模糊邏輯的優(yōu)點,不會因為故障原因過于復(fù)雜而失去診斷的準(zhǔn)確性,在原本豐富定性知識和強大數(shù)據(jù)處理能力的基礎(chǔ)上具有了很大的自我訓(xùn)練能力。
四、結(jié)語