网站首页
教育杂志
CSSCI期刊 北大期刊 CSCD期刊 统计源期刊 知网收录期刊 维普收录期刊 万方收录期刊 SCI期刊(美)
医学杂志
CSSCI期刊 北大期刊 CSCD期刊 统计源期刊 知网收录期刊 维普收录期刊 万方收录期刊 SCI期刊(美)
经济杂志
CSSCI期刊 北大期刊 CSCD期刊 统计源期刊 知网收录期刊 维普收录期刊 万方收录期刊 SCI期刊(美)
金融杂志
CSSCI期刊 北大期刊 CSCD期刊 统计源期刊 知网收录期刊 维普收录期刊 万方收录期刊 SCI期刊(美)
管理杂志
CSSCI期刊 北大期刊 CSCD期刊 统计源期刊 知网收录期刊 维普收录期刊 万方收录期刊 SCI期刊(美)
科技杂志
CSSCI期刊 北大期刊 CSCD期刊 统计源期刊 知网收录期刊 维普收录期刊 万方收录期刊 SCI期刊(美)
工业杂志
CSSCI期刊 北大期刊 CSCD期刊 统计源期刊 知网收录期刊 维普收录期刊 万方收录期刊 SCI期刊(美)
SCI杂志
中科院1区 中科院2区 中科院3区 中科院4区
全部期刊
公務員期刊網 精選范文 神經網絡的運用范文

神經網絡的運用精選(九篇)

前言:一篇好文章的誕生,需要你不斷地搜集資料、整理思路,本站小編為你收集了豐富的神經網絡的運用主題范文,僅供參考,歡迎閱讀并收藏。

神經網絡的運用

第1篇:神經網絡的運用范文

關鍵詞:物流;神經網絡;Matlab;預測;多種模型

中圖分類號:U294.1 文獻標識碼:A 文章編號:2095-1302(2016)01-00-02

0 引 言

現(xiàn)如今物流業(yè)的快速發(fā)展對人們的生活與產能經濟都產生了重要影響,而整個物流鏈中的關鍵就是貨運環(huán)節(jié)。影響貨物運輸?shù)囊蛩乇容^復雜,包括相關體制、交通條件、城市環(huán)境、產業(yè)布局等,這些因素在數(shù)學模型上是非線性且不確定的,于是給預測造成了較大困難。為了做好庫存控制、信息管理的工作,在貨物運輸前對貨運量進行預測是非常有必要的。

1 神經網絡模型及其特點

1.1 系統(tǒng)概述

本文研究的預測模型是基于貨運預測系統(tǒng)的,該系統(tǒng)的主要功能是將項目輸入的數(shù)據(jù)確定為預測目標,并根據(jù)具體要求與有關資料動態(tài)分析出可執(zhí)行計劃,將預測結果保存到數(shù)據(jù)庫備份。貨運預測系統(tǒng)的具體結構包括初始數(shù)據(jù)模塊、預測方法選擇、結果處理模塊、系統(tǒng)輔助管理及數(shù)據(jù)庫模塊等。系統(tǒng)結構圖如圖1所示。

圖1 貨運預測系統(tǒng)結構圖

1.2 模型特點

神經網絡分為單層前向網絡(LMS學習算法)、多層前向網絡(BP學習算法)、改進型神經網絡等,其中BP神經網絡是目前應用最廣泛的模型之一,模型拓撲結構如圖2所示。

圖2 含有兩個隱層的BP網絡結構

多層前向網絡是單層感知器的推廣,解決了非線性可分問題,其由輸入層、隱含層和輸出層組成,其中隱含層可以為一層或多層。輸入層中每個源節(jié)點作為激勵單元,組成了下一層的輸入信號,而該層的輸出信號又成為后層的輸入,以此類推。多層感知器中每個神經元的激勵函數(shù)是可微的Sigmoid函數(shù),見式(1)所示:

(1)

式中ui是第i個神經元的輸入信號,vi是該神經元的輸出信號。

BP學習過程具有工作信號正向傳播、誤差信號反向傳播的特點。對于圖2,設輸入層任意一個輸入信號用m表示,第一層、第二層、輸出層任意神經元分別用i,j,p表示。按誤差反向傳播方向,從輸出節(jié)點到隱含層的修正權值公式見式(2):

(2)

按Delta學習規(guī)則求得:

Δwjp(n)=ηδp(n)vj(n) (3)

其中,η是學習步長, vj(n) 可由信號的正向傳播過程求得。

該系統(tǒng)的訓練目標是總的平均誤差能量Eav達到最小,。其中,ekp為網絡輸入第k個訓練樣本時輸出神經元p的誤差,N為訓練樣本的個數(shù)。

2 預測實例及結果分析

2.1 問題描述

貨站是物流的一種重要形式,被認為是物流中心,包含著物資信息、資金流動等管理,這里取若干年的某貨站數(shù)據(jù)進行預測并與實際結果對比,貨運量走勢如圖3所示。

圖3 近十年某貨站物流量走勢圖

圖中曲線很明顯不適合做直線擬合,我們可運用指數(shù)平滑法、神經網絡等進行外推預測。對于指數(shù)平滑法,歷史數(shù)據(jù)影響程度逐漸減小,隨著數(shù)據(jù)遠離權數(shù)收斂趨近零,因此適用于短期預測;對于灰色模型,十分依賴于歷史數(shù)據(jù),其精度受原始數(shù)據(jù)的影響較大。本預測系統(tǒng)會根據(jù)輸入數(shù)據(jù)的各項因子最終選擇最合適的算法模型。下面就神經網絡的一般預測步驟進行說明。

2.2 預測步驟

一般來說,BP算法的預測步驟如下:

(1)樣本預處理。由于數(shù)據(jù)的評價標準或量綱不一樣,所以需要對樣本作歸一化處理。可采取極差變換(xn-xmin)/(xmax-xmin)進行處理;

(2)樣本分組。每組前m個值作為輸入,后一個作為輸出期望值;

(3)網絡訓練。使訓練后的網絡自適應樣本數(shù)據(jù)的特征,網絡訓練狀態(tài)如圖4所示;

圖4 網絡訓練狀態(tài)

(4)得到預測值后??赏ㄟ^對2001至2010年數(shù)據(jù)的網絡訓練,得到2011年的輸出預測值。Matlab中仿真程序如下:

x=[105129.1 113918.7 121421.3 122757.9 122690.2 135560.5 159988.1 172152 210655.0 238749.2];

r=max(x)-min(x);

for n=1:length(x)

y(n)=[x(n)-min(x)]/r;

end

p=[y(length(x)-4) y(length(x)-3) y(length(x)-2) y(length(x)-1)]’;

L=length(p);

R1=zeros(1,L);

R2=ones(1,L);

R=[R1;R2]’;

t=y(length(x));

input=[y(length(x)-3) y(length(x)-2) y(length(x)-1) y(length(x))]’;

net=newff(R,[4,5,1],{‘logsig’,’logsig’,’purelin’},’trainlm’);

net.trainParam.show=20;

net.trainParam.lr=0.01;

net.trainParam.epochs=100; net.trainParam.goal=1.0e-030; net=train(net,p,t);

out=sim(net,input);

out=out*r+min(x);

(5)反歸一化處理。由于第一步對樣本進行歸一化處理,則需要把結果還原,才能得到有效的預測值。

2.3 結果分析

最后得到2011年貨運量預測值為259 137(噸)[實際值262 551(噸)],與指數(shù)平滑法的271 740(噸)相比誤差由3.5%降為-1.3%。需要指出的是,增加隱含層的數(shù)目可以更加逼近非線性曲線提高映射能力,但多于某個值,會使整體預測性能降低。

3 結 語

貨運預測影響因素的不確定性直接給預測系統(tǒng)的研究帶來困難,人工神經網絡模仿自人的大腦,具備自適應算法特性,擁有運算、推理、識別及控制等能力,若能將其很好地運用在貨運預測方面,則能為物流業(yè)提供更大意義的幫助。

參考文獻

[1] Simon Haykin.神經網絡原理[M].葉世偉,史忠植,譯.北京:機械工業(yè)出版社,2004.

[2]孫明璽.預測與評價[M].杭州:浙江教育出版社,2000.

[3]李采蓉.新的組合模型及在港口客流量預測上的應用[J].遼寧大學學報,2000,27(4):309-311.

[4]云俊,王少梅.物流系統(tǒng)的多目標預測[J].武漢理工大學學報(社會科學版),2001,14(3):243-245.

[5]駱溫平.物流與供應鏈管理[M].北京:電子工業(yè)出版社,2002.

[6](美)Tom M.Mitchell.機器學習[M].曾華軍,譯.北京:機械工業(yè)出版社,2008.

[7](美)Martin T Hagan,Howard B.Demuth.神經網絡設計[M].戴葵,等,譯.北京:機械工業(yè)出版社,2005.

[8]黨耀國,劉思峰,王正新.灰色預測與決策模型研究[M].北京:科學出版社,2009.

第2篇:神經網絡的運用范文

關鍵詞:神經網絡;計算機網絡;安全管理;應用

中圖分類號:TP393.08

進入到信息時代,便捷的計算機網絡技術不僅給人們的生活帶來了極大的便利,但同時也容易遭到蠕蟲病毒、木馬病毒等破壞性極強的程序病毒攻擊留下便利的通道,使得計算機網絡安全面臨巨大的威脅。鑒于此,要對計算機網絡安全所面臨的風險進行科學、合理以及準確的分析、評估,同時要采取相應的措施對面臨的風險有效的進行防范,盡可能的減少由于計算機網絡安全管理問題所帶來的損失。另外,計算機網絡安全受到很多種因素的影響,主要有病毒的入侵以及系統(tǒng)漏洞,更重要的是這些因素之間有很強的關聯(lián)性,這也就導致計算機網絡安全管理的問題逐漸趨于復雜化,在這種情況下,就必須要求計算機網絡系統(tǒng)的管理者以及使用者對網絡的安全進行有效的管理,更要對網絡的安全性有清楚的認識和了解,切實的掌握影響計算機網絡安全的因素。為了更好的解決計算機網絡安全管理問題,神經網絡逐漸被應用到計算機網絡安全管理之中,使得對計算機網絡安全管理更加準確和有效。

1 計算機網絡安全管理概述

一般而言,計算機網路安全管理指的是計算機在連接網絡后進行信息的交換、瀏覽以及下載的過程中,對信息安全進行有效的管理,防止信息被他人竊取或者破壞。隨著信息時代的到來,越來越多的人對計算機產生了很強的依賴,從兒童到老年人,計算機的影響無處不在,隨著計算機的普及,人們在使用計算機的過程中對其安全性就有了顧忌。對于計算機網絡,只要連接互聯(lián)網,隨時都存在被攻擊的可能,相對而言,沒有任何計算機是絕對的安全或者是不受到任何的攻擊。運用計算機網絡技術進行攻擊或者盜取個人信息或者是企業(yè)信息的事件幾乎每年都會發(fā)生,計算機網絡存在嚴重的安全隱患。所以,要及時的認識以及了解計算機網絡面臨的安全隱患,積極的采取相應的措施加強對計算機網絡安全的管理。

2 神經網絡在計算機網絡安全管理應用的現(xiàn)狀

2.1 對神經網絡在計算機安全管理運用中的重視程度不夠

計算機網絡安全是因特網發(fā)展的最基礎的目的,但與此同時近乎所有的計算機網絡在開創(chuàng)以及不斷的發(fā)展過程中都趨向于實用以及便利,相反卻在一定程度上沒有重視對計算機的安全管理,更沒有將神經網絡技術運用到計算機的安全管理中,進而對計算機網絡的安全管理留下了嚴重的隱患。另外,神經網絡在計算機網絡安全管理中主要是對計算機的網絡安全進行評估,然而由于不重視對神經網絡在計算機網絡安全管理中的運用,使得沒有建立良好的計算機網絡安全評價標準體系。

2.2 對神經網絡在計算機網絡安全評價模型的設計和實際運用不夠合理

一般來說,神經網絡在計算機網絡安全管理中主要是對計算機網絡安全進行一定的評估,在對其進行評估的過程中,就需要設計一定的計算機網絡安全評價模型,主要包含對輸入層、輸出層以及隱含層的設計;但是,目前神經網絡在計算機網絡安全管理中對于評價模型的設計還沒有將這三方面有效的聯(lián)系起來。除此之外,對神經網絡在計算機網絡安全管理的實際運用中,不能科學、合理的實現(xiàn)計算機網絡安全管理評價模型運用,不注重對評價模型的學習以及不關注對評價模型進行有效的驗證。

3 加強神經網絡在計算機網絡安全管理中的應用采取的措施

3.1 神經網絡在計算機網絡安全管理中要科學、合理的設計網絡安全評價模型

神經網絡在計算機網絡安全管理中要科學、合理的設計網絡安全評價模型,以便更好的實現(xiàn)計算機網絡安全、高效的運行。為此,計算機網絡安全評價模型需要進行一下設計:首先是對輸入層的設計,一般來說,神經網絡在計算機網絡安全管理運用中,對于輸入層考慮的是神經元的節(jié)點數(shù)以及評價指標的數(shù)量,盡可能的使這兩者數(shù)量保持一致。其次是對隱含層的設計,對于隱含層的設計需要注意的是若某個連續(xù)函數(shù)在任意的閉區(qū)間中,可以通過在隱含層里的神經網絡來靠近,大多數(shù)情況下,神經網絡通常運用的是單隱含層。最后是輸出層的設計,神經網絡的輸出層設計主要是獲得計算機網絡安全管理評價的最終結果,例如可以設置計算機網絡安全管理評價的輸出層節(jié)點數(shù)為2,那么相應的輸出結果(1,1)指的是非常安全、(0,1)指的是較不安全、(1,0)指的是基本安全以及(0,0)指的是非常的不安全。

3.2 神經網絡在計算機網絡安全管理運用中要對評價模型進行有效的驗證

需要注意的是,神經網絡在計算機網絡安全管理運用中要對評價模型進行有效的驗證,一般體現(xiàn)在一下幾方面:首先是要關注評價模型的實現(xiàn),為了實現(xiàn)神經網絡在計算機網絡安全管理中的良好運用,就要依據(jù)客戶滿意的評價模型,運用計算機網絡技術創(chuàng)建設置含有輸入層、隱含層以及輸出層的神經網絡模型,然后再對網絡安全進行檢驗。其次是要注意對評價模型的學習,在對計算機網絡安全進行評價之前,需要對神經網絡進行標準化的處理,才能盡可能的減少對計算機網絡安全管理評價中的誤差。最后要注意對評價模型進行驗證,當神經網絡經過標準化處理以及在計算機網絡安全評價之后,就需要對輸出的結果進行一定的驗證,以便確定神經網絡對計算機網絡安全的評價輸出結果是否與期望的評價結果相一致,進一步驗證神經網絡在計算機網絡安全管理中安全評價模型的準確與否。

3.3 重視神經網絡在計算機網絡安全管理運用以及建立健全安全評價標準體系

神經網絡在計算機網絡安全管理運用中主要的任務是對計算機網絡的安全進行一定的評價,并且將評價的結果準確、及時的反饋給用戶,所以就應該對其在計算機網絡安全管理中的應用引起高度的重視,為此就應該建立健全計算機網絡安全管理的評價標準體系。一方面是評價指標的建立,計算機網絡安全管理是復雜的過程,同時影響計算機網絡安全的因素比較多。因此,建立科學、合理以及有效的計算機網絡安全管理評價標準,對于神經網絡高效的開展評價工作有很大的關聯(lián)。另一方面是對評價標準的準確化,影響計算機網絡安全管理的因素非常的多,就應該對各種評價標準進行細化,以達到評價的準確。

4 結束語

綜上所述,通過神經網絡對計算機網絡安全的評價,可以有效的對計算機網絡安全進行管理。運用神經網絡技術手段,提高了計算機網絡安全管理的效率,并且在運用神經網絡的過程中建立健全安全評價標準體系、注重對評價模型進行有效的驗證以及加強對計算機網絡安全評價模型的設計,切實的提升計算機網絡安全管理水平。

參考文獻:

[1]毛志勇.BP神經網絡在計算機網絡安全評價中的應用[J].信息技術,2008(06).

[2]周忠.神經網絡技術在網絡安全中的應用[J].科技致富向導,2010(32).

[3]趙冬梅,劉海峰,劉晨光.基于BP神經網絡的信息安全風險評估[J].計算機工程與應用,2007(01).

[4]樓文高,姜麗,孟祥輝.計算機網絡安全綜合評價的神經網絡模型[J].計算機工程與應用,2007(32).

[5]沈宗慶,劉西林.基于BP神經網絡的分銷商績效指標評價及應用[J].華東交通大學學報,2007(04).

第3篇:神經網絡的運用范文

關鍵詞:BP神經網絡、圖像分割、特征提取

Abstract: the image recognition process including the image preprocessing, feature extraction, image understanding and analysis. Which BP artificial neural network in the image segmentation using better; In the feature extraction phase BP neural network is also very good find application, and obtain the better feature extraction results; In the image understanding and the analysis phase using neural network classifier design, can get accurate classification results.

Keywords: BP neural network, image segmentation, feature extraction

中圖分類號:TP183 文獻標識碼:A文章編號:

引言

BP人工神經網絡算法是現(xiàn)今應用較為廣泛的多層前向反饋式神經網絡算法,BP人工神經網絡有較好的容錯能力、魯棒性、并行協(xié)同處理能力和自適應能力,受到了國內外眾多領域學者的關注。由于神經網絡高效率的集體計算能力和較強的魯棒性,它在圖像分割方面的應用已經很廣泛,Jain和Karu采用了多通道濾波與前向神經網絡相結合的方法實現(xiàn)圖像紋理分割算法。神經網絡算法在特征提取階段,壓縮特征數(shù)量,以提高分類速度和精度。在圖像識別領域中神經網絡作為分類器的研究也得到了很大的進展,尤其是其學習能力和容錯性對于模式識別是非常有利的,在一定程度上提高了訓練速度和識別率。Le Cun等人提出了多層特征選擇(Multilayer Selection Procedure)方法用于字符識別,每一層神經網絡處理較低層次的特征,獲取該層特征信息并傳給上一層。

BP神經網絡的基本原理

人工神經網絡的研究起源于對生物神經系統(tǒng)的研究,它將若干處理單元(即神經元)通過一定的互連模型連結成一個網絡,這個網絡通過一定的機制可以模仿人的神經系統(tǒng)的動作過程,以達到識別分類的目的。人工神經網絡區(qū)別于其他識別方法的最大特點是它對待識別的對象不要求有太多的分析與了解,具有一定的智能化處理的特點。神經網絡的學習過程實際上就是不斷地調整權值和閾值的過程。根據(jù)有無訓練樣本的指導可以將神經網絡的學習方式分為兩種:監(jiān)督學習方式和非監(jiān)督學習方式,也稱為有導師指導學習方式和無導師指導學習方式。監(jiān)督學習方式,是在給定固定的輸入輸出樣本集的情況下,由網絡根據(jù)一定的學習規(guī)則進行訓練學習,每一次學習完成后,通過對比實際的輸出和期望的輸出,以此決定網絡是否需要再學習,如果還沒有達到期望的誤差,則將實際誤差反饋到網絡,進行權值和閾值的調整,使實際的誤差隨著學習的反復進行而逐步減小,直至達到所要求的性能指標為止。非監(jiān)督學習方式,是在沒有外界的指導下進行的學習方式,在學習過程中,調整網絡的權重不受外來教師的影響,但在網絡內部會對其性能進行自適應調節(jié)。

BP神經網絡分類器的設計

BP神經網絡是基于誤差反向傳播算法(Back Propagation Algorithm,BPA)的多層前向神經網絡,由輸入層、輸出層、一個或多個隱含層所組成。BP神經網絡結構確定之后,通過對輸出和輸入樣本集進行訓練,反復修正網絡的權值和閾值,達到學習訓練的期望誤差,以使網絡能夠實現(xiàn)給定的輸入輸出映射關系。BP人工神經網絡的學習過程分為兩個階段,第一階段是輸入己知的學習樣本數(shù)據(jù),給定網絡的結構和初始連接權值和閾值,從輸入層逐層向后計算各神經元的輸出;第二階段是對權值和閾值進行修改,即根據(jù)網絡誤差從最后一層向前反饋計算各層權值和閾值的增減量,來逐層修正各層權值和閾值。以上正反兩個階段反復交替,直到網絡收斂。具體實現(xiàn)步驟如下:

(1) 網絡的初始化:首先對輸入的學習訓練樣本進行歸一化處理,對權值矩陣W和閾值向量賦初值,將網絡計數(shù)器和訓練次數(shù)計數(shù)器置為1,網絡誤差置為0。

(2) 輸入訓練樣本,計算輸入層,隱含層以及輸出層的實際輸出。

(3) 計算網絡輸出誤差。將實際的輸出和期望的輸出值進行對比,采用均方根誤差指標作為網絡的誤差性能函數(shù)。

(4) 若誤差還沒達到期望標準,則根據(jù)誤差信號,逐層調整權值矩陣和閾值向量。

(5) 若最終調整之后的網絡輸出達到了誤差范圍之內,則進行下一組訓練樣本繼續(xù)訓練網絡。

(6) 若全部的訓練樣本訓練完畢,并且達到了期望的誤差,則訓練結束,輸出最終的網絡聯(lián)接權值和閾值。

BP神經網絡可以逼近任意連續(xù)函數(shù),具有很強的非線性映射能力,而且BP神經網絡中間層數(shù)、各層神經元數(shù)及網絡學習速率等參數(shù)均可以根據(jù)具體情況設定,靈活性較強,所以BP神經網絡在許多領域中廣泛應用。一般來說,神經網絡方法應同傳統(tǒng)的人工智能方法相聯(lián)系的。神經網絡本身結構及性能上的特點使其對問題的處理更富有彈性,更加穩(wěn)健。神經網絡的基本特點是采用自下而上的設計思路,使其容易確定具體的目標分割或識別算法,在增加了不確定因素的同時也產生了網絡最優(yōu)化的問題,這就是所謂的偽狀態(tài)(pseudo-trap)。盡管在實踐中并非所有的偽狀態(tài)對應完全失敗的結果,但是畢竟這不符合對之完美的或者說合理的期望。人工智能則一般采用自上而下的方法,偏重于邏輯推理建立系統(tǒng)模型。因此將神經網絡同人工智能結合起來,相當于賦予神經網絡高層指導的知識及邏輯推理的能力,具有潛在的優(yōu)勢。

輸入層中間層 輸出層

圖1 BP人工神經網絡結構

BP神經網絡的訓練

4.1 BP神經網絡的設計

BP神經網絡的設計主要包括兩方面內容:一是神經網絡結構的確定,特別是隱含層層數(shù)及隱含層單元數(shù)目的確定;二是高精度收斂問題,隱含層和隱含層單元數(shù)過多,將導致訓練時間過長并出現(xiàn)過度擬和的問題,隱含層單元數(shù)過少又導致網絡收斂速度慢甚至不收斂,達不到誤差精度要求。在確定隱含層層數(shù)以及隱含層單元數(shù)目時,沒有一個嚴格的理論依據(jù)指導,需要根據(jù)特定的問題,結合經驗公式確定大致范圍來進行逐步試算比較得到。

4.2 數(shù)據(jù)預處理

為了加快網絡的訓練速度,通常在網絡訓練前進行神經網絡輸入和輸出數(shù)據(jù)預處理,即將每組數(shù)據(jù)都歸一化變?yōu)閇-1,1]之間的數(shù)值的處理過程。

4.3 神經網絡的訓練

%當前輸入層權值和閾值

inputWeights=net.IW{1,1}

inputbias=net.b{1}

%當前網絡層權值和閾值

layerWeights=net.LW{2,1}

layerbias=net.b{2}

%設置訓練參數(shù)

net.trainParam.show = 1000;%限時訓練迭代過程

net.trainParam.lr = 0.1; %學習率,缺省為0.01

net.trainParam.epochs = 100000; %最大訓練次數(shù),缺省為100

net.trainParam.goal = 0.001; %訓練要求精度,缺省為0

[net,tr]=train(net,P,T);%調用 TRAINGDM 算法訓練 BP 網絡

A = sim(net,P) %對 BP 網絡進行仿真

E = T - A;%計算仿真誤差

MSE=mse(E)

結束語

BP網絡因為具有較強的學習性、自適應型和容錯性,在很多領域均已經大量運用。本文將BP人工神經網絡運用于圖像的識別,探索人工神經網絡在圖像識別領域中的重要的現(xiàn)實意義。研究表明,BP人工神經網絡應用于圖像識別在一定程度上提高了識別的效率和準確率。但是,BP神經網絡算法還存在以下幾點不足之處:(1)權的調整方法存在局限性,容易陷入局部最優(yōu);(2)網絡的結構需要提前指定或者在訓練過程中不斷的修正;(3)過分依賴學習樣本,由于學習樣本是有限的或者學習樣本質量不高,那么會導致訓練達不到效果;(4)對于規(guī)模較大的模式映射問題,存在收斂速度慢、容易陷入局部極小點、判斷不準確等缺陷??傊绾谓鉀Q以上問題,如何進一步提高識別精度,擴大識別范圍,使之更具有更好的工程實用性,是有待進一步研究的內容。

參考文獻:

[1] WE Blanz,S L Gish.A Connectionist Classifier Architecture Applied to Image Segmentation.Proc.10th ICPR,1990,272-277.

[2] Y Le Cun,L D Jackel,B Boser,J S Denker,H P Graf,I Guyon,D Henderson,R E Howard,and W Hubbard,Handwriten Digit Recognition:Applications of Neural Network Chips and Automatic Learning,IEEE Comm.Magazine.Nov.1989.

[3] A K Jain and K Karu,Automatic Filter Design for Texture Discrimination,Proc.12th Int’l Conf.NeuralNetworks,Orlando,Oct.1994,454-458.

[4] 邊肇其,張學工.模式識別(第二版)[M].清華大學出版社,北京.1999,12.

[5] 陳書海,傅錄祥.實用數(shù)字圖像處理[M].科學出版社,北京.2005.

[6] 萬來毅,陳建勛.基于BP神經網絡的圖像識別研究[J].武漢科技大學學報(自然科學版).2006,6.

[7] 叢爽.面向MATLAB工具箱的神經網絡理論與應用(第2版)[M].北京:中國科學技術出版社,2003.

[8] 王娟,慈林林等.特征方法綜述[J].計算機工程與科學.2005.27(12).68-71.

[9] 賈花萍.基于神經網絡的特征選擇與提取方法研究[J].網絡安全.2008,7.33-35.

[10] 龔聲榮,劉純平等編著.數(shù)字圖像處理與分析[M].清華大學出版社,北京.2006.7.

第4篇:神經網絡的運用范文

在上世紀九十年代初期,利用數(shù)學知識將感知器模型的弊病全面提出,致使社會各界對于人工神經網絡的探究非常少。另一方面,針對邏輯運算的人工神經網絡研究存在一定的弊端,一直沒有被大家發(fā)現(xiàn),因此,致使人工神經網絡探究工程進入嚴重的低谷期。

關于人工神經網絡技術飛速發(fā)展時期,九十年代初期,對于人工神經網絡技術的弊端予以充分解決,尤其是Hopefield的人工神經網絡技術模型的提出,致使對于互聯(lián)網的穩(wěn)定性以及收斂性的探究有了充分的理論依據(jù)。而且將人工神經網絡模型全面應用到具體的實踐中,并且得到全面推廣,同時,將科學技術和人工神經網絡進行有機結合,使人工神經網絡技術更加具有可研究性。

2關于人工神經技術的構造以及典型模型

互聯(lián)網人工神經技術的構造的組成包括以神經元件為主,同時,這項包含多種神經元結構的互聯(lián)網信息處理技術是可以并行存在的。每一個具體的人工神經元件可以單一輸出,還可以和其他的神經元件相結合,并且具有非常多的連接輸出方法,每一種連接措施都會有相應的權系數(shù)。具體的人工神經網絡技術的特點有:(1)針對每一個節(jié)點i,都會有相應的狀態(tài)變量Xi存在;(2)節(jié)點j到節(jié)點i之間,是相應的權系數(shù)Wij存在;(3)在每一個節(jié)點i的后面,具體存在相應的閾值θi;(4)在每一個節(jié)點i的后面,存在變換函數(shù)fi(Xi,Wijθi),但是,通常情況來說,這個函數(shù)取fi(∑,WijXi-θi)的情況。

3將人工神經網絡技術進行全面使用

互聯(lián)網的人工神經網絡技術具有獨特的結構和處理措施,具體包括在:自動控制處理和網絡技術模式識別、模型圖像處理和相應的傳感器信號處理技術。信號處理技術和機器人控制處理技術、地理領域和焊接、在電力系統(tǒng)應用和相關數(shù)據(jù)挖掘、軍事和交通行業(yè)、農業(yè)和氣象行業(yè)等多個領域紛紛體現(xiàn)出其卓越的貢獻。

ART人工神經網絡技術的運用。人工神經網絡技術ART在網絡語音和網絡圖像、文字處理和具體識別等方面,得到廣泛的應用;同時,在工業(yè)處理系統(tǒng)中也有相應的應用,例如,在工業(yè)系統(tǒng)中的故障診斷和故障檢測以及事故警報等情況的控制;人工神經網絡ART技術還應用在數(shù)據(jù)挖掘方面,在相關數(shù)據(jù)中挖掘最穩(wěn)定和最有意義的模式。具體的神經網絡技術ART的優(yōu)勢為:網絡技術處理能力高、穩(wěn)定性強以及聚類效果非常好。

4結束語

第5篇:神經網絡的運用范文

介紹了基于神經網絡的故障針診斷方法和結合模糊理論應用的故障診斷。分析了小波變換的現(xiàn)代模擬電路軟故障診斷的研究現(xiàn)狀。

關鍵詞:

模擬電路;軟故障診斷;神經網絡;模糊理論;小波變換

在最近幾年,現(xiàn)代模擬電路故障診斷方法的研究成為了新的熱點。其中有基于神經網絡。并結合專家系統(tǒng)、小波變換、模糊理論和遺傳算法。“小波神經網絡”和“模糊神經網絡”成為主流的模擬電路軟故障診斷方法。

1基于神經網絡的故障診斷方法

神經網絡有自組織性、自學性、并行性、聯(lián)想記憶和分類功能,這些信息處理特點使其能夠解決一些傳統(tǒng)模式難以解決的問題。其中模擬電路故障診斷中的非線性和容差問題就是運用神經網絡的非線性映射能力和泛化能力來解決的,同時這也是專家門的較為感興趣的研究熱點。基于神經網絡的模擬電路故障診斷方法有一些,其中包括測試節(jié)點的選擇、確定被測故障集、故障特征的提取等步驟,這種方法與基于測前仿真的故障字典法雷同。前者用制作神經網絡和樣本集來儲存特征信息,而且在測試完畢后定位故障是通過神經網絡來處理。所以可以把基于神經網絡的方法當作是基于測后仿真和測前仿真的延伸與綜合。在故障診斷領域,誤差反傳神經網絡(backpropagationneuralnetwork,BPNN)擁有較好的模式分類特性。然而僅僅以節(jié)點電壓視作故障特征訓練的BPNN只能適用于診斷模擬電路的硬故障。在軟故障方面,一般需要基于神經網絡和多種特征提取方法的綜合應用來診斷。

2基于模糊理論應用的模擬電路軟故障診斷

在一些故障診斷問題中,模糊規(guī)則適合描述故障診斷的機理。模糊理論中的模糊運算、模糊邏輯系統(tǒng)、模糊集合擁有對模糊信息的準確應付能力,這使得模糊理論成為故障診斷的一種有力工具。神經網絡與模糊理論相結合,充分發(fā)揮了模糊理論和神經網絡各自的優(yōu)點,并以此來彌補各自的不足,這就是所謂的“模糊神經網絡”。這種方法的基本思想是在BPNN的輸出層和輸入層中間增加一到兩層模糊層構造模糊神經網絡,分別利用神經網絡和模糊邏輯處理低層感知數(shù)據(jù)與描述高層的邏輯框架,這樣一來跟神經網絡分類器相比,“模糊神經網絡”對模擬電路軟故障診斷效果的優(yōu)勢就非常明顯。通過一個無監(jiān)督的聚類算法自組織地確定模糊規(guī)則的數(shù)目并生成一個初始的故障診斷模糊規(guī)則庫,構造了一類模糊神經網絡,通過訓練調整網絡權值,使故障診斷模糊規(guī)則庫的分類更加精確,實現(xiàn)了電路元件的軟故障診斷。

3基于小波變換的模擬電路軟故障診斷

小波變換是一種新的變換分析方法,它繼承和發(fā)展了短時傅立葉變換局部化的思想,同時又克服了窗口大小不隨頻率變化等缺點,能夠提供一個隨頻率改變的"時間-頻率"窗口,是進行信號時頻分析和處理的理想工具。它的主要特點是通過變換能夠充分突出問題某些方面的特征,能對時間(空間)頻率的局部化分析,通過伸縮平移運算對信號(函數(shù))逐步進行多尺度細化,最終達到高頻處時間細分,低頻處頻率細分,能自動適應時頻信號分析的要求,從而可聚焦到信號的任意細節(jié),解決了Fourier變換的困難問題,成為繼Fourier變換以來在科學方法上的重大突破。若滿足時,則由經過伸縮和平移得到的函數(shù)成為小波函數(shù)族。小波變換具有時域局部特征,而神經網絡具有魯棒性、自學習、自適性和容錯性。如何把二者的優(yōu)勢結合起來一直是人們所關注的問題。一種方法是用小波變換對信號進行預處理,即以小波空間作為模式識別的特征空間,通過小波分析來實現(xiàn)信號的特征提取,然后將提取的特征向量送入神經網絡處理;另一種即所謂的小波神經網絡或小波網絡。小波神經網絡是神經網絡與小波理論相結合的產物,最早是由法國著名的信息科學研究機構IRLSA的ZhangQinghu等人1992年提出來的。小波神經用絡是基于小波變換而構成的神經網絡模型,即用非線性小波基取代通常的神經元非線性激勵函數(shù)(如Sigmoid函數(shù)),把小波變換與神經網絡有機地結合起來,充分繼承了兩者的優(yōu)點。近幾年來,國內外有關小波網絡的研究報告層出不窮。小波與前饋神經網絡是小波網絡的主要研究方向。小波還可以與其他類型的神經網絡結合,例如Kohonen網絡對信號做自適應小波分解。

由于神經網絡、小波變換、模糊理論在當今的發(fā)展上還不是很完善,例如在診斷中,模糊度該如何準確地定量化,對小波變換之后故障信號進行怎樣構造能體現(xiàn)故障類別的特征等,因此這些基于神經網絡的診斷方法或多或少地存在一些局限性。一般來說,神經網絡方法的長處并不是提高診斷精度,而且無論運用什么方法,在選取狀態(tài)特征參量和確定電路故障集方面,傳統(tǒng)的故障診斷方法仍然具有理論上的指導意義。所以,抽取合理的故障特征比構造合適的神經網絡更為重要。

參考文獻:

[1]梁戈超,何怡剛,朱彥卿.基于模糊神經網絡融合遺傳算法的模擬電路故障診斷法[J].電路與系統(tǒng)學報,2004,9(2):54-57.

[2]譚陽紅,何怡剛.模擬電路故障診斷的小波方法[J].電工技術學報,2005,20(8):89-93.

第6篇:神經網絡的運用范文

【關鍵詞】混合時滯 神經網絡 穩(wěn)定性分析

【中圖分類號】G642 【文獻標識碼】A 【文章編號】2095-3089(2016)04-0237-02

人工神經網絡是基于人腦的功能,通過建構與生物神經元類似的電路結構,從而在微觀的層次上實現(xiàn)對人類智能的仿真。神經網絡是由神經元的相互連接而形成的,反映在數(shù)學中,神經元實質上就是適當?shù)暮瘮?shù),也被稱為激活函數(shù)。神經網絡在模式識別、優(yōu)化計算、智能控制以及聯(lián)想記憶等領域得到了廣泛的應用,發(fā)展前景非常的廣闊[1]。

一、混合時滯神經網絡發(fā)展的脈絡

穩(wěn)定性研究的開始可以追溯到十九世紀末期的Lyapunov理論和Poincare理論,在我國對穩(wěn)定性進行充分研究的是著名物理學家錢學森,錢學森在其著名的《工程控制論》中,明確指出,穩(wěn)定性是系統(tǒng)控制的第一要求。美國的著名數(shù)學家LsSalle也說過,吸引全世界的數(shù)學家注意的點就是穩(wěn)定性。由此可見,穩(wěn)定性在數(shù)學研究中具有極其重要的作用[2]。

大部分的動力系統(tǒng)都會隨著時間的演化不僅依賴于系統(tǒng)的當前狀態(tài),并且還會依賴于系統(tǒng)過去的某個時刻,這就是被科學家們稱作的時滯動力系統(tǒng)。在工程系統(tǒng)中,時滯一般是指對測控過程中的測量時滯、形成控制決策所需要的時滯以及信號傳輸中的時滯等,這也是為什么大部分的動力學系統(tǒng)都需要時滯動力系統(tǒng)來進行描述的主要原因。事實上,時滯系統(tǒng)的初始狀態(tài)空間是一個無限維的空間,而且沒有特殊的性質,因此對其進行理論分析非常困難 [3]。

二、混合時滯神經網絡穩(wěn)定性的發(fā)展研究分析

系統(tǒng)的穩(wěn)定性在神經網絡的應用中非常的廣泛,如最優(yōu)化的問題研究、模式識別研究以及圖像處理研究等,都需要運用系統(tǒng)的穩(wěn)定性。在上個世紀,有很多文獻都給出了不同類型神經網絡的穩(wěn)定性判據(jù),最著名的當屬Hopfield神經網絡。神經網絡規(guī)模的應用范圍也在不斷的擴大,人們對時滯神經網絡模型的研究也越來越深入。時滯通常是由定時的時滯發(fā)展到連續(xù)分布的時滯。當前神經網絡穩(wěn)定性的研究領域運用的主要方法就是Lyapunov泛函,然后再利用不同的不等式來對不等式進行分析,從而得到具有穩(wěn)定性的數(shù)據(jù)[4]。

在優(yōu)化問題的應用中,需要根據(jù)問題的基本特征,對設計所要求的神經網絡達到唯一的、全局的漸進穩(wěn)定的平衡點。當神經網絡應用于實時的計算時,為了有效的提高收斂的速度,就需要神經網絡必須具有非常高的指數(shù)收斂度。這也是時滯神經網絡的全局漸近穩(wěn)定性與全局指數(shù)穩(wěn)定性研究如此吸引人的最為主要的原因。時滯反饋網絡的應用和研究需要大量的具有穩(wěn)定性的數(shù)據(jù)作為基礎,因此,人們需要在不斷擴展的網絡模型的條件下放寬對網絡中所有參數(shù)和激勵函數(shù)的限制。只有這樣,才能更好的促進神經網絡研究的快速發(fā)展[5]。

目前,對時滯反饋神經網絡解的穩(wěn)定性進行判別和分析的主要方法是Lyapunov方法,在進行判別和分析時,需要同時結合泛函數(shù)的分不等式穩(wěn)定性理論來推導網絡解的穩(wěn)定性,通過這一方法能夠將穩(wěn)定性的研究放到某個適當?shù)亩x系統(tǒng)的軌跡上,而且通過對這些泛函數(shù)的研究分析,能夠得到穩(wěn)定性的相應條件。這些穩(wěn)定性條件的最常用的表述形式就是我們經常用的線矩不等式、系數(shù)矩陣的范數(shù)不等式以及Hanalay微分不等式。在這一研究領域,由于線矩不等式方法對系統(tǒng)的參數(shù)的限制比其它方法要少,而且比較容易驗證,因此,這種方法在穩(wěn)定性理論的研究中應用的非常的廣泛[6]。

三、混合時滯神經網絡的穩(wěn)定性分析研究

最近幾年,隨著人們對穩(wěn)定性研究的進一步發(fā)展,人們對于驅動-響應系統(tǒng)的同步問題更加的重視,而且經過大量的實踐和理論分析,人們發(fā)現(xiàn)驅動-響應系統(tǒng)是包含同樣的激活函數(shù)的。但是,在實際的模型中,驅動-響應系統(tǒng)卻含有不同的激活函數(shù),需要對非恒同的情況進行分析研究,也就是說驅動-響應系統(tǒng)的激活函數(shù)含有不相匹配的參數(shù),致使對混沌系統(tǒng)的同步控制變得更加的復雜。由此可知,研究混合時滯神經網絡的穩(wěn)定性是非常有必要的[7]。

如下混合時滯神經網絡

其中,是神經元的狀態(tài),

。在(1)中,是定義在上的實值內部函數(shù)。代表離散時滯,表示分布時滯;代表外部輸入;;,,,分別代表連接權矩陣,離散時滯連接權矩陣和分布時滯連接權矩陣。

對于如下兩種情形的時滯,

第一種情形是,如果所有的和給定的標量 、h>0和,

是一個可微函數(shù),且滿足以下條件:,,

是一個連續(xù)函數(shù)且滿足以下條件

。 。

第二種情形是,如果所有的和給定的標量 、h>0和,且和都是連續(xù)的函數(shù),且函數(shù)和函數(shù)滿足以下條件:

假設是系統(tǒng)(1)的平衡點,那么會得到如下系統(tǒng)

根據(jù)上面的條件我們可以得出對于混合時滯神經網絡系統(tǒng)(2), 在滿足一定條件的第一種情況和第二種情況下,它的平衡點是全局指數(shù)穩(wěn)定的 [8]。

時滯神經網絡的穩(wěn)定性在理論和實踐方面都得到了廣泛的研究,但是對混合時滯的神經網絡模型穩(wěn)定性的研究并不是很多。除此之外,在神經網絡穩(wěn)定性的研究領域,雖然有很多大量的判別條件,不過由于大部分的條件都需要采用計算矩陣范數(shù)的方法來進行,在進行驗證的時候也比較的困難,而且限制條件也非常的嚴格,在實際中的應用比較少。通過利用線性矩陣不等式研究神經網絡的穩(wěn)定性能夠在很大程度上克服以上提及的缺點,所得到的條件更少保守,并且更容易得到充分的驗證[9]。

線性矩陣不等式的研究在最近幾年受到人們的廣泛關注的原因,既有理論方面的原因,也有實踐方面的原因。從理論上來說,人們可以利用很多的矩形運算技巧來對線性矩陣不等式問題進行研究和推理;但是,從實際的觀點來說,線性矩陣不等式問題也可以憑借數(shù)值算法并借助電腦的強大的運算能力從而快速、有效的求出數(shù)值解,最終使得線性矩陣不等式的求解變得更加的容易控制,從而使問題的解決更加可行。假設可以將一個復雜的問題轉換成線性矩陣不等式問題,那么就能夠利用Matab的LMI Toolbox進行求解了。

運用線性矩陣的不等式對混合時滯條件下的神經網絡的穩(wěn)定性進行研究分析,可以充分掌握神經網絡的全局指數(shù)的穩(wěn)定性。通過建構新的Lyapunov-Krasovkii泛函,利用隨機微分與矩陣變換技巧導出線性矩陣不等式的穩(wěn)定性數(shù)據(jù)。由于線性矩陣不等式的穩(wěn)定性數(shù)據(jù)比利用矩陣范數(shù)進行估計的判據(jù)更為保守,因此,人們可以利用MATLAB提供的線性矩陣不等式工具箱進行求解驗證,從而真正應用于實踐[10]。

人們按照Lyapunov的穩(wěn)定性理論,建構了新型的Lyapunov-Krasovskii泛函。從而對混合時滯條件下神經網絡的穩(wěn)定性進行了科學、合理的分析。在對混合時滯條件下的神經網絡的穩(wěn)定性進行分析時,線性矩陣不等式的應用為對時滯穩(wěn)定性的進一步研究提供了有利的條件。同時,對網絡中所包含的隨機擾動采用了隨機微分公式的討論模式,從而使得混合時滯條件下的神經網絡能夠應用Lyapunov的穩(wěn)定性討論技巧與方法。在模型中對激活函數(shù)或者連接權矩陣的限制對混合時滯條件下的神經網絡的研究深有幫助,而且采用線性矩陣不等式的表示方式,比之前的矩陣范數(shù)的判別條件要更加的有利。

四、結語

綜上所述,混合時滯條件下的神經網絡的穩(wěn)定性分析是以Lyapunov的穩(wěn)定性理論與線性矩陣不等式技術為基礎,同時利用積分不等式的方法,對混合時滯條件下的神經網絡的穩(wěn)定性進行了科學、合理的分析,并給出了時滯依賴指數(shù)穩(wěn)定性的基本準則,從而將對混合時滯條件下的神經網絡的穩(wěn)定性的研究又向前推進了一大步。

參考文獻:

[1]武志鵬.帶有混合時滯的神經網絡的穩(wěn)定性分析[D].山西大學,2008.

[2]劉曉琳.混合變時滯神經網指數(shù)穩(wěn)定性分析[D].曲阜師范大學,2009.

[3]王寧,孫曉玲.基于LMI的混合時滯隨機神經網絡指數(shù)穩(wěn)定性[J].計算機仿真,2010,07:125-129.

[4]張金.具混合時滯的隨機神經網絡的穩(wěn)定性分析[J].蘇州大學學報(自然科學版),2011,02:16-22.

[5]吳文娟,劉德友,張靜文,劉海濤.具有混合時滯的隨機Hopfield神經網絡的穩(wěn)定性分析[J].蘭州理工大學學報,2011,03:89-93.

[6]陳一鳴,徐增輝,趙所所,周志全.具有混合時滯隨機離散神經網絡的漸近穩(wěn)定性分析[J].鄭州大學學報(理學版),2011,04:33-38.

[7]耿立杰,李海穎,張曉靜,蘇廣.具有混合時滯的隨機反應擴散神經網絡指數(shù)穩(wěn)定性[J].工程數(shù)學學報,2014,05:687-696.

[8]龍述君,張永新,向麗.具有混合時滯的隨機細胞神經網絡的穩(wěn)定性分析[J].四川師范大學學報(自然科學版),2012,06:796-801.

第7篇:神經網絡的運用范文

關鍵詞:科技型創(chuàng)業(yè)企業(yè);信用評價;BP神經網絡

中圖分類號:F27

文獻標識碼:A

文章編號:16723198(2015)23006203

1 引言

目前,科技型創(chuàng)業(yè)企業(yè)已成為推動國民經濟持續(xù)健康發(fā)展的重要動力之一,然而在其發(fā)展和壯大過程中也最容易出現(xiàn)制約其發(fā)展的問題。由于科技型創(chuàng)業(yè)企業(yè)需要大量的資金投入,融資問題已成為影響其是否取得成功的關鍵因素。在國內企業(yè)取得融資的有限渠道中,銀行和金融市場起著至關重要的作用,但往往由于市場信息的不對稱以及企業(yè)信息不透明等因素的限制,出于規(guī)避高昂的監(jiān)督成本和收益的高度不確定性等風險,銀行和金融機構在放貸額度中給予科技型創(chuàng)業(yè)企業(yè)的融資額度相對有限。由于科技型創(chuàng)業(yè)企業(yè)的研發(fā)周期長,在缺乏有效的外部融資的狀況下,即使項目有大好投資前景,企業(yè)也有較大的失敗風險,最終無法發(fā)揮出科技型創(chuàng)業(yè)企業(yè)對企業(yè)技術創(chuàng)新的促進作用。因此,對國內科技型創(chuàng)業(yè)企業(yè)進行信用評價,建立適合其特征的信用評價模型,來提高其信用水平、財務信息透明度、拓寬其融資渠道十分必要。目前國內針對企業(yè)信用評價的研究有了一定的發(fā)展,但統(tǒng)一的主要針對科技型創(chuàng)業(yè)企業(yè)信用評價的指標體系和評價模型尚未形成。

傳統(tǒng)的企業(yè)信用評價模型主要有專家打分法、信用評級方法和信用評分方法等,現(xiàn)代的信用評價模型主要有:KMV模型、財務比率分析模型、Logit回歸模型、神經網絡模型、模糊綜合評價法和AHP(Analytical Hierarchy Process)法。由于企業(yè)的信用風險與反映企業(yè)信用風險狀況的各項指標變量之間通常具有非線性的關系,而上述企業(yè)信用評價方法都不能有效解決變量之間的非線性關系,也不能有效解決指標變量存在的非正態(tài)分布問題。由于神經網絡模型在解決變量間的非線性關系問題中具有優(yōu)越性,在Odom(1990年)運用神經網絡模型解決企業(yè)信用評價問題之后,神經網絡模型逐漸獲得了相關實踐者和學者的極大關注。Tam(1991)、Kiang(1992)、Datta(1991)和Shekhar(1992)將神經網絡模型用于銀行破產預測,Altman(1994)將其用于對意大利企業(yè)經營成敗狀況進行預測,取得了比多元判別分析模型預測結果更加準確的結果。根據(jù)小微型科技企業(yè)信用狀況的特點,何躍、蔣國銀(2005)運用人工神經網絡原理構建了三層BP神經網絡信用評價模型,該模型的優(yōu)點是具有較強的自學習和非線性處理能力,針對小微型科技企業(yè)信用狀況的預測具有較高的預測結果。國內許多學者(鮑盛祥、殷永飛,2009;龐素琳,2012)認為,在變量之間是非線性關系的情況下,人工神經網絡模型的精度優(yōu)于傳統(tǒng)的統(tǒng)計方法。

2 BP神經網絡概述

BP神經網絡具有準確性高、誤差小、收斂速度快的顯著優(yōu)勢,相比其他企業(yè)信用評價方法,BP神經網絡模型的自學習能力和自聯(lián)想功能較強,也不要求樣本數(shù)據(jù)呈正態(tài)分布、滿足先驗概率已知以及協(xié)方差相等要求,同時也具有能夠有效解決非線性分類問題、對樣本數(shù)據(jù)容量不做具體要求等優(yōu)勢,是處理企業(yè)信用評價問題的理想方法。因此,本文使用BP神經網絡來建立適合科技型創(chuàng)業(yè)企業(yè)的信用評價模型。

神經網絡內部依次為輸入層、隱含層、輸出層,BP神經網絡屬于前向反饋神經網絡,BP神經網絡的學習算法包含了正向和反向傳播兩個過程,正向傳播過程即為:指標變量信息由輸入層經隱含層各神經元傳向輸出層,前層神經元的處理結果只對后層神經元的結果產生影響,如果最后輸出層產生的結果與期望輸出不符,則自動轉變?yōu)榉聪騻鞑ミ^程。反向傳播即為:將輸出誤差經隱含層神經元向輸入層逐層反饋,在此過程中,網絡會將誤差均攤給各層的每一個神經元,從而網絡可以取得各層神經元傳來的誤差信號,網絡將其作為修正各神經元權值的依據(jù),經過權值的不斷調整使網絡完成訓練。權值的調整過程持續(xù)到預先設定的學習次數(shù)或輸出誤差減小到可接受程度為止。三層前饋BP神經網絡的結構如圖1所示。其中,X=(x1,x2,……,xn)代表輸入向量,Y=(y1,y2,……,ym)代表輸出向量,n和m分別代表輸入和輸出向量的維數(shù)。不同層間的神經元屬于全互聯(lián)接,每層次內的神經元沒有任何連接。

來衡量其信用的高低。反映科技型創(chuàng)業(yè)企業(yè)經營和財務狀況的財務指標具體包括償債能力、盈利能力、營運能力和成長能力等方面。本文在借鑒現(xiàn)有企業(yè)信用評價研究成果并結合科技型創(chuàng)業(yè)企業(yè)的特征,選擇出16項可以有效反映科技型創(chuàng)業(yè)企業(yè)特點的財務指標。為解決某些財務指標變量間高度的相關性問題,本文通過SPSS 19.0軟件,使用因子分析法對這些指標變量進行分析和整理,在刪除那些與科技型創(chuàng)業(yè)企業(yè)信用狀況不相關或與其他指標高度相關的指標后,本文最終確定了包含12項指標變量的指標體系作為下文對科技型創(chuàng)業(yè)企業(yè)的信用狀況進行評價的指標體系(如圖1所示)。但由于保留的指標變量間還可能存在多重共線性問題,為保證評價結果的準確性、可靠性,本文再次對其進行因子分析來提取公因子,以特征根大于1且累計方差貢獻率大于80%作為提取公因子的標準,通過分析本文提出了5個能夠體現(xiàn)原始變量的主要信息的公因子,它們即為下文評價模型中的輸入變量。

由于選取的樣本企業(yè)的各項財務指標包含了不同的量綱和數(shù)量級,本文首先將各指標變量進行標準化處理,從而使各個指標變量都具有共同的數(shù)值特性。本文運用的標準化方法如下式所示:

Xij=xij-xjσj,其中,Xj為原始數(shù)據(jù)的均值,Xj=1ni=1xi,σj為原始數(shù)據(jù)的標準差,σj=1nni=1(xij-xj)。

4 科技型創(chuàng)業(yè)企業(yè)信用評價實證分析

4.1 BP神經網絡的設計

BP神經網絡可以根據(jù)實際情況來設置一個或者多個隱含層,當樣本較多時,增加一個隱含層可以顯著減小網絡規(guī)模。由于包含單個隱含層網絡可以通過適當調增神經元個數(shù)來實現(xiàn)任意非線性映射,所以,包含單個隱含層的神經網絡即可解決大部分場合下問題。因此本文建立的BP神經網絡模型包含單個隱含層。

(1)輸入層和輸出層神經元個數(shù)。輸入層神經元個數(shù)等于輸入變量的個數(shù),由于本文得到了5個公因子,因此輸入層神經元數(shù)n=5。輸出層神經元的個數(shù)m取決于科技型創(chuàng)業(yè)企業(yè)信用評價結果類別。本文用輸出“1”表示中小企業(yè)信用正常,用輸出“0”表示中小企業(yè)信用較差,因此本文建立的模型的輸出層神經元的個數(shù)為1。

(2)隱含層神經元個數(shù)。隱含層神經元個數(shù)的確定目前還沒有一個理想的解析式,通常根據(jù)經驗公式來確定。

常用的經驗公式為:n1=n+m+a,其中m為輸出層個數(shù),n為輸入層個數(shù),a為[1,10]之間的常數(shù),有上文可知,m=1,n=5,代入公式可知隱含層個數(shù)的取值范圍為(3,13),經過實際對比分析,當隱含層選10時,訓練誤差較小,因此,本文設定隱含層個數(shù)為10。

(3)訓練函數(shù)的選擇。本文建立的BP神經網絡模型的輸入層和輸出層函數(shù)均為Sigmoid函數(shù),并設定最大訓練步長epoch=1500。

(4)樣本原始數(shù)據(jù)來源。本文選擇了100家在創(chuàng)業(yè)板和新三板上市的科技型創(chuàng)業(yè)企業(yè)的財務數(shù)據(jù)作為實證樣本數(shù)據(jù)進行訓練,各項數(shù)據(jù)取自于瑞思數(shù)據(jù)庫和東方財富Choices數(shù)據(jù)庫。為了確保能夠得到可靠、準確的訓練結果,樣本企業(yè)行業(yè)的選取包含了電子、化工、制藥、家電、生物科技、機械制造、金屬加工等多個行業(yè)部門,能夠反映科技型創(chuàng)業(yè)企業(yè)的特征。

4.2 實證分析與結果輸出

本文運行Matlab2014a版本并運用編寫的程序將100家企業(yè)各自的5項主因子作為輸入變量,對網絡進行訓練和檢驗并對訓練樣本進行了仿真。本文將前90家企業(yè)數(shù)據(jù)作為訓練樣本來訓練網絡,將后10家企業(yè)數(shù)據(jù)作為檢驗樣本代入網絡以檢驗網絡的預測精度。對于得出的預測結果設定以0.5為分界值,如過大于05,則將公司判定為信用好的企業(yè),反之則判定為信用差的企業(yè)。由圖2可知網絡可以以較快的速度實現(xiàn)收斂。

為了抵消隨機因素的影響,本文取相同的訓練參數(shù)和測試樣本代入網絡重復運算20次,統(tǒng)計正確率和迭代次數(shù)(如圖3所示),20次訓練結果如表2。

由網絡20次訓練結果(表2)可知,使用BP神經網絡模型對實證樣本數(shù)據(jù)進行預測的結果和期望輸出對比后,模型的平均正確率達到83%,預測精度較高,適合作為預測科技型創(chuàng)業(yè)企業(yè)信用狀況的評價模型。實證結果表明,利用BP神經網絡對科技型創(chuàng)業(yè)企業(yè)進行信用評價,具有較高的可操作性和準確性。

5 結論

本文在借鑒國內外現(xiàn)有的企業(yè)信用評價理論和相關研究成果的基礎上,結合科技型創(chuàng)業(yè)企業(yè)的特點構建了適合對其進行信用評價的指標體系,然后在運用因子分析提取反映企業(yè)信用狀況的公因子作為代入模型的指標變量,據(jù)此建立了BP神經網絡信用評價模型,通過對國內100家在創(chuàng)業(yè)板和新三板上市公司的實際數(shù)據(jù)進行分析,得出的實證結果表明使用BP神經網絡對科技型創(chuàng)業(yè)企業(yè)進行信用評價的平均正確率可以達到83%,具有較高的準確率和可操作性。因此,金融機構可以據(jù)此加強對科技型創(chuàng)業(yè)企業(yè)的信用評價,篩選優(yōu)秀的科技型創(chuàng)業(yè)企業(yè)借款人以降低信用風險,同時也可改善科技型創(chuàng)業(yè)企業(yè)與金融機構之間的信息不對稱程度,使科技型創(chuàng)業(yè)企業(yè)能夠獲得更多的融資機會,促使其能夠以健康的方式持續(xù)的發(fā)展,進而充分發(fā)揮出其促進企業(yè)技術創(chuàng)新的作用。

參考文獻

[1]龐素琳.信用評價與股市預測模型研究及應用統(tǒng)計學、神經網絡與支持向量基方法[M].北京:科學出版社,2005.

[2]遲國泰,章穗,齊菲.小企業(yè)貸款信用評價模型及實證研究―基于最優(yōu)組合賦權視角[J].財經問題研究,2012,(9):5357.

[3]李菁苗,吳吉義,章劍林等.電子商務環(huán)境下中小企業(yè)信用評價[J].系統(tǒng)工程理論與實踐,2012,(3):555560.

[4]劉湘勤,龍海雯.銀行結構、信用環(huán)境與中小企業(yè)發(fā)展:基于中國跨省數(shù)據(jù)的實證分析[J].西北大學學報(哲學社會科學版),2007,(6):159161.

[5]譚慶美,吳金克,趙黎明.基于BP神經網絡的中小企業(yè)信用評價研究[J].西北農林科技大學學報(社會科學版),2009,(5):5762.

[6]邢樂成,梁永賢.中小企業(yè)融資難的困境與出路[J].濟南大學學報(社會科學版),2013,(2):17.

第8篇:神經網絡的運用范文

【摘要】 將小麥葉片原始光譜經過預處理后,采用主成分分析(PCA)對數(shù)據(jù)進行降維,取前3個主成分輸入小波神經網絡,建立了基于主成分分析和小波神經網絡的近紅外多組分預測模型(WNN);進一步研究了小波基函數(shù)個數(shù)的選取(WNN隱層節(jié)點數(shù))對小波神經網絡模型性能的影響,并將WNN模型與偏最小二乘法(PLS)和傳統(tǒng)的反向傳播神經網絡(BPNN)模型進行了比較。結果表明,所建立的WNN模型能用于同時預測小麥葉片全氮和可溶性總糖兩種組分含量,其預測均方根誤差(RMSEP)分別為0.101%和0.089%,預測相關系數(shù)(R)分別為0.980和0.967。另外,在收斂速度和預測精度上,WNN模型明顯優(yōu)于BPNN和PLS模型,從而為將小波神經網絡用于近紅外光譜的多組分定量分析奠定了基礎。

【關鍵詞】 小波神經網絡, 主成分分析, 近紅外光譜, 小麥葉片, 全氮, 可溶性總糖

本文系教育部新世紀優(yōu)秀人才支持計劃(No.NCET080797)、國家自然科學基金(No.30871448)、國家科技支撐計劃(No.2008BADA4B02)、江蘇省創(chuàng)新學者攀登計劃(No.BK20081479)和江蘇省自然科學基金(No.BK2008330)資助

1 引 言

近紅外光譜(NIR)分析技術以其快速、環(huán)保、可多組分同時檢測等優(yōu)點[1],在各個領域得到了廣泛應用[2]。NIR屬于弱信號,信息提取必須依靠化學計量學才能實現(xiàn),傳統(tǒng)的定量校正方法,如偏最小二乘法(PLS),僅適用于線性模型,而實際應用中卻存在很多非線性關系[3]。人工神經網絡可解決連續(xù)非線性函數(shù)的逼近,在多組分分析中優(yōu)勢明顯,其中反向傳播(BP)算法是采用最多也是最成熟的神經網絡訓練算法之一[4],但是BP網絡(BPNN)存在著易陷于局部最小和收斂速度慢等弱點[5,6]。

小波神經網絡(Wavelet neural network, WNN)已經在化學領域得到了廣泛應用[7,8]。小波神經網絡綜合了小波多尺度分析和神經網絡自學習的優(yōu)點,因而具有比傳統(tǒng)神經網絡更快的收斂速度和更強的逼近性能。已有的多組分預測模型大都采用PLS方法[9]和傳統(tǒng)BP網絡[10,11],而將小波神經網絡用于近紅外光譜定量分析的報道較少。小波神經網絡用于函數(shù)優(yōu)化時,其輸入層的維數(shù)和小波基函數(shù)都不能太多,否則會大大增加模型參數(shù)[12]。主成分分析(Principal component analysis, PCA)是對光譜數(shù)據(jù)壓縮和信息提取的有效方法[13],通過提取少數(shù)幾個主成分(即原始變量的線性組合),并把它們作為小波神經網絡的輸入,既可以保證輸入數(shù)據(jù)的精度,又可以大大加快神經網絡的收斂速度[14,15]。

本研究首先運用主成分分析方法(PCA)從預處理后的小麥葉片近紅外光譜中提取主成分,以達到降維目的;然后將降維后得到的主成分作為小波神經網絡的輸入,建立基于主成分分析和小波神經網絡的近紅外多組分預測模型,以用于同時預測小麥葉片全氮和可溶性總糖含量;最后通過與PLS方法和傳統(tǒng)神經網絡的比較分析,檢驗小波神經網絡模型的收斂速度和預測精度。

2 理論部分

2.1 主成分分析

主成分分析(PCA)是一種數(shù)據(jù)壓縮的常用方法,通過少數(shù)幾個主成分(即原始變量的線性組合)解釋多變量的方差, 即導出少數(shù)幾個主成分,使它們盡可能完整地保留原始變量的信息,且彼此間不相關,以達到簡化數(shù)據(jù)的目的。將該方法結合神經網絡用于近紅外光譜定量分析,既能保證輸入數(shù)據(jù)的精度、減少訓練時間,又能簡化網絡結構[13]。

2.2 小波神經網絡理論

小波神經網絡(WNN)是將小波理論與人工神經網絡的思想相結合而形成的一種新的神經網絡[7]。它將傳統(tǒng)神經網絡中的隱層節(jié)點激勵函數(shù)(如Sigmoid函數(shù))用小波函數(shù)Ψ來代替, 圖1 小波神經網絡結構

Fig.1 Structure of wavelet neural network相應的輸入層到隱層的權值及隱層閾值分別由小波函數(shù)的伸縮參數(shù)a與平移參數(shù)b所代替,而輸出層通常為線性神經元,它將隱層的小波伸縮系進行線性疊加形成輸出結果。對于一個單隱層的神經網絡,假設有p個輸入節(jié)點,h個隱層節(jié)點,q個輸出節(jié)點,則小波神經網絡的結構如圖1所示,其輸出表達式見公式(1):fk(x)=∑hj=1wjk[ψ(∑pi=1xi-bjaj)](1)其中,xi(i=1, 2, …, p)為輸入層第i個輸入變量,k =1, 2, …, q,h為隱層節(jié)點數(shù),Ψ為隱層的小波基函數(shù),wjk是隱層第j個節(jié)點到輸出層第k個節(jié)點的連接權值,bj和aj分別是小波函數(shù)的平移參數(shù)(隱層節(jié)點的閾值)和伸縮參數(shù)(輸入層到隱層節(jié)點的權值)。由此可見,小波網絡可調整的參數(shù)包括wjk、bj和aj,共有3×h個,它們通過最小均方誤差函數(shù)得到優(yōu)化。本研究選擇常用的Morlet小波函數(shù)[16]作為小波神經網絡的隱層激勵函數(shù),該小波是余弦調制的高斯波,時頻域分辯率較高。

3 實驗部分

3.1 樣品和儀器

3.1.1 樣品來源 樣品采自以下2個小麥田間試驗,于主要生育期獲取小麥不同葉位的葉片共144份,殺青烘干后粉碎過40目篩,用自封帶密封后置于干燥器中備用。實驗1 2006~2007年在江蘇南京市農林局試驗站(南京市江寧區(qū),118°59′E,31°56′N)進行。土壤有機質含量1.01%、全氮含量0.11%、速效氮含量90.3 mg/kg、速效磷含量40.3 mg/kg、速效鉀含量100.3 mg/kg,前茬水稻。供試品種為寧麥9號和豫麥34號,試驗設4個施氮水平,分別為0, 90, 180和270 kg N/ha純氮 (ha為公頃),兩因素隨機區(qū)組排列,3次重復,每小區(qū)面積約為23 m2,基本苗1.5×106 株/ha,行距25 cm。氮肥基追比2∶1∶1,追肥時期為拔節(jié)期和孕穗期,各占25%。各處理配施105 kg/ha P2O5和80 kg/ha KCl,全部用作基肥。其它管理措施同高產小麥田。實驗2 2007~2008年在南京農業(yè)大學江浦試驗站(南京市浦口區(qū),118°37′E,32°02′N)進行。土壤有機質含量1.95%,全氮含量0.08%,速效磷含量13.4 mg/kg,速效鉀含量48.9 mg/kg,前茬玉米。供試品種為寧麥9號,設4個施氮水平,分別為0, 90, 180和270 kg/ha 純氮,兩因素隨機區(qū)組排列,3次重復,每小區(qū)面積約為16 m2,基本苗1.5×106株/ha,行距25 cm。氮肥基追比1∶1,追肥時期為拔節(jié)期,占50%。各處理配施150 kg/ha P2O5和 150 kg/ha K2O,全部用作基肥。其它管理措施同高產小麥田。

3.1.2 光譜采集和化學值測定 光譜采集用Thermo Nicolet 5700 FTIR近紅外光譜儀(自帶OMNIC 7.2集成軟件和內徑2.5 cm、高5 cm的專用石英杯)。光譜采集前,先在室溫下開機預熱約1 h,然后將過篩樣品裝入石英杯,容量約1/3,用專用砝碼壓緊,置于樣品臺上掃描,每次采集前均用鍍金內壁作背景。掃描范圍10000~4000 cm-1,分辨率4 cm-1,每次光譜采集掃描64次,每份樣品重復采集光譜9次,取平均值代表該樣品的光譜,以吸光度的格式存儲于計算機中。 圖2 葉片樣品近紅外吸光度譜圖

Fig.2 Near infrared absorbance spectra of leaf samples所有光譜數(shù)據(jù)都轉化為波長形式,范圍為1000~2500 nm,數(shù)據(jù)點間隔取為1 nm,因而所有的樣品光譜就組成了一個144行1501列的矩陣。圖2為144份樣品的近紅外原始光譜圖。

樣品全氮含量(TNC)采用凱氏微量定氮法測定,可溶性總糖含量(TSSC)采用蒽酮比色法測定[17]。每份樣品每個指標重復測定3次,取平均值作為該樣品化學值(各組分含量單位均為%),樣品集的全氮和可溶性總糖含量變化范圍分別為0.60%~4.32%和0.50%~4.78%。

3.2 數(shù)據(jù)處理與分析

運用馬氏距離法[18]剔除奇異樣品后,對NIR光譜進行多元散射校正和Norris一階導數(shù)濾波處理,然后采用PCA方法將光譜壓縮成若干主成分,最后將降維后的主成分分別作為小波神經網絡和BP網絡的輸入節(jié)點,全氮和可溶性總糖兩個化學組分作為輸出節(jié)點,進行網絡訓練后得到模型,同時利用預處理后的光譜進行PLS建模。本研究中涉及到光譜預處理方法、PCA和神經網絡算法均在Matlab 7.0下編程實現(xiàn)。

3.2.1 樣品集的劃分 為了減少偶然誤差、提高模型精度,首先運用馬氏距離法[18]從采集到的144份樣品中剔除5份奇異樣品,剩下139份樣品,再從中隨機選擇出100份作為校正集,其余39份作為檢驗集。

3.2.2 光譜預處理 光譜預處理方法的選擇關系著模型的預測性能。為了消除光譜散射、平移和偏轉,減少環(huán)境噪聲對光譜的干擾,通過對樣品光譜預處理方法的多次選擇,發(fā)現(xiàn)采用多元散射校正(MSC)[19]和Norris一階導數(shù)[20]處理后的光譜建模效果最好,處理結果見圖3。因此,在用1000~2500 nm全譜區(qū)進行建模前,采用上述方法對光譜進行預處理。

3.2.3 光譜主成分的提取 光譜經過預處理后,用PCA方法提取其主成分,結果如表1所示,前3個主成分累計貢獻達99.69%,可代表樣品光譜,因而可將前3個主成分(原變量的線性組合)經標準化處理后作為網絡的輸入節(jié)點。由此可以確定,小波神經網絡的輸入層節(jié)點數(shù)應為3,依次對應于3個主成分;而輸出層節(jié)點數(shù)是2,對應于全氮和可溶性總糖兩個化學組分。為了與PLS方法和傳統(tǒng)神經網絡進行比較, 圖3 經預處理后的葉片NIR光譜

Fig.3 Near infrared spectra after preprocessing利用光譜儀自帶的TQ化學計量學軟件建立PLS模型,同時將PCA提取的3個主成分作為三層BP神經網絡的輸入。表1 光譜數(shù)據(jù)前3個主成分的貢獻率

3.3 模型性能的優(yōu)化與評價

為保證模型的整體性能,本研究通過“剔一法”(Leaveoneout)得到的交互檢驗均方根誤差RMSECV(Root mean square error of crossvalidation)來優(yōu)化建模參數(shù);而模型的預測性能,則通過預測均方根誤差RMSEP(Root mean square error of prediction)和相關系數(shù)R(Correlation coefficient)來評價,計算公式如下:RMSECV=∑Mi=1(Oi-Pi)2M-1(2)

RMSEP=∑Ni=1(Oi-Pi)2N(3)式中M,N分別表示用于建模和檢驗的樣品數(shù), Oi, Pi分別為樣品i化學組分的觀測值(Observed value)和預測值(Predicted value)。

4 結果與討論

4.1 隱層節(jié)點數(shù)的選取

隱層節(jié)點數(shù)(h)對神經網絡的整體性能影響巨大,但是目前還無明確理論來指導h的選值[21]。 h過多可能造成訓練時間過長和過擬合; h過少又可能導致訓練達不到要求[22]。對于小波神經網絡, h就是小波基函數(shù)的個數(shù)。可以依據(jù)小波分析方法,事先確定小波基函數(shù)的個數(shù),但是一般不宜超過10,因為h的增加會大大增加小波神經網絡模型的參數(shù)[14]。本研究為了找到最佳h,在實際操作中,比較了基于不同h(h≤10)所建模型的RMSECV,見圖4a;而對于傳統(tǒng)的BP網絡,則嘗試了取不同的h(h≤15)進行建模,見圖4b。進一步將RMSECV最小時的h確定為最佳h,由此獲得小波神經網絡和BP網絡的最佳h分別為5和7(圖4)。

4.2 神經網絡參數(shù)的確定

神經網絡參數(shù)關系著模型的預測性能,關于小波神經網絡參數(shù)的選取方法,已有眾多報道[23,24]。本研究中,兩種神經網絡都采用三層結構,其中,小波神經網絡的隱層小波基函數(shù)采用時頻域分辯率較高的Morlet函數(shù)[16,24];BP網絡隱層傳遞函數(shù)分別采用常用的Tansig函數(shù),輸出層采用Purelin函數(shù)。為了便于比較兩種網絡模型的性能,經過反復嘗試,并綜合考慮網絡穩(wěn)定性和訓練時間,將學習速率均設為0.01,網絡優(yōu)化算法選擇LevevbergMarquardt算法,最大訓練次數(shù)都為1000,期望誤差為0.001。

4.3 模型性能的檢驗與評價

用WNN模型對39個測試樣品的全氮(TNC)和可溶性總糖含量(TSSC)進行了預測,結果如圖5。從預測均方根誤差(RMSEP)和相關系數(shù)(R)可以看出,小波神經網絡模型的擬合精度較。

a. 全氮(Total nitrogen content); b. 可溶性總糖(Total soluble sugar content)。綜合比較了WNN模型和BPNN模型的收斂時間(Time)、達到期望誤差時的訓練次數(shù)(Iteration, Iter)以及PLS模型對39份測試樣品的預測性能(RMSEP和R) (表2)??梢?,兩種神經網絡模型的預表2 WNN模型、PLS模型和BPNN模型的表現(xiàn)比較測精度都高于PLS模型,因為PLS是線性回歸方法,而在近紅外光譜上,盡管官能團特征吸收頻率的位置是基本固定的,但是樣品各組分化合物之間的關系復雜,會發(fā)生不同程度的締合作用,如誘導效應、空間位阻效應和氫鍵效應等[25],這些因素決定了葉片樣品近紅外光譜與各組分之間的非線性關系,人工神經網絡可以有效克服這種非線性干擾[3];從綜合收斂速度和預測精度來看,WNN模型均優(yōu)于傳統(tǒng)的BPNN模型[26]。即,在保證不發(fā)生過擬合的前提下,要達到同樣的期望誤差,小波神經網絡所用的訓練時間和訓練次數(shù)均少于傳統(tǒng)的BP網絡;而經過同樣的訓練次數(shù),小波神經網絡達到的預測精度也會比BP網絡高。因為傳統(tǒng)BP網絡的隱層基函數(shù)一般為Sigmoid函數(shù)(本研究為Tansig函數(shù)),這類函數(shù)相互不正交,權重的學習容易出現(xiàn)峽谷型誤差曲面,導致收斂速度變慢,也很難保證非線性系統(tǒng)的唯一解。而小波神經網絡的基函數(shù)是小波函數(shù),它具有快速衰減性,局部逼近能力也就更強;另一方面,小波基函數(shù)是正交或者近似正交的,權重之間相關冗余度很小,且小波神經網絡的誤差函數(shù)是關于權值的凸函數(shù),不存在局部極小點,因而收斂速度更快。

4.4 小結

本研究將小波神經網絡引入到近紅外光譜的多組分分析模型中,建立了能同時預測小麥葉片全氮和可溶性總糖含量的小波神經網絡(WNN)模型,并對WNN模型的整體性能與表現(xiàn)進行了檢驗和比較。結果表明,WNN模型預測結果可靠,可用于小麥近紅外光譜的多組分預測;與偏最小二乘法(PLS)和傳統(tǒng)神經網絡模型(BPNN)相比,小波神經網絡模型具有更好的全局收斂性和預測精度,從而為近紅外光譜的多組分定量分析提供了新的建模方法。

參考文獻

1 Yan YanLu(嚴衍祿). Near Infrared Spectroscopy and its application(近紅外光譜分析基礎與應用). Beijing(北京): China Light Industry Press(中國輕工業(yè)出版社), 2005: 1~115

2 Zhu XiaoLi(褚小立), Tian GaoYou(田高友), Yuan HongFu(袁洪福), Lu WanZhen(陸婉珍). Chinese J. Anal. Chem.(分析化學), 2006, 34(9): S175~S178

3 PérezMarín D, GarridoVaro A, Guerrero J E. Talanta, 2007, 72(1): 28~42

4 Marengo E, Bobba M, Robotti E, Lenti M. Anal. Chim. Acta, 2004, 511(2): 313~322

5 Xu Lu(許 祿), Shao XueGuang(邵學廣). Methods of Chemometrics(化學計量學方法). Beijing(北京): Science Press(科學出版社), 2004: 279~298

6 Phua P K H, Ming Daohua. IEEE Transactions on Neural Networks, 2003, 14(6): 1460~1467

7 Tabaraki R, Khayamian T, Ensafi A A. Dyes and Pigments, 2007, 73 (2): 230~238

8 Balabin R M, Safieva R Z, Lomakina E I. Chemometrics and Intelligent Laboratory Systems, 2008, 93(1): 58~62

9 Wang JiaJun(王家俊), Liang YiZeng(梁逸曾), Wang Fan(汪 帆). Chinese J. Anal. Chem.(分析化學), 2005, 33(6): 793~797

10 Liu BoPing(劉波平), Qin HuaJun(秦華俊), Luo Xiang(羅 香), Cao ShuWen(曹樹穩(wěn)), Wang JunDe(王俊德). Chinese J. Anal. Chem.(分析化學), 2007, 35(4): 525~528

11 Dou Y, Sun Y, Ren Y, Ren Y. Anal. Chim. Acta, 2005, 528(1): 55~61

12 Zhang Q. IEEE Transactions on Neural Networks, 1997, 8(2): 227~236

13 He Y, Li X, Deng X. Journal of Food Engineering, 2007, 79(4): 1238~1242

14 Wang W, Paliwal J. Biosystems Engineering, 2006, 94(1): 7~18

15 Dou Y, Mi H, Zhao L, Ren Y, Ren Y. Anal. Biochem., 2006, 351(2): 174~180

16 Subasi A, Alkan A, Koklukaya E, Kiymik M K. Neural Networks, 2005, 18(7): 985~997

17 Li HeSheng(李合生). The Principle and Technology of Physiological and Biochemical Experiment of Plant(植物生理生化實驗原理和技術). Beijing(北京): Higher Education Press(高等教育出版社), 2000: 186~197

18 Smith B M, Gemperline P J. Anal. Chim. Acta, 2000, 423(2): 167~177

19 Fernandez J E, Badiali M, Guidetti A, Scot V. Nuclear Instruments and Methods in Physics Research, 2007, 580(1): 77~80

20 Norris K H, Williams P C. Cereal Chemistry, 1984, 61(2): 158~165

21 Janik L J, Cozzolino D, Dambergs R, Cynkar W, Gishen M. Anal. Chim. Acta, 2007, 594(1): 107~118

22 Wen Xin(聞 新), Zhou Lu(周 露), Wang DanLi(力), Xiong XiaoYing(熊曉英). MATLAB Design for Neural Networks application(MATLAB神經網絡應用設計). Beijing(北京): Science Press (科學出版社), 2001: 225~232

23 Xu J, Daniel W C H. Neurocomputing, 2002, 48: 681~689

24 Tabaraki R, Khayamian T, Ensafi A A. Journal of Molecular Graphics and Modelling, 2006, 25(1): 46~54

第9篇:神經網絡的運用范文

只有清楚地了解電梯控制系統(tǒng)的運行原理才能夠及時準確的診斷出電梯故障原因,因此清楚的了解電梯運行原理,每一個電梯維修人員必須要做到。電梯運行過程總體上可分為以下幾個階段:第一、登記層外召喚信號和登記內選指令階段;第二、電梯門關閉或者電梯按照系統(tǒng)指令停運階段;第三、啟動階段;第四、在到達信號記錄的樓層前進行減速制動;第五、平層開門階段。在整個過程中電梯需要從外界接收信號并處理,然后完成相應的指令或者輸出信號,由此可以將電梯看作是一個完整的獨立的系統(tǒng),只需要外界給予相應的信號就可以自動的做出動作。電梯系統(tǒng)內部復雜的構件緊密的結合在一起,正是如此才使得電梯系統(tǒng)故障具有了復雜性、層次性、相關性以及不確定性的特點。

二、神經網絡技術基本原理

生物學上的神經是由一個個簡單的神經元相互連接進而形成了復雜的龐大的神經系統(tǒng),同理,神經網絡就是由大量簡單的處理單元相互連接形成的復雜的智能系統(tǒng)。單獨的處理單元類似于一個神經元,是一個可以接受不同信息但是只輸出一種信息的結構單位。神經網絡系統(tǒng)與生物學神經系統(tǒng)相似的是具有自我修改能力,它可以同時接收大量的數(shù)據(jù)并進行統(tǒng)一的分析處理,進而輸出相應的處理結果。這就使得神經網絡系統(tǒng)具有了高度容錯性、高度并行性、自我修改性、學習性以及高度復雜性,也正是由于這些特性才使的利用神經網絡技術能夠及時準確的查明電梯故障原因并得出故障解決方案。電梯故障診斷中應用的神經網絡模型分為三個層次:輸入層、接收外部信號或者是電梯自我檢測信息(如載重信息);隱含層、對接收到了大量數(shù)據(jù)進行相應的分析處理;輸出層、將記錄著動作命令的數(shù)據(jù)傳送出來。在電梯出現(xiàn)故障時,首先可以通過神經網絡模型快速確定故障發(fā)生在哪一層達到節(jié)約時間的目的。但是神經網絡也會因為收斂速度過于慢、訓練強度太大或者是選擇的網絡模型不好等問題導致診斷結果受到影響。

三、神經網絡模型在電梯故障診斷中的應用分類

神經網絡模型已經成為了如今電梯故障診斷中應用最廣泛的技術模型,相比于傳統(tǒng)方式它具有診斷速度快、故障原因命中率高的優(yōu)點,因此引起了各方面專業(yè)人士的強烈關注,并在他們的不懈努力下得到了發(fā)展與創(chuàng)新。它跨越多個專業(yè)領域、通過對各種復雜的高難度工作的不斷的發(fā)展與改進出現(xiàn)了越來越多的應用模型,下面主要介紹了當前應用最普遍的BP網絡模型,并且簡單的引入并介紹了近年來新興的模糊神經網絡模型和遺傳小波神經網絡模型。

(一)BP網絡模型

BP神經網絡作為神經網絡應用最廣泛的一種,它多應用的誤差反向傳播算法使其在模式識別、診斷故障、圖像識別以及管理系統(tǒng)方面具有相對先進性?;贐P網絡的電梯故障診斷技術就是通過學習故障信息、診斷經驗并不斷訓練,并將所學到的知識利用各層次之間節(jié)點上的權值從而表達出來。BP網絡系統(tǒng)的主要診斷步驟主要可以分為三步。第一步:對輸入輸出的數(shù)據(jù)進行歸一化處理,將數(shù)據(jù)映射到特定的區(qū)間。第二步:建立BP網絡模型,訓練BP網絡模型。第三:通過已經訓練好的網絡模型對原來的樣本進行全面的檢測。算法步驟:a、在一定的取值范圍內對數(shù)據(jù)進行初始化;b、確定輸入值數(shù)值大小,計算出預期輸出量;c、用實際輸出的值減去上一步得到的數(shù)值;d、將上一步得到的誤差分配到隱含層,從而計算出隱含層的誤差;e、修正輸出層的權值和閾值,修正隱含層的權值;f、修正隱含層的閾值,修正隱含層和輸入層的權值。

(二)遺傳小波神經網絡模型

遺傳算法運用了生物界的優(yōu)勝劣汰、適者生存的思想對復雜問題進行優(yōu)化,適用于復雜的故障,起到了優(yōu)化簡化問題的作用。對局部數(shù)據(jù)進行詳細的分析是小波法最大的特點,所以它被譽為“數(shù)字顯微鏡”。遺傳算法小波神經網絡就是運用小波進行分解的方法分解模擬故障信號,將得到的數(shù)據(jù)進行歸一化,將歸一化后的數(shù)值輸入到神經網絡模型中。它融合了神經網絡、小波分析和遺傳算法三者所有的優(yōu)點?;谶z傳小波神經網絡的電梯故障診斷的一般步驟為:測試節(jié)點信號采樣、小波分解、故障特征量提取、歸一化得到訓練樣本集、遺傳算法優(yōu)化、得到故障類型。遺傳小波神經網絡模型在故障原因復雜、數(shù)據(jù)信息量巨大的電梯系統(tǒng)的應用中能夠發(fā)揮更大的作用。

(三)模糊神經網絡模型

模糊神經網絡模型就是創(chuàng)新性的將神經網絡與模糊理論結合到一起。它采用了廣義的方向推理和廣義的前向推理兩種推理方式。與其它兩種模型不同的是,它的語言邏輯、判斷依據(jù)和結論都是模糊的。但是它的數(shù)據(jù)處理能力還有自我學習能力并沒有因此而變差,反而更加豐富了它的定性知識的內容。在處理實際問題的過程中,首先要建立所有可能發(fā)生的故障的完整集合,其次將所有的故障發(fā)生原因歸入到同一個集合中去,最后就是建立故障和原因的關系矩陣。分別叫做模糊故障集、模糊原因集、模糊關系矩陣。相較于BP網絡模型,這種模型更加的簡單易行,充分發(fā)揮了神經網絡和模糊邏輯的優(yōu)點,不會因為故障原因過于復雜而失去診斷的準確性,在原本豐富定性知識和強大數(shù)據(jù)處理能力的基礎上具有了很大的自我訓練能力。

四、結語

免责声明

本站为第三方开放式学习交流平台,所有内容均为用户上传,仅供参考,不代表本站立场。若内容不实请联系在线客服删除,服务时间:8:00~21:00。

AI写作,高效原创

在线指导,快速准确,满意为止

立即体验
相關熱門標簽
文秘服务 AI帮写作 润色服务 论文发表