公務員期刊網(wǎng) 精選范文 神經(jīng)網(wǎng)絡的含義范文

神經(jīng)網(wǎng)絡的含義精選(九篇)

前言:一篇好文章的誕生,需要你不斷地搜集資料、整理思路,本站小編為你收集了豐富的神經(jīng)網(wǎng)絡的含義主題范文,僅供參考,歡迎閱讀并收藏。

神經(jīng)網(wǎng)絡的含義

第1篇:神經(jīng)網(wǎng)絡的含義范文

計算機網(wǎng)絡拓撲結(jié)構(gòu)主要是指計算機連接網(wǎng)絡之后,其自身設備與傳輸媒介所共同組成的一種物理構(gòu)成模式,其網(wǎng)絡拓撲結(jié)構(gòu)的形式主要是由通信子網(wǎng)來決定的,其結(jié)構(gòu)的主要功能是實現(xiàn)數(shù)據(jù)信息的網(wǎng)絡共享、處理及交換,并要在一定程度上提升網(wǎng)絡數(shù)據(jù)信息運行的可靠性,站在網(wǎng)絡拓撲的結(jié)構(gòu)來講,計算機網(wǎng)絡結(jié)構(gòu)的主要部分是鏈路與結(jié)點,計算機網(wǎng)絡實質(zhì)上是由一組結(jié)點以及多條鏈路所共同組成的一種模擬結(jié)構(gòu)。計算機網(wǎng)絡通常表示為:G=<V,E>,其中V表示的是網(wǎng)絡結(jié)點集,E表示的是鏈路集,如果應用Va來表示結(jié)構(gòu)中增加的結(jié)點集,Eb來表示增加的連接集,那么就能夠得到其拓撲擴展的計算機網(wǎng)絡結(jié)構(gòu)為G’=<V’,E’>。

2基于計算機網(wǎng)絡連接優(yōu)化中的神經(jīng)網(wǎng)絡算法

本次研究中分析的均場神經(jīng)網(wǎng)絡算法實際上是一種神經(jīng)網(wǎng)絡算法與均場退火技術(shù)相結(jié)合的算法,應用這種方法能夠有效的增強計算機的網(wǎng)絡連接,并且達到更優(yōu)化、更快的連接效果,這其實是一種利潤最大化的網(wǎng)絡優(yōu)化算法,其能夠最大限度的提高計算機網(wǎng)絡的性價比。

2.1神經(jīng)網(wǎng)絡算法

人工神經(jīng)網(wǎng)絡屬于非線性動力學系統(tǒng),其能夠?qū)π畔⑦M行分布式的存儲及協(xié)同處理,其在人工神經(jīng)網(wǎng)絡之上的人工神經(jīng)網(wǎng)絡系統(tǒng)的基礎之上,應用網(wǎng)絡算法及網(wǎng)絡模型進行各種信號的處理,或者是對某種運行模式進行識別,從而建立其一個獨立的專家系統(tǒng),或者是構(gòu)成機器人,當前在多個領域中,人工神經(jīng)網(wǎng)絡系統(tǒng)都得到了廣泛的應用,在該基礎上所發(fā)展起來的人工神經(jīng)網(wǎng)絡算法是一種監(jiān)督性的學習算法,人們對于其重視程度逐漸增加,但是在實際的應用中,其存在收斂速度較慢的缺陷,難以保證將收斂程度壓制到全局的最小點,容易導致計算機網(wǎng)絡學習及記憶不穩(wěn)定性增強的問題,這會對計算機網(wǎng)絡的連接效果造成直接的影響,做好其網(wǎng)絡連接的優(yōu)化非常的必要。

2.2均場神經(jīng)網(wǎng)絡算法

在基于計算機網(wǎng)絡連接增強優(yōu)化下的均場神經(jīng)網(wǎng)絡算法的研究中,對其網(wǎng)絡效果進行判斷,需要建立起一個完整的場均神經(jīng)網(wǎng)絡模型,在模型的構(gòu)建過程中,應該做好函數(shù)法構(gòu)造過程中的目標函數(shù)的構(gòu)建問題,具體的構(gòu)建方式表現(xiàn)為:應用Si來表示Hopfield計算網(wǎng)絡中的一個神經(jīng)元狀態(tài),并且規(guī)定當Si=1時,表示的含義是網(wǎng)絡選中了連接i,可以實現(xiàn)正常的連接,當Si=0時,表示的含義是:網(wǎng)絡中沒有選中連接i,網(wǎng)絡無法實現(xiàn)正常連接,再應用罰函數(shù)法就結(jié)構(gòu)來進行網(wǎng)絡模型的創(chuàng)建。

2.3實例分析

根據(jù)上文中分析的計算方法,在得到計算結(jié)果之后,能夠?qū)鶊鼍W(wǎng)絡算法的可行性及有效性進行判定,我們分別采用模擬退火算法、遺傳算法、均場神經(jīng)網(wǎng)絡算法進行比較,結(jié)果顯示模擬退火算法需要計算99次,這樣才能保證計算出規(guī)定的連接集,并從中獲取一定的利潤值,在遺傳算法中需要進行96次的計算,在均場神經(jīng)網(wǎng)絡算法中,需要實施88次的計算,均場神經(jīng)網(wǎng)絡算法在獲得網(wǎng)路連接效果等方面,更快、更加有效,更適宜應用于計算機網(wǎng)絡連接的增強優(yōu)化以及網(wǎng)絡結(jié)構(gòu)拓撲的擴展工作中。

3結(jié)束語

第2篇:神經(jīng)網(wǎng)絡的含義范文

關鍵詞:BP神經(jīng)網(wǎng)絡;經(jīng)濟評價;石油項目;經(jīng)濟預測

中圖分類號: TP319

文獻標識碼: A

文章編號: 16727800(2017)004014503

0引言 在石油項目前期評估中,需判斷其可行性并對項目經(jīng)濟效益進行評價。人工神經(jīng)網(wǎng)絡 (Artificial Neural Network,ANN)[13] 利用大量非線性并行處理關系模擬眾多神經(jīng)網(wǎng)絡,通過自學習找出輸入值與輸出值之間的關系,能輕松處理非線性問題,是一種基于黑箱原理的處理系統(tǒng)。針對傳統(tǒng)經(jīng)濟評價決策方法中存在的問題,將神經(jīng)網(wǎng)絡應用到石油經(jīng)濟評價中。將多個石油項目的經(jīng)濟評價指標作為ANN的輸入值,通過相應訓練樣本的學習,使基于人工神經(jīng)網(wǎng)絡的石油經(jīng)濟評價系統(tǒng)更接近人類思維模式,對項目作出更合理的決策。1BP神經(jīng)網(wǎng)絡 反向傳播(Back Propagation,BP)神經(jīng)網(wǎng)絡是一個多層前饋神經(jīng)網(wǎng)絡[45],是當前應用較多且較為成熟的神經(jīng)網(wǎng)絡模型之一,其基本網(wǎng)絡包含3層:輸入層、隱含層和輸出層,隱藏層可以是單層或多層。典型的BP網(wǎng)絡結(jié)構(gòu)如圖1所示,為一個單隱層BP神經(jīng)網(wǎng)絡結(jié)構(gòu),學習過程由正向傳播信號和反向傳播誤差組成,輸入信號由輸入層向前傳播經(jīng)過激發(fā)函數(shù)作用由隱藏節(jié)點傳到輸出節(jié)點,如果輸出層輸出數(shù)值與期望不符,則將誤差作為調(diào)整信號按照原路逐層反向傳播,并對連接各層神經(jīng)元之間的權(quán)重和閾值進行調(diào)整,逐漸縮小誤差值,直至誤差小于一個可接受的范圍方停止學習。同時,也是一個監(jiān)督學習,因為每個訓練樣本都帶有標簽,這些訓練樣本預先確定了經(jīng)過BP網(wǎng)絡訓練后的輸出值。經(jīng)過多次學習,就能將該神經(jīng)網(wǎng)絡逼近某個函數(shù),這個訓練好的網(wǎng)絡就能用于評價預測,學習過程其實就是將n維映射成m維,為了獲得正確的映射需要經(jīng)過反復學習即調(diào)整相關參數(shù)(權(quán)重和閾值)。

2石油項目經(jīng)濟評價指標體系構(gòu)建2.1石油投資經(jīng)濟效益指標 對于石油項目的經(jīng)濟效益評價,可借助經(jīng)濟指標反映石油項目在未來項目壽命期內(nèi)的經(jīng)濟效益。鑒于石油項目的復雜性,單一的評價指標無法對項目作出全面的評價。根據(jù)文獻[6]-[7]選擇采用多個相互聯(lián)系且相對獨立的評價指標,如圖2所示,包括:凈現(xiàn)值、費用現(xiàn)值、凈現(xiàn)值指數(shù)、投資收益率、內(nèi)部收益率和動態(tài)投資回收期。

一個項目首先要判斷是否可行,主要考慮凈現(xiàn)值(NPV),NPV表示現(xiàn)金流入與流出的差額,當NPV≥0時表示項目可行,此時項目到達或超過基準收益率標準,能給投資者帶來利潤,否則項目不可行,會損壞投資者價值。而在多個項目方案比較選擇中,一般凈現(xiàn)值最大的項目是最佳項目。凈現(xiàn)值指數(shù)指標對于項目評價的準則與凈現(xiàn)值一樣,這個指標是凈現(xiàn)值與凈投資現(xiàn)值的比值,比起凈現(xiàn)值還考慮到最初投資額的大小。投資收益率是一個靜態(tài)指標,是指單位投資可獲得的利潤,值越大越好,當它的值超過標準投資收益率時意味著該項目可行。內(nèi)部收益率是指當凈現(xiàn)值為零時的貼現(xiàn)率,即在整個項目壽命期內(nèi),現(xiàn)金流入剛好完全抵補現(xiàn)金流出,是項目經(jīng)濟評價重要指標之一。費用現(xiàn)值是指在項目壽命期內(nèi)只考慮現(xiàn)金流出,也就是費用支出,包含總投資和成本費用,代表成本的值肯定越小越好。投資回收期是指項目的累計凈現(xiàn)值抵補全部投資的返本年限,即累計利潤達到零的時間期限,只是一個輔指標,選用動態(tài)投資回收期這一指標,是因為比起靜態(tài)回收期,此標準考慮到資金的時間價值。2.2石油經(jīng)濟評價指標計算模型 上述指標經(jīng)過下列計算模型計算后,可作為人工神經(jīng)網(wǎng)絡輸入層的輸入數(shù)據(jù),計算模型參考文獻[8],具體如下:

3石油項目前期經(jīng)濟效益評價3.1石油項目經(jīng)濟評價指標歸一化將上述6個石油項目的經(jīng)濟評價指標作為BP神經(jīng)網(wǎng)絡的輸入數(shù)據(jù),這些數(shù)據(jù)具有不可共度性,也就是說衡量這些數(shù)值的單位不相同,有些是百分數(shù),有些以時間為單位,無法進行比較。石油項目中關于項目費用和盈利的指標的數(shù)值是非常大的,這會導致BP神經(jīng)網(wǎng)絡學習緩慢,收斂慢,有時數(shù)值太大,經(jīng)神經(jīng)網(wǎng)絡作用后,偏差也會很大;而且對于神經(jīng)網(wǎng)絡中所應用的激活函數(shù)來說,有些函數(shù)是有值域的,數(shù)據(jù)太大或太小都會影響網(wǎng)絡學習效果。為了解決這些問題,一般在訓練樣本數(shù)據(jù)前要對數(shù)據(jù)進行預處理,進行歸一化后的數(shù)據(jù)收斂性更強,參考文獻[9]~[11]采用最值法作為數(shù)據(jù)歸一化方法。但是費用現(xiàn)值和動態(tài)投資回收期的值對于石油項目來說越小越好,而剩下4個指標體現(xiàn)石油項目收益,這些指標值越大越好,因此對上述分成收益型指標和成本型指標兩類數(shù)據(jù)歸一化,費用現(xiàn)值和動態(tài)投資回收期為成本型指標,其余皆為效益型指標。假設有n個訓練樣本,每個訓練樣本含6個指標數(shù)值,按以下公式將每個樣本的6個指標進行數(shù)據(jù)歸一化,限制在[0,1]區(qū)間內(nèi)。 (1)收益型指標,包括凈現(xiàn)值、凈現(xiàn)值指數(shù)、投資收益率和內(nèi)部收益率。

式中yij和xij分別表示第i組訓練樣本的第j個指標歸一化后和歸一化前的數(shù)值,而ximax和ximin分別表示第i組訓練樣本中的最大和最小值。3.2BP人工神經(jīng)網(wǎng)絡設計對于石油項目經(jīng)濟效益評價問題,就是利用BP人工神經(jīng)網(wǎng)絡將其轉(zhuǎn)換為6個項目經(jīng)濟評價指標與最終評價值之間的非線性映射。實驗選用三層BP神經(jīng)網(wǎng)絡,輸入層節(jié)點數(shù)為6個,對應6個石油項目經(jīng)濟評價指標。激活函數(shù)選用單極性Sigmoid函數(shù)(雙曲線正切函數(shù)),公式如下:

對于隱藏層節(jié)點數(shù)確定,最常用的方法是試湊法[1213],以公式(3)、(4)來設置較多的隱節(jié)點,對于每個隱節(jié)點數(shù)進行一次BP網(wǎng)絡的訓練,通過比較每次訓練誤差的大小,選定誤差最小的作為該BP網(wǎng)絡的隱藏層節(jié)點個數(shù)。

其中,m表示隱藏層節(jié)點個數(shù),n表示輸入層節(jié)點個數(shù),l表示輸出層節(jié)點個數(shù),α取1~10之間的常數(shù),此處設計的BP網(wǎng)絡層是6個輸入節(jié)點,1個輸出節(jié)點,根據(jù)取值范圍,隱藏層節(jié)點數(shù)取值范圍是4~13。根據(jù)最終項目評價結(jié)果為可行與不可行來分為兩類,對于BP神經(jīng)網(wǎng)絡,可行項目期望輸出值為1,不可行項目期望輸出值為0.5,如表1所示的部分訓練樣本。將大量的石油項目相關數(shù)據(jù)通過BP網(wǎng)絡訓練,得出該BP網(wǎng)絡隱藏層節(jié)點數(shù)為9個。

3.3石油項目前期經(jīng)濟效益評價過程 如圖3所示,用戶可以創(chuàng)建石油項目,錄入最初的原始數(shù)據(jù),比如相關基礎數(shù)據(jù)、成本費用、營業(yè)稅金及附加、融資方案等。提交該項目后,生成財務報表,初步反映該石油項目在項目壽命期內(nèi)的經(jīng)濟情況。根據(jù)初步計算進行不確定性分析,以盈虧平衡分析和敏感性分析為主,以表格和圖像的形式呈現(xiàn)投資項目的風險和不確定性,提高投資決策的可靠性。利用計算模型計算BP神經(jīng)網(wǎng)絡的輸入數(shù)據(jù),經(jīng)過神經(jīng)網(wǎng)絡學習能力對石油項目進行終極評價,為最終審核提供可靠的建議。3.4實驗結(jié)果與分析 通過石油項目經(jīng)濟評價系統(tǒng)獲取不同項目的經(jīng)濟效益評價數(shù)據(jù),將經(jīng)過歸一化后的數(shù)據(jù)作為訓練好的BP神經(jīng)網(wǎng)絡輸入端。如圖4所示,通過樣本訓練后,所有輸出期望值都圍繞在0.5和1附近,輸出值output=0.5時,代表該石油項目是不可行的,輸出值output=1,代表該石油項目是可行的。

為了驗證此BP神經(jīng)網(wǎng)絡對于石油項目經(jīng)濟效益評價預測的準確性,將表2中有代表性的測試數(shù)據(jù)通過神經(jīng)網(wǎng)〖HJ*3〗絡預測獲得最終的期望值輸出。第一個石油項目凈現(xiàn)值大于0,成本低,投資回收期短,投資回報率高,是一個非常好的投資項目,與其輸出值含義相符合。相反,第二個項目凈現(xiàn)值小于0,收益率低,完全符合輸出值0.5,是一個不可行項目。項目3雖然凈現(xiàn)值大于0,不會虧本,但是投資大,資本回收期長,并且回報率低,這并不是一個好的項目,故該系統(tǒng)判定為不可行項目。

4結(jié)語 本文通過模擬實驗驗證將BP神經(jīng)網(wǎng)絡應用于石油項目經(jīng)濟評價的有效性,克服傳統(tǒng)評價的缺陷和局限性。

結(jié)果表明經(jīng)過大量真實數(shù)據(jù)訓練的神經(jīng)網(wǎng)絡能更準確地為用戶提供基于項目數(shù)據(jù)的判斷,能準確描述代表石油項目經(jīng)濟效益的6個指標與項目可行性之間的非線性關系。當然BP神經(jīng)網(wǎng)絡也有其缺陷,對于隱藏層數(shù)及其節(jié)點數(shù)的確認并沒有完整的理論指導,后期將引入深度學習對其進行經(jīng)濟效益預測,以使預測更加精確。

參考文獻:[1]蔡自興,徐光v.人工智能極其應用[M].第四版.北京:清華大學出版社,2011.

[2]C M BISHOP.Neural network and theirapplications[J].Revi.Scie.Instr,1994(156):18031832.

[3]胡金濱,唐旭清.人工神經(jīng)網(wǎng)絡的BP算法及其應用[J].信息技術(shù),2004 (4):14.

[4]L K HANSEN,P SALAMON.Neural network ensembles[J].IEEE trans pattern analysis and machine intelligence,1990(12):9931001.

[5]WANG P,ZHAO T,F(xiàn)AN Y,et al.Study of Chinese farmers income forecast model based on BP neural network[J].Computer and Applications,2014(56):508511.

[6]董蔚P,單守會.未開發(fā)石油儲量評價及經(jīng)濟分類方法[J].石油與天然氣地質(zhì),1993,14(3):251256.

[7]李敏杰.海外石油投資經(jīng)理評價指標淺析[J].西安財經(jīng)學院學報,2007,20(1):7619.

[8]游達明,劉亞錚.技術(shù)經(jīng)濟與項目經(jīng)濟評價[M].北京:清華大學出版社,2009:6290.

[9]Q SONG,Q JIANG,Z SONG.Economic evaluation of CO2EOR industry chain in refineries[J].Shiyou Xuebao Shiyou Jiagong/acta Petrolei Sinica,2015.

[10]L XIAOKE.Analysis of the misunderstanding in investment project economic appraisal theory[C].Business Management and Electronic Information (BMEI),2011:196198.

[11]楊偉,倪黔東,吳軍基.BP神經(jīng)網(wǎng)絡權(quán)值初始值與收斂性問題研究[J].電力系統(tǒng)及自動化學報,2002,14(1):2022.

第3篇:神經(jīng)網(wǎng)絡的含義范文

[關鍵詞]電力系統(tǒng)自動化;智能技術(shù);分析

1、電力系統(tǒng)自動化與智能技術(shù)的含義

電力系統(tǒng)自動化,從含義上是對電能生產(chǎn)、傳輸和管理實現(xiàn)自動化、自動調(diào)度和自動化管理;從種類上,它的分類較多,例如:電網(wǎng)調(diào)度自動化等。智能技術(shù)是智能計算機技術(shù)的簡稱,從含義上它包含體系結(jié)構(gòu)和人機接口;從種類上,它的種類也較多,例如:模糊控制等。

智能技術(shù)是具備學習、適應及組織功能的行為,能夠?qū)Ξa(chǎn)品問題進行合適求解,解決傳統(tǒng)魯棒性控制和自適應控制無法解決出令人滿意結(jié)果的,非線性、時變性和不確定性的控制問題。目前,智能技術(shù)尚處于發(fā)展階段,但它已受到人們的普遍重視,廣泛應用于電力系統(tǒng)各個領域中,并取得了一定的實效。

專家系統(tǒng)在電力系統(tǒng)中的應用范圍很廣,它是一種基于知識的系統(tǒng),用于智能協(xié)調(diào)、組織和決策,激勵相應的基本級控制器完成控制規(guī)律的實現(xiàn)。主要針對各種非結(jié)構(gòu)化問題,處理定性的、啟發(fā)式或不確定的知識信息。如:電力系統(tǒng)恢復控制、故障點的隔離、調(diào)度員培訓、處于警告或緊急狀態(tài)的辨識、配電系統(tǒng)自動化等。以智能的方式求得受控系統(tǒng)盡可能地優(yōu)化和實用化,并經(jīng)過各種推理過程達到系統(tǒng)的任務目標。雖然取得廣泛應用,但存在如難以模仿電力專家的創(chuàng)造性等局限性。一般而言,專家控制系統(tǒng)應用較大的原因是由于該方法可適用范圍廣,且能為電力系統(tǒng)處于各種狀態(tài)提出辨識,根據(jù)這種具體情況給出警告或提示,同時還能進行控制和恢復。雖然專家系統(tǒng)得到一定的應用,但是仍存在一定的局限性,這種局限包括對創(chuàng)造性的難以模仿,而只限于淺層知識的應用,缺乏極有效的深層模仿和設計,難以適應復雜狀態(tài)。因此,在開發(fā)專家系統(tǒng)方面應注意專家系統(tǒng)的代價/效益分析方法、專家系統(tǒng)軟件的有效性和試驗、知識獲取、專家系統(tǒng)與其他常規(guī)計算工具相結(jié)合等問題。

模糊方法是一種對系統(tǒng)宏觀的控制,十分簡單而易于掌握,為隨機、非線性和不確定性系統(tǒng)的控制,提供了良好的途徑。將人的操作經(jīng)驗用模糊關系來表示,通過模糊推理和決策方法,對復雜過程對象進行有效控制。通常用“如果……,則……”的方式來表達,在實際控制中的專家知識和經(jīng)驗不依賴被控對象模型,魯棒性較強。模糊控制技術(shù)的應用非常廣泛,與常規(guī)控制相比,其在提高模糊控制的控制品質(zhì),如:穩(wěn)態(tài)誤差、超調(diào)等問題,自身的學習能力還不完善,因此要求系統(tǒng)具有完備的知識,對工業(yè)智能系統(tǒng)的設計而言是困難的,如模糊變結(jié)構(gòu)控制、自適應或自組織模糊控制、自適應神經(jīng)網(wǎng)絡控制、神經(jīng)網(wǎng)絡變結(jié)構(gòu)控制等。另一方面包含了各種智能控制方法之間的交叉結(jié)合,對電力系統(tǒng)這樣一個復雜的大系統(tǒng)來講,綜合智能控制更具備巨大的應用潛力?,F(xiàn)在,在電力系統(tǒng)中研究較多的有神經(jīng)網(wǎng)絡與專家系統(tǒng)的結(jié)合,專家系統(tǒng)與模糊控制的結(jié)合,神經(jīng)網(wǎng)絡與模糊控制的結(jié)合,神經(jīng)網(wǎng)絡、模糊控制與自適應控制的結(jié)合等方面。這些模糊方法的運用因其可使用范圍廣,目前已在自動化控制中被廣泛應用。智能集成化是綜合智能控制重要的技術(shù)發(fā)展方向,其可將多項智能技術(shù)相互結(jié)合于一體,不再單獨運用,各取優(yōu)勢。如模糊技術(shù)和神經(jīng)網(wǎng)絡的結(jié)合、神經(jīng)網(wǎng)絡與模糊控制的結(jié)合、神經(jīng)網(wǎng)絡與專家系統(tǒng)的結(jié)合等,這些都在電力系統(tǒng)自動化控制中有較多研究。

2、智能技術(shù)與電力系統(tǒng)自動化的結(jié)合

智能技術(shù)被應用在電力系統(tǒng)自動化中,進一步完善和發(fā)展了電力系統(tǒng)自動化。智能系統(tǒng)在電力系統(tǒng)中的有效應用,不僅協(xié)調(diào)了電力系統(tǒng)發(fā)展的不成熟性和該系統(tǒng)本身的不穩(wěn)定性,還滿足了公眾對于相對廉價、便利的電力網(wǎng)絡的需求。所以,智能技術(shù)作為一種技術(shù)被應用于電力系統(tǒng)自動化中。

眾所周知,智能技術(shù)從分類上可分為以下幾個部分:模糊控制和神經(jīng)網(wǎng)絡控制、專家系統(tǒng)控制、線性最優(yōu)控制和綜合智能控制。如今,電力系統(tǒng)自動化還未發(fā)展成熟,還存在一些缺點以待改進,如:強非線性,時變性且參數(shù)不確切可知,含有大量未建模動態(tài)部分和電力覆蓋范圍大但卻具有網(wǎng)絡阻滯、延遲等。下面,我們將具體分析如何通過應用智能系統(tǒng)改變電子系統(tǒng)智能化的缺點。

3、將智能技術(shù)應用到電力系統(tǒng)自動化中的具體做法

3.1模糊控制在電力系統(tǒng)自動化中的應用

模糊控制使得建立模型來進行控制變得十分簡單和易于掌握。通過建立模型進行控制是一種比較現(xiàn)代的方法,與建立常規(guī)的模式相比,更具優(yōu)越性、相對簡單。例如,交通信號燈的轉(zhuǎn)換是由前面的主列隊與后面的主列隊決定,并使用一定的工具實現(xiàn)二維模糊控制器。洗衣機可根據(jù)清洗過程中水質(zhì)的變化對衣物進行不同程度的清洗,以保證衣物的干凈。模糊控制主要是在汽車的自動變速器上起作用,是通過自動變速器檢測駕駛員的速度得出駕駛員的駕駛意圖,判斷路況和汽車受到的阻力、監(jiān)測發(fā)動機的情況。通過以上舉例,我們可以得出模糊控制適用于電力系統(tǒng)自動化,并且具有廣泛性和通用性,能夠適用于其他不同的領域。

3.2神經(jīng)網(wǎng)絡系統(tǒng)在電力系統(tǒng)自動化中的應用

神經(jīng)網(wǎng)絡控制技術(shù)具有與電力系統(tǒng)自動化相適應的性質(zhì)“非線性特性”,同時,其還具有自我學習與自我組織的能力,以及具有強壯的網(wǎng)絡系統(tǒng)和處理的能力。因此,大量的、簡單的神經(jīng)元構(gòu)成了神經(jīng)網(wǎng)絡控制技術(shù),有了神經(jīng)網(wǎng)絡控制方式。神經(jīng)網(wǎng)絡利用一定的學習算法,將隱藏在其連接權(quán)值上的大量信息進行了調(diào)節(jié)權(quán)值,從而實現(xiàn)了非線性的復雜映射,從m維空間到n維空間。這個概念被應用于許多領域,如:自動控制領域;處理組合優(yōu)化問題;模式識別;圖像處理;傳感信號處理和醫(yī)學領域等。因為人體與疾病之間的關鏈非常復雜,因此神經(jīng)網(wǎng)絡控制技術(shù)也被廣泛應用到醫(yī)學上的多個領域,例如:醫(yī)學專家系統(tǒng)中的麻醉和危重醫(yī)學相關領域的研究等。由上述舉例,我們可以知道神經(jīng)網(wǎng)絡控制技術(shù)適用于電力系統(tǒng)自動化,具有廣泛性和通用性,能夠適應于其他不同的領域。

3.3專家系統(tǒng)控制在電力系統(tǒng)自動化中的應用

專家系統(tǒng)控制能及時處理和辨識發(fā)生故障的電力系統(tǒng),最大限度地降低網(wǎng)絡阻滯或延遲給人們帶來的危險和不便。專家系統(tǒng)在電力系統(tǒng)中有較為廣泛的應用范圍,例如能夠辨識電力系統(tǒng)所處的狀態(tài):警告狀態(tài)或緊急狀態(tài)、緊急的處理、系統(tǒng)恢復控制、系統(tǒng)規(guī)劃、切負荷和電壓無功控制、故障點距離的測量、做出短期負荷預報、所處狀態(tài)的安全分析以及先進的人機接口等方面。在電梯控制中的應用,隨著科技的日新月異,電梯的制作技術(shù)也在不斷地發(fā)展與更新,由簡單逐漸趨向于復雜化,現(xiàn)在,在電梯即將出廠時,會有專門的工作人員進行調(diào)試,但當安裝好后,電梯一旦出現(xiàn)故障時,為本單位所配備的維修人員,卻不能快速找到問題,解除故障,這是由于電梯構(gòu)造復雜化了,因此我們需要在安裝電梯之前,安裝專家控制器以確保電梯的可用性和保障性。由此可見,專家系統(tǒng)控制適用于電力系統(tǒng)自動化。

3.4綜合智能系統(tǒng)在電力系統(tǒng)自動化中的應用

綜合智能系統(tǒng)根據(jù)模糊控制結(jié)構(gòu)有效、合理地將這些控制方法結(jié)合起來,以完善電力系統(tǒng)自動化,使其能夠具備穩(wěn)定性、協(xié)調(diào)性和簡易性。由于智能控制方法之間的交叉結(jié)合,一般人們會將其進行如下組合進行分析,例如:神經(jīng)系統(tǒng)與專家系統(tǒng)的結(jié)合;專家系統(tǒng)和模糊控制的結(jié)合;神經(jīng)網(wǎng)絡與模糊控制的結(jié)合;神經(jīng)網(wǎng)絡、模糊控制與自適應控制的結(jié)合等方面。

第4篇:神經(jīng)網(wǎng)絡的含義范文

關鍵詞:信用風險評估;支持向量機集成;預測

中圖分類號:F830.51

文獻標識碼:A

文章編號:1003-5192(2009)04-0057-05

1 引言

商業(yè)銀行作為國民經(jīng)濟的總樞紐和金融信貸中心,發(fā)揮著融通資金、引導資產(chǎn)流向和調(diào)節(jié)社會供需平衡等諸多不可替代的作用。然而商業(yè)銀行在營運過程中面臨著各種各樣的風險,包括系統(tǒng)風險和非系統(tǒng)風險,其中在非系統(tǒng)風險中信用風險占有特殊的重要地位。世界銀行對全球銀行業(yè)危機的研究表明,導致銀行破產(chǎn)的最常見原因就是信用風險。信用風險又稱違約風險,是指借款人、證券發(fā)行人或交易對方因種種原因,不愿或無力履行合同條件而構(gòu)成違約,致使銀行,投資者或交易對方遭受損失的可能性[1]。信用風險是商業(yè)銀行信貸風險管理中一項基礎性的工作,其目的在于分析銀行在貸款業(yè)務中可能面臨的信用風險――借款人如期履行特定債務的能力與意愿,從而為貸款決策提供依據(jù)。

信用評估方法在不斷演進,大致經(jīng)歷了定性分析、統(tǒng)計分析和人工智能三個發(fā)展階段,最初它只是通過信貸分析員閱讀申請表并決定是否放貸,但是這一方法主觀因素太強,必然存在誤判的可能性。統(tǒng)計方法主要是判別分析(DA)[2],判別分析是分類預測的主要研究范疇之一[3],但是判別分析在操作上的一個缺點是其基本假設很容易被打亂。另外,模型只能在已被通過的貸款樣本中進行估計,因此存在參數(shù)估計的樣本偏差。隨著信用行業(yè)的發(fā)展以及貸款組合種類的不斷增加,信用評估的準確率哪怕只提高零點幾個百分點,都會帶來巨大的效益,因此,人們積極探索開發(fā)更加準確的信用評估模型,先后就非參數(shù)統(tǒng)計模型、人工智能等方法在信用評估方面的應用進行了嘗試[4],尤其是最近幾年中己經(jīng)開發(fā)出來包括分類樹[5]、神經(jīng)網(wǎng)絡[6]以及多元判別法分析[7]等在內(nèi)的多種方法。但是,這些方法都存在一些缺點,即不能量化解釋指標的重要程度,在分類樹分析中沒有參數(shù),而在神經(jīng)網(wǎng)絡中則沒有參數(shù)解釋,用于信用風險評估具有一定的片面性。同時,神經(jīng)網(wǎng)絡的訓練是在黑箱中進行的,這種運算摒棄許多行業(yè)經(jīng)驗和專家經(jīng)驗,具有一定的盲目性,人們不能對之進行干預。神經(jīng)網(wǎng)絡適合于對數(shù)量指標的分析,而忽略對影響因素中的定性指標的分析,顯然是不合理的、片面的。而且用神經(jīng)網(wǎng)絡來評價經(jīng)濟問題時,很難說明神經(jīng)網(wǎng)絡訓練后,各網(wǎng)絡參數(shù)和閥值的經(jīng)濟含義,使得模型缺乏說服性。

研究表明組合分類器的分類精度一般比單個分類器的分類精度高,但是神經(jīng)網(wǎng)絡集成[8]在信用評分中的應用結(jié)果表明,神經(jīng)網(wǎng)絡集成的分類精度不如單個神經(jīng)網(wǎng)絡。因為神經(jīng)網(wǎng)絡分類建立在大樣本的基礎上,而目前銀行所保存的數(shù)據(jù)樣本量有限,用集成神經(jīng)網(wǎng)絡分類則必須把所收集的樣本分割成多個子樣本,從而減少了單個神經(jīng)網(wǎng)絡的訓練樣本數(shù),進而影響了其分類精度?;诖?許多學者在支持向量機[9~11]的基礎上又發(fā)展了基于小樣本學習的支持向量基集成[12~14],許多領域都用此方法來改善分類精度,應用結(jié)果表明支持向量機集成的分類精度至少和單個支持向量機的分類精度一樣好。但是目前的研究普遍是基于最多投票原則的集成方法,該方法沒有考慮子支持向量機分類器的輸出重要性。

長期以來信用風險評估一直被看作是模式識別中的一類分類問題,依據(jù)的信用風險衡量標準是貸款企業(yè)“違約與否”,利用的是模型與方法的分類功能,形成信用風險的分類評估模式,這種做法被稱為“粗暴的經(jīng)驗主義方法”。分類評估模式所反映的有限的經(jīng)濟信息并不能充分滿足信貸風險決策的需要,轉(zhuǎn)變評估模式的關鍵在于確立更為有效、客觀的信用風險衡量標準和評估預測模型, 而實施貸款風險的五級分類體系可以提高分類準確性,本文建立基于模糊積分的支持向量機集成方法,該方法考慮了各子分類器的分類結(jié)果和各子分類器判決對最終決策的重要程度,并對商業(yè)銀行信用風險進行五級分類,以某商業(yè)銀行的實際數(shù)據(jù)進行實證研究,評估結(jié)果表明該評價方法具有科學、簡潔、預測精度高等特點,而且模型的結(jié)構(gòu)與方法應用前景廣闊。

2 基于模糊積分SVMs集成的模型構(gòu)建

2.1 Bagging個體生成

Bagging[15]的基礎是可重復采樣(Bootstrap Sampling)。在該方法中,各支持向量分類器的訓練集由原始訓練集中隨機抽取若干示例組成。訓練集的規(guī)模通常與原始訓練集相當,訓練例允許重復選取。這樣,原始訓練集中某些示例可能在新的訓練集中出現(xiàn)多次,而另一些示例可能一次也不出現(xiàn)。Bagging方法通過重新選取訓練集增加了分類器集成的差異度,從而提高了泛化能力。

3 模糊密度的確定方法

由模糊積分的定義可知,確定描述各個子支持向量分類器重要性的模糊密度值是基于模糊積分的多分類器集成的關鍵所在。本文使用混淆矩陣來確定各個支持向量分類器的模糊密度值。

在子支持向量分類器訓練完畢后,用子分類器各自的訓練集對各個子分類器進行測試得到各自的混淆矩陣。

假定一個K類分類問題,對于子分類器SVCk,其混淆矩陣可以定義為

通過混淆矩陣可以得到各個支持向量機的模糊密度,為利用模糊積分進行支持向量機集成奠定了基礎。

4 五類別問題實證分析

4.1 試驗過程

仿真實驗在Libsvm軟件的基礎上進行,采用Visual C++編譯實現(xiàn)。驗證平臺為256MB內(nèi)存的AMD Athlon 1800+,操作系統(tǒng)為Windows 2000。支持向量機集成流程如圖1所示。

實驗過程如下:

第1步 使用Bagging方法從原始訓練集中產(chǎn)生各個子支持向量分類器的訓練集,對各子支持向量分類器進行訓練;

第2步 給出各訓練完畢的子支持向量分類器的五級分類的概率輸出模型[17];

第3步 根據(jù)第3節(jié)中介紹的方法確定模糊密度{g({SVMi,}),k=1,…,c},以此來表示各子支持向量機SVMi,i=1,…,m在各自訓練樣本上執(zhí)行好壞的概率密度;

第4步 當給定一個測試樣本,得到各子支持向量分類器對該測試樣本的類概率輸出;第5步 對于ωk,k=1,…,c,根據(jù)2.2計算模糊積分ek,集成各子支持向量機;

4.2 指標體系的建立

商業(yè)銀行面臨的信用風險主要與貸款企業(yè)本身的信用狀況有關,另外還與銀行自身貸款分布和行業(yè)集中度等因素有關,具體可分為貸款企業(yè)風險、商業(yè)銀行風險、宏觀經(jīng)濟風險和其他風險因素。

綜合考慮信用風險的各影響因素,依據(jù)指標選擇原則,借鑒我國財政部統(tǒng)計評價司的企業(yè)績效評價指標體系和中國工商銀行企業(yè)資信評估指標體系,并參考國內(nèi)外有關文獻,兼顧我國信用風險的特殊性和數(shù)據(jù)的可獲得性,最終確定以下16個指標(圖2)用作商業(yè)銀行信用風險評估。

圖2 信用風險評估指標體系

4.3 樣本的獲取

本文的數(shù)據(jù)來源于中國工商銀行哈爾濱某分行,在采集數(shù)據(jù)時,注重樣本自身的行業(yè)特征,不同行業(yè)的企業(yè)經(jīng)營環(huán)境和業(yè)務范圍差距很大,企業(yè)的各項財務指標和非財務指標也不具有可比性,而且又缺乏必要的行業(yè)標準和經(jīng)驗值,因此模型中選用同一行業(yè)短期貸款的樣本數(shù)據(jù)來避開這一問題。采集的數(shù)據(jù)檢索條件如下:

(1)樣本行業(yè)范圍:制造業(yè);

(2)貸款種類:短期貸款(一年及一年以內(nèi));

(3)貸款發(fā)放日期:1998年1月1日至1月31日;

(4)貸款余額截止日:2001年8月13日;

(5)貸款金額:貸款實際發(fā)放金額;

(6)貸款余額:截止2001年8月13日確定為損失的貸款余額;

(7)貸款形態(tài):貸款目前所處的形態(tài);

(8)企業(yè)全稱及代碼:識別企業(yè)的唯一標識碼;

(9)報表日期與報表:1997年12月31日的企業(yè)資產(chǎn)負債表和損益表;

(10)經(jīng)過收集、整理共獲取176個樣本,涉及貸款額50多億元人民幣。

4.4 樣本數(shù)據(jù)處理

首先對樣本進行穩(wěn)健性處理,選用兩倍、三倍標準差檢驗法進行異常數(shù)據(jù)剔除,最終獲得157個樣本數(shù)據(jù)。將樣本集劃分為訓練樣本集和測試樣本集,隨機抽取35%(56家)作為訓練樣本集,用于構(gòu)造SVMs集成模型,其余的65%(101家)作為測試樣本集,用于檢驗模型的泛化能力。以風險為依據(jù),按銀行所承受的風險大小來劃分貸款質(zhì)量的分類法,即通常所說的將貸款分為正常、關注、次級、可疑、損失五類的“五級分類法”(表1)。原始數(shù)據(jù)中,關于原始數(shù)據(jù)的實際信用等級,該商業(yè)銀行是按貸款損失占貸款總額的比率來進行統(tǒng)計的。本文采用的是用貸款損失/貸款總額來確定貸款劃分的類型,因此不可能完全按照中國人民銀行規(guī)定的貸款五級分類法的標準,具有一定的預測性,但是,同樣,對貸款風險也有較好的指導作用。

在因子分析之前還需要進行巴特利特球體檢驗和KMO測度,測試結(jié)果顯示有必要對模型輸入指標進行因子分析。本文采用主成分分析法求解初始因子,依據(jù)特征值準則(取特征值大于等于1的主成分作為初始因子),因子個數(shù)應該確定為4,根據(jù)碎石檢驗準則(Scree Test Criterion)也得到同樣的結(jié)論,而此時因子累計解釋方差的比例可以達到74%以上,保留了原有數(shù)據(jù)的主要經(jīng)濟信息,并且各因子經(jīng)濟含義較為明確,表明因子個數(shù)的確定較為適宜。由于在因子負載矩陣中,相對于0.3的負載而言,變量的方差能夠被該因子解釋的部分不足10%,所以對于絕對值小于0.3的負載一般可以不予解釋,各因子的經(jīng)濟含義較為明確,而且因子與指標間的內(nèi)在聯(lián)系比較顯著,各因子依次可以歸結(jié)為營運能力因子、償債能力因子、盈利能力因子和貸款方式因子。

4.5 實證結(jié)果分析

依據(jù)表1,按銀行所承受的風險大小來劃分貸款質(zhì)量,將貸款分為正常、關注、次級、可疑、損失五類,再將分類結(jié)果和實際的分類進行比較,判斷分類的正確性,以此對信用風險模型進行評價。

本文采用一對一策略來實現(xiàn)多類別分類,訓練出9個SVMs。各子支持向量分類器使用RBF核函數(shù),每個SVM通過10重交叉驗證的方法來選擇相應的參數(shù),本文進行了10次實驗,并將本文提出的模糊積分支持向量機集成方法在五級分類上的執(zhí)行效果與單一SVM和基于最多投票原則的SVMs集成等的執(zhí)行效果進行比較,圖3為平均執(zhí)行效果比較,從左到右依次是:(1)神經(jīng)網(wǎng)絡集成;(2)單一模糊神經(jīng)網(wǎng)絡,(3)單一SVM,(4)基于最多投票SVMs集成,(5)基于模糊積分的SVMs集成。由圖3可知,基于模糊積分的SVMs集成的分類正確率為87.10%,基于最多投票的SVMs集成的分類正確率為85.17%,單一SVM的正確率為84.524%,模糊神經(jīng)網(wǎng)絡的分類正確率為82.59%,神經(jīng)網(wǎng)絡集成的分類正確率為81.72%。

應用結(jié)果表明,基于模糊積分SVMs集成比單個SVM、基于最多投票的SVMs集成和單個模糊神經(jīng)網(wǎng)絡的分類效果好,而單個模糊神經(jīng)網(wǎng)絡的分類正確率比神經(jīng)網(wǎng)絡集成的分類正確率高。支持向量機集成的分類精度最高,可能是因為銀行目前所保存的樣本量有限,支持向量機適合小樣本訓練,而神經(jīng)網(wǎng)絡訓練則需要大樣本支持,在有限的樣本中重復抽樣,會減少樣本量,這樣就會降低神經(jīng)網(wǎng)絡的訓練精度,從而進一步證明了支持向量機對于小樣本訓練的優(yōu)勢;并且模糊積分在進行多分類器決策融合的時候綜合考慮了各子分類器的分類結(jié)果和各子分類器判決對最終決策的重要程度的緣故,證實了本文提出的方法的準確性和有效性。

5 結(jié)束語

本文提出了一個基于模糊積分的支持向量機集成方法。該方法最主要的優(yōu)點是它不僅組合各個分類結(jié)果,而且考慮不同SVMs分類器的相對重要性。將此方法應用于商業(yè)銀行信用風險評估,模擬結(jié)果表明該方法比單個SVM、基于最多投票的SVMs集成方法、神經(jīng)網(wǎng)絡和神經(jīng)網(wǎng)絡集成的效率高,效果好。說明基于模糊積分的SVMs集成的商業(yè)銀行信用風險評價是可行和有效的。進一步研究的方向是設定更加合理的模糊密度和用其它方法(如加速法)來構(gòu)建SVMs。

參 考 文 獻:

[1]丁欣.國外信用風險評估方法的發(fā)展現(xiàn)狀[J].湖南大學學報(社會科學版),2002,16(3):140 142.

[2]Jackson P, Perraudin W. Regulatory implications of credit risk modelling[J]. Journal of Banking and Finance, 2000, 24(1): 1 14.

[3]De Andres J, Linda M, Lorca P. Forecasting business profitability by using classification techniques: a comparative analysis based on a Spanish case[J]. European Journal of Operational Research, 2005, 167(2): 518 542.

[4]West D. Neural network credit searing models[J]. Computers & Operations Researeh, 2000, 27(4): 1131 1152.

[5]姜明輝,王歡,王雅林.分類樹在個人信用評估中的應用[J].商業(yè)研究,2003,(12):15 19.

[6]Lee K C, Han I, Kwon Y. Hybrid neural network models for bankruptcy predictions[J]. Decision Support System, 1996, 18(1): 63 72.

[7]方洪全,曾勇.運用多元判別法評估企業(yè)信用風險的實例[J].預測,2004,23(2):6568.

[8]Tsai C F, Wu J W. Using neural network ensembles for bankruptcy prediction and credit scoring[J]. Expert Systems with Applications, 2008, 34(4): 2639 2649.

[9]Huang C L, Chen M C, Wang C J. Credit scoring with a data mining approach based on support vector machines[J]. Expert Systems with Applications, 2007,33(4): 847856.

[10]Xu Xiujuan, Zhou Chunguang, Wang Zhe. Credit scoring algorithm based on link analysis ranking with support vector machine[J]. Expert Systems with Applications, 2008, 36(2): 18.

[11]Crook J N, Edelman D B, Thomas L C. Recent developments in consumer credit risk assessment[J]. European Journal of Operational Research, 2007, 183(3): 1447 1465.

[12]Nanni L, Lumini A. MppS: an ensemble of support vector machine based on multiple physicochemical properties of amino acids[J]. Neurocomputing, 2006, 69(13): 1688 1690.

[13]Li Bo, Li Xinjun, Zhao Zhiyan. Novel algorithm for constructing support vector machine regression ensemble[J]. Journal of Systems Engineering and Electronics, 2006, 17(3): 541 545.

[14]Bertoni A, Folgieri R, Valentini G. Bio molecular cancer prediction with random subspace ensembles of support vector machines[J]. Neurocomputing, 2005, 63(6): 535 539.

[15]Breiman L. Bagging predictors[J]. Machine Learning, 1996, 24(2): 123 140.

[16]Kwak K C, Pedrycz W. Face recognition: a study in information fusion using fuzzy integral[J]. Pattern Recognition Letters, 2005, 26(6): 719 733.

第5篇:神經(jīng)網(wǎng)絡的含義范文

關鍵詞:倒立擺;PID;模糊神經(jīng)網(wǎng)絡;穩(wěn)定性控制;仿真

中圖分類號:TP18文獻標識碼:A文章編號:1009-3044(2012)13-3165-06

Inverted Pendulum System Based on PID and Fuzzy Neural Networks Control

LIU Zhi-long, PAN Yu-min

(Department of Electronic Information Engineering, North China Institute of Science and Technology, Beijing 101601, China)

Abstract: In this paper, we adopt PID and the adaptive neural network based fuzzy inference method to control the inverted pendulum, combined the fuzzy control into the neural control. This method can improve the capability of the fuzzy controller through learning the data of PID controller to train the fuzzy controller. When the model parameters were changed, the adaptive neural network based fuzzy inference system had good adopt ability to anti-interfere. The car can go to the destine position exactly.

Key words: inverted pendulum; PID; neural network based fuzzy inference system; stable control; simulation

倒立擺是一種典型的高階、非線性、強耦合、多變量、不穩(wěn)定的裝置,但是它的結(jié)構(gòu)簡單、成本低、容易調(diào)試的特點使得它成為檢驗各種控制策略、控制理論的理想平臺。

對倒立擺系統(tǒng)的學習研究具有廣泛、深遠的現(xiàn)實和實踐意義,其控制效果可以有效衡量控制理論有效性,另外,一些抽象的控制概念也可以通過倒立擺來理解,例如穩(wěn)定性、魯棒性、能控能觀性等。倒立擺起初是用來進行航空航天領域的原理應用的,而后倒立擺系統(tǒng)便成為驗證控制理論與策略的理想對象。由于倒立擺豎直穩(wěn)定的狀態(tài)與機器人直立行走的形態(tài)及其相似,倒立擺的平衡控制與火箭發(fā)射過程中的調(diào)姿極為相像,因此,倒立擺系統(tǒng)的控制原理也被用與雙足機器人直立行走及火箭穩(wěn)定發(fā)射與飛行方面。近年來,對多級倒立擺和各種復雜結(jié)構(gòu)的倒立擺進行有效控制成為各個學科領域不斷研究、不斷創(chuàng)新的課題之一。把模糊邏輯系統(tǒng)與人工神經(jīng)網(wǎng)絡有機結(jié)合并運用于倒立擺系統(tǒng)的控制中,成為一種實現(xiàn)倒立擺系統(tǒng)穩(wěn)定控制的有效方法。

1倒立擺模型的受力分析及數(shù)學模型的建立

倒立擺系統(tǒng)如圖1所示。

滑軌

圖1一級倒立擺控制原理

圖1中擺和小車參數(shù):l=0.5m, g=9.8m/s2,m=0.1kg,M=3kg。各參數(shù)含義如表1所示。倒立擺的受力分析如圖2所示。

(1)

對擺桿水平方向進行受力分析并進行整理化簡可以得到等式

N=mx?+mlθ?cosθ-mlθ?2sinθ(2)

將(2)式代入(1)式中,可以得到系統(tǒng)的第一個運動方程:

F=(M+m)x?+bx?+mlθ?cosθ-mlθ?2sinθ(3)

對擺桿垂直方向進行受力分析并進行整理化簡可以得到下式

P=mg-mlθ?sinθ-mlθ?2cosθ

(4)

力矩平衡方程如(5)式

-plsinθ-Nlcosθ=Iθ?

(5)

將P和N的等式代入(5)式中可得到系統(tǒng)的第二個運動方程

(I+ml2)θ?+mglsinθ=-mlx?cosθ(6)

假設?遠小于1(單位弧度),即?

?è=0,cosθ=-1,sinθ=-φ(7)

將被控對象的輸入力F用u來表示后可以得到兩個線性化后的運動方程

(8)

經(jīng)拉氏變換并假設初始條件為零從而分析整理的倒立擺的數(shù)學模型如下:

帶入數(shù)據(jù)得到倒立擺的模型如下[3]:

2模糊神經(jīng)網(wǎng)絡的結(jié)構(gòu)及學習算法

采用模糊神經(jīng)網(wǎng)絡控制,對于知識的表達并不是通過一條條顯式的規(guī)則,而只需通過高速并行分布計算即可產(chǎn)生輸出結(jié)果,利用神經(jīng)網(wǎng)絡來實現(xiàn)模糊推理、記憶并調(diào)整模糊規(guī)則。規(guī)則隱含地分布在整個網(wǎng)絡中,在實際控制應用過程中,不必進行復雜的規(guī)則搜索、推理。

2.1 ANFIS系統(tǒng)神經(jīng)模糊系統(tǒng)

本文采用自適應模糊神經(jīng)推理系統(tǒng)ANFIS (Adaptive-Network-based Fuzzy Inference System)實現(xiàn)模糊神經(jīng)網(wǎng)絡的功能。假定一模糊推理系統(tǒng)輸入x和y,單輸出z,對于一階Sugeno糊模型,有兩條模糊規(guī)則:

1)if x isA1, y isB1,then f1=p1x1+q1x2+r1 2)if x isA2,y isB2,then f2=p2x1+q2x2+r2圖3表示了對應的推理機制。圖3 ANFIS結(jié)構(gòu)原理圖

網(wǎng)絡共分5層:

第1層:計算輸入的模糊隸屬度

o1,i=gxi(x,ai,bi),i=1,2

o1,j=gy(j-2)(y,cj-2,dj-2),j=3,4(13)

第2層:計算規(guī)則適用度

o2,1=gxi(x,ai,bi)?gy1(y,c1,d1)

o2,2=gx2(x,a2,b2)?gy2(y,c2,d2)(14)

第3層:適用度歸一化

o3,1=

(16)第4層:計算每條規(guī)則的輸出

zi=pix+qiy+ri,i=1,2

(17)第5層:計算模糊系統(tǒng)輸出

z=wˉ1z1+wˉ2z2

(18)

網(wǎng)絡中包含待定的前件參數(shù),即隸屬度函數(shù)中的參數(shù)和后件參數(shù),通過某種算法訓練ANFIS,可以按照指定的指標得到這些參數(shù),從而可以達到模糊建模的目的。

3 PID控制器的原理及構(gòu)成

PID控制器是一種線性控制器,通過對誤差信號e(t)進行比例、積分和微分的運算,對各運算結(jié)果進行加權(quán)和便得到控制器的輸出u(t),u(t)就是所需控制量的大小。PID控制器的數(shù)學描述為:

u(t)=Kpé

(19)

式中u(t)為控制輸入,e(t)=r(t)-c(t)為誤差信號,r(t)為輸入量,c(t)為輸出量。其控制輸出由三部分組成:

比例環(huán)節(jié)是依據(jù)偏差的大小來作用的,在系統(tǒng)中器穩(wěn)定被控量的作用,同時能加快系統(tǒng)的響應速度。積分環(huán)節(jié)是根據(jù)偏差是否存在來動作的,在系統(tǒng)中起到消除靜差的作用,能提高系統(tǒng)的無差度。積分作用的強弱取決于積分時間常數(shù)Ti的大小,Ti越大,積分作用越弱;Ti越小,積分作用越強。微分環(huán)節(jié)是根據(jù)偏差的變化來動作的,在偏差信號發(fā)生較大的變化以前,提前引入一個早期的校正信號,起到超前調(diào)節(jié)的作用,但是微分作用過強,可能引起系統(tǒng)的振蕩。

4 PID控制器與模糊神經(jīng)控制器的設

通常的模糊控制器可以處理模糊信息,并能完成模糊推理,而模糊神經(jīng)控制器的學習則是一種能完成模糊推理的神經(jīng)網(wǎng)絡的學習。

模糊神經(jīng)網(wǎng)絡控制是利用離線訓練的網(wǎng)絡,通過在線計算即可得到最佳輸出,這種控制方式的反應速度快,并且神經(jīng)網(wǎng)絡還具有自學習和聯(lián)想能力,而且對于未在訓練中出現(xiàn)的樣本,也可以通過聯(lián)想記憶做出合理控制決策,表現(xiàn)非常靈活。具體操作方法:將控制系統(tǒng)的PID輸入、輸出數(shù)據(jù)用To workspace模塊進行采集,然后用anfisedit命令打開ANFIS編輯器來進行模糊神經(jīng)網(wǎng)絡控制器的訓練,將訓練生成的FIS文件導入普通模糊控制器即可得到模糊神經(jīng)網(wǎng)絡控制器,該控制器可以達到甚至超過PID控制器的控制精度。

在MATLAB中可通過anfis函數(shù)對ANFIS進行訓練,從而使模糊控制器的建立變得容易。模糊控制器的建立過程可分成如下6個步驟:

1)通過采集或其他方法產(chǎn)生訓練所需數(shù)據(jù)和檢驗所需數(shù)據(jù);

2)選定輸入變量的隸屬度函數(shù)類型及個數(shù);

3)由genfist函數(shù)產(chǎn)生初始的FIS結(jié)構(gòu);

4)設定ANFIS訓練的步數(shù)及訓練精度;

5)用antis函數(shù)訓練ANFIS,從而生成FIS文件;

6)將得到的FIS文件嵌入到模糊控制器中并檢驗其控制效果。

ANFIS界面及訓練過程如圖4所示。

數(shù)據(jù)從workspace導入,每個輸入選取三個模糊語言變量,即大、中、小,采用高斯函數(shù)作為隸屬度函數(shù),訓練精度設為0.0001,訓練600次,達到精度為0.00022011。

5仿真過程及結(jié)果結(jié)果

利用Matlab中的Simulink建立PID控制的結(jié)構(gòu)圖如圖5所示。

PID1主要用來控制倒立擺系統(tǒng)小車的位移,當單位階躍輸入時,系統(tǒng)的輸出能夠迅速跟蹤階躍輸入,示波器x用來測試輸出波形,波形如圖7所示。

結(jié)構(gòu)圖中的限幅值選為2,-2;當輸入大于2或小于-2時,限幅環(huán)節(jié)飽和輸出起到限幅作用。

PID2主要是對倒立擺的偏角進行控制,保證在小車運動或存在擾動時始終保持擺桿的偏角為零,從而使系統(tǒng)得以實現(xiàn)。示波器ang測試擺角輸出,輸出波形如圖8。

圖8擺桿擺角輸出波形

將PID控制器的三個輸入與一個輸出送到workspace,將得到的數(shù)據(jù)進行訓練得到模糊神經(jīng)網(wǎng)絡控制器,結(jié)構(gòu)圖如圖9所示。

用得到的模糊神經(jīng)網(wǎng)控制器替代PID控制器進行仿真,由示波器x得到小車位移波形如圖10所示。

結(jié)構(gòu)圖中限幅值依然是2,-2,采用經(jīng)過訓練的模糊神經(jīng)網(wǎng)絡控制器進行控制,其余與PID控制部分相同;由示波器ang得到小車運動過程中擺桿擺角的波形,如圖11所示。

經(jīng)分析可得;PID控制器與模糊神經(jīng)網(wǎng)絡控制器都能對倒立擺系統(tǒng)進行很好的控制,得出理想的輸出波形,由兩者的對比可知,PID控制器與模糊神經(jīng)網(wǎng)絡控制器對小車位移的控制效果相當,但模糊神經(jīng)網(wǎng)絡控制器對擺桿擺角的控制更加平緩,擺桿擺動角度更小。

參考文獻:

[1]楊世勇,劉殿通,譚翚.倒立擺與控制理論研究[J].自動化技術(shù)與應用. 2011, 30(5):1-3.

[2]王玉琢.基于模糊神經(jīng)網(wǎng)絡的倒立擺系統(tǒng)控制研究[D].哈爾濱:哈爾濱理工大學,2010:17-21.

第6篇:神經(jīng)網(wǎng)絡的含義范文

[關鍵詞]神經(jīng)網(wǎng)絡;卷煙運輸;短期預測

[DOI]1013939/jcnkizgsc201529087

1成品煙產(chǎn)運系統(tǒng)的短期負荷預測

各煙草工業(yè)企業(yè)紛紛以物流為導向建立起協(xié)調(diào)生產(chǎn)、倉儲、配送各環(huán)節(jié)一體的綜合管控平臺,以一定周期成品煙流動量和波次,制定產(chǎn)量與儲量。隨著卷煙物流的不斷發(fā)展,對成品煙產(chǎn)量與成品煙配送的要求也日趨精益化,控制周期愈發(fā)縮短,如何在短時間內(nèi)提供有效的預測,制訂更貼切實際需求的產(chǎn)運計劃,本文利用BP神經(jīng)網(wǎng)絡模型提供一種短期負荷預測方法,確保綜合管控平臺的合理運營。

1.1產(chǎn)運平臺短期負荷預測實施含義

產(chǎn)運系統(tǒng)負荷預測是煙草工業(yè)企業(yè)產(chǎn)運領域的系統(tǒng)調(diào)度、實時控制、運行計劃和發(fā)展規(guī)劃的前提,是煙草工業(yè)企業(yè)物流調(diào)度部門、生產(chǎn)部門與規(guī)劃部門所必須具有的基本信息。準確的負荷預測有助于提高煙草產(chǎn)運系統(tǒng)的安全性和穩(wěn)定性,能夠減少倉儲成本。

短期負荷預測通常是指24小時的日負荷預測和168小時的周負荷預測,本文主要預測的是日平均負荷。對于短期負荷預測,有兩個基本要求:第一,精確。例如,準確度要求預測某地區(qū)各品規(guī)配送相對誤差不超過3%;第二,短期負荷預測的目的是即時預測,而不是像中期負荷預測那樣,預測負荷的發(fā)展趨勢。負荷是即時變化的,因此,要求用以進行短期負荷預測的模型能夠隨時適應負荷的變化,所以理想的情況應是進行在線預測。所以時間要越短越好。

短期負荷預測一般是要考慮品規(guī)種類與品規(guī)數(shù)量因素影響的,實際上煙草品規(guī)因素和負荷的關系,是復雜的非線性關系,精確的考慮是非常困難的。為了解決這個問題可以將人工神經(jīng)網(wǎng)絡引入煙草產(chǎn)運系統(tǒng)的負荷預測領域。人工神經(jīng)網(wǎng)絡,通過多個神經(jīng)元的相互連接,使其輸入和輸出構(gòu)成一個復雜的非線性處理系統(tǒng),用于日負荷預測,同樣利用其可以記憶復雜的非線性輸入輸出映射關系的特性,而這種特性正是一些傳統(tǒng)的負荷預測方法難以實現(xiàn)的。

1.2BP神經(jīng)網(wǎng)絡算法在產(chǎn)運平臺短期負荷預測應用分析

神經(jīng)網(wǎng)絡在目前已有幾十種不同的模型。在人們提出的幾十種神經(jīng)網(wǎng)絡模型中,人們較多用的是Hopfield網(wǎng)絡、BP網(wǎng)絡、Kohonen網(wǎng)絡和ART(自適應共振理論)網(wǎng)絡。其中BP網(wǎng)絡是反向傳播(Back Propagation)網(wǎng)絡。它是一種多層前向網(wǎng)絡,采用最小均方差方式。這是一種最廣泛應用的網(wǎng)絡。

BP算法是用于前饋多層網(wǎng)絡的學習算法,前饋多層網(wǎng)絡含有輸入層、輸出層以及處于輸入輸出層之間的中間層。中間層有單層或多層,由于它們和外界沒有直接的聯(lián)系,故也稱為隱層。在隱層中的神經(jīng)元也稱隱層單元。隱層雖然和外界不連接但是,它們的狀態(tài)則影響輸入輸出之間的關系。這也是說,改變隱層的權(quán)系數(shù),可以改變整個多層神經(jīng)網(wǎng)絡的性能。

BP網(wǎng)絡也存在著問題。第一,BP算法的學習速度很慢。其原因主要有三點:一是由于BP算法本質(zhì)上為梯度下降法,而它所要優(yōu)化的目標函數(shù)又非常復雜,因此,必然會出現(xiàn)“鋸齒形現(xiàn)象”,這使得BP算法低效;二是存在麻痹現(xiàn)象,由于優(yōu)化的目標函數(shù)很復雜,它必然會在神經(jīng)元輸出接近0或1的情況下,出現(xiàn)一些平坦區(qū),在這些區(qū)域內(nèi),權(quán)值誤差改變很小,使訓練過程幾乎停頓;三是為了使網(wǎng)絡執(zhí)行BP算法,不能用傳統(tǒng)的一維搜索法求每次迭代的步長,而必須把步長的更新規(guī)則預先賦予網(wǎng)絡,這種方法將引起算法低效。第二,網(wǎng)絡訓練失敗的可能性較大。其原因有四點:一是從數(shù)學角度看,BP算法為一種局部搜索的優(yōu)化方法,但它要解決的問題為求解復雜非線性函數(shù)的全局極值,因此,算法很有可能陷入局部極值,使訓練失?。欢蔷W(wǎng)絡的逼近、推廣能力同學習樣本的典型性密切相關,而從問題中選取典型樣本實例組成訓練集是一個很困難的問題。三是難以解決應用問題的實例規(guī)模和網(wǎng)絡規(guī)模間的矛盾。這涉及網(wǎng)絡容量的可能性與可行性的關系問題,即學習復雜性問題;四是網(wǎng)絡結(jié)構(gòu)的選擇尚無一種統(tǒng)一而完整的理論指導,一般只能由經(jīng)驗選定。為此,有人稱神經(jīng)網(wǎng)絡的結(jié)構(gòu)選擇為一種藝術(shù)。而網(wǎng)絡的結(jié)構(gòu)直接影響網(wǎng)絡的逼近能力及推廣性質(zhì)。

2BP神經(jīng)網(wǎng)絡綜合改進

確定連接權(quán)修正值的計算過程,實際上是優(yōu)化計算的梯度下降法。當能量公式對應的誤差曲面為窄長型時,這種算法在谷的兩壁跳來跳去,影響了網(wǎng)絡的收斂速度,對算法最普通的改進方法是增加附加動量項。利用附加動量項可以起到平滑梯度方向的劇烈變化,增加算法的穩(wěn)定性。在具體計算中,學習率η越大,學習速度會越快,但過大時會引起震蕩效應;而動量因子α取得過大可能導致發(fā)散,過小則收斂速度過慢。

并為了解決BP易于陷于極小值現(xiàn)象,用人工遺傳算法來優(yōu)化BP網(wǎng)絡的初始權(quán)值。遺傳算法是根據(jù)生物進化思想而啟發(fā)得出的一種全局優(yōu)化算法,在本質(zhì)上是一種不依賴具體問題的直接搜索方法,它僅需給出目標函數(shù)的描述,從一組隨機產(chǎn)生的稱為“種群(population)”的初始解開始,從全局空間出發(fā)搜索問題的最優(yōu)解。由于遺傳算法善于全局搜索,且能以較大的概率找到全局最優(yōu)解,故用它來完成前期搜索能較好的克服BP算法的局部極小的缺陷。將GA和BP結(jié)合起來,形成GA―BP混合訓練算法,以GA優(yōu)化BP網(wǎng)絡的初始權(quán)值和閾值,再由BP算法按負梯度方向修正網(wǎng)絡權(quán)值及閾值,進行網(wǎng)絡訓練。這種方法避免了BP網(wǎng)絡易陷入局部極小問題,達到優(yōu)化網(wǎng)絡目的,更精確的實現(xiàn)產(chǎn)量與運輸量的預測。

3云南中煙省外前置庫短期負荷預測優(yōu)化仿真

云南中煙物流綜合管控平臺是云南中煙物流管理部提出了建立資源整合、集中調(diào)度、協(xié)同運作的物流保障體系的工作思路的體現(xiàn)。搭建云南中煙統(tǒng)一的物流綜合管控平臺框架,以成品物流為重點,同時考慮原料、半成品、煙用物資的物流管理需求,建立以基礎層、調(diào)度作業(yè)層、監(jiān)控管理層為三層架構(gòu)的綜合管控平臺,實現(xiàn)云南中煙與紅塔集團、紅云紅河集團統(tǒng)一使用的信息系統(tǒng)。

為了協(xié)同成品物流運作,快速響應市場要求與行業(yè)和公司系統(tǒng)無縫集成,建立支持新的行業(yè)供貨模式、企業(yè)職責轉(zhuǎn)變、客戶訂單集成、工商協(xié)同的新型物流保障體系,快速響應市場要求。建立以訂單計劃為核心的物流模式,此模式可根據(jù)需要生成訂單的運輸計劃和倉儲作業(yè)計劃等,在橫向?qū)崿F(xiàn)儲運協(xié)同作業(yè),在縱向?qū)崿F(xiàn)統(tǒng)一調(diào)度和聯(lián)合倉儲。通過整合資源,集中運輸調(diào)度業(yè)務,平臺集成所有相關物流資源,實現(xiàn)各物流業(yè)務操作,滿足云南中煙,紅塔集團與紅云紅河集團現(xiàn)行管理模式和流程的統(tǒng)一運輸調(diào)度,并支持模式統(tǒng)一時靈活配置,滿足快速實現(xiàn)業(yè)務調(diào)整。

實現(xiàn)提供智能化,作業(yè)參考,逐步實現(xiàn)成品調(diào)度自動根據(jù)業(yè)務邏輯規(guī)則和分配計算原則,建立規(guī)則優(yōu)化引擎,逐步實現(xiàn)計劃排程和費用核算的自動化和智能化操作。

3.1問題描述

根據(jù)云南中煙2014年數(shù)據(jù)計算負荷情況,在原始數(shù)據(jù)共測量了105天,每天測量40點負荷品規(guī)數(shù)據(jù)。依據(jù)負荷的歷史統(tǒng)計數(shù)據(jù),基于BP神經(jīng)網(wǎng)絡算法來對2015年4月16日的負荷進行預測。

在對短期負荷進行預報前,一個特別重要的問題是如何劃分負荷類型或日期類型??v觀已經(jīng)發(fā)表的文獻資料,大體有兩種劃分模式。一是將40余種品規(guī)按照運輸?shù)攸c分為省外三個前置庫(沈陽、晉中、南昌);二是將40余種品規(guī)按照生產(chǎn)地方式劃分;共有7種類型。

本文采用第1種負荷劃分模式,將40余種品規(guī)按照運輸?shù)攸c分為省外三個前置庫。根據(jù)分類后的負荷情況,用歷史數(shù)據(jù)分別對所建BP神經(jīng)網(wǎng)絡模型進行省外三個前置庫的訓練,訓練完成后用以預測以后的工作日和休息日的負荷情況,并將預測結(jié)果與實際結(jié)果進行對比分析。此外考慮到這105天歷史數(shù)據(jù)前面部分是春節(jié)期間測到的數(shù)據(jù),而我們預測的日期遠離春節(jié),為了減小節(jié)假日對負荷預測的影響,在選取訓練樣本時只取后面若干天的負荷作為樣本。

3.2輸入/輸出向量設計

由于負荷值曲線相鄰的點之間不會發(fā)生突變,因此后一時刻的值必然和前一時刻的值有關,除非出現(xiàn)重大事故等特殊情況。所以這里將預測日的前一天的實時負荷數(shù)據(jù)作為網(wǎng)絡的樣本數(shù)據(jù)。由于每天測量了40品規(guī),所以輸入變量就是一個40維的向量。顯而易見,目標向量就是預測日當天的40個負荷值,這樣一來,輸出變量也是一個40維的向量。

在用樣本對BP網(wǎng)絡進行訓練之前,需要對輸入樣本數(shù)據(jù)進行歸一化處理,將數(shù)據(jù)處理為區(qū)間[0,1]之間的數(shù)據(jù)。之所以輸入數(shù)據(jù)需要歸一化,一是考慮到量綱問題,我們需要平等看待輸入向量的每一個元素;此外數(shù)據(jù)歸一化之后可以有效降低計算復雜度,加快算法的收斂。

歸一化方法有許多種形式,這里采用如下公式:

x[DD(]∧[DD)]=[SX(]x-xmin[]xmax-xmin[SX)]

在樣本中,輸入向量為預測日前天的發(fā)出品規(guī)實際負荷數(shù)據(jù),目標向量是預測日當天的發(fā)出品規(guī)負荷。由于這都是實際的測量值,因此,這些數(shù)據(jù)可以對網(wǎng)絡進行有效的訓練。如果從提高網(wǎng)絡精度的角度出發(fā),一方面可以增加網(wǎng)絡訓練樣本的數(shù)目,另一方面還可以增加輸入向量的維數(shù)。即,或者增加每日的測量點,或者把預測日前幾天的負荷數(shù)據(jù)作為輸入向量。目前,訓練樣本數(shù)目的確定沒有通用的方法,一般認為樣本過少可能使得網(wǎng)絡的表達不夠充分,從而導致網(wǎng)絡外推能力不夠;而樣本過多可能會出現(xiàn)樣本冗長現(xiàn)象,既增加了網(wǎng)絡的訓練負擔,也可能出現(xiàn)信息量過剩使得網(wǎng)絡出現(xiàn)過擬合現(xiàn)象。

3.3BP網(wǎng)絡的優(yōu)化設計

本文采用BP優(yōu)化網(wǎng)絡對負荷值進行預報。如圖1所示,為預測負荷的BP優(yōu)化網(wǎng)絡。

根據(jù)BP網(wǎng)絡來設計優(yōu)化網(wǎng)絡,一般的預測問題都可以通過單隱層的BP網(wǎng)絡實現(xiàn)。由于輸入向量有40個元素,所以網(wǎng)絡輸入層的神經(jīng)元有40個,經(jīng)過多次訓練網(wǎng)絡中間層的神經(jīng)元可以取13個。而輸出向量有40個,所以輸出層中的神經(jīng)元應該有40個。網(wǎng)絡隱含層的神經(jīng)元激勵函數(shù)采用S型正切函數(shù)tansig,輸出層神經(jīng)元激勵函數(shù)采用S型對數(shù)函數(shù)logsig。這是因為函數(shù)的輸出位于區(qū)間[0,1]中,正好滿足網(wǎng)絡輸出的要求。

3.4網(wǎng)絡訓練參數(shù)

網(wǎng)絡經(jīng)過訓練后才可以用于產(chǎn)運網(wǎng)絡負荷預測的實際應用??紤]到網(wǎng)絡的結(jié)構(gòu)比較復雜,神經(jīng)元個數(shù)比較多,需要適當增大訓練次數(shù)和學習速率。訓練參數(shù)的設定如下表所示。

訓練參數(shù)表

最大訓練次數(shù)[]訓練誤差目標[]學習速率[]省外三個前置庫樣本數(shù)[]省外其他

1000[]001[]01[]最近30個[]最近8個

3.5仿真結(jié)果

按照表1設定的參數(shù)得到省外三個前置庫、的訓練收斂曲線分別如圖2、圖3所示。可見經(jīng)過數(shù)次訓練后,網(wǎng)絡目標誤差就能達到要求,其中省外三個前置庫訓練到目標誤差需要16次訓練,省外其他的9次訓練。

利用訓練好后的BP網(wǎng)絡進行預測,得到工作日和休息日的預測誤差曲線、預測日實際負荷曲線與預測負荷曲線分別如圖4、圖5所示。且工作日與休息日的平均絕對百分誤差結(jié)果為:err=2.6025(省外三個前置庫);err1=52174(省外)。由此可見,采用BP神經(jīng)網(wǎng)絡進行預測效果良好。對比圖4、圖5發(fā)現(xiàn)對休息日的預測波動較大,這可能跟訓練樣本數(shù)目不同有關系。仿真中用于訓練工作日神經(jīng)網(wǎng)絡的樣本數(shù)為30個,而用于訓練休息日的樣本僅僅為8個。為了驗證網(wǎng)絡設計中一些參數(shù)對結(jié)果的影響,改變中間層神經(jīng)元的個數(shù)進行對比。

在建立神經(jīng)網(wǎng)絡時,中間層神經(jīng)元的個數(shù)的確定沒有特別的說明,數(shù)量越多可能會給預測精度帶來好處,但會增加計算的復雜度,降低系統(tǒng)的穩(wěn)定性甚至使得算法發(fā)散。經(jīng)驗上講如果神經(jīng)網(wǎng)絡輸入向量的維數(shù)是M,輸出向量的維數(shù)是N個,那么中間層神經(jīng)元的個數(shù)為sqrt(M+N)+L(L為6到10的常數(shù))。為了研究中間層神經(jīng)元個數(shù)對仿真結(jié)果的影響,減少中間層神經(jīng)元個數(shù)到25個。仿真收斂曲線如圖6、圖7所示,誤差及預測曲線如圖8、圖9所示。工作日與休息日的平均絕對百分誤差結(jié)果為:err=2.5(省外三個前置庫);err1=2.97(省外其他)。對比之前可以看出,適當調(diào)節(jié)中間層神經(jīng)元個數(shù)可以加快算法收斂的速度,改善預測準確度。

3.6結(jié)果分析

通過綜合使用神經(jīng)網(wǎng)絡的仿真結(jié)果顯示,省外三個前置庫(沈陽、晉中、南昌)在物流網(wǎng)絡下其收斂性、預報誤差及預測曲線均高于其他同類庫房,顯示出較好的抗壓和負荷周轉(zhuǎn)能力。

4結(jié)語

關于成品煙品規(guī)的負荷預測是產(chǎn)運平臺重要工作,國內(nèi)外關于短期負荷預測的文獻很多,但是由于品規(guī)受訂量等諸多因素的影響和產(chǎn)量本身的不確定性,使得迄今還沒有一種十分滿意的方法。由仿真結(jié)果知,本文介紹的基于BP優(yōu)化神經(jīng)網(wǎng)絡的預測方法,再經(jīng)過一定次數(shù)的訓練便能取得較好的負荷預測效果。

參考文獻:

[1]Senjyu TH,Takara K,F(xiàn)unabashi TOne-hour-ahead Load Forecasting Using Neural Network[J].IEEE Trans Power System,2002,17(1)

第7篇:神經(jīng)網(wǎng)絡的含義范文

摘要:財務危機的出現(xiàn)意味著企業(yè)基本面發(fā)生根本性變化,處理不當就會導致企業(yè)破產(chǎn)。因此,識別企業(yè)財務危機,并對其做出預警,不僅對企業(yè)經(jīng)營者及時采取措施化解危機具有重大的意義,而且對于投資者規(guī)避風險也有非常重要的價值。

關鍵詞:財務危機;預警;指標體系

一、引言

“財務危機”又稱財務困境,最嚴重的財務危機是企業(yè)破產(chǎn)。企業(yè)因財務危機最終導致破產(chǎn)實際上是一種違約行為,所以財務危機又可稱為“違約風險”。

關于財務危機的定義,目前尚無一個統(tǒng)一的說法。具有代表性的觀點有以下幾種:(1)Beaver(1966)將破產(chǎn)、拖欠優(yōu)先股股利、拖欠債務界定為財務危機。(2)Altman(1968)定義的財務危機是進入法定破產(chǎn)、被接管或者重整的企業(yè)。(3)Deakin(1972)則認為財務危機公司僅包括已經(jīng)經(jīng)歷破產(chǎn)、無力償債或為債權(quán)人利益而已經(jīng)進行清算的公司。(4)Carmichael(1972)認為財務危機是企業(yè)履行義務時受阻,具體表現(xiàn)為流動性不足、權(quán)益不足、債務拖欠及資金不足四種形式。(5)Wruck(1990)給出的財務危機的定義是企業(yè)現(xiàn)金流量不足以抵償現(xiàn)有債務的情況,這些債務包括應付未付款、訴訟費用、違約的利息和本金等。(6)Ross等人(1999;2000)則認為可從四個方面定義企業(yè)的財務危機:一是企業(yè)失敗,即企業(yè)清算后仍無力支付債權(quán)人的債務;二是法定破產(chǎn),即企業(yè)和債權(quán)人向法院申請企業(yè)破產(chǎn);三是技術(shù)破產(chǎn),即企業(yè)無法按期履行債務合約付息還本;四是會計破產(chǎn),即企業(yè)的賬面凈資產(chǎn)出現(xiàn)負數(shù),資不抵債。(7)Lee(2004)認為可以從兩方面定義財務危機:一是未能償還到期借款的本息,借款期間有過延期還款和減少本息支付的協(xié)議;二是公司的凈資產(chǎn)減少到其股本的一半以下。

綜合上述各種定義可知,無論財務危機如何定義,企業(yè)發(fā)生財務危機都具有無力償還到期債務、現(xiàn)金流的緊張狀態(tài)可能使經(jīng)營無法持續(xù)的特點。財務危機的出現(xiàn)意味著企業(yè)基本面發(fā)生根本性變化,處理不當就會導致企業(yè)破產(chǎn)。因此,識別企業(yè)財務危機,并對其做出預警,不僅對企業(yè)經(jīng)營者及時采取措施化解危機具有重大的意義,而且對于投資者規(guī)避風險也有非常重要的價值。

二、文獻綜述

企業(yè)財務危機預警問題的研究很早就引起了各方面的關注,很多經(jīng)濟學家與財務專家都在這方面做了大量的工作,他們利用相應的財務變量構(gòu)造了一系列的預測模型,其中有代表性的研究成果可歸納為四類。

(一)單變量模型

單變量模型是運用單一變數(shù)、個別財務比率來預測財務危機的模型。最早的財務預警研究是Fitzpatrick(1932)的單變量破產(chǎn)預測研究。此后,WilliamBeaver(1966)使用單變量為分析方法,采用成對抽樣法進行樣本配對,考察了29個財務比率在企業(yè)陷入財務困境前1-5年的預測能力。Beaver發(fā)現(xiàn)在破產(chǎn)前一年的預測正確率可以達到87%,對于失敗企業(yè)是最具有預測能力的指標。國內(nèi)學者對單變量模型也作了較深入的研究,包括陳靜(1999)以1998年的27家ST公司和27家非ST公司,使用1995-1997年的財務報表數(shù)據(jù),進行了單變量分析。吳世農(nóng)和盧賢義(2001)以70家ST公司和70家非ST公司,應用單變量分析法研究了在上市公司陷入財務危機前5年21個財務指標之間所存在的差異。

單變量模型的優(yōu)點是只需要觀測一個變量,應用比較簡單;但是,任何一個財務比率無法充分和全面地反映企業(yè)的財務特征,所以該方法在現(xiàn)今的研究中很少被單獨使用,一般都是與其他方法結(jié)合運用。

(二)多變量分析模型

多變量分析模型又可以分為多元回歸分析模型和多元判別分析模型。EdwardAltman(1968)使用多變量分析法對企業(yè)財務危機進行研究。他以1946-1965年間33家破產(chǎn)的制造業(yè)企業(yè)為樣本,并配對33家正常企業(yè),將22項財務比率分為流動性、獲利性、財務杠桿、償債能力和活動力五大類指數(shù),利用多變量分析法建立了著名的Z-Score記分模型。Meyer和Pifer(1970)以1948-1965年間失敗的30家銀行與其相匹配的30家非失敗銀行為樣本,利用二元回歸分析法建立模型,并且用9對相匹配銀行組成的預測樣本對模型進行了驗證。此外,還有其他典型的判別分析模型,包括:Deakin模型、Blum模型、Casey模型和Taffler模型等等。國內(nèi)的相關研究主要有陳靜(1999)使用1995-1997年的財務數(shù)據(jù),對27家ST公司和27家非ST公司進行的多元判別分析。張玲(2000)以120家公司為研究對象,使用其中60家公司的財務數(shù)據(jù),通過多元判別法建立了財務危機預警模型。盧守林等(2002)以滬深兩市A股市場上所有上市公司1998-2000年的財務資料為依據(jù),用多元判別分析法構(gòu)建的Z-Score模型。

多變量分析法彌補了單變量分析法的不足,具有較高的準確率和穩(wěn)定性,但是也存在著一些不足:第一,這種方法受到了統(tǒng)計假設的限制,只適用于自變量近似服從正態(tài)分布的情況,并且要求組內(nèi)的協(xié)方差矩陣相等,否則得到的預測結(jié)果可能是有偏的;第二,多元判別分析要求財務危機公司與正常公司之間一定要配對,而配對的標準具有較大的主觀性。

(三)多元條件概率模型

多元條件概率模型是使用極大似然法對參數(shù)進行估計的一類概率模型,包括Logistic模型和Probit模型。Martin(1977)首次使用Logit模型預測公司的破產(chǎn)及違約概率。Ohlson(1980)從1970-1976年間在美國的上市公司之中排除公共事業(yè)、運輸公司、金融服務業(yè),總共挑選出105家破產(chǎn)公司和2058家正常公司為樣本,采用九個財務比率建立了Logit模型。Huffman&Ward(1996)運用Logit模型對1977-1991年間違約的171家企業(yè)的高收益?zhèn)M行了預測研究等。國內(nèi)的相關研究主要包括:吳世農(nóng)和盧賢義(2001)分別采用多元判別分析和Logit回歸方法建立和估計了預警模型。劉旻(2001)使用1999年28家ST公司與另外28家正常公司陷入財務危機前3年的數(shù)據(jù),通過Logit回歸方法建立了財務危機預警模型。姜秀華(2002)和齊治平(2002)利用Logit模型對我國上市公司進行信用風險分析。李萌(2005)以不良貸款率作為信用風險衡量標準,構(gòu)造商業(yè)銀行信用風險評估的Logit模型等。

多元條件概率模型的主要優(yōu)點是不需要自變量服從多元正態(tài)分布和組內(nèi)協(xié)方差矩陣相等的假設條件,但是要求因變量有邏輯含義,而且計算過程較為復雜,有很多近似處理。

(四)神經(jīng)網(wǎng)絡預警模型

神經(jīng)網(wǎng)絡,又稱人工神經(jīng)網(wǎng)絡(ArtificialNeuralNetwork,ANN)是一種從神經(jīng)心理學和認識科學的研究成果出發(fā),應用數(shù)學方法發(fā)展起來的并行分布模式處理系統(tǒng)。常見的神經(jīng)網(wǎng)絡模型主要有:BP神經(jīng)網(wǎng)絡模型、MDA協(xié)助神經(jīng)網(wǎng)絡模型、ID3協(xié)助神經(jīng)網(wǎng)絡模型和SOFM協(xié)助神經(jīng)網(wǎng)絡模型。Odom和Sharda(1990)是將人工神經(jīng)網(wǎng)絡模型應用在破產(chǎn)預測模式中最具代表性的學者。Koh和Tan(1999)以1978-1985年間出現(xiàn)的165家破產(chǎn)公司為失敗樣本并以正常公司165家作為配對樣本,使用人工神經(jīng)網(wǎng)絡模型構(gòu)建了企業(yè)危機預警模型。在我國,王春峰(1998)、楊保安(2001)等學者也在此領域進行了深入的研究,楊保安通過對中信實業(yè)銀行的分析,選取了4大類共15個財務指標,運用BP神經(jīng)網(wǎng)絡方法建立了一個可供銀行用于授權(quán)評價的預警系統(tǒng)。臺灣的林文修(2000)選取1992-1996年在臺灣證交所上市企業(yè)中的36家失敗企業(yè)和64家正常企業(yè),并區(qū)分為學習樣本73家與測試樣本27家,比較了多元判別分析、Logit模型、BP神經(jīng)網(wǎng)絡模型和演化式神經(jīng)網(wǎng)絡模型等四種方法的模型預測準確率。神經(jīng)網(wǎng)絡預警模型的主要優(yōu)點是分析層次清晰且邏輯關系嚴密,并依據(jù)心理學理論加入了一主觀因素,從而有效地使客觀分析與主觀判斷相融合。它的缺點是規(guī)范分析特點明顯,不適宜做實證分析,分析模式缺乏靈活性,數(shù)據(jù)性假設條件過于苛刻。

三、財務危機預警的指標體系設計

導致企業(yè)發(fā)生財務危機的因素很多,且錯綜復雜,單變量模型與多變量模型僅能揭示影響關系與程度,變量的選擇會因分析人員偏好的不同而不同,其不僅缺乏統(tǒng)一的理論基礎,而且系統(tǒng)性往往較差,多元條件概率模型和神經(jīng)網(wǎng)絡預警模型雖然在分析技術(shù)上較為先進,且分析企圖試圖更精確,但它們在強調(diào)分析技術(shù)的同時,往往忽略了立論的基本依據(jù),且在變量選擇中往往伴隨較明顯的盲目性。因此,作為完善多變量模型系統(tǒng),為多元條件概率模型和神經(jīng)網(wǎng)絡預警模型提供變量選擇的依據(jù),利用相應的財務理論構(gòu)建企業(yè)財務危機預警指標體系就是研究企業(yè)財務危機的基礎之基礎。但從財務本身的角度去分析,財務危機形成的原因可以歸結(jié)為以下幾點:(1)公司經(jīng)營狀況不佳,導致營業(yè)收入無法穩(wěn)定增長,造成公司的連續(xù)虧損,使得財務危機發(fā)生的可能性增大;(2)過高的負債使公司面臨更大的財務危機。雖然公司本身有盈余,但是可能因為無法應付短期的龐大利息支出而造成破產(chǎn)倒閉;(3)現(xiàn)金流量發(fā)生持續(xù)性的凈流出,企業(yè)就像是流動性資產(chǎn)的儲水槽,若水槽中的流量變小(資產(chǎn)變少),流入量減少(現(xiàn)金流入減少),流出量增加(現(xiàn)金流出增加),流入量與流出量之間的差量就會逐步增大,這樣會使公司出現(xiàn)財務危機的概率增加。

綜合引起財務危機的三個主要因素,可以對應用五個方面的財務指標來描述或預警財務危機,用經(jīng)營能力指標、成長能力指標和獲利能力指標來度量或反映企業(yè)的經(jīng)營狀況,用公司的償債能力指標來度量或反映企業(yè)的債務負擔,用現(xiàn)金流量指標來度量現(xiàn)金流。從預警的角度考慮,五個方面的財務指標可進一步細分為20個更具體的財務變量(見表1),以此構(gòu)成財務危機預警的指標體系。

以深滬兩市A股中被ST的上市公司為實際考察對象,利用2006年1月1日-2007年12月31日深滬兩市A股中154家被ST的上市公司的數(shù)據(jù)。剔除由于以下幾種原因而被ST的上市公司:(1)上市兩年內(nèi)被特別處理的公司;(2)因自然災害、重大事故等意外事件而被特別處理的公司。經(jīng)過剔除后,本文選取的有效樣本變?yōu)?0家。根據(jù)研究期間一致、行業(yè)相同或相近、規(guī)模相當?shù)脑瓌t按1:1的比例選擇沒有被ST的上市公司作為配對樣本。由于我國上市公司年報披露制度規(guī)定上市公司公布其年報的截止日期為下一年的4月30日,上市公司(t-1)年的年報和其在第t年是否被ST幾乎同時發(fā)生,因此,用(t-1)年的數(shù)據(jù)預測第t年是否被ST沒有實際意義。在本文中采用(t-2)年的數(shù)據(jù)進行分析。

表6是財務危機公司和正常公司的成長能力指標在發(fā)生財務危機前2年的統(tǒng)計性描述,包括最大值、最小值、平均數(shù)、標準差和t值。

四、結(jié)論

第8篇:神經(jīng)網(wǎng)絡的含義范文

中圖分類號:TP393.08 文獻標識碼:A 文章編號:1009-914X(2016)21-0013-01

0 前言

隨著我國交通事業(yè)的飛速發(fā)展,城市交通宏觀規(guī)劃與調(diào)控則更是處于跨越式的發(fā)展階段,人工的現(xiàn)場交通指揮已不能滿通事業(yè)的發(fā)展需求,而三維交通仿真系統(tǒng)集成了多項計算機技術(shù),可以動態(tài)地、真實地仿真交通流和交通事故等各種交通現(xiàn)象,重現(xiàn)交通流的時間和空間的動態(tài)變化。由于現(xiàn)有的三維交通仿真系統(tǒng)是基于PC客戶端運行的,便攜性較差,不能將設備適時地移動到現(xiàn)場進行仿真。而基于移動平臺的三維交通仿真手勢設計與識別系統(tǒng)將用戶的視覺與觸覺以及測試場景巧妙的結(jié)合起來,增強了人機交互的直觀性、用戶體驗感,方便了城市交通規(guī)劃與設計。

1 基于移動平臺的三維交通仿真手勢設計與識別系統(tǒng)的研究內(nèi)容

首先,通過對參與交通仿真的用戶習慣進行調(diào)查分析,根據(jù)人機交互理論,提出具有最為優(yōu)化用戶體驗的手勢軌跡和對應的手勢命令,最終綜合設計一系列高效、簡潔的多點觸控手勢設計與識別方案。同時針對多點觸控操控手勢的特點,提出一種高效的手勢數(shù)據(jù)捕捉方案,為下一步的識別算法模型做好充分的準備。

其次,根據(jù)設計的多點觸控手勢方案,提出與之相適應的多點手勢識別算法模型,針對多點手勢的特點,將 BP網(wǎng)絡與多點手勢相結(jié)合,進行數(shù)學建模和流程分析,提出完備的多點手勢的神經(jīng)元和神經(jīng)網(wǎng)絡的模型,并給出多點手勢的訓練算法流程,和手勢識別算法流程,最終完成整套的算法模型,并實現(xiàn)一套多點觸控手勢識別的算法原程序。

2 系統(tǒng)手勢的設計原則與方案

設計原則:

(1)符合用戶習慣:手勢是人類主要信息交流手段之一,故手勢設計需符合用戶日常的使用習慣,易于記憶和被接受。用戶作為系統(tǒng)的使用者,必須以用戶為中心,使用戶能夠有效熟練的控制系統(tǒng)交互過程。

(2)文化約定:手勢的設計需符合特定文化的用法,相同手勢在不同的文化中的含義不盡相同。因此需要設計“通用的符號”作為手勢。

(3))實物隱喻:由于手勢通常會跟隨實際生活中對產(chǎn)品的操作模式,即其內(nèi)涵具有實物的隱喻意義,所以手勢設計要映射實際產(chǎn)品的操作隱喻。。

設計方案如表1:

3 BP神經(jīng)網(wǎng)絡多點觸控手勢的識別

識別網(wǎng)絡的訓練算法如圖1:

識別算法流程:

(1)輸入數(shù)據(jù),將收集來的觸摸數(shù)據(jù)處理成為待匹配輸入向量。

(2)將輸入向量放入BP神經(jīng)網(wǎng)絡中進行迭代匹配。

(3)通過BP神經(jīng)網(wǎng)絡的迭代計算,返回最終匹配的輸出向量,輸出向量為一個N維數(shù)組,N=預置手勢個數(shù)。其中數(shù)組總的每一個值代表對應的手勢的匹配程度,匹配度越高的手勢越接近正確結(jié)果。

(4)過濾輸出向量,選出匹配度最高的手勢。判斷若其匹配度高于預設閾值,則匹配成功,否則,匹配失敗。

4 結(jié)語

本章主要描述了基于BP神經(jīng)網(wǎng)絡的多點觸控手勢識別的算法模型。提出的這套多點觸控手勢識別算法正好與之結(jié)合緊密,同時還支持手勢的學習和擴展,更為之后的研究打下了基礎,可以使多點觸控手勢進一步發(fā)揮它的優(yōu)勢。

參考文獻

[1] 凌云翔,張國華,李銳,等.基于多點觸摸的自然手勢識別方法的研究[J].國防科技大學學報,2010,32(1):4-5.

[2] 王曉慶,等. 多點觸摸手勢分析及識別算法的研究[J].計算機科學,2012,39(6A):522-525.

[3] 中國觸控屏網(wǎng) (http://).多點觸控技術(shù)的特點及其發(fā)展.

基金項目

寧夏師范學院科學研究基金資助。

第9篇:神經(jīng)網(wǎng)絡的含義范文

關鍵詞:數(shù)據(jù)挖掘;網(wǎng)頁分類;神經(jīng)網(wǎng)絡;學習算法

中圖分類號:TP393文獻標識碼:A文章編號:1009-3044(2008)12-20ppp-0c

Process Neural Network and its Application in Web Document Automatic Classification

SUI Chang-fu

(Teaching Administration Office of Daqing Petroleum Institute at Qinhuangdao,Hebei 066004 China)

Abstract: Aiming to web document classification in data mining, a classification method is presented in this paper. The method is based on vector space model and process neural network. The network includes input layer, hidden layer and output layer. Input layer performs import of samples, hidden layer extracts model characters of samples and output layer presents classification results. The availability of model and algorithms is proved by classification of some web documents in Internet.

Key words: Data mining; Web document classification; Neural network; Learning algorithm

1 引言

目前,數(shù)字圖書館及與之相關的數(shù)據(jù)倉庫和數(shù)據(jù)挖掘技術(shù)研究已成為全球性的一個熱點。這是Internet和萬維網(wǎng)發(fā)展的必然結(jié)果。文檔自動分類在數(shù)據(jù)挖掘中是一項非常重要的任務。分類的目的是根據(jù)若干已知的規(guī)則,構(gòu)造一個分類函數(shù)或分類模型(也常稱作分類器),把數(shù)據(jù)庫中的數(shù)據(jù)項映射到給定類別中的某一個。分類器的構(gòu)造有統(tǒng)計方法、機器學習方法等[1]。統(tǒng)計方法包括貝葉斯法和非參數(shù)法;機器學習方法包括決策樹法和規(guī)則歸納法。人工神經(jīng)網(wǎng)絡理論(Artificial Neural Network)是80年代中后期世界范圍內(nèi)迅速發(fā)展起來的一個前沿研究領域。該理論作為人工智能的一個重要分支領域,已顯示了它活躍的生命力。除了在語言識別、自動控制等領域應用外,已有實踐證明,在文檔分類、聚類分析等信息挖掘領域也有著相當高的實用價值。近幾年來,有關人工神經(jīng)網(wǎng)絡理論的新的研究成果不斷涌現(xiàn),目前我國人工智能及其他相關學科領域的專家、學者在人工神經(jīng)元網(wǎng)絡理論和應用研究方面做出了許多可喜的成績。過程神經(jīng)元網(wǎng)絡就是很有代表性的一例。該網(wǎng)絡模型誕生于2000年,是傳統(tǒng)神經(jīng)元網(wǎng)絡在時域上的擴展。目前該網(wǎng)絡基本理論已比較成熟。

基于向量空間模型的文檔分類方法,文檔特征向量維數(shù)一般較高(從幾十維到上百維),雖然理論上三層反傳播神經(jīng)網(wǎng)絡能夠逼近任意非線性映射,但普通反傳播神經(jīng)網(wǎng)絡對于高維映射問題往往收斂很慢,且容易發(fā)生過擬合現(xiàn)象,使泛化能力受到影響。在過程神經(jīng)網(wǎng)絡中,將文檔特征向量看作若干個與各個類別對應的過程,將這些過程作為網(wǎng)絡輸入,從而大大降低了文檔特征向量的維數(shù)。本文嘗試將該網(wǎng)絡用于基于特征向量描述的Web文檔分類。

2 文檔特征提取

特征提取是文檔分類系統(tǒng)中十分關鍵的問題,文檔分類特征選取恰當與否對文檔分類的正確性和分類效率有重要影響。一個有效的特征項集,必須具備以下兩個特征:(1)完全性,特征項能夠體現(xiàn)全部文檔內(nèi)容;(2)可區(qū)分性,根據(jù)特征項集,能將目標文檔同其它文檔相區(qū)分。特征項集的構(gòu)造可從構(gòu)造每篇文檔的模糊特征項集開始。如何根據(jù)正文的語義提取可近似表示正文語義的特征項集是一個復雜問題,嚴格講除了要求理解正文的含義之外,尚需有總結(jié)概括的能力乃至有較深的領域知識才能較好地解決這個問題,這是難以用現(xiàn)有計算機技術(shù)來實現(xiàn)的。因此最好與語言學家們結(jié)合根據(jù)人類在抽取正文特征項時所遵循的一般原則進行手工抽取。

2.1 特征項集的構(gòu)造

假設有P篇待分類文檔,特征項集的構(gòu)造可描述如下:

step 1:首先對P篇文檔,進行手工抽取特征項,并記錄特征項的文檔頻數(shù)(特征項在文檔中出現(xiàn)的次數(shù)),構(gòu)造特征項集:?C1,C2,…,Cp;然后對各特征項集進行篩選,除去頻數(shù)過低的特征項。即根據(jù)給定閾值λ,濾除各篇文檔中頻數(shù)低于λ的特征項,此時可以得到每篇文檔的特征項集合:C1,C2,…,Cp

step 2:在以上集合中,將特征項的同義詞、轉(zhuǎn)義詞、近義詞看作同一特征項,計算P個集合的并集:C=C1∪C2∪…∪Cp={T1,T2, …,TN},得到全部文檔的特征項集{T1,T2,…,TN}。具體算法:令C=C1,對?Tji∈Cj(i=1,2, …Nj;j=2,3, …,p),若(Tji?C)且(?Tji?C),則C=C∪{Tji},其中,?Tji為Tji的同義詞、轉(zhuǎn)義詞或近義詞。

2.2 特征向量的構(gòu)造

以特征項集{T1,T2, …,TN}為論域,根據(jù)每個特征項在某一文檔中出現(xiàn)的頻數(shù)構(gòu)造該篇文檔的特征向量。另外,構(gòu)造特征向量時還應考慮特征項的專指度。特征項的專指度可用文檔總數(shù)與含有該特征項的文檔數(shù)的比值表示。專指度過低的特征項會抑制分類的精確性。因此對于專指度較高的特征項,應適當增加其文檔頻數(shù);而對于專指度較低的特征項,則應適當減小其文檔頻數(shù)。具體構(gòu)造過程可描述如下:

step 1:分別對P篇文檔,計算特征項集{T1,T2, …,TN}中每個特征項在該篇文檔中出現(xiàn)的文檔頻數(shù);

step 2:按下式構(gòu)造P篇文檔的特征向量{fT(Tp1), fT(Tp2), …, fT(TpN),}{ };(p=1,2, …,P)。

其中:VTFpk表示特征項Tk在文檔p中的出現(xiàn)頻數(shù),N表示全部訓練集中的文檔數(shù),Nk表示含有特征項Tk的文檔數(shù)目。

step 3:對以上特征向量歸一化,可得p篇文檔的特征向量?Tp={T(Tp1), T(Tp2), …, T(TpN),};(p=1,2, …,p)。

3 過程神經(jīng)元網(wǎng)絡

3.1 過程神經(jīng)元

過程神經(jīng)元由加權(quán)、聚合和激勵三部分組成。與傳統(tǒng)神經(jīng)元不同之處在于過程神經(jīng)元的輸入和權(quán)值都是可以時變的,即可以是依賴于時間的函數(shù)。其聚合運算既有對空間的多輸入聚合,也有對時間過程的積累。因此它是傳統(tǒng)神經(jīng)元在時域上的擴展,傳統(tǒng)神經(jīng)元可以看成是過程神經(jīng)元的特例[1]。單個過程神經(jīng)元的結(jié)構(gòu)如圖1所示。輸入輸出關系見(1)式。

3.2 過程神經(jīng)元網(wǎng)絡模型

過程神經(jīng)元網(wǎng)絡是由若干個過程神經(jīng)元按一定的拓撲結(jié)構(gòu)組成的網(wǎng)絡。其拓撲結(jié)構(gòu)如圖2所示[2]。

其中,中間層(隱層)各單元由圖1所示神經(jīng)元組成,并設有m個單元。輸出層為一非時變神經(jīng)元。

3.3 學習算法

過程神經(jīng)元網(wǎng)絡的學習可借鑒梯度下降法,如BP算法[3]。若假設輸出層中g(shù)(u)=u, θ=0,則:

將xj(t)、wji(t)用沃爾什基函數(shù)展開[4](在保證展開精度的前提下只取前L項):

由基函數(shù)的正交性,(2)式可簡化為:

網(wǎng)絡誤差函數(shù)可取為:

由梯度下降法,網(wǎng)絡權(quán)值學習規(guī)則為:

其中i=1,2, …,m;j=1,2,,m;l-1,2, …,L;;α、β、γ為學習速度。

4 文檔分類實施方案

假設有P篇已知類別的文檔,分類實施方案的構(gòu)造過程可描述如下:

(1)實施特征抽取,構(gòu)造特征向量;

假設待分類模式共有n類,每類抽取m個特征項,則模式空間為n維。記xkij為第i類中第j個特征項第k篇文檔中的文檔頻數(shù),編碼后的輸入向量如(9)式:

(2)對(9)式實施離散沃爾什基函數(shù)展開,構(gòu)造展開后的系數(shù)向量:

其中:scf15.tif

(3)初始化網(wǎng)絡參數(shù):層數(shù);各層單元數(shù);誤差精度ε;學習速度α;慣性系數(shù)η;累計學習迭代次數(shù)s;最大學習迭代次數(shù)Max;

(4) 初始化過程神經(jīng)元隱層權(quán)值(設有q個神經(jīng)元),采用沃爾什基函數(shù),初始化系數(shù):

(5)初始化其他隱層及輸出層權(quán)值及閥值(同傳統(tǒng)BP網(wǎng)絡);

(6) 按(4)式計算輸出,按(5)式計算誤差E;

(7)若(EMax)轉(zhuǎn)(9);

(8)按(6)-(8)式修正各層權(quán)值及閥值,s=s+1,轉(zhuǎn)(6);

(9)輸出結(jié)果,訓練結(jié)束。

上述經(jīng)過訓練的網(wǎng)絡即可用于對未知類別文檔的分類識別。

5 實際應用分析

我們以Internet上旅游網(wǎng)頁作為分類文檔源,參考《中國分類主題詞表》中的分類情況,將旅游網(wǎng)頁分為如下八個子類別:1.旅游景點;2.旅游指南;3.旅行社;4.賓館飯店;5.租車服務;6.旅游交通;7.海外旅游;8.旅游綜合信息。考慮評價與測試文檔自動分類算法需要兩個重要指標:查全率和查準率,按下面公式計算類別Ci的查全率recall(Ci)和查準率precision(Ci):

(1)recall(Ci)=Tn/N,Tn為通過分類算法被正確分類為Ci類的文檔的數(shù)目;N為未分類文檔之前屬于Ci類的文檔的數(shù)目。

(2)precision(Ci)=Tn/Cn,Tn為通過分類算法被正確分類為Ci類的文檔的數(shù)目;Cn為通過分類算法被分類為Ci類的文檔的數(shù)目。

對以上8個子類別通過網(wǎng)站搜索簡體中文網(wǎng)頁,構(gòu)造出規(guī)模為1200個旅游類網(wǎng)頁的自動分類樣本集,其中800個用作訓練集,400個用作測試集。綜合考慮全部網(wǎng)頁的特征及類屬,共提取特征項64個(每類8個)。每類的第一個特征項為類屬名稱。對全部1200個網(wǎng)頁實施編碼處理。部分網(wǎng)頁編碼結(jié)果見表1。

網(wǎng)絡輸入節(jié)點為模式類別數(shù),本例為8個;因樣本數(shù)目較多,過程神經(jīng)元隱層節(jié)點取30個;輸出層用二進制數(shù)表示樣本類別,取3個節(jié)點。誤差精度ε=0.05,學習速度α=0.1,慣性系數(shù)η=0.5,限定迭代次數(shù)Max=5000。實際迭代3815次收斂。對訓練集自身的平均查全率和平均查準率均達到了90%,網(wǎng)絡的分類結(jié)果如表2所示。

將訓練好的網(wǎng)絡應用于測試集400個網(wǎng)頁的分類,平均查全率和查準率也均達到86%以上,與訓練集分類結(jié)果較為相近,說明所抽取出的文檔類特征和類模式具有普遍性和有效性。關于此方法的有效性,我們與BP算法作了對比。采用三層BP網(wǎng)絡結(jié)構(gòu),輸入層64個節(jié)點,輸出層3個節(jié)點。當隱層為80節(jié)點時,迭代11038次收斂,對測試集網(wǎng)頁的識別率僅為73%;當隱層為100節(jié)點時,迭代9687次收斂,對測試集網(wǎng)頁的識別率降為62%。說明BP網(wǎng)絡對于高維樣本的分類問題,不僅收斂速度慢,而且容易產(chǎn)生過擬合現(xiàn)象,影響了網(wǎng)絡的泛化推廣能力。而應用本文提出的方法就能較好的克服這些問題。

6 結(jié)束語

過程神經(jīng)網(wǎng)絡是神經(jīng)網(wǎng)絡領域最近提出的新模型,其輸入不再是幾何式的單點輸入,而將輸入看作一個過程,在這一點上,過程神經(jīng)元網(wǎng)絡較好的模擬了生物神經(jīng)元特性。幾何點式的瞬間輸入只能在理論上存在,過程式輸入放寬了傳統(tǒng)神經(jīng)元網(wǎng)絡模型對輸入的同步瞬時控制。使問題更為一般化?,F(xiàn)實中很多應用可歸結(jié)為此問題。過程神經(jīng)元網(wǎng)絡的輸入為信息矩陣,在向量空間模型中,這為高維的文檔特征向量的處理提供了可行之路。本文嘗試將該模型應用于網(wǎng)頁正文分類,達到了預期效果。今后,對過程神經(jīng)元網(wǎng)絡的理論和應用研究必將受到越來越多學者的關注。

參考文獻:

[1] 何新貴,梁久禎.過程神經(jīng)元網(wǎng)絡的若干理論問題[J].中國工程科學,2000,2(12):40-44.

[2] 何新貴,梁久禎,許少華.過程神經(jīng)元網(wǎng)絡的訓練及其應用[J].中國工程科學,2000,3(4).

[3] 王偉.人工神經(jīng)網(wǎng)絡原理――入門與應用[M]. 北京:北京航空航天大學出版,1995.

[4] 柳重堪.正交函數(shù)及其應用[M].北京:國防工業(yè)出版社,1982.