神經(jīng)網(wǎng)絡(luò)的實(shí)現(xiàn)過(guò)程精選(九篇)

前言：一篇好文章的誕生，需要你不斷地搜集資料、整理思路，本站小編為你收集了豐富的神經(jīng)網(wǎng)絡(luò)的實(shí)現(xiàn)過(guò)程主題范文，僅供參考，歡迎閱讀并收藏。

第1篇：神經(jīng)網(wǎng)絡(luò)的實(shí)現(xiàn)過(guò)程范文

關(guān)鍵詞：神經(jīng)網(wǎng)絡(luò) 化工過(guò)程 人工智能

中圖分類號(hào)：TM835 文獻(xiàn)標(biāo)識(shí)碼：A 文章編號(hào)：1007-9416（2016）12-0024-01

大量的處理單元就如同神經(jīng)單元一樣，經(jīng)過(guò)一系列的排列組合構(gòu)成了復(fù)雜的神經(jīng)網(wǎng)絡(luò)系統(tǒng)，廣泛應(yīng)用于復(fù)雜信息處理、機(jī)器視覺(jué)、智能化控制等方面。仿生學(xué)的設(shè)計(jì)和智能化軟件的設(shè)計(jì)，使得神經(jīng)網(wǎng)絡(luò)系統(tǒng)具有自動(dòng)處理數(shù)據(jù)、自動(dòng)組織、自動(dòng)學(xué)習(xí)，使得化工過(guò)程控制具有高精度、高安全系數(shù)、智能化的特點(diǎn)?；どa(chǎn)是一個(gè)復(fù)雜的生產(chǎn)過(guò)程，其中涉及的設(shè)備多，涉及的工藝復(fù)雜，控制難度高，如何促進(jìn)化工生產(chǎn)的過(guò)程控制，從而實(shí)現(xiàn)科學(xué)管理、優(yōu)化生產(chǎn)、提高生產(chǎn)率的目的。設(shè)備的多樣、工藝的復(fù)雜、流程復(fù)雜等一系列的因素，使得神元或者是多個(gè)單元實(shí)現(xiàn)智能化控制，既能收集生產(chǎn)過(guò)程產(chǎn)生的數(shù)據(jù)，而且也能對(duì)這些數(shù)據(jù)進(jìn)行處理，達(dá)到監(jiān)測(cè)生產(chǎn)環(huán)境、監(jiān)控生產(chǎn)過(guò)程、實(shí)時(shí)優(yōu)化生產(chǎn)的目的。

1 神經(jīng)網(wǎng)絡(luò)技術(shù)的基本理論和基本結(jié)構(gòu)

神經(jīng)網(wǎng)絡(luò)技術(shù)的發(fā)展是建立在對(duì)人腦神經(jīng)系統(tǒng)的構(gòu)成和作用機(jī)制認(rèn)識(shí)的基礎(chǔ)上，神經(jīng)單元構(gòu)成了龐大的神經(jīng)系統(tǒng)，神經(jīng)單元接受信息并傳遞信息，神經(jīng)中樞處理信息并反饋信息。神經(jīng)網(wǎng)絡(luò)技術(shù)模擬神經(jīng)系統(tǒng)處理單元類似于神經(jīng)單元，計(jì)算機(jī)控制系統(tǒng)相當(dāng)于神經(jīng)中樞，分析數(shù)據(jù)、處理數(shù)據(jù)、輸出結(jié)果。計(jì)算機(jī)技術(shù)的發(fā)展、傳感器的應(yīng)用，為神經(jīng)網(wǎng)絡(luò)的發(fā)展提供了基礎(chǔ)。神經(jīng)網(wǎng)絡(luò)包括一個(gè)輸入層和輸出層，若干的隱含層。輸入層的作用是接受外部信息并傳遞信息；輸出層的作用是接受輸入層傳遞的信息，處理信息并反饋信息；隱含層的作用是將輸入層的信息進(jìn)行組合，預(yù)處理。信息的接受、傳遞、處理和反饋一系列的過(guò)程使神經(jīng)網(wǎng)絡(luò)發(fā)揮作用的過(guò)程。

由于處理單元的應(yīng)用，使得神經(jīng)網(wǎng)絡(luò)系統(tǒng)是一種自學(xué)習(xí)、自處理、自組織的智能化系統(tǒng)。神經(jīng)系統(tǒng)的運(yùn)行類似于人學(xué)習(xí)的過(guò)程，由簡(jiǎn)單到復(fù)雜，不斷的修正節(jié)點(diǎn)的連接方式，直到輸出滿意的結(jié)果和符合實(shí)際應(yīng)用。神經(jīng)網(wǎng)絡(luò)系統(tǒng)是建立在數(shù)學(xué)模型的基礎(chǔ)上，利用數(shù)學(xué)建模搭建神經(jīng)網(wǎng)絡(luò)節(jié)點(diǎn)，建模主要有M-P模型、BP模型、RBF模型等。根據(jù)外部參數(shù)的不同和應(yīng)用的目的，采用不同的函數(shù)，如可逆函數(shù)、線性函數(shù)、非線性函數(shù)、S函數(shù)等等，建立數(shù)學(xué)模型，輸入?yún)?shù)，不斷的優(yōu)化模型，優(yōu)化的過(guò)程使神經(jīng)網(wǎng)絡(luò)系統(tǒng)自學(xué)的過(guò)程。神經(jīng)網(wǎng)絡(luò)訓(xùn)練算法與模型的設(shè)置有關(guān)，如BP模型采取反傳處理誤差的訓(xùn)練算法，優(yōu)化算法，達(dá)到優(yōu)化模型的目的，使建立的模型更加符合實(shí)際應(yīng)用情況。

2 神經(jīng)網(wǎng)絡(luò)在化工過(guò)程控制中的應(yīng)用

神經(jīng)網(wǎng)絡(luò)具有很強(qiáng)的信息處理能力、自學(xué)習(xí)能力、自組織能力。根據(jù)輸出的信息，可以建立信息之間的關(guān)系和處理多余的信息，簡(jiǎn)化生產(chǎn)過(guò)程中的信息，檢測(cè)生產(chǎn)環(huán)境，監(jiān)控生產(chǎn)，達(dá)到最優(yōu)化的生產(chǎn)過(guò)程。神經(jīng)網(wǎng)絡(luò)覆蓋生產(chǎn)過(guò)程中的所有要考慮的因素，因此神經(jīng)網(wǎng)絡(luò)的應(yīng)用也覆蓋化工過(guò)程控制的方方面面。

化工生產(chǎn)涉及的環(huán)節(jié)多種多樣，當(dāng)某一環(huán)節(jié)發(fā)生故障，若處理不及時(shí)，將使這一環(huán)節(jié)癱瘓甚至使整個(gè)生產(chǎn)過(guò)程癱瘓，造成重大安全事故。高效、實(shí)時(shí)、預(yù)測(cè)的檢測(cè)和診斷故障的系統(tǒng)是化工過(guò)程控制中安全、高效生產(chǎn)的保障。美國(guó)的科學(xué)家首次提出將神經(jīng)網(wǎng)絡(luò)技術(shù)用于化工過(guò)程控制中，用于檢測(cè)、診斷、預(yù)警故障。神經(jīng)網(wǎng)絡(luò)系統(tǒng)是一種仿生系統(tǒng)，具有思維、意識(shí)和學(xué)習(xí)能力的動(dòng)力學(xué)系統(tǒng)，能夠處理復(fù)雜的事物和環(huán)境，根據(jù)實(shí)際生產(chǎn)過(guò)程不斷校正系統(tǒng)，實(shí)時(shí)監(jiān)測(cè)參數(shù)的變化，對(duì)故障進(jìn)行診斷和報(bào)警。目前主流的故障診斷的神經(jīng)網(wǎng)絡(luò)系統(tǒng)有：反傳動(dòng)態(tài)經(jīng)網(wǎng)絡(luò)控制系統(tǒng)、自適應(yīng)神經(jīng)網(wǎng)絡(luò)控制系統(tǒng)和RBF神經(jīng)網(wǎng)絡(luò)控制系統(tǒng)。

神經(jīng)網(wǎng)絡(luò)技術(shù)主要靠傳感器接受外部信息，大量傳感器的應(yīng)用，有利于智能化控制生產(chǎn)過(guò)程?；み^(guò)程的控制主要是對(duì)生產(chǎn)過(guò)程中的機(jī)器控制，生產(chǎn)過(guò)程涉及的機(jī)器種類繁多，同時(shí)維持安全、高效率階段比較困難。神經(jīng)網(wǎng)絡(luò)系統(tǒng)自動(dòng)控制機(jī)器生產(chǎn)，控制生產(chǎn)參數(shù)和生產(chǎn)流程，最優(yōu)化生產(chǎn)過(guò)程控制和安全化控制，實(shí)時(shí)跟蹤控制生產(chǎn)。控制主要有兩種基本的方法，一種數(shù)學(xué)建模，將對(duì)象的目標(biāo)信息作為標(biāo)準(zhǔn)，經(jīng)過(guò)不斷的訓(xùn)練和反饋，修正誤差，化模型，優(yōu)化控制模式；另外一種是控制器設(shè)置，如PID控制器，實(shí)現(xiàn)實(shí)時(shí)控制，不僅對(duì)精確知識(shí)進(jìn)行處理，而且對(duì)模糊信息也能進(jìn)行處理。國(guó)內(nèi)外都已經(jīng)有成熟的化工過(guò)程控制中的神經(jīng)網(wǎng)絡(luò)系統(tǒng)，如對(duì)乙酸乙烯酯聚合成乳液過(guò)程的實(shí)時(shí)控制，氯氣生產(chǎn)過(guò)程的故障預(yù)報(bào)神經(jīng)網(wǎng)絡(luò)系統(tǒng)。

3 總結(jié)

神經(jīng)網(wǎng)絡(luò)技術(shù)是21世紀(jì)最重要的技術(shù)之一，化工過(guò)程控制是化工生產(chǎn)的安全保障?；み^(guò)程控制應(yīng)用神經(jīng)網(wǎng)絡(luò)技術(shù)，有利于提高控制的安全系數(shù)，提高生產(chǎn)效率，有利于智能化管理，提高管理水平，有利于整個(gè)社會(huì)生產(chǎn)力水平的提高和社會(huì)智能化發(fā)展?；み^(guò)程控制采取神經(jīng)網(wǎng)絡(luò)技術(shù)，有利于工業(yè)技術(shù)的創(chuàng)新和改善工人工作環(huán)境，保障工人人身安全。

參考文獻(xiàn)

第2篇：神經(jīng)網(wǎng)絡(luò)的實(shí)現(xiàn)過(guò)程范文

隨著社會(huì)工業(yè)化速度的不斷加速，能源的競(jìng)爭(zhēng)愈來(lái)愈激烈。生物質(zhì)能源作為一種可再生的清潔能源被廣泛認(rèn)可，生物氣化技術(shù)就是利用生物質(zhì)能的一種有效手段，對(duì)經(jīng)濟(jì)的發(fā)展和環(huán)境的保護(hù)都起到積極作用。但是，生物氣化技術(shù)是一種熱化學(xué)處理技術(shù)，其工作過(guò)程十分復(fù)雜，包含著大量的不確定因素，這就需要運(yùn)用生物質(zhì)氣化爐的智能控制系統(tǒng)來(lái)達(dá)到預(yù)期的控制效果。新形勢(shì)下，積極運(yùn)用模糊神經(jīng)網(wǎng)絡(luò)對(duì)生物質(zhì)氣化爐進(jìn)行智能控制，是實(shí)現(xiàn)可靠控制效果的重要舉措。

【關(guān)鍵詞】模糊神經(jīng)網(wǎng)絡(luò) 生物質(zhì)氣化爐 智能控制

生物質(zhì)氣化過(guò)程是一項(xiàng)復(fù)雜化學(xué)反應(yīng)過(guò)程，具有非線性、不穩(wěn)定性、負(fù)荷干擾等特性，只有實(shí)行智能控制才能受到良好的控制效果。模糊神經(jīng)網(wǎng)絡(luò)作為智能研究比較活躍的領(lǐng)域，有效融合了神經(jīng)網(wǎng)絡(luò)和模糊理論的優(yōu)點(diǎn)，能夠有效的解決生物質(zhì)氣化過(guò)程中的非線性、模糊性等問(wèn)題，既保證控制的精確度，又能進(jìn)行快速地升降溫。本文通過(guò)對(duì)模糊神經(jīng)網(wǎng)絡(luò)的內(nèi)涵特征進(jìn)行全面分析，闡述了基于模糊神經(jīng)網(wǎng)絡(luò)的生物質(zhì)氣化爐的智能控制，并通過(guò)仿真實(shí)驗(yàn)進(jìn)行反復(fù)驗(yàn)證。

1 模糊神經(jīng)網(wǎng)絡(luò)的內(nèi)涵功能

簡(jiǎn)而言之模糊神經(jīng)網(wǎng)絡(luò)就是具有模糊權(quán)值和輸入信號(hào)的神經(jīng)網(wǎng)絡(luò)。模糊神經(jīng)網(wǎng)絡(luò)是自動(dòng)化控制領(lǐng)域內(nèi)一門新興技術(shù)，其本質(zhì)上是將常規(guī)的神經(jīng)網(wǎng)絡(luò)輸入模糊信號(hào)，因而模糊神經(jīng)網(wǎng)絡(luò)具備了模糊系統(tǒng)和神經(jīng)網(wǎng)絡(luò)的優(yōu)勢(shì)，集邏輯推理、語(yǔ)言計(jì)算等能力于一身，具有學(xué)習(xí)、聯(lián)想、模糊信息處理等功能。模糊神經(jīng)網(wǎng)絡(luò)是智能控制和自動(dòng)化不斷發(fā)展的產(chǎn)物，在充分利用神經(jīng)網(wǎng)絡(luò)的并行處理能力的基礎(chǔ)上，大大提高了模糊系統(tǒng)的推理能力。

模糊神經(jīng)網(wǎng)絡(luò)是科技發(fā)展的產(chǎn)物，有效吸收了神經(jīng)網(wǎng)絡(luò)系統(tǒng)和模糊系統(tǒng)的優(yōu)點(diǎn)，在智能控制和自動(dòng)化發(fā)展等方面有著重要的作用，能夠有效地處理非線性、模糊性等諸多問(wèn)題，在處理智能信息方面能夠發(fā)揮巨大潛力。模糊神經(jīng)網(wǎng)絡(luò)形式多種多樣，主要包括邏輯模糊神經(jīng)網(wǎng)絡(luò)、算術(shù)模糊神經(jīng)網(wǎng)絡(luò)、混合模糊神經(jīng)網(wǎng)絡(luò)等多種類型，被廣泛的運(yùn)用于模糊回歸、模糊控制器、模糊譜系分析、通用逼近器等方面的研究中，隨著智能控制和自動(dòng)化領(lǐng)域的不斷發(fā)展，模糊神經(jīng)網(wǎng)絡(luò)廣泛應(yīng)用于智能控制領(lǐng)域。

2 基于模糊神經(jīng)網(wǎng)絡(luò)的生物質(zhì)氣化爐的智能控制系統(tǒng)

2.1 溫度智能控制系統(tǒng)

生物質(zhì)熱值、給料理以及一次風(fēng)量等因素變化能夠影響到生物質(zhì)氣化爐的爐溫，但是最重要的影響因素是在氣化爐工作過(guò)程中物料物理和化學(xué)反應(yīng)的放熱和吸熱。由于生物質(zhì)氣化工作過(guò)程中的生物質(zhì)熱值的變化范圍較小，在實(shí)際運(yùn)行中很難測(cè)量與控制，有時(shí)可以忽略不計(jì)，同時(shí)，該工作過(guò)程中存在非線性和大滯后等問(wèn)題，采用傳統(tǒng)的數(shù)學(xué)模型達(dá)不到預(yù)期測(cè)量效果，因此需要利用模糊神經(jīng)網(wǎng)絡(luò)設(shè)計(jì)氣化爐爐溫控制系統(tǒng)，不斷的提高溫度的控制效果。模糊神經(jīng)網(wǎng)絡(luò)首先根據(jù)當(dāng)前溫度以及設(shè)定溫度設(shè)，主控制器對(duì)最優(yōu)的生物質(zhì)物料添加量進(jìn)行預(yù)測(cè)，然后由副控制根據(jù)該添加量，全面跟蹤控制送料速度，從而能夠進(jìn)行精確上料和控制爐溫。模糊神經(jīng)網(wǎng)絡(luò)系統(tǒng)十分龐大復(fù)，其中包含了大量錯(cuò)綜復(fù)雜的神經(jīng)元，蘊(yùn)含對(duì)非線性的可微分函數(shù)訓(xùn)練權(quán)值的基本理念。模糊神經(jīng)網(wǎng)絡(luò)具有正向傳遞和反向傳播兩個(gè)不同的功能，在信息的正向傳遞中，采用逐步運(yùn)算的方式對(duì)輸入的數(shù)據(jù)信息進(jìn)行處理，信息依次進(jìn)入輸入層、隱含層最終到達(dá)輸出層。假如在輸出層獲得的輸出信息沒(méi)達(dá)到預(yù)期效果時(shí)，就會(huì)在計(jì)算輸出層的偏差變化值后通過(guò)網(wǎng)絡(luò)將偏差信號(hào)按原路反向傳回，與此同時(shí)各層神經(jīng)元的權(quán)值也會(huì)隨之進(jìn)行改變，直到符合預(yù)期的控制效果。

2.2 含氧量智能控制系統(tǒng)

在生物質(zhì)氣化工作過(guò)程中，可燃?xì)怏w的含氧量是衡量其生產(chǎn)質(zhì)量的重要依據(jù)，能夠嚴(yán)重影響氣化產(chǎn)物的安全使用，因此，通過(guò)模糊神經(jīng)網(wǎng)絡(luò)實(shí)現(xiàn)生物質(zhì)氣化爐含氧量的智能控制十分重要。其含氧量智能控制系統(tǒng)的目的是為了合理控制可燃?xì)怏w的含氧量，從而穩(wěn)定氣化爐的溫度。但是，一次風(fēng)進(jìn)風(fēng)量是影響可燃?xì)怏w的含氧量的重要因素，所以可以把控制一次風(fēng)量作為主要調(diào)節(jié)手段，有效地解決含氧量控制和爐溫控制之間的矛盾，在控制爐溫的前提條件下，最大程度地降低可燃?xì)怏w含氧量，進(jìn)而有效控制氣化產(chǎn)物含氧量的。生物質(zhì)氣化爐含氧量的智能控制系統(tǒng)是嚴(yán)格運(yùn)用模糊神經(jīng)網(wǎng)絡(luò)控制原理，主控制器采用溫度模糊免疫 PID控制，根據(jù)爐內(nèi)含氧量和溫度的偏差進(jìn)行推算，查找出鼓風(fēng)機(jī)轉(zhuǎn)速的最優(yōu)狀態(tài)，副控制則以此為根據(jù)，全面跟隨與控制鼓風(fēng)機(jī)的速度，確保鼓風(fēng)機(jī)轉(zhuǎn)速。生物質(zhì)氣化爐工作過(guò)程中的不同階段和部件具有不同的控制要求，模糊神經(jīng)網(wǎng)絡(luò)就要充分發(fā)揮被控對(duì)象的優(yōu)良性能，根據(jù)不同的控制要求，合理運(yùn)用模糊神經(jīng)網(wǎng)絡(luò)控制原理對(duì) PID參數(shù)模型中的數(shù)據(jù)信息進(jìn)行在線修改，從而達(dá)到預(yù)期的控制效果。

3 基于模糊神經(jīng)網(wǎng)絡(luò)的生物質(zhì)氣化爐智能控制系統(tǒng)的仿真實(shí)驗(yàn)

為了驗(yàn)證運(yùn)用模糊神經(jīng)網(wǎng)絡(luò)進(jìn)行生物質(zhì)氣化爐的智能控制的真實(shí)效果，對(duì)生物質(zhì)氣化爐的溫度智能控制系統(tǒng)進(jìn)行仿真實(shí)驗(yàn)，并進(jìn)行詳細(xì)地分析。為了保證生物質(zhì)氣化爐能夠在條件大體一致的狀態(tài)下進(jìn)行運(yùn)行狀況，仿真實(shí)驗(yàn)可以采用組合預(yù)測(cè)算法。首先要到某廠氣化爐現(xiàn)場(chǎng)采集2000組干燥層溫度數(shù)據(jù)，并且從中選取連續(xù)1500組作為仿真實(shí)驗(yàn)樣本數(shù)據(jù)，然后對(duì)剩余500組實(shí)驗(yàn)樣本數(shù)據(jù)進(jìn)行研究，通過(guò)兩組數(shù)據(jù)的分析建立預(yù)測(cè)模型。然后采用模糊神經(jīng)網(wǎng)絡(luò)對(duì)生物質(zhì)氣化爐的溫度控制系統(tǒng)進(jìn)行三次模擬化實(shí)驗(yàn)，三種不同情況下的仿真試驗(yàn)結(jié)果為：在無(wú)外界任何干擾的情況下，模糊神經(jīng)網(wǎng)絡(luò)控制無(wú)論在超調(diào)量還是其他方面，都比單純的模糊控制效果好；在生物質(zhì)給料量擾動(dòng)的情況下，模糊神經(jīng)網(wǎng)絡(luò)控制要比單純的模糊控制所受的影響要小很多；在發(fā)生一次風(fēng)量攪動(dòng)的情況下，模糊神經(jīng)網(wǎng)絡(luò)控制仍受到極小的影響。從三種不同情況下的仿真試驗(yàn)中可以看出基于模糊神經(jīng)網(wǎng)絡(luò)的生物質(zhì)氣化爐的爐溫智能控制系統(tǒng)效果較好，具有極強(qiáng)的抗干擾性，能夠有效地預(yù)測(cè)氣化爐溫度實(shí)時(shí)值，把平均誤差控制在很小范圍內(nèi)，并且智能控制系統(tǒng)能實(shí)時(shí)跟蹤實(shí)際溫度的變化，根據(jù)實(shí)際溫度的變化做出相應(yīng)的變化，從而能夠有效地控制氣化爐溫度和可燃?xì)怏w含氧量。

4 結(jié)束語(yǔ)

總之，基于模糊神經(jīng)網(wǎng)絡(luò)的生物質(zhì)氣化爐的智能控制系統(tǒng)具有較好的控制效果，有效的解決了生物質(zhì)氣化過(guò)程中的一系列問(wèn)題，能夠十分精確地控制生物質(zhì)氣化爐的爐溫及可燃?xì)怏w的含氧量，對(duì)于保證社會(huì)經(jīng)濟(jì)的穩(wěn)定發(fā)展以及生態(tài)環(huán)境的改善發(fā)揮了重要作用。

參考文獻(xiàn)

[1]王春華.基于模糊神經(jīng)網(wǎng)絡(luò)的生物質(zhì)氣化爐的智能控制[J].動(dòng)力工程，2009（09）：828-830.

[2]王中賢.熱管生物質(zhì)氣化爐的模擬與試驗(yàn)[J].江蘇大學(xué)學(xué)報(bào)：自然科學(xué)版，2008，29（6）：512-515.

第3篇：神經(jīng)網(wǎng)絡(luò)的實(shí)現(xiàn)過(guò)程范文

關(guān)鍵詞：圖像復(fù)原 BP神經(jīng)網(wǎng)絡(luò) Hopfield神經(jīng)網(wǎng)絡(luò) 應(yīng)用

中圖分類號(hào)：TP391.41 文獻(xiàn)標(biāo)識(shí)碼：A 文章編號(hào)：1007-9416（2013）11-0040-02

1 引言

圖像復(fù)原是一項(xiàng)富有現(xiàn)實(shí)意義的工作，它涉及到廣泛的技術(shù)領(lǐng)域，是圖像處理領(lǐng)域研究的焦點(diǎn)之一。在得到圖像的過(guò)程中，由于各種各樣的原因，包括與觀測(cè)對(duì)象的相對(duì)運(yùn)動(dòng)、介質(zhì)散射、成像系統(tǒng)缺陷和環(huán)境噪聲等原因，使得最終的圖像都會(huì)有一定程度的退化。圖像復(fù)原就是從退化的圖像中恢復(fù)圖像的本來(lái)面目。傳統(tǒng)的圖像復(fù)原處理問(wèn)題的關(guān)鍵在于建立退化模型，估計(jì)退化過(guò)程中的參數(shù)，由此通過(guò)相應(yīng)的逆過(guò)程得到原始圖像。獲得準(zhǔn)確的圖像退化模型是比較困難的事情。大多數(shù)圖像復(fù)原的實(shí)際問(wèn)題是點(diǎn)擴(kuò)展函數(shù)以及原始圖像均未知的盲復(fù)原問(wèn)題，這類問(wèn)題具有更嚴(yán)重的病態(tài)性因而進(jìn)一步增加了解決的難度。人工神經(jīng)網(wǎng)絡(luò)（Artificial Neural Network，ANN）為圖像復(fù)原問(wèn)題的解決提供了另外一條路徑，這是基于人工神經(jīng)網(wǎng)絡(luò)具有的模擬人類神經(jīng)的非線性、自組織、自學(xué)習(xí)、自適應(yīng)特性。一般而言，人工神經(jīng)網(wǎng)絡(luò)適合于解決無(wú)法或很難精確建立數(shù)學(xué)模型、不完全清楚內(nèi)部機(jī)理的問(wèn)題，人工神經(jīng)網(wǎng)絡(luò)的很多特性適合解決圖像復(fù)原問(wèn)題。近些年來(lái)，對(duì)人工神經(jīng)網(wǎng)絡(luò)應(yīng)用于圖像復(fù)原的研究越來(lái)越多，形成了很多豐富的神經(jīng)網(wǎng)絡(luò)模型和算法。BP（Back Propagation反向傳播）和Hopfield（霍普菲爾德）是典型的人工神經(jīng)網(wǎng)絡(luò)類型，也是在圖像復(fù)原領(lǐng)域應(yīng)用較多的神經(jīng)網(wǎng)絡(luò)類型。

2 BP神經(jīng)網(wǎng)絡(luò)在圖像復(fù)原中的應(yīng)用

2.1 BP神經(jīng)網(wǎng)絡(luò)的特性

BP神經(jīng)網(wǎng)絡(luò)是上世紀(jì)80年代美國(guó)加州大學(xué)的Rumelhart、McClelland及其團(tuán)隊(duì)研究并行分布信息處理時(shí)提出的采用反向傳播算法的多層前饋網(wǎng)絡(luò)。BP神經(jīng)網(wǎng)絡(luò)具有良好的泛化能力，其隱層的非線性傳遞函數(shù)神經(jīng)元可以學(xué)習(xí)輸入輸出之間的線性或非線性關(guān)系。在1989年，RobertHecht-Nielson證明了對(duì)于任何一個(gè)在閉區(qū)間內(nèi)連續(xù)的函數(shù)都可以由具有一個(gè)隱含層的BP網(wǎng)絡(luò)來(lái)逼近，這樣，一個(gè)三層（輸入層、隱層和輸出層）的BP神經(jīng)網(wǎng)絡(luò)即能完成對(duì)多維度函數(shù)的逼近。這些特性，使得選用BP神經(jīng)網(wǎng)絡(luò)簡(jiǎn)單地實(shí)現(xiàn)在未知點(diǎn)擴(kuò)展函數(shù)的情況下，擬合原始圖像與退化圖像之間的關(guān)系，從而得到滿意的圖像復(fù)原結(jié)果成為可能。

2.2 BP神經(jīng)網(wǎng)絡(luò)應(yīng)用于圖像復(fù)原

BP神經(jīng)網(wǎng)絡(luò)用退化圖像與相對(duì)應(yīng)的原始圖像進(jìn)行訓(xùn)練，退化圖像為網(wǎng)絡(luò)的輸入，原始圖像為網(wǎng)絡(luò)的輸出。訓(xùn)練完成的神經(jīng)網(wǎng)絡(luò)會(huì)在退化圖像與原始圖像之間建立非線性的映射關(guān)系，使得利用這種非線性關(guān)系即可實(shí)現(xiàn)在只有退化圖像的情況下對(duì)齊進(jìn)行復(fù)原。

利用BP神經(jīng)網(wǎng)絡(luò)進(jìn)行圖像復(fù)原，一般用輸入圖像的N×N鄰域內(nèi)的N2個(gè)像素點(diǎn)對(duì)應(yīng)輸出圖像的一個(gè)像素點(diǎn)。這樣的對(duì)應(yīng)方法會(huì)使整個(gè)運(yùn)算量增大，但正由于參與運(yùn)算的像素點(diǎn)增加，使得網(wǎng)絡(luò)具有更好的泛化和魯棒能力。由于三層BP神經(jīng)網(wǎng)絡(luò)可以任意精度逼近某一多維度函數(shù)，因而其應(yīng)用于圖像復(fù)原時(shí)使用三層網(wǎng)絡(luò)結(jié)構(gòu)。輸入層和輸入層節(jié)點(diǎn)數(shù)分別由輸入圖像像素?cái)?shù)量和輸出圖像像素?cái)?shù)量決定，隱層節(jié)點(diǎn)數(shù)量和訓(xùn)練方法在很大程度上決定了網(wǎng)絡(luò)性能。

為了便于網(wǎng)絡(luò)計(jì)算，通過(guò)神經(jīng)網(wǎng)絡(luò)計(jì)算前通常將輸入圖像進(jìn)行歸一化。以灰度圖像為例，將圖像數(shù)據(jù)[0～255]轉(zhuǎn)換到[-1～1]或[0～1]。圖像經(jīng)過(guò)神經(jīng)網(wǎng)絡(luò)復(fù)原后還需進(jìn)行反歸一化轉(zhuǎn)換，將計(jì)算得到的數(shù)據(jù)轉(zhuǎn)換為圖像數(shù)據(jù)，即將[-1～1]或[0～1]轉(zhuǎn)換到[0～255]。

通常，運(yùn)用BP網(wǎng)絡(luò)進(jìn)行圖像復(fù)原算法流程包括：（1）圖像的預(yù)處理，得到歸一化的便于神經(jīng)網(wǎng)絡(luò)計(jì)算的數(shù)據(jù)；（2）使用退化圖像與對(duì)應(yīng)的原始圖像（訓(xùn)練BP神經(jīng)網(wǎng)絡(luò)；（3）將待復(fù)原圖像輸入訓(xùn)練好的BP神經(jīng)網(wǎng)絡(luò)進(jìn)行圖像復(fù)原；（4）數(shù)據(jù)的后處理，將網(wǎng)絡(luò)輸出數(shù)據(jù)進(jìn)行反歸一化，得到復(fù)原圖像。

3 Hopfield神經(jīng)網(wǎng)絡(luò)在圖像復(fù)原中的應(yīng)用

3.1 Hopfield神經(jīng)網(wǎng)絡(luò)的特性

不同于BP神經(jīng)網(wǎng)絡(luò)，Hopfield神經(jīng)網(wǎng)絡(luò)是一種單層反饋網(wǎng)絡(luò)，信號(hào)在網(wǎng)絡(luò)中不僅向前傳遞，還在神經(jīng)元之間傳遞。圖1是有三個(gè)神經(jīng)元的Hopfield神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)圖。Hopfield神經(jīng)網(wǎng)絡(luò)由美國(guó)加州理工學(xué)院物理學(xué)家J·J·Hopfield在上世紀(jì)80年代提出，并首次在神經(jīng)網(wǎng)絡(luò)研究中引入了計(jì)算能量函數(shù)的概念，通過(guò)研究網(wǎng)絡(luò)的穩(wěn)定性與計(jì)算能量函數(shù)的相關(guān)性給出了網(wǎng)絡(luò)的穩(wěn)定性判據(jù)。J·J·Hopfield運(yùn)用Hopfield神經(jīng)網(wǎng)絡(luò)成功地探討了旅行商問(wèn)題（TSP）的求解方法。HNN神經(jīng)網(wǎng)絡(luò)采用灌輸式學(xué)習(xí)方式，其網(wǎng)絡(luò)權(quán)值是事先按一定規(guī)則計(jì)算出來(lái)的，確定之后不再改變，各神經(jīng)元的狀態(tài)在運(yùn)行過(guò)程中不斷更新，網(wǎng)絡(luò)穩(wěn)定時(shí)各神經(jīng)元的狀態(tài)便是問(wèn)題的解。Hopfield神經(jīng)網(wǎng)絡(luò)的這些自身特征使其適于應(yīng)用于聯(lián)想記憶和求解最優(yōu)化問(wèn)題。

3.2 Hopfield神經(jīng)網(wǎng)絡(luò)應(yīng)用于圖像復(fù)原

利用神經(jīng)網(wǎng)絡(luò)進(jìn)行圖像復(fù)原的方法分為兩類：一種是用原始圖像和模糊圖像構(gòu)成的樣本訓(xùn)練神經(jīng)網(wǎng)絡(luò)，在訓(xùn)練好的網(wǎng)絡(luò)中建立起原始圖像與模糊圖像的非線性映射關(guān)系，然后以帶復(fù)原的模糊圖像作為網(wǎng)絡(luò)的輸入，經(jīng)過(guò)網(wǎng)絡(luò)輸出的圖像數(shù)據(jù)就是經(jīng)過(guò)復(fù)原的圖像，BP神經(jīng)網(wǎng)絡(luò)就是運(yùn)用這種方法進(jìn)行圖像復(fù)原的典型神經(jīng)網(wǎng)絡(luò)。另一種是經(jīng)過(guò)神經(jīng)網(wǎng)絡(luò)反復(fù)的數(shù)學(xué)迭代計(jì)算復(fù)原，運(yùn)用Hopfield神經(jīng)網(wǎng)絡(luò)進(jìn)行圖像復(fù)原屬于這類方法。

其中是神經(jīng)網(wǎng)絡(luò)的狀態(tài)向量，為網(wǎng)絡(luò)的權(quán)值矩陣，為由網(wǎng)絡(luò)中各神經(jīng)元閾值構(gòu)成的向量。Hopfield神經(jīng)網(wǎng)絡(luò)的運(yùn)行結(jié)果即網(wǎng)絡(luò)達(dá)到穩(wěn)定狀態(tài)就是達(dá)到最小值時(shí)的狀態(tài)。由式（4）和（5）可以看出圖像復(fù)原的目標(biāo)函數(shù)與Hopfield神經(jīng)網(wǎng)絡(luò)能量函數(shù)具有相似的表達(dá)形式，因而可以建立兩者之間的聯(lián)系，從而將圖像復(fù)原問(wèn)題轉(zhuǎn)變?yōu)樯窠?jīng)網(wǎng)絡(luò)的運(yùn)算問(wèn)題，這也就是Hopfield神經(jīng)網(wǎng)絡(luò)應(yīng)用于圖像復(fù)原的基本原理。

運(yùn)用Hopfield神經(jīng)網(wǎng)絡(luò)解決圖像復(fù)原問(wèn)題首先要確定網(wǎng)絡(luò)的權(quán)值矩陣。可以按照Hebb學(xué)習(xí)規(guī)則得出[4]。完成網(wǎng)絡(luò)初始化后，將退化圖像輸入網(wǎng)絡(luò)，從網(wǎng)絡(luò)中選取一個(gè)神經(jīng)元按照Hopfield神經(jīng)網(wǎng)絡(luò)的運(yùn)算規(guī)則得出神經(jīng)元的輸出，將所有神經(jīng)元求出輸出后判斷該網(wǎng)絡(luò)是否達(dá)到穩(wěn)定狀態(tài)，即計(jì)算前后的網(wǎng)絡(luò)能量函數(shù)的誤差是否小于要求的范圍。如果網(wǎng)絡(luò)不穩(wěn)定，需要重復(fù)迭代計(jì)算；網(wǎng)絡(luò)達(dá)到穩(wěn)定狀態(tài)時(shí)，神經(jīng)網(wǎng)絡(luò)的狀態(tài)向量就是要求的原始圖像。經(jīng)過(guò)一定的后處理就能得到具有一定精度的原始圖像。

4 結(jié)語(yǔ)

人工神經(jīng)網(wǎng)絡(luò)在圖像復(fù)原問(wèn)題中的應(yīng)用已經(jīng)擴(kuò)展到了很多方面，包括三維顯微圖像、高能閃光照相等領(lǐng)域[5-6]。神經(jīng)網(wǎng)絡(luò)在圖像復(fù)原中的應(yīng)用機(jī)理也不斷得到深入研究。這些得益于神經(jīng)網(wǎng)絡(luò)算法不依賴求解問(wèn)題本身數(shù)學(xué)模型的特點(diǎn)，以及自身強(qiáng)大的泛化能力。BP和Hopfield神經(jīng)網(wǎng)絡(luò)都能成功地運(yùn)用在圖像復(fù)原問(wèn)題中，在選用神經(jīng)網(wǎng)絡(luò)進(jìn)行圖像復(fù)原研究時(shí)要注意到BP神經(jīng)網(wǎng)絡(luò)強(qiáng)烈地依賴退化圖像與原始圖像構(gòu)成的樣本集合對(duì)網(wǎng)絡(luò)進(jìn)行訓(xùn)練，這就要求得到足夠的先驗(yàn)知識(shí)或者通過(guò)某種算法得到退化圖像與原始圖像相對(duì)應(yīng)的樣本群。Hopfield神經(jīng)網(wǎng)絡(luò)不依賴于退化圖像與原始圖像的先驗(yàn)知識(shí)，可以直接針對(duì)退化圖像進(jìn)行復(fù)原。這就需要根據(jù)不同的實(shí)際情況選取合適的網(wǎng)絡(luò)類型來(lái)解決問(wèn)題。

參考文獻(xiàn)

[1]尚鋼，鐘珞，陳立耀.神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)與參數(shù)選取[J].武漢工業(yè)大學(xué)學(xué)報(bào)，1997，19（2）.

[2]王晗.基于Hopfield神經(jīng)網(wǎng)絡(luò)的圖像恢復(fù)[D].武漢：華中科技大學(xué)南京理工大學(xué)，2006年4月.

[3]席旭剛，羅志增.用Hopfield神經(jīng)網(wǎng)絡(luò)實(shí)現(xiàn)觸覺(jué)圖像恢復(fù)[J].儀器儀表學(xué)報(bào)，2008，30（10）.

[4] Bianchini M，F(xiàn)rasconi P.Learning without local minima in radial basis function networks[J].IEEE Transaction on Neural Networks，1995，6（3）：749～756.

第4篇：神經(jīng)網(wǎng)絡(luò)的實(shí)現(xiàn)過(guò)程范文

【關(guān)鍵詞】神經(jīng)網(wǎng)絡(luò) 手寫 識(shí)別系統(tǒng) 應(yīng)用

隨著計(jì)算機(jī)技術(shù)的快速發(fā)展，其在人們的辦公學(xué)習(xí)和日常生活成了不可替代的工具。鍵盤已經(jīng)幾乎完全替代了筆在人們生活中的地位，隨之而來(lái)的后果就是人們?cè)絹?lái)越少的區(qū)書(shū)寫漢字，導(dǎo)致越來(lái)越多的中國(guó)人甚至都忘記了漢字該如何書(shū)寫，這種現(xiàn)象在很多研究和報(bào)道中都有體現(xiàn)。計(jì)算機(jī)和鍵盤是由西方國(guó)家發(fā)明的，其符合西方國(guó)家的語(yǔ)言習(xí)慣，對(duì)于中國(guó)人來(lái)說(shuō)，用字母、符號(hào)去完成方塊漢字的輸入就需要使用者非常熟悉漢語(yǔ)拼音或者五筆編碼，對(duì)于文化程度較低的使用者來(lái)說(shuō)，這些都限制著他們使用計(jì)算機(jī)。鑒于計(jì)算機(jī)鍵盤的這些缺陷，聯(lián)機(jī)手寫輸入法應(yīng)運(yùn)而生，這為計(jì)算機(jī)的輸入帶來(lái)了新的發(fā)展機(jī)遇和挑戰(zhàn)。

1 聯(lián)機(jī)漢字手寫識(shí)別的意義及難點(diǎn)

聯(lián)機(jī)漢字識(shí)別是用書(shū)寫板代替?zhèn)鹘y(tǒng)紙張，筆尖通過(guò)數(shù)字化書(shū)寫板的軌跡通過(guò)采樣系統(tǒng)按時(shí)間先后發(fā)送到計(jì)算機(jī)中，計(jì)算機(jī)則自動(dòng)的完成漢字的識(shí)別和顯示。

1.1 聯(lián)機(jī)漢字手寫識(shí)別的意義

聯(lián)機(jī)手寫漢字識(shí)別的誕生具有非常重要的意義。首先這種輸入方法延續(xù)了幾千年中華文明的寫字習(xí)慣，實(shí)現(xiàn)用戶的手寫輸入，對(duì)于長(zhǎng)時(shí)間不提筆寫字的用戶來(lái)說(shuō)能夠加強(qiáng)其對(duì)漢字書(shū)寫方面的認(rèn)識(shí)，防止“提筆忘字”現(xiàn)象的繼續(xù)惡化。其次，手寫漢字輸入不需要學(xué)習(xí)和記憶計(jì)算機(jī)的漢字編碼規(guī)則，其完全符合中國(guó)人的寫字習(xí)慣，使人機(jī)之間的交流更人性化，更方便快捷。另外，隨著移動(dòng)智能終端的不斷普及，聯(lián)機(jī)漢字手寫識(shí)別的應(yīng)用范圍將進(jìn)一步擴(kuò)大，以適用于不同層次人群對(duì)信息輸入的需要，具有較大的市場(chǎng)發(fā)展前景。

1.2 聯(lián)機(jī)手寫漢字識(shí)別問(wèn)題的難點(diǎn)

手寫漢字識(shí)別是光學(xué)字符讀出器中最難的部分，也是其最終的目標(biāo)，手寫漢字識(shí)別的應(yīng)用主要依賴于其正確識(shí)別率和識(shí)別速度[1]。手寫漢字識(shí)別系統(tǒng)的問(wèn)題具有其特殊性：

（1）中國(guó)漢字量大。我國(guó)目前的常用漢字大概在4000個(gè)左右，在實(shí)際應(yīng)用中的漢字識(shí)別系統(tǒng)應(yīng)該能夠完全識(shí)別這些常用的字才能夠滿足需要，由于超大的漢字量，使得手寫識(shí)別的正確率和識(shí)別速度一直不高。

（2）字體多，結(jié)構(gòu)復(fù)雜。漢字的手寫字體豐富多彩，且漢字的筆畫(huà)繁多，以及復(fù)雜的結(jié)構(gòu)，再加上漢字中的形近字頗多，這些都為漢字識(shí)別系統(tǒng)的發(fā)展造成了很大的困難。

（3）書(shū)寫變化大。不同用戶在進(jìn)行手寫輸入時(shí)其字體的變化是很大的，這種變化因人而異，對(duì)漢字識(shí)別造成了很大的干擾，增加了漢字匹配的難度。

2 人工神經(jīng)網(wǎng)絡(luò)概述

人工神經(jīng)網(wǎng)絡(luò)是一種應(yīng)用類似于大腦神經(jīng)突觸聯(lián)接的結(jié)構(gòu)進(jìn)行信息處理的數(shù)學(xué)模型，通常簡(jiǎn)稱為神經(jīng)網(wǎng)絡(luò)，是一種仿生物神經(jīng)的信號(hào)處理模型。在二十世紀(jì)四十年代初人們開(kāi)始進(jìn)行神經(jīng)網(wǎng)絡(luò)的研究，經(jīng)過(guò)幾十年的發(fā)展，神經(jīng)網(wǎng)絡(luò)也產(chǎn)生了一系列的突破，目前應(yīng)用最多的是Hopfield模型和BP算法。

神經(jīng)網(wǎng)絡(luò)的一般模型一般包括十個(gè)方面：環(huán)境、處理單元、傳播規(guī)則、神經(jīng)網(wǎng)絡(luò)的狀態(tài)、互聯(lián)模式、穩(wěn)定狀態(tài)、操作模式、活躍規(guī)則、活化函數(shù)和學(xué)習(xí)算法。其中，神經(jīng)元、互聯(lián)模式、學(xué)習(xí)算法是神經(jīng)網(wǎng)絡(luò)模型中的三個(gè)關(guān)鍵因素。神經(jīng)網(wǎng)絡(luò)的一個(gè)重要內(nèi)容就是學(xué)習(xí)，其學(xué)習(xí)方式可以分為監(jiān)督學(xué)習(xí)和無(wú)監(jiān)督學(xué)習(xí)，其學(xué)習(xí)過(guò)程一般遵循Hebb規(guī)則，誤差修正學(xué)習(xí)算法以及勝者為王的學(xué)習(xí)規(guī)則，其中Hebb規(guī)則是神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)中最基本的規(guī)則。

人工神經(jīng)網(wǎng)絡(luò)具有獨(dú)特的優(yōu)越性。首先其具有主動(dòng)學(xué)習(xí)的功能，在漢字識(shí)別過(guò)程中，先將漢字模板及可能的識(shí)別結(jié)果輸入到神經(jīng)網(wǎng)絡(luò)中，神經(jīng)網(wǎng)絡(luò)能夠通過(guò)其自身的學(xué)習(xí)過(guò)程來(lái)實(shí)現(xiàn)對(duì)漢字的識(shí)別，自學(xué)功能對(duì)于神經(jīng)網(wǎng)絡(luò)的預(yù)測(cè)功能具有非常重要的意義。其次，神經(jīng)網(wǎng)絡(luò)系統(tǒng)具有聯(lián)想存儲(chǔ)功能，其反饋功能能夠?qū)崿F(xiàn)這種聯(lián)想。另外，通過(guò)計(jì)算機(jī)的高速運(yùn)算能力，神經(jīng)網(wǎng)絡(luò)具有高速尋找優(yōu)化解的能力。

3 人工神經(jīng)網(wǎng)絡(luò)在聯(lián)機(jī)手寫識(shí)別系統(tǒng)中的應(yīng)用

漢字識(shí)別屬于大類別模式識(shí)別，人工神經(jīng)網(wǎng)絡(luò)可以通過(guò)函數(shù)逼近、數(shù)據(jù)分類、數(shù)據(jù)聚類三種作用方式以及“聯(lián)想”的特殊模式對(duì)漢字進(jìn)行識(shí)別。Hopfield神經(jīng)網(wǎng)絡(luò)作為反饋網(wǎng)絡(luò)的一種，其自聯(lián)想記憶網(wǎng)絡(luò)可以使系統(tǒng)不需要通過(guò)大量的訓(xùn)練即可對(duì)漢字進(jìn)行識(shí)別，因此Hopfield神經(jīng)網(wǎng)絡(luò)對(duì)于漢字識(shí)別來(lái)說(shuō)具有獨(dú)特的優(yōu)勢(shì)。其中的離散型Hopfield神經(jīng)網(wǎng)絡(luò)能夠通過(guò)串行異步和并行同步的工作方式，使其反饋過(guò)程具有非常好的穩(wěn)定性，而網(wǎng)絡(luò)只有通過(guò)不斷的演變穩(wěn)定在某一吸引子狀態(tài)時(shí)，才能夠?qū)崿F(xiàn)正確的聯(lián)想。

聯(lián)機(jī)手寫識(shí)別可以分為訓(xùn)練階段和識(shí)別階段。訓(xùn)練階段流程依次為：標(biāo)準(zhǔn)書(shū)寫字符圖像預(yù)處理，提取特征并建立特征庫(kù)，建立Hopfield網(wǎng)絡(luò)模型，訓(xùn)練網(wǎng)絡(luò)，保存權(quán)值。識(shí)別階段的流程為：坐標(biāo)序列轉(zhuǎn)化為bmp圖像，預(yù)處理測(cè)試樣本，提取特征，送入網(wǎng)絡(luò)運(yùn)行，運(yùn)行網(wǎng)絡(luò)到平衡狀態(tài)，分析結(jié)果值。根據(jù)聯(lián)機(jī)手寫識(shí)別的工作流程以及Hopfield網(wǎng)絡(luò)模型的理論，基于Hopfield神經(jīng)網(wǎng)絡(luò)的聯(lián)機(jī)手寫識(shí)別系統(tǒng)在Matlab環(huán)境下得到了仿真模擬，效果非常理想。

4 總結(jié)

手寫識(shí)別系統(tǒng)能夠彌補(bǔ)普通鍵盤的不足，在提高漢字書(shū)寫頻率的同時(shí)，能夠滿足不同層次人群對(duì)計(jì)算機(jī)應(yīng)用的技術(shù)需要?；贖opfield神經(jīng)網(wǎng)絡(luò)的聯(lián)機(jī)手寫識(shí)別系統(tǒng)一起自身獨(dú)特的性能，不僅能夠滿足手寫漢字識(shí)別的正確率，而且其識(shí)別過(guò)程速度非?？?。因此它對(duì)于實(shí)現(xiàn)聯(lián)機(jī)手寫識(shí)別以及圖像識(shí)別具有非常重要的意義。

參考文獻(xiàn)

[1]俞慶英.聯(lián)機(jī)手寫漢字識(shí)別系統(tǒng)的研究與實(shí)現(xiàn)[D].安徽大學(xué)，2005（5）.

[2]郭力賓.交叉點(diǎn)的神經(jīng)網(wǎng)絡(luò)識(shí)別及聯(lián)機(jī)手寫字符的概率神經(jīng)網(wǎng)絡(luò)識(shí)別初探[D].大連理工大學(xué)，2003（03）.

[3]趙蓉.基于神經(jīng)網(wǎng)絡(luò)的聯(lián)機(jī)手寫識(shí)別系統(tǒng)研究與實(shí)現(xiàn)[D].西安電子科技大學(xué)，2011（01）.

第5篇：神經(jīng)網(wǎng)絡(luò)的實(shí)現(xiàn)過(guò)程范文

關(guān)鍵詞:神經(jīng)網(wǎng)絡(luò);BP算法;PID控制;Matlab仿真

中圖分類號(hào):TP274文獻(xiàn)標(biāo)識(shí)碼:A

文章編號(hào):1004-373X(2009)10-143-03

PID Control and Simulation Based on BP Neural Network

WU Wei,YAN Mengyun,WEI Hangxin

(School of Mechanical Engineering,Xi′an Shiyou University,Xi′an,710065,China)

Abstract:The neural network PID control method is introduced,which the parameters of PID controller is adjusted by use of the self-study ability.So the PID controller has the capability of self-adaptation.The dynamic BP algorithms of three-layer networks realize the online real-time control,which displays the robustness of the PID control,and the capability of BP neural networks to deal with nonlinear and uncertain system.A simulation example is made by using of this method.The result of simulation shows that the neural network PID controller is better than the conventional PID controller,and has higher accuracy and stronger adaptability,it can get the satisfied control result.

Keywords:neural network;BP algorithm;PID control;Matlab simulation

0 引 言

在工業(yè)控制中,PID控制是最常用的方法。因?yàn)镻ID控制器結(jié)構(gòu)簡(jiǎn)單,實(shí)現(xiàn)容易,控制效果良好[1]。隨著工業(yè)的發(fā)展,對(duì)象的復(fù)雜程度不斷加深,尤其對(duì)于大滯后、時(shí)變的、非線性的復(fù)雜系統(tǒng),常規(guī)PID控制顯得無(wú)能為力。因此常規(guī)PID控制的應(yīng)用受到很大的限制和挑戰(zhàn)。為了使控制器具有較好的自適應(yīng)性,實(shí)現(xiàn)控制器參數(shù)的自動(dòng)調(diào)整,可以采用神經(jīng)網(wǎng)絡(luò)控制的方法[2]。

利用神經(jīng)網(wǎng)絡(luò)所具有的非線性映射能力、自學(xué)習(xí)能力、概括推廣能力,結(jié)合常規(guī)PID控制理論,通過(guò)吸收兩者的優(yōu)勢(shì),使系統(tǒng)具有自適應(yīng)性,可自動(dòng)調(diào)節(jié)控制參數(shù),適應(yīng)被控過(guò)程的變化,提高控制性能和可靠性[3]。

1 神經(jīng)網(wǎng)絡(luò)PID控制

神經(jīng)網(wǎng)絡(luò)PID控制是神經(jīng)網(wǎng)絡(luò)應(yīng)用于PID控制并與傳統(tǒng)PID控制相結(jié)合而產(chǎn)生的一種新型控制方法,是對(duì)傳統(tǒng)的PID控制的一種改進(jìn)和優(yōu)化[4]。

1.1 常規(guī)的PID控制器

傳統(tǒng)的PID控制器算式如下:

u(t)=KP[e(t)+(1/T1)∫t0e(t)dt+TDde(t)/dt](1)

相應(yīng)的離散算式為:

u(k)=KPe(k)+KI∑kj=0e(j)+KD[e(k)-e(k-1)](2)

式中: KP,KI,KD分別為比例、積分、微分系數(shù);e(k)為第k次采樣的輸入偏差值;u(k)為第k次采樣時(shí)刻的輸出值。

PID控制器由比例(P)、積分(I)、微分(D)三個(gè)部分組成,直接對(duì)被控對(duì)象進(jìn)行閉環(huán)控制,并且三個(gè)參數(shù)KP,KI,KD為在線調(diào)整方式。

1.2 神經(jīng)網(wǎng)絡(luò)

BP神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)如圖1所示。

BP神經(jīng)網(wǎng)絡(luò)通常采用基于BP神經(jīng)元的多層前向神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)形式。典型的BP神經(jīng)網(wǎng)絡(luò)是3層網(wǎng)絡(luò),包括輸入層、隱層和輸出層,各層之間實(shí)行全連接。輸入層節(jié)點(diǎn)只是傳遞輸入信號(hào)到隱含層;隱含層神經(jīng)元(即BP節(jié)點(diǎn))的傳遞函數(shù)f常取可微的單調(diào)遞增函數(shù),輸出層神經(jīng)元的特性決定了整個(gè)網(wǎng)絡(luò)的輸出特性。當(dāng)最后一層神經(jīng)元采用Sigmoid函數(shù)時(shí),整個(gè)網(wǎng)絡(luò)的輸出被限制在一個(gè)較小的范圍內(nèi);如果最后一層神經(jīng)元采用Purelin型函數(shù),則整個(gè)網(wǎng)絡(luò)的輸出可以取任意值。

圖1 三層BP網(wǎng)絡(luò)結(jié)構(gòu)圖

設(shè),x1,x2,…,xn為BP網(wǎng)絡(luò)的輸入;y1,y2,…,yn為BP網(wǎng)絡(luò)的輸出;w1ji為輸入層到隱含層的連接權(quán)值;w2ij為隱含層到輸出層的連接權(quán)值。

圖1中各參數(shù)之間的關(guān)系為:

輸入層: xi=xi0

隱含層:

θ1j=∑ni=0w1jixi, x1j=f(θ1j)(3)

輸出層:

θ2i=∑ni=0w2ijxj, x2i=g(θ2i)(4)

BP神經(jīng)網(wǎng)絡(luò)采用誤差的反向傳播來(lái)修正權(quán)值,使性能指標(biāo)E(k)=(1/2)\2最小。按照梯度下降法修正網(wǎng)絡(luò)的權(quán)值:

輸出層:

δ2=e(k)g′\;

w2ij(k+1)=w2ij(k)+ηδ2x1j(k)(5)

隱含層:

δ1=δ2w2ijf′\;

w1ji(k+1)=w1ji(k)+ηδ1x0i(k)(6)

1.3 神經(jīng)網(wǎng)絡(luò)PID控制器結(jié)構(gòu)

基于BP神經(jīng)網(wǎng)絡(luò)的PID控制系統(tǒng)結(jié)構(gòu)如圖2所示?？刂破饔沙Ｒ?guī)的PID控制器和神經(jīng)網(wǎng)絡(luò)兩部分組成。PID控制要取得較好的控制效果,必須通過(guò)調(diào)整好比例、積分和微分三種控制作用,形成控制量中相互配合又相互制約的關(guān)系。

常規(guī)的PID控制器直接對(duì)被控對(duì)象進(jìn)行閉環(huán)控制,并且其控制參數(shù)為KP,KI,KD在線調(diào)整方式。神經(jīng)網(wǎng)絡(luò)根據(jù)系統(tǒng)的運(yùn)行狀態(tài),調(diào)節(jié)PID控制器的參數(shù),以期達(dá)到某種性能指標(biāo)的最優(yōu)化,使輸出層神經(jīng)元的輸出對(duì)應(yīng)于PID控制器的三個(gè)可調(diào)參數(shù)KP,KI,KD。神經(jīng)網(wǎng)絡(luò)所具有的任意非線性表達(dá)能力,可以通過(guò)對(duì)系統(tǒng)性能的學(xué)習(xí)來(lái)實(shí)現(xiàn)具有最佳組合的PID控制。

圖2 基于BP神經(jīng)網(wǎng)絡(luò)的PID控制器結(jié)構(gòu)

1.4 神經(jīng)網(wǎng)絡(luò)PID控制器的控制算法

(1) 確定神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu),即確定輸人節(jié)點(diǎn)數(shù)和隱含層節(jié)點(diǎn)數(shù),并給出各層加權(quán)系數(shù)的初值w(1)ij(0)和w(2)ji(0),并選定學(xué)習(xí)速率η和慣性系數(shù)α,令k=1;

(2) 采樣得到r(k)和y(k),計(jì)算當(dāng)前時(shí)刻的誤差e(k)=r(k)-y(k);

(3) 計(jì)算各神經(jīng)網(wǎng)絡(luò)的輸入/輸出,其輸出層的輸出即為PID控制器的三個(gè)控制參數(shù)KP,KI,KD;

(4) 計(jì)算PID控制器的輸出;

(5) 進(jìn)行神經(jīng)網(wǎng)絡(luò)學(xué)習(xí),在線調(diào)整加權(quán)系數(shù),實(shí)現(xiàn)PID控制參數(shù)的自適應(yīng)調(diào)整;

(6) 令k=k+1,返回(1)。

2 神經(jīng)網(wǎng)絡(luò)的Matlab仿真

為了檢驗(yàn)神經(jīng)網(wǎng)絡(luò)PID控制系統(tǒng)的能力,在此進(jìn)行大量的仿真實(shí)驗(yàn)。下面以一階時(shí)滯系統(tǒng)作為被控對(duì)象,進(jìn)行仿真實(shí)驗(yàn)。

設(shè)被控對(duì)象為:

G(s)=160s+1e-0.5s

相應(yīng)的控制系統(tǒng)的階躍響應(yīng)曲線如圖3、圖4所示。

圖3 普通PID控制階躍響應(yīng)

可以看出,采用傳統(tǒng)的PID控制,其調(diào)節(jié)時(shí)間ts=120 s,超調(diào)量達(dá)到65%;采用神經(jīng)網(wǎng)絡(luò)PID控制,系統(tǒng)調(diào)節(jié)時(shí)間ts=120,超調(diào)量只有20%。由此說(shuō)明,后者響應(yīng)的快速性和平穩(wěn)性都比前者要好,也說(shuō)明了這種方法的有效性。

圖4 神經(jīng)網(wǎng)絡(luò)PID控制階躍響應(yīng)

3 結(jié) 語(yǔ)

神經(jīng)網(wǎng)絡(luò)PID控制方法簡(jiǎn)單,借助神經(jīng)網(wǎng)絡(luò)的自學(xué)習(xí)、自組織能力,可實(shí)現(xiàn)PID參數(shù)的在線自整定和優(yōu)化,避免了人工整定PID參數(shù)的繁瑣工作。從文中可以得出,神經(jīng)網(wǎng)絡(luò)PID控制有如下的優(yōu)點(diǎn):

(1) 無(wú)需建立被控系統(tǒng)的數(shù)學(xué)模型;

(2) 控制器的參數(shù)整定方便;

(3)對(duì)于大滯后、時(shí)變的、非線性的復(fù)雜系統(tǒng)有很好的動(dòng)靜態(tài)特性。實(shí)現(xiàn)有效控制和PID控制參數(shù)的在線自整定。

參考文獻(xiàn)

[1]劉金琨.先進(jìn)PID控制及Matlab仿真[M].北京:電子工業(yè)出版社,2003.

[2]韓豫萍,孫濤,盛新.基于BP神經(jīng)網(wǎng)絡(luò)的PID控制及仿真[J].可編程控制器與工廠自動(dòng)化,2007(12):91-93.

[3]黃金燕,葛化敏,唐明軍.基于BP神經(jīng)網(wǎng)絡(luò)的PID控制方法的研究[J].微計(jì)算機(jī)信息,2006(26):278-280.

[4]曾軍,方厚輝.神經(jīng)網(wǎng)絡(luò)PID控制及其Matlab仿真[J].現(xiàn)代電子技術(shù),2004,27(2):51-52.

[5]趙娟平.神經(jīng)網(wǎng)絡(luò)PID控制策略及其Matlab仿真研究[J].微計(jì)算機(jī)信息,2007(7):59-60.

[6]Zhang Mingguang,Qiang Minghui.Study of PID Neural Network Control for Nonlinear System[J].Institute of Electrical and Electronics Engineers Inc,2007.

[7]孫潔.神經(jīng)網(wǎng)絡(luò)PID算法在流量控制中的應(yīng)用與仿真研究[D].合肥:合肥工業(yè)大學(xué),2007.

[8]王亞斌.基于BP神經(jīng)網(wǎng)絡(luò)PID控制及其仿真[J].江蘇冶金,2008(2):33-35.

[9]廖方方,肖建.基于BP神經(jīng)網(wǎng)絡(luò)PID參數(shù)自整定的研究\.系統(tǒng)仿真學(xué)報(bào),2005(7):1 711-1 713.

第6篇：神經(jīng)網(wǎng)絡(luò)的實(shí)現(xiàn)過(guò)程范文

關(guān)鍵詞：發(fā)電燃料；供應(yīng)預(yù)測(cè)；BP神經(jīng)網(wǎng)絡(luò)；預(yù)測(cè)方法

中圖分類號(hào)：TM 762 文獻(xiàn)標(biāo)示碼：A

0 引言

發(fā)電燃料的供應(yīng)受到能源政策、供需形勢(shì)、資源分布、供應(yīng)價(jià)格、交通運(yùn)輸、市場(chǎng)博弈等多種復(fù)雜因素的影響，長(zhǎng)期以來(lái)缺乏合理有效的供應(yīng)預(yù)測(cè)方法和技術(shù)手段，尤其是廠網(wǎng)分離后鮮見(jiàn)相關(guān)的研究工作。

文獻(xiàn)1《遼寧火電廠燃料管理信息系統(tǒng)的開(kāi)發(fā)與研制》開(kāi)發(fā)和研制了覆蓋遼寧全體直屬電廠燃料公司并同東電局進(jìn)行廣域網(wǎng)數(shù)據(jù)交換，同時(shí)能進(jìn)行審核管理和業(yè)務(wù)信息方便傳輸?shù)娜剂暇C合管理信息系統(tǒng)。

文獻(xiàn)2《電力系統(tǒng)燃料MIS系統(tǒng)開(kāi)發(fā)研究》探討了燃料管理信息系統(tǒng)的組成、功能、結(jié)構(gòu)及開(kāi)發(fā)應(yīng)用，為綜述性理論研究。

以上文獻(xiàn)均未對(duì)發(fā)電燃料供應(yīng)提供較有效的預(yù)測(cè)方法。本文提出一種基于BP神經(jīng)網(wǎng)絡(luò)的發(fā)電燃料供應(yīng)量預(yù)測(cè)方法，利用神經(jīng)網(wǎng)絡(luò)原理，通過(guò)數(shù)據(jù)收集、數(shù)據(jù)修正和神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)選擇建立起基于BP神經(jīng)網(wǎng)絡(luò)的發(fā)電燃料供應(yīng)預(yù)測(cè)模型。通過(guò)MATLAB實(shí)際仿真，證明該預(yù)測(cè)方法預(yù)測(cè)較準(zhǔn)確，并具有靈活的適應(yīng)性。

基金項(xiàng)目：中國(guó)南方電網(wǎng)有限責(zé)任公司科技項(xiàng)目（K-ZD2013-005）

1 預(yù)測(cè)方法

按預(yù)測(cè)方法的性質(zhì)不同，預(yù)測(cè)可分為定性預(yù)測(cè)和定量預(yù)測(cè)。常用的定性預(yù)測(cè)方法有主觀概率法、調(diào)查預(yù)測(cè)法、德?tīng)柗品ā㈩惐确?、相關(guān)因素分析法等。定量方法又可以分為因果分析法和時(shí)間序列分析法等，因果分析法也叫結(jié)構(gòu)關(guān)系分析法。它是通過(guò)分析變化的原因，找出原因與結(jié)果之間的聯(lián)系方式，建立預(yù)測(cè)模型，并據(jù)此預(yù)測(cè)未來(lái)的發(fā)展變化趨勢(shì)及可能水平。時(shí)間序列分析法也叫歷史延伸法。它是以歷史的時(shí)間序列數(shù)據(jù)為基礎(chǔ)，運(yùn)用一定的數(shù)學(xué)方法尋找數(shù)據(jù)變動(dòng)規(guī)律向外延伸，預(yù)測(cè)未來(lái)的發(fā)展變化趨勢(shì)。由于時(shí)間序列模型無(wú)法引入對(duì)負(fù)荷影響的其它變量，所以，單純應(yīng)用時(shí)間序列模型進(jìn)行供應(yīng)預(yù)測(cè)精度難以提高。

運(yùn)用人工神經(jīng)網(wǎng)絡(luò)技術(shù)進(jìn)行預(yù)測(cè)，其優(yōu)點(diǎn)是可以模仿人腦的智能化處理過(guò)程，對(duì)大量非結(jié)構(gòu)性、非精確性規(guī)律具有自適應(yīng)功能，具有信息記憶、自主學(xué)習(xí)、知識(shí)推理和優(yōu)化計(jì)算的特點(diǎn)，特別是其自學(xué)習(xí)和自適應(yīng)功能是常規(guī)算法和專家系統(tǒng)所不具備的，因此，預(yù)測(cè)是人工神經(jīng)網(wǎng)絡(luò)的最有潛力的應(yīng)用領(lǐng)域之一，有非常廣泛的前途。

2 BP神經(jīng)網(wǎng)絡(luò)模型

2.1 人工神經(jīng)網(wǎng)絡(luò)概述

人工神經(jīng)網(wǎng)絡(luò)是由神經(jīng)元以一定的拓?fù)浣Y(jié)構(gòu)和連接關(guān)系組成的信息表現(xiàn)、儲(chǔ)存和變換系統(tǒng)，是模仿人腦結(jié)構(gòu)的一種信息系統(tǒng)，可較好地模擬人的形象思維能力。它是對(duì)自然界中生物體神經(jīng)系統(tǒng)進(jìn)行抽象和改造，并模擬生物體神經(jīng)系統(tǒng)功能的產(chǎn)物。神經(jīng)網(wǎng)絡(luò)的重要特點(diǎn)是具有記憶和學(xué)習(xí)能力，經(jīng)過(guò)一定訓(xùn)練之后，能夠?qū)o定的輸入做出相應(yīng)處理。

人工神經(jīng)網(wǎng)絡(luò)適用于處理實(shí)際中不確定性、精確性不高等引起的系統(tǒng)難以控制的問(wèn)題，映射輸入輸出關(guān)系。人工神經(jīng)網(wǎng)絡(luò)優(yōu)于傳統(tǒng)方法在于：

1）實(shí)現(xiàn)了非線性關(guān)系的隱式表達(dá)，不需要建立復(fù)雜系統(tǒng)的顯示關(guān)系式；

2）容錯(cuò)性強(qiáng)，可以處理信息不完全的預(yù)測(cè)問(wèn)題，而信息不完全的情況在實(shí)際中經(jīng)常遇到；

3）由于神經(jīng)網(wǎng)絡(luò)具有一致逼進(jìn)效果，訓(xùn)練后的神經(jīng)網(wǎng)絡(luò)在樣本上輸出期望值，在非樣本點(diǎn)上表現(xiàn)出網(wǎng)絡(luò)的聯(lián)想記憶功能；

4）由于大規(guī)模并行機(jī)制，故預(yù)測(cè)速度快；

5）動(dòng)態(tài)自適應(yīng)能力強(qiáng)，可適應(yīng)外界新的學(xué)習(xí)樣木，使網(wǎng)絡(luò)知識(shí)不斷更新。

圖1是一個(gè)人工神經(jīng)元的典型結(jié)構(gòu)圖。

圖1 神經(jīng)元典型結(jié)構(gòu)圖

它相當(dāng)于一個(gè)多輸入單輸出的非線性閾值器件。，表示該神經(jīng)元的輸入向量；為權(quán)值向量；θ為神經(jīng)元的閾值，如果神經(jīng)元輸入向量加權(quán)和大于0，則神經(jīng)元被激活；f表示神經(jīng)元的輸入輸出關(guān)系函數(shù)，即傳輸函數(shù)。因此，神經(jīng)元的輸出可以表示為：

其中傳輸函數(shù)是神經(jīng)元以及網(wǎng)絡(luò)的核心。網(wǎng)絡(luò)解決問(wèn)題的能力與功效除了與網(wǎng)絡(luò)結(jié)構(gòu)有關(guān)，在很大程度上取決于網(wǎng)絡(luò)所采用的傳輸函數(shù)。

幾種常見(jiàn)的傳輸函數(shù)如圖2所示：

（1）為閾值型，將任意輸入轉(zhuǎn)化為0或1輸出，其輸入/輸出關(guān)系為：

（2）為線性型，其輸入/輸出關(guān)系為：

（3）、（4）為S型，它將任意輸入值壓縮到（0，1）的范圍內(nèi)，此類傳遞函數(shù)常用對(duì)數(shù)（logsig）或雙曲正切（tansig）等一類S形狀的曲線來(lái)表示，如對(duì)數(shù)S型傳遞函數(shù)的關(guān)系為：

而雙曲正切S型曲線的輸入/輸出函數(shù)關(guān)系是：

（1） （2）

（3） （4）

圖2 常見(jiàn)的傳遞函數(shù)圖形

2.2 BP神經(jīng)網(wǎng)絡(luò)概述

神經(jīng)網(wǎng)絡(luò)的魅力在于它超強(qiáng)的映射能力，單層感知器可實(shí)現(xiàn)性分類，多層前向網(wǎng)絡(luò)則可以逼近任何非線性函數(shù)?？梢詫P網(wǎng)絡(luò)視為從輸入到輸出的高度非線性映射，而有關(guān)定理證明BP神經(jīng)網(wǎng)絡(luò)通過(guò)對(duì)簡(jiǎn)單的非線性函數(shù)進(jìn)行數(shù)次復(fù)合，可以近似任何復(fù)雜的函數(shù)。

在人工神經(jīng)網(wǎng)絡(luò)的實(shí)際應(yīng)用中，80%-90%的人工神經(jīng)網(wǎng)絡(luò)模型是采用BP網(wǎng)絡(luò)和它的變化形式，它也是前向網(wǎng)絡(luò)的核心，體現(xiàn)了人工神經(jīng)網(wǎng)絡(luò)最精華的部分。在人們掌握反向傳播網(wǎng)絡(luò)的設(shè)計(jì)之前，感知器和自適應(yīng)線性元件都只能適用于對(duì)單層網(wǎng)絡(luò)模型的訓(xùn)練，只是后來(lái)才得到進(jìn)一步拓展。

BP神經(jīng)網(wǎng)絡(luò)主要應(yīng)用有：

（1）函數(shù)逼近：用輸入矢量和相應(yīng)的輸出矢量訓(xùn)練一個(gè)網(wǎng)絡(luò)逼近一個(gè)函數(shù)。

（2）模式識(shí)別：用一個(gè)特定的輸出矢量將它與輸入矢量聯(lián)系起來(lái)。

（3）分類：把輸入矢量以所定義的合適方式進(jìn)行分類。

（4）數(shù)據(jù)壓縮：減少輸出矢量維數(shù)以便于傳輸或存儲(chǔ)。

2.3 誤差反向傳播算法原理

BP神經(jīng)網(wǎng)絡(luò)是一種多層前饋神經(jīng)網(wǎng)絡(luò)，名字源于網(wǎng)絡(luò)權(quán)值的調(diào)整規(guī)則，采用的是誤差反向傳播算法（Error Back-Propagation Training Algorithm）即BP算法。BP神經(jīng)網(wǎng)絡(luò)是單向傳播的多層前向神經(jīng)網(wǎng)絡(luò)。除輸入輸出節(jié)點(diǎn)之外，有一層或多層的隱藏節(jié)點(diǎn)，同層節(jié)點(diǎn)之間無(wú)任何連接。典型的BP網(wǎng)絡(luò)是三層前饋階層網(wǎng)絡(luò)，即：輸入層、隱含層（中間層）和輸出層，各層之間實(shí)行全連接。BP神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)如圖3所示：

圖3 BP神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)示意圖

BP網(wǎng)絡(luò)學(xué)習(xí)過(guò)程包括誤差正向傳播和反向傳播兩個(gè)過(guò)程。在正向傳播過(guò)程中，輸入樣本從輸入層傳入，經(jīng)各隱含逐層處理后，傳向輸出層，每一層神經(jīng)元的狀態(tài)只影響下一層神經(jīng)元的狀態(tài)。若輸出層的實(shí)際輸出與期望的輸出不符，則轉(zhuǎn)入誤差的反向傳播階段。誤差反傳是將輸出誤差的某種形式通過(guò)隱含層向輸入層逐層反傳，并將誤差分?jǐn)偨o各層的所有單元，從而獲得各層單元的誤差信號(hào)，此誤差信號(hào)即作為修正各神經(jīng)元之間權(quán)值的依據(jù)。這種信號(hào)正向傳播與誤差反向傳播的各層權(quán)值調(diào)整過(guò)程，是周而復(fù)始地進(jìn)行的。權(quán)值不斷調(diào)整的過(guò)程，也就是網(wǎng)絡(luò)學(xué)習(xí)訓(xùn)練的過(guò)程。此過(guò)程一直進(jìn)行到網(wǎng)絡(luò)輸出的誤差減小到可接受的程度，或進(jìn)行到預(yù)先設(shè)定的學(xué)習(xí)次數(shù)為止。

BP神經(jīng)元與其他神經(jīng)元類似，不同的是，由于BP神經(jīng)元的傳遞函數(shù)必須是處處可微的，它不能采用二值型{0，1}或符號(hào)函數(shù){-1，1}，所以其傳遞函數(shù)為非線性函數(shù)，最常用的函數(shù)S型函數(shù)，有時(shí)也采用線性函數(shù)。本文采用S型（Sigmoid）函數(shù)作為激發(fā)函數(shù)：

式中，為網(wǎng)絡(luò)單元的狀態(tài)：

則單元輸出為：

其中，為單元的閥值。在這種激發(fā)函數(shù)下，有：

故對(duì)輸出層單元：

對(duì)隱層單元：

權(quán)值調(diào)節(jié)為：

在實(shí)際學(xué)習(xí)過(guò)程中，學(xué)習(xí)速率對(duì)學(xué)習(xí)過(guò)程的影響很大。是按梯度搜索的步長(zhǎng)。越大，權(quán)值的變化越劇烈。實(shí)際應(yīng)用中，通常是以不導(dǎo)致振蕩的前提下取盡量大的值。為了使學(xué)習(xí)速度足夠快而不易產(chǎn)生振蕩，往往在規(guī)則中再加一個(gè)“勢(shì)態(tài)項(xiàng)”，即：

式中，是一個(gè)常數(shù)，它決定過(guò)去權(quán)重的變化對(duì)目前權(quán)值變化的影響程度。

圖4為BP算法流程圖。

圖4 BP算法流程圖

3 發(fā)電燃料供應(yīng)預(yù)測(cè)BP神經(jīng)網(wǎng)絡(luò)模型建立

3.1 數(shù)據(jù)的收集與整理

發(fā)電燃料供應(yīng)是一個(gè)龐大的系統(tǒng)，其中的數(shù)據(jù)資料紛繁復(fù)雜。在進(jìn)行模型的搭建之前，需要進(jìn)行歷史資料的整理，提取出所需的數(shù)據(jù)。本模型中，選取與燃料供應(yīng)有關(guān)的數(shù)據(jù)作為影響因素，如電廠發(fā)電量、能源政策、能源供需形勢(shì)、交通運(yùn)輸狀況、燃料價(jià)格和機(jī)組能耗等。

3.2 數(shù)據(jù)的修正

如果在數(shù)據(jù)采集與傳輸時(shí)受到一定干擾，就會(huì)出現(xiàn)資料出錯(cuò)或數(shù)據(jù)丟失的情況，此時(shí)都會(huì)產(chǎn)生影響預(yù)測(cè)效果的壞數(shù)據(jù)，這些壞數(shù)據(jù)將會(huì)掩蓋實(shí)際模型的規(guī)律，直接影響模型的效果與精度。據(jù)此，需對(duì)樣本數(shù)據(jù)進(jìn)行預(yù)處理，以確保在建模和預(yù)測(cè)過(guò)程中所運(yùn)用的歷史數(shù)據(jù)具有真實(shí)性、正確性和同規(guī)律性。一般樣本數(shù)據(jù)預(yù)處理方法主要有經(jīng)驗(yàn)修正法、曲線置換法、插值法、20%修正法、數(shù)據(jù)橫向縱向?qū)Ρ确ā⑿〔ǚ治鋈ピ敕ǖ?。?duì)于簡(jiǎn)單問(wèn)題，采用數(shù)據(jù)的橫向縱向?qū)Ρ燃纯蓪?shí)現(xiàn)壞數(shù)據(jù)的剔除。

3.3 BP神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)選擇

理論證明，3層前向式神經(jīng)網(wǎng)絡(luò)能夠以任意精度實(shí)現(xiàn)任意函數(shù)，所以，本模型中采用3層前向網(wǎng)絡(luò)。同時(shí)，當(dāng)有N個(gè)影響時(shí)， 3層BP神經(jīng)網(wǎng)絡(luò)的輸入層節(jié)點(diǎn)數(shù)為N個(gè)，隱含層節(jié)點(diǎn)數(shù)一般為2N ～ 4N，最佳取值可根據(jù)實(shí)際問(wèn)題試湊得，輸出層為1個(gè)節(jié)點(diǎn)， 因此可以取其平均結(jié)構(gòu)為N - 3N - 1型， 輸入層激發(fā)函數(shù)為線性函數(shù)， 中間層和輸出層的激發(fā)函數(shù)為S型函數(shù)。

3.4 BP神經(jīng)網(wǎng)絡(luò)模型建立

對(duì)于實(shí)際的燃料供應(yīng)模型，數(shù)據(jù)的選擇要有針對(duì)性，結(jié)構(gòu)要合適，這在預(yù)測(cè)過(guò)程中是重中之重。為便于模型選擇、結(jié)果對(duì)比，可同時(shí)采用幾種不同的數(shù)學(xué)模型進(jìn)行預(yù)測(cè)。在完成對(duì)恰當(dāng)?shù)念A(yù)測(cè)模型的選擇后，利用提取自歷史資料的訓(xùn)練數(shù)據(jù)對(duì)建立好的預(yù)測(cè)數(shù)學(xué)模型進(jìn)行參數(shù)訓(xùn)練。當(dāng)模型的參數(shù)訓(xùn)練好以后，即可利用此模型進(jìn)行預(yù)測(cè)。

具體操作步驟如下：

（1）對(duì)訓(xùn)練樣本與預(yù)測(cè)樣本進(jìn)行歸一化預(yù)處理，公式表示如式（1）。

（1）

其中表示經(jīng)過(guò)歸一化后的值，表示實(shí)際值，，分別是訓(xùn)練集中數(shù)據(jù)的最大值和最小值，k表示輸入向量的維數(shù)，i表示有作用因素的個(gè)數(shù)。

（2）對(duì)預(yù)測(cè)的數(shù)據(jù)樣本進(jìn)行提取，并分別列出訓(xùn)練與測(cè)試的樣本集合。

（3）對(duì)BP神經(jīng)網(wǎng)絡(luò)的輸入層、隱含層、輸出層的節(jié)點(diǎn)進(jìn)行定義，對(duì)網(wǎng)絡(luò)的權(quán)重、閾值進(jìn)行初始賦值。

（4）利用訓(xùn)練樣本對(duì)BP神經(jīng)網(wǎng)絡(luò)進(jìn)行訓(xùn)練，建立符合實(shí)際問(wèn)題的模型。

（5）利用事先預(yù)備的測(cè)試樣本對(duì)訓(xùn)練好的網(wǎng)絡(luò)進(jìn)行測(cè)試，若效果不佳，則重新訓(xùn)練，若效果好則繼續(xù)下一步。

（6）利用預(yù)測(cè)樣本及訓(xùn)練好的模型進(jìn)行預(yù)測(cè)。

具體流程圖如圖5所示：

圖5 模型建立流程圖

4 基于BP神經(jīng)網(wǎng)絡(luò)模型的發(fā)電燃料供應(yīng)預(yù)測(cè)

（1）樣本數(shù)據(jù)的選擇

以各類影響耗煤的因素作為輸入 。

（2）進(jìn)行歸一化處理

避免量綱對(duì)模型的影響。同時(shí)，降低數(shù)據(jù)的數(shù)量級(jí)，可以提高BP網(wǎng)絡(luò)的訓(xùn)練的速度，避免飽和。

（3）確定BP神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)

3層BP神經(jīng)網(wǎng)絡(luò)的輸入層節(jié)點(diǎn)為1個(gè)（可根據(jù)實(shí)際情況調(diào)整），對(duì)應(yīng)于輸入樣本，隱含層節(jié)點(diǎn)為15，輸出層節(jié)點(diǎn)為1，對(duì)應(yīng)于輸出樣本。網(wǎng)絡(luò)初始連接權(quán)及神經(jīng)元初始閾值采用隨機(jī)賦值方式。神經(jīng)元的激發(fā)函數(shù)為S函數(shù)，最大迭代次數(shù)為400，學(xué)習(xí)步長(zhǎng)為0.001，學(xué)習(xí)誤差為0.00001。

（4）利用訓(xùn)練樣本進(jìn)行網(wǎng)絡(luò)的訓(xùn)練

（5）利用測(cè)試樣本進(jìn)行模型的測(cè)試

人為選定5%相對(duì)誤差為模型訓(xùn)練好壞的判別標(biāo)準(zhǔn)。若測(cè)試樣本的測(cè)試結(jié)果的相對(duì)誤差在5%以內(nèi)，則進(jìn)行下一步，否則重新訓(xùn)練。

（6）利用預(yù)測(cè)樣本和已訓(xùn)練好的模型進(jìn)行預(yù)測(cè)

南方電網(wǎng)全網(wǎng)發(fā)電燃料供應(yīng)量預(yù)測(cè)結(jié)果值與實(shí)際值的對(duì)比如圖6所示：

圖6 南網(wǎng)全網(wǎng)發(fā)電燃料供應(yīng)預(yù)測(cè)值與實(shí)際值對(duì)比圖

5 結(jié)論

隨著廠網(wǎng)分離的實(shí)施，電網(wǎng)公司和電力調(diào)度機(jī)構(gòu)對(duì)發(fā)電燃料供應(yīng)的掌握嚴(yán)重不足，已經(jīng)不能滿足電力供應(yīng)工作的要求，尤其是在來(lái)水偏枯、電力供應(yīng)緊張的時(shí)期，發(fā)電燃料供應(yīng)的預(yù)測(cè)對(duì)緩解電力供需矛盾、有序做好發(fā)用電管理起著舉足輕重的作用，因此，迫切需要開(kāi)展發(fā)電燃料供應(yīng)影響因素及預(yù)測(cè)方法的研究工作。

本文在收集、掌握發(fā)電燃料供應(yīng)來(lái)源、價(jià)格、運(yùn)輸?shù)惹闆r的基礎(chǔ)上，基于BP神經(jīng)網(wǎng)絡(luò)研究建立發(fā)電燃料供應(yīng)量的預(yù)測(cè)模型和預(yù)測(cè)方法。通過(guò)MATLAB仿真預(yù)測(cè)，對(duì)預(yù)測(cè)結(jié)果值和實(shí)際值進(jìn)行了對(duì)標(biāo)分析，證明該預(yù)測(cè)方法預(yù)測(cè)較準(zhǔn)確，并具有靈活的適應(yīng)性。本文的研究有利于提升發(fā)電燃料的管理水平和掌控力度，為合理有序做好電力供應(yīng)工作提供有力支持。

參考文獻(xiàn)：

[1]孫長(zhǎng)青.基于OSGI的發(fā)電集團(tuán)燃料管控系統(tǒng)設(shè)計(jì)與實(shí)現(xiàn)[D].導(dǎo)師：陳有青.中山大學(xué)，2011.

[2]史新梅，裴珍.遼寧火電廠燃料管理信息系統(tǒng)的開(kāi)發(fā)與研制[J].安徽工業(yè)大學(xué)學(xué)報(bào)，2001，（04）：359-362+366.

[3]付民慶.基于J2EE架構(gòu)燃料管理信息系統(tǒng)的研究與實(shí)現(xiàn)[D].導(dǎo)師：申曉留.華北電力大學(xué)（北京），2008.

[4]魏學(xué)軍.DF電廠燃料管理信息系統(tǒng)的研究與應(yīng)用[D].導(dǎo)師：胡立德；戴鶴.重慶大學(xué)，2008.

[5]孫文君.發(fā)電企業(yè)燃料自動(dòng)監(jiān)管系統(tǒng)設(shè)計(jì)及應(yīng)用[D].導(dǎo)師：張慶超；關(guān)萬(wàn)祥.天津大學(xué)，2010.

第7篇：神經(jīng)網(wǎng)絡(luò)的實(shí)現(xiàn)過(guò)程范文

[摘要]該文介紹了神經(jīng)網(wǎng)絡(luò)的發(fā)展、優(yōu)點(diǎn)及其應(yīng)用和發(fā)展動(dòng)向，著重論述了神經(jīng)網(wǎng)絡(luò)目前的幾個(gè)研究熱點(diǎn)，即神經(jīng)網(wǎng)絡(luò)與遺傳算法、灰色系統(tǒng)、專家系統(tǒng)、模糊控制、小波分析的結(jié)合。

[關(guān)鍵詞]遺傳算法灰色系統(tǒng)專家系統(tǒng)模糊控制小波分析

一、前言

神經(jīng)網(wǎng)絡(luò)最早的研究20世紀(jì)40年代心理學(xué)家Mcculloch和數(shù)學(xué)家Pitts合作提出的，他們提出的MP模型拉開(kāi)了神經(jīng)網(wǎng)絡(luò)研究的序幕。神經(jīng)網(wǎng)絡(luò)的發(fā)展大致經(jīng)過(guò)三個(gè)階段：1947~1969年為初期，在這期間科學(xué)家們提出了許多神經(jīng)元模型和學(xué)習(xí)規(guī)則，如MP模型、HEBB學(xué)習(xí)規(guī)則和感知器等；1970~1986年為過(guò)渡期，這個(gè)期間神經(jīng)網(wǎng)絡(luò)研究經(jīng)過(guò)了一個(gè)低潮，繼續(xù)發(fā)展。在此期間，科學(xué)家們做了大量的工作，如Hopfield教授對(duì)網(wǎng)絡(luò)引入能量函數(shù)的概念，給出了網(wǎng)絡(luò)的穩(wěn)定性判據(jù)，提出了用于聯(lián)想記憶和優(yōu)化計(jì)算的途徑。1984年，Hiton教授提出Boltzman機(jī)模型。1986年Kumelhart等人提出誤差反向傳播神經(jīng)網(wǎng)絡(luò)，簡(jiǎn)稱BP網(wǎng)絡(luò)。目前，BP網(wǎng)絡(luò)已成為廣泛使用的網(wǎng)絡(luò)；1987年至今為發(fā)展期，在此期間，神經(jīng)網(wǎng)絡(luò)受到國(guó)際重視，各個(gè)國(guó)家都展開(kāi)研究，形成神經(jīng)網(wǎng)絡(luò)發(fā)展的另一個(gè)。神經(jīng)網(wǎng)絡(luò)具有以下優(yōu)點(diǎn)：

(1)具有很強(qiáng)的魯棒性和容錯(cuò)性，因?yàn)樾畔⑹欠植假A于網(wǎng)絡(luò)內(nèi)的神經(jīng)元中。

(2)并行處理方法，使得計(jì)算快速。

(3)自學(xué)習(xí)、自組織、自適應(yīng)性，使得網(wǎng)絡(luò)可以處理不確定或不知道的系統(tǒng)。

(4)可以充分逼近任意復(fù)雜的非線性關(guān)系。

(5)具有很強(qiáng)的信息綜合能力，能同時(shí)處理定量和定性的信息，能很好地協(xié)調(diào)多種輸入信息關(guān)系，適用于多信息融合和多媒體技術(shù)。

二、神經(jīng)網(wǎng)絡(luò)應(yīng)用現(xiàn)狀

神經(jīng)網(wǎng)絡(luò)以其獨(dú)特的結(jié)構(gòu)和處理信息的方法，在許多實(shí)際應(yīng)用領(lǐng)域中取得了顯著的成效，主要應(yīng)用如下：

(1)圖像處理。對(duì)圖像進(jìn)行邊緣監(jiān)測(cè)、圖像分割、圖像壓縮和圖像恢復(fù)。

(2)信號(hào)處理。能分別對(duì)通訊、語(yǔ)音、心電和腦電信號(hào)進(jìn)行處理分類；可用于海底聲納信號(hào)的檢測(cè)與分類，在反潛、掃雷等方面得到應(yīng)用。

(3)模式識(shí)別。已成功應(yīng)用于手寫字符、汽車牌照、指紋和聲音識(shí)別，還可用于目標(biāo)的自動(dòng)識(shí)別和定位、機(jī)器人傳感器的圖像識(shí)別以及地震信號(hào)的鑒別等。

(4)機(jī)器人控制。對(duì)機(jī)器人眼手系統(tǒng)位置進(jìn)行協(xié)調(diào)控制，用于機(jī)械手的故障診斷及排除、智能自適應(yīng)移動(dòng)機(jī)器人的導(dǎo)航。

(5)衛(wèi)生保健、醫(yī)療。比如通過(guò)訓(xùn)練自主組合的多層感知器可以區(qū)分正常心跳和非正常心跳、基于BP網(wǎng)絡(luò)的波形分類和特征提取在計(jì)算機(jī)臨床診斷中的應(yīng)用。

(6)焊接領(lǐng)域。國(guó)內(nèi)外在參數(shù)選擇、質(zhì)量檢驗(yàn)、質(zhì)量預(yù)測(cè)和實(shí)時(shí)控制方面都有研究，部分成果已得到應(yīng)用。

(7)經(jīng)濟(jì)。能對(duì)商品價(jià)格、股票價(jià)格和企業(yè)的可信度等進(jìn)行短期預(yù)測(cè)。

(8)另外，在數(shù)據(jù)挖掘、電力系統(tǒng)、交通、軍事、礦業(yè)、農(nóng)業(yè)和氣象等方面亦有應(yīng)用。

三、神經(jīng)網(wǎng)絡(luò)發(fā)展趨勢(shì)及研究熱點(diǎn)

1.神經(jīng)網(wǎng)絡(luò)研究動(dòng)向

神經(jīng)網(wǎng)絡(luò)雖已在許多領(lǐng)域應(yīng)用中取得了廣泛的成功，但其發(fā)展還不十分成熟，還有一些問(wèn)題需進(jìn)一步研究。

(1)神經(jīng)計(jì)算的基礎(chǔ)理論框架以及生理層面的研究仍需深入。這方面的工作雖然很困難，但為了神經(jīng)計(jì)算的進(jìn)一步發(fā)展卻是非做不可的。

(2)除了傳統(tǒng)的多層感知機(jī)、徑向基函數(shù)網(wǎng)絡(luò)、自組織特征映射網(wǎng)絡(luò)、自適應(yīng)諧振理論網(wǎng)絡(luò)、模糊神經(jīng)網(wǎng)絡(luò)、循環(huán)神經(jīng)網(wǎng)絡(luò)之外，一些新的模型和結(jié)構(gòu)很值得關(guān)注，例如最近興起的脈沖神經(jīng)網(wǎng)絡(luò)(spikingneuralnetwork)和支持向量機(jī)(supportvectormachine)。

(3)神經(jīng)計(jì)算技術(shù)與其他技術(shù)尤其是進(jìn)化計(jì)算技術(shù)的結(jié)合以及由此而來(lái)的混合方法和混合系統(tǒng)，正成為一大研究熱點(diǎn)。

(4)增強(qiáng)神經(jīng)網(wǎng)絡(luò)的可理解性是神經(jīng)網(wǎng)絡(luò)界需要解決的一個(gè)重要問(wèn)題。這方面的工作在今后若干年中仍然會(huì)是神經(jīng)計(jì)算和機(jī)器學(xué)習(xí)界的一個(gè)研究熱點(diǎn)。

(5)神經(jīng)網(wǎng)絡(luò)的應(yīng)用領(lǐng)域?qū)⒉粩鄶U(kuò)大，在未來(lái)的幾年中有望在一些領(lǐng)域取得更大的成功，特別是多媒體技術(shù)、醫(yī)療、金融、電力系統(tǒng)等領(lǐng)域。

2.研究熱點(diǎn)

(1)神經(jīng)網(wǎng)絡(luò)與遺傳算法的結(jié)合。遺傳算法與神經(jīng)網(wǎng)絡(luò)的結(jié)合主要體現(xiàn)在以下幾個(gè)方面：網(wǎng)絡(luò)連接權(quán)重的進(jìn)化訓(xùn)練；網(wǎng)絡(luò)結(jié)構(gòu)的進(jìn)化計(jì)算；網(wǎng)絡(luò)結(jié)構(gòu)和連接權(quán)重的同時(shí)進(jìn)化；訓(xùn)練算法的進(jìn)化設(shè)計(jì)?；谶M(jìn)化計(jì)算的神經(jīng)網(wǎng)絡(luò)設(shè)計(jì)和實(shí)現(xiàn)已在眾多領(lǐng)域得到應(yīng)用，如模式識(shí)別、機(jī)器人控制、財(cái)政等，并取得了較傳統(tǒng)神經(jīng)網(wǎng)絡(luò)更好的性能和結(jié)果。但從總體上看，這方面研究還處于初期階段，理論方法有待于完善規(guī)范，應(yīng)用研究有待于加強(qiáng)提高。神經(jīng)網(wǎng)絡(luò)與進(jìn)化算法相結(jié)合的其他方式也有待于進(jìn)一步研究和挖掘。

(2)神經(jīng)網(wǎng)絡(luò)與灰色系統(tǒng)的結(jié)合?；疑到y(tǒng)理論是一門極有生命力的系統(tǒng)科學(xué)理論，自1982年華中理工大學(xué)的鄧聚龍教授提出灰色系統(tǒng)后迅速發(fā)展，以初步形成以灰色關(guān)聯(lián)空間為基礎(chǔ)的分析體系，以灰色模型為主體的模型體系，以灰色過(guò)程及其生存空間為基礎(chǔ)與內(nèi)的方法體系，以系統(tǒng)分析、建模、預(yù)測(cè)、決策、控制、評(píng)估為綱的技術(shù)體系。目前，國(guó)內(nèi)外對(duì)灰色系統(tǒng)的理論和應(yīng)用研究已經(jīng)廣泛開(kāi)展，受到學(xué)者的普遍關(guān)注?；疑到y(tǒng)理論在在處理不確定性問(wèn)題上有其獨(dú)到之處，并能以系統(tǒng)的離散時(shí)序建立連續(xù)的時(shí)間模型，適合于解決無(wú)法用傳統(tǒng)數(shù)字精確描述的復(fù)雜系統(tǒng)問(wèn)題。

神經(jīng)網(wǎng)絡(luò)與灰色系統(tǒng)的結(jié)合方式有：(1)神經(jīng)網(wǎng)絡(luò)與灰色系統(tǒng)簡(jiǎn)單結(jié)合；(2)串聯(lián)型結(jié)合；(3)用神經(jīng)網(wǎng)絡(luò)增強(qiáng)灰色系統(tǒng)；(4)用灰色網(wǎng)絡(luò)輔助構(gòu)造神經(jīng)網(wǎng)絡(luò)；(5)神經(jīng)網(wǎng)絡(luò)與灰色系統(tǒng)的完全融合。

(3)神經(jīng)網(wǎng)絡(luò)與專家系統(tǒng)的結(jié)合?；谏窠?jīng)網(wǎng)絡(luò)與專家系統(tǒng)的混合系統(tǒng)的基本出發(fā)點(diǎn)立足于將復(fù)雜系統(tǒng)分解成各種功能子系統(tǒng)模塊，各功能子系統(tǒng)模塊分別由神經(jīng)網(wǎng)絡(luò)或?qū)＜蚁到y(tǒng)實(shí)現(xiàn)。其研究的主要問(wèn)題包括：混合專家系統(tǒng)的結(jié)構(gòu)框架和選擇實(shí)現(xiàn)功能子系統(tǒng)方式的準(zhǔn)則兩方面。由于該混合系統(tǒng)從根本上拋開(kāi)了神經(jīng)網(wǎng)絡(luò)和專家系統(tǒng)的技術(shù)限制，是當(dāng)前研究的熱點(diǎn)。把粗集神經(jīng)網(wǎng)絡(luò)專家系統(tǒng)用于醫(yī)學(xué)診斷，表明其相對(duì)于傳統(tǒng)方法的優(yōu)越性。

(4)神經(jīng)網(wǎng)絡(luò)與模糊邏輯的結(jié)合

模糊邏輯是一種處理不確定性、非線性問(wèn)題的有力工具。它比較適合于表達(dá)那些模糊或定性的知識(shí)，其推理方式比較類似于人的思維方式，這都是模糊邏輯的優(yōu)點(diǎn)。但它缺乏有效的自學(xué)習(xí)和自適應(yīng)能力。

而將模糊邏輯與神經(jīng)網(wǎng)絡(luò)結(jié)合，則網(wǎng)絡(luò)中的各個(gè)結(jié)點(diǎn)及所有參數(shù)均有明顯的物理意義，因此這些參數(shù)的初值可以根據(jù)系統(tǒng)的模糊或定性的知識(shí)來(lái)加以確定，然后利用學(xué)習(xí)算法可以很快收斂到要求的輸入輸出關(guān)系，這是模糊神經(jīng)網(wǎng)絡(luò)比單純的神經(jīng)網(wǎng)絡(luò)的優(yōu)點(diǎn)所在。同時(shí)，由于它具有神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)，因而參數(shù)的學(xué)習(xí)和調(diào)整比較容易，這是它比單純的模糊邏輯系統(tǒng)的優(yōu)點(diǎn)所在。模糊神經(jīng)網(wǎng)絡(luò)控制已成為一種趨勢(shì)，它能夠提供更加有效的智能行為、學(xué)習(xí)能力、自適應(yīng)特點(diǎn)、并行機(jī)制和高度靈活性，使其能夠更成功地處理各種不確定的、復(fù)雜的、不精確的和近似的控制問(wèn)題。

模糊神經(jīng)控制的未來(lái)研究應(yīng)集中于以下幾個(gè)方面：

(1)研究模糊邏輯與神經(jīng)網(wǎng)絡(luò)的對(duì)應(yīng)關(guān)系，將對(duì)模糊

控制器的調(diào)整轉(zhuǎn)化為等價(jià)的神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)過(guò)程，用等價(jià)的模糊邏輯來(lái)初始化神經(jīng)網(wǎng)絡(luò)；

(2)完善模糊神經(jīng)控制的學(xué)習(xí)算法，以提高控制算法的速度與性能，可引入遺傳算法、BC算法中的模擬退火算法等，以提高控制性能；

(3)模糊控制規(guī)則的在線優(yōu)化，可提高控制器的實(shí)時(shí)性與動(dòng)態(tài)性能；(4)需深入研究系統(tǒng)的穩(wěn)定性、能控性、能觀性以及平衡吸引子、混沌現(xiàn)象等非線性動(dòng)力學(xué)特性。

關(guān)于神經(jīng)網(wǎng)絡(luò)與模糊邏輯相結(jié)合的研究已有很多，比如，用于氬弧焊、機(jī)器人控制等。

(5)神經(jīng)網(wǎng)絡(luò)與小波分析的結(jié)合

小波變換是對(duì)Fourier分析方法的突破。它不但在時(shí)域和頻域同時(shí)具有良好的局部化性質(zhì)，而且對(duì)低頻信號(hào)在頻域和對(duì)高頻信號(hào)在時(shí)域里都有很好的分辨率，從而可以聚集到對(duì)象的任意細(xì)節(jié)。

利用小波變換的思想初始化小波網(wǎng)絡(luò)，并對(duì)學(xué)習(xí)參數(shù)加以有效約束，采用通常的隨機(jī)梯度法分別對(duì)一維分段函數(shù)、二維分段函數(shù)和實(shí)際系統(tǒng)中汽輪機(jī)壓縮機(jī)的數(shù)據(jù)做了仿真試驗(yàn)，并與神經(jīng)網(wǎng)絡(luò)、小波分解的建模做了比較，說(shuō)明了小波網(wǎng)絡(luò)在非線性系統(tǒng)黑箱建模中的優(yōu)越性。小波神經(jīng)網(wǎng)絡(luò)用于機(jī)器人的控制，表明其具有更快的收斂速度和更好的非線性逼近能力。

四、結(jié)論

經(jīng)過(guò)半個(gè)多世紀(jì)的發(fā)展，神經(jīng)網(wǎng)絡(luò)理論在模式識(shí)別、自動(dòng)控制、信號(hào)處理、輔助決策、人工智能等眾多研究領(lǐng)域取得了廣泛的成功，但其理論分析方法和設(shè)計(jì)方法還有待于進(jìn)一步發(fā)展。相信隨著神經(jīng)網(wǎng)絡(luò)的進(jìn)一步發(fā)展，其將在工程應(yīng)用中發(fā)揮越來(lái)越大的作用。

參考文獻(xiàn)：

[1]張?jiān)?模糊數(shù)學(xué)在自動(dòng)化技術(shù)中的應(yīng)用[M].清華大學(xué)出版社，1997.

[2]李士勇.模糊控制·神經(jīng)控制和智能控制論[M].哈爾濱工業(yè)大學(xué)出版，1996.250-387.

[3]謝聯(lián)峻.模糊控制在列車自動(dòng)駕駛中的應(yīng)用[J].自動(dòng)化與儀器儀表，1999，(4).

[4]CollierWC，Weiland，RJSmartCarts，SmartHighways[J].IEEESpec-trum，1994，31(4)：27-33.

[5]HatwalH，MikulcikEC.someInverseSolutionstoanAutomobilePathTrackingProblemwithInputControlofSteeringandBreaks，Ve-hiclesystemDynamics，1986，(15)：61-71.

[6]KosugeK，F(xiàn)ukudaT，AsadaH.AcquisitionifHumanSkillsforRoboticSystem[C].In：ProcIEEEIntSympOnIntelligenControl，1991.469-489.

[7]王小平，曹立明.遺傳算法—理論、應(yīng)用與軟件實(shí)現(xiàn).西安交通大學(xué)出版社，2002.

[8]ManiezzoV.Geneticevolutionofthetopologhandweightdistribution

ofneuralnetwork[J].IEEETransonNeuralNetwork，1994，5(1)35-67.

[9]HarraldPG，KamstraM.Evolvingartificialneuralnetworkstocombinefinancialforecase[J].IEEETransonEvolComputer，1997，1(1)：39-54.

[10]鄧聚龍.灰色系統(tǒng)理論教程.華中理工大學(xué)出版社，1990.

[11]呂宏輝，鐘珞，夏紅霞.灰色系統(tǒng)與神經(jīng)網(wǎng)絡(luò)融合技術(shù)探索.微機(jī)發(fā)展，2000，23(4)：67-109.

第8篇：神經(jīng)網(wǎng)絡(luò)的實(shí)現(xiàn)過(guò)程范文

關(guān)鍵詞：小波；神經(jīng)網(wǎng)絡(luò)；網(wǎng)絡(luò)流量；預(yù)測(cè)

Abstract: predict the network traffic while there are many ways, but the use of wavelet neural network to predict accuracy is the highest, this kind of method integration of the wavelet transform and neural network advantages. This paper mainly to the wavelet neural network and the network traffic prediction are analyzed, and the further proof that the wavelet neural network advantages and feasibility.

Keywords: small wave. Neural network; Network flow; forecast

中圖分類號(hào)：F272.1文獻(xiàn)標(biāo)識(shí)碼：A 文章編號(hào)：

隨著網(wǎng)絡(luò)的迅猛發(fā)展，網(wǎng)絡(luò)擁塞的現(xiàn)象越來(lái)越嚴(yán)重，此時(shí)預(yù)測(cè)網(wǎng)絡(luò)流量顯得如此重要。網(wǎng)絡(luò)流量是一個(gè)復(fù)雜的系統(tǒng)工程，其具有很多特性，如突發(fā)性、長(zhǎng)相關(guān)等。預(yù)測(cè)網(wǎng)絡(luò)流量方法很多，如用小波變換、用神經(jīng)網(wǎng)絡(luò)等，這些方法雖然都能夠?qū)崿F(xiàn)預(yù)測(cè)網(wǎng)絡(luò)流量，但是由于這些方法的局限性，預(yù)測(cè)結(jié)果的準(zhǔn)確率有所不同。因此，找出一個(gè)準(zhǔn)確率高的方法進(jìn)行網(wǎng)絡(luò)流量預(yù)測(cè)是非常關(guān)鍵的。

1.小波神經(jīng)網(wǎng)絡(luò)

1.1小波神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)形式

小波神經(jīng)網(wǎng)絡(luò)其實(shí)就是小波分析理論與神經(jīng)網(wǎng)絡(luò)理論相結(jié)合的一種產(chǎn)物。這兩種理論相結(jié)合可以分為兩類：（1）“松散型”結(jié)合。這種類型的結(jié)合就是指小波分析作為神經(jīng)網(wǎng)絡(luò)的前置處理手段，主要提供輸入特征向量，為神經(jīng)網(wǎng)絡(luò)做準(zhǔn)備。經(jīng)小波變換后，再向常規(guī)神經(jīng)網(wǎng)絡(luò)輸入，進(jìn)而使分類、函數(shù)逼近等功能實(shí)現(xiàn)。（2）“緊致型”結(jié)合。這種類型的結(jié)合就是小波分析和神經(jīng)網(wǎng)絡(luò)直接融合，采用小波函數(shù)來(lái)將常規(guī)單隱層前饋神經(jīng)網(wǎng)絡(luò)的隱節(jié)點(diǎn)激活，由小波函數(shù)的伸縮與平移參數(shù)來(lái)分別代替相應(yīng)的輸入層到隱層的權(quán)值及隱層閾值。

1.2多分辨小波神經(jīng)網(wǎng)絡(luò)模型的網(wǎng)絡(luò)結(jié)構(gòu)

從理論上講，小波理論對(duì)時(shí)間序列進(jìn)行分解預(yù)測(cè)是可行的。已經(jīng)有研究表明，小波變換可以解決一切能夠用傅立葉變換解決的問(wèn)題，小波變換在解決這些問(wèn)題時(shí)不會(huì)損失任何東西，只是將我們通常觀察問(wèn)題的視角改變了。如果把流量曲線看作不同的信號(hào)分量疊加，分別預(yù)測(cè)各個(gè)分量，最后重新疊加各個(gè)分量預(yù)測(cè)結(jié)果，最后就能夠?qū)㈩A(yù)測(cè)結(jié)果得到。其實(shí)利用小波方法就是這個(gè)過(guò)程來(lái)完成預(yù)測(cè)的。以下只對(duì)“松散型”小波神經(jīng)網(wǎng)絡(luò)進(jìn)行分析:

先對(duì)t時(shí)刻的原始序列f(t)進(jìn)行小波分解，分解尺度為n，an(t)為t時(shí)刻第n層低頻系數(shù)序列，dn(t)為t時(shí)刻第n層高頻系數(shù)序列，an(t)、d1(t)、d2(t)…dn(t)作為神經(jīng)網(wǎng)絡(luò)的輸入，再分別對(duì)每一層小波系數(shù)用神經(jīng)網(wǎng)絡(luò)模型進(jìn)行預(yù)測(cè)，得到an(t+T)、d1(t+T)、d2(t+T)…dn(t+T)共n+l個(gè)預(yù)測(cè)值，最后將這些預(yù)測(cè)值合成就得到f(t+T)，即t+T時(shí)刻的預(yù)測(cè)值。根據(jù)以上假設(shè)，使用小波分析的變換對(duì)數(shù)據(jù)進(jìn)行多分辨分解，即利用小波分解的特點(diǎn)，根據(jù)變化的頻度將序列中變化頻率不同的成分分解出來(lái)。由于小波分解可以使影響流量值大小的因素相對(duì)集中起來(lái)，因此分解后的小波分量具有明顯的規(guī)律性，這就使得我們便于針對(duì)不同的規(guī)律采用不同的預(yù)測(cè)技術(shù)，從而可以達(dá)到提高預(yù)測(cè)精度的同時(shí)縮短預(yù)測(cè)時(shí)間的目的，提高整個(gè)模型的效率。

2.神經(jīng)網(wǎng)絡(luò)預(yù)測(cè)

本實(shí)驗(yàn)選取了360個(gè)樣本數(shù)據(jù)，將其生成小波分解所需的信號(hào)文件，如圖1所示。

圖1 歷史數(shù)據(jù)

對(duì)流量序列作多分辨分析。經(jīng)過(guò)5層分解后的各層信號(hào)波形如圖2所示。

圖2 小波分解結(jié)果

將上述小波分解的各分量，經(jīng)預(yù)處理成為樣本向量后輸入BP神經(jīng)網(wǎng)絡(luò)預(yù)測(cè)模型，得出各分量的預(yù)測(cè)值如圖3所示。

圖3各分量預(yù)測(cè)結(jié)果

3.實(shí)驗(yàn)結(jié)果對(duì)比

將各分量分別預(yù)測(cè)出后，重構(gòu)各分量的預(yù)測(cè)結(jié)果，得到最終的流量預(yù)測(cè)結(jié)果。將BP神經(jīng)網(wǎng)絡(luò)模型與小波神經(jīng)網(wǎng)絡(luò)模型進(jìn)行對(duì)比，在網(wǎng)絡(luò)中采集了360組數(shù)據(jù)，對(duì)數(shù)據(jù)進(jìn)行一定的操作后，分別測(cè)試兩種網(wǎng)絡(luò)，實(shí)驗(yàn)結(jié)果如圖4所示。

圖4

將實(shí)驗(yàn)結(jié)果進(jìn)行對(duì)比，對(duì)其測(cè)試主要采用小波神經(jīng)網(wǎng)絡(luò)來(lái)進(jìn)行，這樣對(duì)網(wǎng)絡(luò)流量預(yù)測(cè)的準(zhǔn)確率會(huì)更準(zhǔn)確。因此，構(gòu)建小波神經(jīng)網(wǎng)絡(luò)進(jìn)行預(yù)測(cè)，識(shí)別準(zhǔn)確率達(dá)到90%以上，彌補(bǔ)了BP神經(jīng)網(wǎng)絡(luò)預(yù)測(cè)精準(zhǔn)度不高的缺陷。

4.結(jié)語(yǔ)

近年來(lái)，網(wǎng)絡(luò)流量預(yù)測(cè)成為研究熱點(diǎn)。本文主要講BP神經(jīng)網(wǎng)絡(luò)和小波變換進(jìn)行對(duì)比，將這兩者的優(yōu)點(diǎn)結(jié)合起來(lái)用于預(yù)測(cè)網(wǎng)絡(luò)流量，在很大程度上提高了預(yù)測(cè)的精準(zhǔn)度。

參考文獻(xiàn)：

[1]胡俊,胡玉清,肖中卿.基于小波變換的網(wǎng)絡(luò)流量預(yù)測(cè)模型[J]. 計(jì)算機(jī)工程. 2008(19).

第9篇：神經(jīng)網(wǎng)絡(luò)的實(shí)現(xiàn)過(guò)程范文

Abstract: According to ANN theory and method, a BP neural network model for tourism security early warning was built. The result shows that the application of BP neural network in tourism security early warning is feasible. This model possesses strong functions of study, association and fault tolerance, moreover, both its analysis results and process approach the metal process and analysis method of human brain, which greatly improves the accuracy for tourism security early warning.

關(guān)鍵詞：人工神經(jīng)網(wǎng)絡(luò)；旅游安全；預(yù)警系統(tǒng)

Key words: artificial neural network；tourism security；early warning system

中圖分類號(hào)：TP31 文獻(xiàn)標(biāo)識(shí)碼：A文章編號(hào)：1006-4311（2011）18-0158-01

0引言

旅游業(yè)在世界范圍內(nèi)已成為最重要的產(chǎn)業(yè)之一，占全球GDP 份額已超過(guò)10%，隨著人們生活水平的提高和旅游資源的開(kāi)發(fā)利用，旅游業(yè)正逐漸成為我國(guó)一些地區(qū)的“支柱產(chǎn)業(yè)”和“新的經(jīng)濟(jì)增長(zhǎng)點(diǎn)”，但是旅游者在旅游過(guò)程中遭遇到各種災(zāi)害性事故的頻率也有較大幅度的提高，因此旅游安全預(yù)警勢(shì)在必行。人工神經(jīng)網(wǎng)絡(luò)方法比傳統(tǒng)線性方法具有以下突出的優(yōu)越性：所有定量或定性的信息都等勢(shì)分布貯存于網(wǎng)絡(luò)內(nèi)的各神經(jīng)元，故有很強(qiáng)的魯棒性和容錯(cuò)性；神經(jīng)網(wǎng)絡(luò)具有高度的并行結(jié)構(gòu)和并行實(shí)現(xiàn)能力，具有高速尋找優(yōu)化解的能力，能夠發(fā)揮計(jì)算機(jī)的高速運(yùn)算能力，可能很快找到優(yōu)化解；神經(jīng)網(wǎng)絡(luò)模擬人的思維是非線性的，這一特性有助于處理非線性問(wèn)題；通過(guò)對(duì)過(guò)去的歷史數(shù)據(jù)的學(xué)習(xí)，訓(xùn)練出一個(gè)具有歸納全部數(shù)據(jù)的特定的神經(jīng)網(wǎng)絡(luò)，自學(xué)習(xí)功能對(duì)于預(yù)測(cè)有特別重要的意義。在神經(jīng)網(wǎng)絡(luò)模型中，BP人工神經(jīng)網(wǎng)絡(luò)是當(dāng)前最具代表性和應(yīng)用最為廣泛的一種神經(jīng)網(wǎng)絡(luò)，其結(jié)構(gòu)簡(jiǎn)單，工作狀態(tài)穩(wěn)定，易于實(shí)現(xiàn)，是通用性和適應(yīng)性較強(qiáng)的網(wǎng)絡(luò)，已在多個(gè)領(lǐng)域中得到初步的應(yīng)用[1-2]。因此應(yīng)用BP神經(jīng)網(wǎng)絡(luò)對(duì)旅游安全預(yù)警系統(tǒng)進(jìn)行了研究。

1旅游安全預(yù)警的神經(jīng)網(wǎng)絡(luò)模型

BP網(wǎng)絡(luò)算法即逆向傳播學(xué)習(xí)算法（back propagation learning algorithm）由輸入層、輸出層和若干隱層組成。當(dāng)信號(hào)輸入時(shí)，先傳到隱層神經(jīng)元，經(jīng)神經(jīng)元作用函數(shù)轉(zhuǎn)換后，再把信號(hào)傳播到輸出神經(jīng)元，經(jīng)過(guò)處理后輸出結(jié)果。BP人工神經(jīng)元網(wǎng)絡(luò)通過(guò)對(duì)許多簡(jiǎn)單神經(jīng)元作用函數(shù)的復(fù)合來(lái)逼近輸入、輸出之間的映射，它是一種快速下降的迭代方法，目的是使實(shí)際輸出和預(yù)期樣本輸出之間的均方差最小化。影響旅游安全預(yù)警的主要因素可歸納為旅游地災(zāi)害頻度、出游設(shè)施安全度和旅游地區(qū)域安全度3大類。具體分為以下3類10個(gè)子因素，包括主客文化沖突潛在指數(shù)、居民消費(fèi)價(jià)格指數(shù)上漲率、暴發(fā)瘟疫性疾病的頻率、交通路況安全度、社會(huì)治安穩(wěn)定度、社會(huì)實(shí)際失業(yè)率、地震地質(zhì)災(zāi)害發(fā)生頻率、水文氣象災(zāi)害發(fā)生頻率、旅游設(shè)施使用飽和度、政治穩(wěn)定度。

研究中，將10個(gè)子因素作為輸入向量，數(shù)據(jù)來(lái)源于文獻(xiàn)[2]，一般來(lái)說(shuō)三層神經(jīng)網(wǎng)絡(luò)可以逼近任何函數(shù)關(guān)系，因此本文采用三層網(wǎng)絡(luò)，在訓(xùn)練前饋網(wǎng)絡(luò)之前，權(quán)重和偏置必須被初始化，初始化權(quán)重和偏置的工作用命令init來(lái)實(shí)現(xiàn)，這個(gè)函數(shù)接收網(wǎng)絡(luò)對(duì)象并初始化權(quán)重和偏置后返回網(wǎng)絡(luò)對(duì)象。隱含層神經(jīng)元的確定沒(méi)有統(tǒng)一的方法，這里采用試錯(cuò)法，經(jīng)過(guò)反復(fù)訓(xùn)練確定隱含層為7個(gè)神經(jīng)元，輸出向量為1個(gè)神經(jīng)元，期望值1、2、3、4分別代表旅游安全的4種狀況：優(yōu)秀、良好、合格和惡劣。目前傳統(tǒng)神經(jīng)網(wǎng)絡(luò)面臨的難題是學(xué)習(xí)時(shí)間較長(zhǎng)，特別是大規(guī)模神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)時(shí)間太長(zhǎng)，令人難以忍受；很容易陷入局部極小值，常常收斂于局部最優(yōu)解。因此采用改進(jìn)BP算法的神經(jīng)網(wǎng)絡(luò)，RPROP是權(quán)重和閾值更新值的直接修改，它和以學(xué)習(xí)速率為基礎(chǔ)的算法相反，RPROP引入Resilient（有彈性的）更新值的概念直接修改權(quán)步的大小，和最初的反傳算法比較，在計(jì)算上僅有少量的耗費(fèi)。

2結(jié)果

現(xiàn)有樣本數(shù)目共40個(gè)，利用它們訓(xùn)練神經(jīng)網(wǎng)絡(luò)，為了驗(yàn)證模型的有效性，精度檢驗(yàn)時(shí)每次抽取39個(gè)樣本，用剩下的1個(gè)進(jìn)行檢驗(yàn)，得到該模型的使用精度93.2%；結(jié)果說(shuō)明該模型預(yù)測(cè)精度較高，可以較好地滿足旅游安全預(yù)警系統(tǒng)的需要。

3結(jié)論

為了滿足我國(guó)旅游業(yè)未來(lái)發(fā)展的需要，在處理應(yīng)急旅游安全突發(fā)性事件時(shí)，需要必要的事前預(yù)警和相關(guān)的知識(shí)儲(chǔ)備，運(yùn)用修正的BP網(wǎng)絡(luò)建立旅游安全的預(yù)警系統(tǒng)，提高了網(wǎng)絡(luò)的收斂速度和學(xué)習(xí)訓(xùn)練的效率，一定程度上克服了一般方法的主觀性，通過(guò)合理地期望輸出的選取并以此來(lái)劃分等級(jí)，能夠客觀地反映旅游安全的真實(shí)情況，保證了結(jié)果的客觀性。綜上所述，BP網(wǎng)絡(luò)用于旅游安全的預(yù)警系統(tǒng)構(gòu)建有很大的優(yōu)越性，值得進(jìn)一步探索。

參考文獻(xiàn)：