神經(jīng)網(wǎng)絡(luò)的訓(xùn)練流程精選(九篇)

前言：一篇好文章的誕生，需要你不斷地搜集資料、整理思路，本站小編為你收集了豐富的神經(jīng)網(wǎng)絡(luò)的訓(xùn)練流程主題范文，僅供參考，歡迎閱讀并收藏。

第1篇：神經(jīng)網(wǎng)絡(luò)的訓(xùn)練流程范文

關(guān)鍵詞：神經(jīng)網(wǎng)絡(luò)；入侵檢測(cè)；模塊

中圖分類號(hào)：TP393 文獻(xiàn)標(biāo)志碼：A 文章編號(hào)：1009-3044（2015）13-0171-02

網(wǎng)絡(luò)給我們帶來巨大機(jī)會(huì)和發(fā)展的同時(shí)也給我們帶來了惡意入侵的危險(xiǎn)。就現(xiàn)在的整體情況來看，經(jīng)常使用的網(wǎng)絡(luò)安全技術(shù)還局限于防火墻等一些靜態(tài)的安全保護(hù)方式，要是沒有積極主動(dòng)的一些安全防護(hù)方式相配合，他的安全性能就是有殘缺的。開發(fā)一種主動(dòng)防御、及時(shí)控制的技術(shù)就很有必要。入侵檢測(cè)技術(shù)恰恰就是這樣的一種技術(shù)。入侵檢測(cè)在國內(nèi)有很多文獻(xiàn)進(jìn)行研究，目前入侵檢測(cè)存在的最大問題是檢測(cè)中誤報(bào)率較高。所以我們要提高入侵檢測(cè)的智能型。神經(jīng)網(wǎng)絡(luò)顧名思義模仿人的大腦，具有很好的并行計(jì)算，自適應(yīng)計(jì)算，抗干擾和智能判斷的特征，可以準(zhǔn)確處理失真信號(hào)。這些特征能優(yōu)化現(xiàn)有的入侵檢測(cè)方法，是發(fā)展的必然趨勢(shì)。

1網(wǎng)絡(luò)攻擊的分類

從攻擊的技術(shù)手段方面看，網(wǎng)絡(luò)攻擊分為兩大類。第一類分析攻擊行為，并在數(shù)據(jù)包的載荷部分把其特征隱藏。有字符串結(jié)合而成的，服務(wù)于系統(tǒng)的一些常用命令，沒有被顯示出來。但是一旦點(diǎn)擊包含此字符串的對(duì)象，入侵行為就被激活。這種利用計(jì)算機(jī)本身系統(tǒng)結(jié)構(gòu)特點(diǎn)和應(yīng)用層協(xié)議的一些漏洞產(chǎn)生的攻擊稱為高層網(wǎng)絡(luò)攻擊。第二類攻擊稱為低層網(wǎng)絡(luò)攻擊。主要攻擊發(fā)生在網(wǎng)絡(luò)連接的時(shí)間和數(shù)據(jù)流量上，這類攻擊主要是針對(duì)TCP/IP協(xié)議棧中的基礎(chǔ)協(xié)議的漏洞進(jìn)行攻擊。

2入侵檢測(cè)原型總體結(jié)構(gòu)

圖1描述了原型的總體結(jié)構(gòu)模型。對(duì)主要模塊的總體功能進(jìn)行如下介紹。

1）數(shù)據(jù)捕獲模塊，捕獲在系統(tǒng)中運(yùn)行的數(shù)據(jù)包，預(yù)處理模塊處理這些數(shù)據(jù)包。在實(shí)現(xiàn)時(shí)，將網(wǎng)絡(luò)接口設(shè)成混雜模式，方便數(shù)據(jù)流通，并同時(shí)監(jiān)聽經(jīng)過設(shè)備的數(shù)據(jù)[1]。

2）數(shù)據(jù)預(yù)處理模塊分析網(wǎng)絡(luò)上獲得的信息，對(duì)數(shù)據(jù)包根據(jù)協(xié)議類型一層一層解析。記錄和計(jì)算TCP連接信息，半開連接信息，保護(hù)網(wǎng)絡(luò)主機(jī)不同端口連接信息和半開連接信息，并對(duì)SYN報(bào)文和FIN報(bào)文的鏈表狀態(tài)和鏈表結(jié)點(diǎn)進(jìn)行維護(hù)。IP協(xié)議處理函數(shù)中進(jìn)行碎片信息的處理和記錄，目的是把基于碎片的拒絕服務(wù)攻擊提供給神經(jīng)網(wǎng)絡(luò)模塊。總結(jié)信息并把信息轉(zhuǎn)化，進(jìn)行歸一化處理，結(jié)合TCP數(shù)據(jù)報(bào)的標(biāo)志位送入神經(jīng)網(wǎng)絡(luò)檢測(cè)模塊，檢測(cè)攻擊的存在。最后把得到的特征用于ICMP協(xié)議的掃描或攻擊檢測(cè)。

3）數(shù)據(jù)預(yù)處理模塊把得到的特征傳給神經(jīng)網(wǎng)絡(luò)檢測(cè)模塊，神經(jīng)網(wǎng)絡(luò)檢測(cè)模塊負(fù)責(zé)計(jì)算輸出層的輸出結(jié)果，并根據(jù)結(jié)果判斷攻擊。神經(jīng)網(wǎng)絡(luò)檢測(cè)模塊有三大模塊構(gòu)成。能檢測(cè)網(wǎng)絡(luò)漏洞掃描和TCP協(xié)議中拒絕服務(wù)攻擊的TCP神經(jīng)網(wǎng)絡(luò)檢測(cè)模塊；能通過檢測(cè)到拒絕服務(wù)攻擊和ICMP的IP神經(jīng)網(wǎng)絡(luò)檢測(cè)模塊；基于ICMP的主機(jī)活性掃描和拒絕服務(wù)攻擊的檢測(cè)被神經(jīng)網(wǎng)絡(luò)檢測(cè)模塊實(shí)現(xiàn)。

4）神經(jīng)網(wǎng)絡(luò)訓(xùn)練模塊對(duì)己知的網(wǎng)絡(luò)攻擊離線訓(xùn)練，以矩陣形式將訓(xùn)練好的神經(jīng)網(wǎng)絡(luò)的各層連接權(quán)存入磁盤文件中，在系統(tǒng)開始運(yùn)行時(shí)神經(jīng)網(wǎng)絡(luò)檢測(cè)模塊讀入磁盤中的權(quán)值到神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)中。神經(jīng)網(wǎng)絡(luò)訓(xùn)練模塊也可分為TCP神經(jīng)網(wǎng)絡(luò)訓(xùn)練模塊、m神經(jīng)網(wǎng)絡(luò)訓(xùn)練模塊和ICMP神經(jīng)網(wǎng)絡(luò)訓(xùn)練模塊[1]。

5）響應(yīng)報(bào)警模塊報(bào)告當(dāng)前的被檢測(cè)數(shù)據(jù)對(duì)象是否存在攻擊的跡象，判斷依據(jù)是神經(jīng)網(wǎng)絡(luò)的輸出。

3基于神經(jīng)網(wǎng)絡(luò)入侵檢測(cè)原型詳細(xì)設(shè)計(jì)

詳細(xì)設(shè)計(jì)分為數(shù)據(jù)捕獲模塊、數(shù)據(jù)預(yù)處理模塊、神經(jīng)網(wǎng)絡(luò)訓(xùn)練模塊、神經(jīng)網(wǎng)絡(luò)測(cè)試模塊、響應(yīng)報(bào)警模塊五個(gè)模塊。

數(shù)據(jù)捕獲模塊。網(wǎng)絡(luò)數(shù)據(jù)的捕獲通過Libpcap編程接口實(shí)現(xiàn)。這種接口是網(wǎng)絡(luò)數(shù)據(jù)包的標(biāo)準(zhǔn)捕獲接口，它效率高、獨(dú)立性和移植性強(qiáng)。使用具有快速的網(wǎng)絡(luò)數(shù)據(jù)包過濾功能的BPF數(shù)據(jù)包捕獲機(jī)制。數(shù)據(jù)捕獲過程中通過Libpcap截獲網(wǎng)絡(luò)數(shù)據(jù)包。

數(shù)據(jù)預(yù)處理模塊。數(shù)據(jù)預(yù)處理模塊接收網(wǎng)絡(luò)數(shù)據(jù)包，這些數(shù)據(jù)包由數(shù)據(jù)捕獲模塊送過來。接收后先處理這些數(shù)據(jù)包，并將處理的結(jié)果轉(zhuǎn)化為向量送入神經(jīng)網(wǎng)絡(luò)檢測(cè)模塊檢測(cè)。數(shù)據(jù)預(yù)處理模塊處理的數(shù)據(jù)包分別針對(duì)三種協(xié)議：IP、TCP、ICMP。IP協(xié)議的預(yù)處理主要提取針對(duì)基于m碎片的攻擊特征；TCP協(xié)議的預(yù)處理針對(duì)基于TCP協(xié)議網(wǎng)絡(luò)掃描并對(duì)拒絕服務(wù)攻擊特征提取。

神經(jīng)網(wǎng)絡(luò)訓(xùn)練模塊。采用雙隱層BP神經(jīng)網(wǎng)絡(luò)作為神經(jīng)網(wǎng)絡(luò)訓(xùn)練模塊的網(wǎng)絡(luò)結(jié)構(gòu)。離線狀態(tài)下運(yùn)行神經(jīng)網(wǎng)絡(luò)訓(xùn)練模塊。網(wǎng)絡(luò)攻擊和正常網(wǎng)絡(luò)流通的一些知識(shí)，讓檢測(cè)模塊在對(duì)網(wǎng)絡(luò)攻擊事件進(jìn)行檢查入侵之前學(xué)會(huì)。提供給神經(jīng)網(wǎng)絡(luò)訓(xùn)練模塊已知攻擊的輸入特征向量和與之對(duì)應(yīng)的期望輸出向量由系統(tǒng)管理員負(fù)責(zé)。本原型輸入特征向量是預(yù)處理模塊得到的可描述攻擊行為的特征向量；期望輸出數(shù)據(jù)一般為一串二進(jìn)制0、1串指示了是何種具體的攻擊。本原型對(duì)基于IP、ICMP、TCP協(xié)議的網(wǎng)絡(luò)掃描和拒絕服務(wù)攻擊進(jìn)行檢測(cè)，相應(yīng)定義了三種（IP、ICMP、TCP）神經(jīng)網(wǎng)絡(luò)[2]。

神經(jīng)網(wǎng)絡(luò)檢測(cè)模塊。神經(jīng)網(wǎng)絡(luò)檢測(cè)模塊接受的特征向量是由預(yù)處理模塊送來，這些特征向量做為神經(jīng)網(wǎng)絡(luò)的輸入向量，是由神經(jīng)網(wǎng)絡(luò)的各層計(jì)算出結(jié)果，然后把結(jié)果在輸出層輸出。輸出結(jié)果可能顯示的是正常的數(shù)據(jù)流，可能指示某一種網(wǎng)絡(luò)攻擊，也可能是未知的結(jié)果即這個(gè)結(jié)果在神經(jīng)網(wǎng)絡(luò)訓(xùn)練時(shí)沒有定義。針對(duì)這種情況，對(duì)于前兩種情況，系統(tǒng)管理員應(yīng)記錄下這時(shí)神經(jīng)網(wǎng)絡(luò)的輸入向量和輸出向量，在神經(jīng)網(wǎng)絡(luò)進(jìn)行訓(xùn)練時(shí)，加入這兩種情況。對(duì)于后一種情況，需要在進(jìn)行分析。

響應(yīng)報(bào)警模塊。響應(yīng)報(bào)警模塊對(duì)接受神經(jīng)網(wǎng)絡(luò)輸出向量，根據(jù)編碼的對(duì)應(yīng)關(guān)系，判斷攻擊行為。發(fā)現(xiàn)對(duì)應(yīng)的攻擊。就會(huì)有相應(yīng)的消息打印在屏幕上，并會(huì)有指示這種攻擊的全局變量在系統(tǒng)中設(shè)置；若沒有找到對(duì)應(yīng)攻擊，則不打印消息。理論上講訓(xùn)練神經(jīng)網(wǎng)絡(luò)時(shí)，對(duì)輸出向量的編碼是0、1串。但真正的輸出不會(huì)嚴(yán)格的是0、1串，所以約定，數(shù)值大于0.7的按1對(duì)待，小于0.3的按0對(duì)待。

改進(jìn)后BP神經(jīng)網(wǎng)絡(luò)的訓(xùn)練

4神經(jīng)網(wǎng)絡(luò)訓(xùn)練流程

P代表樣本總數(shù)。

F代表不合格樣本數(shù)。

M代表正確率，設(shè)在1%-100%之間。

E為網(wǎng)絡(luò)訓(xùn)練后要達(dá)到的精度，設(shè)為小數(shù)。

5神經(jīng)網(wǎng)絡(luò)檢測(cè)

對(duì)參數(shù)和變量進(jìn)行初始化；

從記事本文件中讀取檢測(cè)樣本、期望值、權(quán)值、閾值；

for（n=1；n

{放入矩陣第一行；

{for（n=1；n

根據(jù)閾值和權(quán)值的到線性輸出，放入矩陣第二行；

…

}

if（小于正確率） 不合格樣本數(shù)++；

}

輸出該組數(shù)據(jù)的檢測(cè)結(jié)果；

end

正確率輸出結(jié)果越接近l，表明可能受到攻擊。

6 結(jié)束語

本文調(diào)研了常見的網(wǎng)絡(luò)攻擊手段，探討了入侵檢測(cè)技術(shù)的研究方法、入侵檢測(cè)的發(fā)展方向。根據(jù)神經(jīng)網(wǎng)絡(luò)的特點(diǎn)，將神經(jīng)網(wǎng)絡(luò)與入侵檢測(cè)結(jié)合。設(shè)計(jì)了一個(gè)簡化的基于神經(jīng)網(wǎng)絡(luò)的網(wǎng)絡(luò)入侵檢測(cè)原型。原型通過統(tǒng)計(jì)底層網(wǎng)絡(luò)協(xié)議的數(shù)據(jù)流量信息數(shù)據(jù)包協(xié)議頭的信息，將這些信息預(yù)處理后送入已訓(xùn)練過的神經(jīng)網(wǎng)絡(luò)模塊，以此判斷當(dāng)前網(wǎng)絡(luò)數(shù)據(jù)流量存在的攻擊或掃描行為。此原型提出了具有更高檢測(cè)率并且能檢測(cè)變種攻擊的模塊設(shè)計(jì)。

參考文獻(xiàn)：

[1] 張文修，梁怡.基于包含度的不確定推理[M]. 北京：清華大學(xué)出版社，2007.

第2篇：神經(jīng)網(wǎng)絡(luò)的訓(xùn)練流程范文

【關(guān)鍵詞】互聯(lián)網(wǎng)+ 入侵監(jiān)測(cè) 安全防御 遺傳算法

1 引言

入侵檢測(cè)是一種網(wǎng)絡(luò)安全防御技術(shù)，其可以部署于網(wǎng)絡(luò)防火墻、訪問控制列表等軟件中，可以檢測(cè)流入到系統(tǒng)中的數(shù)據(jù)流，并且識(shí)別數(shù)據(jù)流中的網(wǎng)絡(luò)包內(nèi)容，判別數(shù)據(jù)流是否屬于木馬和病毒等不正常數(shù)據(jù)。目前，網(wǎng)絡(luò)安全入侵檢測(cè)技術(shù)已經(jīng)誕生了多種，比如狀態(tài)檢測(cè)技術(shù)和深度包過濾技術(shù)，有效提高了網(wǎng)絡(luò)安全識(shí)別、處理等防御能力。

2 “互聯(lián)網(wǎng)+”時(shí)代網(wǎng)絡(luò)安全管理現(xiàn)狀

目前，我國已經(jīng)進(jìn)入到了“互聯(lián)網(wǎng)+”時(shí)代，互聯(lián)網(wǎng)已經(jīng)應(yīng)用到了金融、民生、工業(yè)等多個(gè)領(lǐng)域?；ヂ?lián)網(wǎng)的繁榮為人們帶來了許多的便利，同時(shí)互聯(lián)網(wǎng)安全事故也頻頻出現(xiàn)，網(wǎng)絡(luò)病毒、木馬和黑客攻擊技術(shù)也大幅度改進(jìn)，并且呈現(xiàn)出攻擊渠道多樣化、威脅智能化、范圍廣泛化等特點(diǎn)。

2.1 攻擊渠道多樣化

目前，網(wǎng)絡(luò)設(shè)備、應(yīng)用接入渠道較多，按照內(nèi)外網(wǎng)劃分為內(nèi)網(wǎng)接入、外網(wǎng)接入；按照有線、無線可以劃分為有線接入、無線接入；按照接入設(shè)備可以劃分為PC接入、移動(dòng)智能終端接入等多種類別，接入渠道較多，也為攻擊威脅提供了較多的入侵渠道。

2.2 威脅智能化

攻擊威脅程序設(shè)計(jì)技術(shù)的提升，使得病毒、木馬隱藏的周期更長，行為更加隱蔽，傳統(tǒng)的網(wǎng)絡(luò)木馬、病毒防御工具無法查殺。

2.3 破壞范圍更廣

隨著網(wǎng)絡(luò)及承載的應(yīng)用軟件集成化增強(qiáng)，不同類型的系統(tǒng)管理平臺(tái)都通過SOA架構(gòu)、ESB技術(shù)接入到網(wǎng)絡(luò)集群平臺(tái)上，一旦某個(gè)系統(tǒng)受到攻擊，病毒可以在很短的時(shí)間內(nèi)傳播到其他子系統(tǒng)，破壞范圍更廣。

3 “互聯(lián)網(wǎng)+”時(shí)代網(wǎng)絡(luò)安全入侵檢測(cè)功能設(shè)計(jì)

入侵檢測(cè)業(yè)務(wù)流程包括三個(gè)階段，分別是采集網(wǎng)絡(luò)數(shù)據(jù)、分析數(shù)據(jù)內(nèi)容和啟動(dòng)防御措施，能夠?qū)崟r(shí)預(yù)估網(wǎng)絡(luò)安全防御狀況，保證網(wǎng)絡(luò)安全運(yùn)行，如圖1所示。

網(wǎng)絡(luò)安全入侵檢測(cè)過程中，為了提高入侵檢測(cè)準(zhǔn)確度，引入遺傳算法和BP神經(jīng)網(wǎng)絡(luò)，結(jié)合這兩種數(shù)據(jù)挖掘算法的優(yōu)勢(shì)，設(shè)計(jì)了一個(gè)遺傳神經(jīng)網(wǎng)絡(luò)算法，業(yè)務(wù)流程如下：

（1）采集網(wǎng)絡(luò)數(shù)據(jù)，獲取數(shù)據(jù)源。

（2）利用遺傳神經(jīng)網(wǎng)絡(luò)識(shí)別數(shù)據(jù)內(nèi)容，對(duì)數(shù)據(jù)進(jìn)行建模，將獲取的網(wǎng)絡(luò)數(shù)據(jù)包轉(zhuǎn)換為神經(jīng)網(wǎng)絡(luò)能夠識(shí)別的數(shù)學(xué)向量。

（3）使用已知的、理想狀態(tài)的數(shù)據(jù)對(duì)遺傳神經(jīng)網(wǎng)絡(luò)進(jìn)行訓(xùn)練。

（4）使用訓(xùn)練好的遺傳神經(jīng)網(wǎng)絡(luò)對(duì)網(wǎng)絡(luò)數(shù)據(jù)進(jìn)行檢測(cè)。

（5）保存遺傳神經(jīng)網(wǎng)絡(luò)檢測(cè)的結(jié)果。

（6）網(wǎng)絡(luò)安全響應(yīng)。

遺傳神經(jīng)網(wǎng)絡(luò)在入侵檢測(cè)過程中包括兩個(gè)階段，分別是訓(xùn)練學(xué)習(xí)階段和檢測(cè)分析階段。

（1）訓(xùn)練學(xué)習(xí)階段。遺傳神經(jīng)網(wǎng)絡(luò)訓(xùn)練學(xué)習(xí)可以生成一個(gè)功能完善的、識(shí)別準(zhǔn)確的入侵檢測(cè)模型，系統(tǒng)訓(xùn)練學(xué)習(xí)流程如下：給定樣本庫和期望輸出參數(shù)，將兩者作為遺傳神經(jīng)網(wǎng)絡(luò)輸入?yún)?shù)，學(xué)習(xí)樣本中包含非常典型的具有攻擊行為特征的樣本數(shù)據(jù)和正常數(shù)據(jù)，通過訓(xùn)練學(xué)習(xí)得到的遺傳神經(jīng)網(wǎng)絡(luò)可以與輸入的期望結(jié)果進(jìn)行比較和分析，直到期望輸出的誤差可以達(dá)到人們的期望值。

（2）檢測(cè)分析階段。遺傳神經(jīng)網(wǎng)絡(luò)訓(xùn)練結(jié)束之后，使用權(quán)值的形式將其保存起來，將其應(yīng)用到實(shí)際網(wǎng)絡(luò)入侵檢測(cè)系統(tǒng)，能夠識(shí)別正常行為或異常行為。

4 結(jié)束語

互聯(lián)網(wǎng)的快速發(fā)展和普及為人們的工作、生活和學(xué)習(xí)帶來便利，但同時(shí)也潛在著許多威脅，采用先進(jìn)的網(wǎng)絡(luò)安全防御技術(shù)，以便提升網(wǎng)絡(luò)的安全運(yùn)行能力。入侵檢測(cè)是網(wǎng)絡(luò)安全主動(dòng)防御的一個(gè)關(guān)鍵技術(shù)，入侵檢測(cè)利用遺傳算法和BP神經(jīng)網(wǎng)絡(luò)算法優(yōu)勢(shì)，可以準(zhǔn)確地構(gòu)建一個(gè)入侵檢測(cè)模型，準(zhǔn)確地檢測(cè)出病毒、木馬數(shù)據(jù)，啟動(dòng)病毒木馬查殺軟件，清除網(wǎng)絡(luò)中的威脅，保證網(wǎng)絡(luò)正常運(yùn)行。

參考文獻(xiàn)

[1]徐振華.基于BP神經(jīng)網(wǎng)絡(luò)的分布式入侵檢測(cè)模型改進(jìn)算法研究[J].網(wǎng)絡(luò)安全技術(shù)與應(yīng)用，2016，24（2）：111-112.

[2]劉成.試論入侵檢測(cè)技術(shù)在網(wǎng)絡(luò)安全中的應(yīng)用與研究[J].網(wǎng)絡(luò)安全技術(shù)與應(yīng)用，2016，24（2）：74-75.

[3]周立軍，張杰，呂海燕.基于數(shù)據(jù)挖掘技術(shù)的網(wǎng)絡(luò)入侵檢測(cè)技術(shù)研究[J].現(xiàn)代電子技術(shù)，2016，18（6）：121-122.

[4]謝勝軍.云計(jì)算時(shí)代網(wǎng)絡(luò)安全現(xiàn)狀與防御措施探討[J].網(wǎng)絡(luò)安全技術(shù)與應(yīng)用，2016，26（2）：41-42.

第3篇：神經(jīng)網(wǎng)絡(luò)的訓(xùn)練流程范文

【關(guān)鍵詞】神經(jīng)網(wǎng)絡(luò) 手寫 識(shí)別系統(tǒng) 應(yīng)用

隨著計(jì)算機(jī)技術(shù)的快速發(fā)展，其在人們的辦公學(xué)習(xí)和日常生活成了不可替代的工具。鍵盤已經(jīng)幾乎完全替代了筆在人們生活中的地位，隨之而來的后果就是人們?cè)絹碓缴俚膮^(qū)書寫漢字，導(dǎo)致越來越多的中國人甚至都忘記了漢字該如何書寫，這種現(xiàn)象在很多研究和報(bào)道中都有體現(xiàn)。計(jì)算機(jī)和鍵盤是由西方國家發(fā)明的，其符合西方國家的語言習(xí)慣，對(duì)于中國人來說，用字母、符號(hào)去完成方塊漢字的輸入就需要使用者非常熟悉漢語拼音或者五筆編碼，對(duì)于文化程度較低的使用者來說，這些都限制著他們使用計(jì)算機(jī)。鑒于計(jì)算機(jī)鍵盤的這些缺陷，聯(lián)機(jī)手寫輸入法應(yīng)運(yùn)而生，這為計(jì)算機(jī)的輸入帶來了新的發(fā)展機(jī)遇和挑戰(zhàn)。

1 聯(lián)機(jī)漢字手寫識(shí)別的意義及難點(diǎn)

聯(lián)機(jī)漢字識(shí)別是用書寫板代替?zhèn)鹘y(tǒng)紙張，筆尖通過數(shù)字化書寫板的軌跡通過采樣系統(tǒng)按時(shí)間先后發(fā)送到計(jì)算機(jī)中，計(jì)算機(jī)則自動(dòng)的完成漢字的識(shí)別和顯示。

1.1 聯(lián)機(jī)漢字手寫識(shí)別的意義

聯(lián)機(jī)手寫漢字識(shí)別的誕生具有非常重要的意義。首先這種輸入方法延續(xù)了幾千年中華文明的寫字習(xí)慣，實(shí)現(xiàn)用戶的手寫輸入，對(duì)于長時(shí)間不提筆寫字的用戶來說能夠加強(qiáng)其對(duì)漢字書寫方面的認(rèn)識(shí)，防止“提筆忘字”現(xiàn)象的繼續(xù)惡化。其次，手寫漢字輸入不需要學(xué)習(xí)和記憶計(jì)算機(jī)的漢字編碼規(guī)則，其完全符合中國人的寫字習(xí)慣，使人機(jī)之間的交流更人性化，更方便快捷。另外，隨著移動(dòng)智能終端的不斷普及，聯(lián)機(jī)漢字手寫識(shí)別的應(yīng)用范圍將進(jìn)一步擴(kuò)大，以適用于不同層次人群對(duì)信息輸入的需要，具有較大的市場(chǎng)發(fā)展前景。

1.2 聯(lián)機(jī)手寫漢字識(shí)別問題的難點(diǎn)

手寫漢字識(shí)別是光學(xué)字符讀出器中最難的部分，也是其最終的目標(biāo)，手寫漢字識(shí)別的應(yīng)用主要依賴于其正確識(shí)別率和識(shí)別速度[1]。手寫漢字識(shí)別系統(tǒng)的問題具有其特殊性：

（1）中國漢字量大。我國目前的常用漢字大概在4000個(gè)左右，在實(shí)際應(yīng)用中的漢字識(shí)別系統(tǒng)應(yīng)該能夠完全識(shí)別這些常用的字才能夠滿足需要，由于超大的漢字量，使得手寫識(shí)別的正確率和識(shí)別速度一直不高。

（2）字體多，結(jié)構(gòu)復(fù)雜。漢字的手寫字體豐富多彩，且漢字的筆畫繁多，以及復(fù)雜的結(jié)構(gòu)，再加上漢字中的形近字頗多，這些都為漢字識(shí)別系統(tǒng)的發(fā)展造成了很大的困難。

（3）書寫變化大。不同用戶在進(jìn)行手寫輸入時(shí)其字體的變化是很大的，這種變化因人而異，對(duì)漢字識(shí)別造成了很大的干擾，增加了漢字匹配的難度。

2 人工神經(jīng)網(wǎng)絡(luò)概述

人工神經(jīng)網(wǎng)絡(luò)是一種應(yīng)用類似于大腦神經(jīng)突觸聯(lián)接的結(jié)構(gòu)進(jìn)行信息處理的數(shù)學(xué)模型，通常簡稱為神經(jīng)網(wǎng)絡(luò)，是一種仿生物神經(jīng)的信號(hào)處理模型。在二十世紀(jì)四十年代初人們開始進(jìn)行神經(jīng)網(wǎng)絡(luò)的研究，經(jīng)過幾十年的發(fā)展，神經(jīng)網(wǎng)絡(luò)也產(chǎn)生了一系列的突破，目前應(yīng)用最多的是Hopfield模型和BP算法。

神經(jīng)網(wǎng)絡(luò)的一般模型一般包括十個(gè)方面：環(huán)境、處理單元、傳播規(guī)則、神經(jīng)網(wǎng)絡(luò)的狀態(tài)、互聯(lián)模式、穩(wěn)定狀態(tài)、操作模式、活躍規(guī)則、活化函數(shù)和學(xué)習(xí)算法。其中，神經(jīng)元、互聯(lián)模式、學(xué)習(xí)算法是神經(jīng)網(wǎng)絡(luò)模型中的三個(gè)關(guān)鍵因素。神經(jīng)網(wǎng)絡(luò)的一個(gè)重要內(nèi)容就是學(xué)習(xí)，其學(xué)習(xí)方式可以分為監(jiān)督學(xué)習(xí)和無監(jiān)督學(xué)習(xí)，其學(xué)習(xí)過程一般遵循Hebb規(guī)則，誤差修正學(xué)習(xí)算法以及勝者為王的學(xué)習(xí)規(guī)則，其中Hebb規(guī)則是神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)中最基本的規(guī)則。

人工神經(jīng)網(wǎng)絡(luò)具有獨(dú)特的優(yōu)越性。首先其具有主動(dòng)學(xué)習(xí)的功能，在漢字識(shí)別過程中，先將漢字模板及可能的識(shí)別結(jié)果輸入到神經(jīng)網(wǎng)絡(luò)中，神經(jīng)網(wǎng)絡(luò)能夠通過其自身的學(xué)習(xí)過程來實(shí)現(xiàn)對(duì)漢字的識(shí)別，自學(xué)功能對(duì)于神經(jīng)網(wǎng)絡(luò)的預(yù)測(cè)功能具有非常重要的意義。其次，神經(jīng)網(wǎng)絡(luò)系統(tǒng)具有聯(lián)想存儲(chǔ)功能，其反饋功能能夠?qū)崿F(xiàn)這種聯(lián)想。另外，通過計(jì)算機(jī)的高速運(yùn)算能力，神經(jīng)網(wǎng)絡(luò)具有高速尋找優(yōu)化解的能力。

3 人工神經(jīng)網(wǎng)絡(luò)在聯(lián)機(jī)手寫識(shí)別系統(tǒng)中的應(yīng)用

漢字識(shí)別屬于大類別模式識(shí)別，人工神經(jīng)網(wǎng)絡(luò)可以通過函數(shù)逼近、數(shù)據(jù)分類、數(shù)據(jù)聚類三種作用方式以及“聯(lián)想”的特殊模式對(duì)漢字進(jìn)行識(shí)別。Hopfield神經(jīng)網(wǎng)絡(luò)作為反饋網(wǎng)絡(luò)的一種，其自聯(lián)想記憶網(wǎng)絡(luò)可以使系統(tǒng)不需要通過大量的訓(xùn)練即可對(duì)漢字進(jìn)行識(shí)別，因此Hopfield神經(jīng)網(wǎng)絡(luò)對(duì)于漢字識(shí)別來說具有獨(dú)特的優(yōu)勢(shì)。其中的離散型Hopfield神經(jīng)網(wǎng)絡(luò)能夠通過串行異步和并行同步的工作方式，使其反饋過程具有非常好的穩(wěn)定性，而網(wǎng)絡(luò)只有通過不斷的演變穩(wěn)定在某一吸引子狀態(tài)時(shí)，才能夠?qū)崿F(xiàn)正確的聯(lián)想。

聯(lián)機(jī)手寫識(shí)別可以分為訓(xùn)練階段和識(shí)別階段。訓(xùn)練階段流程依次為：標(biāo)準(zhǔn)書寫字符圖像預(yù)處理，提取特征并建立特征庫，建立Hopfield網(wǎng)絡(luò)模型，訓(xùn)練網(wǎng)絡(luò)，保存權(quán)值。識(shí)別階段的流程為：坐標(biāo)序列轉(zhuǎn)化為bmp圖像，預(yù)處理測(cè)試樣本，提取特征，送入網(wǎng)絡(luò)運(yùn)行，運(yùn)行網(wǎng)絡(luò)到平衡狀態(tài)，分析結(jié)果值。根據(jù)聯(lián)機(jī)手寫識(shí)別的工作流程以及Hopfield網(wǎng)絡(luò)模型的理論，基于Hopfield神經(jīng)網(wǎng)絡(luò)的聯(lián)機(jī)手寫識(shí)別系統(tǒng)在Matlab環(huán)境下得到了仿真模擬，效果非常理想。

4 總結(jié)

手寫識(shí)別系統(tǒng)能夠彌補(bǔ)普通鍵盤的不足，在提高漢字書寫頻率的同時(shí)，能夠滿足不同層次人群對(duì)計(jì)算機(jī)應(yīng)用的技術(shù)需要?；贖opfield神經(jīng)網(wǎng)絡(luò)的聯(lián)機(jī)手寫識(shí)別系統(tǒng)一起自身獨(dú)特的性能，不僅能夠滿足手寫漢字識(shí)別的正確率，而且其識(shí)別過程速度非常快。因此它對(duì)于實(shí)現(xiàn)聯(lián)機(jī)手寫識(shí)別以及圖像識(shí)別具有非常重要的意義。

參考文獻(xiàn)

[1]俞慶英.聯(lián)機(jī)手寫漢字識(shí)別系統(tǒng)的研究與實(shí)現(xiàn)[D].安徽大學(xué)，2005（5）.

[2]郭力賓.交叉點(diǎn)的神經(jīng)網(wǎng)絡(luò)識(shí)別及聯(lián)機(jī)手寫字符的概率神經(jīng)網(wǎng)絡(luò)識(shí)別初探[D].大連理工大學(xué)，2003（03）.

[3]趙蓉.基于神經(jīng)網(wǎng)絡(luò)的聯(lián)機(jī)手寫識(shí)別系統(tǒng)研究與實(shí)現(xiàn)[D].西安電子科技大學(xué)，2011（01）.

作者簡介

周珍娟（1979-）， 女，江西撫州人。計(jì)算機(jī)專業(yè)碩士?，F(xiàn)為江蘇城市職業(yè)學(xué)院講師。主要研究方向?yàn)榫W(wǎng)絡(luò)安全，模式識(shí)別。

第4篇：神經(jīng)網(wǎng)絡(luò)的訓(xùn)練流程范文

關(guān)鍵字 ：神經(jīng)網(wǎng)絡(luò)，BP模型，預(yù)測(cè)

中圖分類號(hào)：TP183文獻(xiàn)標(biāo)識(shí)碼： A

1 引言

在系統(tǒng)建模、辨識(shí)和預(yù)測(cè)中，對(duì)于線性系統(tǒng)，在頻域，傳遞函數(shù)矩陣可以很好地表達(dá)系統(tǒng)的黑箱式輸入輸出模型；在時(shí)域，Box-Jenkins方法、回歸分析方法、ARMA模型等，通過各種參數(shù)估計(jì)方法也可以給出描述。對(duì)于非線性時(shí)間序列預(yù)測(cè)系統(tǒng)，雙線性模型、門限自回歸模型、ARCH模型都需要在對(duì)數(shù)據(jù)的內(nèi)在規(guī)律知道不多的情況下對(duì)序列間關(guān)系進(jìn)行假定?？梢哉f傳統(tǒng)的非線性系統(tǒng)預(yù)測(cè)，在理論研究和實(shí)際應(yīng)用方面，都存在極大的困難。相比之下，神經(jīng)網(wǎng)絡(luò)可以在不了解輸入或輸出變量間關(guān)系的前提下完成非線性建模[4，6]。神經(jīng)元、神經(jīng)網(wǎng)絡(luò)都有非線性、非局域性、非定常性、非凸性和混沌等特性，與各種預(yù)測(cè)方法有機(jī)結(jié)合具有很好的發(fā)展前景，也給預(yù)測(cè)系統(tǒng)帶來了新的方向與突破。建模算法和預(yù)測(cè)系統(tǒng)的穩(wěn)定性、動(dòng)態(tài)性等研究成為當(dāng)今熱點(diǎn)問題。目前在系統(tǒng)建模與預(yù)測(cè)中，應(yīng)用最多的是靜態(tài)的多層前向神經(jīng)網(wǎng)絡(luò)，這主要是因?yàn)檫@種網(wǎng)絡(luò)具有通過學(xué)習(xí)逼近任意非線性映射的能力。利用靜態(tài)的多層前向神經(jīng)網(wǎng)絡(luò)建立系統(tǒng)的輸入/輸出模型，本質(zhì)上就是基于網(wǎng)絡(luò)逼近能力，通過學(xué)習(xí)獲知系統(tǒng)差分方程中的非線性函數(shù)。但在實(shí)際應(yīng)用中，需要建模和預(yù)測(cè)的多為非線性動(dòng)態(tài)系統(tǒng)，利用靜態(tài)的多層前向神經(jīng)網(wǎng)絡(luò)必須事先給定模型的階次，即預(yù)先確定系統(tǒng)的模型，這一點(diǎn)非常難做到。近來，有關(guān)基于動(dòng)態(tài)網(wǎng)絡(luò)的建模和預(yù)測(cè)的研究，代表了神經(jīng)網(wǎng)絡(luò)建模和預(yù)測(cè)新的發(fā)展方向。

2 BP神經(jīng)網(wǎng)絡(luò)模型

BP網(wǎng)絡(luò)是采用Widrow-Hoff學(xué)習(xí)算法和非線性可微轉(zhuǎn)移函數(shù)的多層網(wǎng)絡(luò)。典型的BP算法采用梯度下降法，也就是Widrow-Hoff算法?，F(xiàn)在有許多基本的優(yōu)化算法，例如變尺度算法和牛頓算法。如圖1所示，BP神經(jīng)網(wǎng)絡(luò)包括以下單元：①處理單元(神經(jīng)元)（圖中用圓圈表示），即神經(jīng)網(wǎng)絡(luò)的基本組成部分。輸入層的處理單元只是將輸入值轉(zhuǎn)入相鄰的聯(lián)接權(quán)重，隱層和輸出層的處理單元將它們的輸入值求和并根據(jù)轉(zhuǎn)移函數(shù)計(jì)算輸出值。②聯(lián)接權(quán)重(圖中如V,W)。它將神經(jīng)網(wǎng)絡(luò)中的處理單元聯(lián)系起來，其值隨各處理單元的聯(lián)接程度而變化。③層。神經(jīng)網(wǎng)絡(luò)一般具有輸入層x、隱層y和輸出層o。④閾值。其值可為恒值或可變值，它可使網(wǎng)絡(luò)能更自由地獲取所要描述的函數(shù)關(guān)系。⑤轉(zhuǎn)移函數(shù)F。它是將輸入的數(shù)據(jù)轉(zhuǎn)化為輸出的處理單元，通常為非線性函數(shù)。

圖1 BP神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)

2.1 基本算法

BP算法主要包含4步，分為向前傳播和向后傳播兩個(gè)階段：

1）向前傳播階段

（1）從樣本集中取一個(gè)樣本（Xp，Yp），將Xp輸入網(wǎng)絡(luò)；

（2）計(jì)算相應(yīng)的實(shí)際輸出Op

在此階段，信息從輸入層經(jīng)過逐級(jí)的變換，傳送到輸出層。這個(gè)過程也是網(wǎng)絡(luò)在完成訓(xùn)練后正常運(yùn)行時(shí)的執(zhí)行過程。

2）向后傳播階段

（1）計(jì)算實(shí)際輸出Op與相應(yīng)的理想輸出Yp的差；

（2）按極小化誤差的方式調(diào)整權(quán)矩陣。

這兩個(gè)階段的工作受到精度要求的控制，在這里取 作為網(wǎng)絡(luò)關(guān)于第p個(gè)樣本的誤差測(cè)度，而將網(wǎng)絡(luò)關(guān)于整個(gè)樣本集的誤差測(cè)度定義為 。圖2是基本BP算法的流程圖。

圖2 BP基本算法流程

2.2 動(dòng)態(tài)BP神經(jīng)網(wǎng)絡(luò)預(yù)測(cè)算法

在經(jīng)典的BP算法以及其他的訓(xùn)練算法中都有很多變量，這些訓(xùn)練算法可以確定一個(gè)ANN結(jié)構(gòu)，它們只訓(xùn)練固定結(jié)構(gòu)的ANN權(quán)值（包括聯(lián)接權(quán)值和結(jié)點(diǎn)轉(zhuǎn)換函數(shù)）。在自動(dòng)設(shè)計(jì)ANN結(jié)構(gòu)方面，也已有較多的嘗試，比如構(gòu)造性算法和剪枝算法。前一種是先隨機(jī)化網(wǎng)絡(luò)，然后在訓(xùn)練過程中有必要地增加新的層和結(jié)點(diǎn)；而剪枝法則正好相反。文獻(xiàn)[2]中提出了演化神經(jīng)網(wǎng)絡(luò)的理念，并把EP算法與BP進(jìn)行了組合演化；也有很多學(xué)者把遺傳算法和BP進(jìn)行結(jié)合，但這些算法都以時(shí)間復(fù)雜度以及空間復(fù)雜度的增加為代價(jià)。根據(jù)Kolmogorov定理,對(duì)于任意給定的L2型連續(xù)函數(shù)f: [ 0, 1 ]n Rm , f可以精確地用一個(gè)三層前向神經(jīng)網(wǎng)絡(luò)來實(shí)現(xiàn)，因而可以只考慮演化網(wǎng)絡(luò)的權(quán)值和結(jié)點(diǎn)數(shù)而不影響演化結(jié)果。基于此，在BP原有算法的基礎(chǔ)上，增加結(jié)點(diǎn)數(shù)演化因子，然后記錄每層因子各異時(shí)演化出的結(jié)構(gòu)，最后選取最優(yōu)的因子及其網(wǎng)絡(luò)結(jié)構(gòu)，這樣就可以避免由于增加或剪枝得到的局部最優(yōu)。根據(jù)實(shí)驗(yàn)得知，不同的預(yù)測(cè)精度也影響網(wǎng)絡(luò)層神經(jīng)元的結(jié)點(diǎn)數(shù)，所以可根據(jù)要求動(dòng)態(tài)地建立預(yù)測(cè)系統(tǒng)。具體步驟如下：

（1）將輸入向量和目標(biāo)向量進(jìn)行歸一化處理。

（2）讀取輸入向量、目標(biāo)向量，記錄輸入維數(shù)m、輸出層結(jié)點(diǎn)數(shù)n。

（3）當(dāng)訓(xùn)練集確定之后，輸入層結(jié)點(diǎn)數(shù)和輸出層結(jié)點(diǎn)數(shù)隨之而確定，首先遇到的一個(gè)十分重要而又困難的問題是如何優(yōu)化隱層結(jié)點(diǎn)數(shù)和隱層數(shù)。實(shí)驗(yàn)表明，如果隱層結(jié)點(diǎn)數(shù)過少，網(wǎng)絡(luò)不能具有必要的學(xué)習(xí)能力和信息處理能力。反之，若過多，不僅會(huì)大大增加網(wǎng)絡(luò)結(jié)構(gòu)的復(fù)雜性（這一點(diǎn)對(duì)硬件實(shí)現(xiàn)的網(wǎng)絡(luò)尤其重要），網(wǎng)絡(luò)在學(xué)習(xí)過程中更易陷入局部極小點(diǎn)，而且會(huì)使網(wǎng)絡(luò)的學(xué)習(xí)速度變得很慢。隱層結(jié)點(diǎn)數(shù)的選擇問題一直受到神經(jīng)網(wǎng)絡(luò)研究工作者的高度重視。Gorman指出隱層結(jié)點(diǎn)數(shù)s與模式數(shù)N的關(guān)系是：s＝log2N；Kolmogorov定理表明，隱層結(jié)點(diǎn)數(shù)s＝2n＋1（n為輸入層結(jié)點(diǎn)數(shù)）；而根據(jù)文獻(xiàn)[7]：s＝sqrt（0.43mn＋0.12nn＋2.54m＋0.77n＋0.35）＋0.51[7]。

（4）設(shè)置結(jié)點(diǎn)數(shù)演化因子a。為了快速建立網(wǎng)絡(luò)，可以對(duì)其向量初始化，

并從小到大排序[4，7]。

（5）建立BP神經(jīng)網(wǎng)絡(luò)。隱含層傳遞函數(shù)用tansig，輸出層用logsig，訓(xùn)練函數(shù)采用動(dòng)態(tài)自適應(yīng)BP算法，并制訂停止準(zhǔn)則：目標(biāo)誤差精度以及訓(xùn)練代數(shù)。

（6）初始化網(wǎng)絡(luò)。

（7）訓(xùn)練網(wǎng)絡(luò)直到滿足停止判斷準(zhǔn)則。

（8）用測(cè)試向量對(duì)網(wǎng)絡(luò)進(jìn)行預(yù)測(cè)，并記錄誤差和逼近曲線，評(píng)估其網(wǎng)絡(luò)的適應(yīng)性。其適應(yīng)度函數(shù)采取規(guī)則化均方誤差函數(shù)。

（9）轉(zhuǎn)到（5），選取下一個(gè)演化因子，動(dòng)態(tài)增加隱含層結(jié)點(diǎn)數(shù)，直到最后得到最佳預(yù)測(cè)網(wǎng)絡(luò)。

3 基于神經(jīng)網(wǎng)絡(luò)的預(yù)測(cè)原理[4]

3.1 正向建模

正向建模是指訓(xùn)練一個(gè)神經(jīng)網(wǎng)絡(luò)表達(dá)系統(tǒng)正向動(dòng)態(tài)的過程，這一過程建立的神經(jīng)網(wǎng)絡(luò)模型稱為正向模型，其結(jié)構(gòu)如圖3所示。其中，神經(jīng)網(wǎng)絡(luò)與待辨識(shí)的系統(tǒng)并聯(lián)，兩者的輸出誤差用做網(wǎng)絡(luò)的訓(xùn)練信號(hào)。顯然，這是一個(gè)典型的有導(dǎo)師學(xué)習(xí)問題，實(shí)際系統(tǒng)作為教師，向神經(jīng)網(wǎng)絡(luò)提供算法所需要的期望輸出。當(dāng)系統(tǒng)是被控對(duì)象或傳統(tǒng)控制器時(shí)，神經(jīng)網(wǎng)絡(luò)多采用多層前向網(wǎng)絡(luò)的形式，可直接選用BP網(wǎng)絡(luò)或它的各種變形。而當(dāng)系統(tǒng)為性能評(píng)價(jià)器時(shí)，則可選擇再勵(lì)學(xué)習(xí)算法，這時(shí)網(wǎng)絡(luò)既可以采用具有全局逼近能力的網(wǎng)絡(luò)（如多層感知器），也可選用具有局部逼近能力的網(wǎng)絡(luò)（如小腦模型控制器等）。

圖3 正向建模結(jié)構(gòu)

3.2 逆向建模

建立動(dòng)態(tài)系統(tǒng)的逆模型，在神經(jīng)網(wǎng)絡(luò)中起著關(guān)鍵作用，并且得到了廣泛的應(yīng)用。其中，比較簡單的是直接逆建模法，也稱為廣義逆學(xué)習(xí)。其結(jié)構(gòu)如圖4所示，擬預(yù)報(bào)的系統(tǒng)輸出作為網(wǎng)絡(luò)的輸入，網(wǎng)絡(luò)輸出與系統(tǒng)輸入比較，相應(yīng)的輸入誤差用于訓(xùn)練，因而網(wǎng)絡(luò)將通過學(xué)習(xí)建立系統(tǒng)的逆模型。但是，如果所辨識(shí)的非線性系統(tǒng)是不可逆的，利用上述方法將得到一個(gè)不正確的逆模型。因此，在建立系統(tǒng)時(shí)，可逆性應(yīng)該先有所保證。

圖4 直接逆建模結(jié)構(gòu)

4 應(yīng)用實(shí)例分析

以我國西南某地震常發(fā)地區(qū)的地震資料作為樣本來源，實(shí)現(xiàn)基于動(dòng)態(tài)神經(jīng)網(wǎng)絡(luò)的地震預(yù)報(bào)。根據(jù)資料，提取出7個(gè)預(yù)報(bào)因子和實(shí)際發(fā)生的震級(jí)M作為輸入和目標(biāo)向量。預(yù)報(bào)因子為半年內(nèi)M>=3的地震累計(jì)頻度、半年內(nèi)能量釋放積累值、b值、異常地震群個(gè)數(shù)、地震條帶個(gè)數(shù)、是否處于活動(dòng)期內(nèi)以及相關(guān)地震區(qū)地震級(jí)。在訓(xùn)練前，對(duì)數(shù)據(jù)進(jìn)行歸一化處理。由于輸入樣本為7維的輸入向量，一般情況下輸入層設(shè)7個(gè)神經(jīng)元。根據(jù)實(shí)際情況，輸出層神經(jīng)元個(gè)數(shù)為1。隱含層神經(jīng)元的傳遞函數(shù)為S型正切函數(shù)，輸出層也可以動(dòng)態(tài)選擇傳遞函數(shù)。實(shí)例數(shù)據(jù)來自文獻(xiàn)[4]，將數(shù)據(jù)集分為訓(xùn)練集、測(cè)試集和確定集。表1中的7×7數(shù)組表示歸一化后的訓(xùn)練向量，第一個(gè)7表示預(yù)報(bào)因子數(shù)，第二個(gè)7表示樣本數(shù)。

表1 歸一化后的訓(xùn)練向量

在不同神經(jīng)元數(shù)情況下，對(duì)網(wǎng)絡(luò)進(jìn)行訓(xùn)練和仿真，得到如圖5所示的一組預(yù)測(cè)誤差曲線。其中，曲線A表示隱層結(jié)點(diǎn)數(shù)為6時(shí)的預(yù)測(cè)誤差曲線，曲線B表示隱含層結(jié)點(diǎn)數(shù)為3時(shí)的預(yù)測(cè)誤差曲線，曲線C表示隱含層結(jié)點(diǎn)數(shù)為5時(shí)的預(yù)測(cè)誤差曲線，曲線D表示隱含層結(jié)點(diǎn)數(shù)為4時(shí)的預(yù)測(cè)誤差曲線。將五種情況下的誤差進(jìn)行對(duì)比，曲線C表示的網(wǎng)絡(luò)預(yù)測(cè)性能最好，其隱含層神經(jīng)元數(shù)為5，圖中曲線E表示的是隱含層結(jié)點(diǎn)數(shù)為15時(shí)的預(yù)測(cè)誤差曲線（文獻(xiàn)[4]中的最好結(jié)果）。同時(shí)也證明，在設(shè)計(jì)BP網(wǎng)絡(luò)時(shí)，不能無限制地增加層神經(jīng)元的個(gè)數(shù)。若過多，不僅會(huì)大大增加網(wǎng)絡(luò)結(jié)構(gòu)的復(fù)雜性，網(wǎng)絡(luò)在學(xué)習(xí)過程中更易陷入局部極小點(diǎn)，而且會(huì)使網(wǎng)絡(luò)的學(xué)習(xí)速度、預(yù)測(cè)速度變得很慢。

圖5 不同神經(jīng)元數(shù)預(yù)測(cè)誤差對(duì)比曲線

5 結(jié)論

本文針對(duì)基本的BP神經(jīng)網(wǎng)絡(luò)，提出了可動(dòng)態(tài)改變神經(jīng)元數(shù)（與精度相關(guān)）的BP神經(jīng)網(wǎng)絡(luò)預(yù)測(cè)方法，可以根據(jù)實(shí)際情況建立預(yù)測(cè)系統(tǒng)。用此種方法可以建立最好的神經(jīng)網(wǎng)絡(luò)，不會(huì)有多余的神經(jīng)元，也不會(huì)讓網(wǎng)絡(luò)在學(xué)習(xí)過程中過早陷于局部極小點(diǎn)。

參考文獻(xiàn)

[1]潘正君，康立山，陳毓屏. 演化計(jì)算[M ]. 北京:清華大學(xué)出版社，1998

[2]飛思科技產(chǎn)品研發(fā)中心. 神經(jīng)網(wǎng)絡(luò)理論與實(shí)現(xiàn). 北京:電子工業(yè)出版社，2005

[3]蔡曉芬，方建斌. 演化神經(jīng)網(wǎng)絡(luò)算法. 江漢大學(xué)學(xué)報(bào)，第33卷第3期，2005.9

第5篇：神經(jīng)網(wǎng)絡(luò)的訓(xùn)練流程范文

關(guān)鍵詞：煤礦 漸進(jìn)神經(jīng)網(wǎng)絡(luò) 煤與瓦斯突出

1 概述

對(duì)于煤礦各煤層的煤與瓦斯突出危險(xiǎn)性的區(qū)域預(yù)測(cè)，一般是先確定突出危險(xiǎn)性參數(shù)，建立一個(gè)初步的預(yù)測(cè)模型，然后根據(jù)該礦區(qū)已經(jīng)發(fā)生的煤與瓦斯突出事故的情況來不斷驗(yàn)證，直到得到合理的區(qū)域預(yù)測(cè)模型，這樣整個(gè)區(qū)域預(yù)測(cè)模型的建立需要做大量調(diào)試，耗費(fèi)很長的時(shí)間。

本文嘗試?yán)脻u進(jìn)神經(jīng)網(wǎng)絡(luò)的特點(diǎn)，建立利用結(jié)果反求礦井的煤與瓦斯突出危險(xiǎn)性區(qū)域預(yù)測(cè)模型，使得建立的模型能更加適合不同礦井發(fā)生煤與瓦斯突出的實(shí)際情況。此外，還能大大減少模型調(diào)試所消耗的大量時(shí)間[3]。

2 關(guān)于建立煤與瓦斯突出區(qū)域預(yù)測(cè)模型的分析

目前為止，國內(nèi)外對(duì)影響煤與瓦斯突出參數(shù)的問題進(jìn)行了很多研究，而隨著力學(xué)、動(dòng)力學(xué)理論等學(xué)科的發(fā)展，分析礦井煤與瓦斯突出是如何發(fā)生的方法也越來越多。在眾多的突出理論中，能讓從事該行業(yè)的絕大多數(shù)人認(rèn)同和接受的就是綜合假說。

綜合假說的主要理論是：煤與瓦斯突出是礦井中一種極其復(fù)雜的動(dòng)力現(xiàn)象，它包括三個(gè)因素：地應(yīng)力、高壓瓦斯和煤的結(jié)構(gòu)性能，它的發(fā)生是三個(gè)主要因素綜合作用的結(jié)果。

從能量轉(zhuǎn)換角度分析，突出的能量來自煤巖體彈性彈性潛能和煤體中的瓦斯膨脹能，這些能量在突出過程中主要轉(zhuǎn)換為煤體的破碎功和碎煤在巷道中的移動(dòng)功等。因此，在由煤巖層和瓦斯組成的這樣一個(gè)力學(xué)系統(tǒng)中，就有四種相互作用和相互轉(zhuǎn)化的能量體系，它們之間的消長關(guān)系夠長了煤與瓦斯突出全過程的能量條件。當(dāng)煤巖體彈性潛能和煤體中的瓦斯膨脹能大于煤體的破壞功和移動(dòng)功時(shí)，就發(fā)生煤與瓦斯突出，否則就不發(fā)生。

3 基于漸進(jìn)神經(jīng)網(wǎng)絡(luò)的煤與瓦斯突出危險(xiǎn)區(qū)域預(yù)測(cè)模型的建立

神經(jīng)網(wǎng)絡(luò)是由大量的神經(jīng)元相連接的網(wǎng)絡(luò)，針對(duì)影響煤與瓦斯突出的地應(yīng)力、瓦斯壓力、煤體結(jié)構(gòu)的復(fù)雜關(guān)系，通過對(duì)漸進(jìn)神經(jīng)網(wǎng)絡(luò)的訓(xùn)練、控制和識(shí)辯可以反求到影響不同礦井對(duì)煤與瓦斯突出影響的參數(shù)及其權(quán)重值[2]。

基于地應(yīng)力、瓦斯壓力、煤體結(jié)構(gòu)參數(shù)反求流程如圖1所示。假設(shè)模型的各項(xiàng)參數(shù)為某一組數(shù)值，可以仿真得到相應(yīng)的突出參數(shù)的神經(jīng)網(wǎng)絡(luò)的初始訓(xùn)練樣本，將各種參數(shù)值Xm輸入神經(jīng)網(wǎng)絡(luò)，即可反求得到對(duì)于的參數(shù)Yi，并將其作為煤與瓦斯突出的影響參數(shù)，可以得到影響參數(shù)的計(jì)算值Xn。如果計(jì)算值Xm和測(cè)量值Xn偏差超過許可誤差，必須重新選取樣本，對(duì)神經(jīng)網(wǎng)絡(luò)在訓(xùn)練，直到計(jì)算值Xm和測(cè)量值Xn的偏差在許可范圍內(nèi)，即為反求得到的煤與瓦斯突出影響參數(shù)Yj。

神經(jīng)網(wǎng)絡(luò)模型的結(jié)構(gòu)，需要根據(jù)具體求解問題的復(fù)雜程度決定[3]。圖2為煤與瓦斯突出影響參數(shù)反求的神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)，神經(jīng)網(wǎng)絡(luò)由可能代表影響煤與瓦斯突出因素的N個(gè)輸入單元組成輸入層，網(wǎng)絡(luò)的輸出層由實(shí)際代表影響煤與瓦斯突出的M個(gè)單元組成，網(wǎng)絡(luò)還包含一個(gè)隱含層。通過神經(jīng)網(wǎng)絡(luò)可以建立影響煤與瓦斯突出因素的非線性關(guān)系：

神經(jīng)網(wǎng)絡(luò)的訓(xùn)練，就是根據(jù)訓(xùn)練樣本來計(jì)算權(quán)值矩陣W，根據(jù)求出影響參數(shù)及權(quán)值矩陣計(jì)算煤層的突出危險(xiǎn)性程度。神經(jīng)網(wǎng)絡(luò)訓(xùn)練以后，不管實(shí)際問題怎么復(fù)雜，神經(jīng)網(wǎng)絡(luò)都可以快速的計(jì)算輸出變量，因此，神經(jīng)網(wǎng)絡(luò)是適合用于煤與瓦斯突出危險(xiǎn)性區(qū)域預(yù)測(cè)模型的建立的。

4 結(jié)論

本文應(yīng)用反求的思想，從滿足預(yù)測(cè)的觀點(diǎn)出發(fā)，通過建立漸進(jìn)神經(jīng)網(wǎng)絡(luò)的方法來反求滿足不同礦區(qū)實(shí)際情況的突出危險(xiǎn)性區(qū)域預(yù)測(cè)模型，從而反求出影響不同煤礦的煤與瓦斯突出危險(xiǎn)性的影響參數(shù)，從而避免了建立煤與瓦斯突出危險(xiǎn)性區(qū)域預(yù)測(cè)模型過程中繁雜的調(diào)試過程，縮短了該模型建立過程，并使得區(qū)域預(yù)測(cè)模型具有較好的針對(duì)性及預(yù)測(cè)效果。

參考文獻(xiàn)：

[1]候媛彬，杜京義，汪梅.神經(jīng)網(wǎng)絡(luò)[M].西安電子科技大學(xué)出版社.

[2]張青貴.人工神經(jīng)網(wǎng)絡(luò)導(dǎo)論[M].中國水利水電出版社.

[3]劉海波，施式亮等.人工神經(jīng)網(wǎng)絡(luò)對(duì)礦山安全狀態(tài)的評(píng)判能力分析[J].安全與環(huán)境學(xué)報(bào)，2004（5）：69～72.

[4]胡千庭，鄒銀輝等.瓦斯含量法預(yù)測(cè)突出危險(xiǎn)新技術(shù)[J].煤炭學(xué)報(bào)，2007（3）：277～280.

第6篇：神經(jīng)網(wǎng)絡(luò)的訓(xùn)練流程范文

關(guān)鍵詞：模糊神經(jīng)網(wǎng)絡(luò);企業(yè)水環(huán)境;評(píng)價(jià)

收稿日期：20120410

基金項(xiàng)目：國家自然科學(xué)基金資助項(xiàng)目(編號(hào):41101080);山東省自然科學(xué)基金資助項(xiàng)目(編號(hào):ZR2011DQ009);山東省研究生教育創(chuàng)新計(jì)劃

項(xiàng)目(編號(hào):SDYC11147)資助

作者簡介：朱敏（1974—），女,湖南常德人,工程師,主要從事企業(yè)水環(huán)境研究工作。

通訊作者：李銳（1963—），男,湖南新化人,教授,博導(dǎo),主要從事環(huán)境經(jīng)濟(jì)學(xué)方面的教學(xué)與研究工作。中圖分類號(hào)：X73文獻(xiàn)標(biāo)識(shí)碼：A文章編號(hào)：16749944(2012)05015003

1引言

隨著經(jīng)濟(jì)的發(fā)展和污染負(fù)荷的增加,人們認(rèn)識(shí)到濃度控制已不能從根本上解決污染問題。而我國對(duì)水環(huán)境的研究,也主要集中在對(duì)水源地的分析和控制中。隨著工業(yè)企業(yè)對(duì)水環(huán)境的重視,開始逐步嘗試用處理過的中水進(jìn)行循環(huán)使用,但是對(duì)多指標(biāo)的水質(zhì)評(píng)價(jià)缺乏定性的判斷。而在對(duì)水環(huán)境的評(píng)價(jià)方法中,由于參與的評(píng)價(jià)因子眾多,并且與水質(zhì)等級(jí)之間存在的是非常復(fù)雜的非線性關(guān)系,所以至今都沒有形成統(tǒng)一的方法。常規(guī)的地下水水質(zhì)評(píng)價(jià)方法有綜合指數(shù)法、模糊綜合評(píng)價(jià)法、灰色聚類法等［1］,這些方法都還存在著一些不足。近年來,隨著神經(jīng)網(wǎng)絡(luò)的發(fā)展,國內(nèi)外很多從事地下水研究的學(xué)者將神經(jīng)網(wǎng)絡(luò)引入水質(zhì)評(píng)價(jià)中,取得了較好的評(píng)價(jià)效果,表明研究神經(jīng)網(wǎng)絡(luò)處理水質(zhì)評(píng)價(jià)具有非常現(xiàn)實(shí)的意義。

模糊理論和神經(jīng)網(wǎng)絡(luò)技術(shù)是近幾年來人工智能研究較為活躍的兩個(gè)領(lǐng)域［2］。模糊神經(jīng)網(wǎng)絡(luò)(Fuzzy Neural Network,FNN)是在神經(jīng)網(wǎng)絡(luò)(Neural Network,NN)和模糊系統(tǒng)(Fuzzy System,FS)的基礎(chǔ)上發(fā)展起來的,二者的融合彌補(bǔ)了神經(jīng)網(wǎng)絡(luò)在模糊數(shù)據(jù)處理方面的不足和模糊邏輯在學(xué)習(xí)方面的缺陷,是一個(gè)集語言計(jì)算、邏輯推理、分布式處理和非線性動(dòng)力學(xué)過程為一身的系統(tǒng)［3,4］。本文使用這種方法來評(píng)價(jià)某企業(yè)水環(huán)境質(zhì)量,通過MATLAB R2011b 編程實(shí)現(xiàn),其工具箱函數(shù)提供了歸一化函數(shù)mapminmax等,該仿真結(jié)果表明,系統(tǒng)具有較好的客觀性和預(yù)測(cè)性。

2模糊神經(jīng)網(wǎng)絡(luò)原理

模糊神經(jīng)網(wǎng)絡(luò)是一種集模糊邏輯推理的強(qiáng)大結(jié)構(gòu)性知識(shí)表達(dá)能力與神經(jīng)網(wǎng)絡(luò)的強(qiáng)大自學(xué)習(xí)能力于一體的新技術(shù),它是模糊邏輯推理與神經(jīng)網(wǎng)絡(luò)有機(jī)結(jié)合的產(chǎn)物［6,7］。

2.1模糊數(shù)學(xué)方法

模糊集概念是模糊數(shù)學(xué)的特征函數(shù)處于中介狀態(tài),并用隸屬函數(shù)表示模糊集。模糊數(shù)學(xué)是用來描述、研究和處理事物所具有的模糊特征的數(shù)學(xué)?！澳：笔侵杆难芯繉?duì)象,而“數(shù)學(xué)”是指它的研究方法。

模糊數(shù)學(xué)中最基本的概念是隸屬度和模糊隸屬度函數(shù)。其中,隸屬度是指元素u屬于模糊子集f的隸屬程度,用μf(u)表示,它是一個(gè)在［0,1］之間的數(shù),越接近于0,表示μf(u)屬于模糊子集u的程度越小;越靠近1,表示u屬于模糊子集f的程度越大。

在模糊數(shù)學(xué)中,運(yùn)用隸屬度來描述客觀事物中很多模糊的界限,而隸屬度可用隸屬函數(shù)來表示。比如水質(zhì)評(píng)價(jià)中“污染程度”就是一個(gè)模糊概念,因此,作為評(píng)價(jià)污染程度的分類標(biāo)準(zhǔn)也應(yīng)具有模糊的特征,用一般的評(píng)價(jià)方法進(jìn)行分類別,不盡合理,而用模糊概念進(jìn)行推理就比較符合客觀實(shí)際［5］。

2.2TakagiSugeno(T-S)模糊模型

TS模糊模型一般用于多個(gè)輸入和單個(gè)輸出的情況。該模型是一種自適應(yīng)能力很強(qiáng)的模糊系統(tǒng),該系統(tǒng)不僅能自動(dòng)更新,而且能不斷修正模糊子集的隸屬函數(shù)。TS模糊系統(tǒng)用如下的“if-then”規(guī)則形式來定義,在規(guī)則為 的情況下,模糊推理如下:

Ri:Ifx1isAi1,x2isAi2，…,xkisAik,then yi=pi1x1+…+pikxk

其中Aij為模糊系統(tǒng)的模糊集,pij(j=1,2,…,k)為模糊系統(tǒng)參數(shù);yi為根據(jù)模糊規(guī)則得到的輸出,輸入部分(即if部分)是模糊的,輸出部分(即then部分)是確定的,該模糊推理表示輸出為輸入的線性組合。假設(shè)對(duì)于輸入量x=［x1,x2,…,xk］,首先根據(jù)模糊規(guī)則計(jì)算各輸入變量xj的隸屬度。

μAij=exp(-(xj-cij)2/bij)j=1,2,…,k;i=1,2,…,n(1)

式中,cij,bij分別為隸屬度函數(shù)的中心和寬度;k為輸入?yún)?shù)數(shù);n為模糊子集數(shù)。

將各隸屬度進(jìn)行模糊計(jì)算,采用模糊算子為連乘算算子。

wi=μA1j(x1)×μA2j(x2)×…×μAkj(xk),i=1,2,…,n(2)

根據(jù)模糊計(jì)算結(jié)果計(jì)算模糊模型的輸出值yi。

yi=∑ni=1wi(pi0+pi1x1+…+pikxk)/∑ni=1wi。(3)

2.3TakagiSugeno模糊神經(jīng)網(wǎng)絡(luò)模型

TS模糊神經(jīng)網(wǎng)絡(luò)分為輸入層、模糊化層、模糊規(guī)則計(jì)算層和輸出層等4層。輸入層與輸入向量xi連接,節(jié)點(diǎn)數(shù)與輸入向量的維數(shù)相同。模糊化層采用隸屬函數(shù)(1)對(duì)輸入值進(jìn)行模糊化得到模糊隸屬度值μ。模糊規(guī)則計(jì)算層采用模糊連乘公式(2)計(jì)算得到w,輸出層采用公式(3)計(jì)算得到模糊神經(jīng)網(wǎng)絡(luò)的輸出。模糊神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)算法如下。

2.3.1誤差計(jì)算

e=12(yd-yc)2,(4)

式中,yd是網(wǎng)絡(luò)期望輸出;yc是網(wǎng)絡(luò)實(shí)際輸出;e為期望輸出和實(shí)際輸出的誤差。

2.3.2系數(shù)修正

pij(k)=pij(k-1)-αepij,(5)

epij=(yd-yc)wi/∑mi=1wi×xj。(6)

式中,pij為神經(jīng)網(wǎng)絡(luò)系數(shù),α為網(wǎng)絡(luò)學(xué)習(xí)率;xj為網(wǎng)絡(luò)輸出參數(shù);wi為輸入?yún)?shù)隸屬度連乘積。

2.3.3參數(shù)修正

cij(k)=cij(k-1)-βecij,(7)

bij(k)-bij(k-1)-βecij。(8)

式中,cjj,bij分別為隸屬度函數(shù)的中心和寬度。

3企業(yè)水環(huán)境評(píng)價(jià)應(yīng)用

企業(yè)的水環(huán)境進(jìn)行評(píng)價(jià)時(shí),要采用一定的流程和算法。具體見圖1,分為模糊神經(jīng)網(wǎng)絡(luò)的構(gòu)建、模糊神經(jīng)網(wǎng)絡(luò)訓(xùn)練和模糊神經(jīng)網(wǎng)絡(luò)預(yù)測(cè)。

圖1模糊神經(jīng)網(wǎng)絡(luò)企業(yè)水環(huán)境評(píng)價(jià)算法流程

3.1網(wǎng)絡(luò)初始化

根據(jù)訓(xùn)練輸入、輸出數(shù)據(jù)維數(shù)確定網(wǎng)絡(luò)結(jié)構(gòu),初始化神經(jīng)網(wǎng)絡(luò)隸屬度函數(shù)參數(shù)和系數(shù),歸一化訓(xùn)練數(shù)據(jù)。在訓(xùn)練數(shù)據(jù)歸一化時(shí),使用mapminmax函數(shù)來實(shí)現(xiàn)。

3.2模糊神經(jīng)網(wǎng)絡(luò)訓(xùn)練

模糊神經(jīng)網(wǎng)絡(luò)訓(xùn)練用訓(xùn)練數(shù)據(jù)訓(xùn)練模糊神經(jīng)網(wǎng)絡(luò),由于水質(zhì)評(píng)價(jià)真實(shí)數(shù)據(jù)比較難確定,印象,采用了等隔均勻分布方式內(nèi)插水質(zhì)指標(biāo)標(biāo)準(zhǔn)數(shù)據(jù)生成樣本的方式來生成訓(xùn)練樣本,采用的水質(zhì)指標(biāo)標(biāo)準(zhǔn)數(shù)據(jù)來自表1,網(wǎng)絡(luò)反復(fù)訓(xùn)練100次。

根據(jù)GB3838-2002《地表水環(huán)境質(zhì)量標(biāo)準(zhǔn)》,Ⅰ類主要適用于源頭水、國家自然保護(hù)區(qū);Ⅱ類主要適用于集中式生活引用水地表水源地一級(jí)保護(hù)區(qū)、珍稀水生生物棲息地、魚蝦類產(chǎn)卵場(chǎng)、仔稚幼魚的索餌場(chǎng)等;Ⅲ類主要適用于集中式生活引用水地表水源地二級(jí)保護(hù)區(qū)、魚蝦類越冬場(chǎng)、泅游通道、水產(chǎn)養(yǎng)殖區(qū)等漁業(yè)水域及游泳區(qū);Ⅳ類主要適用于一般工業(yè)用水區(qū)及人體非直接接觸的娛樂用水區(qū);Ⅴ類主要適用于農(nóng)業(yè)用水區(qū)及一般景觀要求水域。

表1地表水環(huán)境標(biāo)準(zhǔn)

序號(hào)項(xiàng)目Ⅰ類Ⅱ類Ⅲ類Ⅳ類Ⅴ類1化學(xué)需氧量(COD)≤15152030502懸浮物 ≤3氨氮 ≤0.50.51.01.52.04總磷 ≤0.020.10.20.30.55pH ≤6~9

因?yàn)樵谄髽I(yè)的水質(zhì)評(píng)價(jià)主要指標(biāo)中,pH值和懸浮物沒有具體的定量指標(biāo),無法做出正確的判斷。因此,確定了化學(xué)需氧量(COD)、氨氮和總磷3個(gè)評(píng)價(jià)指標(biāo)。

3.3模糊神經(jīng)網(wǎng)絡(luò)企業(yè)水環(huán)境評(píng)價(jià)

用訓(xùn)練好的模糊神經(jīng)網(wǎng)絡(luò)評(píng)價(jià)企業(yè)水環(huán)境,根據(jù)網(wǎng)絡(luò)預(yù)測(cè)值評(píng)價(jià)水質(zhì)等級(jí)。當(dāng)預(yù)測(cè)值小于1.5時(shí),水質(zhì)等級(jí)為Ⅰ類;當(dāng)預(yù)測(cè)值在1.5~2.5時(shí),水質(zhì)等級(jí)為Ⅱ類;當(dāng)預(yù)測(cè)值在2.5~3.5時(shí),水質(zhì)等級(jí)為Ⅲ類;當(dāng)預(yù)測(cè)值在3.5~4.5時(shí),水質(zhì)等級(jí)為Ⅳ類;預(yù)測(cè)值大于4.5時(shí),水質(zhì)等級(jí)為Ⅴ類。

3.4結(jié)果分析

調(diào)用了企業(yè)2010~2011年每月的污水處理數(shù)據(jù),其各評(píng)價(jià)因子的數(shù)據(jù)折線圖見圖2。

圖2企業(yè)水環(huán)境數(shù)據(jù)

采用MATLAB R2011b進(jìn)行仿真,輸入節(jié)點(diǎn)數(shù)為3,隱含節(jié)點(diǎn)數(shù)為7,輸出節(jié)點(diǎn)數(shù)為1。仿真結(jié)果如圖3。圖3為模糊神經(jīng)網(wǎng)絡(luò)模型訓(xùn)練數(shù)據(jù)預(yù)測(cè)仿真結(jié)果。該圖中顯示了實(shí)際輸出、預(yù)測(cè)輸出和誤差。結(jié)果顯示,該誤差范圍小于0.01。圖4為模糊神經(jīng)網(wǎng)絡(luò)模型測(cè)試數(shù)據(jù)預(yù)測(cè)仿真結(jié)果。該圖中顯示了實(shí)際輸出、預(yù)測(cè)輸出和誤差。結(jié)果顯示,該誤差范圍小于0.01。圖5為模糊神經(jīng)網(wǎng)絡(luò)企業(yè)水環(huán)境評(píng)價(jià)結(jié)果。

圖3模糊神經(jīng)網(wǎng)絡(luò)模型訓(xùn)練數(shù)據(jù)預(yù)測(cè)仿真結(jié)果

圖4模糊神經(jīng)網(wǎng)絡(luò)測(cè)試數(shù)據(jù)預(yù)測(cè)仿真結(jié)果

從企業(yè)水環(huán)境評(píng)價(jià)結(jié)果可以看出,目前,企業(yè)的水環(huán)境有了一定的改善,基本上維持在2~3級(jí)左右,說明了模糊神經(jīng)網(wǎng)絡(luò)評(píng)價(jià)的有效性。并且,水質(zhì)等級(jí)的判定可以幫助企業(yè)在循環(huán)經(jīng)濟(jì)和景觀建設(shè)中打下良好的基礎(chǔ)。

圖5模糊神經(jīng)網(wǎng)絡(luò)企業(yè)水環(huán)境評(píng)價(jià)

2012年5月綠色科技第5期4結(jié)語

從實(shí)際的應(yīng)用結(jié)果可以看出,基于MATLAB編程實(shí)現(xiàn)的模糊神經(jīng)網(wǎng)絡(luò)方法應(yīng)用與水質(zhì)評(píng)價(jià)取得了良好的評(píng)價(jià)結(jié)果,積極探索了除地下水水質(zhì)評(píng)價(jià)外的其它的環(huán)境質(zhì)量評(píng)價(jià)中,為模糊神經(jīng)網(wǎng)絡(luò)提供了一個(gè)新的應(yīng)用空間。

參考文獻(xiàn)：

［1］ 謝宏斌.環(huán)境質(zhì)量評(píng)價(jià)與預(yù)測(cè)方法的現(xiàn)狀［J］.廣西水利水電,2001(4):30~33.

［2］ Leontalitis I J.Billings S A.Input-output parametric models for nonlinear systems,part l:deterministic nonlinear systems［J］.Int J Contr,2006,4l(2):303.

［3］ 謝維信,錢法濤.模糊神經(jīng)網(wǎng)絡(luò)研究［J］.深圳大學(xué)學(xué)報(bào),1999,16(1):22~27.

［4］ 王立新.模糊系統(tǒng)與模糊控制教程［M］.北京:清華大學(xué)出版社,2003.

［5］ 王鴻杰,尤賓,山官宗光.模糊數(shù)學(xué)分析方法在水環(huán)境評(píng)價(jià)中的應(yīng)用［J］.水文,2005(25):30~32.

第7篇：神經(jīng)網(wǎng)絡(luò)的訓(xùn)練流程范文

關(guān)鍵詞： 電子信息系統(tǒng)； 故障診斷； 神經(jīng)網(wǎng)絡(luò)； 故障字典

中圖分類號(hào)： TN710?34 文獻(xiàn)標(biāo)識(shí)碼： A 文章編號(hào)： 1004?373X（2013）20?0166?05

目前，電子信息系統(tǒng)的復(fù)雜化、自動(dòng)化和信息化程度越來越高，對(duì)可靠性、可維修性和技術(shù)保障能力的要求日趨迫切。系統(tǒng)中每一個(gè)部件發(fā)生故障都可能會(huì)產(chǎn)生鏈?zhǔn)椒磻?yīng)，影響系統(tǒng)效能發(fā)揮或造成重大的經(jīng)濟(jì)損失。因此，電子信息系統(tǒng)的狀態(tài)監(jiān)測(cè)與故障診斷技術(shù)早已得到世界各個(gè)發(fā)達(dá)國家相關(guān)部門的重視[1]。電子信息系統(tǒng)的功能電路大部分為模擬電路，許多元件參數(shù)具有很大的離散性，即具有容差。容差的普遍存在，導(dǎo)致實(shí)際故障的模糊性，加大了其故障定位的困難系數(shù)[2]。因此，針對(duì)該型電子信息系統(tǒng)的電路原理，綜合運(yùn)用故障字典和神經(jīng)網(wǎng)絡(luò)相結(jié)合的故障診斷方法，研究某型電子信息系統(tǒng)模塊級(jí)故障診斷技術(shù)，具有一定的理論意義和和重要的實(shí)用價(jià)值。同時(shí)，本文研究的成果可以推廣到其他型號(hào)的電子信息系統(tǒng)故障診斷技術(shù)研究[3]。

1 故障診斷流程圖和電路仿真

1.1 功能模塊級(jí)故障診斷流程圖

首先對(duì)某型電子信息系統(tǒng)需要診斷的電路進(jìn)行仿真，然后將得到的數(shù)據(jù)建成故障字典，最后，在故障字典中找出具有典型性的故障數(shù)據(jù)作為神經(jīng)網(wǎng)絡(luò)的輸入，利用BP神經(jīng)網(wǎng)將故障定位在具體的元器件上。圖1為模塊級(jí)故障診斷流程圖。

1.2 電路仿真

某型電子信息系統(tǒng)中的典型電路圖如2所示。

（1）晶體管的故障模型

由于無源元器件如電阻、電容的可靠性較高，發(fā)生故障的概率較小，因此假設(shè)電路中電阻、電容均無故障，只有5個(gè)晶體管出現(xiàn)故障。通過對(duì)故障晶體管的分析，將其的故障表現(xiàn)歸結(jié)為三類：內(nèi)部短路、內(nèi)部開路、局部擊穿。考慮到以下的事實(shí)：開路的引腳不能與其他引腳短路、擊穿；兩個(gè)引腳開路等效于三個(gè)引腳同時(shí)開路；兩個(gè)PN結(jié)短路，等效于三個(gè)引腳同時(shí)短路；將三類故障在晶體管的三個(gè)引腳、兩個(gè)PN結(jié)之間進(jìn)行故障組合后，可歸結(jié)為21種故障類型[4]，見表1。

（2）故障近似模型

在電路仿真的過程中，對(duì)使用最多的雙極型晶體管的近似故障模型進(jìn)行研究，使用一種基于晶體管正常模型——GP模型為故障近似模型[5]。為使用軟件進(jìn)行故障模擬，下面給出晶體管的故障模型，見圖3。其中故障引腳電阻RC，RB，RE為晶體管各引腳與電路相應(yīng)節(jié)點(diǎn)間的串聯(lián)電阻；故障結(jié)電阻RBC，RBE，RCE。分別為并聯(lián)于晶體管某兩引腳之間的電阻，用于模擬晶體管PN結(jié)的短路和擊穿。

正常情況下，故障引腳電阻RC，RB，RE阻值近似為零；故障結(jié)電阻RBC，RBE，RCE阻值為無窮大。仿真時(shí)，按如下方法設(shè)置電阻阻值：

（1）某引腳開路，對(duì)應(yīng)的故障引腳電阻阻值設(shè)置為無窮大，文中設(shè)置為10 000 Ω。

（2）某兩引腳短路，對(duì)應(yīng)的故障結(jié)電阻阻值設(shè)置為0 Ω（此處為理想值）。

（3）某兩引腳擊穿時(shí)，對(duì)應(yīng)的故障結(jié)電阻阻值設(shè)置為700 Ω（PN結(jié)擊穿后電阻阻值一般在500～1 500 Ω之間）。

（3）仿真軟件

仿真軟件選擇的是Multisim，該軟件操作簡單、快捷，最主要的是它可以直接調(diào)用所需元器件，而不必近似地畫出被測(cè)電路的等效電路圖，使得仿真結(jié)果更加接近于真實(shí)值。

（4）仿真過程

圖4為某型電子信息系統(tǒng)中的典型電路在軟件Multisim仿真時(shí)的界面圖。

2 故障字典的建立

（1）故障定義

現(xiàn)將圖2電路中與晶體管相關(guān)的106種故障（包括正常狀態(tài)F0）定義列于表2中。表中V代表晶體管，s代表短路，o代表開路，d代表擊穿，b代表基極，e代表發(fā)射極，c代表集電極。例如V4ecsbed就代表第4個(gè)晶體管發(fā)射極和集電極短路，基極和發(fā)射極擊穿[6]。其他故障以此類推。

（2） 測(cè)試量

本電路共有106種情況，即1個(gè)正常情況和105種個(gè)故障情況。在9個(gè)測(cè)試點(diǎn)上共得到[106×9=954]個(gè)電壓值。模擬圖2進(jìn)行仿真，所得的954個(gè)數(shù)據(jù)列于表3。

（3）刪除不需要的測(cè)試點(diǎn)

由表3可見，節(jié)點(diǎn)1上的電壓不提供任何有用的信息，所以將其刪除。節(jié)點(diǎn)6和節(jié)點(diǎn)9上的電壓完全相同，所以刪除節(jié)點(diǎn)9。同一測(cè)試點(diǎn)，在兩種故障現(xiàn)象下，被測(cè)電壓之差超過0.1 V，則認(rèn)為這兩個(gè)故障可分離；若被測(cè)電壓之差不超過0.1 V，則認(rèn)為這兩個(gè)故障為不可惟一隔離的模糊故障組合。通過分析表中的數(shù)據(jù)，可以看到F2與F4等均為兩個(gè)不能唯一隔離的故障。

但由于它們皆與晶體管V1有關(guān)，任一故障可通過更換V1來排除，因此，無需進(jìn)一步隔離的必要[7]。類似情況，經(jīng)過整理就得到了一個(gè)規(guī)范標(biāo)準(zhǔn)的故障字典列于表4。

3 BP神經(jīng)網(wǎng)絡(luò)的應(yīng)用

基于BP神經(jīng)網(wǎng)絡(luò)能夠出色地解決那些傳統(tǒng)故障診斷方法難以解決的問題，所以某型電子信息系統(tǒng)模塊級(jí)故障診斷系統(tǒng)采用故障字典和是神經(jīng)網(wǎng)絡(luò)相結(jié)合的方法，力求準(zhǔn)確、快速地進(jìn)行功能模塊級(jí)故障診斷[8]。

3.1 BP神經(jīng)網(wǎng)絡(luò)的故障診斷步驟

應(yīng)用神經(jīng)網(wǎng)絡(luò)檢測(cè)模擬電路故障的基本步驟為[9]：

（1） 建立故障字典或故障狀態(tài)表。應(yīng)用軟件模擬出對(duì)應(yīng)電路的正常狀態(tài)所對(duì)應(yīng)得各測(cè)試點(diǎn)的理論值，并把它建成一個(gè)故障字典或故障狀態(tài)表。

（2）建立神經(jīng)網(wǎng)絡(luò)。把故障字典或狀態(tài)表中的數(shù)據(jù)作為神經(jīng)網(wǎng)絡(luò)的輸入，按照電路故障特征點(diǎn)的數(shù)目以及所優(yōu)化處理得到的故障輸出類別的數(shù)目建立神經(jīng)網(wǎng)絡(luò)。

（3） 神經(jīng)網(wǎng)絡(luò)的訓(xùn)練、學(xué)習(xí)。設(shè)定神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)速度、訓(xùn)練方法及相關(guān)參數(shù)，對(duì)網(wǎng)絡(luò)進(jìn)行學(xué)習(xí)、訓(xùn)練。

（4）利用訓(xùn)練好的BP神經(jīng)網(wǎng)絡(luò)進(jìn)行故障隔離。將電路的故障字典建立在神經(jīng)網(wǎng)絡(luò)之中，網(wǎng)絡(luò)的輸入節(jié)點(diǎn)由電路的可測(cè)節(jié)點(diǎn)決定，輸出節(jié)點(diǎn)由故障狀態(tài)的數(shù)目決定。

輸出有多少個(gè)故障狀態(tài)，輸出層就選用多少個(gè)神經(jīng)元，每一種故障狀態(tài)對(duì)應(yīng)一個(gè)相應(yīng)的神經(jīng)元。診斷是某種狀態(tài)時(shí)對(duì)應(yīng)的那個(gè)神經(jīng)元被激活，輸出其對(duì)應(yīng)的編碼。

3.2 仿真試驗(yàn)及結(jié)果分析

（1） 本系統(tǒng)采用故障字典和神經(jīng)網(wǎng)絡(luò)相結(jié)合故障診斷技術(shù)研究，采用三層神經(jīng)網(wǎng)絡(luò)。通過電路的分析，選擇7個(gè)關(guān)鍵點(diǎn)的電壓作為神經(jīng)網(wǎng)絡(luò)的輸入。選擇6種故障現(xiàn)象作為神經(jīng)網(wǎng)絡(luò)的輸出模式，因此實(shí)際的神經(jīng)網(wǎng)絡(luò)輸入神經(jīng)元數(shù)為7，輸出神經(jīng)元數(shù)為6，隱含層的單元數(shù)按照前面介紹的公式計(jì)算為9。通過分析看到，在BP神經(jīng)網(wǎng)絡(luò)的輸出端應(yīng)該有6個(gè)節(jié)點(diǎn)，分別對(duì)應(yīng)1個(gè)無故障和5個(gè)故障。網(wǎng)絡(luò)的期望輸出如表5所示。

將仿真數(shù)據(jù)進(jìn)行歸一化處理后，以實(shí)際故障樣本為網(wǎng)絡(luò)的原始訓(xùn)練樣本，網(wǎng)絡(luò)輸入層、隱含層和輸出層節(jié)點(diǎn)數(shù)分別取7、9和6，系統(tǒng)總誤差[E

最后，可用仿真得到的其余數(shù)據(jù)驗(yàn)證神經(jīng)網(wǎng)絡(luò)的訓(xùn)練情況。表6為神經(jīng)網(wǎng)絡(luò)的驗(yàn)證數(shù)據(jù)。表7為驗(yàn)證數(shù)據(jù)對(duì)應(yīng)的輸出結(jié)果。

（2） 由三層BP神經(jīng)網(wǎng)絡(luò)組成的診斷系統(tǒng)在進(jìn)行故障診斷時(shí)，采取數(shù)據(jù)驅(qū)動(dòng)的正向推理策略，從初始狀態(tài)出發(fā)，向前推理，到達(dá)目標(biāo)狀態(tài)為止。

故障診斷推理步驟如下：

①將故障樣本輸入給輸入層各節(jié)點(diǎn)，并將其作為該層神經(jīng)元的輸出；

②求出隱含層神經(jīng)元的輸出并作為輸出層的輸入；

③求出輸出層神經(jīng)元的輸出；

④由閾值函數(shù)判定輸出層神經(jīng)元的最終輸出結(jié)果[10]。

假設(shè)用[Yn]表示故障類型，則故障類型閾值判定函數(shù)為：

式中：[Φk=0.90]，當(dāng)某模式下神經(jīng)網(wǎng)絡(luò)的輸出大于0.90，而其他值均較小時(shí)，則可認(rèn)為發(fā)生了該故障。則表7變?yōu)橄鄳?yīng)的表8。

表8 整理結(jié)果

通過表8與表5的對(duì)比，可見仿真結(jié)果與事實(shí)相符。

4 結(jié) 語

本文針對(duì)某型電子信息系統(tǒng)的電路原理，綜合運(yùn)用故障字典和神經(jīng)網(wǎng)絡(luò)相結(jié)合的故障診斷方法，研究該型電子信息系統(tǒng)模塊級(jí)故障診斷技術(shù)，具有一定的理論意義和和重要的實(shí)用價(jià)值。同時(shí)，本文研究的成果可以推廣到其他型號(hào)的電子信息系統(tǒng)故障診斷技術(shù)研究。

參考文獻(xiàn)

[1] 徐章遂，房立清，王希武，等.故障信息診斷原理及應(yīng)用[M].北京：國防工業(yè)出版社，2000.

[2] 宋小安.模擬電路故障診斷的專家系統(tǒng)法與BP神經(jīng)網(wǎng)絡(luò)法研究[D].南京：河海大學(xué)，2005.

[3] 胡昌華，許化龍.控制系統(tǒng)故障診斷與容錯(cuò)控制的分析和設(shè)計(jì)[M].2版.北京：國防工業(yè)出版社，2001.

[4] 朱大奇.電子設(shè)備故障診斷原理與實(shí)踐[M].2版.北京：電子工業(yè)出版社，2004.

[5] 劉志海，魯青，李桂莉.基于故障樹的故障診斷專家系統(tǒng)的研究[J].礦山機(jī)械，2006，34（5）：75?76.

[6] 張翼.基于故障字典法的模擬電路印刷板故障診斷[D].南京：南京理工大學(xué)，2001.

[7] 余浩章，陳新華.基于故障樹的故障診斷推理新方法[J].上海海運(yùn)學(xué)院學(xué)報(bào)，2001，22（3）：65?67.

[8] 高雋.人工神經(jīng)網(wǎng)絡(luò)原理及仿真實(shí)例[M].北京：機(jī)械工業(yè)出版社，2003.

[9] 王玉德，許振方，陳春延.基于BP算法的模擬電路故障診斷[J].電子測(cè)量技術(shù)，2006，29（6）：205?206.

[10] 王承.基于神經(jīng)網(wǎng)絡(luò)的模擬電路故障診斷方法研究[D].成都：電子科技大學(xué)，2005.

第8篇：神經(jīng)網(wǎng)絡(luò)的訓(xùn)練流程范文

【關(guān)鍵詞】供水管道；泄露檢測(cè)；神經(jīng)網(wǎng)絡(luò)

【中圖分類號(hào)】TP393【文獻(xiàn)標(biāo)識(shí)碼】A【文章編號(hào)】1672-5158（2013）07-0063-02

Automatic Detection and Diagnosis of Water-Supply Pipe Leakage

WU Feng-quan￡？LI Hong-da

￡¨Information center， Chengde Petroleum College， Chengde， Hebei 067000￡？

【Abstract】This paper presents the design and implementation of Automatic Detection and Diagnosis about Water-Supply Pipe Leakage. After analyzing the current methods about Water-Supply Pipe Leakage， the merits and shortcomings of some older and newer technologies aren pointed out.At the same time， a mothod of leakage detection based on BPNN is put forward.

【Key words】 Water-Supply Pipe； Leakage Detection； Neural Network

1 引言

世界各國尤其是發(fā)達(dá)國家都非常重視供水節(jié)水的管理工作。很早就開展了漏損控制技術(shù)及設(shè)備的研究、開發(fā)工作，其漏失率遠(yuǎn)低于亞洲國家。

我國由于城市基礎(chǔ)設(shè)施欠賬太多、供水設(shè)備的更新、技術(shù)水平提高緩慢，加上管理體制落后于不斷發(fā)展的形勢(shì)，使管網(wǎng)漏損率均未達(dá)到《城市供水2000年技術(shù)進(jìn)步發(fā)展規(guī)劃》所規(guī)定的目標(biāo)，大多數(shù)城市供水漏失率多在25%～30%。與發(fā)達(dá)國家比較還有很大的差距。

為指導(dǎo)節(jié)水技術(shù)開發(fā)和推廣應(yīng)用，推動(dòng)節(jié)水技術(shù)進(jìn)步，提高用水效率和效益，促進(jìn)水資源的可持續(xù)利用，國家發(fā)展改革委、科技部會(huì)同水利部、建設(shè)部和農(nóng)業(yè)部組織制訂了2005年第17號(hào)《中國節(jié)水技術(shù)政策大綱》，其中就提及到要積極采用城市供水管網(wǎng)的檢漏和防滲技術(shù)。

2 國內(nèi)外研究現(xiàn)狀分析

目前，已有的管道泄漏檢測(cè)方法中，流量平衡法與壓力差法是基于物質(zhì)守恒與能量守恒來判斷泄漏的發(fā)生，無法定位；應(yīng)力波法是利用流體泄漏時(shí)引發(fā)的沿管壁傳播的應(yīng)力波來判斷泄漏和定位，對(duì)外帶包層或埋地的管道，應(yīng)力波衰減很快，長距離難以檢測(cè)，限制了這種方法的應(yīng)用；SCADA模型法響應(yīng)速度較快，可快速檢出管道較大的泄漏，但投資很大，沿管道需要安裝復(fù)雜的控制傳感系統(tǒng)。我國大中城市中使用的檢漏手段基本上還是人工聽漏法，這種原始的人工聽漏方法可靠性低，抗干擾性差，需要耗費(fèi)大量人力。近年來，國內(nèi)外發(fā)展起來一些新的基于現(xiàn)代控制理論、信號(hào)處理的泄漏檢測(cè)與定位技術(shù)，這些方法仍然需要大量的數(shù)學(xué)建模。

針對(duì)以上各種方案的不足，提出應(yīng)用神經(jīng)網(wǎng)絡(luò)的自組織、自學(xué)習(xí)能力進(jìn)行供水管道泄露的診斷方法，這種方法只需將給水管網(wǎng)的各種工況下對(duì)測(cè)壓點(diǎn)造成影響的數(shù)據(jù)輸入神經(jīng)網(wǎng)絡(luò)，讓其充分學(xué)習(xí)直到收斂，然后在將來的檢測(cè)中只需將測(cè)壓點(diǎn)數(shù)據(jù)輸入訓(xùn)練好的神經(jīng)網(wǎng)絡(luò)就可以判斷管網(wǎng)是否發(fā)生滲漏，并確定滲漏位置。而測(cè)壓點(diǎn)的數(shù)據(jù)是可以通過SCADA實(shí)時(shí)傳回來，這樣也就實(shí)現(xiàn)了管道泄露的實(shí)時(shí)診斷。

3 基于BP算法的神經(jīng)網(wǎng)絡(luò)設(shè)計(jì)

三層BP神經(jīng)網(wǎng)絡(luò)技術(shù)應(yīng)用中最關(guān)鍵的構(gòu)造參數(shù)包括輸入層、隱含層和輸出層的節(jié)點(diǎn)數(shù)，以及在神經(jīng)網(wǎng)絡(luò)各層之間連接權(quán)值和節(jié)點(diǎn)閾值的初始化。

3.1 輸入層節(jié)點(diǎn)數(shù)

由于實(shí)際管網(wǎng)的節(jié)點(diǎn)數(shù)較多，如果全部做為神經(jīng)網(wǎng)絡(luò)的原始訓(xùn)練數(shù)據(jù)，將會(huì)導(dǎo)致運(yùn)算量過大，且難以收斂，可以采用管道泄露前后6個(gè)監(jiān)測(cè)點(diǎn)（含泄漏點(diǎn)）水壓變化數(shù)據(jù)進(jìn)行訓(xùn)練。采用水壓監(jiān)測(cè)診斷故障的方法可以充分利用現(xiàn)有的SCADA系統(tǒng)，從而可以很容易實(shí)現(xiàn)。

除了管道泄露前后6個(gè)監(jiān)測(cè)點(diǎn)（含泄漏點(diǎn)）外，還包括該泄漏點(diǎn)處的正常工況下的水壓，因此輸入層共有7個(gè)節(jié)點(diǎn)，即輸入模式向量的維數(shù)為7。表1為各工況下測(cè)壓點(diǎn)水頭。

3.2 輸出層節(jié)點(diǎn)數(shù)

輸出層的節(jié)點(diǎn)數(shù)即各模式理想的輸出向量的維數(shù)，因?yàn)槔硐胼敵鱿蛄勘仨毮軈^(qū)分各種不同的模式，因此輸出層的節(jié)點(diǎn)數(shù)跟模式的個(gè)數(shù)相關(guān)。因?yàn)槟Ｊ絺€(gè)數(shù)為7個(gè)，因此輸出層節(jié)點(diǎn)數(shù)可以取1個(gè)或7個(gè)等。用1個(gè)輸出層節(jié)點(diǎn)的神經(jīng)網(wǎng)絡(luò)，其模式分類和辨別能力是不夠的。當(dāng)取7個(gè)輸出節(jié)點(diǎn)時(shí)，輸出向量分別為（0，0，0，0，0，1）；（0，0，0，0，1，0）；（0，0，0，1，0，0）；（0，0，1，0， 0，0）；（0，1，0，0，0，0）；（1，0，0，0，0，0）；（0，0，0，0，1，1）。

3.3 隱含層節(jié)點(diǎn)數(shù)

采用適當(dāng)?shù)碾[含層節(jié)點(diǎn)數(shù)往往是網(wǎng)絡(luò)成敗的關(guān)鍵。中間層節(jié)點(diǎn)數(shù)選用太少，網(wǎng)絡(luò)難以處理較復(fù)雜的問題；但若中間層節(jié)點(diǎn)數(shù)過多，將使網(wǎng)絡(luò)訓(xùn)練時(shí)間急劇增加，而且過多的節(jié)點(diǎn)數(shù)容易使網(wǎng)絡(luò)訓(xùn)練過度。

可以用幾何平均規(guī)則來選擇隱含層中的節(jié)點(diǎn)數(shù)。那么，具有n個(gè)輸入節(jié)點(diǎn)及m個(gè)輸出節(jié)點(diǎn)對(duì)三層網(wǎng)絡(luò)，其中間層節(jié)點(diǎn)數(shù) hm n？。隱含層節(jié)點(diǎn)數(shù)可取7，嘗試取隱含層節(jié)點(diǎn)數(shù)的范圍為3～50，以對(duì)其在更大的范圍內(nèi)進(jìn)行優(yōu)化。

3.4 程序流程圖

圖1為三層BP神經(jīng)網(wǎng)絡(luò)的程序流程圖。

圖5 隱含層節(jié)點(diǎn)數(shù)為35時(shí)的誤差曲線

3.6 網(wǎng)絡(luò)仿真結(jié)果

BP神經(jīng)網(wǎng)絡(luò)仿真結(jié)果如表2所示。

從仿真結(jié)果可以看出，該神經(jīng)網(wǎng)絡(luò)已經(jīng)能夠很好的識(shí)別不同節(jié)點(diǎn)發(fā)生滲漏時(shí)的特征，給出的仿真結(jié)果與期望的輸出T矩陣非常相似，最大誤差小于1e-6。

3.7 驗(yàn)證神經(jīng)網(wǎng)絡(luò)

將節(jié)點(diǎn)10411滲漏后各節(jié)點(diǎn)水頭數(shù)據(jù)：

L=[37.47，35.06，35.29，37.46，33.01，29.74]

輸入已經(jīng)訓(xùn)練好的神經(jīng)網(wǎng)絡(luò)，通過調(diào)用SIGMOID函數(shù)，輸出結(jié)果如表3所示。

由結(jié)果可以看出，目標(biāo)輸出與實(shí)際輸出非常接近，誤差滿足10E-5精度，所以可以證明此神經(jīng)網(wǎng)絡(luò)完全具有診斷管網(wǎng)泄露的能力。

4 結(jié)束語

本文所提出的基于BP神經(jīng)網(wǎng)絡(luò)來檢測(cè)與診斷泄露的方法。該方法應(yīng)用神經(jīng)網(wǎng)絡(luò)的自組織、自學(xué)習(xí)能力進(jìn)行供水管道泄露的診斷方法，只需將給水管網(wǎng)的各種工況下對(duì)測(cè)壓點(diǎn)造成影響的數(shù)據(jù)輸入神經(jīng)網(wǎng)絡(luò)，讓其充分學(xué)習(xí)直到收斂，然后在將來的檢測(cè)中只需將測(cè)壓點(diǎn)數(shù)據(jù)輸入訓(xùn)練好的神經(jīng)網(wǎng)絡(luò)就可以判斷管網(wǎng)是否發(fā)生滲漏，并確定滲漏位置。而測(cè)壓點(diǎn)的數(shù)據(jù)是可以通過SCADA實(shí)時(shí)傳回來，實(shí)現(xiàn)了管道泄露的實(shí)時(shí)診斷。適合于城市供水管道泄露的檢測(cè)和診斷，有較好的發(fā)展前景。

參考文獻(xiàn)

[1] 順舟科技Z-BEE無線產(chǎn)品技術(shù)手冊(cè)

[2] AN965 Microchip ZigBeeTM協(xié)議棧

[3] 王巖，張國山.基于ZigBee協(xié)議的無線傳感器網(wǎng)絡(luò)設(shè)計(jì).微計(jì)算機(jī)信息，2008，4-1：21-23

第9篇：神經(jīng)網(wǎng)絡(luò)的訓(xùn)練流程范文

但當(dāng)BP神經(jīng)網(wǎng)絡(luò)應(yīng)用于預(yù)測(cè)模型尤其對(duì)于未來增長趨勢(shì)比較明顯的預(yù)測(cè)模型時(shí)，雖然其收斂精度較高，但其值域范圍受限導(dǎo)致訓(xùn)練樣本擬合函數(shù)與預(yù)測(cè)數(shù)據(jù)有較大差異，導(dǎo)致其局部搜索能力較強(qiáng)但全局搜索能力較差，易陷入局部最優(yōu)值。本文通過引入遺傳算法，發(fā)揮該算法全局搜索能力較強(qiáng)的特點(diǎn)，對(duì)BP神經(jīng)網(wǎng)絡(luò)權(quán)值和閾值進(jìn)行預(yù)優(yōu)化，賦予各層較佳輸出解空間，發(fā)揮BP神經(jīng)網(wǎng)絡(luò)局部搜索能力強(qiáng)的特點(diǎn)，實(shí)現(xiàn)強(qiáng)強(qiáng)聯(lián)合，提高時(shí)間序列預(yù)測(cè)的精準(zhǔn)度。

1．1BP神經(jīng)網(wǎng)絡(luò)

BP(BackPropagationnetwork)神經(jīng)網(wǎng)絡(luò)是當(dāng)今預(yù)測(cè)領(lǐng)域應(yīng)用最廣泛的一種神經(jīng)網(wǎng)絡(luò)算法。BP神經(jīng)網(wǎng)絡(luò)由3層組成:輸入層、隱含層和輸出層。每一層中都包含若干節(jié)點(diǎn)(神經(jīng)元)，不同層之間節(jié)點(diǎn)通過權(quán)值進(jìn)行全連接，同層節(jié)點(diǎn)之間無連接。其中，隱含層可為多層，實(shí)際應(yīng)用過程中有一個(gè)隱含層的三層神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)即可實(shí)現(xiàn)非線性函數(shù)擬合。

1．2遺傳算法

本文中的優(yōu)化對(duì)象為BP神經(jīng)網(wǎng)絡(luò)各層間權(quán)值和閾值。因此，在種群初始化時(shí)，遺傳算法采用常用的二進(jìn)制編碼，并由農(nóng)業(yè)機(jī)械數(shù)量的歷史樣本數(shù)目確定遺傳算法將優(yōu)化的參數(shù)(權(quán)值和閾值)個(gè)數(shù)，從而確定種群的編碼長度。因BP神經(jīng)網(wǎng)絡(luò)隱含層神經(jīng)元采用S型傳遞函數(shù)，為減小計(jì)算誤差，減少或避免計(jì)算結(jié)果落入局部最小值，權(quán)值和閾值應(yīng)避免選擇區(qū)間內(nèi)較小和較大數(shù)值，選擇在［－0．5，0．5］區(qū)間內(nèi)的隨機(jī)數(shù)。遺傳算法計(jì)算流程。

2預(yù)測(cè)結(jié)果與分析

本文采用基于遺傳算法的BP神經(jīng)網(wǎng)絡(luò)，以我國從1997－2013年的農(nóng)業(yè)機(jī)械數(shù)量為基礎(chǔ)數(shù)據(jù)進(jìn)行訓(xùn)練和測(cè)試和預(yù)測(cè)。其中，遺傳算法群體規(guī)模M=50，交叉概率pc=0．6，變異概率pm=0．01，BP神經(jīng)網(wǎng)絡(luò)權(quán)值閾值取值空間為［－0．5，0．5］，訓(xùn)練次數(shù)為1000，訓(xùn)練目標(biāo)為0．01，學(xué)習(xí)速率為0．1。我國在1997－2013年期間的農(nóng)機(jī)總動(dòng)力、農(nóng)用大中型拖拉機(jī)數(shù)量和小型拖拉機(jī)數(shù)量的預(yù)測(cè)值與歷史樣本數(shù)據(jù)之間的絕對(duì)值平絕誤差分別為1．080%、1．352%和1．765%。由此看出，使用基于遺傳算法的BP神經(jīng)網(wǎng)絡(luò)對(duì)于以農(nóng)業(yè)機(jī)械數(shù)量為預(yù)測(cè)對(duì)象的時(shí)間序列預(yù)測(cè)模型的預(yù)測(cè)精度較好，預(yù)測(cè)精度穩(wěn)定性較佳。從預(yù)測(cè)誤差可以看出，本文所使用的BP神經(jīng)網(wǎng)絡(luò)在預(yù)測(cè)本時(shí)間序列模型時(shí)，基本避免運(yùn)算結(jié)果落入局部最小值，收斂性能較好，與前文中遺傳算法和BP神經(jīng)網(wǎng)絡(luò)優(yōu)勢(shì)互補(bǔ)、強(qiáng)強(qiáng)聯(lián)合的理論設(shè)想較為一致。2014年我國農(nóng)機(jī)總動(dòng)力、農(nóng)用大中型拖拉機(jī)數(shù)量和小型拖拉機(jī)數(shù)量的預(yù)測(cè)結(jié)果來看，該預(yù)測(cè)結(jié)果與2013年度數(shù)值比較有較大增長，但增長幅度有所下降。預(yù)計(jì)到2014年，我國農(nóng)機(jī)總動(dòng)力、大中型拖拉機(jī)數(shù)量和小型拖拉機(jī)數(shù)量分別為11．251×108kW、587．012萬臺(tái)和2043．201萬臺(tái)，與1997年相比分別增加了167．86%、751．96%和94．87%，與2013年相比分別增加了4．17%、10．75%和2．16%。其中，2014年農(nóng)機(jī)總動(dòng)力和小型拖拉機(jī)數(shù)量增長率分別小于2013年的增長率5．88%和3．3%，農(nóng)用大中型拖拉機(jī)數(shù)量增長率大于2013年的增長率9．19%。由于我國在2004年出臺(tái)了一系列鼓勵(lì)提高農(nóng)業(yè)機(jī)械化的法律、政策、法規(guī)，中央財(cái)政農(nóng)機(jī)購置補(bǔ)貼資金投入連年大幅增加，極大地調(diào)動(dòng)了農(nóng)民購機(jī)的積極性和企業(yè)生產(chǎn)的積極性，促進(jìn)我國農(nóng)機(jī)裝備總量持續(xù)增長和農(nóng)機(jī)結(jié)構(gòu)優(yōu)化。隨著跨區(qū)作業(yè)和農(nóng)業(yè)生產(chǎn)合作社的逐步發(fā)展，有效提高了農(nóng)用大中型拖拉機(jī)在農(nóng)業(yè)生產(chǎn)中的的利用率，降低了農(nóng)民勞動(dòng)強(qiáng)度，提高生產(chǎn)效率，因而其近幾年的保有量有較大增幅。小型拖拉機(jī)受農(nóng)業(yè)產(chǎn)業(yè)結(jié)構(gòu)調(diào)整和農(nóng)業(yè)機(jī)械大型化的影響，其近幾年的保有量增幅逐年降低。

3結(jié)論