神經網絡學習規(guī)則精選(九篇)

前言：一篇好文章的誕生，需要你不斷地搜集資料、整理思路，本站小編為你收集了豐富的神經網絡學習規(guī)則主題范文，僅供參考，歡迎閱讀并收藏。

第1篇：神經網絡學習規(guī)則范文

【關鍵詞】神經網絡 手寫 識別系統(tǒng) 應用

隨著計算機技術的快速發(fā)展，其在人們的辦公學習和日常生活成了不可替代的工具。鍵盤已經幾乎完全替代了筆在人們生活中的地位，隨之而來的后果就是人們越來越少的區(qū)書寫漢字，導致越來越多的中國人甚至都忘記了漢字該如何書寫，這種現象在很多研究和報道中都有體現。計算機和鍵盤是由西方國家發(fā)明的，其符合西方國家的語言習慣，對于中國人來說，用字母、符號去完成方塊漢字的輸入就需要使用者非常熟悉漢語拼音或者五筆編碼，對于文化程度較低的使用者來說，這些都限制著他們使用計算機。鑒于計算機鍵盤的這些缺陷，聯機手寫輸入法應運而生，這為計算機的輸入帶來了新的發(fā)展機遇和挑戰(zhàn)。

1 聯機漢字手寫識別的意義及難點

聯機漢字識別是用書寫板代替?zhèn)鹘y(tǒng)紙張，筆尖通過數字化書寫板的軌跡通過采樣系統(tǒng)按時間先后發(fā)送到計算機中，計算機則自動的完成漢字的識別和顯示。

1.1 聯機漢字手寫識別的意義

聯機手寫漢字識別的誕生具有非常重要的意義。首先這種輸入方法延續(xù)了幾千年中華文明的寫字習慣，實現用戶的手寫輸入，對于長時間不提筆寫字的用戶來說能夠加強其對漢字書寫方面的認識，防止“提筆忘字”現象的繼續(xù)惡化。其次，手寫漢字輸入不需要學習和記憶計算機的漢字編碼規(guī)則，其完全符合中國人的寫字習慣，使人機之間的交流更人性化，更方便快捷。另外，隨著移動智能終端的不斷普及，聯機漢字手寫識別的應用范圍將進一步擴大，以適用于不同層次人群對信息輸入的需要，具有較大的市場發(fā)展前景。

1.2 聯機手寫漢字識別問題的難點

手寫漢字識別是光學字符讀出器中最難的部分，也是其最終的目標，手寫漢字識別的應用主要依賴于其正確識別率和識別速度[1]。手寫漢字識別系統(tǒng)的問題具有其特殊性：

（1）中國漢字量大。我國目前的常用漢字大概在4000個左右，在實際應用中的漢字識別系統(tǒng)應該能夠完全識別這些常用的字才能夠滿足需要，由于超大的漢字量，使得手寫識別的正確率和識別速度一直不高。

（2）字體多，結構復雜。漢字的手寫字體豐富多彩，且漢字的筆畫繁多，以及復雜的結構，再加上漢字中的形近字頗多，這些都為漢字識別系統(tǒng)的發(fā)展造成了很大的困難。

（3）書寫變化大。不同用戶在進行手寫輸入時其字體的變化是很大的，這種變化因人而異，對漢字識別造成了很大的干擾，增加了漢字匹配的難度。

2 人工神經網絡概述

人工神經網絡是一種應用類似于大腦神經突觸聯接的結構進行信息處理的數學模型，通常簡稱為神經網絡，是一種仿生物神經的信號處理模型。在二十世紀四十年代初人們開始進行神經網絡的研究，經過幾十年的發(fā)展，神經網絡也產生了一系列的突破，目前應用最多的是Hopfield模型和BP算法。

神經網絡的一般模型一般包括十個方面：環(huán)境、處理單元、傳播規(guī)則、神經網絡的狀態(tài)、互聯模式、穩(wěn)定狀態(tài)、操作模式、活躍規(guī)則、活化函數和學習算法。其中，神經元、互聯模式、學習算法是神經網絡模型中的三個關鍵因素。神經網絡的一個重要內容就是學習，其學習方式可以分為監(jiān)督學習和無監(jiān)督學習，其學習過程一般遵循Hebb規(guī)則，誤差修正學習算法以及勝者為王的學習規(guī)則，其中Hebb規(guī)則是神經網絡學習中最基本的規(guī)則。

人工神經網絡具有獨特的優(yōu)越性。首先其具有主動學習的功能，在漢字識別過程中，先將漢字模板及可能的識別結果輸入到神經網絡中，神經網絡能夠通過其自身的學習過程來實現對漢字的識別，自學功能對于神經網絡的預測功能具有非常重要的意義。其次，神經網絡系統(tǒng)具有聯想存儲功能，其反饋功能能夠實現這種聯想。另外，通過計算機的高速運算能力，神經網絡具有高速尋找優(yōu)化解的能力。

3 人工神經網絡在聯機手寫識別系統(tǒng)中的應用

漢字識別屬于大類別模式識別，人工神經網絡可以通過函數逼近、數據分類、數據聚類三種作用方式以及“聯想”的特殊模式對漢字進行識別。Hopfield神經網絡作為反饋網絡的一種，其自聯想記憶網絡可以使系統(tǒng)不需要通過大量的訓練即可對漢字進行識別，因此Hopfield神經網絡對于漢字識別來說具有獨特的優(yōu)勢。其中的離散型Hopfield神經網絡能夠通過串行異步和并行同步的工作方式，使其反饋過程具有非常好的穩(wěn)定性，而網絡只有通過不斷的演變穩(wěn)定在某一吸引子狀態(tài)時，才能夠實現正確的聯想。

聯機手寫識別可以分為訓練階段和識別階段。訓練階段流程依次為：標準書寫字符圖像預處理，提取特征并建立特征庫，建立Hopfield網絡模型，訓練網絡，保存權值。識別階段的流程為：坐標序列轉化為bmp圖像，預處理測試樣本，提取特征，送入網絡運行，運行網絡到平衡狀態(tài)，分析結果值。根據聯機手寫識別的工作流程以及Hopfield網絡模型的理論，基于Hopfield神經網絡的聯機手寫識別系統(tǒng)在Matlab環(huán)境下得到了仿真模擬，效果非常理想。

4 總結

手寫識別系統(tǒng)能夠彌補普通鍵盤的不足，在提高漢字書寫頻率的同時，能夠滿足不同層次人群對計算機應用的技術需要。基于Hopfield神經網絡的聯機手寫識別系統(tǒng)一起自身獨特的性能，不僅能夠滿足手寫漢字識別的正確率，而且其識別過程速度非?？?。因此它對于實現聯機手寫識別以及圖像識別具有非常重要的意義。

參考文獻

[1]俞慶英.聯機手寫漢字識別系統(tǒng)的研究與實現[D].安徽大學，2005（5）.

[2]郭力賓.交叉點的神經網絡識別及聯機手寫字符的概率神經網絡識別初探[D].大連理工大學，2003（03）.

[3]趙蓉.基于神經網絡的聯機手寫識別系統(tǒng)研究與實現[D].西安電子科技大學，2011（01）.

第2篇：神經網絡學習規(guī)則范文

【關鍵詞】PID控制;BP神經網絡;模糊PID控制

Abstruct：PID control are widely used in industrial process control，but the traditional PID control because of its control parameters are fixed，and it is difficult to adjust its parameters online.So this paper studies a new adaptive fuzzy PID control method，to solve problem without the ability to learn，and put forward a kind of adaptive fuzzy control method based on BP neural network in this paper.It is the effective combination of fuzzy control，neural network and PID control.Simulation results show that this fuzzy PID control method based on BP neural network has good control effect.

Keywords：PID control;BP neural network;Fuzzy PID control

1.引言

常規(guī)PID在控制領域被廣泛應用，利用數學算法來整定參數。而且隨著控制系統(tǒng)的復雜，被控對象很難建立數學模型，人們開始探索新的控制方式。模糊控制不要求掌握被控對象的精確的數學模型，根據人工控制規(guī)則組織控制決策表，然后由該表決定控制量的大小。在一般的模糊系統(tǒng)設計中，規(guī)則是由經驗豐富的專業(yè)人員以語言的方式表達出來的。但對于某些問題即使是很有經驗的專業(yè)人員也很難將他們的經驗總結、歸納為一些比較明確而簡化的規(guī)則。在這種情況下，就可以應用神經網絡的方法，依靠BP神經網絡的自學習功能，實現模糊控制的神經、模糊融合技術，并借助其并行分布的結構來估計輸入到輸出的映射關系，直接從原始的工作數據中歸納出若干控制規(guī)則。從而為模糊系統(tǒng)建立起行之有效的決策規(guī)則。

2.PID控制器原理

2.1 PID控制的微分方程

PID控制器是一種線性控制器，它將給定值r（t）與實際輸出值c（t）的偏差的比例（p）、積分（I）、微分（D）通過線性組合構成控制量，對控制對象進行控制。

式中：

2.2 PID控制器各環(huán)節(jié)的作用

（1）比例環(huán)節(jié)：及時成比例地反應控制系統(tǒng)的偏差信號e（t），偏差一旦產生，控制器立即產生控制作用以減小偏差。

（2）積分環(huán)節(jié)：積分作用會使系統(tǒng)穩(wěn)定性下降，Kd大會使系統(tǒng)不穩(wěn)定，但能消除靜態(tài)誤差。

（3）微分環(huán)節(jié)：能反應偏差信號的變化趨勢，并能在偏差信號值變得太大之前，在系統(tǒng)中引入一個早期修正信號，從而加快系統(tǒng)的動作速度，減小調節(jié)時間。Kd偏大時，超調較大，調節(jié)時間短;Kd偏小時，超調量也較大，調節(jié)時間長;只有Kd合適時才能超調小，時間短。

3.BP神經網絡與模糊控制

模糊控制是運用語言歸納操作人員的控制策略，運用變量和模糊集合理論形成控制算法的一種控制。如何讓機器像人一樣識別、理解模糊規(guī)則并進行模糊邏輯推理，最終得出新的結論并實現自動控制是模糊控制研究的主要內容。模糊控制器的基本結構如圖1所示。

圖1 模糊控制結構

人工神經網絡是由大量人工神經元經廣泛互連二組成的，它可用來模擬腦神經系統(tǒng)的結構和功能。人工神經網絡可以看成是以人工神經元為節(jié)點，用有向加權弧連接起來的有向圖。BP網絡是一種利用誤差反向傳播訓練算法的神經網絡，是一種有隱含層的多層前饋網絡，系統(tǒng)地解決了多層網絡中隱含單元連接權的學習問題。BP學習算法的基本原理是梯度最速下降法，它的中心思想是調整權值使網絡總誤差最小。也就是采用梯度搜索技術，以期使網絡的實際輸出值與期望輸出值的誤差均方值為最小。網絡學習過程是一種誤差邊向后傳播邊修正權系數的過程。其結構如圖2所示。

圖2中隱含層第一層神經元為7個，分別對應7個模糊子集：NB、NM、NS、ZO、PS、PM、PB。第二層49個神經元代表49條規(guī)則。第三層7個神經元代表輸出的7個模糊子集。模糊控制不依靠對象的數學模型，但模糊規(guī)則的建立需要人工經驗。采用BP算法對工程經驗和專家經驗的模糊規(guī)則進行訓練，其實就是把模糊規(guī)則用神經網絡來表示，即經過神經網絡的學習，將模糊規(guī)則以加權系數的形式表現出來，規(guī)則的生成就轉化為加權系數的確定和修改。

神經網絡是大規(guī)模并行運算，但由于網絡結構復雜，訓練和學習需要大量的時間，所以目前還無法實現實時控制。在具體應用中，我們是先離線將神經網絡的各層權值和閾值訓練出來，將其參數固定下來，然后將有系統(tǒng)檢測、計算得到的誤差變化直接代入非線性映射關系中，由計算機算出控制量，再用作被控對象。在matlab下以、、為輸出的BP網絡仿真訓練如圖3、圖4、圖5所示。

4.模糊PID控制器的原理與仿真

對于某一BP神經網絡控制系統(tǒng)，其中內部變化及被控對象的數學模型為：

利用模糊控制對PID參數實現在線調節(jié)，原理如圖6。

圖6 模糊PID控制原理圖

采用Z-N法和試湊法相結合，借助MATLAB的SIMULINK平臺，對被控對象進行常規(guī)PID仿真。參數值：kp=15，ki=6，kd=0.05。如圖7。作為比較，建立模糊PID控制器的仿真模型如圖8。

圖9、圖10分別為被控對象G（s）在階躍輸入下常規(guī)PID和模糊PID仿真結果的比較。

經過仿真發(fā)現，常規(guī)PID控制缺點是超調量大，調節(jié)時間長，動態(tài)性能差。優(yōu)點是控制精度高，穩(wěn)定性能好。模糊控制動態(tài)性能很好，上升速度快，基本無超調。但由于模糊化所造成的穩(wěn)態(tài)誤差，在沒有積分環(huán)節(jié)的情況下很難消除，故穩(wěn)態(tài)性能差。模糊PID繼承了二者的優(yōu)點，摒棄二者缺點，具有更全面優(yōu)良的控制性能。

5.結論

針對大滯后、慢時變、非線性的復雜系統(tǒng)，提出了一種基于BP神經網絡的模糊PID控制算法，該算法不依賴被控對象的精確數學模型，可實現在線自調整模糊規(guī)則，從而增強了模糊控制器的自學習能力。通過算法的仿真研究，驗證了算法的可行性。

參考文獻

[1]李華.計算機控制系統(tǒng)[M].北京：機械工業(yè)出版社，2007.

[2]高雋.人工神經網絡原理及仿真實例[M].北京：機械工業(yè)出版社，2007.

[3]蔡自興.智能控制[M].北京：電子工業(yè)出版社，2003.

[4]李國勇.智能控制及其MATLAB實現[M].北京：電子工業(yè)出版社，2005.

[5]張德豐.MATLAB神經網絡應用設計[M].北京：機械工業(yè)出版社，2009.

[6]劉金琨.先進PID控制及其MATLAB仿真[M].北京：電子工業(yè)出版社，2003.

[7]劉玲.三容水箱的單神經元自適應PID控制研究[J].信息技術，2005，3（8）：32-137.

第3篇：神經網絡學習規(guī)則范文

關鍵詞 直覺模糊邏輯；直覺模糊規(guī)則；區(qū)間值描述；自適應直覺模糊神經網絡

中圖分類號：TP183 文獻標識碼：A 文章編號：1671-7597（2013）24-0045-02

基于自適應網絡的模糊推理系統(tǒng)（ANFIS）采用反向傳播算法和最小二乘法調整模糊推理系統(tǒng)的參數，并能自動產生模糊規(guī)則，堪稱模糊神經網絡的經典之作。自此，由于自適應模糊神經網絡通過控制模糊規(guī)則的自動生成和修剪，可得到一個規(guī)則數更小和泛化能力更佳的網絡結構，動態(tài)模糊神經網絡就成為模糊神經網絡研究的熱點。為了克服動態(tài)模糊神經網絡的高斯隸屬度函數的不足，文獻[1]在采用橢圓基函數使隸屬函數寬度自適應輸入變量的基礎上，提出廣義動態(tài)模糊神經網絡（GD-FNN）。Gang等進一步將隸屬函數寬度自適應于神經元，提出一種結構更為緊湊的自組織模糊神經網絡（SOFNN）。

直覺模糊集是對模糊集最有影響的擴展，語義描述上具有獨到的優(yōu)勢，并成功拓展到模糊推理、信息決策、非線性計算等領域。本文針對T-S模糊規(guī)則在語義描述上存在不足，在Xu最近提出的直覺模糊數運算的基礎上給出了一種適合網絡計算的直覺模糊規(guī)則，并將動態(tài)模糊神經網絡拓展，提出了一種自適應直覺模糊神經網（AIFNN）結構。

1 直覺模糊邏輯和規(guī)則

模糊集的隸屬函數值僅是一個單一值，不能同時描述支持、反對和猶豫。20世紀80年代末，Atanassov對Zadeh的模糊集合概念進行了一系列的拓展，提出了直覺模糊集的概念和理論。Gau于1993年提Vague集合理論，并構造了Vague集隸屬度的子區(qū)間描述。最近，徐澤水教授提出了基于隸屬度的區(qū)間值描述的直覺模糊集，并在直覺模糊集上構造了一系列運算規(guī)則。

定義1：（直覺模糊集）設是一個給定論域，則上的一個直覺模糊集為

（1）

其中定義隸屬函數為：

非隸屬函數為：

且恒有

并定義猶豫度或不確定度為：

定義2：（基于Vague集隸屬度的直覺模糊集）設為上的一個Vague集，則的隸屬函數滿足：

（2）

即為[0，1]的子區(qū)間，重新定義直覺模糊集為，其中滿足式（1），當退化為模糊集。

定義3：（基于區(qū)間值描述的直覺模糊規(guī)則）設區(qū)間值為神經網絡結構中定義2給定的直覺模糊數區(qū)間值表示，表示直覺模糊數的隸屬度中心，表示直覺模糊數的隸屬度寬度，且滿足

如是自然的將T-S模糊神經網絡規(guī)則拓展為直覺模糊規(guī)則，具有以下的形式：

（3）

其中是直覺模糊集，為輸入變量數，是直覺模糊規(guī)則數。

2 AIFNN結構和直覺模糊算子的數值計算

AIFNN的結構是一個六層的網絡結構，如圖1所示。

圖1 AIFNN的結構

第一層：輸入層，每個節(jié)點分別表示一個輸入語言變量。

第二層：隸屬函數層，每個節(jié)點分別表示一個直覺模糊隸屬函數。隸屬函數如下式所示：

（4）

其中，作為高斯隸屬函數的中心，和 （ ）是高斯隸屬函數的寬度。因此，節(jié)點隸屬度函數的區(qū)間值輸出。

第三層：范數層，每個節(jié)點分別代表一條直覺模糊規(guī)則中的if部分，采用一個簡化的直覺模糊Bonferroni平均算子，第個節(jié)點的條件輸出為區(qū)間值：

（5）

第四層：結論層，每個節(jié)點分別代表一條直覺模糊規(guī)則中的then部分，采用直覺模糊權重平均算子的變形，計算第個節(jié)點的結論輸出為一區(qū)間值：

（6）

第五層：輸出處理層，輸出為，通過面積中心法進行求解，如下式所示：

（7）

其中和由歸一化計算隸屬度函數求得：

（8）

第六層：輸出層，每一個節(jié)點都與一個語言變量相關聯，通過去模糊化算子計算輸出。

（9）

3 基于AIFNN的非線性函數逼近

通過典型的非線性函數逼近驗證AIFNN算法的有效性，其試驗效果圖如圖2所示。從圖（a）可以看出，規(guī)則是一條一條地生成的；從圖（b）可以看出，均方根誤差陡峭的地方，表明該處生成了或刪除了規(guī)則；圖（c）為訓練集的目標值和AIFNN輸出的實際值的比較，期望值與實際值基本重合在一起；圖（d）為訓練集目標值與AIFNN輸出的實際值之間的誤差；圖（e）為測試集的目標值和AIFNN輸出的實際值的比較；圖（f）為測試集目標值與AIFNN輸出的實際值之間的誤差。

為評估非線性函數逼近性能，采用誤差平均百分比（APE）度量算法性能。

定義如下：

（10）

其中為第個樣本的理想目標值，為第個樣本的網絡實際輸出。

采用典型的三變量非線性函數為例，描述如下：

（11）

在定義域中隨機選取216個訓練樣本和125個測試樣本。

表1 非線性函數逼近性能比較

算法 規(guī)則數目 參數數目 訓練APE 測試APE

ANFIS 8 50 0.043 1.066

GD-FNN 10 64 2.11 1.54

SOFNN 9 60 1.1380 1.1244

FAOS-PFNN 7 35 1.89 2.95

AIFNN 5 50 0.7420 0.9051

從表1可以看出，AIFNN生成的規(guī)則數最小，測試的APE最小，因此，生成的網絡具有結構最緊湊和泛化性能最佳的特點。相對于GD-FNN和SOFNN性能顯著提高，究其原因，高斯隸屬函數的寬度對網絡的結構和泛化能力影響巨大。AIFNN采用UKF學習高斯隸屬函數寬度的環(huán)節(jié)，減小了對初值的依賴，并且精度能夠達到二階以上。更重要的是，AIFNN將高斯隸屬函數的寬度定義為一個直覺模糊數的區(qū)間值表示，在不確定性表達和處理上更為靈活。

（a）規(guī)則的生成和刪除 （b）均方根誤差

（c）訓練期望值與實際值 （d）訓練函數值的誤差

（e）測試期望值與實際值 （f）測試函數值的誤差

圖2 AIFNN非線性函數逼近

4 結束語

本文提出了AIFNN的結構，結構辨識和參數學習同時進行，采用動態(tài)的模糊規(guī)則的修剪策略。AIFNN將高斯隸屬函數的寬度定義為一個直覺模糊數描述的區(qū)間值，在不確定性表達和處理上更為靈活。此外，AIFNN增加了一個用UKF學習高斯隸屬函數寬度的環(huán)節(jié)，減小了對初值的依賴，并且精度能夠達到二階以上。因此，AIFNN訓練的網絡結構更為緊湊，泛化性能更佳。通過函數逼近實例，表明本文算法訓練的神經網絡的有效性，并且性能具有整體優(yōu)勢。

第4篇：神經網絡學習規(guī)則范文

人腦是自生命誕生以來，生物經過數十億年漫長歲月進化的結果，是具有高度智能的復雜系統(tǒng)，它不必采用繁復的數字計算和邏輯運算，卻能靈活處理各種復雜的，不精確的和模糊的信息，善于理解語言、圖象并具有直覺感知等功能。

人腦的信息處理機制極其復雜，從結構上看它是包含有140億神經細胞的大規(guī)模網絡。單個神經細胞的工作速度并不高（毫秒級），但它通過超并行處理使得整個系統(tǒng)實現處理的高速性和信息表現的多樣性。

因此，從信息處理的角度對人腦進行探究，并由此研制出一種象人腦一樣能夠“思維”的智能計算機和智能信息處理方法，一直是人工智能追求的目標。

神經網絡就是通過對人腦的基本單元---神經元的建模和聯結，來探索模擬人腦神經系統(tǒng)功能的模型，并研制一種具有學習、聯想、記憶和模式識別等智能信息處理功能的人工系統(tǒng)。本文介紹神經網絡的特征以及近年來有關神經網絡和混沌理論、模糊計算和遺傳算法等相結合的混合神經網絡探究的動態(tài)。

一．神經網絡和聯結主義

回顧認知科學的發(fā)展，有所謂符號主義和聯結主義兩大流派。符號主義從宏觀層次上，撇開人腦的內部結構和機制，僅從人腦外在表現出來的智能現象出發(fā)進行探究。例如，將記憶、判定、推理、學習等心理活動總結成規(guī)律、甚至編制成規(guī)則，然后用計算機進行模擬，使計算機表現出各種智能。

符號主義認為，熟悉的基本元素是符號，認知過程是對符號表示的運算。人類的語言，文字的思維均可用符號來描述，而且思維過程只不過是這些符號的存儲、變換和輸入、輸出而已。以這種方法實現的系統(tǒng)具有串行、線性、準確、簡潔、易于表達的特征，體現了邏輯思維的基本特性。七十年代的專家系統(tǒng)和八十年代日本的第五代計算機探究計劃就是其主要代表。

聯接主義則和其不同，其特征是從微觀出發(fā)。聯接主義認為符號是不存在的，認知的基本元素就是神經細胞（神經元），認知過程是大量神經元的聯接，以及這種聯接所引起的神經元的不同興奮狀態(tài)和系統(tǒng)所表現出的總體行為。八十年代再度興起的神經網絡和神經計算機就是這種聯接主義的代表。

神經網絡的主要特征是摘要：大規(guī)模的并行處理和分布式的信息存儲，良好的自適應、自組織性，以及很強的學習功能、聯想功能和容錯功能。和當今的馮．諾依曼式計算機相比，更加接近人腦的信息處理模式。主要表現如下摘要：

神經網絡能夠處理連續(xù)的模擬信號。例如連續(xù)灰度變化的圖象信號。

能夠處理混沌的、不完全的、模糊的信息。

傳統(tǒng)的計算機能給出精確的解答，神經網絡給出的是次最優(yōu)的逼近解答。

神經網絡并行分布工作，各組成部分同時參和運算，單個神經元的動作速度不高，但總體的處理速度極快。

神經網絡信息存儲分布于全網絡各個權重變換之中，某些單元障礙并不影響信息的完整，具有魯棒性。

傳統(tǒng)計算機要求有準確的輸入條件，才能給出精確解。神經網絡只要求部分條件，甚至對于包含有部分錯誤的輸入，也能得出較好的解答，具有容錯性。

神經網絡在處理自然語言理解、圖象模式識別、景物理解、不完整信息的處理、智能機器人控制等方面有優(yōu)勢。

符號主義和聯接主義兩者各有特色，學術界目前有一種看法摘要：認為基于符號主義得傳統(tǒng)人工智能和基于聯接主義得神經網絡是分別描述人腦左、右半腦的功能，反映了人類智能的兩重性摘要：精確處理和非精確處理，分別面向熟悉的理性和感性兩個方面，兩者的關系應該是互補而非互相代替。理想的智能系統(tǒng)及其表現的智能行為應是兩者相互結合的結果。

接下去的新問題是，符號AI和聯接AI具體如何結合，兩者在智能系統(tǒng)中相互關系如何？分別扮演什么角色？目前這方面發(fā)表的文獻很多，大致有如下幾種類型摘要：

1．松耦合模型摘要：符號機制的專家系統(tǒng)和聯接機制的神經網絡通過一個中間媒介（例如數據文件）進行通訊。

2．緊耦合模型摘要：和松耦合模型相比較，其通訊不是通過外部數據進行，而是直接通過內部數據完成，具有較高的效率。其主要類型有嵌入式系統(tǒng)和黑板結構等。

3．轉換模型摘要：將專家系統(tǒng)的知識轉換成神經網絡，或把神經網絡轉換成專家系統(tǒng)的知識，轉換前的系統(tǒng)稱為源系統(tǒng)，轉換后的系統(tǒng)稱為目標系統(tǒng)，由一種機制轉成另一種機制。假如源系統(tǒng)是專家系統(tǒng)，目標系統(tǒng)是神經網絡，則可獲得學習能力及自適應性；反之，可獲得單步推理能力、解釋能力及知識的顯式表示。當然，轉換需要在兩種的機制之間，確定結構上的一致性，目前主要新問題是還沒有一種完備而精確的轉換方法實現兩者的轉換。有待進一步探究。

4．綜合模型摘要：綜合模型共享數據結構和知識表示，這時聯接機制和符號機制不再分開，兩者相互結合成為一個整體，既具有符號機制的邏輯功能，又有聯接機制的自適應和容錯性的優(yōu)點和特征。例如聯接主義的專家系統(tǒng)等。

近年來神經網絡探究的另一個趨向，是將它和模糊邏輯、混沌理論、遺傳進化算法等相結合，即所謂“混合神經網絡”方法。由于這些理論和算法都是屬于仿效生物體信息處理的方法，人們希望通過她們之間的相互結合，能夠獲得具有有柔性信息處理功能的系統(tǒng)。下面分別介紹。

二．混沌理論和智能信息處理

混沌理論是對貌似無序而實際有序，表面上看來是雜亂無章的現象中，找出其規(guī)律，并予以處理的一門學科。早在七十年代，美國和歐洲的一些物理學家、生物學家、數學家就致力于尋求在許許多多不同種類的不規(guī)則性之間的聯系。生物學家發(fā)現在人類的心臟中有混沌現象存在，血管在顯微鏡下交叉纏繞，其中也有驚人的有序性。在生物腦神經系統(tǒng)中從微觀的神經膜電位到宏觀的腦電波，都可以觀察到混沌的性態(tài)，證實混沌也是神經系統(tǒng)的正常特性。

九十年代開始，則更進一步將混沌和神經網絡結合起來，提出多種混沌神經網絡模型，并探索應用混沌理論的各種信息處理方法。例如，在神經元模型中，引入神經膜的不應性，探究神經元模型的混沌響應，探究在神經網絡的方程中，不應性項的定標參數，不定性時間衰減常數等參數的性質，以及這些參數于神經網絡混沌響應的關系，并確定混沌---神經網絡模型具有混沌解的參數空間。經過試驗，由這種混沌神經網絡模型所繪出的輸出圖形和腦電圖極為相似。

現代腦科學把人腦的工作過程看成為復雜的多層次的混沌動力學系統(tǒng)。腦功能的物理基礎是混沌性質的過程，腦的工作包含有混沌的性質。通過混沌動力學，探究、分析腦模型的信息處理能力，可進一步探索動態(tài)聯想記憶、動態(tài)學習并應用到模式識別等工程領域。例如摘要：

對混沌的隨機不規(guī)則現象，可利用混沌理論進行非線性猜測和決策。

對被噪聲所掩蓋的微弱信號，假如噪聲是一種混沌現象，則可通過非線性辨識，有效進行濾波。

利用混沌現象對初始值的敏銳依靠性，構成模式識別系統(tǒng)。

探究基于混沌---神經網絡自適應存儲檢索算法。該算法主要包括三個步驟，即摘要：特征提取、自適應學習和檢索。

模式特征提取采用從簡單的吸引子到混沌的層次分支結構來描述，這種分支結構有可能通過少數幾個系統(tǒng)參數的變化來加以控制，使復雜新問題簡單化。自適應學習采用神經網絡的誤差反傳學習法。檢索過程是通過一個具有穩(wěn)定吸引子的動力學系統(tǒng)來完成，即利用輸入的初始條件和某個吸引子（輸出）之間的存在直接對應關系的方法進行檢索。利用這種方法可應用于模式識別。例如黑白圖象的人臉識別。

三．模糊集理論和模糊工程

八十年代以來在模糊集理論和應用方面，也有很大進展。1983年美國西海岸AI探究所發(fā)表了稱為REVEAL的模糊輔助決策系統(tǒng)并投入市場，1986年美國將模糊邏輯導入OPS---5，并探究成功模糊專家系統(tǒng)外殼FLOPS，1987年英國發(fā)表采用模糊PROLOG的智能系統(tǒng)FRIL等。除此通用工具的研制以外，各國還開發(fā)一系列用于專用目的的智能信息處理系統(tǒng)并實際應用于智能控制、模式識別、醫(yī)療診斷、故障檢測等方面。

模糊集理論和神經網絡雖然都屬于仿效生物體信息處理機制以獲得柔性信息處理功能的理論，但兩者所用的探究方法卻大不相同，神經網絡著眼于腦的微觀網絡結構，通過學習、自組織化和非線性動力學理論形成的并行分析方法，可處理無法語言化的模式信息。而模糊集理論則著眼于可用語言和概念作為代表的腦的宏觀功能，按照人為引入的隸屬度函數，邏輯的處理包含有模糊性的語言信息。

神經網絡和模糊集理論目標相近而方法各異。因此假如兩者相互結合，必能達到取長補短的功能。將模糊和神經網絡相結合的探究，約在15年前便已在神經網絡領域開始，為了描述神經細胞模型，開始采用模糊語言，把模糊集合及其運算用于神經元模型和描述神經網絡系統(tǒng)。目前，有關模糊---神經網絡模型的探究大體上可分為兩類摘要：一類是以神經網絡為主，結合模糊集理論。例如，將神經網絡參數模糊化，采用模糊集合進行模糊運算。另一類以模糊集、模糊邏輯為主，結合神經網絡方法，利用神經網絡的自組織特性，達到柔性信息處理的目的。

和神經網絡相比，模糊集理論和模糊計算是更接近實用化的理論，非凡近年來美國和日本的各大公司都紛紛推出各種模糊芯片，研制了型號繁多的模糊推理板，并實際應用于智能控制等各個應用領域，建立“模糊工程”這樣一個新領域。日本更首先在模糊家電方面打開市場，帶有模糊控制，甚至標以神經---模糊智能控制的洗衣機、電冰箱、空調器、攝象機等已成為新一代家電的時髦產品。我國目前市場上也有許多洗衣機，例如榮事達洗衣機就是采用模糊神經網絡智能控制方式的洗衣機。

四．遺傳算法

遺傳算法（GeneticAlgorithm摘要：GA）是模擬生物的進化現象（自然、淘汰、交叉、忽然變異）的一種概率搜索和最優(yōu)化方法。是模擬自然淘汰和遺傳現象的工程模型。

GA的歷史可追溯到1960年，明確提出遺傳算法的是1975年美國Michigan大學的Holland博士，他根據生物進化過程的適應現象，提出如下的GA模型方案摘要：

1．將多個生物的染色體（Chromosmoe）組成的符號集合，按文字進行編碼，稱為個體。

2．定義評價函數，表示個體對外部環(huán)境的適應性。其數值大的個體表示對外部環(huán)境的適應性高，它的生存（子孫的延續(xù)）的概率也高。

3．每個個體由多個“部分”組合而成，每個部分隨機進行交叉及忽然變異等變化，并由此產生子孫（遺傳現象）。

4．個體的集合通過遺傳，由選擇淘汰產生下一代。

遺傳算法提出之后，很快得到人工智能、計算機、生物學等領域科學家的高度重視，并在各方面廣泛應用。1989年美國Goldberg博士發(fā)表一本專著摘要：“GeneticAlgorithmsinSearch，OptimizationandMachineLearning”。出版后產生較大影響，該書對GA的數學基礎理論，GA的基本定理、數理分析以及在搜索法、最優(yōu)化、機器學習等GA應用方面進行了深入淺出的介紹，并附有Pascal模擬程序。

1985年7月在美國召開第一屆“遺傳算法國際會議”（ICGA）。以后每隔兩年召開一次。近年來，遺傳算法發(fā)展很快，并廣泛應用于信息技術的各個領域，例如摘要：

智能控制摘要：機器人控制。機器人路徑規(guī)劃。

工程設計摘要：微電子芯片的布局、布線；通信網絡設計、濾波器設計、噴氣發(fā)動機設計。

圖象處理摘要：圖象恢復、圖象識別、特征抽取。

調度規(guī)劃摘要：生產規(guī)劃、調度新問題、并行機任務分配。

優(yōu)化理論摘要：TSP新問題、背包新問題、圖劃分新問題。

人工生命摘要：生命的遺傳進化以及自增殖、自適應；免疫系統(tǒng)、生態(tài)系統(tǒng)等方面的探究。

神經網絡、模糊集理論和以遺傳算法為代表的進化算法都是仿效生物信息處理模式以獲得智能信息處理功能的理論。三者目標相近而方法各異；將它們相互結合，必能達到取長補短、各顯優(yōu)勢的效果。例如，遺傳算法和神經網絡和模糊計算相結合方面就有摘要：

神經網絡連續(xù)權的進化。

傳統(tǒng)神經網絡如BP網絡是通過學習，并按一定規(guī)則來改變數值分布。這種方法有練習時間過長和輕易陷入局部優(yōu)化的新問題。采用遺傳算法優(yōu)化神經網絡可以克服這個缺點。

神經網絡結構的進化。

目前神經網絡結構的設計全靠設計者的經驗，由人事先確定，還沒有一種系統(tǒng)的方法來確定網絡結構，采用遺傳算法可用來優(yōu)化神經網絡結構。

神經網絡學習規(guī)則的進化。

第5篇：神經網絡學習規(guī)則范文

關鍵詞：神經網絡模糊控制PID控制

0 引言

隨著我國市場經濟的迅速發(fā)展，水對人民生活與工業(yè)生產的影響日益加強，與此同時用戶對供水系統(tǒng)可靠性和供水質量的要求也越來越高；另外，資源的緊缺和人們環(huán)保意識的增加，如何把先進的自動化技術、控制技術、通訊及網絡技術等應用到供水領域，成為對供水系統(tǒng)的新要求，因此無論是在性能方面考慮還是在節(jié)能方面考慮，供水系統(tǒng)都需要巨大的變革。

1 傳統(tǒng)控制策略

由于變頻調速恒壓供水系統(tǒng)具有典型的大延遲性、非線性，而且城市用水具有季節(jié)性、時間性、水壓擾動量大等特點。因此，雖然統(tǒng)治工業(yè)控制領域多年的傳統(tǒng)PID控制有很多優(yōu)點并且長期應用于供水系統(tǒng)，但是其固定參數模式致使其不適宜應用于恒壓供水系統(tǒng)。由于PID控制擁有很多較好的優(yōu)點，諸如：原理簡單，使用方便，適應強，魯棒性強等優(yōu)點。因此在工業(yè)控制中人們往往還是會想到PID控制。根據被控對象的不同制定合適的KP、KI、KD參數，可以獲得滿意的控制效果。然而，PID控制并非盡如人意，因為PID控制適合系統(tǒng)模型非時變的情況。對于一個時變系統(tǒng)，由于PID的參數不會隨系統(tǒng)變化而動態(tài)的調整KP、KI、KD參數，這樣會使控制作用變差，甚至造成系統(tǒng)不穩(wěn)定。

與傳統(tǒng)PID控制相比，模糊控制具有很多優(yōu)點。模糊控制是建立在模糊數學基礎上的一種智能控制技術，可以達到傳統(tǒng)控制策略無法達到的效果。模糊控制能較好得跟隨系統(tǒng)狀態(tài)的變化動態(tài)調整自身控制參數，不需要建立精確的控制對象模型，因而在實際上的應用越來越廣泛。

但是作為一門較為新型的控制科學，還沒有系統(tǒng)的方法來指導設計參數精良的模糊控制器。模糊控制器控制規(guī)則的確定以及其可調節(jié)性是對其控制效果影響最大的一方面。尤其是控制規(guī)則的合理制定是模糊控制中的重要部分。目前存在的主要問題是在建立模糊控制規(guī)則時要考慮若干參數的選擇是否合適，恰當的選擇參數是非常重要的。如在供水系統(tǒng)的水壓控制中，系統(tǒng)誤差和誤差變化率的動態(tài)范圍需要反復多次整定以滿足控制需要。

盡管模糊推理系統(tǒng)的設計（隸屬度函數及模糊規(guī)則的建立）不主要依靠對象的模型，但是它卻相當依靠專家或操作人員的經驗和知識。若缺乏這樣的經驗和知識，則很難期望它能夠得到滿意的控制效果。神經網絡的出現很好的彌補了這一缺陷。神經網絡系統(tǒng)的一大特點就是其自學習功能，將這種自學習的方法應用于對模糊特征的分析與建模上，產生了自適應的神經網絡技術。這種自適應的神經網絡技術對于模糊系統(tǒng)的模型建立是非常有效的工具。而自適應神經模糊系統(tǒng)就是基于數據的建模方法，該系統(tǒng)中的模糊隸屬度函數及模糊規(guī)則是通過對大量已知數據的學習得到的，而不是基于經驗或直覺任意給定的，這對于那些特性還不被人們所完全了解或者特性非常復雜的系統(tǒng)尤為重要。

神經網絡可以與模糊控制相結合組成神經網絡模糊控制，兩者各有所長，神經網絡能夠通過給定的經驗集學習并生成映射規(guī)則，但其規(guī)則不可見；模糊控制制定的規(guī)則雖然可見，但是其自學習能力欠缺，導致其規(guī)則的動態(tài)調整不足。因此有必要將上述兩點結合。

2 新型控制策略

由于供水系統(tǒng)的非線性、大慣性及純滯后性等特點，很顯然單純依靠PID、模糊控制和神經網絡控制都不能實現很好的控制效果。因此可以考慮應用一種綜合的控制策略以實現對供水系統(tǒng)的良好控制?；诖吮疚奶岢隽艘环N新型控制策略――神經模糊PID控制算法，該算法可以綜合以上各算法的優(yōu)點，它不僅具有神經網絡控制的自學習自組織能力，還具有模糊控制的魯棒性強、適應性強的優(yōu)點，另外還擁有PID控制的實現簡單方便等優(yōu)點，優(yōu)于以往的算法。

如圖顯示了神經網絡模糊PID控制器的結構框圖，該控制器是由三部分組成：

①神經網絡控制器：控制模糊規(guī)則的動態(tài)調整，通過神經網絡的自學習，使模糊規(guī)則的生成轉變?yōu)榧訖嘞禂档拇_定和調節(jié)。根據供水系統(tǒng)的運行狀態(tài)，調節(jié)PID控制器參數，使供水系統(tǒng)最終達到最優(yōu)控制。

②模糊控制器：對系統(tǒng)的輸入輸出變量進行模糊化和歸一化運算。這些運算的意義是鑒于模糊控制的強魯棒性和非線性控制作用，對輸入到神經網絡的模糊規(guī)則進行預處理，避免了神經網絡采用sigmoid激活函數時，由于輸入過大而導致輸出飽和。

③傳統(tǒng)PID控制器：直接對供水系統(tǒng)的控制過程進行閉環(huán)控制，并且三個參數KP、KI、KD實行在線調節(jié)，使控制作用時刻跟蹤系統(tǒng)的變化。

以上過程簡要說來就是使輸出層神經元的輸出狀態(tài)與PID控制器的KP、KI、KD參數相對應，這樣可以通過神經網絡的自學習能力實現加權系數調整，進而使其穩(wěn)定狀態(tài)與PID的最優(yōu)控制相對應，最終利用PID控制器的輸出u來實現對供水系統(tǒng)的水壓的控制。

參考文獻：

[1]劉萍麗.交流變頻恒壓供水控制器的設計.大連海事大學碩士學位論文.2005.

[2]謝靜，韋力.新型恒壓供水系統(tǒng)[J].應用能源技術，11，2010：42-45.

作者簡介：

謝靜（1968-），女，陜西省咸陽市人，講師，碩士，研究方向：電工電子、控制工程理論及應用

第6篇：神經網絡學習規(guī)則范文

1模糊系統(tǒng)的Takagi?Sugeno模型

模糊系統(tǒng)理論［11］是溝通經典數學的精確性與現實世界中大量存在的不精確性之間的橋梁。它是以模糊集合的形式表示系統(tǒng)所含的模糊性并能處理這些模糊性的系統(tǒng)理論，能夠有效地處理系統(tǒng)的不確定性、測量的不精確性等模糊性。Takagi－Sugeno模糊系統(tǒng)（T－S模糊系統(tǒng)）作為函數模糊系統(tǒng)的一種特例，由于構成的各條規(guī)則采用線性方程式作為結論，使得模型的全局輸出具有良好的數學表達特性，這在處理多變量系統(tǒng)時能有效地減少模糊規(guī)則個數，具有很大的優(yōu)越性［12］。其規(guī)則表達如下［13］：式中：Rj為第j條模糊規(guī)則；xi為模糊語言變量；Aij（xi）為xi的第j個語言變量值，它是定義在xi論域上的一個模糊集合，相應的隸屬度函數為μjAi（xi）；pkji為模糊系統(tǒng)參數；yj為根據模糊規(guī)則得到的輸出；If部分是前提或前件，then部分是結論或后件。

2T?S模糊神經網絡

模糊系統(tǒng)在模糊建模的過程中常存在學習能力缺乏，辨識過程復雜，模型參數優(yōu)化困難等問題。而人工神經網絡具有自學習、自組織和自適應的能力，具有強大的非線性處理能力。二者的結合構成模糊神經網絡，可以有效地發(fā)揮模糊邏輯與神經網絡的各自優(yōu)勢，彌補各自的不足［14］。

2．1T?S模糊神經網絡的結構基于標準型的T－S模糊神經網絡結構如圖1所示。第5層是輸出層，它所實現的是清晰化計算。T－S模糊神經網絡由前件網絡和后件網絡兩部分組成。前件網絡用來匹配模糊規(guī)則的前件，其結構與圖1的前4層結構完全相同；后件網絡用來產生模糊規(guī)則的后件，由N個結構相同的并列子網絡組成［15］。

2．2T?S模糊神經網絡的學習算法T－S模糊神經網絡需要學習的參數主要有后件網絡的連接權pkki以及前件網絡第二層各結點隸屬函數的中心值ckj及寬度σkj。令上述T－S模型的參數pkji固定，則T－S模糊神經網絡結構可簡化為圖1。簡化結構本質上也是一種多層前饋網絡，所以可仿照BP網絡用誤差反傳的方法來設計調整參數的學習算法［15］。

3應用研究

以下通過實例介紹T－S模糊神經網絡在地下水水質評價中的應用。

3．1研究區(qū)概況吉林省西部地區(qū)位于松嫩平原的西南部，地理坐標為東經123°09′～124°22′，北緯44°57′～45°46′。研究區(qū)東接吉林省長春市，南接四平市及遼寧省，西鄰，北接黑龍江省，東北以嫩江、松花江和拉林河與黑龍江省為界。吉林省西部屬半干旱半濕潤的大陸性季風氣候區(qū)，四季變化明顯。該區(qū)多年平均氣溫3～6℃，多年平均降雨量為400～500mm。研究區(qū)大部分屬于松嫩盆地，該盆地為一個巨大的含水層系統(tǒng)，埋藏有多層含水層，包括孔隙潛水含水層和承壓水含水層（分別為淺層、中深層）、上第三系大安組、泰康組孔隙－裂隙含水層（深層）和白堊系下統(tǒng)及上統(tǒng)裂隙孔隙含水層（深層）。研究區(qū)的地下水補給來源主要為降水入滲，排泄以潛水蒸發(fā)和人工開采為主。

3．2原始數據原始數據取自于吉林西部2005年50個地下水水化學監(jiān)測點的水質監(jiān)測數據，結合研究區(qū)地下水水質狀況，有針對性地選擇了鐵、氨氮、硝酸鹽、亞硝酸鹽、硫酸鹽、氯化物、溶解性總固體、氟化物和總硬度共9項指標作為評價因子。地下水水

3．3神經網絡的準備工作（1）訓練樣本、檢驗樣本及其期望目標的生成。采用Mat－lab7．0的linspace函數在各級評價標準之間按隨機均勻分布方式內插生成訓練樣本。各級評價標準之間生成500個，共2000個訓練樣本，以解決僅利用各級評價標準作為訓練樣本，導致訓練樣本數過少的問題［16］。檢驗樣本用生成訓練樣本同理的方法生成400個樣本。小于一級標準的訓練樣本和檢驗樣本的期望目標為按照生成訓練樣本和檢驗樣本的內例產生對應的0～1．5之間的數值；一、二級標準之間的訓練樣本和檢驗樣本的期望目標為按照生成訓練樣本和檢驗樣本的內例產生對應的1．5～2．5之間的數值；同理，二、三級和三、四級標準之間的訓練樣本和檢驗樣本的期望目標為2．5～3．5、3．5～4．5之間的數值。（2）水質評價等級的劃分界限。據上述生成訓練樣本與檢驗樣本目標輸出的思路可以確定一、二、三、四、五各級水的網絡輸出范圍分別為：＜1．5、1．5～2．5、2．5～3．5、3．5～4．5、＞4．5。（3）原始數據的預處理。利用Matlab7．0中的mapminmax函數將原始數據歸一化到0與1之間。

3．4T?S模糊神經網絡的建立、訓練、檢驗及水質評價

3．4．1T?S模糊神經網絡的建立模糊神經網絡的構建根據訓練樣本維數確定模糊神經網絡輸入／輸出結點數、模糊隸屬度函數個數。由于輸入數據為9維，輸出數據為1維，通過試錯法確定模糊神經網絡結構為9－18－1，即有18個隸屬度函數。選擇10組系數p0－p9，模糊隸屬度函數中心和寬度c和σ隨機得到，通過動態(tài)BP算法對網絡的權值在線調整。隸屬度函數采用高斯函數，模糊推理采用sum－product［14］，解模糊采用加權平均法。網絡模型的概化如圖1所示。T－S模糊神經網絡的第3層輸出為輸入數據的隸屬度函數；第4層輸出為第條規(guī)則的平均激活度；后件網絡實現了T－S模型模糊規(guī)則空間到輸出空間的映射，輸出為yj＝pkj0＋pjk1x1＋…＋pjkmxm和y＝∑αk×yj。

第7篇：神經網絡學習規(guī)則范文

【關鍵詞】模糊神經網絡；建設工程；成本估算

當前我國建設工程的規(guī)模和數量急劇增加，在社會信息化建設的背景下，建設工程也要適應社會的需要加強建設管理部門的社會信息化建設。而工程項目的成本管理則是信息化建設的重要組成部分。原有的成本估算的方法，大多依靠工程造價管理人員的主觀經驗，但是在社會信息化背景下，這種估算方法已經不能滿足工程建設精細化的需要，此時神經模糊網絡系統(tǒng)結合了模糊理論和神經網絡的優(yōu)勢開始出現，并逐漸成為當今建設工程成本估算的主要應用方法。模糊神經網絡可以有效的處理非線性、模糊性的問題，擁有巨大的發(fā)展?jié)摿?。模糊神經網絡主要是由人工神經系統(tǒng)和模糊系統(tǒng)結合而成。人工神經網絡主要是模仿人腦的思維而形成，具有強大的自主學習和聯想的能力，但是卻不能很好的利用已有經驗，因此存在一定的局限性。而模糊系統(tǒng)，可以很容易的利用已有經驗，使問題推理的過程更加簡捷。所以兩者的結合，可以起到良好的優(yōu)勢互補的作用[1]。

一、模糊神經網絡的基本狀況

1.模糊神經網絡的產生

模糊神經網絡最早出現在日本，時間大致為上世紀80年代末。經過一段時間的發(fā)展，直到上世紀90年代初，歐美國家開始在此基礎上加深了模糊神經網路在眾領域的應用。目前模糊神經網絡已經被應用到眾多領域中，如工業(yè)控制領域、模式識別應用、軟件估算領域等。而軟件估算的應用就是本文主要探討的應用方面。

2.模糊神經網絡的特征

模糊神經網絡實際上是模糊技術和人工神經技術有機結合的產物。這兩種技術方法可以有效的對信息進行智能化處理。但是分開來看兩者之前存在明顯的優(yōu)勢互補的作用。具體的可以分為四個方面進行比較：（1）知識表達。模糊技術在知識的表達上具有表達清晰，便于理解的優(yōu)勢，而人工神經網絡卻存在知識表達不明確，不易理解的缺陷。（2）知識存儲。模糊技術的知識存儲特點是規(guī)則集中，而人工神經網絡技術的存儲特點則為分布式存儲。（3）知識運用。模糊技術在知識的運用上具有計算量小的特點，而人工神經技術卻正好相反具有計算量較大的優(yōu)勢。（4）知識獲取。模糊技術具有不能自動獲取的缺陷，而人工神經系統(tǒng)卻可以自主進行學習 [2]。

二、模糊神經網絡的建模應用

（一）模糊神經網絡的設計

模糊神經網絡，通常是由n個輸入組合而成，并具有一定的結構特征（如圖一所示）。模糊神經網絡結構的設計，主要由四個層次組成。

在函數式（1）和（2）中，W1和W2可以看做是輸入層到規(guī)則層的網絡權值矩陣；而W2和B矩陣則可以看做是模糊子集在函數中的具體參數。此時可以對W2和B進行調節(jié)（即調節(jié)模糊子集在函數中的形狀），這樣做的目的是可以更好的對模糊規(guī)則進行調整。

3.推理層

每一條If-Then規(guī)則在表達上可以將其表示成在模糊集空間上的一個相關的模糊蘊涵關系。實際上模糊蘊涵具有多樣的預算模式，而每一種不同的運算模式都可以對不同的模糊算子進行選擇，這樣便會產生多樣的模糊推理規(guī)則。比較經常用到的規(guī)則通常有“乘積規(guī)則”以及“最大和最小的規(guī)則”，而再此設計中我們主要對“乘積規(guī)則”進行具體利用。具體如下所示：我們設T為模糊的算子，此時經過模糊推理的應用，可以將此層的輸出表示為：

（二）網絡權值調整

對模糊邏輯的參數的具體網絡權值進行調整的目的，是為了更好達到輸入和輸出的取值。通常情況下這種調節(jié)方法被稱作網絡的參數訓練。而常用的訓練方法則為遺傳算法。這種算法的形式主要是對生物進行的過程進行隨機抽取的通過交叉和變異以有效減少初始值的一種具有全局性特征的優(yōu)化方法，主要的實施步驟分為編碼、適配度、遺傳操作三個過程。

三、在建設工程成本估算中的具體應用

例如我們可以基于組合模糊神經網絡，來估算某一建筑工程的成本估算。首先要采集相關的樣本數據，然后經過討論，選擇出對工程成本影響較大的因素（如建筑整體面積、建設層數、裝飾墻材料應用、房間構成等），將其設為X，此時可以看出建筑面積和建設的層數為一個確定的向量，設為X1，而裝飾墻材料應用。

結語：

當前，有效的簡化工程成本編制工作，完善成本估算數據的精確度的首要方法就是先進的成本管理手段的運用。而模糊神經網絡進行工程成本估算的方法，具有簡捷、精確的特性，對于彌補我國建設工程成本管理中的問題，具有重要的應用價值，需要通過我們不斷的努力，使其更好的應用發(fā)展。

參考文獻：

[1] 郝勝蘭.基于模糊神經網絡的房產軟件項目成本估算研究[D].大連海事大學，2012.

第8篇：神經網絡學習規(guī)則范文

關鍵詞:學生綜合素質評價;BP神經網絡;算法設計

中圖分類號:TP311文獻標識碼:A文章編號:1009-3044(2009)24-6786-03

BP neural Network Based on the Overall Quality of the Student Evaluation of Algorithm Design

ZHANG Wen-sheng

(Xiamen Gongshang Lvyou Xuexiao, Xiamen 3610012,China)

Abstract: In this paper, the overall quality of the students a variety of evaluation methods carried out in-depth analysis to explore the use of BP neural network theory to evaluate the feasibility of the overall quality, and BP neural network based on the overall quality of the student evaluation of algorithm design.

Key words: evaluation of the overall quality of students; BP neural network; algorithm design

學校德育教育是提高學生綜合素質的重要一環(huán),在學校工作中占有舉足輕重的地位。德育涉及大量定性和定量的數據處理,為了體現其科學性和公平性,采用先進的計算機技術進行學生綜合素質量化評估勢在必行。

1 問題的提出

據調查,目前在學校里對學生素質評價的方法,主要有以下幾種:

1) 定性描述法

在學期或學年結束時,班主任根據學生在班級、學校和社會活動中的行為表現,運用文字對學生的綜合素質進行描述,作為對學生的評價。這種方法在評價學生綜合素質時起過一定的作用,但是,由于教師對學生綜合素質評價的內容不明確,要求不統(tǒng)一,帶有一定的主觀片面性和模糊性。

2) 等級劃分法

班主任根據平時對學生的觀察和了解,對學生的綜合素質行為劃分出優(yōu)、良、中、差四個等級。它只能說明每個學生綜合素質發(fā)展的程度,在班集體中所處的地位,但缺乏具體內容,學生對于自己或他人的優(yōu)點和缺點、以及個人今后的努力方向都不明確。

3) 自我總結法

這種方法是以學生為主,在教師的指導下總結自己的收獲,存在的問題、以及今后的努力方向,并寫成書面材料,然后寫在操行表的自我總結欄內。這種方法是以學生的自我評價為主,它對于提高學生的自我評價能力,具有一定的促進作用。但是,由于沒有老師和同學們參加評價,其評價結果缺乏客觀性。

4) 小組評議法

是以班級小組評議為主。通過開評議會的形式,對全組成員分別進行評議,肯定成績,提出缺點,最后把大家的意見集中起來,作為對學生的評價結果。它具有一定的客觀性,可是,沒有教師參加評議,影響了評價結果的可信度。

上述各種方法的都有一定的長處,也有一定的缺點。例如,對學生的綜合素質的結構,沒有明確統(tǒng)一的規(guī)定和具體要求;不能同時吸收各方面的意見參加評價;沒有制定較為符合需要的綜合素質量表和采用科學的測量手段等等。所以,評價的結果往往帶有主觀片面性,評語內容的不確定性,以及處在同一等級的同學之間存在差異的模糊性。于是最近又提出了對學生綜合素質定量進行測量和評價。

5) 定量分數法

將構成學生綜合素質的各種因素數量化,并制定出綜合素質量表。在具體的進行測量和評價時,把學生綜合素質所含每種因素的發(fā)展程度分為優(yōu)、良、中、差四個等級,每個等級分別對應一定的標準值。對不同因素確定不同的權重大小,再綜合學生每個因素所取得的標準值,最后得出學生的綜合素質分。

用定量的方法對學生的綜合素質發(fā)展程度進行評價時,不同因素需要確定不同的權重大小。權重的大小對評估結果十分重要,它反映了各指標的相對重要性。由于對不同的因素的權重是人為給定的,而學生綜合素質的各項因素對學生的整體素質存在不可確定的影響程度,因些在對學生的測量和評定過程中必然受到主觀因素及模糊隨機性的影響。并且這種方法需要消耗大量的人力和時間。

為了探討這個問題,我們根據BP神經網絡的基本概念和原理,用神經網絡自我學習的方法,對中學生綜合素質進行測量和評價。BP神經網絡能利用經驗樣本對神經網絡的訓練,達到神經網絡的自我學習,在網絡中自動建立一個多輸入變量與輸出變量間的非線性映射過程,無需建立具體的數學模型和規(guī)則,可以處理那些難以用模型或規(guī)則描述的過程或系統(tǒng)。神經網絡具有自組織、自學習、自適應的特點,能通過連接權重的不斷調整,克服權重確定的困難,弱化人為因素,自動適應信息、學習新知識,最終通過學習訓練對實際學習樣本提出合理的求解規(guī)則,對學生的綜合素質的整體評定具有十分重要的意義。首先我們來了解BP神經網絡的基本原理。

2BP神經網絡的基本原理

1) 神經元網絡基本概念

神經網絡是單個并行處理元素的集合,從生物學神經系統(tǒng)得到啟發(fā)。在自然界,網絡功能主要由神經節(jié)決定,可以通過改變連接點的權重來訓練神經網絡完成特定的功能。如圖1所示。這里,網絡將根據輸出和目標的比較而進行調整,直到網絡輸出和目標匹配。

2) 神經元網絡結構

圖2所示為一個單標量輸入且無偏置的神經元。

神經元輸出計算公式為:a=f(wp+b)。神經元中的w和b都是可調整的標量參數。可以選擇特定的傳輸函數,通過調整權重 和偏置參量 訓練神經網絡做一定的工作,或者神經網絡自己調整參數以得到想要的結果。

3) BP結構及算法描述

在實際應用中,神經網絡用得最廣泛的是反向傳播網絡(BP網絡),典型的BP網絡是三層網絡,包括輸入層、隱含層和輸出層,各層之間實行全連接。

BP網絡是采用Widrow-Hoff學習算法和非線性可微傳輸函數的多層網絡。網絡的學習過程由正向和反向傳播兩部分組成。在正向傳播過程中,每一層神經元的狀態(tài)只影響到下一層神經元網絡,如果輸出層不能得到期望輸出,就是實際輸出值與期望輸出值之間有誤差,那么轉入反向傳播過程,將誤差信號沿原來的連接通路返回,通過修改各層神經元的權值,逐次地向輸入層傳播去進行計算,再經過正向傳播過程,這兩個過程的反復運用,使得誤差信號最小。實際上,誤差達到人們所希望的要求時,網絡的學習過程就結束了。

4) 反向傳播算法

反向傳播學習算法最簡單的應用是沿著性能函數最速增加的方向一梯度的負方向更新權重和偏置。這種遞歸算法可以寫成:

xk+1=xk-ak*gk

這里xk是當前權重和偏置向量,gk是當前梯度,ak是學習速率。在神經元中,學習速度又稱為“學習速率”,它決定每一次循環(huán)訓練中所產生的權值變化量(即該值的存在是神經元網絡的一個必須的參數)。大的學習速度可能導致系統(tǒng)的不穩(wěn)定,但小的學習速度將會導致訓練較長,收斂速度很慢,通常情況下取值在0-01～0,8之間。

3 基于BP神經網絡的學生綜合素質量化評估模型

從上述對神經元網絡基本概念的研究,我們可以看出BP神經網絡主要根據所提供的數據,通過學習和訓練,找出輸入與輸出之間的內在聯系,從而求取問題的解,而不是完全依據對問題的經驗知識和規(guī)則,因而具有自適應功能,這對于弱化權重確定中的人為因素是十分有益的;其次能夠處理那些有噪聲或不完全的數據,具有泛化功能和很強的容錯能力;由于實際對學生量化評估往往是非常復雜的,各個因素之間相互影響,呈現出復雜的非線性關系,人工神經網絡為處理這類非線性問題提供了強有力的工具。因此與其它評定方法相比,基于神經網絡的評價方法越來越顯示出它的優(yōu)越性。結合學校對學生進行綜合素質評估考核的具體問題,我們提出以下設計。

3.1量化評估內容的確定

1) 確定學生的綜合素質結構

學生的綜合素質結構,主要是根據一定歷史階段的社會要求、學校對學生的傳統(tǒng)要求,以及各個不同年齡階段學生心理和生理發(fā)展的特征來確定的,它具有一定的社會性、科學性、可行性。以教育部提出的職業(yè)學校學生發(fā)展目標為依據,評定內容包括:道德品質與公民素養(yǎng)、學習能力、交流與合作能力、運動與健康、審美與表現、職業(yè)技能等6個層次。每個層次又包括各種因素,各層次和因素之間又是相互聯系和相互促進的,它既反映了社會的、學校的具體要求,又符合學生綜合素質發(fā)展和形成的規(guī)律。當然,在實際評價學生中,可以根據學校的實際特點進一步確定各要素,進一步構成學生綜合素質評價的綜合評價指標體系。

2) 學生綜合素質評價的結構設計

用BP神經網絡進行學生綜合素質評價結構的設計如圖3所示。對學生的綜合素質進行量化評估時,從輸入層輸入評價學生綜合素質的n個評價指標因素信息,經隱含層處理后傳入輸入層,其輸出值y即為學生評估結果。這n個評價指標因素的設置,要考慮到能符合學生綜合素質發(fā)展和形成的規(guī)律,能全面評價學生的綜合素質狀況。

網絡結構的參數選擇十分重要,由于輸入層與隱含層神經元個數的增加會增加網絡的表達能力,不僅會降低系統(tǒng)的性能,同時也會影響其收斂速度和增加噪聲干擾。所以首先必須確定輸入層神經元的數目。為使模型即有理論價值又有可操作性,本例對應于對學生綜合素質考核結構的六個因素,本文采用6個輸入神經元,分別為道德品質與公民素養(yǎng)、學習能力、交流與合作能力、運動與健康、審美與表現、職業(yè)技能等評價指標。由于目前隱單元數尚無一般的指導原則,為了兼顧網絡的學習能力和學習速度,隱含層神經元的個數選擇采用試算法,在網絡訓練過程中進行調整。筆者首先選定15,用訓練樣本來學習,然后減少隱含層單元數后再進行學習,通過觀察訓練誤差變化的大小來調整隱單元數。其原則是:若在減少隱單元數進行訓練時過程平衡(即逐步收斂并達到較小的誤差)且誤差無顯著增加,則說明減少隱單元數是合適的;否則表明隱單元數不宜減少,而應增加隱單元數直到滿意為止。選擇一個輸入神經元為學生綜合素質最終評價結果,分別以0、0,5、1對應于學生評議等級的優(yōu)、良、中三種不同的評價結果。經過多次實驗,最后得到適宜的網絡模型為6-4-1網絡模式。

3.2 量化評估模型

1) 指標體系的規(guī)范化處理

根據神經網絡計算規(guī)則,為了保證輸出在線性部分,不到兩端去,應保證輸入輸出在0-1之間,反傳達時也一樣,輸出應在0~1之間。因此要將原始數據歸一預處理,變換為[0,1]區(qū)間的數值,得到規(guī)范化數據,作為輸入輸出節(jié)點的樣本數據。原始數據采用我校高一年一個班級的50名學生的學生綜合素質各項指標因素樣本數據,將實際數據分為兩組:前40名學生的各項指標因素成績樣本數據作為學習樣本,后10名學生的成績數據作為測試樣本。

2) 學習算法

本模型采用6-4-1BP神經網絡結構,其中輸入層為6個指標值和一個閾值。模型初始化時對所有的連接權賦予(0,1)上分布的隨機數,閾值取1。權值的修正依據帶慣性因子的delta規(guī)則。根據多次試驗的結果,其中,慣性因子α=0.075,學習率η=0.85,將樣本數據40組為一次循環(huán),每次循環(huán)記錄40組樣本中最大的學習誤差。經過多次的學習,最后觀察網絡輸入與期望輸出的相對誤差,當誤差小于0.005時,學習結束?？梢缘玫饺绻龃髽颖镜膫€數,精度還會進一步提高。

本文探討了神經網絡在學生綜合素質評價上的應用方法,可取得較為理想的結果,它可以解決用傳統(tǒng)統(tǒng)計方法不能或不易解決的問題。但是由于它是一種黑盒方法,無法表達和分析評估系統(tǒng)的輸入與輸出間的關系,因此也難于對所得結果作任何解釋,對求得的結果作統(tǒng)計檢驗;再者,采用神經網絡作評價系統(tǒng)時,由沒有一個便于選定最合適的神經網絡結構的標準方法,只能花大量時間采用湊試法,從許多次實驗中找出“最合適”的一種;還有樣本數據需要足夠的多,才能得到較為理想的結果。

參考文獻:

[1] 高長梅,趙承志,白昆榮.學校德育工作全書(上)[M].北京:人民日報出版社,2005.

[2] 聞新,周露,李翔,張寶偉.MATLAB神經網絡仿真與應用[M].北京:科學出版社,2008.

[3] J.P.Marques de sa,Pattern Recognition―Concepts,Methods and Applications[M].北京:清華大學出版社,2006.

第9篇：神經網絡學習規(guī)則范文

人工神經網絡是近年來迅猛發(fā)展的前沿課題，它對突破現有科學技術的瓶頸起到重大的作用。本文剖析了人工神經網絡的特征、模型結構以及未來的發(fā)展趨勢。

【關鍵詞】人工神經網絡 神經元 矩陣

1 人工神經網絡概述

人工神經網絡（ANN）是一種用計算機網絡系統(tǒng)模擬生物神經網絡的智能神經系統(tǒng)，它是在現代神經生物學研究成果的基礎上發(fā)展起來的，模擬人腦信息處理機制的一種網絡系統(tǒng)，它不但具有處理數值數據的計算能力，而且還具有處理知識的學習、聯想和記憶能力。

人工神經網絡模擬了大腦神經元的組織方式，反映了人腦的一些基本功能，為研究人工智能開辟了新的途徑。它具有以下基本特征：

1.1 并行分布性

因為人工神經網絡中的神經元排列并不是雜亂無章的，往往是以一種有規(guī)律的序列排列，這種結構非常適合并行計算。同時如果將每一個神經元看作是一個基本的處理單元，則整個系統(tǒng)可以是一個分布式處理系統(tǒng)，使得計算快速。

1.2 可學習性和自適應性

一個相對很小的人工神經網絡可存儲大量的專家知識，并能根據學習算法，或利用指導系統(tǒng)模擬現實環(huán)境（稱為有教師學習），或對輸入進行自適應學習（稱為無教師學習），可以處理不確定或不知道的事情，不斷主動學習，不斷完善知識的存儲。

（3）魯棒性和容錯性

由于采用大量的神經元及其相互連接，具有聯想映射與聯想記憶能力，容錯性保證網絡將不完整的、畸變的輸入樣本恢復成完整的原型，魯棒性使得網絡中的神經元或突觸遭到破壞時網絡仍然具有學習和記憶能力，不會對整體系統(tǒng)帶來嚴重的影響。

1.3 泛化能力

人工神經網絡是大規(guī)模的非線性系統(tǒng)，提供了系統(tǒng)協同和自組織的潛力，它能充分逼近任意復雜的非線性關系。如果輸入發(fā)生較小變化，則輸出能夠保持相當小的差距。

1.4 信息綜合能力

任何知識規(guī)則都可以通過對范例的學習存儲于同一個神經網絡的各連接權值中，能同時處理定量和定性的信息，適用于處理復雜非線性和不確定對象。

2 人工神經網絡模型

神經網絡是在對人腦思維方式研究的基礎上，將其抽象模擬反映人腦基本功能的一種并行處理連接網絡。神經元是神經網絡的基本處理單元。

在神經網絡的發(fā)展過程中，從不同角度對神經網絡進行了不同層次的描述和模擬，提出了各種各樣的神經網絡模型，其中最具有代表性的神經網絡模型有：感知器、線性神經網絡、BP網絡、自組織網絡、徑向基函數網絡、反饋神經網絡等等。

3 神經元矩陣

神經元矩陣是神經網絡模型的一種新構想，是專門為神經網絡打造的一個矩陣，它符合神經元的一切特征。

神經元矩陣采用矩陣形式，它可為n維向量組成。引入向量觸頭和信使粒的概念，向量觸頭可生長，即長度可變，方向可變，信使?？伞坝问帯痹诰仃囍?，建立各種聯系。如圖1即是神經元矩陣模型

（1）容器可產生一種無形的約束力，使系統(tǒng)得以形成，容器不是全封閉的，從而保證系統(tǒng)與外界的溝通和交互；各向量間可用相互作用的力來聯系，而各個信使粒則受控于容器、中空向量以及其它的信使粒。各神經元之間自主交互，神經元矩陣是一種多層次的管理，即一層管理一層。系統(tǒng)具有明顯的層級制和分塊制，每層每塊均獨立且協同工作，即每層每塊均含組織和自組織因素。

（2）向量觸頭是中空的，信使?？梢酝ㄟ^向量或存儲于向量中，所以又稱為中空向量。向量存儲了信使粒后，可以吸引更多的信使粒在附近，或使鄰近向量轉向、伸長，進而形成相對穩(wěn)定的信息通路。

（3）當兩條或更多的信息通路匯集時，可能伴隨著通路的增強、合并，以及信使粒的聚集、交換，這是神經元矩陣運算的一種主要形式。通路的形成過程，也就是是神經元矩陣分塊、分層、形成聯接的過程，也為矩陣系統(tǒng)宏觀管理、層級控制的實現奠定了基礎。

神經元矩陣亦是一種具有生物網絡特征的數學模型，綜合了數學上矩陣和向量等重要概念，是一種立體的矩陣結構。尤其是將矩陣的分塊特性和向量的指向特征結合起來，更好的體現了神經網絡的整體性和單元獨立性，系統(tǒng)的組織和自組織特征也更為凸顯。信使粒以“點”的數學概念，增強了系統(tǒng)的信息特征，尤其是增強了矩陣的存儲和運算功能。

4 人工神經網絡的發(fā)展趨勢

人工神經網絡是邊緣叉科學，它涉及計算機、人工智能、自動化、生理學等多個學科領域，研究它的發(fā)展具有非常重要意義。針對神經網絡的社會需求以及存在的問題，今后神經網絡的研究趨勢主要側重以下幾個方面。

4.1 增強對智能和機器關系問題的認識

人腦是一個結構異常復雜的信息系統(tǒng)，我們所知道的唯一智能系統(tǒng)，隨著信息論、控制論、計算機科學、生命科學的發(fā)展，人們越來越驚異于大腦的奇妙。對人腦智能化實現的研究，是神經網絡研究今后的需要增強的地發(fā)展方向。

4.2 發(fā)展神經計算和進化計算的理論及應用

利用神經科學理論的研究成果，用數理方法探索智能水平更高的人工神經網絡模型，深入研究網絡的算法和性能，使離散符號計算、神經計算和進化計算相互促進，開發(fā)新的網絡數理理論。

4.3 擴大神經元芯片和神經網絡結構的作用

神經網絡結構體現了結構和算法的統(tǒng)一，是硬件和軟件的混合體，神經元矩陣即是如此。人工神經網絡既可以用傳統(tǒng)計算機來模擬，也可以用集成電路芯片組成神經計算機，甚至還可以生物芯片方式實現，因此研制電子神經網絡計算機潛力巨大。如何讓傳統(tǒng)的計算機、人工智能技術和神經網絡計算機相融合也是前沿課題，具有十分誘人的前景。

4.4 促進信息科學和生命科學的相互融合

信息科學與生命科學的相互交叉、相互促進、相互滲透是現代科學的一個顯著特點。神經網絡與各種智能處理方法有機結合具有很大的發(fā)展前景，如與專家系統(tǒng)、模糊邏輯、遺傳算法、小波分析等相結合，取長補短，可以獲得更好的應用效果。

參考文獻

[1]鐘珞.饒文碧.鄒承明著.人工神經網絡及其融合應用技術.科學出版社.