公務員期刊網(wǎng) 精選范文 矩陣論在神經(jīng)網(wǎng)絡中的應用范文

矩陣論在神經(jīng)網(wǎng)絡中的應用精選(九篇)

前言:一篇好文章的誕生,需要你不斷地搜集資料、整理思路,本站小編為你收集了豐富的矩陣論在神經(jīng)網(wǎng)絡中的應用主題范文,僅供參考,歡迎閱讀并收藏。

矩陣論在神經(jīng)網(wǎng)絡中的應用

第1篇:矩陣論在神經(jīng)網(wǎng)絡中的應用范文

【關鍵詞】自組織神經(jīng)網(wǎng)絡;智能建筑管理;BP神經(jīng)網(wǎng)絡

1 基于自組織神經(jīng)網(wǎng)絡技術原理

基于大規(guī)模自組織神經(jīng)網(wǎng)絡技術[1]是在自組織神經(jīng)網(wǎng)絡技術和專家系統(tǒng)的基礎原理運用多層數(shù)據(jù)融合彌補了單循環(huán)數(shù)據(jù)在智能建筑工程管理分析數(shù)據(jù)處理的不足和邏輯的缺陷學科.多跳自組織神經(jīng)網(wǎng)絡是智能傳感器采集數(shù)據(jù)訓練樣本仿真學習模型即自動增速各個自組織神經(jīng)元連接權閥值與感知識別隱式分布在整個網(wǎng)絡結構體系中實現(xiàn)自組織神經(jīng)網(wǎng)絡模式記憶與信息處理應用.

2 基于大規(guī)模自組織神經(jīng)網(wǎng)絡在智能建筑管理中研究

2.1 基于多跳自組織神經(jīng)網(wǎng)絡在造價預測研究

基于大規(guī)模自組織BP神經(jīng)模型應用40個高層智能建筑工程樣本訓練并用工程實例進行驗證高精確性;而用大規(guī)模自組織神經(jīng)網(wǎng)絡模擬與輸入層和隱含層加入了偏置自組織神經(jīng)元來促進學習訓練樣本數(shù)據(jù)中有噪聲、干擾等會造成過度學習現(xiàn)象,同時采用遺傳優(yōu)化算法進行建筑結構優(yōu)化.基于BP神經(jīng)在智能建筑工程估價中的應用“特征提取器”的運算大量過去的工程資料中自動提取工程特征與預算資料的規(guī)律關系數(shù)據(jù).

2.2 基于大規(guī)模自組織神經(jīng)網(wǎng)絡在工程管理績效評價中的應用

運用大規(guī)模自組織BP神經(jīng)模型對工程管理績效評價問題進行研究建立綜合考慮工期、質量、費用、安全四大控制指標的工程管理績效評價模型[2].實踐證明,基于BP神經(jīng)網(wǎng)絡在運算工程管理績效評估模型有利于多跳自組織神經(jīng)網(wǎng)絡預測工程工期、質量、成本、安全與績效之間復雜的非線性關系來提高管理績效的評價數(shù)據(jù).

2.3 基于遺傳算法模型在建設工程評標結構優(yōu)化應用

基于多層神經(jīng)網(wǎng)絡的工作原理是先將輸入信號傳輸?shù)较乱粚庸?jié)點運算函數(shù)處理后再將該節(jié)點的輸出信息向下一層節(jié)點傳輸?shù)叫盘杺鬏數(shù)捷敵鰧庸?jié)點為止.同時運用遺傳算法模型構造及算法設計進行方案優(yōu)劣排序、換位矩陣以及能量函數(shù)構造、大規(guī)模自組織神經(jīng)元之間連接和輸出,并用實例說明了該方法的優(yōu)越性和實用性與非線性.

2.4 基于BP神經(jīng)網(wǎng)絡模型在建設工程招投標管理應用研究

基于BP神經(jīng)網(wǎng)絡多層數(shù)據(jù)融合多跳自組織神經(jīng)網(wǎng)絡技術原理分析自動預測工程招投標的招標價格和風險因素分析以及競標單位資格審查等方面的應用指出多跳自組織神經(jīng)網(wǎng)絡具有的高度并行處理和可完成復雜輸入輸出的非線性映射組合結構,不僅可以保證高的中標率,且可避免招標過程中不確定性因素的影響.運用大規(guī)模自組織神經(jīng)網(wǎng)絡的工程承包招投標報價的研究,提出了一個多因素確定高層智能建筑投標報價的大規(guī)模自組織模型影響報高率的諸多因素,并確定了其權值即確定了用BP神經(jīng)網(wǎng)絡實施黑箱操作的樣本輸入值和目標值再通過訓練樣本自主調整修正輸入節(jié)點和輸出節(jié)點間的聯(lián)系得出符合各種情況要求的權值矩陣算法.

2.5 基于智能建筑算法模型研究

基于BP神經(jīng)網(wǎng)絡是以訓練樣本算法即誤差反向傳播算法即BP神經(jīng)算法的學習過程分為信息的正向傳播和誤差的反向傳播[1],其通過訓練樣本前一次迭代的權值和閾值來應用神經(jīng)網(wǎng)絡技術的第一層向后計算各層大規(guī)模自組織神經(jīng)元的輸出和最后層向前計算各層權值和閾值對總誤差的梯度進而對前面各層的權值和閾值進行修改運算反復直到神經(jīng)網(wǎng)絡樣本收斂 BP神經(jīng)網(wǎng)絡輸入向量為

X=( )T;隱含層輸出向量為Y=( )T;輸出層的輸出向量為O= )T;期望輸出向量為 ;輸入層到隱含層之間的權值矩陣 ,其中列向量 為隱含層第j個大規(guī)模自組織神經(jīng)元對應的權向量;隱含層到輸入層之間的權值矩陣 ,其中列向量 為輸出層第k個大規(guī)模自組織神經(jīng)元對應的權向量.各層信號之間的算法結構為:

以上式中的 均為S類型函數(shù), 的導數(shù)方程為: (5)

神經(jīng)網(wǎng)絡輸出與期望輸出的均方誤差為: (6)

則訓練樣本輸出層和隱含層的權值調整量分別為:

式中: 為比例系數(shù),在模型訓練中代表學習速率.如果BP自組織神經(jīng)網(wǎng)絡有 個隱含層,各隱含層節(jié)點分別記為 ,各隱含層輸出分別記為 ,則各層權值調整計算公式分別如下:

輸出層

綜合上述預測分析在BP神經(jīng)學習算法運用各層權值調整公式均由學習速率、本層輸出的誤差信號和本層輸入數(shù)字離散信號決定在訓練樣本學習的過程受決策環(huán)境復雜程度和訓練樣本的收斂性即需要增大樣本量來提高網(wǎng)絡技術所學知識的代表性應注意在收集某個問題領域的樣本時,注意樣本的全面性、代表性以及提高樣本的精確性,增大抗干擾噪聲,還可以采用其他方法收集多層訓練樣本數(shù)據(jù).

3 結束語

自組織神經(jīng)網(wǎng)絡技術應用在智能建筑管理領域是在多層智能傳感器等多種信息技術飛速發(fā)展的多學科交叉研究領域得到廣泛應用.

參考文獻:

[1]周小佳.電力系統(tǒng)可靠性神經(jīng)網(wǎng)絡模型及實現(xiàn)研究[D].博士學位論文,1997.

[2]胡保清等.神經(jīng)網(wǎng)絡在土木工程領域的應用[J].低溫智能建筑,2004(2).

作者介紹:

第2篇:矩陣論在神經(jīng)網(wǎng)絡中的應用范文

關鍵詞 神經(jīng)網(wǎng)絡模型;模糊綜合評價;權重;水質評價

中圖分類號:X824 文獻標識碼:A 文章編號:1671-7597(2014)07-0147-01

目前,水污染很嚴重,治理好水污染,改善環(huán)境,防止造成進一步的污染,已經(jīng)成為了社會所研究的重點。因此,水質的評價成為了一項重要的研究熱點,根據(jù)水質的相關的指標的特點,綜合分析得到水質的狀況,能夠為政府采取合理的措施提供依據(jù)。目前,神經(jīng)網(wǎng)絡模型對水質進行評價已經(jīng)成為了熱點,神經(jīng)網(wǎng)絡的優(yōu)點在于權重的確定方面,能夠合理的確定各個指標的權重,但是在評價的模型上[1],神經(jīng)網(wǎng)絡用的層層分析模型,沒有做夠好的進行水質的評價,本文在神經(jīng)網(wǎng)絡中融合模糊綜合評價模型,能夠很好的對水質進行評價。

1 神經(jīng)網(wǎng)絡理論

人工神經(jīng)網(wǎng)絡(AnificialNeural Nemorks,ANN)是通利用數(shù)學模型的方法進行抽象和模擬,是一種模仿人腦結構和它的功能的非線性的信息處理系統(tǒng)。它主要是大量的單元相互連接而組成的網(wǎng)絡結構,來實現(xiàn)大腦的感知和學習功能。神經(jīng)網(wǎng)絡拓撲結構可以分為前饋多層式網(wǎng)絡模型、反饋遞歸式網(wǎng)絡模型和隨機型網(wǎng)絡模型等。根據(jù)研究水質問題多因素權重問題以及神經(jīng)網(wǎng)絡的相關理論,前饋多層式網(wǎng)絡中的反向傳播神經(jīng)網(wǎng)絡(BP神經(jīng)網(wǎng)絡)具有良好的持久性以及適時預報性,因此在本文的評價模型中,我們都采用BP神經(jīng)網(wǎng)絡的結構方式[2]。

前饋神經(jīng)網(wǎng)絡分為了神經(jīng)元分層排列,包含了輸入層、隱含層和輸出層三個層次結構,每個層次的神經(jīng)元只能夠接收前一個層次的神經(jīng)元,層層對應。這是一種比較強有力的學習系統(tǒng),它的結構相對而言較為簡單,并且編程也比較容易,是一種靜態(tài)的非線性映射,通過簡單的非線性處理進行復合映射,能夠得到更加復雜的處理能力。這些前饋網(wǎng)絡學習,它們分類能力和模式識別的特點都要強于一般的反饋網(wǎng)絡。典型的前饋網(wǎng)絡有感知器網(wǎng)絡和BP網(wǎng)絡。水質評價模型中,一般采用的都是BP神經(jīng)網(wǎng)絡,能夠很好的處理各個指標之間的關系特點,做到很好的評價,但是需要一個更好的模型結合神經(jīng)網(wǎng)絡確定權重的特點進行水質評價,能夠收到更好的效果。

2 模糊綜合評價的基本理論

模糊數(shù)學是利用數(shù)學方法進行研究與處理模糊現(xiàn)象的數(shù)學。模糊綜合評價作為一門新的評價科學,是典型數(shù)學、統(tǒng)計數(shù)學之后的發(fā)展起來的一門新的數(shù)學學科,可以處理很多之前數(shù)學無法解決的問題。開始具有爭議,經(jīng)過一段時間,開始迅速發(fā)展,而且涉及的應用領域越來越廣泛,已經(jīng)遍及理、工、農(nóng)、醫(yī)及社會科學,充分體現(xiàn)了評價模型的優(yōu)越之處。

模糊綜合評價法是一種利用模糊數(shù)學為基礎的綜合評標方法。綜合評價法利用模糊數(shù)學隸屬度理論和模糊變換原理,根據(jù)給出的評價標準與實測值,考慮到被評價事物的各個相關因素,對其進行綜合評價。對于模糊綜合評價向量,即綜合隸屬度,可用如下公式:

A為輸入,代表參加評價因子的權重經(jīng)歸一化處理得到的一個1×n階矩陣;R為模糊變換裝置,是通過單因素評判得到的隸屬度向量,是一個n×m階的模糊關系矩陣;B為輸出,代表綜合評判結果,是一個1×m階矩陣[3]。

其中評價因子是m集合為:,分別為參與評價的n個評價因子。其中評價等級共m個等級,組成集合為:。

評判矩陣和隸屬度的式子為:

3 神經(jīng)網(wǎng)絡和模糊綜合評價結合算法

神經(jīng)網(wǎng)絡模型評價的精華在于權重的分析確定上,模糊綜合評價模型的優(yōu)點在于系統(tǒng)的評價模型,因此在評價的時候,只要將這兩者的優(yōu)點結合起來,就能夠得到很好的效果,因此設計了以下算法模型,能夠合理的對水質進行評價,為科學的采取污染防治措施提供依據(jù)。

Step1:網(wǎng)絡初始化。根據(jù)系統(tǒng)輸入輸出序列(X,Y)確定網(wǎng)絡輸入層節(jié)點數(shù)p、隱含輸入層節(jié)點數(shù)l,輸出層節(jié)點數(shù)q,初始化輸入層、隱含層和輸出層神經(jīng)元之間的連接權值α和β(α為初始權重,β為臨界值,均隨機設為較小的數(shù))給定學習速率和神經(jīng)元[4][5]。

Step2:輸出計算。將已有的樣本數(shù)值加在網(wǎng)絡上,利用公式算出其輸出值:

Step3:調整權系數(shù)。根據(jù)網(wǎng)絡預測誤差,按已知輸出數(shù)據(jù)與上面算出的輸出數(shù)據(jù)之差,調整權重系數(shù),其中調整量為:其中:因為隱節(jié)點的輸出內部抑制,利用反向推算可以得到:誤差值從輸出層反向推導得到。

Step4:對各層的權重系數(shù)進行調整后,得到調整后的權

重為:

BP神經(jīng)網(wǎng)絡利用梯度下降算法,通過迭代運算,不斷調整mij的數(shù)值,當?shù)玫降妮敵稣`差小于所設定的閥值時,將認為獲得的mijBP神經(jīng)網(wǎng)絡是合理的。而不斷迭代的方法相當于對各類情況進行調整,具有一定的學習記憶特征。

基金項目

國家自然科學基金青年基金(11201485);徐州工程學院校青年項目(XKY2010201)。

參考文獻

[1]劉起霞,李清波,鄒劍峰.環(huán)境工程地質[M].鄭州:黃河水利出版社,2001.

[2]孫會君,王新華.應用人工神經(jīng)網(wǎng)絡確定評價指標的權重[J].山東科技大學學報(自然科學版),2001,20(3):84-86.

[3]萬金保,李媛媛.模糊綜合評價法在鄱陽湖水質評價中的應用[J].上海環(huán)境科學,2007,26(05):215-218.

[4]金菊良,魏一鳴,丁晶.基于改進層次分析法的模糊綜合評價模型[J].水利學報,2004(03):65-70.

[5]郭慶春,何振芳,李力,等.BP人工神經(jīng)網(wǎng)絡模型在太湖水污染指標預測中的應用[J].南方農(nóng)業(yè)學報,2011,42(10).

第3篇:矩陣論在神經(jīng)網(wǎng)絡中的應用范文

關鍵詞:服務沖突;TRIZ;沖突矩陣;BP網(wǎng)絡

服務業(yè)的快速發(fā)展和人們生活水平的提高,使得服務質量成為企業(yè)在劇烈的市場競爭中取勝的關鍵因素。然而,目前很多服務企業(yè)的服務質量水平還遠低于人們的期望。雖然企業(yè)在努力提高其服務質量,然而由于服務質量往往是由多個屬性來共同刻畫,人們努力改善服務的某方面的質量屬性的同時卻有可能降低了其另一方面的質量屬性,這種現(xiàn)象被稱為服務沖突 [1]。例如,對于網(wǎng)絡在線游戲,游戲提供商需每周關閉游戲服務器維護系統(tǒng),而這就必須強迫玩家與服務器連接中斷,在這種情況下,要想保持顧客滿意度,游戲提供商就要在保證在“等待時間”不變的情況下,提高產(chǎn)品的“易維修性”。因此,對于服務這項無形的“產(chǎn)品”,它內部屬性之間的矛盾也是影響服務質量提高的重大障礙。

如何解決這種服務沖突,傳統(tǒng)的是采用妥協(xié)、折中的方式,但這些方法只能避開矛盾,并沒有解決矛盾。G.S.Altshuler等提出的TRIZ的沖突解決矩陣就是專門解決產(chǎn)品內部矛盾的比較成熟的方法,它能夠解決工程領域產(chǎn)品之間的大部分矛盾[2]。本文借鑒TRIZ中沖突矩陣的思路,構建了一個基于BP神經(jīng)網(wǎng)絡的服務沖突消解模型。該模型允許企業(yè)根據(jù)實際情況增加新的參數(shù)及沖突解決方案,更針對性的解決服務企業(yè)沖突問題。

一、TRIZ理論及其在服務領域的應用

(一)TRIZ理論。TRIZ是俄文發(fā)明問題解決理論的縮寫。前蘇聯(lián)G.S. Altshuler等研究人員在分析研究世界各國250萬件專利的基礎上、花費1500個人年的時間提出的包括ARIZ算法、物質--場分析法、沖突矩陣、預測、效應庫等系列的TRIZ方法。其中沖突矩陣是TRIZ的核心工具之一,它由39個工程參數(shù)和40個發(fā)明原理構成。矩陣的行和列分別為39個改善和惡化的工程參數(shù),矩陣元素Xi,j為第i個改善的參數(shù)和第j個惡化的參數(shù)所構成的沖突所對應的發(fā)明原理。TRIZ沖突矩陣是個對稱矩陣,即Xi,j與Xj,i相同,Xi,i為空。表1為沖突矩陣示意圖。

表1 沖突解決矩陣

(二)TRIZ在服務中的應用。TRIZ用獨特的沖突矩陣來分析問題。在技術領域,沖突相對而言更清晰和更易于察覺。盡管服務產(chǎn)品不同于實體產(chǎn)品,沖突卻不可避免地存在著,與技術領域不同的是,服務沖突更無形、更抽象[3]。例如,“標準化和顧客定制化”、“差異化和專一化”、“概括信息和詳細信息”、“安全性和透明度”等等都是服務企業(yè)常見的沖突問題。

Berry和Lampo(2000)通過對大量服務案例的分析得出結論,可以由五種典型的方式來重新設計服務。它們是:自服務、直接服務、預先服務、捆綁服務、“有形”服務。可以看出,這五種服務設計模式和TRIZ40條發(fā)明創(chuàng)造原理中的某些原理非常類似。如自服務,對應原理-25自服務:使一物體通過附加功能產(chǎn)生自己服務于自己的功能;直接服務對應原理-2分離:將一個物體的“干擾”部分分離出去;預先服務對應原理-10預操作:在操作開始前,使物體局部或全部產(chǎn)生所需的變化;捆綁服務對應原理-5合并:在空間上將相似的物體連接在一起,使其完成并行的操作;“有形”服務對應原理-15動態(tài)化:使一個物體在操作的每個階段自動調整,以達到優(yōu)化的性能。

二、服務沖突矩陣的構建

(一)服務參數(shù)的提取。由于服務具有主觀、互動、抽象的特點,并且具有與實體產(chǎn)品不同的特征(無形性、異質性、顧客參與、服務生產(chǎn)與消費同時等),因此,對于服務領域不能用TRIZ通用的工程參數(shù)來描述沖突。這里要做的是找出適用于服務領域的類似工程參數(shù)的服務屬性。關于服務屬性的選取,這里作必要的說明。

首先,通過分析借鑒其他學者對相關問題的研究。Brady和Cronin(2001)等學者研究提出了服務質量的三因素模型,認為服務質量由交互質量、實體環(huán)境質量和結果質量三個維度組成。Parasuraman,Zeithaml對幾類不同的服務進行研究人士影響服務質量的有:可靠性、響應性、勝任力、接近性、禮貌性、溝通性、信賴性、安全性、了解性和有形性。梁文賓(2005)[3]在前人研究的基礎上整理出了旅游業(yè)的21個服務屬性并把這些屬性與TRIZ的工程參數(shù)進行了配適。其次,由于服務屬性有行業(yè)特點,不同的服務行業(yè),服務屬性可能有所不同,各個屬性的重要性也會存在差異。因此,這里只給出一個一般的參考指標,實際應用時依據(jù)行業(yè)特點再作些調整。具體的服務參數(shù)如表2所示。

表2 服務參數(shù)指標體系

注:資料整理來源于文獻

(二)服務沖突矩陣的構建。根據(jù)上面的21個服務參數(shù),建立21*21服務沖突矩陣。其中矩陣行所代表的參數(shù)是需要改善的一方,列所描述的參數(shù)為可能引起惡化的一方。在沖突矩陣中,除了主對角線外,行與列的交叉點可能構成一對沖突,表3為服務沖突矩陣示意圖。

表3 服務沖突矩陣

注:服務參數(shù)與工程參數(shù)的配適參考文獻[2]。

服務沖突矩陣的應用過程為:根據(jù)實際存在的沖突,在22個服務參數(shù)中,確定需要改善及防治惡化的參數(shù),在矩陣中找到其對應得行與列。例如,對于網(wǎng)絡在線游戲,游戲提供商需要每周關閉游戲服務器維護系統(tǒng),在這種情況下,要想保持顧客滿意度,游戲提供商就要保證在“等待時間X14”不變的情況下,提高產(chǎn)品的“易維修性X17”,即行17與列14。其解決原理為有原理1-分割、原理10-預操作、原理-25自服務。原理1的具體解決方案為把維修分成幾個部分進行,對游戲分部分獨立維修,這樣,當我們在部分維修的時候玩家也可以繼續(xù)玩。具體40條解決原理見表4。

表4 發(fā)明原理在服務中的實例

注:資料整理來源于文獻

該服務沖突矩陣參數(shù)是根據(jù)TRIZ沖突矩陣中的工程參數(shù)配適出來的,對于服務“產(chǎn)品”可能具有而實體產(chǎn)品卻不具有的功能參數(shù),該矩陣就無法描述。為更加全面的解決服務沖突問題,本文把建立一個基于BP神經(jīng)網(wǎng)絡的沖突消解模型,在模型中,企業(yè)能根據(jù)自身情況添加新的輸入或輸出節(jié)點數(shù)也就是增加新的參數(shù)或解決原理,來解決本企業(yè)的沖突問題。

三、基于BP神經(jīng)網(wǎng)絡的服務沖突消解模型

人工神經(jīng)網(wǎng)絡是由大量處理單元廣泛互連而成的網(wǎng)絡,是對人腦信息處理功能的模擬和延伸。目前,在神經(jīng)網(wǎng)絡的實際應用中,BP網(wǎng)絡是最成熟、應用最廣的一種前饋神經(jīng)網(wǎng)絡,它主要用于函數(shù)逼近、模式識別、分類和數(shù)據(jù)壓縮。其結構由一個輸入層、一個或多個隱含層、一個輸出層組成,各層由若干個神經(jīng)元(節(jié)點)構成,每一個節(jié)點的輸出值與輸入值得關系由作用函數(shù)和閥值決定,神經(jīng)元可以實現(xiàn)輸入和輸出之間的任意非線性映射。

(一)BP網(wǎng)絡模型的構建。(1)網(wǎng)絡層數(shù)的配置。根據(jù)輸入和輸出的要求,選擇網(wǎng)絡的隱含層是非常重要的。理論分析證明,具有單隱層的前饋網(wǎng)可以映射所有連續(xù)函數(shù)。因此,本文選用三層BP神經(jīng)網(wǎng)絡,即由一個輸入層,一個隱含層和一個輸出層組成。(2)網(wǎng)絡輸入節(jié)點數(shù)的確定。由沖突矩陣可以看出,每個沖突既包括一對工程參數(shù),又表明參數(shù)的改善與惡化情況。若直接按沖突矩陣來設置輸入節(jié)點數(shù),則需要21*21-21=402個輸入節(jié)點;若僅用21個節(jié)點,又不能確定改善與惡化的服務參數(shù),故引入一個判斷輸入節(jié)點X22.當其為0時,表示Xi改善,Xj惡化(Xi、Xj均為1,且i

傳遞函數(shù):隱含層中的神經(jīng)元和輸出層神經(jīng)元均采用正切S型傳遞函數(shù)(tansig)。學習周期:預設為1000個。學習目標:總均方誤差MSE小于誤差限1e-2。學習算法:選用有彈回的BP算法。初始連接權值和閥值:利用Matlab的函數(shù)init()產(chǎn)生初始連接權值和閥值。Init()采用nguyen-widrow初始化算法。

(二)網(wǎng)絡樣本的設計。網(wǎng)絡的樣本來自于服務領域已解決的問題。本文選取30個沖突案例作為數(shù)據(jù)樣本集,其中25個作為訓練樣本,5個作為測試樣本。

對于每一個樣本案例,首先要將問題抽象對應為沖突矩陣中某一特定的沖突,解決的方法抽象對應為40條沖突解決原理中的一條。如,解決旅行社的“行前解約”問題給旅客帶來的不滿,需要顧及個別差異,若顧及個別差異就可能會拖延處理問題的時間。這樣,需要改善的屬性是“彈性”,而需維持不受影響的屬性為“服務補救能力”。最終的解決方案是先將團員們分成獨立個體,再派專人單獨與旅客們針對其需要迅速解決問題,采用的原則是分割。按表5的過程就得到了一組學習樣本。

表5 獲取學習樣本

(三)運行結果及分析。神經(jīng)網(wǎng)絡學習過程誤差曲線如圖1所示。從圖中可以看出,網(wǎng)絡訓練到617步時訓練誤差達到期望誤差,收斂效果良好。因此,網(wǎng)絡選擇的隱含層節(jié)點數(shù),學習函數(shù)等網(wǎng)絡參數(shù)比較適合。

圖1 神經(jīng)網(wǎng)絡學習過程誤差曲線

依據(jù)學習好的網(wǎng)絡,只要將實際問題依據(jù)表5抽象化以后輸入到網(wǎng)絡中,就能得到相應的沖突解決原理。表6為測試樣本的實際輸出與理論輸出的對照表,從表中可以看出樣本的實際輸出與理論輸出很接近,誤差很小,驗證了該網(wǎng)絡的可行性。

表6 測試樣本輸出對照表

結論:本文從服務“產(chǎn)品”內部矛盾影響服務質量的角度,借鑒TRIZ沖突矩陣的思路,在構建服務沖突矩陣的基礎上,建立了基于BP神經(jīng)網(wǎng)絡的服務沖突消解模型。該模型不僅能解決原有的服務沖突問題,還允許企業(yè)添加新的參數(shù)和解決方案,增加新的實例,建立適合自己的網(wǎng)絡沖突模型。然而,由于BP神經(jīng)網(wǎng)絡自身的局限,使得該模型在實際應用中也存在一些問題。例如,網(wǎng)絡的穩(wěn)定性和可塑性較差,當它遇到一個新模式時,會將已有的權值和閥值打亂,導致學習好的模式信息丟失。另外,隱含層的神經(jīng)元個數(shù)設置多少合適,少量的學習樣本結果是否具有一般性應用等問題,還需進一步研究。

參考文獻:

第4篇:矩陣論在神經(jīng)網(wǎng)絡中的應用范文

關鍵詞:甘蔗葉片;光譜反射率;葉綠素含量;PCA算法;BP神經(jīng)網(wǎng)絡

中圖分類號:O657.3; TP722.4文獻標識碼:ADOI:10.3969/j.issn.10036199.2017.01.008

1引言

甘蔗是廣西地區(qū)最重要的經(jīng)濟作物,新臺糖22號甘蔗是廣西蔗區(qū)種植面積最廣的品種。但是與發(fā)達地區(qū)相比,廣西的甘蔗生產(chǎn)水平相對較低,生產(chǎn)成本偏高,產(chǎn)品的國際競爭力不強。了解甘蔗的生長狀況,建立與作物長勢有關的作物生化指數(shù)(這里指的是葉綠素含量)的預測模型是精細農(nóng)業(yè)研究的重要內容。葉片葉綠素含量植物的狀態(tài),而光譜為無損估算葉片葉綠素含量提供了[1-4]。

Gitelson等[5]通過對不同作物的冠層反射光譜進行研究,發(fā)現(xiàn)在波長550 nm和700 nm附近的光譜與葉綠素的含量相關性顯著;Hansena and Schjoerring[6]通過比較預先假設的NDVI的兩個長波段的預測模型,采用偏最小二乘法選擇相關性最高的波段組合,結果發(fā)現(xiàn)用于估算葉片葉綠素含量的模型準確度高;趙春江、張金恒等[7-8]研究認為利用紅邊波段的反射光譜可以估算葉片葉綠素含量。

BP(Back Propagation)神經(jīng)網(wǎng)絡通常是指基于誤差反向傳播算法的多層前向神經(jīng)網(wǎng)絡。目前BP神經(jīng)網(wǎng)絡已成為近紅外光譜定量分析中應用最廣的非線性多元校正方法。劉建學等[9-12]基于BP神經(jīng)網(wǎng)絡建立了大米淀粉含量的預測模型;王艷斌[7]等針對不同餾程柴油的近紅外光譜進行校正,認為人工神經(jīng)網(wǎng)絡具有較好的準確性和抗干擾性;張欽禮等[13]針對礦巖可爆性進行預測分析,建立了基于主成分析(Principal Component Analysis,PCA)和BP組合的礦巖可爆性分級評價模型,預測值與期望值之間的相對誤差控制在6%以內;陳建宏等[14]建立了基于PCA和BP相結合的采礦方法優(yōu)選模型了數(shù)據(jù)處理速度較慢的缺陷。王棟等[15]研究發(fā)現(xiàn)基于灰色關聯(lián)和BP神經(jīng)網(wǎng)絡的汽車保有量預測模型具有較高的精度,最大相對誤差為2.2%,平均相對誤差為1.5%。

人工神經(jīng)網(wǎng)絡方法具有很強的非線性逼近能力,已經(jīng)在近紅外分析中得到廣泛的應用。針對甘蔗作物光譜特性進行研究的文獻少,研究基于PCA和BP神經(jīng)網(wǎng)絡算法,建立了甘蔗葉片葉綠素含量的預測模型。

2實驗數(shù)據(jù)獲取

該實驗是在2015年5月26日,在廣西大學農(nóng)學院試驗田進行。甘蔗品種選擇新臺糖22號(ROC22)。采用“3414”施肥方案,肥料選擇尿素(N)、氯化鉀(K)和鈣鎂磷肥(P)。此次試驗是在每個小區(qū),共42個樣本。實驗使用的是島津紫外可見分光光度計UV-2600,其測量的測波長范圍是220-1400 nm,分辨率為0.1 nm。可用于測量甘蔗葉片的反射光譜和葉綠素含量

a和Cb分別為葉綠素a、b的濃度,葉綠素濃度。A645與A663分別為645 nm與663 nm波長下的萃取液吸光度。3基于PCA和BP神經(jīng)網(wǎng)絡的葉綠素含量預測模型設計

本實驗利用甘蔗葉片在可見光-近紅外區(qū)域的反射率數(shù)據(jù)作為該模型的輸入,光譜矩陣X,葉綠素的含量值作為其輸出。本研究主要基于BP算法的思想建立預測葉綠素含量的模型。但是直接將光譜矩陣X作為神經(jīng)元的輸入,導致BP網(wǎng)的規(guī)模比較大,訓練也較為復雜。我們首先利用PCA消除光譜數(shù)據(jù)之間的多重共線性,對原始光譜矩陣進行降維處理,提取出主成分。進一步確定最終主成分的數(shù)目,并將這些主成分作為BP網(wǎng)的輸入。另外,根據(jù)BP神經(jīng)網(wǎng)絡理論,編寫B(tài)P算法的程序,建立葉綠素含量的預測模型。

3.1PCA算法和BP神經(jīng)網(wǎng)絡算法的原理

PCA是對多變量數(shù)據(jù)進行統(tǒng)計處理的一種數(shù)據(jù)線性投影方法,它在盡可能保留原有信息的基礎上將高維空間中的樣本映射到較低維的主成分空間中。其基本思路是以一種最優(yōu)的方法把相互相關的一組數(shù)據(jù),通過正交變換使其變?yōu)橐唤M相互無關的變量,以達到簡化光譜矩陣,降低維數(shù)的目的。對于一個具有n個樣本p個波長點光譜矩陣

以上測試結果表明:在一定的誤差范圍內,利用經(jīng)過改進的BP神經(jīng)網(wǎng)絡模型能較好預測葉綠素含量。這主要是因為前5個主成分幾乎原始光譜信息另外BP神經(jīng)網(wǎng)絡自身的結構特點也決定了其具有較好的預測能力。

4結語

本論文主要研究了處于分蘗初期的甘蔗葉片在可見-近紅外波段的光譜特性對其葉綠素含量的預測能力。首先對光譜范圍為400 nm~1000 nm的甘蔗葉片反射率進行了主成分分析,以盡可能地減少冗余信息;接下來,采用前5個主成分作為BP神經(jīng)網(wǎng)絡的輸入,建立了葉綠素的預測模型。研究發(fā)現(xiàn),采用PCA及BP神經(jīng)網(wǎng)絡算法相結合的方法建立的預測模型具有較強的預測能力(R2=0.8929,pvalue=0.0016)。但是,利用全波段的光譜信息來作為預測模型的輸入,數(shù)據(jù)量較大,數(shù)據(jù)獲取成本較高,增加了模型的復雜性及應用成本,不利于后期推廣。另外,由于研究中用到的樣本數(shù)據(jù)較少,該模型仍存在一定的不穩(wěn)定因素,后期可通過增加訓練樣本數(shù)量集,進一步增加模型的魯棒性。

參考文獻

[1]THENKABAIL P S, SMITH R B, DE PAUW E. Hyperspectral vegetation indices and their relationships with agricultural crop characteristics[J]. Remote Sensing of Environment, 2001,71:158-182.

[2]FILELLA I, SERRANO I, SERRA J,et al.Evaluating wheat nitrogen status with canopy relfectance indices and discriminant analysis[J]. Crop Sci,1995,35:1400-1405.

[3]RICHARDSON A D, DUIGAN S P, BERLYN G P. An evaluation of noninvasive methods to estimate foliar chlorophyll content[J]. New Phytol,2002,153:185-194.

[4]李修華, 陳曉, 周永華,等. 不同施肥情況下甘蔗葉片光譜特性分析及其葉綠素含量預測[J].農(nóng)業(yè)工程學報,2015,31:118-123.

[5]GITELSON A A, MERZLYAK M N J. PhotochemPhotobiol, Quantitative estimation of chlorophyll a using reflectance spectra: Experiments with autumn chestnut and maple leaves. J Photochem Photobiol,1994a,(B) 22:247-252.

[6]HANSENA P M.,SCHJOERRING J K. Reflectance measurement of canopy biomass and nitrogen status in wheat crops using normalized difference vegetation indices and partial least squares regression[J].Remote Sensing of Environment,2003,86: 542-553.

[7]趙春江,黃文江,王紀華,等.不同品種和肥水條件下冬小麥光譜紅邊參數(shù)研究[A]. 成像光譜技術與應用研討會論文集[C]. 2002,69-73.

[8]張金恒,王珂,王人潮. 高光譜評價植被葉綠素含量的研究進展[J].上海交通大學學報, 2003, 21(4): 349-360.

[9]RIAR A. In: Bhullar GS, Bhullar NKA (eds) Agricultural Sustainability Progress and Prospects in Crop Research[J], 1st edn. Jamestown Road, London. 2013.

[10]CRAMARIUC R,NISIPARU L,TANASE G.Test for the electrostatic crop spraying as a method of treatment with vctra low volume,the modern problems of electrostatics with applications in environment protection[J].NATO ASI Seriea,1998,118:33-38,379-392.

[11]O紅,李民贊,周志艷,等.玉米生長期葉片葉綠素含量檢測研究.光譜學與光譜分析,2010,4: 1080-1083.

[12]APARICIO N,VILLEGAS D,CASADESUS J,et al.Spectral vegetation indices as non-destructive Curran PJ[J], Agronomy Journal,2000,92: 83-91.

[13]張欽禮,劉偉軍,楊偉,等. 基于PCA和改進BP組合預測模型的礦巖可爆性研究[J]. 爆破, 2016,33(1):19-30.

[14]陳建宏, 劉浪, 周智勇, 等. 基于主成分分析與神經(jīng)網(wǎng)絡的采礦方法優(yōu)選[J]. 中南大學學報:自然科學版,2010,41(5):1967-1974.

[15]王棟,鄧北川. 山區(qū)高速公路直線段車速預測方法[J]. 交通科學與工程,2014,30(2):81-86.

第5篇:矩陣論在神經(jīng)網(wǎng)絡中的應用范文

關鍵詞:電力系統(tǒng);人工智能;模糊控制;神經(jīng)網(wǎng)絡

引言

伴隨著社會的不斷進步,用戶對電能的要求也在不斷提高:安全、可靠、優(yōu)質、環(huán)保。電力系統(tǒng)在實際工作中也確實存在一些技術難題:首先,電力系統(tǒng)是一種復雜大系統(tǒng),系統(tǒng)參數(shù)包含著諸多的不確定因素,并且具有很強的非線性;其次,電力系統(tǒng)應當具有較強的魯棒性能,以克服系統(tǒng)中的擾動,而且系統(tǒng)對多目標尋優(yōu)的控制方法要求也較高;最后,復雜系統(tǒng)是由多個子系統(tǒng)相互影響、關聯(lián)組成,電力系統(tǒng)需要將多個局部的控制系統(tǒng)相互連接,綜合控制。因此,這一系列尖端的技術難題需要應用更為先進的自動化控制技術即智能控制技術。

1智能控制技術

控制理論的不斷發(fā)展,為人類帶來了更加先進的自動化技術,使得人們設計的控制系統(tǒng)穩(wěn)定、可靠、智能、高效。典型的智能控制技術包括:模糊控制、人工神經(jīng)網(wǎng)絡、專家系統(tǒng)、遺傳算法等。

1.1模糊控制。模糊控制是基于模糊數(shù)學理論的一種控制方法。傳統(tǒng)的控制理論能夠解決模型明朗、確定的系統(tǒng)的控制問題。但當面對類似于電力系統(tǒng)的復雜、模型不確定、因素多的大系統(tǒng)傳統(tǒng)的控制方法就無法高效地解決控制問題。為了克服上述問題,科研人員提出了用模糊數(shù)學的理論來解決一些復雜系統(tǒng)的控制問題。模糊控制是一種非線性的控制理論。它采用的是理論與實際相結合的方法解決實際的問題。一般模糊控制技術包含如下幾個部分:定義變量、模糊化、知識庫、邏輯判斷及反模糊化。而其中的邏輯判斷部分運用模糊邏輯、模糊推論方法進行分析,得到最優(yōu)的模糊控制輸出。

1.2人工神經(jīng)網(wǎng)絡。人工神經(jīng)網(wǎng)絡(ArtificialNeuralNetworks,簡寫為ANNs)也簡稱為神經(jīng)網(wǎng)絡(NNs),此類數(shù)學模型模仿動物神經(jīng)網(wǎng)絡的組成,進行分布式信息處理。通過調整系統(tǒng)內部的各個節(jié)點之間的聯(lián)系,最終達到控制系統(tǒng)的目的。強魯棒性、非線性特性、自組織自學習的能力和并行處理能力是人工神經(jīng)網(wǎng)絡基本特性,受到了人們的普遍關注。人工神經(jīng)網(wǎng)絡在工作前先對控制準則學習,減少系統(tǒng)工作過程中發(fā)生錯誤動作的概率。控制的準確性可以經(jīng)過學習之后逐漸完善,提高系統(tǒng)正確動作的權值。

1.3專家系統(tǒng)。專家系統(tǒng)實際上是一個包含著某個專業(yè)領域內的大量人類專家知識的一種智能計算機程序系統(tǒng)。該系統(tǒng)通過程序模擬人類專家應用其豐富的知識經(jīng)驗進行分析、解決問題的過程,最終解決復雜的控制系統(tǒng)的問題。專家系統(tǒng)中的知識庫是反映系統(tǒng)性能的主要部分,系統(tǒng)在解決問題時是通過模擬專家的思維來實現(xiàn)的。用戶在使用過程中可以通過不斷完善專家?guī)靵硖岣邔<蚁到y(tǒng)的性能。專家系統(tǒng)通過反復比對系統(tǒng)的輸入信息,與專家系統(tǒng)中的知識庫的規(guī)則進行匹配,最終找到能使數(shù)據(jù)庫的內容與實際的目標的規(guī)則。在改善動態(tài)品質和提高遠距離輸電線路能力的問題上,盧強等人提出了利用最優(yōu)勵磁控制手段,研究成果指出:利用最優(yōu)勵磁控制方式,可以使大型機組取代古典勵磁方式。

2智能控制技術在電力系統(tǒng)的應用

2.1模糊控制技術在繼電保護領域的應用。電力系統(tǒng)中的繼電保護裝置具有這重要的意義,繼電保護裝置的可靠工作能使電力系統(tǒng)穩(wěn)定、可靠、安全的運行。對繼電保護裝置的故障識別與診斷越來越嚴苛,電力系統(tǒng)中龐大復雜的故障現(xiàn)象,普通的識別系統(tǒng)無法準確及時地解決問題。因此,采用先進的人工智能技術進行電力系統(tǒng)的繼電保護裝置的故障識別與診斷的工作更加迫切。應用模糊控制技術監(jiān)視電力系統(tǒng)中變壓器的工作狀態(tài),根據(jù)變壓器的參數(shù)的變化,結合已知的輸入輸出,利用模糊控制技術進行變壓器的故障診斷。利用最小二乘法的原理將變壓器的一些參數(shù),例如電介質的損耗、泄漏電流、絕緣電阻、變壓器的吸收比等參數(shù)作為模糊控制的輸入。將這些輸入?yún)?shù)通過一定的規(guī)則進行量化,作為模糊輸入的矩陣,再將變壓器的狀態(tài)分為合格、不合格、故障等按照規(guī)則量化得到輸出的模糊矩陣。參考其他一些實際經(jīng)驗中的數(shù)據(jù)作為擴展出來的輸入輸出矩陣,應用最小二乘法的迭代運算得到輸入與輸出的關系矩陣。應用得出的輸入輸出的關系矩陣就可以對一些變壓器的試驗信息進行分析,診斷。

2.2神經(jīng)網(wǎng)絡在電力系統(tǒng)故障診斷中的應用。在電力系統(tǒng)故障診斷的過程中,神經(jīng)網(wǎng)絡將系統(tǒng)的故障報警信息作為神經(jīng)網(wǎng)絡的輸入量。神經(jīng)網(wǎng)絡的輸出是電力系統(tǒng)故障診斷的結論。應先讓神經(jīng)網(wǎng)絡進行學習,對其輸入特定的故障報警,建立一個全面的故障報警樣本庫。通過樣本庫不斷對神經(jīng)網(wǎng)絡系統(tǒng)進行訓練,使得系統(tǒng)對不同的故障報警輸入產(chǎn)生相應的權重,最終能夠輸出準確的故障診斷的結果。神經(jīng)網(wǎng)絡故障診斷技術不僅可以應用在電網(wǎng)的故障診斷方面,還可以用于電力設備的故障診斷、電力系統(tǒng)中的變壓器的故障診斷等。神經(jīng)網(wǎng)絡的算法多種多樣較為常用的有BP神經(jīng)網(wǎng)絡算法,迭代步長算法,以及變步長法等。在輻射型配電系統(tǒng)中采用BP神經(jīng)網(wǎng)絡,用ANN模擬各個地區(qū)不同電弧電阻下的故障情況,測量阻抗量應用BP神經(jīng)網(wǎng)絡判斷電力系統(tǒng)出現(xiàn)的問題。該方法能夠有效解決由于電弧引起的測量阻抗不準確,導致保護系統(tǒng)不能正常工作的問題。專家系統(tǒng)在電力變壓器其的故障診斷的應用電力系統(tǒng)中已經(jīng)有多個部分在控制過程中建立出了數(shù)學模型,但是依然存在一些復雜的、規(guī)律性不明顯的系統(tǒng)無法抽象出具體的數(shù)學模型。這就需要專家系統(tǒng)解決相應的問題。專家控制系統(tǒng)在電力系統(tǒng)中多用于分辨系統(tǒng)的故障報警的狀態(tài),進行分析,提出故障的應急解決方案以及系統(tǒng)的恢復控制方案。專家系統(tǒng)中的知識庫用于提供解決問題的知識,應用推理機使用該專家的知識庫。知識庫可以根據(jù)變壓器的不同故障分為多個子系統(tǒng),例如油位、負荷、溫度等。推理機調用程序根據(jù)當前的狀態(tài),按照規(guī)定的規(guī)則調用系統(tǒng)的特定知識。推理機調用知識庫中的數(shù)據(jù)時可以采用正向推理、反向推理、混合推理。經(jīng)過反復的匹配直到找出故障的原因,故障原因可能是多個,將找出的多個原因組合為一個相互關聯(lián)的矩陣。最終實現(xiàn)了經(jīng)過專家系統(tǒng)做出的故障診斷分析。

3總結

人工智能技術是一項新穎先進的技術。在電力系統(tǒng)中應用人工智能技術是電力自動化發(fā)展的必然趨勢。針對類似于電力系統(tǒng)的具有非線性、多參數(shù)、不確定因素多的復雜大系統(tǒng),人工智能技術擁有更加優(yōu)越的控制性能。模糊控制、神經(jīng)網(wǎng)絡、專家系統(tǒng)等控制理論已經(jīng)漸漸的成熟,在生產(chǎn)生活的多個方面已經(jīng)有了越來越多的應用。經(jīng)過人工智能技術的不斷完善,電力系統(tǒng)自動化的不斷深入,人工智能對電力系統(tǒng)的控制會使電力系統(tǒng)運行更穩(wěn)定、更經(jīng)濟,魯棒性能更優(yōu)越。

參考文獻

[1]朱亮亮,王艷.基于人工智能的電力系統(tǒng)自動化控制[J].科技致富向導,2014,09:300.

[2]丘智蔚.基于人工智能的方法對智能電網(wǎng)進行安全改進[D].華南理工大學,2014.

[3]馮宗英.配電網(wǎng)狀態(tài)估計及量測系統(tǒng)的魯棒性配置研究[D].山東大學,2014.

第6篇:矩陣論在神經(jīng)網(wǎng)絡中的應用范文

【關鍵詞】BP人工神經(jīng)網(wǎng)絡;車間調度;模擬退火算法;SA\LM混合算法

0 引言

車間調度指標工時達成率是評價車間調度優(yōu)異程度的重要指標,它直接體現(xiàn)出車間設備的利用率、工人效率、庫存大小,同時工時達成率的影響因素很多,如原料到位情況、設備健康狀況、人員到崗狀況、批次大小、加班情景等。車間調度問題是滿足任務條件和約束要求的資源分配問題,是最困難的組合優(yōu)化問題,解決車調度問題首先要建立準確的車間生產(chǎn)模型,模型的優(yōu)異程度由預測輸出指標的準確性決定,BP人工神經(jīng)網(wǎng)絡是建立預測模型尋求最優(yōu)值的有效工具。

國內外學者對人工神經(jīng)網(wǎng)絡在調度問題及建立預測模型有相關研究。A.Azadeh、M.Jeihoonian等采用集成神經(jīng)網(wǎng)絡研究了雙標準雙級裝配流水作業(yè)調度問題[1];Azadeh提出了采用復雜人工神經(jīng)網(wǎng)絡和模糊優(yōu)化算法優(yōu)化仿真模型來解決流水生產(chǎn)車間的調度問題[2];Golmohammadi, Davood等人采用神經(jīng)網(wǎng)絡模型開發(fā)的智能系統(tǒng),研究表明零部件的批次大小比原材料的到位時間及延時時間對調度結果更有影響[3];A.Azadeh, A. Negahban采用混合人工神經(jīng)網(wǎng)絡仿真并優(yōu)化隨機生產(chǎn)的調度問題[4];Braglia 和 Grassi提出了最小化車間平均工時并最大限度延遲的車間調度混合模型,他們采用NawazCEnscoreCHam和多目標遺傳局部搜索算法來解決問題[5];祝翠玲、蔣志方等基于BP神經(jīng)網(wǎng)絡建立空氣質量預測模型,將空氣污染源的數(shù)據(jù)輸入到該模型中,可以準確預測出污染物的檢測值[6];陳廉清,郭建亮等提出了基于BP神經(jīng)網(wǎng)絡和遺傳算法構建表面粗糙度預測模型的開放式試驗系統(tǒng),該系統(tǒng)提高了外圓磨削產(chǎn)品表面粗糙度預測模型的收斂速度和預測精度[7];崔吉峰、乞建勛等提出了采用粒子群算法改進BP神經(jīng)網(wǎng)絡算法,建立了對能源需求的預測模型,作者首先利用灰色預測方法和自回歸移動平均模型建立初步預測結果,再將該結果作為BP神經(jīng)網(wǎng)絡的輸入,在此基礎上進行訓練和預測,將預測精度提高了5%左右[8];張喜忠作了基于神經(jīng)網(wǎng)絡預測模型的發(fā)動機異響信號提取的研究,豐富了發(fā)動機異響信號提取的新方法,拓寬了發(fā)動機故障診斷的應用范圍[9];王德明、王莉提出了遺傳算法和BP神經(jīng)網(wǎng)絡相結合的風場短期風速預測模型,該模型具有預測精度高、收斂速度快的優(yōu)點[10];陳耀武、汪樂宇等提出了基于神經(jīng)網(wǎng)絡、模糊聚類分析和模式識別理論,建立組合式神經(jīng)網(wǎng)絡的短期電力負載預測模型,該模型能夠準確預測普通工作日及節(jié)假日的電力負載[11]。

神經(jīng)網(wǎng)絡BP學習算法具有逼近非線性連續(xù)映射的能力,廣泛應用與非線性系統(tǒng)的建模及控制領域。但是BP神經(jīng)網(wǎng)絡存在一些缺點,主要是收斂速度慢,往往收斂于局部極小值,數(shù)值穩(wěn)定性差,學習率、動量項系數(shù)和初始權值等參數(shù)難以調整。本文提出采用LM和SA混合算法,彌補了神經(jīng)網(wǎng)絡的缺點,并通過調整神經(jīng)網(wǎng)絡數(shù)量,最終得到較準確的車間生產(chǎn)工時達成率預測模型。

1 研究方法及理論

1.1 人工神經(jīng)網(wǎng)絡研究方法

人工神經(jīng)網(wǎng)絡可以處理多元空間信息,成為模式識別、系統(tǒng)辨別、預測等功能的有力工具。人工神經(jīng)網(wǎng)絡的最主要的優(yōu)點是不需要在訓練之前明確定義近似函數(shù)。BP神經(jīng)網(wǎng)絡是最常用的神經(jīng)網(wǎng)絡,因為BP神經(jīng)網(wǎng)絡可以基于輸入?yún)?shù)及輸出參數(shù)計算出近似的仿真模型?;谌斯ど窠?jīng)網(wǎng)絡的特性,它被廣泛應用于尋找問題最優(yōu)解。圖1所示為BP人工神經(jīng)網(wǎng)絡解決問題的一般流程:

1)收集分析數(shù)據(jù):收集大量數(shù)據(jù),分析數(shù)據(jù)自身的相關性,找出主要參數(shù)作為輸入。剔除數(shù)據(jù)中的奇異的,并將數(shù)據(jù)歸一化用于訓練神經(jīng)網(wǎng)絡。

2)選擇網(wǎng)絡類型與結構:根據(jù)問題的特點,選擇神經(jīng)網(wǎng)絡為網(wǎng)絡類型,并確定網(wǎng)絡層數(shù)、每層節(jié)點數(shù)、初始權值、學習算法。其中隱含層的節(jié)點數(shù)選擇比較麻煩,一般原則是在保證正確反應輸入輸出之間關系的基礎上盡量少選隱含層節(jié)點數(shù)。

3)訓練與驗證:采用真實數(shù)據(jù)反復訓練并驗證神經(jīng)網(wǎng)絡直至得到合適的映射效果。在訓練時初始權重可以隨機產(chǎn)生,并且可取多組神經(jīng)網(wǎng)絡同時進行,通過取平均值來提高神經(jīng)網(wǎng)絡模型的準確性,該方法可以克服初始數(shù)據(jù)不充足的缺點。

4)對新數(shù)據(jù)實施預測,輸出預測值。

1.2 SA\LM混合算法原理

人工神經(jīng)網(wǎng)絡中LM算法結合了高斯-牛頓法和最小梯度法的優(yōu)點,包含了高斯-牛頓法的局部收斂性和梯度下降法的全局特性,它通過自適應調整阻尼因子達到局部收斂性,并且其迭代收斂速度高,可以補償BP網(wǎng)絡收斂速度慢的缺點[12],使其在很多非線性問題中得到穩(wěn)定可靠解。但是初始值對LM算法的計算工程中具有很大的影響,若選取的初始值靠近真實值,在得到全局最優(yōu)解的情景下減少運算時間,假設初始值的質量較差,優(yōu)化結果會偏離全局最優(yōu)解而得到局部最優(yōu)解。通過兩種方法可以解決該問題,一是采用盡量多的原始數(shù)據(jù)訓練神經(jīng)網(wǎng)絡,使其具有較準確的預測能力,二是選擇合理的優(yōu)化算法與LM形成混合算法,消除其對初始值的高依賴性[13]。該研究對象為典型的離散生產(chǎn)型車間,無法獲得所有的歷史數(shù)據(jù),第二種方式較合適。退火(SA)算法能夠在算法執(zhí)行過程中,基于較差初始函數(shù)值得到近似的最佳解決方案,這使得SA算法擁有在峰谷之間搜索找到全最小點的能力,無疑是最佳優(yōu)化算法之一[14]。如圖2所示為LM和SA混合算法在神經(jīng)網(wǎng)絡模型中的應用模式,首先基于有限的原始數(shù)據(jù),采用SA算法訓練神經(jīng)網(wǎng)絡預測模型,得到初始預測模型,將該模型中神經(jīng)網(wǎng)絡各層的權重矩陣及閥值作為LM算法的初始化參數(shù),再次訓練得到更優(yōu)秀的神經(jīng)網(wǎng)絡預測模型。該混合算法能夠捕捉并模擬車間排產(chǎn)員的經(jīng)驗知識和生產(chǎn)流程記錄來形成制造過程中的系統(tǒng)知識,最終得到較優(yōu)秀的車間調度模型。

2 人工神經(jīng)網(wǎng)絡結構

在50臺加工系統(tǒng)組成的機加工車間中,有加工工人N人(工人充裕且有熟練度區(qū)分,其中有工序對應唯一工人),需要完成14個待加工零部件,每個工件都包含若干道工序,且工序流程一定。50臺加工系統(tǒng)中包含車床組、銑床組、刨床組、鉗床組、磨床組、焊接組,各組設備的加工能力一致, 以每個月該車間的工時達成率作為關鍵指標,工時達成率以實際完成工時與額定工時的比值為計算方式。車間調度員通過最佳的調度,并為各工序選配最佳資源,在滿足設備加工能力及人員匹配的情況下獲得最佳的工時達成率。

該調度問題有如下初始約束條件:1)任何設備無法同時加工超過兩個工序;2)任意工件無法同時在多臺設備上加工;3)工件必須嚴格按照工藝路線在指定機器上加工;4)除特定工序指定工人外忽略工人的熟練程度;5)工件的安裝及拆卸時間已經(jīng)包含在該工序的加工工時中;6)一般情況下有設備就有工人,除特殊情況工人處于充足狀態(tài);7)每個訂單的14種原材料到位時間隨機,遵循板材、管材、棒材的到位順序。

根據(jù)該車間調度問題的特點,定義人工神經(jīng)網(wǎng)絡的結構。神經(jīng)網(wǎng)絡的輸入?yún)?shù)為各零件的加工對象、可用設備、設備數(shù)量、分批大小、延遲值、工時、前置工序耗時、后置工序耗時等210個參數(shù),輸出參數(shù)既目標函數(shù)為工時達成率。根據(jù)輸入、輸出參數(shù)的量確定采用兩層神經(jīng)網(wǎng)絡結構,既一層隱含層一層輸出層,并且隱含層包含10個節(jié)點,可保證獲得全局最優(yōu)的情況下避免出現(xiàn)過計算。圖3所示為人工神經(jīng)網(wǎng)絡的總體結構,經(jīng)過多次試驗驗證,該神經(jīng)網(wǎng)絡中核心參數(shù)如下:

網(wǎng)絡層閾值參數(shù)biasConnect= [1;1],隱含層與輸出層均有閾值;

輸入層關系參數(shù)inputConnect = [1;0],輸入層與隱含層有權值連接,與輸出層無關系;

網(wǎng)絡層關系參數(shù)layerConnect = [0 0;1 0],隱含層與輸出層神經(jīng)元相連;

輸出層關系參數(shù)outputConnect = [0 1],輸出層的神經(jīng)元產(chǎn)生網(wǎng)絡輸出;

網(wǎng)絡傳遞函數(shù)layers{1}.transferFcn= 'tansig',隱含層與輸出層的傳遞函數(shù);

隱含層初始函數(shù)layers{1}.initFcn = 'initnw',隱含層初始化函數(shù);

訓練算法參數(shù)trainFcn = 'trainlm',LM基礎算法;

網(wǎng)絡初始化函數(shù)initFcn = 'initlay',網(wǎng)絡初始化函數(shù);

神經(jīng)網(wǎng)絡數(shù)量參數(shù)networks=20、50、100。

3 預測結果及分析

54套歷史數(shù)據(jù)作為訓練驗證樣本并不能完全覆蓋所有情景,本研究提出采用多神經(jīng)網(wǎng)絡并行計算求平均值的方法提高模型準確性。為了得到最準確的預測模型,神經(jīng)網(wǎng)絡數(shù)量和訓練算法是本研究中優(yōu)化對象。神經(jīng)網(wǎng)絡的訓練算法主要以LM算法和SA\LM混合算法為研究對象,神經(jīng)網(wǎng)絡數(shù)量以20、50、100為研究對象。取54套樣本中的51套為訓練驗證樣本,3套為預測模型的測試數(shù)據(jù),通過對比工時達成率預測值與真實值的均方差來判斷神經(jīng)網(wǎng)絡模型的優(yōu)異程度。訓練數(shù)據(jù)中每套數(shù)據(jù)的210個參數(shù)生成51*210的矩陣,它們形象地表現(xiàn)出每個調度的輸入與輸出,這些矩陣將成為LM算法和SA\LM混合算法神經(jīng)網(wǎng)絡的輸入?yún)?shù),經(jīng)過計算生成各自的神經(jīng)網(wǎng)絡預測模型,最后用3套調度方案去測試準確性,表1中顯示了神經(jīng)網(wǎng)絡數(shù)為20、50、100的LM算法和SA\LM混合算法神經(jīng)網(wǎng)絡預測模型的測試結果。

從表1中清晰地顯示了兩種算法及三種不同神經(jīng)網(wǎng)絡數(shù)預測模型的預測誤差,神經(jīng)網(wǎng)絡數(shù)量從20-50-100的梯度選擇中預測模型的準確性誤差呈8.46%-8.28%-6.87%的下降趨勢,經(jīng)過試驗確定在該項目中采用100個神經(jīng)網(wǎng)絡數(shù),該方法有效緩解了初始數(shù)據(jù)不充足的缺陷。圖4中顯示LM算法和LM\SA混合算法預測誤差對比,其中LM算法預測誤差均值為8.92%,LM\SA混合算法將該誤差縮小到6.82%,證明混合算法能夠通過改善LM單一算法中初始權重值及閥值,最終得到更優(yōu)異的預測模型。

4 結論及展望

采用BP人工神經(jīng)網(wǎng)絡能夠建立較準確的生產(chǎn)車間調度模型,并且使用SA算法建立人工神經(jīng)網(wǎng)絡的初始權重矩陣及初始閥值,再以LM算法進行優(yōu)化的混合算法是建立車間調度模型的最佳算法;對于初始數(shù)據(jù)不充足的問題,可采用多神經(jīng)網(wǎng)絡并行計算求平均值的方法來提高模型準確性。得到較優(yōu)秀的車間調度模型后,通過優(yōu)化延遲值、批次大小、設備數(shù)量等輸入?yún)?shù)可獲得全局最優(yōu)的工時達成率,最終輸出離散車間效率最高的調度方案,這是今后的研究重點。

【參考文獻】

[1]A.Azadeh, M. Jeihoonian, B. Maleki Shoja, S.h. Seyedmahmoudi. “An Integrated Neural NetworkCsimulation Algorithm for Performance Optimisation of the Bi-criteria Two-stage Assembly Flow-shop Scheduling Problem with Stochastic Activities.” International Journal of Production Research 50.24(2012): 7271-7284[Z].

[2]Azadeh, Ali, Mohsen Moghaddam, Pegah Geranmayeh, Arash Naghavi. “A Flexible Artificial Neural NetworkCfuzzy Simulation Algorithm for Scheduling a Flow Shop with Multiple Processors.”The International Journal of Advanced Manufacturing Technology 50.5-8(2010): 699-715[Z].

[3]Golmohammadi, Davood. “A Neural Network Decision-making Model for Job-shop Scheduling.” International Journal of Production Research,51,17(2013): 5142-5157[Z].

[4]A.Azadeh, A. Negahban, M. Moghaddam. “A Hybrid Computer Simulation-artificial Neural Network Algorithm for Optimisation of Dispatching Rule Selection in Stochastic Job Shop Scheduling Problems.” International Journal of Production Research, 50, 2 (2011): 551-566[Z].

[5]Braglia, M. and Grassi, A., 2009. A new heuristic for the flowshop scheduling problem to minimize makespan and maximum tardiness. International Journal of Production Research, 47(1): 273-288[Z].

[6]祝翠玲,蔣志方,王強.基于B-P神經(jīng)網(wǎng)絡的環(huán)境空氣質量預測模型[J]《計算機工程與應用,2007,22(43):223-227.

[7]陳廉清,郭建亮,楊勛,遲軍,趙霞.基于進化神經(jīng)網(wǎng)絡的磨削粗糙度預測模型[J].計算機集成制造系統(tǒng),2013,11(19):2855-2863.

[8]崔吉峰,乞建勛,楊尚東.基于粒子群改進BP神經(jīng)網(wǎng)絡的組合預測模型及其應用[J].中南大學學報,2009,1(40):190-194.

[9]張喜忠.基于神經(jīng)網(wǎng)絡預測模型的發(fā)動機異響信號提取研究[D].長春:吉林大學,2008.

[10]王德明,王莉,張廣明.基于遺傳BP神經(jīng)網(wǎng)絡的短期風速預測模型[J].浙江大學學報,2012,5(46):837-841.

[11]陳耀武,汪樂宇,龍洪玉.基于組合式神經(jīng)網(wǎng)絡的短期電力負荷預測模型[J].中國電機工程學報,2001,4(21):79-82.

[12]裴浩東.基于神經(jīng)網(wǎng)絡的穩(wěn)態(tài)優(yōu)化和控制研究[D].杭州:浙江大學,2001.

第7篇:矩陣論在神經(jīng)網(wǎng)絡中的應用范文

1機器人的鍵合圖模型

研究對象是CyCab,該機器人是一個四輪驅動的雙轉向系統(tǒng)小車,重約350kg,可以達到最高5m/s的速度。本文的建模及參數(shù)辨識算法研究主要針對機器人的轉向系統(tǒng),如圖1所示。轉向系統(tǒng)由運動控制器、直流電機、減速器、皮帶、油泵、油缸活塞和車輪構成。運動控制器驅動直流電機,帶動減速器將能量通過皮帶傳送到油泵,油泵推動油缸活塞控制車輪轉向。車輪的旋轉角速度可以用電機上的編碼器測量,增量式編碼器裝在減速器的末端轉向系統(tǒng)中的電機、皮帶和油泵傳動機構鍵合圖模型[6]如圖2所示。系統(tǒng)由輸入電壓控制,圖中TF是變換器,表征系統(tǒng)能量傳遞中勢變量對勢變量、流變量對流變量的變換關系;GY是回轉器,表征能量傳遞中勢變量與流變量之間的變換關系。k1是電機中流過的電流的系數(shù),k2是電機轉矩系數(shù),k3是減速器系數(shù),k4是皮帶系數(shù)。電機內的摩擦力由兩部分組成,R2V是粘性摩擦力,R2C表示庫倫摩擦力;油泵的內摩擦力是R3C和R3V。R1是電阻,J1和J分別是電機和油泵的轉動慣量,電機的電感忽式中:e5為回轉器k2的流變量;e6為慣性元件J1的流變量;e7為電機內摩擦力R1的勢變量;e8為變換器k3的勢變量。

2參數(shù)辨識

2.1最小二乘法本文設計的模型可以表示為最小二乘法的思想就是尋找一個θ的估計值θ^,使得實際測量的Yi與由估計θ^確定的Y^i=Xiθ^之差的平方和最小。經(jīng)典的遞推最小二乘法為

2.2基于神經(jīng)網(wǎng)絡的參數(shù)辨識傳統(tǒng)BP神經(jīng)網(wǎng)絡做參數(shù)辨識,存在初始權值難以合適選擇、收斂速度慢、訓練算法易陷入局部極小值等缺點。本文將最小二乘法辨識得到的參數(shù)值作為BP網(wǎng)絡的初始權值,在網(wǎng)絡訓練上采用權值變速訓練的方法,網(wǎng)絡結構如圖3所示。網(wǎng)絡的權值矩陣分為兩部分:辨識權值矩陣W,非辨識權值矩陣U和V。BP網(wǎng)絡的權值調整可使網(wǎng)絡輸出不斷地接近樣本輸出,為了加快網(wǎng)絡收斂,使用最小二乘法辨識出的數(shù)據(jù)作為W的初值。在訓練網(wǎng)絡時,當系統(tǒng)的輸出誤差較大時,網(wǎng)絡加大非辨識權值矩陣的調整力度,減小辨識權值矩陣的調整;當系統(tǒng)輸出誤差變小時,則加大對辨識權值矩陣調整。為了實現(xiàn)權值調整力度隨著實時變化,引入權重因子μ,取sigmoid函數(shù)這樣,在誤差E很大的情況下,U、V調整量的權重因子會變得很大,W調整量的權重因子會變得很小,這時網(wǎng)絡會主要調整U、V權值;相應地,在誤差E很小的情況下,網(wǎng)絡會主要調整W權值。適當?shù)恼{整參數(shù)h可以改變權重調整的傾向。由以上理論可得到BP網(wǎng)絡參數(shù)辨識具體步驟為:1)將所有的非辨識參數(shù)權值取隨機數(shù),利用公式(7)得到的最小二乘法辨識值賦給辨識參數(shù)矩陣;2)用實際系統(tǒng)的輸入輸出數(shù)據(jù)構成一個訓練樣本集,進行數(shù)據(jù)的歸一化處理,將樣本的數(shù)據(jù)輸入到神經(jīng)網(wǎng)絡中,得到網(wǎng)絡輸出Y^;3)根據(jù)公式(9)計算誤差E,由公式(10)計算權重因子,進而根據(jù)公式(11)對所有權值進行調整;4)返回執(zhí)行3),當輸出誤差到達系統(tǒng)要求或訓練次數(shù)大于指定值時,終止訓練;5)將訓練好的辨識參數(shù)權值轉化為系統(tǒng)待辨識參數(shù)。

3實驗結果

采集機器人正常工作時轉向系統(tǒng)的角速度θ•1值、系統(tǒng)的輸入電壓vin值和加速度θ••1值,剔除野值,數(shù)據(jù)歸一化后得到一組樣本數(shù)據(jù)。從數(shù)據(jù)手冊可查到k1=2.5V/A,k2=0.031527N•m/A,k3=4/70,則需要辨識的參數(shù)為J1,R2V和R2C。將系統(tǒng)的模型公式(6)變換為最小二乘法模型的標準形式,利用遞推最小二乘法得到進而得到[R2V,R2C,J1]T的最小二乘法辨識值,將其作為神經(jīng)網(wǎng)絡訓練的初值,角速度θ•1、電壓vin和加速度θ••1作為系統(tǒng)的輸入輸出,利用第2.2節(jié)中的方法對[R2V,R2C,J1]T再次進行辨識。實驗進行到14s左右,模型的辨識參數(shù)值趨于穩(wěn)定,神經(jīng)網(wǎng)絡對[R2V,R2C,J1]T的辨識結果如圖4所示,由最小二乘法和神經(jīng)網(wǎng)絡的辨識結果如表1所示。為了驗證算法的有效性,將兩種辨識方法得到的參數(shù)值代入模型方程中,得到角速度θ•1的兩種估計值。兩種算法得到的θ•1和傳感器采集到的θ•1真實值的之間的比較結果如圖5所示。

第8篇:矩陣論在神經(jīng)網(wǎng)絡中的應用范文

關鍵詞:系統(tǒng)辨識 BP算法 線性網(wǎng)絡 局部式反傳網(wǎng)絡 靈敏度

中圖分類號:O241 文獻標識碼:A 文章編號:1007-3973(2012)012-089-03

1 引言

BP(Back-Propagation)神經(jīng)網(wǎng)絡是一種反向傳播學習的非線性網(wǎng)絡,以其具有自學習和自適應能力、泛化能力和優(yōu)良的非線性映射能力,受到眾多領域學者的關注。為了提高BP算法收斂速度,大量學者開展了有效的研究。文獻[1]采用變步長的方法提高學習速率,而文獻[2]通過加入動量項提高收斂速度。文獻[3]提出的自適應調節(jié)學習率和動態(tài)調整S型激勵函數(shù)相結合的改進BP算法也是一種有效地提高訓練速度的方法之一。

考慮到BP神經(jīng)網(wǎng)絡結構的初始值不確定和不能靈活調整各層權值的缺點,本文在BP神經(jīng)網(wǎng)絡的基礎上將線性網(wǎng)絡和局部式反傳網(wǎng)絡結合給出一種混合式改進BP神經(jīng)網(wǎng)絡結構。

2 改進BP神經(jīng)網(wǎng)絡結構

2.1神經(jīng)網(wǎng)絡靈敏度定義

神經(jīng)網(wǎng)絡靈敏度是指神經(jīng)網(wǎng)絡系統(tǒng)辨識的過程中對各種信號的變化和擾動的調整能力。對第i 個樣本,神經(jīng)網(wǎng)絡辨識器的靈敏度定義為:

其中:MSE為方差,|E|為網(wǎng)絡輸入、權值變化及被辨識系統(tǒng)變化引起的綜合誤差。yim是由信號的各種變化及擾動引起的網(wǎng)絡輸出變化。

2.2混合式BP神經(jīng)網(wǎng)絡分析

神經(jīng)網(wǎng)絡辨識的優(yōu)劣很大程度上取決于網(wǎng)絡初始值是否正好在理想值附近,由于標準的BP算法和前人的改進算法都是隨機初始化BP神經(jīng)網(wǎng)絡的權值,這就使得神經(jīng)網(wǎng)絡建模初值不確定性增加,學習和訓練的實時性下降。由于線性網(wǎng)絡的訓練不需要求激勵函數(shù)的導數(shù),全是線性運算,因此訓練速度很快,又加上其能在理想值附近建模,使得BP神經(jīng)網(wǎng)絡的訓練負擔大大減輕,從而縮短了整個辨識網(wǎng)絡的辨識時間。

傳統(tǒng)BP神經(jīng)網(wǎng)絡是一種全反傳式的前向網(wǎng)絡,只要有誤差反傳信號,整個網(wǎng)絡所有層的權值都會修改,會造成學習時間延長,并且當誤差較小時,容易出現(xiàn)權值修改過量,影響精度。在關于神經(jīng)網(wǎng)絡靈敏度的研究中得知,神經(jīng)網(wǎng)絡隱含層與輸出層的權值矩陣 的元素值的大小對網(wǎng)絡輸出影響大于輸入層與隱含層之間的權值矩陣 以及各隱含層之間權值矩陣 。當網(wǎng)絡結構變化或系統(tǒng)參數(shù)變化時,通過動態(tài)地控制BP神經(jīng)網(wǎng)絡各層特別是輸出層權值修正,可以使網(wǎng)絡輸出的均方差MSE(yim)快速減小,從而使網(wǎng)絡靈敏度 降低,達到提高辨識速率和精度的效果。

本文嘗試先在BP神經(jīng)網(wǎng)絡之前加入一級線性網(wǎng)絡,通過線性網(wǎng)絡首先進行辨識的粗調,當在理想值附近建立粗略的線性模型后,再通過局部式反傳BP神經(jīng)網(wǎng)絡學習,辨識之前線性網(wǎng)絡無法建模的非線性部分?;旌鲜礁倪MBP神經(jīng)網(wǎng)絡結構如圖1所示。

2.3混合式BP神經(jīng)網(wǎng)絡工作過程

首先對于圖1中的線性網(wǎng)絡部分,令網(wǎng)絡輸出為:

式(2)中:line(k)是線性網(wǎng)絡的權值,b(k)是網(wǎng)絡的閥值,x(k)為辨識網(wǎng)絡的輸入信號。

對于線性網(wǎng)絡部分,神經(jīng)元之間參數(shù)修改采用遞推最小二乘法;其權值和閥值修改公式分別見式(3)和式(4)

對于圖1中局部式反傳BP神經(jīng)網(wǎng)絡部分,令網(wǎng)絡輸出為yn(k)。神經(jīng)元之間權值修改采用引入動量項和變步長法的改進BP算法。該網(wǎng)絡權值調整過程主要由綜合誤差決定,為方便取誤差絕對值,本文采用誤差的平方作為調整參考值。調節(jié)過程如下:

(1)當 時,由靈敏度定義的式(1)可知,靈敏度函數(shù)是綜合誤差|E|的反比例函數(shù),此時靈敏度較小,故可按標準BP算法執(zhí)行。

(2)當 時,協(xié)調器控制網(wǎng)絡輸出層的權值矩陣,調整wbij的大小,同時停止其他層權值的修正,使網(wǎng)絡靈敏度 降低。

(3)當 時,協(xié)調器控制只允許靠近網(wǎng)絡輸入層的第一或二級隱含層權值修正,同時停止網(wǎng)絡輸出層的權值陣 和其他級隱層權值的修正。

然后將兩個網(wǎng)絡結合,令辨識網(wǎng)絡總輸出為:

訓練采用的教師信號為網(wǎng)絡實際輸出與辨識輸出的誤差的均方值。

3 辨識結果研究

針對一個典型的非線性對象,通過仿真來研究結合線性網(wǎng)絡的局部反傳BP神經(jīng)網(wǎng)絡對非線性對象的建模能力,并與單獨使用BP網(wǎng)絡的建模效果進行比較,來說明所提方法對提高網(wǎng)絡學習速率及精度的效果。

為了保證學習信號的多樣性,網(wǎng)絡辨識學習選用的輸入信號樣本前半部分為隨機信號,后半部分為正弦信號。為了考察本文給出的混合型改進BP神經(jīng)網(wǎng)絡結構對被辨識對象參數(shù)改變和模型結構改變的適應能力,本文選取的辨識對象為如公式(6)所示的三個不同的三階非線性對象,在K=250時刻對象模型中的常數(shù)2.5變?yōu)榱?,在K=500時刻對象模型的分子和分母均作了改變:

(6)

仿真采用的神經(jīng)元結構采用圖1的三層結構,在BP神經(jīng)網(wǎng)絡辨識之前先通過一層線性網(wǎng)絡,采用基于BP算法的多層前向網(wǎng)絡的結構 (表示一個三層網(wǎng)絡,輸入層,隱含層各有5個神經(jīng)元,輸出層有1個神經(jīng)元)。激勵函數(shù)采用Sigmoid函數(shù) ,取初始學習率 ,動量項 =0.3。

結合線性網(wǎng)絡的局部反傳BP神經(jīng)網(wǎng)絡的辨識結果如圖2,本文改進算法與標準BP算法和引入局部反饋算法的教師信號比較如圖3所示,由于改進算法與標準算法的教師信號不在同一數(shù)量級上,將改進算法的教師信號另外畫出,如圖4所示。

(1)由圖2可以看出改進網(wǎng)絡結構后的辨識結果和實際輸出吻合度很高。

(2)由圖3可以看出,在相同的學習步數(shù)情況下,引入局部反饋改進算法相比于標準算法,學習時間短,且基本不受輸入變化的影響,本文改進后網(wǎng)絡結構對比引入局部反饋改進算法的辨識精度高,收斂速度快,而且能保持穩(wěn)定。

(3)由圖4可以看出,改進后的算法辨識效果明顯,主要體現(xiàn)在初始誤差就很小。在相同訓練步數(shù)下,改進算法的均方誤差在訓練開始時就幾乎維持在10-3附近,當訓練結束時更是達到了10-4以上的精度。

4 結論

本文通過分析傳統(tǒng)BP網(wǎng)絡的缺點及其成因,在其基礎上將線性網(wǎng)絡和局部式反傳網(wǎng)絡結合成一種混合式BP神經(jīng)網(wǎng)絡。

(1)線性網(wǎng)絡的引進增加了粗調環(huán)節(jié),在繼續(xù)保持BP神經(jīng)網(wǎng)絡非線性表達能力強的優(yōu)點的前提下,得到了更快的收斂速度和更小的誤差。

(2)引入局部反傳網(wǎng)絡,當網(wǎng)絡結構變化或系統(tǒng)參數(shù)變化時,通過動態(tài)地控制網(wǎng)絡各層權值修正,降低網(wǎng)絡靈敏度,提高辨識精度,是一種訓練BP網(wǎng)絡的有效方法。

參考文獻:

[1] 楊源杰,黃道.人工神經(jīng)網(wǎng)絡算法研究及應用[J].華東理工大學學報,2002,6(4):319-323.

[2] 鄭高峰.帶動量項的BP神經(jīng)網(wǎng)絡收斂性分析[D].大連:大連理工大學,2005.

[3] 孫娓娓,劉瓊蓀.BP神經(jīng)網(wǎng)絡的聯(lián)合優(yōu)化算法[J].計算機工程與應用,2009,45(12):50-54.

[4] 周榮,王福利.一種改進的神經(jīng)元網(wǎng)絡及學習算法[J].礦冶,1997,6(2):85-88.

第9篇:矩陣論在神經(jīng)網(wǎng)絡中的應用范文

關鍵詞:高速公路;交通流預測;BP神經(jīng)網(wǎng)絡

中圖分類號:TP393.0 文獻標識碼:A 文章編號:2095-2163(2015)04-

Highway Dynamic Traffic Flow Prediction based on BP Neural Network

DAI Hongbo,ZENG Xianhui

(College of Information Science and Technology,Donghua University,Shanghai 201620,China)

Abstract:This paper takes highway traffic fIow prediction as object of study,simplifies the highway macroscopic dynamic traffic flow model and establishes a BP neural network model to train and predict based on Matlab neural network toolbox. It models and predicts real data collection from traffic flow nearby JiaXing station. From the predicted results, this BP neural network model is proved to be highly reliable. It carries out that the simplified model of traffic flow is more concise, predictions can also describe a certain space and time of the site’s traffic situation through a point to an area.

Keywords: Highway; Traffic Flow Prediction; BP Neural Network

0 引 言

隨著社會經(jīng)濟的發(fā)展和私家車保有量的逐年遞增,出行車輛日漸增多,隨之而來的交通擁堵,交通事故等問題即已成為困擾社情民生的重大事件。智能交通系統(tǒng)作為這一狀況的有效解決手段,也已吸引了時下眾多專家的關注和重視[1],其中的短時交通流則是交通控制、車輛導航等領域亟待解決的熱點課題。近些年,鑒于神經(jīng)網(wǎng)絡具有的表示任意非線性關系和學習的能力,為此展開了基于人工神經(jīng)網(wǎng)絡預測模型的大量研究,且均已取得了令人滿意的預測效果[2]。通過對各個模型的分析,指出了神經(jīng)網(wǎng)絡在智能交通領域的工具性應用潛力,而且在實時交通預測中,神經(jīng)網(wǎng)絡要比其它方法更具不可比擬的優(yōu)越性。

1 建立流量預測模型

短時段交通流預測是指預測尺度不超過十五分鐘的交通流[3]。交通流是由數(shù)以萬計的出行者群體行為生成的,具有高度的時變性、非線性和不確定性。但就道路上某一特定觀測點來說,對于短時段交通流,隨著觀測尺度的縮短,交通流受隨機因素影響較大,其統(tǒng)計行為不是定常、周期或準周期的,多是表現(xiàn)為純隨機行為。

在交通流量預測研究中,Markos Papageorgiou 提出了一個比較有代表性的高速公路交通流宏觀流體模型[4-5],其中主要描述了高速公路的交通流量、速度以及交通密度之間的相互關系,以此來反應交通流隨道路空間的分布以及隨時間變化的規(guī)律,從而準確描述短時間內的交通流的真實行為。

以交通流宏觀流體模型為基礎,本文提出了一個簡化的交通流預測模型,如圖1所示。該模型參考了對短時間交通流預測的思想,實現(xiàn)對高速公路站點短時間交通流預測。

圖1 交通流預測模型

Fig.1 Traffic flow forecasting model

在對高速交通網(wǎng)絡中的站點進行實時預測時,路網(wǎng)中當前和過去若干時段內的交通流信息是實時預測的數(shù)據(jù)基礎。因此首先必須采集實時交通數(shù)據(jù),建立得到動態(tài)的交通數(shù)據(jù)庫。在數(shù)據(jù)處理分析時,結合上述交通流模型,通過一定的數(shù)據(jù)挖掘方法分析得到有效的數(shù)據(jù)。如模型中指出, 站點 上的交通流量與本站點前后若干個時段的交通流量有著必然的關聯(lián), 同時在預測站點路段的交通情況時,該站點上下游路段交通情況也是一個關鍵因素。 這樣便可以利用預測站點前幾個時段的交通流量數(shù)據(jù)以及上下游站點交通流量數(shù)據(jù)來預測特定站點交通流量, 上述簡化的交通流預測模型所要闡述的基本概念就在這。

設站點 (代號為15,下同)為要預測的路段, 為預測路段當前時刻 的交通流量,而 為要預測的該路段下一時刻 的交通流量,并與該站點 、 時刻的交通流量有著必然的聯(lián)系,同時上下游站點(13、14、17等) 時刻的交通流量也將會影響著站點15下一時刻的交通流量。于是 與該站點以及附近站點的交通流量存在某種函數(shù)關系,具體表達則如方程(1)所示。

(1)

根據(jù)實際采集到的交通流數(shù)據(jù),結合上述模型,利用Matlab平臺建立BP神經(jīng)網(wǎng)絡來訓練學習方程(1),并實現(xiàn)短時間交通流預測。

2 BP神經(jīng)網(wǎng)絡的構建

經(jīng)過研究可知,Matlab中的神經(jīng)網(wǎng)絡工具箱是進行神經(jīng)網(wǎng)絡系統(tǒng)分析與設計的有力工具。使用Matlab平臺構造神經(jīng)網(wǎng)絡的預測過程通??煞譃椋簲?shù)據(jù)預處理、網(wǎng)絡構建、訓練和網(wǎng)絡預測[6]。

數(shù)據(jù)歸一化就是將數(shù)據(jù)通過某種算法處理后,使得數(shù)據(jù)映射到[0,1]或者[-1,1]等范圍內,并且再經(jīng)相應變換,最終將有量綱的表達式轉化為無量綱的表達式,其結果即將限制在一定范圍內。這不僅利于數(shù)據(jù)的進一步處理,同時還可以保證程序運行時收斂速度加快。本文中數(shù)據(jù)處理采用的是線性函數(shù)歸一化:

(2)

其中, 、 分別為歸一化前后的值, 、 分別為樣本的最大值和最小值。

神經(jīng)網(wǎng)路的核心在于網(wǎng)絡結構的設計,其重點在于網(wǎng)絡層數(shù)以及各層節(jié)點數(shù)的確定[7-11]。理論已經(jīng)證明,增加網(wǎng)絡層數(shù)可以進一步降低誤差提高精度,但同時也會使網(wǎng)絡復雜,降低實時性,加大網(wǎng)絡的訓練時間;而誤差精度則可以通過增加隱含層中的神經(jīng)元節(jié)點數(shù)目來獲得提高,就其訓練效果的觀察和調整均比增加層數(shù)更為容易,所以一般情況下需優(yōu)先考慮增加隱層神經(jīng)元數(shù)目。對神經(jīng)元網(wǎng)絡輸入層與輸出層來說,則需要研究實例中求解的問題、具體的表示方式來確定各自神經(jīng)元數(shù)目,同時考慮盡可能地減小系統(tǒng)規(guī)模,系統(tǒng)的訓練時間和復雜性?;谇笆龅慕煌黝A測模型分析,聯(lián)系方程(1)可知,可將 、 、 、 、 、 、 和 等八個數(shù)據(jù)作為輸入層,將下一時刻流量 作為輸出層。文獻[7]指出,適當增加隱層中的神經(jīng)元數(shù)目可以在更大程度上降低誤差、提高精度,隱層神經(jīng)元數(shù)目可選擇為輸入層神經(jīng)元數(shù)目的平方,即 。經(jīng)過實驗反復驗證,文中隱層節(jié)點取為20。綜上所述設定,文中的BP神經(jīng)網(wǎng)絡模型如圖2所示。

圖2 交通流神經(jīng)網(wǎng)絡模型

Fig.2 Neural network model of Traffic flow

神經(jīng)網(wǎng)絡采用自適應學習的負梯度下降法實現(xiàn)交通流的學習和預測, 網(wǎng)絡的響應函數(shù)選擇Sigmoid 型激勵函數(shù)[12],函數(shù)形式為 。

3 預測仿真與結果分析

數(shù)據(jù)使用的是浙江省某段高速公路2015年1月1日某幾個站點的交通車輛收費數(shù)據(jù),目的在于對其中一站點的車流量進行預測。從數(shù)據(jù)庫中抽取浙江省嘉興站點(代號15)當日的車流量數(shù)據(jù)以及短時間內車流量變化,具體如圖3、圖4所示。

圖3 15站日間車流量變化

Fig.3 The curve of traffic flow dairy

圖4 9-11時車流量變化

Fig.4 Curve of traffic flow hourly

由圖3可以分析得出,一天中的交通流變化大致經(jīng)過如下階段:凌晨交通流,低谷期;早晨交通流,攀升期;中午交通流,平峰期;下午交通流,高峰期;晚上交通流,下降期。結合圖3,且由圖4可分析獲知,在9~11點期間為車流量高峰期,短時間流量變化起伏很大,但總體維持在每分鐘10~15輛左右。再次細致分析附近站點車流量變化趨勢并與該站點比較發(fā)現(xiàn),各臨近站點車輛起伏變化相近,并且短時間內各站點之間車流量變化存在著某種相互影響的關聯(lián)作用。于是,本文采取上述交通流預測模型來進行站點短時間內的車流量預測,該模型較其他宏觀動態(tài)車流量模型更為簡單,相應預測結果亦可反映當前附近站點范圍內的車流量情況。

本論文重點即在結合當天該站點及附件站點車流量對本站日常車流量進行預測。訓練數(shù)據(jù)選取附近六個站點日間車流量及結合本站車流量數(shù)據(jù)進行網(wǎng)絡訓練仿真。MATLAB仿真程序如下:

%首先導入已處理好的數(shù)據(jù)矩陣;

%矩陣p 輸入矩陣,矩陣t為輸入矩陣; [pn,minp,maxp,tn,mint,maxt]=premnmx(p,t);%對矩陣進行歸一化;

net=newff(minmax(pn),[8,20,1],{'tansig','tansig','purelin'},'traingdx'); %建立net網(wǎng)絡,輸入節(jié)點為8,輸出節(jié)點為1,隱層節(jié)點為20;

net.trainParam.show=50;

net.trainParam.lr=0.05;

net.trainParam.mc=0.9;

net.trainParam.epochs=10 000;

net.trainParam.goal=1e-3;

>> net=train(net,pn,tn);%網(wǎng)絡創(chuàng)建,訓練;

%pi為測試數(shù)據(jù);

pin=tramnmx(pi,minp,maxp);%測試數(shù)據(jù)的歸一化;

an=sim(net,pin);%測試

[a]=postmnmx(an,mint,maxt); %測試結果數(shù)據(jù)的反歸一化,最終得到預測結果;

本文針對該站點日間9點~11點每分鐘車流量展開仿真預測。訓練時以9~11點時間段內120組數(shù)據(jù)進行訓練,而用其后十分鐘內的10組數(shù)據(jù)進行預測。9~11點車流量訓練誤差變化圖如圖5所示。

圖5 車流量訓練誤差變化

Fig.5 Training error curve of traffic flow

預測樣本結果如表1。

表1 預測樣本結果比較分析

Tab.1 Compare and analysis with Predicted results

預測數(shù)據(jù)號 實際車流量 預測車流量 誤差

1 13 13.440 6 3.39%

2 11 12.064 8 9.68%

3 18 15.259 5 15.23%

4 17 12.533 9 26.27%

5 13 15.418 7 18.61%

6 16 17.147 7.17%

7 12 12.360 2 3.00%

8 12 10.536 3 12.20%

9 11 9.834 3 10.60%

10 10 10.300 7 3.01%

表1 預測樣本結果比較分析

Tab.1 Compare and analysis with Predicted results

由表1可知,預測車流量與實際車流量很接近,部分誤差較大,但實際數(shù)值相差不大,車流量預測成功,基于BP神經(jīng)網(wǎng)絡的交通流預測模型具有很高的可靠度[12-16]。 然而上述預測卻仍有不足,因存在不同道路、瞬時變化的交通狀況的差異,作為神經(jīng)網(wǎng)絡輸入的交通流量信息在選擇上太過簡單,實驗結果單一,還應持續(xù)反復實驗和多次比對探索。在交通流量預測中,如何選擇與預測時段相關性強交通流量信息作為神經(jīng)網(wǎng)絡的輸入對于預測精度的提高具有明確的必要性和重要性[17]。

4 結束語

本文在研究宏觀動態(tài)交通流模型的基礎上對其進行了簡化,并針對某個站點的交通流隨時間變化進行分析,同時結合了附近站點的交通流對其建立了基于BP神經(jīng)網(wǎng)絡的高速公路交通流預測。從預測結果中得知,基于BP神經(jīng)網(wǎng)絡交通流預測模型具有頗高的可靠度,該簡化的交通流模型更為精確,預測結果亦可綜合總體地描述該站點一定空間及時間范圍內的交通流情況。

參考文獻:

[1]張可,齊彤巖,劉冬梅,等.中國智能交通系統(tǒng)(ITS)體系框架研究進展[J].國家智能交通系統(tǒng)工程技術研究中心,2005(5):6-11.

[2]王進,史其信.神經(jīng)網(wǎng)絡模型在短期交通流預測領域應用綜述[J]-河南科技大學學報(自然科學版),2005(2).23-25.

[3]朱中,楊兆升.實時交通流量人工神經(jīng)網(wǎng)絡預測模型[J].中國公路學報,1998,11(4):89-92.

[4] MARKOS P,JEAN-MARC B,SAIEHADJ H.ModeIing and reaI - time controI of traffic fIow on the southern part of bouIevard peripherigue in Paris[J].Transportation research,l990,24A(5): 345-359.

[5]撒元功,湖郁蔥,徐建閩.高速公路動態(tài)交通流的神經(jīng)網(wǎng)絡模型[J].華南理工大學學報。2002,30(8):91-94.

[6]Simon Haykin. Neural networks:A comprehensive foundation[M].北京:清華大學出版社,2000.

[7]賈丹.基于神經(jīng)網(wǎng)絡的交通流的預測[J].錦州師范學院學報(自然科學版),2002,23(3).27-29.

[8]袁曾任.人工神經(jīng)元網(wǎng)絡及其應用[M].北京:清華大學出版社,1999 .

[9]許宏科,穆魏,焦家華.高速公路動態(tài)交通流模型及其參數(shù)的分段辨識[J].武漢理工大學學報(交通科學與工程版),2005,29(1):91-93.

[10]梁新榮,劉智勇,毛宗源.高速公路動態(tài)交通流 Elman 神經(jīng)網(wǎng)絡模型[J].交通運輸工程學報,2006(9):50-56

[11]樊小紅,賀昱曜,劉勇順. 自動化高速公路交通流密度的反演變結構控制[J].計算機工程與應用,2008,44(12):244-248.

[12]溫惠英,周瑋明.基于S型函數(shù)預處理的RBF神經(jīng)網(wǎng)絡交通流量預測[J].交通信息與安全,2009(4):22-25.

[13] HERN?NDEZ P J A, GARCIA A M A. Trys-tram G. Neural networks for the heat and mass transfer prediction during drying of cassava and mango[J] ,2004(01).57-64.

[14]任雪蓮,陳曉芬,馬駿. 遺傳神經(jīng)網(wǎng)絡在交通流預測中的應用[J].交通科技與經(jīng)濟 ,2009(4):10-12

[15]譚國真,丁浩.廣義神經(jīng)網(wǎng)絡的研究及其在交通流預測中的應用.控制與決策,2002,17(B 11):777-780.