公務員期刊網 精選范文 人工神經網絡范文

人工神經網絡精選(九篇)

前言:一篇好文章的誕生,需要你不斷地搜集資料、整理思路,本站小編為你收集了豐富的人工神經網絡主題范文,僅供參考,歡迎閱讀并收藏。

人工神經網絡

第1篇:人工神經網絡范文

隨著我國經濟的快速發(fā)展,大量的工程建設也相繼展開,同時在工程建設中也出現了邊坡穩(wěn)定性的問題,而這些邊坡是影響工程建設質量的重要因素。邊坡的穩(wěn)定性是工程建設研究的重要方向,在建筑工程、道路工程等很多工程中都與邊坡的穩(wěn)定性有關。邊坡工程是一個不斷變化的動態(tài)過程,其變形破壞機理非常復雜。邊坡穩(wěn)定的因素有很多,如地質因素、工程因素等,還有其本身的不確定性。邊坡的穩(wěn)定性對工程建設具有重大的影響,因此,如何科學合理的設計邊坡工程對工程建設的順利進行具有非常重要的意義。目前,邊坡穩(wěn)定性的評價方法有很多,但是這些方法由于受到人為因素的影響,且應用起來有不確定性,并沒有得到廣泛的應用。本文利用人工神經網絡的知識來評價邊坡的穩(wěn)定性,通過人工神經網絡結構上的特點探索影響邊坡穩(wěn)定性的因素,從而保證邊坡工程的穩(wěn)定性,促進工程建設的快速發(fā)展。

關鍵詞:人工神經網絡;邊坡工程;穩(wěn)定性;貢獻

Abstract:With the rapid development of our country's economy, a lot of engineering construction, one after another in the engineering construction at the same time also appeared a slope stability problem, and the slope are important factors affecting the quality of project construction. Slope stability is one of the important direction, construction research in construction engineering, road engineering, etc. Many projects are related to the stability of the slope. Slope engineering is a constantly changing dynamic process, the deformation failure mechanism is very complicated. Slope stability factors are many, such as geological factors, engineering factors and so on, and its uncertainty. Slope stability has a significant influence on engineering construction, therefore, how to scientific and reasonable design of slope engineering smooth going on of the project construction has very important significance. At present, the slope stability evaluation method are many, but these methods under the influence of artificial factors, and the application to have uncertainty, has not been widely used. In this paper, using the knowledge of the artificial neural network to evaluate the slope stability, by artificial neural network structural characteristics to explore the influencing factors of slope stability, thus ensuring the stability of the slope engineering, to promote the rapid development of engineering construction.

Keywords: artificial neural network; Slope engineering; Stability; Contribution to the

中圖分類號: TP183文獻標識碼:A

1 邊坡穩(wěn)定性的研究現狀

邊坡的變形和破壞會對工程建設造成重大的影響,邊坡的穩(wěn)定性受到很多因素的影響,從范圍上來說,主要包括自然因素和人為活動因素。水文、地質、人為工程活動都可能造成邊坡穩(wěn)定性的破壞,其中邊坡應力的變化和發(fā)展是造成邊坡穩(wěn)定性破壞的根本原因。具有代表性的造成邊坡失穩(wěn)的因素如下:地下工程開挖后,由于地下土層應力的突然釋放對邊坡原有應力狀態(tài)的影響;邊坡上堆積物的載重傳播到邊坡上的影響;邊坡土層暴露在自然環(huán)境中遭受外部環(huán)境風化的影響;地下水的流動對邊坡土層強度的影響。

工程地質是邊坡穩(wěn)定性問題需要考慮的重要因素,它主要有以下兩個主要任務:第一是要準確的評價和預測與人為工程活動關系密切的天然邊坡和人工邊坡的穩(wěn)定性、變化規(guī)律和發(fā)生破壞的幾率;第二是為科學合理的設計邊坡、保證邊坡的穩(wěn)定性、采取有力的邊坡防治措施提供準確可靠的依據。而邊坡問題的出現總是和邊坡的變形和破壞有關,為了準確的評價和預測邊坡工程的穩(wěn)定性,首先要確定邊坡是否可能發(fā)生變形與破壞以及變形和破壞的方式和規(guī)模。因此邊坡穩(wěn)定性的工程地質要分析和研究邊坡變形和破壞的規(guī)律。邊坡變形和破壞表明了邊坡土層在不同的條件下變化的過程,同時為邊坡變形破壞力學模型的建立提供了重要依據。

邊坡工程穩(wěn)定性的研究邊坡工程的重要組成部分,越來越多的專家和研究人員加入到邊坡穩(wěn)定性研究的隊伍中,它會隨著邊坡工程的建設一直發(fā)展下去。

2 人工神經網絡概述

2.1 人工神經網絡的概念

人工神經網絡是人工智能科學的一個重要分支,在21世紀得到了快速發(fā)展,通過人工神經元之間的連接來處理網絡信息,來實現類似人的活動和行為,以網絡元件建立知識與信息的關系,而構成的一種信息處理體系。神經元之間的變化過程決定了網絡的學習。神經網絡在學習、信息處理、網絡模式識別等方面起著重要的作用,因此,它能將所有的控制因素考慮進去。

2.2 評價信息表達

由于邊坡穩(wěn)定性的影響因素很多,定性的數據和資料錯綜復雜,因此,要把這些定性的數據進行量化,然后再輸入神經網絡。邊坡結構的高度、坡角等數據可直接進行實際測定;巖體結構類型和質量類別等無法直接測定的數據要通過等級數字代碼來確定;巖體的巖性、破壞類型等定性數據則通過數字代碼來確定。將這些定性的數據進行量化處理后,所有的信息數據就可以通過神經網絡來處理,同時還能影響邊坡穩(wěn)定性因素的影響程度。顯而易見,當我們獲得更多的原始信息,就能更加準確的確定邊坡的特征,同時表達邊坡穩(wěn)定性因素的關系也更加復雜,通過神經網絡的計算,就能確定邊坡穩(wěn)定性的評價信息,也就是邊坡的穩(wěn)定狀態(tài)。

2.3 人工神經網絡的算法

人工神經網絡是通過對人類大腦的結構和運行模式進行研究而模擬其結構和行為的工程系統(tǒng)。從20世紀40年代開始,人工神經網絡的數學模型被第一次提出,從此人工神經網絡的研究得到了快速發(fā)展,隨后很多專家和研究人員提出了其他的模型,極大地豐富了人工神經網絡的研究內容。

近年來,前饋神經網絡模型BP是在工程建設中應用最為廣泛的模型,其結構由輸入層、隱含層和輸出層三部分組成,其中輸入層由N個神經元組成,隱含層由P個神經元組成,輸出層由q個神經元組成。假設有i個學習樣本,F為輸出層神經元的平方誤差,就構成了BP網絡結構。在學習的過程中,神經元連接出現的錯誤為網絡輸出的誤差,輸入層接收輸出層的神經元的誤差后,分配給每一個神經單元,最終確定各層神經元的參考誤差。

前向計算過程和誤差接收過程共同組成了BP網絡學習過程,其分為以下三步進行:

(1)網絡初始化:輸入學習率a和b,確定學習誤差e,確定權重矩陣U、V的初始值;

(2)確定學習樣本的輸入值和期望輸出值,計算網絡節(jié)點的具體數值,計算輸出層和隱含層的誤差,最后對各邊權值進行調整;

(3)通過改變學習效率a和b,使BP算法更加合理,重復進行計算一直到代價函數F小于學習誤差e,整個學習過程就結束了。

3 人工神經網絡在邊坡穩(wěn)定性中的應用

由于影響邊坡穩(wěn)定的因素的多樣性和不確定性,這些影響因素和邊坡穩(wěn)定性之間的關系非常復雜,所以邊坡工程是一個極其復雜的非線性系統(tǒng)。而人工神經網絡通過人工神經元之間的連接來獲取網絡信息,它能解決復雜的非線性問題,所以人工神經網絡在邊坡工程穩(wěn)定性中的應用是非常必要的。通過對現實中的邊坡工程進行學習,人工神經網絡把學習得到的結果儲存起來,并作為網絡的權值。輸入影響邊坡工程穩(wěn)定性的各種因素,包括定性和定量因素,通過人工神經網絡系統(tǒng)的計算和處理,就會輸出邊坡穩(wěn)定性的實際情況,人工神經網絡就會建立影響邊坡穩(wěn)定性的因素和邊坡穩(wěn)定性現實情況的非線性關系。人工神經網絡通過建立的這種非線性關系就能夠對新的邊坡穩(wěn)定性做出詳細準確的評價。大量的應用實例表明,通過人工神經網絡對邊坡工程的穩(wěn)定性進行評價是一種切實可行且科學合理的方法。

4 結語

通過人工神經網絡在邊坡穩(wěn)定性中的應用實例可以看出,人工神經網絡對邊坡穩(wěn)定性的應用具有較好的適應性,并且可以準確地分析和評價邊坡工程的穩(wěn)定性。影響邊坡穩(wěn)定性的定性和定量因素會被納入到人工神經網絡系統(tǒng)中,因為人工神經網絡是以邊坡工程變形和破壞的實例作為主要內容,所以學習樣本的準確性和內容的完備性決定了邊坡工程穩(wěn)定性的評價是否準確,如果信息準確完備,就能達到預期的效果。人工神經網絡在邊坡穩(wěn)定性評價中具有很好的實用性,相信在以后的邊坡工程建設中會得到廣泛的應用。

參考文獻

[1] 童樹奇.人工神經網絡在邊坡工程中的應用研究[J]. 廣東土木與建筑. 2006(09).

[2] 陳華明.基于神經網絡技術的邊坡穩(wěn)定性研究[J]. 科技創(chuàng)新導報. 2007(35).

第2篇:人工神經網絡范文

關鍵詞:人工神經網絡;尖峰神經元模型

近年來,人們在計算機智能化領域上取得了很大的進步,但計算機領域還有很多問題無法解決,例如視覺、語言識別和計算機等技術,人們仍不能將計算機系統(tǒng)設計得像生物系統(tǒng)那樣靈活。因此,大批研究者轉移到仿生科學研究,希望由此找到新的技術,設計出新的智能計算機,其中人工神經網絡是其中一個比較熱門的領域。隨著這個領域的發(fā)展,一些團隊已經建立起一些創(chuàng)造性的、復雜的神經電路模型,并將其應用到一些項目中,也有研究團隊在致力研究人工神經網絡的軟件和硬件方案,希望能夠為智能計算機提供更高層次的理解能力。

人工神經網絡模型的并行特性使它與傳統(tǒng)的計算機模型相比具有更強的理能力,使它更有機會解決如手寫文字識別這類問題。長期以來,大多數研究者都是在CPU上使用模擬的方式進行神經網絡的計算,由于CPU工作模式和結構的限制,無法提供最佳的計算性能,因此本文尋求一種新的智能計算硬件平臺,在硅芯片上設計神經網絡電路。

一、神經網絡模型

人工神經網絡理論已發(fā)展了很多年,并日益趨于成熟,在各領域都得到了一定的應用。人工神經網絡的運算主要由計算的基本單位神經元進行,通過若干個神經元構成神經網絡以解決現實中的各種問題。

如圖1所示,一組神經元構成一個神經網絡系統(tǒng)。每一個神經元都有獨立的計算單元。神經元計算公式如下:yi(t)=■W■?著ij(t-tij) (1)

公式(1)中yi(t)表示神經元的輸出結果,i表示神經元序號,?著ij(t-tij)表示神經元輸入值,W■表示每個神經元的權值。

人工神經網絡的基本運算包括了乘法和加法運算。為了能夠在硬件上執(zhí)行神經網絡的理功能,必須為每個神經元設計獨立的加法器和乘法器,我們將其稱為加乘法運算單元(MAC),每個神經元都包含了一個MAC單元。

為了使系統(tǒng)能夠更好地模擬人類神經系統(tǒng)工作原理,發(fā)揮硬件的理能力,本文采用了Gerstner的尖峰神經元模型構建神經元理器的工作流程。在該模型中,每個神經元的膜電位在時間t時表示如下:

ui(t)=■■■W■?著ij(t-tij)+?濁i(t-tij) (2)

?著ij(t)=exp(-■)-exp(-■)*H(t-t■) (3)

公式(2)中,W■表示為第i神經元和第j神經元之間連接的權值,?著ij(t-tij)表示為神經元i能夠提供給神經元j的突觸后電位(PSP),而?濁i(t-tij)表示倔強函數。公式(3)表示突觸后電位(PSP)的計算方法,其中t■和t■為時間常數,H(t-t■) 為Heaviside階梯函數,t■為軸突傳輸延時系數。

二、神經元硬件設計

如圖2所示,神經網絡系統(tǒng)是由多個神經元構成,每個神經元是一個單獨的實體,神經元既相互獨立,又相互聯(lián)系,神經元根據所受到外界的刺激(輸入)和鄰居神經元對自己的影響,做出判斷與決策(輸出),并影響到周圍神經元的反應。為了能夠實現神經網絡功能,需要模擬神經元單位設計一個特殊的理器用于計算外界刺激而做出的反應,它包含了簡單的算數邏輯運算單元、寄存器和控制器,在本文中使用PN表示該理器。

圖3顯示了一個PN理單元的工作流程圖,每個PN理器包括了進行神經元計算必須的運算器和存儲器以及相關附屬器件。PN理單元的工作流程是:當外部有輸入數據通過總線進入PN理器時先存放在輸入事件存儲器;系統(tǒng)根據事件時間將數據輸入到突觸后電勢寄存器;同時輸入值被編號后分別放入公共連接存儲器;突觸后電勢PSP值與其他神經元的權值相乘后與原有膜電位值相加,相加結果更新膜電位存儲器值;同時結果與閾值相比較,如果大于閾值則將結果輸出到輸出存儲器中作為該神經元的輸出結果存放在輸出時間存儲器。

系統(tǒng)是由若干個神經元理器構成。如圖4所示,人工神經網絡系統(tǒng)由若干個神經元共同構成,圖5表示了人工神經網絡的硬件構成。每一個人工神經網絡都是由若干個神經元理單元構成,每個神經元理單元又是由邏輯運算器、存儲器和通信單元構成。將這些神經元理器構建在一塊電路板或者芯片上,同時理器與理器通過總線連接起來相互通信,共同完成神經網絡的運算。系統(tǒng)還為每一個神經元單位配置了一個PN理器,理器之間相互獨立,并行計算。當外部刺激(輸入)進入系統(tǒng)時,立刻被分配到各個PN理器并行計算神經元對刺激的響應(輸出),同時根據計算結果,調整神經元之間的權值系數,并更新存儲其中的權值。由于PN理器是并行計算,相對于傳統(tǒng)計算機模擬運算,極大地提高了神經網絡的計算速度。

本文以Gerstner的尖峰神經元模型為基礎,設計了模擬神經元工作的PN理單元,并由若干個PN理單元構成模擬人類神經系統(tǒng)的人工神經網絡的硬件系統(tǒng)。相對于在傳統(tǒng)計算機上的操作,PN理單元的并行性使新系統(tǒng)有更強的理能力,有效地提高了神經網絡的計算速度,使神經網絡系統(tǒng)有更好的應用前景。

(作者單位:廣東肇慶科技職業(yè)技術學院)

參考文獻:

[1]Gerstner,W. & Kistler,W.M.Spiking neuron models:single neurons,populations,plasticity. Cambridge,UK:Cambridge University Press,2002.

[2]Mazad S. Zaveri. Dan Hammerstrom1. Performance/price estimates for cortex-scale hardware: A design space exploration,2011,(24).

[3]徐明華,甘強.脈沖神經網絡的振蕩與分割[J].生物物理學報,1997,(1).

第3篇:人工神經網絡范文

當今的社會是信息的社會。要使信息得到及時利用,為國民經濟和科學技術以及國防工業(yè)的發(fā)展服務,必須對信息數據的采集、加工處理、傳輸、存儲、決策和執(zhí)行等進行全面的技術革新,以適應社會發(fā)展形式的需求。因此,信息科學技術有著極其廣泛的重要應用領域,如通信、雷達、聲納、電子測量儀器、生物醫(yī)學工程、振動工程、地震勘探、圖像處理、計算機科學等。各領域的電子信息系統(tǒng)往往具有不同的性能和特征,但是電子信息系統(tǒng)設備的設計都涉及到信息表征和信息處理技術,如果這種信息科技能獲得新的突破,電子信息系統(tǒng)產品將走上新的臺階。

當前信息系統(tǒng)智能化和具有高的魯棒性及容錯性是值得研究的重大問題,雖然人工智能和專家系統(tǒng)已取得好的成績,但還不適應信息社會發(fā)展的需求,需尋求新的發(fā)展途徑。21世紀被稱為“智能化世紀和人工神經網絡世紀”,信息科學與腦科學、認知科學、神經生物學、計算機科學、非線性科學、數學、物理學諸學科相結合所產生的神經計算科學,為實現新的信息表征和信息處理提供了新的手段,將使信息技術和信息系統(tǒng)智能化得到飛躍的發(fā)展。

21世紀是信息社會的智能化時代,信息高速公路的發(fā)展加速了通信技術和多媒體通信系統(tǒng)進入網絡化、智能化進程;開拓國際互聯(lián)網,使千家萬戶能在因特網和大型計算機網絡上搜索和瀏覽各種信息,這都涉及到通信系統(tǒng)和信息處理系統(tǒng)的高度智能化問題。

現代信息處理要解決的問題往往是很復雜的,它要完成由輸入空間到輸出空間的映射,這個映射可以是線性的,也可以是非線性的,所以信息處理系統(tǒng)是有序結構的物理系統(tǒng)中的映射,恰好是與神經網絡信息處理同構。

2 人工神經網絡信息處理

一般來說,智能信息處理可以劃分為兩大類,一類為基于傳統(tǒng)計算機的智能信息處理,另一類為基于神經計算的智能信息處理。前者信息系統(tǒng)包括智能儀器、自動跟蹤監(jiān)測儀器系統(tǒng)、自動控制制導系統(tǒng)、自動故障診斷和報警系統(tǒng)等。在人工智能系統(tǒng)中,它們具有模仿或代替與人的思維有關的功能,通過邏輯符號處理系統(tǒng)的推理規(guī)則來實現自動診斷、問題求解以及專家系統(tǒng)的智能。這種智能實際上體現了人類的邏輯思維方式,主要應用串行工作程序按照一些推理規(guī)則一步一步進行計算和操作,應用領域很廣。后者是用人工神經網絡來模仿延伸人腦認知功能的新型智能信息處理系統(tǒng),即仿造人腦的思維、聯(lián)想記憶、推理及意識等高級精神活動的智能,這類神經智能系統(tǒng)可以解決傳統(tǒng)方法所不能或難以解決的問題。例如美國研制出的一種電子“偵探”(蘇聯(lián)《科學與生活》,1990年),就是用神經網絡做的能辨識人面孔的智能系統(tǒng),只要讓它看一下某人或他的照片就能記住描述此人面貌的256個數字參數,同時能記住達500人,思考辨認時間總共為1s。人工神經網絡系統(tǒng)具有很高的容錯性和魯棒性及自組織性,即使連接線被破壞了50%,它仍能處在優(yōu)化工作狀態(tài),這在軍事系統(tǒng)電子設備中有著特別重要的意義,故美國無人偵察飛機已用上這種神經信息系統(tǒng)。美國許多公司生產的神經網絡芯片及神經智能系統(tǒng)已商品化。今年最新報導:美Attrasoft公司做出世界上最大的百萬個神經元的神經網絡(軟件)。

3 盲信號處理技術

盲信號處理包括多個信源混合的盲源分離、多通道傳輸信道的參數估計和系統(tǒng)辨識、盲解卷積和盲均衡技術、盲陣列信號處理和盲波束形成技術等,在通信、雷達、聲納、控制工程、地震勘探、生物醫(yī)學工程等領域有著極其重要的應用價值,是國際上非常重視的熱門研究課題。從數學上講,盲信號處理問題可以用X(t)=AS(t)來描述,這里X(t)是已知觀測數據矢量,而信號矢量S(t)和系統(tǒng)參數矩陣A都是未知的,如何只由觀測矢量X(t)來推求S(t)或A,其解將存在不定因素,可能有許多不同的兩個量相乘而得到同一個觀測數據X(t)。求解這類問題是一個國際性的盲處理難題,但該問題有很高的實用價值。圖像、語聲、中文詩詞及英文文字等多媒體信息混合后的盲分離問題,最高信號干擾之比高于70dB。

第4篇:人工神經網絡范文

關鍵詞:人工神經網絡;BP算法;程序

中圖分類號:TP183文獻標識碼:A文章編號:1009-3044(2008)05-00ppp-0c

1 引言

人工神經網絡是一種信息處理系統(tǒng),它有很多種模型。其中有一種用誤差傳播學習算法(Error Back-Propagation,即BP算法)進行訓練的多層前饋神經網絡,簡稱為BP網絡。它是目前人工神經網絡中應用最為廣泛的網絡,在文字識別、模式分類、文字到聲音的轉換、圖像壓縮、決策支持等方面都有廣泛的應用。本文對BP算法進行簡單的介紹,并給出其在VC++6.0中的實現方法。

2 BP算法的原理

2.1 BP網絡的結構

BP網絡是由一組相互連接的運算單元組成,其中每一個連接都有相對應的權值。網絡結構如圖1(以三層網絡為例)所示,它包括輸入層節(jié)點、輸出層節(jié)點,一層或多層隱含層節(jié)點。在BP網絡中,層與層之間采用全互連方式,同一層的節(jié)點之間不存在相互連接。

2.2 BP算法的原理

BP算法簡單的來說,是把訓練樣本從輸入層輸入,通過每個節(jié)點對應的閾值、函數以及節(jié)點之間連接權值的運算,經過輸入層、隱含層,傳播到輸出層得到計算輸出,該輸出和其對應的期望輸出比較,得出誤差。如果誤差不符合要求,將誤差沿輸入相反的方向進行傳播并沿誤差降低方向調節(jié)權值和函數的閾值。用多個訓練樣本對網絡進行反復的訓練,直至誤差符合要求。

2.3 算法中主要的數據結構和用到的公式

為方便說明,對算法中的主要數據結構做如下約定。網絡為三層,P[m]為單個樣本輸入數據, m為輸入向量維數,也等于輸入層節(jié)點數;T[n]為單個樣本期望輸出數據,n為輸出向量維數,也等于輸出層節(jié)點數;W[h][m]為輸入層至隱層權值,其中h為隱層節(jié)點數;V[n][h]為隱層至輸出層權值;X[h]為隱層的輸入;O[h]為隱層的輸出;U[n]為輸出層的輸入;Y[n]為輸出層的計算輸出;YZH[h]為隱層的閾值;YZO[n]為輸出層的閾值;DeltaO[n]為輸出層一般化誤差;DeltaH[h]為隱層一般化誤差;E為預先設定的總體誤差;η為學習速率參數;設隱含層和輸出層的激活函數采用S型函數,即lxg02.tif。

算法中主要公式如下:

隱層第 個單元的輸入:lxg03.tif(1)

隱層第 個單元的輸出:lxg04.tif (2)

輸出層第 個單元的輸入: lxg05.tif (3)

輸出層第 個單元的輸出: lxg06.tif (4)

輸出層單元 的一般化誤差:DeltaO[i]=(T[i]-Y[i])?Y[i]?(1-Y[i]) (5)

隱含層單元 的一般化誤差:lxg07.tif(6)

輸出層至隱含層的權值調整:V[i][j]=η?DeltaO[i]?O[j] (7)

輸出層閾值調整:YZO[i]=η?DeltaO[i] (8)

隱含層至輸入層的權值調整:W[i][j]= η?DeltaH[i] ?P[j] (9)

隱含層閾值調整:YZH[i]=η?DeltaH[i] (10)

2.4 算法的描述

算法可描述如下:

(1)初始化:在小隨機值上初始化連接權值和閾值;給出各層節(jié)點數、η、預定誤差。

(2)輸入訓練樣本集中一個樣本。

(3)依據式1、2、3、4計算該樣本的實際輸出,和教師信號做比較,依據公式5和6分別求輸出層單元和隱含層單元一般化誤差。

(4)依據誤差根據公式7、8、9、10分別調整輸出層和隱含層的連接權和閾值。

(5)對訓練樣本集中所有樣本重復2到4。

(6)訓練次數加1。

(7)如果總誤差小于預定值則執(zhí)行8,否則對訓練樣本集返回2重復訓練。

(8)記下權值和閾值,結束本次訓練。

3 BP算法關鍵步驟在VC++6.0中實現

首先按照2.3所述定義數據結構,再定義一個放學習樣本的結構:

struct {

double input[m];

double teach[n];

}Study_Data[N];

以下是實現算法公式的各個子程序:

/*初始化權、閾值子程序*/

initial()

{

srand( (unsigned)time( NULL ) );

for(int i=0;i

{

for(int j=0;j

W[i][j]= (double)((rand()/32767.0)*2-1);

}

for(int ii=0;ii

{for(int jj=0;jj

V[ii][jj]= (double)((rand()/32767.0)*2-1);

}

for(int k=0;k

{YZH[k=(double)((rand()/32767.0)*2-1);

}

for(int kk=0;kk

{YZO[kk]=(double)((rand()/32767.0)*2-1);

}

return 1;

}

/*第m個學習樣本輸入子程序*/

input_P(int m)

{

for (int i=0;i

P[i]=Study_Data[m].input[i];

return 1;

}

/*第m個樣本教師信號子程序*/

input_T(int m)

{

for (int k=0;k

T[k]=Study_Data[m].teach[k];

return 1;

}

/*隱層各單元輸入、輸出值子程序*/

H_I_O(){

double sigma;

int i,j;

for (j=0;j

sigma=0.0;

for (i=0;i

sigma+=W[j][i]*P[i];

X[j]=sigma - YZH[j];

H[j]=1.0/(1.0+exp(-X[j]));

}

return 1;

}

/*輸出層各單元輸入、輸出值子程序*/

O_I_O()

{

double sigma;

for (int k=0;k

sigma=0.0;

for (int j=0;j

sigma+=V[k][j]*H[j];

}

Y[k]=sigma-YZO[k];

O[k]=1.0/(1.0+exp(-Y[k]));

}

return 1;

}

/*輸出層至隱層的一般化誤差子程序*/

double d_err[n];

Err_O_H(int m)

{

double abs_err[n];

double sqr_err=0;

for (int k=0;k

abs_err[k]=T[k]-O[k];

sqr_err+=(abs_err[k])*(abs_err[k]);

d_err[k]=abs_err[k]*O[k]*(1.0-O[k]);

}

err_m[m]=sqr_err/2;

return 1;

}

/*隱層至輸入層的一般化誤差子程序*/

double e_err[h];

Err_H_I(){

double sigma;

for (int j=0;j

sigma=0.0;

for (int k=0;k

sigma+=d_err[k]*V[k][j];

}

e_err[j]=sigma*H[j]*(1.0-H[j]);

}

return 1;

}

/*輸出層至隱層的權值調整、輸出層閾值調整計算子程序*/

Delta_O_H(int m)

{

for (int k=0;k

for (int j=0;j

{V[k][j]+=a*d_err[k]*H[j];

YZO[k]+=a*d_err[k];

}

return 1;

}

/*隱層至輸入層的權值調整、隱層閾值調整計算子程序*/

Delta_H_I(int m)

{

for (int j=0;j

for (int i=0;i

{W[j][i]+=b*e_err[j]*P[i];

}

YZH[j]+=b*e_err[j];

}

return 1;

}

/*N個樣本的全局均方誤差計算子程序*/

double Err_Sum()

{

double total_err=0;

for (int m=0;m

total_err+=err_m[m];

}

return total_err;

}

參考文獻:

[1]徐勇,等,譯.神經網絡模式識別及實現[M].電子工業(yè)出版社,1999.

[2]戴葵,等,譯.神經網絡設計[M].機械工業(yè)出版社,2002.

[3]Berthold M,D J Hand,et al.Intelligent Data Analysis-An Introduction[M].Springer Berlin,1999.

收稿日期:2007-12-20

第5篇:人工神經網絡范文

【關鍵詞】人口預測;人工神經網絡;BP神經網絡

0 引言

中國是一個人口大國, 人口問題始終是制約我國發(fā)展的關鍵因素之一, 但是要確定人口發(fā)展戰(zhàn)略, 必須既著眼于人口本身的問題, 又處理好人口與經濟社會資源環(huán)境之間的相互關系, 構建社會主義和諧社會, 統(tǒng)籌解決人口數量、素質、結構、分布等問題。已有的文獻采用微分方程、灰色系統(tǒng)和曲線擬合等方法研究了我國人口問題[1-2]。本文根據近年來中國的人口發(fā)展所出現一些新的特點, 以及近幾年中國人口抽樣數據及現有全國人口普查數據, 運用人工神經網絡算法[3-4]對中國人口做出了分析和預測。人工神經網絡(ANN)可以通過學習來抽取和逼近輸入輸出之間存在的非線性關系。因此,基于人工神經網絡的預測方法成為近幾年研究的熱點。目前,主要采用BP神經網絡、局部反饋性神經網絡等。BP神經網絡是人工神經網絡中應用最廣泛的算法。

1 BP神經網絡模型

BP神經網絡的輸入與輸出之間是一種高度非線性映射關系,如果輸入節(jié)點數是N,輸出節(jié)點數是M,則網絡是從N維歐式空間到M 維歐式空間的映射。通過調整BP神經網絡的連接權值和網絡的規(guī)模(包括N,M和隱層節(jié)點數),可以以任意精度逼近任何非線性函數。

BP算法的訓練過程包括輸入信號的正向傳播和輸出誤差的反向傳播兩個過程。BP算法首先進行輸入信號的正向傳播。輸入的樣本首先進入網絡的輸入層,經中間隱含層的分析計算處理后,進入輸出層得到樣本訓練輸出結果。如果網絡最終輸出與網絡期望輸出值(導師信號)存在誤差,那么就進行誤差的反向傳播。誤差的反向傳播首先將誤差按照一定的學習算法整理成相應的形式,由隱含層傳播至輸入層,并將誤差分配給各層的所有神經元上,從而獲得各層神經元的誤差信號,此誤差信號即作為修正各神經元權值的依據。這種權值修正的過程,也就是網絡的學習訓練過程。這種過程不斷迭代,最后使得誤差信號達到允許的范圍內。

在BP神經網絡預測前,首先要訓練網絡,通過訓練使網絡有聯(lián)想記憶和預測的能力。具體的步驟如下:

第一步:設置好已知參數,包括目標輸出、預期平均誤差、隱含層的數量與神經元個數、輸出層的神經元個數、各層的權值與閥值等。

第二步:數據歸一化。在設定好各種參數之后,確定每一樣本的參數。每一樣本的每個數據作為輸入層神經元,所有樣本計算做為一個學習周期,為了使網絡能更快地收斂,應該將輸入層神經元歸一化,即將其按照式(1)轉換為(0,1)之間的值,其中x是樣本數據。

第三步:確定樣本數據之后,通過每一個樣本數據對網絡進行的計算。計算時首先將輸入層神經元按照式(2)計算出隱含層輸入,其中h表示隱含層,k表示第k個樣本,wih表示第i個輸入層神經元與第h個隱含層神經元之間連接的權值,bh表示隱含層第h個神經元的閥值。計算隱含層輸入之后通過可導函數(一般選擇sigmond函數,如式(3)所示,其中x表示隱含層輸入)處理得出隱含層輸出;將第一層隱含層的輸出作為下一隱含層的神經元進行下一隱含層輸入計算,在通過可導函數處理得出下一層隱含層的輸出如此反復計算,直至隱含層全部計算完;

2 人口預測

2.1 數據來源

為了驗證神經網絡模型在人口預測中的效果,本文采用的我國人口數據均來自1995 -2012年的《中國統(tǒng)計年鑒》,具體數值如表1所示。我們將數據分為兩部分,1995-2008年作為訓練樣本,2009-2012年作為測試樣本。

2.2 BP神經網絡拓撲結構的確定

如果隱含層神經元數目過少,網絡很難識別樣本,難以完成訓練,并且網絡的容錯性也會降低;如果數目過多,則會增加網絡的迭代次數,從而延長網絡的訓練時間,同時也會降低網絡的泛化能力,導致預測能力下降。在選擇隱含層層數時要從網絡精度和培訓時間上綜合考慮。在具體設計時,首先根據經驗公式初步確定隱含層神經元個數,然后通過對不同神經元數的網絡進行訓練對比,再最終確定神經元數。通用的隱含層神經元數的確定經驗公式有:

其中i為隱含層神經元的個數,n為輸入層神經元的個數,m為輸出層神經元的個數, a為常數且1

2.3 人口預測結果

由圖2可知,神經網絡很快就訓練收斂了。經過多次訓練和學習,得到BP網絡的預測值。預測結果是2009-2012年人口預測數量分別為:133487,133985,135139,135431.(單位:萬人)。

2.4 結束語

將BP 預測值與實際值做比較, 2009-2012年的相對誤差為0. 01%、0. 01%、0.3%、0. 009%.

BP 網絡預測結果表明, 比其他數學方法預測值更接近實際值. 這是因為我國的人口數量受多種因素的影響,人口的增長呈非線性局勢, 而BP 網絡的優(yōu)點就在于它的非線性趨近性和泛化能力。本文采用自適應學習速率和附加動量法相結合的方法, 比應用單一的方法效果要好很多。BP 網絡具有它的局限性, 隱含層的設計是人為設定的, 這樣很容易造成誤差。因此, 如何更好的將BP 網絡與其他神經網絡結合起來應用于人口預測系統(tǒng), 是我們以后努力的方向。

【參考文獻】

[1]王曉龍,楊廣,張保華.灰色及其改進模型在人口預測中的應用[J].世界科技研究與發(fā)展,2009,31(4):757-758.

[2]蔣超,楊琳,付敏.中國人口預測的數學模型[J].內江師范學院學報,2008,3(12): 33-35.

第6篇:人工神經網絡范文

人工神經網絡(Aartificial Neural Network,下簡稱ANN)是模擬生物神經元的結構而提出的一種信息處理方法。早在1943年,已由心理學家Warren S.Mcculloch和數學家Walth H.Pitts提出神經元數學模型,后被冷落了一段時間,80年代又迅猛興起[1]。ANN之所以受到人們的普遍關注,是由于它具有本質的非線形特征、并行處理能力、強魯棒性以及自組織自學習的能力。其中研究得最為成熟的是誤差的反傳模型算法(BP算法,Back Propagation),它的網絡結構及算法直觀、簡單,在工業(yè)領域中應用較多。

經訓練的ANN適用于利用分析振動數據對機器進行監(jiān)控和故障檢測,預測某些部件的疲勞壽命[2]。非線形神經網絡補償和魯棒控制綜合方法的應用(其魯棒控制利用了變結構控制或滑動??刂疲?,在實時工業(yè)控制執(zhí)行程序中較為有效[3]。人工神經網絡(ANN)和模糊邏輯(Fuzzy Logic)的綜合,實現了電動機故障檢測的啟發(fā)式推理。對非線形問題,可通過ANN的BP算法學習正常運行例子調整內部權值來準確求解[4]。

因此,對于電力系統(tǒng)這個存在著大量非線性的復雜大系統(tǒng)來講,ANN理論在電力系統(tǒng)中的應用具有很大的潛力,目前已涉及到如暫態(tài),動穩(wěn)分析,負荷預報,機組最優(yōu)組合,警報處理與故障診斷,配電網線損計算,發(fā)電規(guī)劃,經濟運行及電力系統(tǒng)控制等方面[5]。

本文介紹了一種基于人工神經網絡(ANN)理論的保護原理。

1、人工神經網絡理論概述

BP算法是一種監(jiān)控學習技巧,它通過比較輸出單元的真實輸出和希望值之間的差別,調整網絡路徑的權值,以使下一次在相同的輸入下,網絡的輸出接近于希望值。

在神經網絡投運前,就應用大量的數據,包括正常運行的、不正常運行的,作為其訓練內容,以一定的輸入和期望的輸出通過BP算法去不斷修改網絡的權值。在投運后,還可根據現場的特定情況進行現場學習,以擴充ANN內存知識量。從算法原理看,并行處理能力和非線性功能是BP算法的一大優(yōu)點。

2、神經網絡型繼電保護

神經網絡理論的保護裝置,可判別更復雜的模式,其因果關系是更復雜的、非線性的、模糊的、動態(tài)的和非平穩(wěn)隨機的。它是神經網絡(ANN)與專家系統(tǒng)(ES)融為一體的神經網絡專家系統(tǒng),其中,ANN是數值的、聯(lián)想的、自組織的、仿生的方式,ES是認知的和啟發(fā)式的。

文獻[1]認為全波數據窗建立的神經網絡在準確性方面優(yōu)于利用半波數據窗建立的神經網絡,因此保護應選用全波數據窗。

ANN保護裝置出廠后,還可以在投運單位如網調、省調實驗室內進行學習,學習內容針對該省的保護的特別要求進行(如反措)。到現場,還可根據該站的干擾情況進行反誤動、反拒動學習,特別是一些常出現波形間斷的變電站內的高頻保護。

3、結論

本文基于現代控制技術提出了人工神經網絡理論的保護構想。神經網絡軟件的反應速度比純數字計算軟件快幾十倍以上,這樣,在相同的動作時間下,可以大大提高保護運算次數,以實現在時間上即次數上提高冗余度。

一套完整的ANN保護是需要有很多輸入量的,如果對某套保護來說,區(qū)內、區(qū)外故障時其輸入信號幾乎相同,則很難以此作為訓練樣本訓練保護,而每套保護都增多輸入量,必然會使保護、二次接線復雜化。變電站綜合自動化也許是解決該問題的一個較好方法,各套保護通過總線聯(lián)網,交換信息,充分利用ANN的并行處理功能,每套保護均對其它線路信息進行加工,以此綜合得出動作判據。每套保護可把每次錄得的數據文件,加上對其動作正確性與否的判斷,作為本身的訓練內容,因為即使有時人工分析也不能區(qū)分哪些數據特征能使保護不正確動作,特別是高頻模擬量。

神經網絡的硬件芯片現在仍很昂貴,但技術成熟時,應利用硬件實現現在的軟件功能。另外,神經網絡的并行處理和信息分布存儲機制還不十分清楚,如何選擇的網絡結構還沒有充分的理論依據。所有這些都有待于對神經網絡基本理論進行深入的研究,以形成完善的理論體系,創(chuàng)造出更適合于實際應用的新型網絡及學習算法[5]。

參考文獻

1、陳炳華。采用模式識別(智能型)的保護裝置的設想。中國電機工程學會第五屆全國繼電保護學術會議,[會址不詳],1993

2、Robert E.Uhrig.Application of Artificial Neural Networks in Industrial Technology.IEEE Trans,1994,10(3)。(1):371~377

3、Lee T H,Wang Q C,Tan W K.A Framework for Robust Neural Network-Based Control of Nonlinear Servomechannisms.IEEE Trans,1993,3(2)。(3):190~197

第7篇:人工神經網絡范文

關鍵詞:  人工神經網絡; 應用

人工神經網絡(Artificial Neural Network,ANN)方法自從本世紀40年代被提出以來,許多從事人工智能、計算機科學、信息科學的科學家都在對它進行研究,已在軍事、醫(yī)療、航天、自動控制、金融等許多領域取得了成功的應用。目前出現了許多模仿動物和人的智能形式與功能的某個方面的神經網絡,例如,Grossberg提出的自適應共振理論(Adaptive Resonance Theory,ART),T-Kohenen的自組織特征映射網絡(Self-Organizing feature Map,SOM),徑向基函數網絡(Radial Basis Function,RBF),Hopfield網等。進入90年代以后,由于計算機技術和信息技術的發(fā)展,以及各種算法的不斷提出,神經網絡的研究逐漸深化,應用面也逐步擴大,本研究對常用的神經網絡方法及其在醫(yī)學領域中的應用做一簡單綜述。

    1  自組織特征映射網絡(self-organizing feature map,SOM)在基因表達數據分析中的應用

   1.1   方法介紹

    腦神經學的研究表明,人腦中大量的神經元處于空間的不同區(qū)域,有著不同的功能,各自敏感著各自的輸入信息模式的不同特征。芬蘭赫爾辛基大學神經網絡專家T.Kohonen根據大腦神經系統(tǒng)的這一特性,于1981年提出了自組織特征映射網絡,它模擬人的大腦,利用競爭學習的方式進行網絡學習,具有很強的自組織、自適應學習能力,魯棒性和容錯能力,其理論及應用發(fā)展很快,目前已在信息處理、模式識別、圖像處理、語音識別、機器人控制、數據挖掘等方面都有成功應用的實例。

    Kohonen網絡由輸入層和競爭層組成,網絡結構見圖1。輸入層由N個神經元組成,競爭層由M個輸出神經元組成,輸入層與競爭層各神經元之間實現全互連接,競爭層之間實行側向連接。設輸入向量為x=(x1,…,xd)T ,輸出神經元j對應的權重向量為wj=(wj1,…,wjd)T ,對每一輸出神經元計算輸入向量x 和權重向量wj 間的距離,據此利用競爭學習規(guī)則對權向量進行調節(jié)。在網絡的競爭層,各神經元競爭對輸入模式的響應機會,最后僅一個神經元成為勝利者,并對與獲勝神經元有關的各權重朝著更有利于它競爭的方向調整,這樣在每個獲勝神經元附近形成一個“聚類區(qū)”,學習的結果使聚類區(qū)內各神經元的權重向量保持與輸入向量逼近的趨勢,從而使具有相近特性的輸入向量聚集在一起,這種自組織聚類過程是系統(tǒng)自主、無教師示教的聚類方法,能將任意維輸入模式在輸出層映射成一維或二維離散圖形,并保持其拓撲結構不變。網絡通過對輸入模式的學習,網絡競爭層神經元相互競爭,自適應地形成對輸入模式的不同響應,模擬大腦信息處理的聚類功能、自組織、自學習功能,實現用低維目標空間的點去表示高維原始空間的點,其工作原理和聚類算法及改進方法參見相關文獻[1]。

    1.2  應用

    基因芯片技術的應用使得人們可以從基因水平探討疾病的病因及預后,而基因芯片產生的數據具有高維度(變量多)、樣本量小、高噪聲的特點,樣本量遠小于變量數,如何從海量的數據中挖掘信息或知識成為重大課題。聚類分析是數據挖掘中的一類重要技術,傳統(tǒng)方法主要有系統(tǒng)聚類、k-means聚類等,但在處理復雜非線性關系及變量間的交互作用時效果較差,受異常值影響較大。近年來神經網絡技術法成為聚類領域的研究熱點,其中自組織特征映射網絡由于其良好的自適應性,其算法對基因表達數據的聚類有較高的穩(wěn)定性和智能性,尤其在處理基因表達中有缺失數據及原始空間到目標空間存在非線性映射結構時有較好的體現,適用于復雜的多維數據的模式識別和特征分類等探索性分析,同時可實現聚類過程和結果的可視化[2]。目前Kohonen網絡已被成功用到許多基因表達數據的分析中,Jihua Huang等[3]設計6×6的網絡對酵母細胞周期數據進行分析,總正確率為67.7%;曹暉等[4]將其算法改進后用在酵母菌基因表達數據中,總正確率高達84.73%,有較高的聚類效能;鄧慶山[5]將該模型與K平均值聚類方法結合用于公開的結腸基因表達數據集和白血病基因表達數據集,聚類的準確率分別為94.12%和90.32%。目前Kohonen網絡在醫(yī)學領域中主要應用前景有:① 發(fā)現與疾病相關的新的未知基因,對目標基因進一步研究,提高診斷的正確率,并對藥物的開發(fā)研究提供重要的線索;② 對腫瘤組織的基因表達譜數據聚類,以期發(fā)現新的、未知的疾病亞型(腫瘤亞型),以便提出更加有針對性的治療方案,為從分子水平對疾病分型、診斷、預后等提供依據;③ 發(fā)現與已知基因有相似功能的基因,為推斷未知基因的可能功能提供線索。

    2  BP神經網絡在醫(yī)學研究中的應用

    2.1  BP神經網絡在疾病輔助診斷中的應用

    2.1.1  方法介紹

    BP神經網絡是目前應用最多的神經網絡,一般由一個輸入層(input layer)、一個輸出層(output layer)、一個或幾個中間層(隱層)組成。每一層可包含一個或多個神經元,其中每一層的每個神經元和前一層相連接,同一層之間沒有連接。輸入層神經元傳遞輸入信息到第一隱層或直接傳到輸出層,隱層的神經元對輸入層的信息加權求和,加一個常數后,經傳遞函數運算后傳到下一個隱層(或輸出層),常用的傳遞函數是logistic函數,即Φh=1/(1+exp(-z)) ,輸出層神經元對前一層的輸入信息加權求和經傳遞函數Φ0 (線性或logistic函數或門限函數)運算后輸出,BP神經網絡一般采用BP算法訓練網絡,關于BP算法及改進可參考相關文獻[1]。

第8篇:人工神經網絡范文

關鍵詞:相關性分析;客戶流失;人工神經網絡

中圖分類號:TP183文獻標識碼:A文章編號:1009-3044(2012)03-0665-03

The Analysis Model of the Bank Customer Churn Based on Artificial Neural Network

LIN Rui1,2, CHI Xue-zhi3

(1. China Construction Bank, Dongying 257000, China; 2. China University of Petroleum, Dongying 257000, China; 3. Shandong Police College, Jinan 250014, China)

Abstract: For the current customer churn problem of China Construction Bank, using the BP neural network network stability, good learning ability characteristics, through the correlation analysis between the input variables and output variables,establish a bank customer churn analysis model, through this model we can access to the data of customer’s loss, so that the bank make business decisions, retain the user to ensure that bank efficiency is not affected. Experiments show that this model can well predict the loss of bank customers.

Key words: correlation analysis; customer’s loss; artificial neural network

隨著國際金融一體化和網絡經濟的發(fā)展,我國商業(yè)銀行面臨更加激烈的市場競爭,如何有效的應對競爭,抓住給銀行帶來效益的客戶資源,提高中國建設銀行的市場份額,增加企業(yè)的效益,成為擺在中國建設銀行面前的重要課題。但是,國內許多銀行往往把精力放在發(fā)展新客戶上,而對于現有客戶的需求沒有進行深入分析,以致造成現有客戶的流失。因此,如何對銀行客戶流失進行有效的分析,針對不同的客戶實行差別化服務,滿足客戶的不同需求,避免客戶的流失,這樣可以大大地提高銀行的競爭力。本文利用人工神經網絡的魯棒性和容錯性、能夠處理負責的非線性關系、可學習和自適應能力強的特點,通過對保留在銀行數據庫中的客戶數據進行分析,建立客戶流失模型,預測客戶流失情況,從而幫準銀行調整服務和經營策略,給銀行帶來更大的效益。

1客戶流失分析

TNS日前首份中國銀行業(yè)調查報告,該公司北京、上海、廣州三地,對1500名零售銀行客戶以及900名信用卡用戶進行調研,分析顯示目前中國銀行業(yè)客戶維系指數低于全球平均水平,調查也顯示目前國有商業(yè)銀行的客戶流失率高達30%。銀行客戶流失的原因有很多,客戶信息中的哪些關鍵因素會導致客戶的流失,面對客戶的流失銀行應該采取怎樣的應對措施成為銀行需要重點關注的問題。為此,銀行需要建立客戶流失分析模型,作用有兩個方面:

1)通過對客戶數據的分析,獲取客戶信息中的關鍵因素和客戶流失之間的必然關系,從而有針對性的改變銀行的經營和服務策略。

2)對可能流失的客戶進行預警。

目前的相關研究中,典型的客戶流失分析主要有分類回歸樹、決策樹、C4.5、偏差統(tǒng)計等方法。但是勛在精確度低,客戶特征之間的相互影響的關系難于表達,對噪音數據非常敏感等問題,使用這些方法建立的客戶流失分析模型往往比較負責,達不到對客戶進行流失分析的需要。

2基于BP人工神經網絡的客戶流失分析模型

2.1在客戶流失分析中應用BP人工神經網絡

BP(Back Propagation)人工神經網絡是1986年由Rumelhart和McCelland為首的科學家小組提出,是一種按誤差逆?zhèn)鞑ニ惴ㄓ柧毜亩鄬忧梆伨W絡,是目前應用最廣泛的神經網絡模型之一。由于BP人工神經網絡具有自適應和學習能力強的特點,我們將它引入客戶流失分析中,通過對與獲得樣本數據的訓練和學習,確定客戶流失分析的基本模型,通過模型一方面可獲得銀行客戶的基本特征信息與客戶流失之間的必然聯(lián)系,另一方面也可以對現有客戶是否流失進行預警,從而達到挽留即將流失客戶的目的。

在客戶流失分析中應用BP人工神經網絡,作者對以下4個方面進行了重點考慮:

1)關鍵屬性變量的選取

2)特征數據預處理

3)基于BP網絡的客戶分析模型的建立4)BP人工神經網絡的訓練

2.2關鍵屬性變量的選取

為得到更為準確的客戶流失分析模型,首先要收集高質量的訓練用銀行客戶樣本。本文從中國建設銀行xx分行數據庫中獲取6個月的客戶數據作為樣本,數據包括這家銀行客戶的基本信息特征和行為特征。全部客戶樣本共4412個,其中撤銷賬戶的有167個,保持開戶的有4245個。

從提取的資料來看,字段變量非常復雜,共58個字段變量,為適應BP人工神經網絡對數據數據的要求,減少網絡復雜度,首先對這些變量的進行相關性分析,去除對客戶流失分析模型無用或意義不大的變量,并且歸約派生有用的新變量。根據現有國際上對客戶流失影響因素的研究和領域專家對客戶數據的分析,最終確定影響中國建設銀行客戶流失的關鍵變量有10個,顯示在表1中。

表1影響客戶流失的關鍵變量及代碼

2

.3數據預處理

在客戶樣本數據應用于人工神經網絡測試和訓練之前,要對所取得的數據進行量化處理以滿足BP神經網絡學習的需要,需要量化的是關鍵屬性變量輸入和某一樣本的期望輸出。

由于存在多個關鍵屬性變量,各個屬性變量之間存在著不可公度性和矛盾性,各屬性變量的量綱、數量級和指標類型也不盡相同。為了消除這種差異對預測結果的影響,在評價時首先要將訓練樣本的向量歸一化,使網絡的訓練樣本的值都在[0,1]范圍內,從而網絡的性能會發(fā)揮得更好。筆者采用最大最小函數法對原始輸入進行預處理,得到BP神經網絡輸入層輸入節(jié)點的初始值為{ci1,ci2,?,cin},期望輸出的值0或1,如果樣本數據中客戶沒有流失,輸出為0,否則為1。假設有m篇樣本,則BP神經網絡的輸入層數據為:

2.4模型的建立

建立一個人工神經網絡模型,該模型包括10個輸入單元,1個輸出單元。由于BP人工神經網絡具有的最大特點就是非線性函數的逼近,而且只含有一個隱藏層的BP網絡即可完成此任務,因此,采用一個隱藏層。輸入層節(jié)點的個數為前面取得的影響客戶流失的關鍵屬性變量數目;隱含層節(jié)點數目根據具體情況在實驗過程中確定,一般不少于輸入層節(jié)點的個數;由于神經網絡最終的輸出結果為計算出的客戶流失度的大小,因此,輸出層節(jié)點在本文中設計了一個。

根據模型中輸入層數據的取值范圍,模型中在每個隱含節(jié)點和輸出節(jié)點的值都是用Sigmoid轉移函數(f( ) x = 1+e-x)計算獲得?;贐P人工神經網絡的客戶流失分析模型的基本結構如圖1。

2.5 BP人工神經網絡訓練過程

為了對BP人工神經網絡進行訓練,我們將選取的4412個樣本分為兩類,其中,70%的用于訓練,其余30%用于測試。這樣分別構成了三個樣本輸入矩陣I3088×100和三個期望輸出矩陣O3088×1。接著,初始化BP人工神經網絡的結構,主要是確定了隱含層節(jié)點 的個數16。

BP人工神經網絡的一般訓練過程如下[4]:

假設第k-1層有n個神經元,對于第k層的第i個神經元,則有n個權系數wi1,wi2,......win,另外取多一個win+1用于表示閾值θi;并且對第k-1層的輸出Xk-1取Xk-1=(X1k-1,X2k-1,......Xnk-1,1),多出的一個神經元稱為偏置神經元。

算法的執(zhí)行步驟如下:

1)對輸入層權系數Wij置初值

首次學習時輸入層的權系數Wij取一個較小的非零隨機數,以后學習時為加快學習速度,Wij取以前網絡學習收斂時的穩(wěn)定權值。另外取Win+1=-θi

2)輸入一個樣本X1=(X11,X21,???,Xn1,1),以及對應期望輸出Y=(Y1,Y2,???,Yn,Y0)。

3)計算各層的輸出

對于第k層第i個神經單元的輸出Xik,有:

4)求各層的學習誤差dik對于輸入層有k=m,有

對于其它隱含層,有

5)修正權系數Wij

使用一般化的Delta法則公式

及其修正公式

6)當求出各層各個權系數之后,可按給定條件判別是否滿足要求。如果滿足要求,則算法結束;否則返回3執(zhí)行。

3訓練結果及模型評價

3.1訓練結果

我們對上述模型進行訓練,最后樣本在循環(huán)了528,630次達到收斂,證明可以使用該網絡模型對客戶流失進行預測分析。

3.2模型評價

客戶流失模型要求兩個方面的準確率:一個是預測準確率,一個是預測覆蓋率,對模型的評價可以用如表2所示的評價矩陣表示。

表2客戶流失評價矩陣

其中:

預測準確度: 預測覆蓋率:

C+D

根據中國建設銀行的運營要求,將預測覆蓋率設定為80%以上,預測命中率設定在75%以上。

使用前面測試樣本的1324條數據作為測試數據,對建立的客戶流失模型進行評估,結果如表3所示。

表3評估結果

從模型評估結果可以看出,模型的預測命中率為84.58%;預測覆蓋率為81.17%。從中國建設銀行對客戶流失分析模型的需求來看,模型已達到了要求,可以投入使用。將需要檢測的樣本通過BP人工神經網絡訓練,就可以得到每個樣本所對應的客戶是否有較大可能流失,然后,銀行就可以有的放矢地采取必要措施來挽留客戶。

4結束語

本文將人工神經網絡技術應用于銀行客戶流失分析,建立了基于人工神經網絡的客戶流失分析模型,并對模型中的關鍵問題:關鍵屬性變量的選取、數據預處理、流失模型建立、人工神經網絡的訓練過程等進行了重點研究,測試結果表明運用此模型對銀行客戶進行流失預測分析是可行的。它使得銀行決策者能夠及時了解客戶流失情況發(fā)生,制定相應經營決策,挽留有關用戶,確保銀行效益不受影響。

參考文獻:

[1]張云濤,龔玲.數據挖掘原理與技術.[M].北京:電子工業(yè)出版社,2004.

[2]郭明,鄭惠莉,盧毓偉.基于貝葉斯網絡的客戶流失分析[J].南京郵電大學學報:自然科學版,2005,25(5):79-83.

第9篇:人工神經網絡范文

摘要:工程造價估算是招標投標中的重要一環(huán),探尋一套快速、簡捷、實用的工程造價估算方法已經成為建筑行業(yè)的迫切需要。為了建設工程造價估算技術的發(fā)展及文聯(lián)面臨的問題,提出在建設工程造價估算技術系統(tǒng)中應用人工神經網絡技術來提高估算精確度,并且給出系統(tǒng)的設計模型。

關鍵詞:人工神經網絡;工程造價;造價估算

人工神經網絡(ArtificialNeuralNetworks,簡寫為ANNs)也簡稱為神經網絡(NNs)或稱作連接模型(ConnectionistModel),它是一種模范動物神經網絡行為特征,進行分布式并行信息處理的算法數學模型。這種網絡依靠系統(tǒng)的復雜程度,通過調整內部大量節(jié)點之間相互連接的關系,從而達到處理信息的目的。人工神經網絡具有自學習和自適應的能力,可以通過預先提供的一批相互對應的輸入-輸出數據,分析掌握兩者之間潛在的規(guī)律,最終根據這些規(guī)律,用新的輸入數據來推算輸出結果,這種學習分析的過程被稱為“訓練”。

一、神經網絡的建立

雖然人們還并不完全清楚生物神經網絡是如何進行工作的,但還是幻想能否構造一些“人工神經元”,然后將這些神經元以某種特定的方式連接起來,模擬“人腦”的某些功能。

在1943年,心理學家W. McCulloch和數學家W. Pitts合作,從數理邏輯的角度,提出了神經元和神經網絡最早的數學模型(MP模型),是神經網絡研究的開端,更為后面的研究發(fā)展奠定了基礎。經歷了半個多世紀,神經網絡度過了萌芽期、第一次期、反思低潮期、第二次期、再認識與應用研究期五個階段。目前,神經網絡已成為涉及多種學科和領域的一門新興的前沿交叉學科。

神經元分為分層網絡和相互連接型網絡。所謂分層網絡,就是一個網絡模型中的所有神經元按功能分層,一般分為輸入層、中間層(隱含層)、輸出層,各層按順序連接,隔層之間均采用的是全互連接,但對于同一單元間,不互相連接。分層網絡可細分為簡單前向網絡、反饋前向網絡和層內互相連接的網絡。人工神經網絡結構是一種多層的網絡結構,一個典型的前向網絡。

某個神經元 j 的輸入―輸出關系為

其中,θj為閥值,ωji為連接權,f(•)為變換函數,也稱活化函數(activation function)

對于人工神經網絡模型,我們只可能在某種程度上去描述我們所了解的情況。同樣,人工神經網絡也只可能是在某種程度上對真實的神經網絡的一種模擬和逼近。

二、在工程造價中的運用

成都市工程造價計價模式后選取了基礎類型、結構類型、工期、層數、建址、層高、內裝修、門窗、單位造價等10個影響工程造價和工程量的特征作為模型的輸入??紤]到各個工程中門和窗數量差別很大為提高估算的精度我們把門數量和窗數量作為輸入,其數量在工程施工圖紙上很容易查得,不需作復雜的計算。對于其他文字性表達的工程特征需轉變成數字后作為網絡的輸入。

很明顯的看出,測試樣本總體誤差率比較小,平均誤差為283%,基本滿足估算要求,隨著工程資料的不斷積累,選取有代表性的數據作為樣本,誤差將不斷縮小。

意義:

通過這次研究,我們了解了人工神經網絡的基本原理,即通過誤差反向傳播建立多層前饋網絡的學習收斂過程,該過程主要包括三個層次,即輸入層、隱含層和輸出層。在訓練中通過計算輸出值與期望值之間的誤差,來求解輸出層單元的一般化誤差,再將誤差進行反向傳播,求出隱含層。并了解了基于人工神經網絡之上的建設項目的投資估算模型,了解了平滑指數法、類比系數法、模糊數學估算法的基本原理與其自身的優(yōu)勢與不足,也讓我們更深刻地認識到,人工神經網絡,作為90年代逐漸被運用的人工智能技術之一,能像一個經驗深厚的造價師,根據工程類型、特征及其相關情況,結合數據和經驗,準確的估算出其造價。我們也通過計算驗證了模型的可行性。對于我們從事建筑造價的大學生來說,是一次難能可貴的研究機會,能夠較深層次的了解行業(yè)中的專業(yè)知識。隨著中國改革開放和市場經濟的不斷深入,中國建筑企業(yè)在面臨很好的機遇的同時,也面臨著嚴峻的考驗?,F在的市場競爭機制已表現得越來越明顯,他要求我們提高效率,盡快拿出自己招投標方案,但是傳統(tǒng)的預算方法以及現行的計算軟件都必須花費較長的時間才能計算出結果,而且計算的結果準確度還不是很高。怎樣解決這個問題,成了建筑界的熱門話題。同時作為建設方的業(yè)主,他們同樣對快速預算很感興趣。因為確定工程造價是建設工作中十分重要的一環(huán),在不同階段有著不同的方法。如建設前期的工程造價估算、初步設計階段編制概算、施工圖設計階段編制預算,特別是建設前的估算是我們工作的重點,因為它是我們進行成本控制的起點。對于建設單位而言,它們不僅能在進行設計招標之前大致確定該工程的造價,而且還能在工程施工招標前定出合理的標底。可見快速預算有其很現實的發(fā)展研究背景。近幾年許多學者都在這方面努力探索,并取得了很好成果。 神經網絡和模糊數學的快速發(fā)展應用為工程快速預算提供了很好的思路。我們通過查閱資料了解了模糊數學和神經網絡的結合原理,認識了基于模糊神經網絡和工程預算原理的工程快速估價的模型,并通過住宅建筑估價模型的建立,說明模型的實現方法且驗證其實用性。這次研究對于行業(yè)經驗不足的我們十分寶貴,我們通過書籍等資料更加全方位的了解了我們未來所講從事的行業(yè)的知識,為我們以后的工作做了良好的鋪墊,積累了寶貴財富,我們將在了解這些專業(yè)知識之后熟練地運用,以更好地促進行業(yè)的發(fā)展。(西華大學;四川;成都;610039)

參考文獻:

① 汪應洛、楊耀紅,工程項目管理中的人工神經網絡方法及其應用[J].中國工程科學.2004,6(7):26-33.

② 袁曾仁,人工背景:神經網絡及其應用[M]清華大學出版社,1991