神經(jīng)網(wǎng)絡(luò)提取特征精選(九篇)

前言：一篇好文章的誕生，需要你不斷地搜集資料、整理思路，本站小編為你收集了豐富的神經(jīng)網(wǎng)絡(luò)提取特征主題范文，僅供參考，歡迎閱讀并收藏。

第1篇：神經(jīng)網(wǎng)絡(luò)提取特征范文

關(guān)鍵詞：圖像分類；深度學(xué)習(xí)；Caffe框架；卷積神經(jīng)網(wǎng)絡(luò)

中圖分類號(hào)：TP18 文獻(xiàn)標(biāo)識(shí)碼：A 文章編號(hào)：1009-3044（2016）35-0209-03

Research and Implementation of Image Classification Based on Convolution Neural Network

WANG Chao

（Information Engineering Institute，East China University of Technology， Nanchang 330013， China）

Abstract： The problem of image classification has been the core problem in computer vision. A good solution is developed by further study which can solve the problem of extracting image features in image classification. In order to learn image features efficiently， constructing the machine learning model with hidden layer as well as training a large number of image data will eventually promote the accuracy of image classification or prediction. This paper is intended as an in-depth Caffe learning framework to construct a small image data-base. The convolutional neural network provided by Caffe framework will make a training analysis of the data set and then extract the information of target image features. These can be used for the final prediction of the target image. Compared with the traditional image classification algorithm， the accuracy of the prediction will be greatly improved.

Key words： image classification； deep learning； Caffe framework； Convolutional Neural Network

S著計(jì)算機(jī)與互聯(lián)網(wǎng)技術(shù)的快速發(fā)展，我們已經(jīng)進(jìn)入了一個(gè)以圖像構(gòu)建的世界。但是面臨有海量圖像信息卻找不到所需要的數(shù)據(jù)的困境，因而圖像分類技術(shù)應(yīng)運(yùn)而生。通過(guò)各種機(jī)器學(xué)習(xí)算法使計(jì)算機(jī)自動(dòng)將各類圖像進(jìn)行有效管理和分類，但是由于圖像內(nèi)容包含著大量復(fù)雜且難以描述的信息，圖像特征提取和相識(shí)度匹配技術(shù)也存在一定的難題，要使得計(jì)算機(jī)能夠像人類一樣進(jìn)行分類還是有很大的困難。

深度學(xué)習(xí)是近十年來(lái)人工智能領(lǐng)域取得的重要突破，在圖像識(shí)別中的應(yīng)用取得了巨大的進(jìn)步，傳統(tǒng)的機(jī)器學(xué)習(xí)模型屬于神經(jīng)網(wǎng)絡(luò)模型，神經(jīng)網(wǎng)絡(luò)有大量的參數(shù)，經(jīng)常會(huì)出現(xiàn)過(guò)擬合問(wèn)題，因而對(duì)目標(biāo)檢測(cè)準(zhǔn)確率上比較低。本文采用卷積神經(jīng)網(wǎng)絡(luò)框架，圖像特征是從大數(shù)據(jù)中自動(dòng)學(xué)習(xí)得到，而且神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)深由很多層組成，通過(guò)重復(fù)利用中間層的計(jì)算單元來(lái)減少參數(shù)，在特征匯聚階段引入圖像中目標(biāo)的顯著信信息，增強(qiáng)了圖像的特征表達(dá)能力。通過(guò)在圖像層次稀疏表示中引入圖像顯著信息，加強(qiáng)了圖像特征的語(yǔ)義信息，得到圖像顯著特征表示，通過(guò)實(shí)驗(yàn)測(cè)試，效果比傳統(tǒng)的圖像分類算法預(yù)測(cè)的準(zhǔn)確度有明顯的提升。

1 基于卷積神經(jīng)網(wǎng)絡(luò)的圖像分類方法

1.1 人工神經(jīng)網(wǎng)絡(luò)

人工神經(jīng)網(wǎng)絡(luò)（Artificial Neural Network， ANN）是描述生物神經(jīng)網(wǎng)絡(luò)運(yùn)行機(jī)理和工作過(guò)程的抽象和簡(jiǎn)化了的數(shù)學(xué)物理模型，使用路徑權(quán)值的有向圖來(lái)表示模型中的人工神經(jīng)元節(jié)點(diǎn)和神經(jīng)元之間的連接關(guān)系，之后通過(guò)硬件或軟件程序?qū)崿F(xiàn)上述有向圖的運(yùn)行[1]。目前最典型的人工神經(jīng)網(wǎng)絡(luò)算法包括：目前最典型的人工神經(jīng)網(wǎng)絡(luò)有BP網(wǎng)絡(luò) [2]Hopfield網(wǎng)絡(luò)[3]Boltzmann機(jī)[4]SOFM網(wǎng)絡(luò)[5]以及ART網(wǎng)絡(luò)人工神經(jīng)網(wǎng)絡(luò)[6]，算法流程圖如圖1所示[7]。

1.2 卷積神經(jīng)網(wǎng)絡(luò)框架的架構(gòu)

Caffe是Convolutional Architecture for Fast Feature Embedding的縮寫(xiě)[8]，意為快速特征嵌入的卷積結(jié)構(gòu)，包含最先進(jìn)的深度學(xué)習(xí)算法以及一系列的參考模型，圖2表示的是卷積神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)圖。Caffe深度學(xué)習(xí)框架主要依賴CUDA，IntelMKL，OpenCV，glog軟件以及caffe文件。本文使用的各個(gè)軟件版本說(shuō)明，如表1所示。

Caffe深度學(xué)習(xí)框架提供了多個(gè)經(jīng)典的卷積神經(jīng)網(wǎng)絡(luò)模型，卷積神經(jīng)網(wǎng)絡(luò)是一種多層的監(jiān)督學(xué)習(xí)神經(jīng)網(wǎng)絡(luò)，利用隱含層的卷積層和池采樣層是實(shí)現(xiàn)卷積神經(jīng)網(wǎng)絡(luò)特征提取功能，卷積神經(jīng)網(wǎng)絡(luò)模型通過(guò)采取梯度下降法最小化損失函數(shù)對(duì)網(wǎng)絡(luò)中的權(quán)重參數(shù)逐層反向調(diào)節(jié)，通過(guò)頻繁的迭代訓(xùn)練來(lái)提高網(wǎng)絡(luò)的精度。卷積神經(jīng)網(wǎng)絡(luò)使用權(quán)值共享，這一結(jié)構(gòu)類似于生物神經(jīng)網(wǎng)絡(luò)，從而使網(wǎng)絡(luò)的復(fù)雜程度明顯降低，并且權(quán)值的數(shù)量也有大幅度的減少，本文使用這些模型直接進(jìn)行訓(xùn)練，和傳統(tǒng)的圖像分類算法對(duì)比，性能有很大的提升，框架系統(tǒng)訓(xùn)練識(shí)別基本流程如圖3表示。

1.3 圖像分類特征提取

卷積神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)層次相比傳統(tǒng)的淺層的神經(jīng)網(wǎng)絡(luò)來(lái)說(shuō)，要復(fù)雜得多，每?jī)蓪拥纳窠?jīng)元使用了局部連接的方式進(jìn)行連接、神經(jīng)元共享連接權(quán)重以及時(shí)間或空間上使用降采樣充分利用數(shù)據(jù)本身的特征，因此決定了卷積神經(jīng)網(wǎng)絡(luò)與傳統(tǒng)神經(jīng)網(wǎng)絡(luò)相比維度大幅度降低，從而降低計(jì)算時(shí)間的復(fù)雜度。卷積神經(jīng)網(wǎng)絡(luò)主要分為兩個(gè)過(guò)程，分為卷積和采樣，分別的對(duì)上層數(shù)據(jù)進(jìn)行提取抽象和對(duì)數(shù)據(jù)進(jìn)行降維的作用。

本文以Caffe深度學(xué)習(xí)框架中的 CIFAR-10數(shù)據(jù)集的貓的網(wǎng)絡(luò)模型為例，如圖4所示，對(duì)卷積神經(jīng)網(wǎng)絡(luò)模型進(jìn)行訓(xùn)練。CIFAR-10是一個(gè)標(biāo)準(zhǔn)圖像圖像訓(xùn)練集，由六萬(wàn)張圖像組成，共有10類（分為飛機(jī)，小汽車，鳥(niǎo)，貓，鹿，狗，青蛙，馬，船，卡車），每個(gè)圖片都是32×32像素的RGB彩色圖像。通過(guò)對(duì)數(shù)據(jù)進(jìn)行提取和降維的方法來(lái)提取圖像數(shù)據(jù)的特征。

2 實(shí)驗(yàn)分析

將貓的圖像訓(xùn)練集放在train的文件夾下，并統(tǒng)一修改成256×256像素大小，并對(duì)貓的圖像訓(xùn)練集進(jìn)行標(biāo)記，標(biāo)簽為1，運(yùn)行選擇cpu進(jìn)行訓(xùn)練，每進(jìn)行10次迭代進(jìn)行一次測(cè)試，測(cè)試間隔為10次，初始化學(xué)習(xí)率為0.001，每20次迭代顯示一次信息，最大迭代次數(shù)為200次，網(wǎng)絡(luò)訓(xùn)練的動(dòng)量為0.9，權(quán)重衰退為0.0005，5000次進(jìn)行一次當(dāng)前狀態(tài)的記錄，記錄顯示如下圖5所示，預(yù)測(cè)的準(zhǔn)度在98%以上。而相比傳統(tǒng)的圖像分類算法BP神經(jīng)網(wǎng)絡(luò)網(wǎng)絡(luò)的收斂性慢，訓(xùn)練時(shí)間長(zhǎng)的，網(wǎng)絡(luò)的學(xué)習(xí)和記憶具有不穩(wěn)定性，因而卷e神經(jīng)網(wǎng)絡(luò)框架在訓(xùn)練時(shí)間和預(yù)測(cè)準(zhǔn)度上具有非常大的優(yōu)勢(shì)。

3 結(jié)束語(yǔ)

本文使用Caffe深度學(xué)習(xí)框架，以CIFAR-10數(shù)據(jù)集中貓的網(wǎng)絡(luò)模型為例，構(gòu)建小型貓的數(shù)據(jù)集，提取貓的圖象特征信息，最后和目標(biāo)貓圖像進(jìn)行預(yù)測(cè)，并和傳統(tǒng)的圖像分類算法進(jìn)行對(duì)比，預(yù)測(cè)的準(zhǔn)確率有很大的提升。

參考文獻(xiàn)：

[1] 楊錚， 吳陳沭， 劉云浩. 位置計(jì)算： 無(wú)線網(wǎng)絡(luò)定位與可定位性[M]. 北京： 清華大學(xué)出版社， 2014.

[2] 丁士折. 人工神經(jīng)網(wǎng)絡(luò)基礎(chǔ)[M]. 哈爾濱： 哈爾濱工程大學(xué)出版社， 2008.

[3] McClelland J L， Rumelhart D E， PDP Research Group. Parallel distributedprocessing[J]. Explorations in the microstructure of cognition， 1986， 2.

[4] Hopfield J J. Neural networks and physical systems with emergent collectivecomputational abilities[J]. Proceedings of the national academy of sciences， 1982， 79（8）： 2554-2558.

[5] Ackley D H， Hinton G E， Sejnowski T J. A learning algorithm for boltzmannmachines[J]. Cognitive science， 1985， 9（1）： 147-169.

[6] Kohonenmaps T. Self-Organized Formation of Topologically Correct Feature Maps[J]. Biological Cybernetics，1982， 43（1）： 59-69.

第2篇：神經(jīng)網(wǎng)絡(luò)提取特征范文

關(guān)鍵詞：乳腺癌；計(jì)算機(jī)輔助診斷；腫瘤；B 神經(jīng)網(wǎng)絡(luò)

中圖分類號(hào)：TB

文獻(xiàn)標(biāo)識(shí)碼：A

doi：10.19311/ki.16723198.2016.26.149

1 研究背景

乳腺癌在初期常無(wú)明顯臨床癥狀，或者僅僅表征為輕微的疼痛。至今為止，乳腺癌發(fā)病的確切原因還不明確，雖然已知遺傳因素、環(huán)境因素和生活方式對(duì)乳腺癌的發(fā)病有一定影響，但60%以上的乳腺癌并不存在明顯的危險(xiǎn)因素。目前還沒(méi)有有效的預(yù)防乳腺癌方法，而且中、晚期乳腺癌患者的愈后效果很差，任何干預(yù)都很難見(jiàn)效。因此，早發(fā)現(xiàn)、早診斷仍是當(dāng)前提高乳腺癌治愈率和降低死亡率的最有效途徑。

腫瘤是乳腺癌的直接病理征象，也是乳腺癌的主要診斷依據(jù)，但盡管腫瘤是乳腺癌的一個(gè)重要早期跡象，但是醫(yī)師用肉眼很難將它們與正常的乳腺組織區(qū)分開(kāi)來(lái)。但計(jì)算機(jī)輔助診斷（CAD）技術(shù)可以幫助醫(yī)師有效地進(jìn)行對(duì)乳腺異常的檢測(cè)。

近些年來(lái)，隨著B(niǎo) 神經(jīng)網(wǎng)絡(luò)理論的飛速發(fā)展和高度成熟，B 神經(jīng)網(wǎng)絡(luò)在醫(yī)學(xué)領(lǐng)域得到了廣泛應(yīng)用，如趙炳讓利用B 神經(jīng)網(wǎng)對(duì)冠心病進(jìn)行來(lái)輔助診斷，取得了很好的效果。EI-Solh用B 神經(jīng)網(wǎng)絡(luò)對(duì)活動(dòng)性肺結(jié)核進(jìn)行輔助診斷，實(shí)驗(yàn)結(jié)果顯示正確診斷肺結(jié)核的靈敏度為100%，其表明了B 神經(jīng)網(wǎng)絡(luò)在診斷活動(dòng)性肺結(jié)核的應(yīng)用效果上高于臨床醫(yī)生的主觀評(píng)價(jià)，具備廣泛的推廣價(jià)值。Monica DiLuca等人通過(guò)基于B 神經(jīng)網(wǎng)絡(luò)的仿真實(shí)驗(yàn)對(duì)早期阿爾茨海默病進(jìn)行了輔助診斷。

2 基于B 神經(jīng)網(wǎng)絡(luò)的乳腺腫瘤計(jì)算機(jī)輔助診斷方法

2.1 提取ROI

本文實(shí)驗(yàn)對(duì)象為選自DDSM數(shù)據(jù)庫(kù)中的乳腺圖像，首先將ROI從實(shí)驗(yàn)樣本圖像中提取出。

2.2 提取特征

特征的提取是所有工作中關(guān)鍵的一環(huán)，是模式識(shí)別和專家自動(dòng)診斷系統(tǒng)的關(guān)鍵技術(shù)之一。其基本流程是：在對(duì)實(shí)驗(yàn)圖像進(jìn)行預(yù)處理（包括圖像定向、圖像去噪和圖像增強(qiáng)等）后，進(jìn)行圖像的分割以提取出所需的ROI，最后對(duì)ROI進(jìn)行特征提取。經(jīng)過(guò)以上步驟提取出的特征被用于對(duì)乳腺腫瘤良惡性的診斷，從而為醫(yī)師提供醫(yī)療建議。

對(duì)2.1節(jié)實(shí)驗(yàn)中所得到的ROI進(jìn)行特征提取，提取到基于不變矩、基于圖像內(nèi)容等的79維特征。

2.3 輔助診斷

將2.2節(jié)實(shí)驗(yàn)所得的79維特征值進(jìn)行歸一化處理，再將經(jīng)過(guò)處理的79個(gè)特征數(shù)據(jù)作為B 神經(jīng)網(wǎng)絡(luò)的79個(gè)輸入。將良性乳腺腫瘤和惡性乳腺腫瘤這兩個(gè)不同的乳腺腫瘤類別作為B 神經(jīng)網(wǎng)絡(luò)的期望輸出。

下面通過(guò)仿真實(shí)驗(yàn)，記錄其迭代次數(shù)、程序運(yùn)行時(shí)間和診斷準(zhǔn)確率，并取其平均值，以完成對(duì)網(wǎng)絡(luò)性能的評(píng)價(jià)。

將樣本數(shù)據(jù)隨機(jī)排序并編號(hào)后，采用5-折交叉法將其分為5組。每次實(shí)驗(yàn)所使用的訓(xùn)練樣本數(shù)據(jù)和測(cè)試樣本數(shù)據(jù)如表1所示。

平均迭代次數(shù)為10.2次，乳腺腫瘤診斷準(zhǔn)確率平均值為94.41434%，并且每次仿真的迭代次數(shù)和準(zhǔn)確率都非常的接近，網(wǎng)絡(luò)的性能優(yōu)良。這說(shuō)明，使用B 神經(jīng)網(wǎng)絡(luò)對(duì)乳腺腫瘤進(jìn)行輔助診斷是可行的且取得了良好的診斷效果。

3 總結(jié)

本文在B 神經(jīng)網(wǎng)絡(luò)方法的基礎(chǔ)上，對(duì)實(shí)驗(yàn)所用的乳腺圖像樣本進(jìn)行了輔助診斷。主要工作為：

（1）分割出樣本圖像的ROI；

（2）提取了樣本圖像ROI的79維特征；

（3）使用B 神經(jīng)網(wǎng)絡(luò)方法對(duì)樣本數(shù)據(jù)進(jìn)行輔助診斷，仿真結(jié)果顯示將B 神經(jīng)網(wǎng)絡(luò)用于檢測(cè)乳腺腫瘤的良惡性時(shí)，網(wǎng)絡(luò)的性能優(yōu)良且有很好的診斷準(zhǔn)確率。

參考文獻(xiàn)

[1]胡永升.現(xiàn)代乳腺影像診斷學(xué)[M].北京：科學(xué)出版社，2001.

[2]劉君，方志沂.乳腺癌的早期診斷.中國(guó)全科醫(yī)學(xué)，2002，5（6）：431432.

[3]郝欣，曹穎，夏順仁.基于醫(yī)學(xué)圖像內(nèi)容檢索的計(jì)算機(jī)輔助乳腺x線影像診斷技術(shù).中國(guó)生物醫(yī)學(xué)工程學(xué)報(bào)，2009，28（6）：922930.

[4]高雋.人工神經(jīng)網(wǎng)絡(luò)原理及仿真實(shí)例[M].北京：機(jī)械工業(yè)出版社，2007.

[5]趙炳讓，胡北來(lái)，秦勤.人工神經(jīng)網(wǎng)絡(luò)在冠心病診斷中的應(yīng)用.天津醫(yī)藥，2002，30（9）：575576.

[6]Ali A，EI-Solh，Chiu-Bin Hsiao，Susan Goodnough，et al. redicting active pulmonary tuberculosis using an artificial network.Chest，2009，（116）：968973.

第3篇：神經(jīng)網(wǎng)絡(luò)提取特征范文

關(guān)鍵詞：神經(jīng)網(wǎng)絡(luò);模糊邏輯;模式識(shí)別;具體應(yīng)用

現(xiàn)階段人工智能領(lǐng)域正在開(kāi)展關(guān)于多種智能識(shí)別方法的融合應(yīng)用來(lái)改善識(shí)別效果，基于模糊邏輯與神經(jīng)網(wǎng)絡(luò)而成的模糊神經(jīng)網(wǎng)絡(luò)對(duì)于真正智能模擬的實(shí)現(xiàn)有著極為重要的作用。

1.模式識(shí)別概述

模式在本質(zhì)上是一個(gè)內(nèi)涵十分豐富的概念，其主要是指人類可以利用感官直接或間接接受的外界信息，Watanabe等人在研究中將模式定義為：凡是可以給出一個(gè)名字的便可以稱為“模式”，并且其在定義過(guò)程中將某些具有共同特性的模式集合統(tǒng)稱為“模式類”?！澳Ｊ阶R(shí)別”在本質(zhì)上是識(shí)別特定事物或模式相同點(diǎn)與相似點(diǎn)的過(guò)程，所以在研究過(guò)程中主要是利用自動(dòng)技術(shù)來(lái)實(shí)現(xiàn)這一過(guò)程，在該類技術(shù)的支撐下計(jì)算機(jī)可以自動(dòng)地將待識(shí)別模式分配到各自的模式類中，在這個(gè)過(guò)程中用到的技術(shù)統(tǒng)稱為模式識(shí)別技術(shù)，尤其是在計(jì)算機(jī)技術(shù)的支撐下使其發(fā)展形成一種模擬人的識(shí)別方法，所以對(duì)于模式識(shí)別的概念應(yīng)該定義為自動(dòng)判別和分類的過(guò)程。模式識(shí)別的過(guò)程為研究對(duì)象、數(shù)據(jù)采集、數(shù)據(jù)預(yù)處理、測(cè)量空間、特征選擇與提出、特征空間比對(duì)、模式分類、儲(chǔ)存至類型空間等，對(duì)于整個(gè)模式識(shí)別過(guò)程來(lái)說(shuō)數(shù)據(jù)采集、數(shù)據(jù)預(yù)處理、特征提取以及特征選擇是其重點(diǎn)。在模式識(shí)別中，數(shù)據(jù)預(yù)處理后所獲取的原始數(shù)據(jù)所在空間則被稱為測(cè)量空間，將模式進(jìn)行分類的空間則稱為特征空間。模式識(shí)別系統(tǒng)在設(shè)計(jì)過(guò)程中主要由學(xué)習(xí)模塊與測(cè)試模塊兩個(gè)核心模塊組成，并且整個(gè)系統(tǒng)在運(yùn)行過(guò)程中具備訓(xùn)練模式樣本特征數(shù)據(jù)輸入、制定分類判決規(guī)則、錯(cuò)誤率檢測(cè)、模式樣本特征選擇和正特提取方法調(diào)整等多項(xiàng)功能。

2.模式識(shí)別系統(tǒng)分析

模式識(shí)別系統(tǒng)在運(yùn)行中的學(xué)習(xí)模塊與測(cè)試模塊中都設(shè)計(jì)了數(shù)據(jù)預(yù)處理的功能，其可以根據(jù)用戶需求將感興趣的模式從背景中進(jìn)行分離處理，并且可以避免噪聲信號(hào)對(duì)整個(gè)系統(tǒng)的運(yùn)行產(chǎn)生影響，還可以根據(jù)用戶的實(shí)際需求來(lái)建立標(biāo)準(zhǔn)化模式樣本等。學(xué)習(xí)模塊在運(yùn)行中會(huì)將已知的樣本模式進(jìn)行數(shù)值化處理后輸入計(jì)算機(jī)，這個(gè)過(guò)程被稱為訓(xùn)練模式樣本特征數(shù)據(jù)的輸入，系統(tǒng)可以對(duì)輸入的樣本進(jìn)行分析并排除無(wú)效或容易出現(xiàn)混淆的特征，對(duì)于一些對(duì)分類判別有效的數(shù)據(jù)特征則可以進(jìn)行界定并保留，這個(gè)過(guò)程被稱為模式識(shí)別系統(tǒng)在運(yùn)行階段的特征選擇。

模式識(shí)別系統(tǒng)在運(yùn)行過(guò)程中還需要將一些變換技術(shù)作為支撐，這是因?yàn)橥ㄟ^(guò)變換技術(shù)的應(yīng)用可以得出比原來(lái)數(shù)目少的綜合性特征作為分類用，這一過(guò)程被稱為特征維數(shù)壓縮或特征提取，系統(tǒng)會(huì)按照設(shè)想的分類判決數(shù)學(xué)模型對(duì)樣本模式進(jìn)行訓(xùn)練來(lái)得出分類的判決規(guī)則。模式識(shí)別系統(tǒng)在獲取判決規(guī)則后便可以開(kāi)始整個(gè)識(shí)別過(guò)程，其需要將未知模式特征數(shù)據(jù)進(jìn)行采集、選擇與提取，然后根據(jù)已有的判決規(guī)則對(duì)輸入的模式進(jìn)行分類，最后便可以根據(jù)用戶需求來(lái)輸入整個(gè)模式識(shí)別的結(jié)果。系統(tǒng)還可以將已識(shí)別的分類結(jié)果與已知分類輸入模式進(jìn)行對(duì)比，以便于對(duì)判決規(guī)則與特征選擇、提取方法進(jìn)行不斷的優(yōu)化，系統(tǒng)只有在該種模式下才能制定出錯(cuò)誤率最小的判決規(guī)則與特征選擇、提取策略，對(duì)于模式識(shí)別系統(tǒng)來(lái)說(shuō)，這一過(guò)程被稱為再學(xué)習(xí)的過(guò)程。

3.神經(jīng)網(wǎng)絡(luò)在模式識(shí)別中的具體應(yīng)用

國(guó)內(nèi)在較早階段便開(kāi)始了神經(jīng)網(wǎng)絡(luò)在模式識(shí)別中應(yīng)用的相關(guān)研究，但是學(xué)者所提出的研究成果并沒(méi)有得到廣泛應(yīng)用。在20世紀(jì)80年代末期，我國(guó)一些專家對(duì)模式識(shí)別在地震特征提取等方面的應(yīng)用進(jìn)行了優(yōu)化與改進(jìn)，并結(jié)合不同地區(qū)不同地質(zhì)條件開(kāi)展了一系列試驗(yàn)研究，先后取得了很多效果十分顯著的成果，并且在這個(gè)基礎(chǔ)上為整個(gè)系統(tǒng)增加了人機(jī)交互功能，改進(jìn)后的模式識(shí)別系統(tǒng)開(kāi)始在國(guó)內(nèi)相關(guān)領(lǐng)域中得到了廣泛應(yīng)用。我國(guó)部分領(lǐng)域所使用的模式識(shí)別系統(tǒng)在最初以統(tǒng)計(jì)識(shí)別策略為主，在最近幾年才將神經(jīng)網(wǎng)絡(luò)識(shí)別策略應(yīng)用于模式識(shí)別系統(tǒng)中。20世紀(jì)80年代后期，世界上關(guān)于人工神經(jīng)網(wǎng)絡(luò)的研究開(kāi)始進(jìn)入一個(gè)熱潮，這是因?yàn)樵谠撾A段由Rumelhart等人在研究中提出了反向傳播學(xué)習(xí)算法，對(duì)于神經(jīng)網(wǎng)絡(luò)來(lái)說(shuō)其可以有效解決前饋反向神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)訓(xùn)練的問(wèn)題，所以對(duì)于整個(gè)神經(jīng)網(wǎng)絡(luò)研究領(lǐng)域來(lái)說(shuō)開(kāi)辟了一條新的途徑。前饋反向神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)問(wèn)題的有效解決使神經(jīng)網(wǎng)絡(luò)的各項(xiàng)優(yōu)勢(shì)充分彰顯出來(lái)，而前饋反向神經(jīng)網(wǎng)絡(luò)模式識(shí)別則成為模式識(shí)別中的一個(gè)核心發(fā)展方向，并且開(kāi)始被廣泛應(yīng)用于生物、醫(yī)學(xué)、地質(zhì)以及化工等產(chǎn)品檢測(cè)領(lǐng)域中，本文認(rèn)為關(guān)于神經(jīng)網(wǎng)絡(luò)在模式識(shí)別中的應(yīng)用將會(huì)給社會(huì)帶來(lái)巨大變革，同時(shí)也意味著基于神經(jīng)網(wǎng)絡(luò)的模式識(shí)別技術(shù)將成為網(wǎng)絡(luò)數(shù)字化時(shí)代的一項(xiàng)核心技術(shù)。

4.結(jié)語(yǔ)

現(xiàn)階段前饋反向神經(jīng)網(wǎng)絡(luò)模式識(shí)別已經(jīng)開(kāi)始在社會(huì)各領(lǐng)域進(jìn)行實(shí)踐應(yīng)用，雖然在該技術(shù)體系中還存在一些不足與缺陷，但是在現(xiàn)代科技的支持下其勢(shì)必會(huì)迎來(lái)一個(gè)新的發(fā)展時(shí)期，對(duì)于我國(guó)社會(huì)各生產(chǎn)領(lǐng)域來(lái)說(shuō)有著極為重要的推動(dòng)作用。

參考文獻(xiàn)：

[1]汪烈軍.一種改進(jìn)的結(jié)構(gòu)自適應(yīng)自組織神經(jīng)網(wǎng)絡(luò)算法[J].微電子學(xué)與計(jì)算機(jī)，2007（01）.

[2]趙菊敏，程海青，張立毅.基于動(dòng)量項(xiàng)前饋神經(jīng)網(wǎng)絡(luò)盲均衡算法[J].太原理工大學(xué)學(xué)報(bào)，2007（03）.

第4篇：神經(jīng)網(wǎng)絡(luò)提取特征范文

【關(guān)鍵詞】人工神經(jīng)網(wǎng)絡(luò)；故障診斷；模式識(shí)別；Matlab軟件

一、人工神經(jīng)網(wǎng)絡(luò)綜述

BP神經(jīng)網(wǎng)絡(luò)是目前應(yīng)用最為廣泛和成功的神經(jīng)網(wǎng)絡(luò)之一，它是由一個(gè)輸入層，一個(gè)或多個(gè)隱層以及一個(gè)輸出層組成，上下層之間實(shí)現(xiàn)全連接，而每層神經(jīng)元之間沒(méi)有連接。網(wǎng)絡(luò)的學(xué)習(xí)過(guò)程包括信號(hào)正向傳播和誤差反向傳播。在正向傳播進(jìn)程中，輸入信息從輸入層經(jīng)隱層加權(quán)處理傳向輸出層，經(jīng)功能函數(shù)運(yùn)算后得到的輸出值與期望值進(jìn)行比較，若有誤差，則誤差反向傳播，沿原先的連接通道返回，通過(guò)逐層修改各層的權(quán)重系數(shù)，減小誤差。隨著這種誤差逆向傳播修正的不斷進(jìn)行，網(wǎng)絡(luò)對(duì)輸入模式響應(yīng)的正確率也不斷上升。

二、人工神經(jīng)網(wǎng)絡(luò)的識(shí)別、診斷過(guò)程

滾動(dòng)軸承在設(shè)備中是比較典型的，本文以滾動(dòng)軸承的故障識(shí)別、診斷為例。進(jìn)行模式識(shí)別的大體步驟為：首先對(duì)經(jīng)過(guò)零均值化后的振動(dòng)信號(hào)數(shù)據(jù)進(jìn)行時(shí)域、頻域分析，將篩選后的有效時(shí)域、頻域特征值作為人工神經(jīng)網(wǎng)絡(luò)輸入層的輸入，經(jīng)Matlab軟件進(jìn)行神經(jīng)網(wǎng)絡(luò)的訓(xùn)練，最后可得出一個(gè)可以識(shí)別軸承工作狀態(tài)的神經(jīng)網(wǎng)絡(luò)，進(jìn)而可以對(duì)滾動(dòng)軸承進(jìn)行模式識(shí)別?？梢?jiàn)采用振動(dòng)信號(hào)檢測(cè)法對(duì)機(jī)器設(shè)備進(jìn)行故障診斷的過(guò)程包含信號(hào)采集、特征提取、狀態(tài)識(shí)別、故障分析和決策干預(yù)等五個(gè)基本環(huán)節(jié)，在滾動(dòng)軸承故障診斷中，振動(dòng)信號(hào)的采集是關(guān)鍵，保證信號(hào)采集的準(zhǔn)確性、合理性和實(shí)時(shí)性是正確實(shí)現(xiàn)故障診斷的前提。（1）信號(hào)采集。每臺(tái)機(jī)器設(shè)備都有自身的固有頻率，若設(shè)備發(fā)生故障，其頻率變化，其振動(dòng)信號(hào)也會(huì)發(fā)生變化。因此，振動(dòng)信號(hào)可以作為故障診斷的一個(gè)重要標(biāo)準(zhǔn)。在信號(hào)采集中主要用到加速度傳感器、電荷放大器、帶濾波的A/D轉(zhuǎn)換器。先通過(guò)壓電式加速度傳感器對(duì)振動(dòng)信號(hào)進(jìn)行拾取，然后經(jīng)過(guò)電荷放大器及通過(guò)帶濾波的A/D轉(zhuǎn)換電路得到微機(jī)可以識(shí)別的數(shù)字信號(hào)，從而實(shí)現(xiàn)振動(dòng)信號(hào)的采集。（2）特征值提取。為了便于觀察，要把采樣點(diǎn)的值分布在0附近，故先對(duì)采集的采樣點(diǎn)值進(jìn)行零均值化。用matlab對(duì)零均值化后的的采樣點(diǎn)進(jìn)行時(shí)域、頻域分析。時(shí)域分析是計(jì)算振動(dòng)信號(hào)的在時(shí)域范圍內(nèi)的特征參數(shù)，包括：平均值、方差、均方根、峰值峰值因子、峭度系數(shù)等參數(shù)。頻域分析是對(duì)零均值化后數(shù)據(jù)進(jìn)行傅里葉變換，繪制頻譜圖，對(duì)不同樣本故障軸承和正常軸承的頻譜圖進(jìn)行對(duì)比，找出幅值差別比較明顯的幾組，作為頻域分析的特征值。由于各個(gè)特征值的幅值大小不一致，不便于比較同一特征值在不同樣本之間的差異，所以對(duì)所有有效特征值進(jìn)行歸一化，歸一化后的結(jié)果可以作為神經(jīng)網(wǎng)絡(luò)的輸入值。（3）模式識(shí)別和故障分析。在狀態(tài)檢測(cè)過(guò)程中，樣本數(shù)據(jù)來(lái)源于實(shí)驗(yàn)數(shù)據(jù)分析后提取的有效特征值，這些有效的特征值作為神經(jīng)網(wǎng)絡(luò)的輸入。神經(jīng)網(wǎng)絡(luò)的輸出為軸承狀態(tài)，分為正常軸承和故障軸承（也可以把故障具體分，比如內(nèi)圈、外圈、滾動(dòng)體故障等），可以用（0 1）表示正常軸承，（1 1）表示故障軸承，因此網(wǎng)絡(luò)中設(shè)計(jì)2個(gè)輸出神經(jīng)元表示這2個(gè)狀態(tài)。對(duì)軸承的不同狀態(tài)進(jìn)行識(shí)別，建立神經(jīng)網(wǎng)絡(luò)對(duì)它進(jìn)行訓(xùn)練，可以用公式（其中是輸入層神經(jīng)元數(shù)，是隱層神經(jīng)元數(shù)）大體的計(jì)算出隱層神經(jīng)元層數(shù)。我們?cè)O(shè)計(jì)一個(gè)隱層可以隨意改變的BP神經(jīng)網(wǎng)絡(luò)，通過(guò)誤差對(duì)比確定隱層數(shù)目。設(shè)定神經(jīng)網(wǎng)絡(luò)的隱含層神經(jīng)元的傳遞函數(shù)為tansig，輸出層神經(jīng)元的傳遞函數(shù)為logsig，目標(biāo)誤差為0.001，最大訓(xùn)練步數(shù)為1000。由以上設(shè)計(jì)寫(xiě)出網(wǎng)絡(luò)訓(xùn)練代碼，經(jīng)Matlab運(yùn)行，找出網(wǎng)絡(luò)誤差最小所對(duì)應(yīng)層數(shù)，該層數(shù)作為神經(jīng)網(wǎng)絡(luò)的隱層。

確定神經(jīng)網(wǎng)絡(luò)的隱層后便可確定神經(jīng)網(wǎng)絡(luò)的最終結(jié)構(gòu)，下一步就要對(duì)網(wǎng)絡(luò)進(jìn)行訓(xùn)練，使人工神經(jīng)網(wǎng)絡(luò)所產(chǎn)生的網(wǎng)絡(luò)誤差小于目標(biāo)誤差，對(duì)神經(jīng)網(wǎng)絡(luò)訓(xùn)練好以后，接下來(lái)就是對(duì)軸承的測(cè)試，神經(jīng)網(wǎng)絡(luò)測(cè)試代碼為：y=sim（net，測(cè)試數(shù)據(jù)）。把正常軸承和故障軸承的測(cè)試數(shù)據(jù)導(dǎo)入Matlab程序中，結(jié)果整理后可得（以實(shí)驗(yàn)室中的一組實(shí)驗(yàn)數(shù)據(jù)為例）：

用均值表示結(jié)果為：

把預(yù)先設(shè)定好的狀態(tài)值和測(cè)試后的結(jié)果進(jìn)行比較，很清楚的可以辨別出正常軸承和故障軸承。可見(jiàn)，對(duì)機(jī)器設(shè)備或者系統(tǒng)的故障診斷實(shí)質(zhì)是一個(gè)模式識(shí)別過(guò)程。利用神經(jīng)網(wǎng)絡(luò)的模式識(shí)別能力，直接識(shí)別系統(tǒng)的當(dāng)前模式，實(shí)現(xiàn)正常模式和故障模式之間、以及不同故障模式或不同故障程度之間的區(qū)分。

參 考 文 獻(xiàn)

第5篇：神經(jīng)網(wǎng)絡(luò)提取特征范文

關(guān)鍵詞：手勢(shì)動(dòng)作識(shí)別 PNN 傳播率 識(shí)別率

中圖分類號(hào)：TP183 文獻(xiàn)標(biāo)識(shí)碼：A 文章編號(hào)：1672-3791（2013）07（a）-0217-01

表面肌電信號(hào)（sEMG）是從皮膚表面由電極引導(dǎo)記錄下來(lái)的一種重要的生物電信號(hào)。表面肌電信號(hào)使用方便，對(duì)人體無(wú)損傷，被廣大的手勢(shì)動(dòng)作識(shí)別研究中應(yīng)用，同時(shí)也是智能假肢理想的控制信號(hào)源。目前，在手勢(shì)動(dòng)作識(shí)別方面國(guó)內(nèi)外學(xué)者取得了有效的成果。例如K.Englehart等對(duì)四種手勢(shì)動(dòng)作進(jìn)行識(shí)別，識(shí)別率為90%。2004年Kiguchi.K等人提出的識(shí)別方法大致可分為統(tǒng)計(jì)識(shí)別方法、句法識(shí)別、集成識(shí)別方法、神經(jīng)網(wǎng)絡(luò)識(shí)別方法等。本文采用改進(jìn)的PNN神經(jīng)網(wǎng)絡(luò)方法進(jìn)行識(shí)別，該方法結(jié)構(gòu)簡(jiǎn)單、訓(xùn)練時(shí)間短且識(shí)別率較高不僅克服了傳統(tǒng)BP神經(jīng)網(wǎng)絡(luò)識(shí)別率低、訓(xùn)練時(shí)間長(zhǎng)的缺點(diǎn)同時(shí)也克服了傳統(tǒng)PNN網(wǎng)絡(luò)傳播率系數(shù)需要手動(dòng)設(shè)置的不足，較好的改善了識(shí)別率。本文采用改進(jìn)的PNN神經(jīng)網(wǎng)絡(luò)對(duì)造型“C”、食指伸展、伸腕、向下曲腕、握拳、向側(cè)曲腕、手掌伸展7種手勢(shì)動(dòng)作進(jìn)行模式識(shí)別。

1 sEMG的特征提取與特征選擇

表面肌電信號(hào)的特征提取對(duì)手勢(shì)動(dòng)作的識(shí)別率有直接影響。本文采用時(shí)域、頻域及時(shí)頻域的特征作為不同手勢(shì)動(dòng)作的特征。但是，特征太多會(huì)給計(jì)算帶來(lái)困難，而且會(huì)造成分類效果的惡化。因此本文采用K-W檢驗(yàn)的方法對(duì)時(shí)域、頻域及時(shí)頻域的單個(gè)特征進(jìn)行評(píng)價(jià)，選擇最具有分離度的特征。本文將提取的特征作為改進(jìn)PNN神經(jīng)網(wǎng)絡(luò)的輸入信息對(duì)7種手勢(shì)動(dòng)作識(shí)別分類，并與傳統(tǒng)的神經(jīng)網(wǎng)絡(luò)進(jìn)行識(shí)別率對(duì)比分析。

2 改進(jìn)PNN神經(jīng)網(wǎng)絡(luò)模型

PNN神經(jīng)網(wǎng)絡(luò)是1990年由Specht提出的一種徑向基函數(shù)（RBF）網(wǎng)絡(luò)的重要變形。它的訓(xùn)練學(xué)習(xí)過(guò)程是一個(gè)完全正向的過(guò)程這一點(diǎn)與傳統(tǒng)神經(jīng)網(wǎng)絡(luò)不同，大大減少了訓(xùn)練時(shí)間。不僅如此該網(wǎng)絡(luò)不易陷入局部極小值點(diǎn)，非常適合模式識(shí)別研究。在進(jìn)行仿真實(shí)驗(yàn)時(shí)，傳播率的改變對(duì)識(shí)別結(jié)果的影響明顯，總會(huì)有一個(gè)值能使識(shí)別率最高，但是在概率神經(jīng)網(wǎng)絡(luò)中該參數(shù)一般是手工設(shè)定，增加了訓(xùn)練時(shí)間，為了提高效率本文通過(guò)仿真實(shí)驗(yàn)，在多次試驗(yàn)中找使結(jié)果最好的取值。粒子群優(yōu)化算法被廣泛應(yīng)用與優(yōu)化數(shù)值的求解，本文采用該方法選取最優(yōu)的傳播率參數(shù)。

3 仿真實(shí)驗(yàn)及結(jié)果分析

將本文的改進(jìn)算法統(tǒng)傳統(tǒng)的算法進(jìn)行比較分析，改進(jìn)PNN神經(jīng)網(wǎng)絡(luò)算法記為P1算法，傳統(tǒng)BP神經(jīng)網(wǎng)絡(luò)算法記為P2算法。對(duì)于P1算法：設(shè)計(jì)的PNN網(wǎng)絡(luò)的結(jié)構(gòu)為：輸入層有4個(gè)神經(jīng)元，輸出層有7個(gè)神經(jīng)元，中間層的傳遞函數(shù)為高斯函數(shù)，輸出層的傳遞函數(shù)為線性函數(shù)。將第1通道均值、第2通道均值、第1通道功率譜密度、第2通道功率譜密度作為輸入特征，進(jìn)行仿真實(shí)驗(yàn)研究。

4 結(jié)論

傳統(tǒng)的神經(jīng)網(wǎng)絡(luò)訓(xùn)練時(shí)間長(zhǎng)且易陷入局部極小值，在手勢(shì)動(dòng)作識(shí)別研究中正確識(shí)別率也并不高，本文針對(duì)這些問(wèn)題提出的改進(jìn)PNN神經(jīng)網(wǎng)絡(luò)有效克服了這些不足，識(shí)別率提高到90%左右，并且訓(xùn)練時(shí)間也縮短了一半。有效的改善了手勢(shì)動(dòng)作識(shí)別效果。

改進(jìn)PNN神經(jīng)網(wǎng)絡(luò)的提出為手勢(shì)動(dòng)作識(shí)別分類提供了理論基礎(chǔ)，為智能假肢的研究提高的科學(xué)依據(jù)，但是，為了將手勢(shì)動(dòng)作的識(shí)別算法應(yīng)用于智能假肢，改進(jìn)的概率神經(jīng)網(wǎng)絡(luò)識(shí)別算法的識(shí)別率仍有待提高。因此，尋找更有效的識(shí)別算法，提高手勢(shì)動(dòng)作的識(shí)別準(zhǔn)確率是今后的研究熱點(diǎn)問(wèn)題。

參考文獻(xiàn)

[1] JIN D W，WANG R CH.Artificial lntelligent prosthesis[J].Chinese J. Clinical Rehabilitation，2002，5（20）：2994-2995.

[2] Paclik P，Novovicova J，Pudil P.Road sign classification using Laplace classifier[J].Pattern Recognition Letters，2000，21（13-14）：1165-1173.

[3] Sueteus P，F(xiàn)ua P， Hanson A putational strategies for object recognition[J].ACM Computing Surveys，1992，24（1）：5-61.

[4] Specht D.Probabilistic neural network[J].Neural Networks，1990，3（1）：109-118.

[5] McDuff R J，Simpson P K.An Investigation of Neural Networks for F-16 Fault Dignosis：II.System Performance[C]//SPIE 1294 Application of Artificial Neural Networks.1990：42-45.

第6篇：神經(jīng)網(wǎng)絡(luò)提取特征范文

關(guān)鍵字：木材表面缺陷,神經(jīng)網(wǎng)絡(luò),BP網(wǎng)絡(luò)

Abstract: from now neural network in pattern recognition of the development perspective, in large network structure optimization problem and network learning problems is still open to solve and improve. Therefore, to study various neural network in the wood surface defect recognition of the practicability and accuracy, wood surface defect recognition to promote the study of the method, has very important practical significance.

Key word: wood surface defect, neural network, and BP network

中圖分類號(hào)：F762.4 文獻(xiàn)標(biāo)識(shí)碼：A 文章編號(hào)：

隨著科學(xué)技術(shù)的發(fā)展，神經(jīng)網(wǎng)絡(luò)理論作為一門新興學(xué)科，近年來(lái)被廣泛應(yīng)用于木材表面缺陷的識(shí)別分類中，以達(dá)到神經(jīng)網(wǎng)絡(luò)具有的實(shí)時(shí)性、容錯(cuò)性以及學(xué)習(xí)性等特點(diǎn)。然而，由于木材表面缺陷種類繁多，隨機(jī)性比較強(qiáng)，這些都給分類器提出了很高的要求?，F(xiàn)階段，人們普遍采用都是基于誤差逆?zhèn)鞑ニ惴ǎ˙P）的神經(jīng)網(wǎng)絡(luò)，然而B(niǎo)P網(wǎng)絡(luò)的缺點(diǎn)是對(duì)干擾量非常敏感、隱含層節(jié)點(diǎn)數(shù)需要經(jīng)過(guò)多次嘗試、學(xué)習(xí)速度慢且易陷入局部極小點(diǎn)。

1．誤差逆?zhèn)鞑ド窠?jīng)網(wǎng)絡(luò)(BP網(wǎng)絡(luò))

按照誤差逆?zhèn)鞑W(xué)習(xí)算法進(jìn)行訓(xùn)練的多階層神經(jīng)網(wǎng)絡(luò)被直接稱為誤差逆?zhèn)鞑ド窠?jīng)網(wǎng)絡(luò)，即BP網(wǎng)絡(luò)。BP網(wǎng)絡(luò)是一種具有三層神經(jīng)元的階層神經(jīng)網(wǎng)絡(luò)，不同階層神經(jīng)元之間實(shí)現(xiàn)權(quán)重連接，而每層內(nèi)各個(gè)神經(jīng)元之間不連接。

2．木材缺陷特征提取

⑴ 劃分缺陷區(qū)域并確定缺陷的尺寸和位置

在二值化圖像中，相互連接的黑像素的集合稱為一個(gè)區(qū)域。在這部分程序設(shè)計(jì)中，通過(guò)對(duì)圖像內(nèi)每個(gè)區(qū)域進(jìn)行標(biāo)記操作(標(biāo)號(hào))，求得這樣區(qū)域的數(shù)目(也就是在這幅二值圖像中存在的缺陷數(shù))，進(jìn)而計(jì)算每個(gè)缺陷的邊界，再按照求得條件進(jìn)行區(qū)域劃分，把每個(gè)缺陷均劃在一個(gè)區(qū)域中，使一幅圖像分成多幅圖像。然后分別對(duì)每個(gè)小幅圖像進(jìn)行計(jì)算，確定缺陷的位置及尺寸。

⑵ 根據(jù)缺陷位置及尺寸提取灰度特征

根據(jù)M[][]數(shù)組中的缺陷位置數(shù)據(jù)，從二值化前的灰度圖像中提取缺陷的灰度特征，由此依次地得到缺陷特征數(shù)組BB[Rmax-Rmin][Lmax-Lmin]。其中缺陷部分為具體的灰度值，其它均為0。

3．BP網(wǎng)絡(luò)設(shè)計(jì)

BP神經(jīng)網(wǎng)絡(luò)是目前所有神經(jīng)網(wǎng)絡(luò)中算法最為成熟，應(yīng)用最為廣泛的一種神經(jīng)網(wǎng)絡(luò)，且具有簡(jiǎn)單、易于實(shí)現(xiàn)等特點(diǎn)。

⑴ 輸入層和輸出層的設(shè)計(jì)

BP神經(jīng)網(wǎng)絡(luò)的輸入，輸出層維數(shù)完全根據(jù)使用者的要求來(lái)設(shè)計(jì)。本實(shí)驗(yàn)研究對(duì)象為木材缺陷圖像，輸入為表征木材圖像缺陷特征的特征向量，在圖像處理過(guò)程中，我們提取了缺陷的3個(gè)特征數(shù)據(jù)：缺陷灰度均值、缺陷灰度方差和缺陷形狀。

如果把它們作為網(wǎng)絡(luò)的輸入，則網(wǎng)絡(luò)的輸入層的單元個(gè)數(shù)便確定為3個(gè)，根據(jù)所達(dá)到的識(shí)別要求，對(duì)木材的十種缺陷進(jìn)行有效識(shí)別，選擇輸出層單元的個(gè)數(shù)十個(gè)，即每個(gè)單元的輸出代表一種缺陷類型，這樣便確定了網(wǎng)絡(luò)的輸入和輸出層單元數(shù)目，再根據(jù)這兩個(gè)數(shù)據(jù)確定中間層(隱層)單元數(shù)。

⑵ 隱層的設(shè)計(jì)

1989年，RobertHeeht-Nielson證明了對(duì)于任意在閉區(qū)間內(nèi)的一個(gè)連續(xù)函數(shù)都可以用含一個(gè)隱層的BP神經(jīng)網(wǎng)絡(luò)來(lái)逼近，因而一個(gè)單隱層的BP神經(jīng)網(wǎng)絡(luò)可以完成任意的n維空間到m維空間的映射，隱層神經(jīng)元數(shù)目選擇是一個(gè)十分復(fù)雜的問(wèn)題，往往需要根據(jù)設(shè)計(jì)者的經(jīng)驗(yàn)和多次試驗(yàn)來(lái)確定，不存在一個(gè)理想的解析式來(lái)計(jì)算。

⑶ 初始值的選取

由于系統(tǒng)是非線性的，初始值對(duì)于學(xué)習(xí)能否達(dá)到局部最小和是否能夠收斂的結(jié)果關(guān)系很大。一個(gè)重要的要求是：初始值在輸入累加時(shí)使每個(gè)神經(jīng)元的狀態(tài)值接近于零，權(quán)值一般取隨機(jī)數(shù)，要比較小。輸入樣本也同樣希望進(jìn)行歸一化處理，使那些比較大的輸入仍落在傳遞函數(shù)梯度大的地方。

⑷ 傳遞函數(shù)的選擇

BP神經(jīng)網(wǎng)絡(luò)傳遞函數(shù)必須是可微的，根據(jù)網(wǎng)絡(luò)的要求和所要達(dá)到的網(wǎng)絡(luò)輸出目的，選擇網(wǎng)絡(luò)中間層的傳遞函數(shù)為s形函數(shù)，它主要根據(jù)值的大小作出運(yùn)算和判斷，它的輸出性質(zhì)與所要求的網(wǎng)絡(luò)輸出具有相同的性質(zhì)。

⑸ 網(wǎng)絡(luò)學(xué)習(xí)算法的構(gòu)成

木材缺陷的識(shí)別應(yīng)用BP神經(jīng)網(wǎng)絡(luò)模型，網(wǎng)絡(luò)訓(xùn)練采用梯度下降法，使輸出誤差最小，直到滿足給定的精度要求。利用圖像處理模塊部分構(gòu)成網(wǎng)絡(luò)的輸入特征量，即把缺陷的灰度均值、灰度方差和形狀的長(zhǎng)寬比作為輸入向量{xl、x2、x3)選擇值。這一步也就是向神經(jīng)網(wǎng)絡(luò)輸入的待識(shí)別圖像的數(shù)字特征通過(guò)計(jì)算機(jī)利用一定的算法對(duì)這些數(shù)字化特征進(jìn)行分類。當(dāng)神經(jīng)元的非線性函數(shù)是s型時(shí)，由神經(jīng)元組成的前傳型網(wǎng)絡(luò)的傳遞函數(shù)是連續(xù)可微的，故誤差反向傳播算法可以用LMS法則進(jìn)行。

⑹識(shí)別網(wǎng)絡(luò)的系統(tǒng)模型及構(gòu)成

板材表面特征通常是表現(xiàn)為存在表面缺陷和無(wú)表面缺陷兩種情況，所以適合選用兩級(jí)神經(jīng)網(wǎng)絡(luò)板材表面缺陷檢測(cè)模型。一級(jí)神經(jīng)網(wǎng)絡(luò)用于檢測(cè)圖像是否存在缺陷，如果存在缺陷，則圖像存入緩沖區(qū)，利用二級(jí)神經(jīng)網(wǎng)絡(luò)對(duì)緩沖區(qū)的圖像進(jìn)行分析處理，如果沒(méi)有缺陷，則不保存圖像，直接輸出檢測(cè)結(jié)果；二級(jí)神經(jīng)網(wǎng)絡(luò)根據(jù)缺陷圖像特征參數(shù)對(duì)缺陷進(jìn)行分類，確定圖像中每個(gè)缺陷的位置。

將人工神經(jīng)網(wǎng)終與有效的特征提取結(jié)合起來(lái)，有可能獲得更為滿意的識(shí)別效果。根據(jù)圖像處理模塊分析提取反映缺陷形態(tài)的特征向量，這些特征向量既可直接輸入神經(jīng)網(wǎng)絡(luò)的輸入節(jié)點(diǎn)，作為網(wǎng)絡(luò)訓(xùn)練或形態(tài)識(shí)別的參數(shù)，也可導(dǎo)入形態(tài)識(shí)別特征數(shù)據(jù)庫(kù)。另外，為了提高網(wǎng)絡(luò)的自適應(yīng)性，進(jìn)一步完善識(shí)別診斷模型，還可在原有的訓(xùn)練的網(wǎng)絡(luò)基礎(chǔ)上，對(duì)神經(jīng)網(wǎng)絡(luò)模型進(jìn)行再學(xué)習(xí)。

4．識(shí)別結(jié)果與討論

訓(xùn)練后的BP網(wǎng)絡(luò)是否滿足需要，必須經(jīng)過(guò)檢驗(yàn)才能確定。驗(yàn)證網(wǎng)絡(luò)的正確性一般采用與實(shí)際樣本數(shù)據(jù)相比較的方法，即先把驗(yàn)證樣本的數(shù)據(jù)經(jīng)初始化后輸入模型號(hào)，經(jīng)BP網(wǎng)絡(luò)模型計(jì)算，輸出相應(yīng)數(shù)據(jù)，然后將對(duì)照樣本的實(shí)際值與網(wǎng)絡(luò)輸出值相比較，若誤差在允講范圍內(nèi)，此網(wǎng)絡(luò)是可用的，否則要重新訓(xùn)練。

5．結(jié)束語(yǔ)

神經(jīng)網(wǎng)絡(luò)算法識(shí)別給傳統(tǒng)模式識(shí)別法帶來(lái)了巨大的挑戰(zhàn)。它具有記憶、學(xué)習(xí)和算法多樣等功能，在識(shí)別中能夠得到非常準(zhǔn)確的識(shí)別結(jié)果，所以神經(jīng)網(wǎng)絡(luò)識(shí)別在對(duì)于板材表面缺陷識(shí)別這一方面具有可行性和應(yīng)用價(jià)值。由于實(shí)驗(yàn)尚處于對(duì)神經(jīng)網(wǎng)絡(luò)開(kāi)發(fā)的初級(jí)階段，所選擇的網(wǎng)絡(luò)算法((BP算法)是神經(jīng)網(wǎng)絡(luò)算法中比較成熟的算法，它具有構(gòu)造、學(xué)習(xí)等比較容易的優(yōu)點(diǎn)，但它的一些不可克服的缺點(diǎn)卻影響了它在應(yīng)用中效果。但是這些缺點(diǎn)是可以克服的，神經(jīng)網(wǎng)絡(luò)識(shí)別的強(qiáng)大優(yōu)勢(shì)和識(shí)別效果是非常吸引人的。應(yīng)用一些新型的網(wǎng)絡(luò)算法，在多次實(shí)驗(yàn)研究的基礎(chǔ)上，可以根據(jù)對(duì)板材表面缺陷識(shí)別的一些特有的要求來(lái)構(gòu)造有利于這一識(shí)別的新型網(wǎng)絡(luò)，那么神經(jīng)網(wǎng)絡(luò)方法對(duì)表面缺陷的識(shí)別即可達(dá)到優(yōu)于其它傳統(tǒng)識(shí)別方法的性能。所以，神經(jīng)網(wǎng)絡(luò)算法上的改進(jìn)是今后研究木材表面缺陷神經(jīng)網(wǎng)絡(luò)識(shí)別首先解決的工作。

參考文獻(xiàn)：

[1]王業(yè)琴等 計(jì)算機(jī)視覺(jué)木材表面色差檢測(cè)的研究[J] 林業(yè)科技 2005

[2]趙茂程等 基于BP網(wǎng)絡(luò)的樹(shù)形識(shí)別系統(tǒng)研究[J] 林業(yè)科學(xué) 2004

第7篇：神經(jīng)網(wǎng)絡(luò)提取特征范文

關(guān)鍵詞：徑向基，神經(jīng)網(wǎng)絡(luò)，特征提取，有價(jià)證券識(shí)別

中圖分類號(hào)：G64 文獻(xiàn)標(biāo)識(shí)碼：A 文章編號(hào)：1672-3791（2015）05（c）-0000-00

1引言

隨著我國(guó)經(jīng)濟(jì)快速發(fā)展，有價(jià)證券在日常經(jīng)濟(jì)活動(dòng)中的流通也更加頻繁，如何對(duì)有價(jià)證券進(jìn)行快速鑒偽越來(lái)越重要。每張有價(jià)證券都具有獨(dú)一無(wú)二的序列號(hào)，是每張有價(jià)證券的“身份證”，金融領(lǐng)域常采用有價(jià)證券序列號(hào)來(lái)進(jìn)行有價(jià)證券的鑒偽，因此，如何對(duì)有價(jià)證券序列號(hào)進(jìn)行快速識(shí)別是有價(jià)證券鑒偽工作的關(guān)鍵，也成為圖像識(shí)別與人工智能領(lǐng)域研究的熱點(diǎn)問(wèn)題[1]。

傳統(tǒng)的有價(jià)證券序列號(hào)主要采取人工識(shí)別，人工識(shí)別不但浪費(fèi)大量的人力成本，而且識(shí)別效率低，已經(jīng)不能適應(yīng)快速發(fā)展的經(jīng)濟(jì)活動(dòng)需求。隨著計(jì)算機(jī)技術(shù)與自動(dòng)驗(yàn)鈔技術(shù)的發(fā)展，有價(jià)證券序列號(hào)自動(dòng)識(shí)別系統(tǒng)引起了廣大學(xué)者的廣泛關(guān)注，新的算法與技術(shù)不斷涌現(xiàn)出來(lái)。有價(jià)證券序列號(hào)識(shí)別主要為序列號(hào)圖像特征的提取與分類兩個(gè)階段，其中分類器算法的設(shè)計(jì)是整個(gè)識(shí)別過(guò)程的關(guān)鍵。目前分類器算法主要采取模式匹配法。模式匹配算法是一種數(shù)字統(tǒng)計(jì)方法，在識(shí)別過(guò)程中由于有價(jià)證券自身的殘缺、特征提取不夠明顯的前提下，會(huì)出現(xiàn)錯(cuò)識(shí)別現(xiàn)象，影響了整個(gè)系統(tǒng)的識(shí)別精度。同時(shí)模式匹配算法也缺乏智能性，無(wú)法適應(yīng)整個(gè)清分系統(tǒng)的發(fā)展需求[2]。近年隨著人工智能算法的不斷發(fā)展，在不同領(lǐng)域得到了廣泛應(yīng)用，其中人工神經(jīng)網(wǎng)絡(luò)更是在模式識(shí)別算法中得到了重要應(yīng)用，也為有價(jià)證券序列號(hào)識(shí)別提供了新的解決思路。

本文基于人工神經(jīng)網(wǎng)絡(luò)算法，提出了一種快速的有價(jià)證券序列號(hào)模式識(shí)別算法，并運(yùn)用模擬仿真與模式識(shí)別算法進(jìn)行了對(duì)比分析。

2 有價(jià)證券序列號(hào)碼識(shí)別流程

有價(jià)證券序列號(hào)識(shí)別系統(tǒng)通常有硬件部分與軟件部分組成。硬件部分包括計(jì)算機(jī)、光學(xué)圖像傳感器與數(shù)字信號(hào)處理單元，軟件部分包括圖像預(yù)處理、序列號(hào)特征提取與序列號(hào)識(shí)別等[3]。本文算法主演研究軟件部分，識(shí)別系統(tǒng)如圖1所示。

圖1 有價(jià)證券序列號(hào)識(shí)別流程圖

3 有價(jià)證券圖像預(yù)處理與序列號(hào)特征提取

3.1有價(jià)證券圖像預(yù)處理

圖像預(yù)處理是機(jī)器視覺(jué)實(shí)際應(yīng)用中非常重要的一個(gè)環(huán)節(jié)，能有效提高有價(jià)證券序列號(hào)的識(shí)別準(zhǔn)確率。預(yù)處理包括對(duì)圖像進(jìn)行噪聲抑制、信號(hào)增強(qiáng)及目標(biāo)提取等。

有價(jià)證券放入驗(yàn)鈔機(jī)后，通過(guò)CIS采集序列號(hào)正反兩面圖像，通常序列號(hào)的透射圖像與反射圖像位置信息基本一致，但由于有價(jià)證券在流通過(guò)程中會(huì)不可避免出現(xiàn)磨損、污染、缺損等現(xiàn)象，加上圖像傳感器本身存在的噪聲源，因此圖像采集過(guò)程中噪聲會(huì)加載到原始圖像上而影響后期處理。抑制噪聲通常采用濾波操作，本文采用中值濾波法去除圖像噪聲。中值濾波法是基于鄰域的算法，不僅可以有效清除脈沖噪聲，同時(shí)能較好地保護(hù)圖像邊沿。其核心思想是為待處理像素點(diǎn)選取一個(gè)鄰域，然后將鄰域中所有的像素點(diǎn)按灰度級(jí)排序，再取中間值作為該點(diǎn)輸出的像素。中值濾波的效果通常由鄰域的空間范圍和中值計(jì)算中所涉及的像素個(gè)數(shù)決定。去噪后的圖像采用基于占空比的二值化方法對(duì)序列號(hào)圖像進(jìn)行二值化，同時(shí)利用Hough變換對(duì)序列號(hào)碼圖像進(jìn)行了傾斜校正[4]。

基于有價(jià)證券圖像特征，采用垂直投影法對(duì)字符上下邊界及左右邊界進(jìn)行了準(zhǔn)確定位與切分。切分好的序列號(hào)圖像采用線性歸一化方法，通過(guò)最近鄰域插值法縮放成32x48的字符圖像。

3.2有價(jià)證券序列號(hào)特征提取

特征提取是整個(gè)字符識(shí)別系統(tǒng)中十分重要的步驟，其基本任務(wù)是從原始數(shù)據(jù)中找到最能代表同類數(shù)據(jù)的特征及同類數(shù)據(jù)中的差異，從而有效提高識(shí)別率[5]。通過(guò)對(duì)比分析，本文采用基于網(wǎng)格的八方向梯度特征作為序列號(hào)字符的識(shí)別特征，網(wǎng)格特征能有效降低圖像的維度并具有較好地區(qū)分性能，而梯度信息能反映出圖像的輪廓信息。

4基于BP神經(jīng)網(wǎng)絡(luò)的有價(jià)證券序列號(hào)識(shí)別

人工神經(jīng)網(wǎng)絡(luò)是由許多神經(jīng)元的節(jié)點(diǎn)相互連接構(gòu)成，通常采用基本的BP（Back Propagation）神經(jīng)網(wǎng)絡(luò)或其衍生網(wǎng)絡(luò)。BP神經(jīng)網(wǎng)絡(luò)是單向傳播的多層前饋網(wǎng)絡(luò)，第一層為輸入節(jié)點(diǎn)，最后一層為輸出節(jié)點(diǎn)，中間有一層或多層隱藏節(jié)點(diǎn)。一般中間層采用Sigmoid傳遞函數(shù)，而輸出層一般采用線性變換函數(shù)。BP神經(jīng)網(wǎng)絡(luò)的特點(diǎn)是各神經(jīng)元僅與相鄰層神經(jīng)元有連接而與本層神經(jīng)元無(wú)連接，如圖2所示。

圖2 BP神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)圖

根據(jù)BP神經(jīng)網(wǎng)絡(luò)的特性，其初始值與激勵(lì)函數(shù)對(duì)模型的識(shí)別性能有較大的影響。初始值選取不當(dāng)可能造成神經(jīng)網(wǎng)絡(luò)的早熟或不收斂。本文采用遺傳算法確定BP神經(jīng)網(wǎng)絡(luò)初值，激勵(lì)函數(shù)采用經(jīng)典Sigmoid函數(shù)，其模型如下式：

其中為閾值，T為網(wǎng)絡(luò)溫度常數(shù)。

本文針對(duì)有價(jià)證券序列號(hào)包含字符與數(shù)字的特征，采用的神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)如表1所示，識(shí)別基本步驟如下：

1） 按照3.1所示方法對(duì)有價(jià)證券圖像進(jìn)行預(yù)處理；

2） 按照3.2所示方法對(duì)有價(jià)證券序列號(hào)圖像進(jìn)行字符分割與特征提??；

3） 對(duì)特征向量采取BP神經(jīng)網(wǎng)絡(luò)進(jìn)行訓(xùn)練，建立有價(jià)證券序列號(hào)識(shí)別模型；

4） 對(duì)待識(shí)別有價(jià)證券序列號(hào)模型進(jìn)行識(shí)別，輸出結(jié)果。

5仿真分析

為驗(yàn)證BP神經(jīng)網(wǎng)絡(luò)在有價(jià)證券序列號(hào)識(shí)別中的有效性，選擇了500張有價(jià)證券進(jìn)行仿真測(cè)試，其中450張用于學(xué)習(xí)建模，50張用于測(cè)試，檢驗(yàn)?zāi)Ｐ托阅埽\(yùn)行結(jié)果表明，該方法能夠很好對(duì)有價(jià)證券進(jìn)行識(shí)別。該仿真采用PC機(jī)配置為：CPU PⅣ 2.4G，內(nèi)存為2G，操作系統(tǒng)為Windows XP，編程語(yǔ)言Matlab，調(diào)用Matlab人工神經(jīng)網(wǎng)絡(luò)工具箱。同時(shí)以識(shí)別率和耗時(shí)最為指標(biāo)對(duì)識(shí)別模型進(jìn)行評(píng)估，并與模式匹配算法和向量機(jī)作為對(duì)比算法[6]，樣本測(cè)試結(jié)果如表2所示。

從表2結(jié)果分析，采用BP神經(jīng)網(wǎng)絡(luò)算法正確率達(dá)到96%，高于其他兩種算法的識(shí)別效果，識(shí)別速度也有較大的提升，更加符合有價(jià)證券序列號(hào)的在線、實(shí)時(shí)識(shí)別，結(jié)果表明了算法的有效性。

6 結(jié)論

本文以圖像處理技術(shù)為基礎(chǔ)，提出了一種基于BP神經(jīng)網(wǎng)絡(luò)的有價(jià)證券序列號(hào)識(shí)別算法。首先通過(guò)中值濾波降噪、二值化等技術(shù)對(duì)圖像預(yù)處理，然后采用基于網(wǎng)格的八方向梯度特征對(duì)序列號(hào)進(jìn)行特征提取，最后采用BP神經(jīng)網(wǎng)絡(luò)對(duì)其進(jìn)行識(shí)別，并運(yùn)用MATLAB進(jìn)行仿真分析。仿真結(jié)果表明，本文算法具有識(shí)別準(zhǔn)確率高，識(shí)別速度快的優(yōu)點(diǎn)，驗(yàn)證了算法的有效性。

參考文獻(xiàn)

[1]胡學(xué)娟阮雙琛等.基于改進(jìn)梯度方向直方圖的有價(jià)證券識(shí)別.深圳大學(xué)學(xué)報(bào)理工版.2014（9）Vol.31

[2]涂豫.神經(jīng)網(wǎng)絡(luò)的有價(jià)證券序列號(hào)識(shí)別算法.計(jì)算機(jī)仿真.2011（12）

[3]劉洋.有價(jià)證券紙幣號(hào)碼識(shí)別算法的研究.遼寧工程技術(shù)大學(xué).2012

[4]朱雪嬌.圖像清分的有價(jià)證券序列號(hào)碼識(shí)別關(guān)鍵技術(shù)研究.南京理工大學(xué)2014

第8篇：神經(jīng)網(wǎng)絡(luò)提取特征范文

關(guān)鍵詞：卷積神經(jīng)網(wǎng)絡(luò) 人體行為識(shí)別 Dropout

中圖分類號(hào)：TP391.41 文獻(xiàn)標(biāo)識(shí)碼：A 文章編號(hào)：1672-3791（2017）04（c）-0028-02

該文采用隨機(jī)Dropout卷積神經(jīng)網(wǎng)絡(luò)，筆者將此法的優(yōu)點(diǎn)大致概況為將繁瑣雜亂的前期圖像處理簡(jiǎn)易化，原來(lái)的圖像不可以直接輸入，現(xiàn)在的原始圖像即可實(shí)現(xiàn)直輸功能，因其特性得到廣泛研究與應(yīng)用。另外，卷積神經(jīng)網(wǎng)絡(luò)在圖像的處理中能夠?qū)⒅付ǖ淖藙?shì)、陽(yáng)光的照射反應(yīng)、遮避、平面移動(dòng)、縮小與放大等其他形式的扭曲達(dá)到魯棒性，從而達(dá)到良好的容錯(cuò)能力，進(jìn)而可以發(fā)現(xiàn)其在自適應(yīng)能力方面也非常強(qiáng)大。因?yàn)榫矸e神經(jīng)網(wǎng)絡(luò)在之前建立網(wǎng)絡(luò)模型時(shí)，樣本庫(kù)為訓(xùn)練階段提供的樣本，數(shù)量有限，品質(zhì)上也很難滿足要求，致使網(wǎng)絡(luò)權(quán)值參數(shù)不能夠完成實(shí)時(shí)有效的調(diào)度與整理。

1 卷積神經(jīng)網(wǎng)絡(luò)

據(jù)調(diào)查卷積神經(jīng)網(wǎng)絡(luò)由K.Fukushima在80年代提出，那時(shí)候它被稱為神經(jīng)認(rèn)知機(jī)，這一認(rèn)知成為當(dāng)時(shí)的第一個(gè)網(wǎng)絡(luò)，后來(lái)網(wǎng)絡(luò)算法發(fā)生了規(guī)模性變革，由LeCun為代表提出了第一個(gè)手寫(xiě)數(shù)字識(shí)別模型，并成功投入到商業(yè)用途中。LeNet被業(yè)界冠以卷積神經(jīng)網(wǎng)絡(luò)的代表模型，這類系統(tǒng)在很多方面都起到了不容小趨的作用，它多數(shù)應(yīng)用于各類不同的識(shí)別圖像及處理中，在這些層面上取得了重要成果。

筆者經(jīng)查閱資料發(fā)現(xiàn)卷積神經(jīng)網(wǎng)絡(luò)其實(shí)是由兩個(gè)種類組合而來(lái)，它們分別是特征提取、分類器，這種組成我們可以看到特征提取類可由一定數(shù)量的卷積層以及子采樣層相互重疊組合而成，全部都連接起來(lái)的1層或者2層神經(jīng)網(wǎng)絡(luò)，就是由分類器來(lái)進(jìn)行安排的。卷積神經(jīng)網(wǎng)絡(luò)中的局部區(qū)域得到的感覺(jué)、權(quán)值的參數(shù)及子采樣等可以說(shuō)是重要網(wǎng)絡(luò)結(jié)構(gòu)特征。

1.1 基本CNN網(wǎng)絡(luò)結(jié)構(gòu)

圖1中就是最為經(jīng)典的LeNet-5網(wǎng)絡(luò)模型結(jié)構(gòu)圖。通過(guò)圖1中我們可以獲悉，該模型有輸入輸出層，除這兩層外還有6層，其征提取可在前4層中體現(xiàn)，后兩層體現(xiàn)的是分類器。

在特征提取部分，6個(gè)卷積核通過(guò)卷積，是圖像經(jīng)尺寸為32×32的輸入而得見(jiàn)表1，運(yùn)算過(guò)程如式（1）：

（1）

式中：卷積后的圖像與一個(gè)偏置組合起來(lái)，使函數(shù)得到激活，因此特征圖變誕生了，通過(guò)輸出得到了6個(gè)尺寸的特征圖，這6個(gè)尺寸均為28×28，近而得到了第一層的卷積，以下筆者把它簡(jiǎn)要稱為c1；那么c1層中的6個(gè)同尺寸圖再經(jīng)由下面的子采樣2×2尺寸，再演變成特征圖，數(shù)量還是6個(gè)，尺寸卻變成了14×14，具體運(yùn)算如公式（2）：

通過(guò)表2我們可以使xi生成的和與采樣系數(shù)0.25相乘，那么采樣層的生成也就是由加上了一個(gè)偏置，從而使函數(shù)被激活形成了采樣層的第1個(gè)層次，以下我們簡(jiǎn)要稱為s1；這種過(guò)程我們可反復(fù)運(yùn)用，從而呈現(xiàn)出卷積層中的第2層，可以簡(jiǎn)要稱之為c2，第2層簡(jiǎn)稱s2；到目前為止，我們對(duì)特征的提取告一段落。

神經(jīng)網(wǎng)絡(luò)的識(shí)別，我們可以看到它是由激活函數(shù)而形成的一個(gè)狀態(tài)，這一狀態(tài)是由每個(gè)單元的輸出而得；那么分類器在這里起到的作用是將卷積層全部連接起來(lái)，這種通過(guò)連接而使1層與上面1層所有特征圖進(jìn)行了串連，簡(jiǎn)要稱之為c5；因而2層得到了退變與簡(jiǎn)化效應(yīng)，從而使該神經(jīng)網(wǎng)絡(luò)成為經(jīng)典，簡(jiǎn)要稱之為F6，向量及權(quán)值是由F6 輸送，然后由點(diǎn)積加上偏置得到結(jié)果的有效判定。

1.2 改進(jìn)的隨機(jī)DropoutCNN網(wǎng)絡(luò)

1.2.1 基本Dropout方法

神經(jīng)網(wǎng)絡(luò)泛化能力能夠得到提升，是基于Dropout方法的深入學(xué)習(xí)。固定關(guān)系中存在著節(jié)點(diǎn)的隱含，為使權(quán)值不再依附于這種關(guān)系，上述方法可隨機(jī)提取部分神經(jīng)元，這一特性是通過(guò)利用Dropout在網(wǎng)絡(luò)訓(xùn)練階段中隨機(jī)性而得，對(duì)于取值能夠有效的存儲(chǔ)及保護(hù)存留，這一特性在輸出設(shè)定方面一定要注重為0，這些被選擇的神經(jīng)元隨然這次被抽中應(yīng)用，但并不影響下次訓(xùn)練的過(guò)程，并具還可以恢復(fù)之前保留的取值，那么每?jī)蓚€(gè)神經(jīng)元同時(shí)產(chǎn)生作用的規(guī)避，可以通過(guò)重復(fù)下次隨機(jī)選擇部分神經(jīng)元的過(guò)程來(lái)解決；我們通過(guò)這種方法，使網(wǎng)絡(luò)結(jié)構(gòu)在每次訓(xùn)練階段中都能呈現(xiàn)不同變化，使一些受限制的特征，不再受到干擾，使其真正能展現(xiàn)自身的優(yōu)點(diǎn)，在基于Dropout方法中，我們可以將一些神經(jīng)元的一半設(shè)為0來(lái)進(jìn)行輸出，隨機(jī)神經(jīng)元的百分比可控制在50%，有效的避免了特征的過(guò)度相似與穩(wěn)合。

1.2.2 隨機(jī)Dropout方法

Dropout方法就是隨機(jī)輸出為0的設(shè)定，它將一定比例神經(jīng)元作為決定的因素，其定義網(wǎng)絡(luò)在構(gòu)建模型時(shí)得到廣泛采用。神經(jīng)元基于隨機(jī)Dropout的方法是該文的重要網(wǎng)絡(luò)輸出途徑，通過(guò)設(shè)定輸出為0，使其在網(wǎng)絡(luò)中得到變。圖2是隨機(jī)Dropout的加入神經(jīng)元連接示意圖，其在圖中可知兩類神經(jīng)元：一類是分類器的神經(jīng)元，這一階段的神經(jīng)元可分榱講悖渙硪煥嗌窬元是由輸出而形成的層次。模型在首次訓(xùn)練的階段會(huì)使神經(jīng)元隨機(jī)形成凍結(jié)狀態(tài)，這一狀態(tài)所占的百分比為40%、60%，我們還可以看到30%及50%的神經(jīng)元可能在網(wǎng)絡(luò)隨機(jī)被凍結(jié)，那么這次凍結(jié)可以發(fā)生在模型第二次訓(xùn)練，那么第三次神經(jīng)元的凍結(jié)可從圖示中得出70%及40%，還可以通過(guò)變化用人工設(shè)置，其范圍值宜為35%～65%，那么網(wǎng)絡(luò)神經(jīng)元連接次序的多樣化，也因此更為突出與精進(jìn)，網(wǎng)絡(luò)模型的泛化能力也得到了跨越勢(shì)的提高。

2 實(shí)驗(yàn)及結(jié)果分析

2.1 實(shí)驗(yàn)方法

卷積神經(jīng)網(wǎng)絡(luò)通過(guò)實(shí)驗(yàn)，通過(guò)輸入層呈現(xiàn)一灰色圖像，該圖像尺寸被設(shè)定成28×28的PNG格式，這里我們以圖像框架圖得到雙線性差值，用來(lái)處理圖像及原視頻中的影像，將框架圖的卷積核設(shè)定為5×5的尺寸，子采樣系數(shù)控制值為0.25，采用SGD迭代200次，樣本數(shù)量50個(gè)進(jìn)行設(shè)定，一次誤差反向傳播實(shí)現(xiàn)批量處理，進(jìn)行權(quán)值調(diào)整。實(shí)驗(yàn)采用交叉驗(yàn)證留一法，前四層為特征提取層，C1-S1-C2-S2按順序排列，6-6-12-12個(gè)數(shù)是相應(yīng)特征，通過(guò)下階段加入隨機(jī)Dropout，這階段為雙層也就是兩層，進(jìn)行連接，連接層為全體，從而可知結(jié)果由分類得出，又從輸出層輸出。

2.2 實(shí)驗(yàn)結(jié)果分析

識(shí)別錯(cuò)誤率可通過(guò)卷積神經(jīng)網(wǎng)絡(luò)模型，及訓(xùn)練過(guò)程與檢測(cè)過(guò)程中可查看到的。在訓(xùn)練階段中，我們可以將Dropout的網(wǎng)絡(luò)中融入200次訓(xùn)練，在將沒(méi)有使用該方法的網(wǎng)絡(luò)進(jìn)行相互比較分析，我可以得知，后者訓(xùn)練時(shí)的識(shí)別錯(cuò)誤率稍高于前者，前者與后的相比較所得的差異不是很大，進(jìn)而我們可知使用Dropout方法，對(duì)卷積神經(jīng)網(wǎng)絡(luò)在泛化能力上得到有效的提升，從而有效的防止擬合。

3 結(jié)語(yǔ)

筆者基于Dropout卷積神經(jīng)網(wǎng)絡(luò)，人體行為識(shí)別在視頻中進(jìn)行， 通過(guò)Weizmann數(shù)據(jù)集檢測(cè)實(shí)驗(yàn)結(jié)果，隨機(jī)Dropout在分類器中加入。通過(guò)實(shí)驗(yàn)可以得知：隨機(jī)Dropout的加入，使卷積神經(jīng)構(gòu)建了完美網(wǎng)絡(luò)模型，并且使其在人體行為識(shí)別中的效率贏得了大幅度的提升，近而使泛化能力可以通過(guò)此類方法得到提高，可以防止擬合。

參考文獻(xiàn)

[1] 其它計(jì)算機(jī)理論與技術(shù)[J].電子科技文摘，2002（6）.

第9篇：神經(jīng)網(wǎng)絡(luò)提取特征范文

關(guān)鍵詞：神經(jīng)網(wǎng)絡(luò)；預(yù)測(cè)；剩余油氣；模式識(shí)別；訓(xùn)練

中圖分類號(hào)：TP18 文獻(xiàn)標(biāo)識(shí)碼：A 文章編號(hào)：1009-3044（2015）09-0200-02

Abstract： The paper is aimed at the problem of traditional exploration methods can not predict the remaining oil and gas accurately， the methods of fuzzy theory and self-organizing map are approached. It takes the advantage of Fuzzy neural network system converging faster and higher prediction accuracy， as well as the unsupervised competitive learning mechanism of self-organizing map， it achieves the goal of predicting the remaining oil and gas. The method of neural network improve the precision of remaining oil and gas， it obtains better effect of prediction.

Key words： neural network； predict； remaining oil and gas； pattern recognition； train

石油是國(guó)家經(jīng)濟(jì)發(fā)展的命脈，油氣勘探開(kāi)發(fā)則是石油工業(yè)的基礎(chǔ)，在國(guó)民經(jīng)濟(jì)的地位舉足輕重。隨著地震勘探理論方法日趨成熟，我國(guó)各大油氣田勘探程度相繼提高，油氣田已經(jīng)被大幅度開(kāi)采。然而我國(guó)的石油平均采收率并不高，約為30%多一點(diǎn)，還有近70%的油氣并未采收，傳統(tǒng)的油氣勘探方法已經(jīng)不能滿足增加石油的采收率。當(dāng)前我國(guó)各大油田的地質(zhì)勘探工作已經(jīng)進(jìn)入中后期，迫切需要一些新的方法研究方法和技術(shù)，對(duì)油氣田剩余油氣的分布和變化趨勢(shì)做出預(yù)測(cè)，以便在尋找新的勘探開(kāi)發(fā)領(lǐng)域，同時(shí)也能繼續(xù)對(duì)老油氣田進(jìn)行挖掘，從而提高油氣產(chǎn)量。

近些年來(lái)，隨著神經(jīng)網(wǎng)絡(luò)技術(shù)[1]的日趨成熟，基于模式識(shí)別的各類方法技術(shù)，如統(tǒng)計(jì)模式識(shí)別、神經(jīng)網(wǎng)絡(luò)、模糊判別等技術(shù)和理論在剩余油氣預(yù)測(cè)方面都得到了較多的應(yīng)用，也取得了較好的結(jié)果。其中模糊理論具有很強(qiáng)的表達(dá)能力并且容易被人理解，神經(jīng)網(wǎng)絡(luò)的自適應(yīng)學(xué)習(xí)能力很強(qiáng)。由于模糊理論和人工神經(jīng)網(wǎng)絡(luò)各自的優(yōu)點(diǎn)，常常被單獨(dú)或者是組合起來(lái)運(yùn)用到實(shí)踐中，本文主要介紹神經(jīng)網(wǎng)絡(luò)的方法運(yùn)用于預(yù)測(cè)剩余油氣的工作中。

1 模糊理論

1.1 發(fā)展歷程

1965年美國(guó)加州大學(xué)伯里克分校的扎德教授首先創(chuàng)立了模糊集合的數(shù)學(xué)理論，隨后P.N.Marions也開(kāi)始從事相關(guān)研究，于1966年發(fā)表了一份關(guān)于模糊邏輯的研究報(bào)告。1974年扎德教授作了模糊推理的研究報(bào)告，同年英國(guó)的E.H.Mamdanl運(yùn)用模糊邏輯和模糊推理首次實(shí)現(xiàn)了蒸汽機(jī)的實(shí)驗(yàn)性控制，從此模糊理論的雛形形成了，隨后模糊理論[2]掀起了一波熱潮。

1.2 在剩余油氣預(yù)測(cè)中的應(yīng)用

在預(yù)測(cè)剩余油氣[3]的實(shí)踐中，首先對(duì)地震資料做初步的特征提取，然后將提取的樣本用模糊理論的聚類方法進(jìn)行訓(xùn)練，對(duì)訓(xùn)練樣本進(jìn)行幾類。每類都有各自對(duì)應(yīng)的神經(jīng)網(wǎng)絡(luò)，用專屬于每類的樣本依次訓(xùn)練各自對(duì)應(yīng)的神經(jīng)網(wǎng)絡(luò)。具體步驟如下：

1）流體屬性的提取

流體屬性數(shù)據(jù)是三維數(shù)據(jù)，屬性的提取方法依賴于具體的物理問(wèn)題與數(shù)據(jù)網(wǎng)格的劃分。三維數(shù)據(jù)場(chǎng)屬性邊界的提取所采用的方法是求出網(wǎng)格點(diǎn)的梯度，特征區(qū)域一般是梯度模值較大的區(qū)域。對(duì)于均勻的三維網(wǎng)格，估計(jì)其梯度的方法可采用三維差分。為得到網(wǎng)格點(diǎn)上的梯度值，簡(jiǎn)單的方法是利用前、后、左、右、上、下六個(gè)鄰近點(diǎn)的場(chǎng)值進(jìn)行簡(jiǎn)單的差分估計(jì)。在計(jì)算流體力學(xué)問(wèn)題中，采用的網(wǎng)格大都是結(jié)構(gòu)化網(wǎng)格，為計(jì)算網(wǎng)格點(diǎn)上的梯度，需將網(wǎng)格變換為均勻規(guī)則正交網(wǎng)格。設(shè)三維網(wǎng)格交換為[x=T1（ξ，η，?）]，[y=T2（ξ，η，?）]，[z=T3（ξ，η，?）]，在點(diǎn)（m，n，p），其場(chǎng)值梯度在兩種網(wǎng)格上的關(guān)系式為：

[?f?ξ?f?η?f??=?f?x?f?y?f?z?x?ξ?x?η?x???y?ξ?y?η?y???z?ξ?z?η?z??]

2）模糊系統(tǒng)處理流體屬性

確定輸入輸出的學(xué)習(xí)樣本[（αK，βK，γk）]，k為樣本個(gè)數(shù)。利用模糊聚類的方法將輸入樣本分成N類，N類樣本對(duì)應(yīng)N條神經(jīng)網(wǎng)絡(luò)。利用各自的樣本訓(xùn)練各自的神經(jīng)網(wǎng)絡(luò)，選擇合適的學(xué)習(xí)樣本，系統(tǒng)經(jīng)過(guò)多次樣本訓(xùn)練和樣本學(xué)習(xí)之后，優(yōu)化出一部分識(shí)別精度高的樣本，優(yōu)選的樣本到達(dá)能辨別精度后，將該樣本輸出，這樣就可以被識(shí)別了。

2 自組織神經(jīng)網(wǎng)絡(luò)

2.1 結(jié)構(gòu)與工作過(guò)程

自組織神經(jīng)網(wǎng)絡(luò)是上世紀(jì)80年代芬蘭Helsink大學(xué)的Kohonen在Willshaw與Von der Malsberg在的工作上，結(jié)合對(duì)自然界中的生物神經(jīng)系統(tǒng)的理解，創(chuàng)建Kohonen模型，又稱Kohonen網(wǎng)絡(luò)。自組織神經(jīng)網(wǎng)絡(luò)[4]的特征映射是基于生物的大腦神經(jīng)系統(tǒng)，模擬它的自組織特征映射機(jī)制，在樣本訓(xùn)練中有很強(qiáng)大學(xué)習(xí)能力，在組織學(xué)習(xí)中不需要監(jiān)控，是一種無(wú)監(jiān)督競(jìng)爭(zhēng)式學(xué)習(xí)的前饋網(wǎng)絡(luò)。自組織神經(jīng)網(wǎng)絡(luò)通過(guò)學(xué)習(xí)，從而提取某組數(shù)據(jù)中的某種重要特征或內(nèi)在規(guī)律，按離散時(shí)間的方式進(jìn)行分類。網(wǎng)絡(luò)可以把任意高維的輸入作為輸入神經(jīng)元，映射到低維空間得到輸出神經(jīng)元，并且使得輸入神經(jīng)元內(nèi)部的某些相似性質(zhì)表現(xiàn)為幾何上鄰近的特征映射，這就是人們常說(shuō)的降維處理。這樣輸出神經(jīng)元會(huì)聚集成一個(gè)輸出層，輸出層就可以繪制成一維或二維離散幾何圖形，并且其拓?fù)浣Y(jié)構(gòu)保持不變。此分類反映了樣本集之間的本質(zhì)區(qū)別，大幅度降低了一致性準(zhǔn)則中的人為因素。

如圖1所示，SOM網(wǎng)絡(luò)是一種比較簡(jiǎn)單的雙層網(wǎng)絡(luò)， 由若干輸入神經(jīng)元和輸出神經(jīng)元組成。輸入層與輸出層各神經(jīng)元之間實(shí)現(xiàn)了全部互相直接或間接的連接方式，每個(gè)輸出神經(jīng)元可通過(guò)可變連接權(quán)與所有輸入神經(jīng)元相連， 且輸出神經(jīng)元間存在局部相互連接。每個(gè)連接都具有對(duì)應(yīng)的連接權(quán)值，用于表示該連接的強(qiáng)度。各個(gè)神經(jīng)元的連接權(quán)值均具有一定的分布，每個(gè)輸入神經(jīng)元與輸出神經(jīng)元之間的聯(lián)系通過(guò)連接權(quán)來(lái)傳達(dá)。輸出層的神經(jīng)元之間實(shí)行側(cè)向連接，相鄰的神經(jīng)元相互激勵(lì)，距離較遠(yuǎn)的神經(jīng)元?jiǎng)t相互抑制，然而超過(guò)了一定的距離的神經(jīng)元又具有較弱的激勵(lì)作用，最后剩下的一個(gè)神經(jīng)元或一組神經(jīng)元，則反映該類樣本的屬性。

2.2 預(yù)測(cè)剩余油氣的步驟

1）根據(jù)勘探數(shù)據(jù)體提取流體屬性[5]，并對(duì)其進(jìn)行預(yù)處理。

2）優(yōu)選出所要了解的流體屬性，對(duì)其進(jìn)行降維壓縮，將壓縮集作為模式識(shí)別的輸入，以統(tǒng)計(jì)的油氣儲(chǔ)層參數(shù)作為輸出來(lái)訓(xùn)練組組織神經(jīng)網(wǎng)絡(luò)。

3）利用模式識(shí)別[6]參數(shù)和降維壓縮集對(duì)儲(chǔ)層的油氣進(jìn)行預(yù)測(cè)，從而得到如今的剩余油氣的分布。

3 結(jié)束語(yǔ)

本文針對(duì)傳統(tǒng)油氣勘探的方法難以滿足預(yù)測(cè)油氣田剩余油的難題，著重介紹了模糊理論和自組織神經(jīng)網(wǎng)絡(luò)的方法，這兩種神經(jīng)網(wǎng)絡(luò)的方法各有優(yōu)勢(shì)。其中模糊神經(jīng)網(wǎng)絡(luò)的系統(tǒng)訓(xùn)練和學(xué)習(xí)速度快，收斂較快，預(yù)測(cè)的精度高。自組織神經(jīng)網(wǎng)絡(luò)的競(jìng)爭(zhēng)模式起到了快速優(yōu)選的作用，神經(jīng)元之間的協(xié)作模式在某種意義上則縮短了整個(gè)流程的工作時(shí)間。總而言之，神經(jīng)網(wǎng)絡(luò)的技術(shù)與方法在預(yù)測(cè)油氣田的剩余油氣的實(shí)踐中取得了不錯(cuò)的成果。

參考文獻(xiàn)：

[1] 汪鐳，周國(guó)興，吳啟迪.人工神經(jīng)網(wǎng)絡(luò)理論在控制領(lǐng)域中的應(yīng)用綜述[J].同濟(jì)大學(xué)學(xué)報(bào)：自然科學(xué)版，2001，03：357-361.

[2] 王曉軍，楊海峰，邱志平，等.基于測(cè)量數(shù)據(jù)的不確定性結(jié)構(gòu)分析的模糊理論[J].北京航空航天大學(xué)學(xué)報(bào)，2010，08：887-891.

[3] 熊艷，包吉山，肖慈.模糊神經(jīng)網(wǎng)絡(luò)預(yù)測(cè)儲(chǔ)層及油氣[J].石油地球物理勘探，2000，02：222-227.

[4] 易榮慶，李文輝，王鐸.基于自組織神經(jīng)網(wǎng)絡(luò)的特征識(shí)別[J].吉林大學(xué)學(xué)報(bào)：工學(xué)版，2009，01：148-153.