訓(xùn)練神經(jīng)網(wǎng)絡(luò)的方法精選(九篇)

前言：一篇好文章的誕生，需要你不斷地搜集資料、整理思路，本站小編為你收集了豐富的訓(xùn)練神經(jīng)網(wǎng)絡(luò)的方法主題范文，僅供參考，歡迎閱讀并收藏。

第1篇：訓(xùn)練神經(jīng)網(wǎng)絡(luò)的方法范文

關(guān)鍵詞： 神經(jīng)網(wǎng)絡(luò)；工程造價；Vague集貼近度

0 引言

對建筑工程造價進行科學(xué)有效的測算和控制，會使工程造價的組成比較合理，進而節(jié)約工程開銷成本。現(xiàn)在，經(jīng)典的建筑工程造價測算方法主要有下面幾種：定額法、類比工程法、回歸分析法和模糊數(shù)學(xué)法[1]。其中，定額法必須對定額成本、定額差異和定額變動差異進行單獨核算，任務(wù)較重，現(xiàn)實中很難實施；類比工程法是通過類比工程的相似性實現(xiàn)工程造價的測算，該方法估算準(zhǔn)確度不夠高；回歸分析法的估算準(zhǔn)確度同樣不高，該方法將很多重要因素忽略了；模糊數(shù)學(xué)法是通過模糊數(shù)學(xué)的思想對工程造價進行估算，該方法的不足主要是特征隸屬度不好準(zhǔn)確確定。由于人工神經(jīng)網(wǎng)絡(luò)可以自學(xué)并進行推理，本文通過人工神經(jīng)網(wǎng)絡(luò)和Vague集貼近度理論對住宅樓的工程造價進行估算和控制，可以為建筑工程造價估算提供很好的服務(wù)。

1 BP神經(jīng)網(wǎng)絡(luò)

BP神經(jīng)網(wǎng)絡(luò)是一種前饋型神經(jīng)網(wǎng)絡(luò)，包含三種層次或者多層次，各種層次之間相互連接，同一層次可以自由結(jié)合，BP神經(jīng)網(wǎng)絡(luò)的構(gòu)成見圖1。所屬模型的神經(jīng)元數(shù)量決定了BP神經(jīng)網(wǎng)絡(luò)的層數(shù)，各個層次之間通過相互的權(quán)值實現(xiàn)聯(lián)接[2]。

人工神經(jīng)元（Artificial Neuron）模型：

人工神經(jīng)元是神經(jīng)網(wǎng)絡(luò)的基本元素，其原理可以用圖2表示。

圖中x1～xn是從其他神經(jīng)元傳來的輸入信號，wij表示表示從神經(jīng)元j到神經(jīng)元i的連接權(quán)值，θ表示一個閾值（threshold），或稱為偏置（bias）。則神經(jīng)元i的輸出與輸入的關(guān)系表示為：

BP神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)非常簡潔，包括正向傳播和逆向傳播。下面分別對BP神經(jīng)網(wǎng)絡(luò)信息的正向傳播和誤差信息的反向傳播原理進行介紹。

1.1 信息的正向傳播

式（1）中，n為信息的總個數(shù)。

1）輸入向量為

多層神經(jīng)元網(wǎng)絡(luò)（BP網(wǎng)絡(luò)圖3）。

BP（Back Propagation）神經(jīng)網(wǎng)絡(luò)，即誤差反傳誤差反向傳播算法的學(xué)習(xí)過程，由信息的正向傳播和誤差的反向傳播兩個過程組成。由圖3可知，BP神經(jīng)網(wǎng)絡(luò)是一個三層的網(wǎng)絡(luò)：

輸入層（Input Layer）：輸入層各神經(jīng)元負(fù)責(zé)接收來自外界的輸入信息，并傳遞給中間層各神經(jīng)元；

隱藏層（Hidden Layer）：中間層是內(nèi)部信息處理層，負(fù)責(zé)信息變換，根據(jù)信息變化能力的需求，中間層可以設(shè)計為單隱層或者多隱層結(jié)構(gòu)；最后一個隱層傳遞到輸出層各神經(jīng)元的信息，經(jīng)進一步處理后，完成一次學(xué)習(xí)的正向傳播處理過程；

輸出層（Output Layer）：顧名思義，輸出層向外界輸出信息處理結(jié)果。

2 建筑工程造價估算模型

2.1 BP神經(jīng)網(wǎng)絡(luò)訓(xùn)練 建立BP神經(jīng)網(wǎng)絡(luò)模型，對工程特征向量進行歸一化處理，可以開始神經(jīng)網(wǎng)絡(luò)訓(xùn)練，目標(biāo)是使網(wǎng)絡(luò)性能函數(shù)極小化，實現(xiàn)非線性映射的目的。本文利用Nguyen-Widrow方法[5]對權(quán)值和閾值的初值進行確定。Nguyen-Widrow方法具體原理為

上式中，W是數(shù)值矩陣，θ是權(quán)值矩陣，S、N是節(jié)點的個數(shù)。rand（S，N）為s行n列的平均自由分布任意矩陣，I（S，N）為s行n列標(biāo)準(zhǔn)矩陣。

2.2 BP神經(jīng)網(wǎng)絡(luò)訓(xùn)練調(diào)整與測試 BP神經(jīng)網(wǎng)絡(luò)訓(xùn)練調(diào)整與測試連接強度加權(quán)值調(diào)整方法，具體公式為：

BP算法在按步驟經(jīng)行的收斂過程中，每一步的學(xué)習(xí)率都將發(fā)生變化，而不是固定不變。此時BP神經(jīng)網(wǎng)絡(luò)不應(yīng)用連接強度加權(quán)值的調(diào)整方法，同時也不使用誤差函數(shù)對梯度調(diào)整和η調(diào)整方法；最終應(yīng)用相對權(quán)重增加量Δwij進行網(wǎng)絡(luò)調(diào)整與測試，權(quán)值wij的修正值Δwij，如下所示：

以上的分析表明，運用BP神經(jīng)網(wǎng)絡(luò)進行建筑工程單方造價估算是可行的，然而該方法對建筑工程項目總造價的估算還不夠精確。當(dāng)前建筑工程項目需要考慮的影響因素非常多，雖然可以引入大量的特征因素，然而里面有很多因素都非常模糊化；即使可以對特征因素進行具體說明，提高輸入點的數(shù)量，這時樣本數(shù)據(jù)會隨著增加，此時神經(jīng)網(wǎng)絡(luò)將會復(fù)雜化，求解效率會降低。所以，本文通過以上運用BP神經(jīng)網(wǎng)絡(luò)對建筑工程項目單方造價的估算，采用Vague集貼近度對BP神經(jīng)網(wǎng)絡(luò)進行改進，對建筑工程總造價進行估算[3]。

2.3 加入Vague集貼近度改進BP神經(jīng)網(wǎng)絡(luò) 文獻[4]采用普通模糊集理論來對工程隸屬度進行確定。本文中建筑工程特征因素隸屬度是指建筑工程特征值隸屬于準(zhǔn)備建設(shè)的項目特征值的大小程度：

3 實例分析

選取2013年西安市某工程項目數(shù)據(jù)進行實例分析，工程造價指數(shù)以2013年為基準(zhǔn)，通過加權(quán)平均法求解造價年綜合指數(shù)。通過選擇，最后選取了二十個樣本，前面十八個樣本為訓(xùn)練樣本，剩余的兩個當(dāng)作檢測樣本。神經(jīng)網(wǎng)絡(luò)訓(xùn)練數(shù)據(jù)見表1。

3.1 BP神經(jīng)網(wǎng)絡(luò)訓(xùn)練 采用BP神經(jīng)網(wǎng)絡(luò)對模型進行構(gòu)建，對建筑工程特征向量數(shù)據(jù)處理結(jié)束后，可以開展神經(jīng)網(wǎng)絡(luò)訓(xùn)練。神經(jīng)網(wǎng)絡(luò)訓(xùn)練基本的訓(xùn)練公式為

net，tr=train（NET，P，T）

訓(xùn)練公式中net為最終的網(wǎng)絡(luò)，tr為數(shù)值統(tǒng)計， P是輸入矩陣，T是輸出矩陣。

3.2 BP神經(jīng)網(wǎng)絡(luò)與Vague集貼近度預(yù)測 采用Vague集貼近度的數(shù)據(jù)，基于BP神經(jīng)網(wǎng)絡(luò)訓(xùn)練樣本進行預(yù)測，通過訓(xùn)練好的網(wǎng)絡(luò)對與本文樣本數(shù)據(jù)相類似工程項目的單方造價進行預(yù)估，求得單方造價均值為1800元/m2。緊接著可以對建筑工程的總造價進行預(yù)估，通過對10項樣本進行造價估算預(yù)測，采用BP神經(jīng)網(wǎng)絡(luò)和Vague集貼近度相結(jié)合的方法進行造價預(yù)估，估計誤差在±10%范圍內(nèi)（見表2），造價估算結(jié)果非常準(zhǔn)確。

4 結(jié)論

本文應(yīng)用BP神經(jīng)網(wǎng)絡(luò)造價預(yù)測和Vague集貼近度理論，從理論和實際應(yīng)用兩方面對建筑工程造價估算進行了研究。文中的方法能更準(zhǔn)確地反應(yīng)工程造價的不確定性，為建筑工程項目造價估算方法研究提供了一種新的視角和方法。

參考文獻：

[1]史峰.BP神經(jīng)網(wǎng)絡(luò)在工程量清單中快速估價的應(yīng)用研究[M].北京航空航天大學(xué)出版社，2010.4.

[2]張風(fēng)文.基于MATLAB神經(jīng)網(wǎng)絡(luò)的工程實例分析[J].華東交通大學(xué)學(xué)報，2010，8（3）：26-33.

[3]郭一斌，王紅革，王翔.基于Vague集貼近度的工程項目投資快速估算方法[J].現(xiàn)代經(jīng)濟信息，2011，12（2）：50-55.

第2篇：訓(xùn)練神經(jīng)網(wǎng)絡(luò)的方法范文

關(guān)鍵詞：BP人工神經(jīng)網(wǎng)絡(luò)；RBF人工神經(jīng)網(wǎng)絡(luò)；經(jīng)濟增長預(yù)測

中圖分類號：TP183文獻標(biāo)識碼：A文章編號：1009-3044(2011)10-2345-03

The Study of Forecast of Zhejiang Province's Economic Growth Using BP and RBF Artificial Neural Network

BAI Xue-bing

(Zhengjiang University of Technology, Hangzhou 310014, China)

Abstract: Based on existing studies of economic forecasting methods, the article studies the Zhejiang province'sEconomic Growth Forecastusing BP and RBF Artificial Neural Network.Thedata research shows Artificial Neural Network hasgood precision, but different Artificial Neural Network have different behavior, some have big error. Artificial Neural Network can provide good reference for the making policy of sector of economy.

Key words: BP artificial neural network; RBF artificial neural network; economic growth forecast

1 經(jīng)濟預(yù)測概論

經(jīng)濟預(yù)測是與未來有關(guān)的旨在減少不確定性對經(jīng)濟活動影響的一種經(jīng)濟分析。它是對將來經(jīng)濟發(fā)展的科學(xué)認(rèn)識活動。經(jīng)濟預(yù)測不是靠經(jīng)驗、憑直覺的預(yù)言或猜測，而是以科學(xué)的理論和方法、可靠的資料、精密的計算及對客觀規(guī)律性的認(rèn)識所作出的分析和判斷。

2 人工神經(jīng)網(wǎng)絡(luò)經(jīng)濟預(yù)測技術(shù)

由于人工神經(jīng)網(wǎng)絡(luò)具有大規(guī)模并行處理、容錯性、自適應(yīng)和聯(lián)想功能強等特點，作為非線性智能預(yù)測方法的人工神經(jīng)網(wǎng)絡(luò)預(yù)測方法成為國內(nèi)外經(jīng)濟預(yù)測研究的一個熱點。

人工神經(jīng)網(wǎng)絡(luò)不斷應(yīng)用于證券預(yù)測分析、企業(yè)經(jīng)濟戰(zhàn)略預(yù)測、經(jīng)濟理論創(chuàng)新、經(jīng)濟預(yù)測預(yù)警等研究中，都得到了一定的效果。

3 BP與RBF神經(jīng)網(wǎng)絡(luò)預(yù)測模型分析

3.1 經(jīng)濟增長神經(jīng)網(wǎng)絡(luò)設(shè)計模型

3.1.1 宏觀經(jīng)濟預(yù)測指標(biāo)

經(jīng)濟增長率是判斷宏觀經(jīng)濟運行狀況的一個主要指標(biāo)。經(jīng)濟增長率指的就是不變價國內(nèi)生產(chǎn)總值增長率(簡稱國內(nèi)生產(chǎn)總值增長率。因此，判斷宏觀經(jīng)濟運行狀況要落腳到對國內(nèi)生產(chǎn)總值的核算上。在本文中我們采用GDP的增長率來作為預(yù)測目標(biāo)。

3.1.2 神經(jīng)網(wǎng)絡(luò)設(shè)計模型經(jīng)濟模型的設(shè)計

本論文采用兩種模型對經(jīng)濟進行預(yù)測。

1) 第一種 GDP預(yù)測模型：第n年的一、二、三產(chǎn)業(yè)的增長率作為輸入，第n+1年GDP增長率作為輸出。

2) 第二種預(yù)測模型。第n-3、n-2、n-1、n年的經(jīng)濟增長率作為輸入，第n-1、n、n+1年經(jīng)濟增長率作為輸出。

這里還要說明兩個問題。第一我們用到的數(shù)據(jù)來自2009年 浙江省統(tǒng)計年鑒，它的網(wǎng)址是 。

3.1.3 神經(jīng)網(wǎng)絡(luò)模型結(jié)構(gòu)

設(shè)計經(jīng)濟預(yù)測神經(jīng)網(wǎng)絡(luò)模型前，首先需要確定神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)，主要包括如下內(nèi)容：網(wǎng)絡(luò)的層數(shù)，每層的神經(jīng)元數(shù)和激活函數(shù)等。采用的神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)如圖1。

3.2 使用BP在以浙江省過去的每年的GDP增長指數(shù)的基礎(chǔ)上進行BP神經(jīng)網(wǎng)絡(luò)預(yù)測

3.2.1 學(xué)習(xí)樣本的選擇

本次實驗使用Matlab 軟件采用3層BP神經(jīng)網(wǎng)絡(luò)建立浙江省經(jīng)濟發(fā)展的的預(yù)測模型。輸入層節(jié)點數(shù)為n=4，輸出層節(jié)點m=3.而隱含層節(jié)點數(shù)的選擇是人工神經(jīng)網(wǎng)絡(luò)最為關(guān)鍵的一步，它直接影響網(wǎng)絡(luò)隊復(fù)雜問題的映射能力，實驗中我們采用試湊法來確定最佳節(jié)點數(shù)。現(xiàn)設(shè)置較少的隱節(jié)點訓(xùn)練網(wǎng)絡(luò)，然后逐漸增加網(wǎng)絡(luò)節(jié)點數(shù)，用同一樣本進行訓(xùn)練，從中確定網(wǎng)絡(luò)誤差最小時對應(yīng)的節(jié)點數(shù)，隱層、輸出層神經(jīng)元的轉(zhuǎn)移函數(shù)，隱含層和輸出層轉(zhuǎn)移函數(shù)分別采用tansig和logsig，訓(xùn)練函數(shù)選擇traindx。

3.2.2 數(shù)值歸一化處理

對于浙江省經(jīng)濟增長序列Q=（Q1，Q2…，Qt）。設(shè)序列的最大值、最小值分別為Qmax、Qmin。對時間序列的值作歸一化處理。

令xi=(Qi-Qmin)/(Qmax-Qmin)

3.2.3 樣本數(shù)據(jù)訓(xùn)練和數(shù)據(jù)預(yù)測

采用1978～2003年的數(shù)據(jù)樣本在MatLab7.0軟件中對輸入網(wǎng)絡(luò)進行訓(xùn)練.隱層節(jié)點數(shù)先從4開始訓(xùn)練，逐步增加到12時，當(dāng)數(shù)值 為10時預(yù)測結(jié)果較好。允許誤差為0.001，訓(xùn)練3217次達(dá)到訓(xùn)練要求。

采用1978～2004年的數(shù)據(jù)作為第一組訓(xùn)練數(shù)據(jù)，2005-年數(shù)據(jù)作為仿真預(yù)測數(shù)據(jù)，通過神經(jīng)網(wǎng)絡(luò)預(yù)測GDP。采用1978～2005年的數(shù)據(jù)作為第一組訓(xùn)練數(shù)據(jù)，2006年數(shù)據(jù)作為仿真預(yù)測數(shù)據(jù)，通過神經(jīng)網(wǎng)絡(luò)預(yù)測GDP， 采用1978～2006年的數(shù)據(jù)作為第一組訓(xùn)練數(shù)據(jù)，2007-年數(shù)據(jù)作為仿真預(yù)測數(shù)據(jù)，通過神經(jīng)網(wǎng)絡(luò)預(yù)測GDP，依次類推，產(chǎn)生結(jié)果如表1所示。

3.2.4 數(shù)據(jù)分析

從2000-2004的擬合數(shù)據(jù)來看，相對誤差比較小，BP網(wǎng)絡(luò)對整個模擬數(shù)據(jù)的擬合程度還是比較好的，但是從2005-2009的預(yù)測數(shù)據(jù)來看預(yù)測數(shù)據(jù)的誤差還是比較大的，這也說明對未來的預(yù)測是很難的。各種不確定的因素在起作用。

3.3 三種產(chǎn)業(yè)增加率BP確定法預(yù)測GDP

3.3.1 樣本數(shù)據(jù)訓(xùn)練

將1978-2004年數(shù)據(jù)對輸入網(wǎng)絡(luò)進行訓(xùn)練。然后把需要預(yù)測的樣本2000-2004年的樣本數(shù)據(jù)輸入網(wǎng)絡(luò)，得到結(jié)果，然后用反歸一化公式獲得結(jié)果。在Matlab7.0中調(diào)用newff函數(shù)，建立一個3個輸入節(jié)點、18個隱含層節(jié)點、一個輸出結(jié)點的BP神經(jīng)網(wǎng)絡(luò)，隱含層和輸出層轉(zhuǎn)移函數(shù)分別采用tansig和logsig，訓(xùn)練函數(shù)選擇traindx，允許誤差為0.001，訓(xùn)練1748次達(dá)到訓(xùn)練要求。

采用1978～2004年的數(shù)據(jù)作為第一組訓(xùn)練數(shù)據(jù)，2005年數(shù)據(jù)作為仿真預(yù)測數(shù)據(jù)，通過神經(jīng)網(wǎng)絡(luò)預(yù)測GDP。采用1978～2005年的數(shù)據(jù)作為第一組訓(xùn)練數(shù)據(jù)，2006年數(shù)據(jù)作為仿真預(yù)測數(shù)據(jù)，通過神經(jīng)網(wǎng)絡(luò)預(yù)測GDP， 采用1978～2006年的數(shù)據(jù)作為第一組訓(xùn)練數(shù)據(jù)，2007年數(shù)據(jù)作為仿真預(yù)測數(shù)據(jù)，通過神經(jīng)網(wǎng)絡(luò)預(yù)測GDP，依次類推，產(chǎn)生結(jié)果如表2所示。

3.3.2 數(shù)據(jù)分析

從預(yù)測數(shù)據(jù)來看預(yù)測數(shù)據(jù)的誤差盡管比上一種類型的數(shù)據(jù)要好，但是誤差還是比較大的，但是考慮到預(yù)測的能力 ，數(shù)據(jù)還是可以接受的 。但是數(shù)據(jù)誤差還是比較大的，這也說明對未來的預(yù)測是很難的，不是十分確定的，有些文章的數(shù)據(jù)精確度挺高的，但我想應(yīng)該是不太可能的，也許有故意湊數(shù)據(jù)的嫌疑。如果預(yù)測一年的話，可以通過調(diào)整參數(shù)獲得近似結(jié)果，但是很多年就很困難。

3.4 使用RBF在以浙江省過去的每年的GDP增長指數(shù)的基礎(chǔ)上進行RBF神經(jīng)網(wǎng)絡(luò)預(yù)測.

3.4.1 RBF 神經(jīng)網(wǎng)絡(luò)模型設(shè)計

該種方式與第一種BP神經(jīng)網(wǎng)絡(luò)預(yù)測方法類似， 以以前四年的GDP增長率作為輸入，后兩年加以預(yù)測的年作為輸出。輸入層節(jié)點數(shù)為n=4，輸出層節(jié)點m=3.而隱含層節(jié)點數(shù)的選擇是采用matlab的newrbe自動來設(shè)置.然后用同一樣本進行訓(xùn)練。

3.4.2 樣本數(shù)據(jù)訓(xùn)練和數(shù)據(jù)預(yù)測

1) 采用1978～2004年的數(shù)據(jù)作為第一組訓(xùn)練數(shù)據(jù)，2005年數(shù)據(jù)作為仿真預(yù)測數(shù)據(jù)，通過神經(jīng)網(wǎng)絡(luò)預(yù)測GDP。采用1978～2005年的數(shù)據(jù)作為第一組訓(xùn)練數(shù)據(jù)，2006年數(shù)據(jù)作為仿真預(yù)測數(shù)據(jù)，通過神經(jīng)網(wǎng)絡(luò)預(yù)測GDP，依次類推，產(chǎn)生結(jié)果如表3所示。這兒采用newrbe函數(shù)，spread參數(shù)為0.25。這是因為通過測試采用0.25獲得的數(shù)據(jù)結(jié)果較好。

3.4.3 數(shù)據(jù)分析

從實驗數(shù)據(jù)看，RBF對整個模擬數(shù)據(jù)的曲線擬合程度是相當(dāng)完美，但是從2005-2009的預(yù)測數(shù)據(jù)來看預(yù)測數(shù)據(jù)的誤差還是比較大的，這也說明RBF神經(jīng)網(wǎng)絡(luò)盡管曲線的擬合程度比BP網(wǎng)絡(luò)好 ，但是從預(yù)測的能力來講，并不比BP網(wǎng)絡(luò)好，反而通過試驗顯得更差一些。這仍然表明對未來的預(yù)測是很難的。各種不確定的因素在起作用。神經(jīng)網(wǎng)絡(luò)的預(yù)測也只能作為參考之用，不能對各種的突發(fā)事件進行預(yù)測。

3.5 使用RBF三種產(chǎn)業(yè)增加率確定法預(yù)測GDP

3.5.1 RBF神經(jīng)網(wǎng)絡(luò)模型設(shè)計

該種方式與對應(yīng)的BP神經(jīng)網(wǎng)絡(luò)預(yù)測方法類似， 以一年的三種產(chǎn)業(yè)增長率作為輸入，后一年的GDP增長率預(yù)測作為輸出。本次實驗采用RBF神經(jīng)網(wǎng)絡(luò)建立浙江省經(jīng)濟發(fā)展的的預(yù)測模型。輸入層節(jié)點數(shù)為n=3，輸出層節(jié)點m=1.而隱含層節(jié)點數(shù)的選擇采用RBF自動的newrbe方法實現(xiàn)。

3.5.2 數(shù)據(jù)處理

1) 采用1978～2004年的數(shù)據(jù)作為第一組訓(xùn)練數(shù)據(jù)，2005年數(shù)據(jù)作為仿真預(yù)測數(shù)據(jù)，通過神經(jīng)網(wǎng)絡(luò)預(yù)測GDP。采用1978～2005年的數(shù)據(jù)作為第一組訓(xùn)練數(shù)據(jù)，2006年數(shù)據(jù)作為仿真預(yù)測數(shù)據(jù)，通過神經(jīng)網(wǎng)絡(luò)預(yù)測GDP， 采用1978～2006年的數(shù)據(jù)作為第一組訓(xùn)練數(shù)據(jù)，2007-年數(shù)據(jù)作為仿真預(yù)測數(shù)據(jù)，通過神經(jīng)網(wǎng)絡(luò)預(yù)測GDP，依次類推，產(chǎn)生結(jié)果如表4所示。

3.5.3 數(shù)據(jù)分析

但是從2005-2009的預(yù)測數(shù)據(jù)來看預(yù)測數(shù)據(jù)的誤差比上一組得RBF的誤差還要大，幾乎有點難以接受。這也說明RBF神經(jīng)網(wǎng)絡(luò)盡管曲線的擬合程度比BP網(wǎng)絡(luò)好，但是從預(yù)測的能力來講，并不比BP網(wǎng)絡(luò)好，反而我通過試驗更差一些。2009年的數(shù)據(jù)變得極為不合理，從而導(dǎo)致數(shù)據(jù)的偏差性很高。，從測試數(shù)據(jù)可看出，但是由于經(jīng)濟運行的復(fù)雜性，以及不可預(yù)知性，特別是由于2008的美國金融導(dǎo)致的世界范圍的經(jīng)濟危機，導(dǎo)致經(jīng)濟數(shù)據(jù)的不可靠性大大增加，歷史數(shù)據(jù)變得用處不太大。2009年的數(shù)據(jù)變得極為不合理，從而導(dǎo)致數(shù)據(jù)的偏差性很高。

4 總結(jié)與歸納

從我們的試驗來看，各種神經(jīng)網(wǎng)絡(luò)的確可以對未來進行預(yù)測，但是精度多高卻有一些問題，從我們的試驗來看BP神經(jīng)網(wǎng)絡(luò)的數(shù)據(jù)要比RBF神經(jīng)網(wǎng)絡(luò)的數(shù)據(jù)要好，但是也只在一定范圍內(nèi) ，四種檢測方法，只有一種數(shù)據(jù)還略微能夠接受。神經(jīng)網(wǎng)絡(luò)預(yù)測仍然需要不斷的完善。

參考文獻：

[1] 張德豐.Matlab神經(jīng)網(wǎng)絡(luò)應(yīng)用設(shè)計[M].北京:機械工業(yè)出版社,2009.

[2] 高雋.人工神經(jīng)網(wǎng)絡(luò)原理及仿真實例[M].2版.北京:機械工業(yè)出版社,2007.

[3] 韓力群.人工神經(jīng)網(wǎng)絡(luò)理論、設(shè)計與應(yīng)用[M].2版.北京:化學(xué)工業(yè)出版社,2007.

第3篇：訓(xùn)練神經(jīng)網(wǎng)絡(luò)的方法范文

[關(guān)鍵詞] 光伏系統(tǒng)；發(fā)電量預(yù)測；模糊神經(jīng)網(wǎng)絡(luò)

doi ： 10 . 3969 / j . issn . 1673 - 0194 . 2017. 13. 077

[中圖分類號] TM615 [文獻標(biāo)識碼] A [文章編號] 1673 - 0194（2017）13- 0180- 04

0 引 言

目前光伏發(fā)電量預(yù)測的方法主要有神經(jīng)網(wǎng)絡(luò)法、灰色預(yù)測法、多元線性分析法這三種方法，通過對這三種預(yù)測模型進行比較，發(fā)現(xiàn)多元線性回歸和灰色理論雖然方法較為簡單，但是預(yù)測誤差也較大，而神經(jīng)網(wǎng)絡(luò)法預(yù)測則可以比較準(zhǔn)確但是預(yù)測過程較為繁雜。在基于神經(jīng)網(wǎng)絡(luò)的預(yù)測中，多是以傳統(tǒng)的BP神經(jīng)網(wǎng)絡(luò)為基礎(chǔ)模型，在此基礎(chǔ)上采用一些新的方法對BP網(wǎng)絡(luò)加以改進。例如在BP網(wǎng)絡(luò)的學(xué)習(xí)過程中采用Fletcher-Reeves共軛梯度算法，可以提高學(xué)習(xí)率，部分地簡化了預(yù)測過程，但輸入量過多，且預(yù)測的局限性較大。

在對比了眾多方法的優(yōu)缺點之后，發(fā)現(xiàn)BP神經(jīng)網(wǎng)絡(luò)普遍存在中間隱層數(shù)難以確定、輸入數(shù)據(jù)量過多，且學(xué)習(xí)時間過長等劣勢。因此本文提出了一種基于模糊神經(jīng)網(wǎng)絡(luò)的預(yù)測模型，所選取的輸入量是和當(dāng)天的發(fā)電量相關(guān)程度比較大的當(dāng)天的平均氣溫以及當(dāng)天的總?cè)照樟?，模糊神?jīng)網(wǎng)絡(luò)的結(jié)構(gòu)是由大量的先驗知識而設(shè)計出來的。在不影響預(yù)測精度的情況下，為了降低整個網(wǎng)絡(luò)的復(fù)雜程度，對整個網(wǎng)絡(luò)的模糊化層中的隸屬度函數(shù)及去模糊化層的輸出函數(shù)都做了適當(dāng)?shù)淖兓鉀Q了傳統(tǒng)神經(jīng)網(wǎng)絡(luò)收斂速度慢的問題，從而使整個神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)簡潔，訓(xùn)練速度較快，且預(yù)測精度較高。

1 模糊神經(jīng)網(wǎng)絡(luò)

模糊神經(jīng)網(wǎng)絡(luò)是在神經(jīng)網(wǎng)絡(luò)和模糊系統(tǒng)的基礎(chǔ)上發(fā)展起來的，在模糊神經(jīng)網(wǎng)絡(luò)出現(xiàn)之前，神經(jīng)網(wǎng)絡(luò)與模糊系統(tǒng)都已有了多年的研究歷史，都有著較完備的理論基礎(chǔ)。

模糊神經(jīng)網(wǎng)絡(luò)是一種將模糊邏輯推理的知識性結(jié)構(gòu)和神經(jīng)網(wǎng)絡(luò)的自學(xué)習(xí)能力結(jié)合起來的一種局部逼近網(wǎng)絡(luò)，融合彌補了神經(jīng)網(wǎng)絡(luò)在數(shù)據(jù)處理方面的不足和模糊邏輯在學(xué)習(xí)方面的缺陷，是一個集語言計算、邏輯推理、分布式處理和非線性動力學(xué)過程為一身的系統(tǒng)。因此，它具有處理不確定信息的模糊推理能力和依據(jù)樣本數(shù)據(jù)進行學(xué)習(xí)的能力。模糊神經(jīng)網(wǎng)絡(luò)主要利用神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)來實現(xiàn)模糊推理，從而使神經(jīng)網(wǎng)絡(luò)的權(quán)值具有在模糊邏輯中推理參數(shù)的物理意義。

常見的模糊神經(jīng)網(wǎng)絡(luò)有基于Mamdani推理的和基于Takgai-Sugeno推理的這兩種模糊神經(jīng)網(wǎng)絡(luò)。基于Mamdani推理的模糊神經(jīng)網(wǎng)絡(luò)多用于模糊邏輯控制器、模糊邏輯決策系統(tǒng)、模糊邏輯辨識系統(tǒng)等方面；基于Takgai-Sugeno推理的模糊神經(jīng)網(wǎng)絡(luò)則是一種非線性模型，宜于表達(dá)復(fù)雜系統(tǒng)的動態(tài)特性。光伏系統(tǒng)的發(fā)電量由于受日照量、溫度、濕度、材料轉(zhuǎn)換率等多方面因素的影響，因此，光伏系統(tǒng)的輸出是一個不穩(wěn)定的非線性變化的動態(tài)工程，所以本文所采用的就是基于Takgai-Sugeno推理的模糊神經(jīng)網(wǎng)絡(luò)（簡稱TS模糊神經(jīng)網(wǎng)絡(luò)）。

2 TS模糊神經(jīng)網(wǎng)絡(luò)

2.1 TS模糊邏輯

在TS模糊邏輯系統(tǒng)中，模糊規(guī)則有著如下的特殊形式：

R（1）：if x1 is F1l，…，if xnis Fnl then

y l=P0l+P1lx1+…+Pnlxn

3 預(yù)測模型的建立

3.1 輸入量的確定

光伏電池之所以能發(fā)電，是由于當(dāng)陽光照射到半導(dǎo)體材料的太陽能電池板上時，光能被吸收在太陽能電池內(nèi)，并且產(chǎn)生電子（-）和空穴（+），而負(fù)價的電子多向n型聚集，正價的空穴多向p型聚集，因此，將太陽能電池的正面和背面接上電極與燈泡等負(fù)荷連接，就能產(chǎn)生流。因此，日照量是影響光伏發(fā)電發(fā)電量的重要因素之一，所以日照量應(yīng)作為輸入量之一。此外光伏發(fā)電的發(fā)電量還受溫度、濕度、安裝角度、材料轉(zhuǎn)換率等眾多因素的影響，在這眾多因素中，溫度對光伏發(fā)電量的影響是較大的，因此將溫度作為另一個輸入量輸入到預(yù)測模型中。

本文的輸入量為日照量與溫度組成的一個2×1的列向量，因為本文所預(yù)測的是晴天一整日的發(fā)電量（單位kW?h/日），因此，日照量取一整日的日照量（單位kW?h/日），溫度取一整日的平均溫度（單位℃）。若輸入向量用x表示，一整天的日照量用h表示，溫度用t表示，則輸入量可表示為下面的形式：

x=[h，t]T

3.2 TS型模糊神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)與初始參數(shù)的確定

本文是針對全年晴天的當(dāng)天發(fā)電量做出預(yù)測的，所以按季節(jié)劃分將全年的數(shù)據(jù)劃分成了春、夏、冬，由于秋天的日照量與溫度和春天的接近，所以在本文中并沒有單獨列出秋季，而是只按春、夏、冬三季的數(shù)據(jù)來建模預(yù)測。

由已有的先驗知識，可將數(shù)據(jù)按照春、夏、冬三季進行劃分，所以模糊神經(jīng)網(wǎng)絡(luò)的規(guī)則層的隱層節(jié)點數(shù)也就為三，由于規(guī)則層已經(jīng)確定，故可以知道模糊化層與去模糊化層的隱層節(jié)點數(shù)均為三個，因此可知本文的模糊神經(jīng)網(wǎng)絡(luò)的預(yù)測模型結(jié)構(gòu)如圖2所示。

3.3 TS型模糊神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)算法

設(shè)有輸入、輸出樣本為{（xl，dl），l=1，2，…，L}，在這里L(fēng)表示訓(xùn)練樣本的數(shù)量，為輸入向量，在本文中表示由當(dāng)天日照量與當(dāng)天平均溫度組成的一個2×1的列向量。將網(wǎng)絡(luò)誤差E設(shè)為：

E=■（yl-dl）2-||y-d|22

其中，y=[y1，y2，…，yL]T，表示神經(jīng)網(wǎng)絡(luò)的實際輸出；d=[d1，d2，…dL]T，表示神經(jīng)網(wǎng)絡(luò)的期望輸出；||.|2表示向量的2范數(shù)。

本文中，在不影響結(jié)果的前提下，為了降低神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)算法的復(fù)雜度，故將隸屬度函數(shù)變?yōu)椋?/p>

ωij=exp-■（bij（xil-cij））2

將神經(jīng)網(wǎng)絡(luò)的輸出函數(shù)變?yōu)椋?/p>

yl =■ωij=（p0j+p1jx1l+…+pnjxnl）

因為本文是在MATLAB中進行編程預(yù)測，所以將各種數(shù)據(jù)都表示成矩陣的形式，通過對矩陣的處理，使模糊神經(jīng)網(wǎng)絡(luò)的理解難度和操作難度都大大降低，因此，規(guī)定X=[x1，x2，…，xL]表示輸入樣本組成的n×L維矩陣；Ω=[ω1，ω2，…，ωL]表示輸入樣本X的隸屬度函數(shù)值ωl j所組成的m×L維矩陣；P=[p0，p1，…，pn]表示線性系數(shù)pi j所組成的m×（n+1）維矩陣；C=[c1，c2，…，cm]表示中心ci j所組成的n×m維矩陣；B=[b1，b2，…，bm]表示中心寬度bi j所組成的n×m維矩陣。

在訓(xùn)練神經(jīng)網(wǎng)絡(luò)時，首先計算隸屬度函數(shù)值ωl j所組成的矩陣Ω=[ω1，ω2，…，ωL]，在此基礎(chǔ)上計算神經(jīng)網(wǎng)絡(luò)的輸出y及相應(yīng)的誤差E；然后計算誤差E對系數(shù)矩陣P，B，C的偏導(dǎo)數(shù)，根據(jù)梯度下降法更新P，B，C；最后利用P，B，C來更新Ω，E等參數(shù)。如果未達(dá)到退出條件，則繼續(xù)迭代，達(dá)到了，則退出整個迭代過程，最終，就可以完成整個模糊神經(jīng)網(wǎng)絡(luò)的訓(xùn)練。在MATLAB中矩陣P和B的初始值可以由normrnd函數(shù)隨機生成，而矩陣C則可以由kmeans函數(shù)得到相應(yīng)的初始聚類中心，通過訓(xùn)練數(shù)據(jù)的學(xué)習(xí)過程，得到一個符合要求的模糊神經(jīng)網(wǎng)絡(luò)。

4 預(yù)測模型的訓(xùn)練與結(jié)果分析

為了使模糊神經(jīng)網(wǎng)絡(luò)的訓(xùn)練有較高的精度，需要大量的數(shù)據(jù)對模型進行評估訓(xùn)練，本次模擬采用了120組數(shù)據(jù)進行預(yù)測，其中90組作為訓(xùn)練樣本，30組作為測試樣本，所用的數(shù)據(jù)均是隨機模擬5kW光伏逆變器日發(fā)電量數(shù)據(jù)， 在訓(xùn)練過程中，共取了90組數(shù)據(jù)來訓(xùn)練，因此L=90；而規(guī)則數(shù)共有3條，因此這里m=3；而輸入的是有溫度與日照量組成的兩行一列的列向量，因此n=2；為了使訓(xùn)練結(jié)果更加精確化，這里O置的最大迭代步數(shù)為1 000，迭代步長為0.001，圖3是訓(xùn)練預(yù)測結(jié)果與實際結(jié)果的折線圖。

在圖中，實線表示預(yù)測輸出，用“+”表示實際輸出，而用虛線表示實際輸出與預(yù)測輸出之間的差值，從圖中可以明顯看出訓(xùn)練好的模糊神經(jīng)網(wǎng)絡(luò)符合要求。隨后，再將用于測試的數(shù)據(jù)帶入已訓(xùn)練好的模糊神經(jīng)網(wǎng)絡(luò)中，結(jié)果如圖4所示。

圖4是用于測試的數(shù)據(jù)的實際輸出與預(yù)測輸出的比較，“+”表示實際輸出，實線表示預(yù)測輸出，虛線表示實際輸出與預(yù)測輸出的差值。從預(yù)測的結(jié)果來看，相較于傳統(tǒng)的預(yù)測方法來說，本文所提出的模糊神經(jīng)網(wǎng)絡(luò)的預(yù)測方法，不論是在預(yù)測精度上還是在訓(xùn)練收斂速度上，都有一定程度的提高，雖說本文的原始數(shù)據(jù)并非實測數(shù)據(jù)，但是本文所用的數(shù)據(jù)皆是參考了大量資料之后擬合出的數(shù)據(jù)，所以有實際參考價值。

5 結(jié) 語

為了提高光伏并網(wǎng)系統(tǒng)的穩(wěn)定性與安全性，本文提出了一種基于模糊神經(jīng)網(wǎng)絡(luò)的電量預(yù)測模型。根據(jù)光伏系統(tǒng)的發(fā)電原理與大量的研究資料，確定了以每一天的日照量與平均溫度為整個系統(tǒng)的輸入量，來對這一整天的光伏系統(tǒng)的發(fā)電量做出預(yù)測，并且根據(jù)已有的先驗知識與相關(guān)理論，確定了本文所用的模糊神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)。再通過擬合的符合實際的數(shù)據(jù)來訓(xùn)練整個模型，最后通過一組測試數(shù)據(jù)來測試本預(yù)測模型是否達(dá)到要求。實驗結(jié)果表明，本模型能較為準(zhǔn)確地預(yù)測出光伏發(fā)電系統(tǒng)一整天的發(fā)電量，具有一定的工程應(yīng)用價值。

主要參考文獻

第4篇：訓(xùn)練神經(jīng)網(wǎng)絡(luò)的方法范文

［關(guān)鍵詞］BP神經(jīng)網(wǎng)絡(luò)農(nóng)業(yè)工程農(nóng)業(yè)管理農(nóng)業(yè)決策

一、引言

采用神經(jīng)網(wǎng)絡(luò)算法的信息處理技術(shù)，以其較強的計算性和學(xué)習(xí)性，現(xiàn)如今已經(jīng)在各工程領(lǐng)域內(nèi)得到了廣泛應(yīng)用。隨著科技不斷的發(fā)展和研究的不斷深入，農(nóng)業(yè)系統(tǒng)中采用的傳統(tǒng)分析和管理的方法已經(jīng)不能滿足農(nóng)業(yè)工程領(lǐng)域快速發(fā)展的需要。在農(nóng)業(yè)系統(tǒng)中采用神經(jīng)網(wǎng)絡(luò)技術(shù)可在一定程度上可彌補傳統(tǒng)方法的不足，現(xiàn)已成為實現(xiàn)農(nóng)業(yè)現(xiàn)代化的一個重要途徑。神經(jīng)網(wǎng)絡(luò)現(xiàn)已在農(nóng)業(yè)生產(chǎn)的各個環(huán)節(jié)得到廣泛的應(yīng)用，從作物營養(yǎng)控制、作物疾病診斷、產(chǎn)量預(yù)測到產(chǎn)品分級，顯示了巨大的潛力，并正以很快的速度與生產(chǎn)實際相結(jié)合。目前應(yīng)用比較多的BP神經(jīng)網(wǎng)絡(luò)，可通過學(xué)習(xí)以任意精度逼近任何連續(xù)映射，在農(nóng)業(yè)生產(chǎn)與科研中展示出了廣闊的應(yīng)用前景。

BP人工神經(jīng)網(wǎng)絡(luò)方法。人工神經(jīng)網(wǎng)絡(luò)是對生物神經(jīng)網(wǎng)絡(luò)的簡化和模擬的一種信息處理系統(tǒng)，具有很強的信息存貯能力和計算能力，屬于一種非經(jīng)典的數(shù)值算法。通常可分為前向神經(jīng)網(wǎng)絡(luò)、反饋神經(jīng)網(wǎng)絡(luò)和自組織映射神經(jīng)網(wǎng)絡(luò)。BP神經(jīng)網(wǎng)絡(luò)(Backpropugation Neura1 Network)是一種單向傳播的多層前向神經(jīng)網(wǎng)絡(luò)，可通過連續(xù)不斷的在相對于誤差函數(shù)斜率下降的方向上計算網(wǎng)絡(luò)權(quán)值以及偏差的變化而逐漸逼近目標(biāo)值，每一次數(shù)字和偏差的變化都與網(wǎng)絡(luò)誤差的影響成正比，并以反向傳播的方式傳遞到每一層，從而實現(xiàn)了神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)過程。BP人工神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)如圖所示，BP神經(jīng)網(wǎng)絡(luò)可分為輸入層、中間層(隱含層)和輸出層，其中輸入和輸出都只有一層，中間層可有一層或多層。同層的網(wǎng)絡(luò)結(jié)點之間沒有連接。每個網(wǎng)絡(luò)結(jié)點表示一個神經(jīng)元，其傳遞函數(shù)通常采用Sigmoid型函數(shù)。BP神經(jīng)網(wǎng)絡(luò)相當(dāng)于從輸入到輸出的高度非線性映射，對于樣本輸入和輸出，可以認(rèn)為存在某一映射函數(shù)g，使得y0=g(xi)，i＝1，2，3，…，m，其中m為樣本數(shù)，xi為輸入樣本，yo為輸出結(jié)果。

BP神經(jīng)網(wǎng)絡(luò)的一個顯著優(yōu)點就是其可進行自學(xué)習(xí)，能夠通過訓(xùn)練得到預(yù)期的效果。其學(xué)習(xí)過程由正向傳播和反向傳播組成，神經(jīng)網(wǎng)絡(luò)的輸入值經(jīng)過非線性變換從輸入層經(jīng)隱含層神經(jīng)元的逐層處理傳向輸出層，此為正向傳播過程。每一層神經(jīng)元的狀態(tài)將影響到下一層神經(jīng)元狀態(tài)。如果輸出層得到的數(shù)值與期望輸出有一定的偏差，則轉(zhuǎn)入反向傳播過程。神經(jīng)網(wǎng)絡(luò)通過對輸入值和希望的輸出值(教師值)進行比較，根據(jù)兩者之間的差的函數(shù)來調(diào)整神經(jīng)網(wǎng)絡(luò)的各層的連接權(quán)值和各個神經(jīng)元的閾值，最終使誤差函數(shù)達(dá)到最小。其調(diào)整的過程是由后向前進行的，稱為誤差反向傳播BP算法。具體學(xué)習(xí)過程如下：

（1)隨機給各個權(quán)值賦一個初始權(quán)值，要求各個權(quán)值互不相等，且均為較小的非零數(shù)。

（2)輸入樣本集中每一個樣本值，確定相應(yīng)的網(wǎng)絡(luò)實際輸出值。

（3)計算實際的輸出值與相應(yīng)的樣本集中的相應(yīng)輸出值的差值。

（4)按極小誤差方式調(diào)整權(quán)值矩陣。

（5)判斷網(wǎng)絡(luò)誤差是否小于訓(xùn)練前人為設(shè)定的一個較小的值，若小于，則跳出運算，此時的結(jié)果為神經(jīng)網(wǎng)絡(luò)的最終訓(xùn)練結(jié)果；若大于，則繼續(xù)計算。

（6）判斷最大迭代次數(shù)是否大于預(yù)先設(shè)定的數(shù)，若小于，返回（2）;若大于，則中止運算，其結(jié)果為神經(jīng)網(wǎng)絡(luò)的最終訓(xùn)練結(jié)果。

上述的計算過程循環(huán)進行，直到完成給定的訓(xùn)練次數(shù)或達(dá)到設(shè)定的誤差終止值。

二、BP神經(jīng)網(wǎng)絡(luò)在農(nóng)業(yè)工程領(lǐng)域中的應(yīng)用

1.在農(nóng)業(yè)生產(chǎn)管理與農(nóng)業(yè)決策中的應(yīng)用

農(nóng)業(yè)生產(chǎn)管理受地域、環(huán)境、季節(jié)等影響較大，用產(chǎn)生式規(guī)則完整描述實際系統(tǒng)，可能會因組合規(guī)則過多而無法實現(xiàn)。神經(jīng)網(wǎng)絡(luò)的一個顯著的優(yōu)點就是其具有較強的自學(xué)習(xí)、自適應(yīng)、自組織能力，通過對有代表性的樣本的學(xué)習(xí)可以掌握學(xué)習(xí)對象的內(nèi)在規(guī)律，從而可以在一定程度上克服上述信息量大的問題。神經(jīng)網(wǎng)絡(luò)在農(nóng)業(yè)生產(chǎn)管理方面可用于農(nóng)作物生長過程中對農(nóng)作物生長需求進行預(yù)測，從而通過對養(yǎng)分、水分、溫度、以及PH值的優(yōu)化控制達(dá)到最優(yōu)的生長狀況。采用神經(jīng)網(wǎng)絡(luò)預(yù)測算法的主要思想可描述為：（1）收集一定規(guī)模的樣本集，采用BP算法進行訓(xùn)練，使網(wǎng)絡(luò)收斂到預(yù)定的精度；（2）將網(wǎng)絡(luò)權(quán)值矩陣保存到一存儲介質(zhì)中，例如文本文件或數(shù)據(jù)庫中；（3）對于待預(yù)測數(shù)據(jù)的輸入部分，從存儲介質(zhì)中讀出網(wǎng)絡(luò)連接權(quán)值矩陣，然后通過BP神經(jīng)網(wǎng)絡(luò)的前向傳播算法計算網(wǎng)絡(luò)輸出，輸出結(jié)果既是預(yù)測出來的數(shù)值向量。如霍再林等針對油葵不同階段的相對土壤含鹽濃度對其產(chǎn)量的影響有一定的規(guī)律的現(xiàn)象，以油葵的6個成長階段的土壤溶液含鹽的相對濃度為輸入樣本，相對產(chǎn)量為輸出樣本，通過比較發(fā)現(xiàn)，訓(xùn)練后的神經(jīng)網(wǎng)絡(luò)能較好預(yù)測油葵產(chǎn)量，采用此方法可補充傳統(tǒng)模型的不足，為今后進一步的研究開辟了新路。

在農(nóng)業(yè)決策方面，主要將農(nóng)業(yè)專家面對各種問題時所采取的方法的經(jīng)驗，作為神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)樣本，從而采用神經(jīng)網(wǎng)絡(luò)建立的專家系統(tǒng)將從一定程度上彌補了傳統(tǒng)方法的不足，將農(nóng)業(yè)決策智能化。如何勇、宋海燕針對傳統(tǒng)專家系統(tǒng)自學(xué)習(xí)能力差的缺點，利用神經(jīng)網(wǎng)絡(luò)可自我訓(xùn)練的優(yōu)點，將神經(jīng)網(wǎng)絡(luò)引入專家系統(tǒng)中。將小麥缺素時的田間宏觀表現(xiàn)，葉部、莖部、果實癥狀及引起缺素的原因這五個方面的可信度值作為神經(jīng)網(wǎng)絡(luò)的輸入量，將農(nóng)業(yè)專家診斷的結(jié)論作為輸出量，將這些數(shù)據(jù)作為神經(jīng)網(wǎng)絡(luò)的訓(xùn)練數(shù)據(jù)。實際應(yīng)用表明此系統(tǒng)自動診斷的結(jié)果與專家現(xiàn)場診斷的結(jié)果基本一致，從而采用該系統(tǒng)能夠取代專家，實現(xiàn)作物的自我診斷，為農(nóng)業(yè)管理方面提供了極大的幫助。如馬成林等針對于傳統(tǒng)施肥決策方法中非線性關(guān)系描述不足的問題，基于數(shù)據(jù)包分析和BP神經(jīng)網(wǎng)絡(luò)，建立了施肥決策模型，應(yīng)用表明，在有限的范圍內(nèi)，模型預(yù)測結(jié)果較為合理，可以反映玉米的需肥特性。劉鋮等人提出采用神經(jīng)網(wǎng)絡(luò)應(yīng)用在農(nóng)業(yè)生產(chǎn)決策中，以莜麥播種方式?jīng)Q策為例，通過對產(chǎn)生式規(guī)則的分析導(dǎo)出神經(jīng)網(wǎng)絡(luò)輸入、輸出單元數(shù)，并通過多次試驗確定隱層單元數(shù)，用MATLAB方針結(jié)果表明，采用神經(jīng)網(wǎng)絡(luò)作為農(nóng)業(yè)生產(chǎn)決策的方法，取得了較好的效果。譚宗琨提出將基于互聯(lián)網(wǎng)環(huán)境下的神經(jīng)網(wǎng)絡(luò)應(yīng)用在玉米智能農(nóng)業(yè)專家系統(tǒng)中，根據(jù)農(nóng)作物發(fā)育進程分成若干個發(fā)育期，分別對各個發(fā)育期建立管理模型，依照作物各發(fā)育期進程時間間隔，由計算機系統(tǒng)自動選取相應(yīng)的模型進行決策。應(yīng)用分析的結(jié)果表明采用神經(jīng)網(wǎng)絡(luò)的玉米智能專家系統(tǒng)已初步接近農(nóng)業(yè)生產(chǎn)的實際。

2.在農(nóng)產(chǎn)品外觀分析和品質(zhì)評判

農(nóng)產(chǎn)品的外觀，如形狀、大小、色澤等在生產(chǎn)過程中是不斷變化的，并且受人為和自然等復(fù)雜因素的影響較大。農(nóng)產(chǎn)品的外觀直接影響到農(nóng)產(chǎn)品的銷售，研究出農(nóng)作物外觀受人為和自然的影響因素，通過神經(jīng)網(wǎng)絡(luò)進行生產(chǎn)預(yù)測，可解決農(nóng)產(chǎn)品由于不良外觀而造成的損失。如Murase 等針對西紅柿表皮破裂的現(xiàn)象，西紅柿表皮應(yīng)力的增長與西紅柿果肉靠近表皮部分水分的增加有關(guān)，當(dāng)表皮應(yīng)力超過最大表皮強度時，將導(dǎo)致表皮破裂。用人工神經(jīng)網(wǎng)絡(luò)系統(tǒng)，預(yù)測在環(huán)境溫度下的表皮應(yīng)力，可通過控制環(huán)境變量來減少西紅柿表皮破裂所造成的損失。

在農(nóng)業(yè)科研和生產(chǎn)中，農(nóng)產(chǎn)品的品質(zhì)評判大多是依賴于對農(nóng)產(chǎn)品外觀的辨識。例如對果形尺寸和顏色等外觀判別果實的成熟度，作物與雜草的辨別，種子的外觀質(zhì)量檢測。由于農(nóng)業(yè)環(huán)境的復(fù)雜性和生物的多樣性，農(nóng)產(chǎn)品的外觀不具有較確定的規(guī)律性和可描述性，單一采用圖像處理技術(shù)辨識農(nóng)產(chǎn)品的外觀時不宜過多采取失真處理和變換，否則則增加圖像處理的復(fù)雜性，特征判別也相對困難。人工神經(jīng)網(wǎng)絡(luò)由于其具有自學(xué)習(xí)、自組織的能力，比較適宜解決農(nóng)業(yè)領(lǐng)域中許多難以用常規(guī)數(shù)學(xué)方法表達(dá)的復(fù)雜問題，與圖像處理技術(shù)相結(jié)合后，可根據(jù)圖像特征進行選擇性判別。采用此方法可以部分替代人工識別的工作，提高了生產(chǎn)效率，也有利于實現(xiàn)農(nóng)業(yè)現(xiàn)代化。如Liao等將玉米籽粒圖像用34個特征參數(shù)作為神經(jīng)網(wǎng)絡(luò)的輸入變量，將輸出的種粒形態(tài)分為5類，經(jīng)過學(xué)習(xí)的神經(jīng)網(wǎng)絡(luò)對完整籽粒分類的準(zhǔn)確率達(dá)到93％，破籽粒分類的準(zhǔn)確率達(dá)91％。

3.蔬菜、果實、谷物等農(nóng)產(chǎn)品的分級和鑒定

在農(nóng)業(yè)生產(chǎn)中，蔬菜、果實、谷物等農(nóng)產(chǎn)品的分級和鑒定是通過對農(nóng)產(chǎn)品外觀的辨識進行的。傳統(tǒng)的農(nóng)產(chǎn)品外觀的辨識方法費時費力、預(yù)測可靠度很低，而且多采用人工操作，評價受到操作者主觀因素的影響，評判的精度難以保證。利用人工神經(jīng)網(wǎng)絡(luò)技術(shù)結(jié)合圖像處理技術(shù)可部分代替以往這些主要依靠人工識別的工作，從而大大提高生產(chǎn)效率，實現(xiàn)農(nóng)業(yè)生產(chǎn)與管理的自動化和智能化。

利用BP神經(jīng)網(wǎng)絡(luò)技術(shù)對農(nóng)產(chǎn)品果形尺寸和顏色等外觀評判，目前國內(nèi)外已有不少成果用于實際生產(chǎn)中。何東健等以計算機視覺技術(shù)進行果實顏色自動分級為目的，研究了用人工神經(jīng)網(wǎng)絡(luò)進行顏色分級的方法。分別用120個著色不同的紅星和紅富士蘋果作為訓(xùn)練樣本集對網(wǎng)絡(luò)進行離線訓(xùn)練。兩個品種的蘋果先由人工依據(jù)標(biāo)準(zhǔn)按著色度分成4級，對每一個品種分別求出7個模式特征值作為BP網(wǎng)絡(luò)的輸入，用訓(xùn)練好的神經(jīng)網(wǎng)絡(luò)進行分級。結(jié)果表明紅富士和紅星果實的平均分級一致率分別為94.2％和94.4％。劉禾等用對稱特征、長寬特征、寬度特征、比值特征等一系列特征值來描述果形。采用BP網(wǎng)絡(luò)與人工智能相結(jié)合，建立果形判別人工神經(jīng)網(wǎng)絡(luò)專家系統(tǒng)。試驗水果品種為富士和國光。試驗表明系統(tǒng)對富士學(xué)習(xí)率為80％，對非學(xué)習(xí)樣本的富士蘋果的果形判別推確率為75％，系統(tǒng)對國光學(xué)習(xí)率為89％，對非學(xué)習(xí)樣本的國光蘋果果形判別系統(tǒng)的難確率為82％。

三、未來的發(fā)展方向

人工神經(jīng)網(wǎng)絡(luò)的信息處理技術(shù)現(xiàn)已在農(nóng)業(yè)工程領(lǐng)域內(nèi)得到了迅速的應(yīng)用，采用人工神經(jīng)網(wǎng)絡(luò)算法的農(nóng)業(yè)系統(tǒng)能夠從一定程度上改善控制效果，但此技術(shù)在農(nóng)業(yè)范圍內(nèi)還不夠成熟，有待于進一步的研究。今后科研的方向大體上可以從以下幾方面著手：

1.人工神經(jīng)網(wǎng)絡(luò)算法的改進

人工神經(jīng)網(wǎng)絡(luò)算法由于本身具有一定的缺點，從而采用人工神經(jīng)網(wǎng)絡(luò)的算法的信息處理技術(shù)在應(yīng)用過程中具有一定的局限性。在今后的研究中，可以從人工神經(jīng)網(wǎng)絡(luò)方向著手，改進人工神經(jīng)網(wǎng)絡(luò)算法，從而實現(xiàn)其在農(nóng)業(yè)領(lǐng)域內(nèi)更好的應(yīng)用。近年來隨著模糊算法、蟻群算法等算法的相繼出現(xiàn)，將神經(jīng)網(wǎng)絡(luò)與其他算法結(jié)合在一起已經(jīng)成為了研究的熱門話題，也是未來算法研究的主要方向之一。

2.應(yīng)用領(lǐng)域的擴展

人工神經(jīng)網(wǎng)絡(luò)算法在農(nóng)業(yè)工程方面現(xiàn)已得到了迅速的發(fā)展，擴展其在農(nóng)業(yè)工程領(lǐng)域的應(yīng)用范圍是未來的一個主要研究方向。人工神經(jīng)網(wǎng)絡(luò)由于其具有自學(xué)習(xí)能力，可對農(nóng)業(yè)系統(tǒng)的非線形特性進行較好的描述，采用人工神經(jīng)網(wǎng)絡(luò)可解決傳統(tǒng)方法的不足，從而實現(xiàn)農(nóng)業(yè)現(xiàn)代化。如何將神經(jīng)網(wǎng)絡(luò)較好地引入到農(nóng)業(yè)系統(tǒng)，解決農(nóng)業(yè)工程中的部分問題，已是今后農(nóng)業(yè)科研中的一個方向。

四、結(jié)束語

神經(jīng)網(wǎng)絡(luò)作為一種人工智能范疇的計算方法，具有良好的自學(xué)習(xí)與數(shù)學(xué)計算的能力，可通過計算機程序進行模擬運算，現(xiàn)已廣泛用于模式識別、管理決策等方面。隨著計算機硬件和軟件的不斷發(fā)展與農(nóng)業(yè)工程方面的研究的不斷深入，神經(jīng)網(wǎng)絡(luò)將在農(nóng)業(yè)管理、農(nóng)業(yè)決策、農(nóng)作物外觀分類、品質(zhì)評判等方面充分發(fā)揮其自學(xué)習(xí)能力強，計算能力強的優(yōu)勢，通過對樣本數(shù)據(jù)的學(xué)習(xí)，神經(jīng)網(wǎng)絡(luò)可較好地解決農(nóng)作物生長過程中的作物分類、預(yù)測等非線形的問題。在農(nóng)業(yè)工程領(lǐng)域內(nèi)，神經(jīng)網(wǎng)絡(luò)擁有廣闊的科研前景。

參考文獻:

[1]余英林李海洲:神經(jīng)網(wǎng)絡(luò)與信號分析[M]. 廣州: 華南理工大學(xué)出版社,1996:45

[2]霍再林史海濱孔東等: 基于人工神經(jīng)網(wǎng)絡(luò)的作物水―鹽響應(yīng)初步研究[J].內(nèi)蒙古農(nóng)業(yè)大學(xué)學(xué)報，2003，24（3）：66～70

[3]何勇宋海燕:基于神經(jīng)網(wǎng)絡(luò)的作物營養(yǎng)診斷專家系統(tǒng)[J]. 農(nóng)業(yè)工程學(xué)報,2005,21（1）:110～113

[4]馬成林吳才聰張書慧等:基與數(shù)據(jù)包絡(luò)分析和人工神經(jīng)網(wǎng)絡(luò)的變量施肥決策方法研究[J].農(nóng)業(yè)工程學(xué)報,2006，20（2）:152～155

[5]劉鋮楊盤洪: 莜麥播種方式?jīng)Q策的BP神經(jīng)網(wǎng)絡(luò)模型[J]. 太原理工大學(xué)學(xué)報，2006,37(5):119～121

[6]譚宗琨: BP人工神經(jīng)網(wǎng)絡(luò)在玉米智能農(nóng)業(yè)專家系統(tǒng)中的應(yīng)用[J].農(nóng)業(yè)網(wǎng)絡(luò)信息，2004(10):9～1

[7]Liao K,Li Z,Reid J F,et al.Knoledge-based color discrimination of corn kernels[J].ASAE paper[C].92～3579

第5篇：訓(xùn)練神經(jīng)網(wǎng)絡(luò)的方法范文

關(guān)鍵詞：圖像復(fù)原 BP神經(jīng)網(wǎng)絡(luò) Hopfield神經(jīng)網(wǎng)絡(luò) 應(yīng)用

中圖分類號：TP391.41 文獻標(biāo)識碼：A 文章編號：1007-9416（2013）11-0040-02

1 引言

圖像復(fù)原是一項富有現(xiàn)實意義的工作，它涉及到廣泛的技術(shù)領(lǐng)域，是圖像處理領(lǐng)域研究的焦點之一。在得到圖像的過程中，由于各種各樣的原因，包括與觀測對象的相對運動、介質(zhì)散射、成像系統(tǒng)缺陷和環(huán)境噪聲等原因，使得最終的圖像都會有一定程度的退化。圖像復(fù)原就是從退化的圖像中恢復(fù)圖像的本來面目。傳統(tǒng)的圖像復(fù)原處理問題的關(guān)鍵在于建立退化模型，估計退化過程中的參數(shù)，由此通過相應(yīng)的逆過程得到原始圖像。獲得準(zhǔn)確的圖像退化模型是比較困難的事情。大多數(shù)圖像復(fù)原的實際問題是點擴展函數(shù)以及原始圖像均未知的盲復(fù)原問題，這類問題具有更嚴(yán)重的病態(tài)性因而進一步增加了解決的難度。人工神經(jīng)網(wǎng)絡(luò)（Artificial Neural Network，ANN）為圖像復(fù)原問題的解決提供了另外一條路徑，這是基于人工神經(jīng)網(wǎng)絡(luò)具有的模擬人類神經(jīng)的非線性、自組織、自學(xué)習(xí)、自適應(yīng)特性。一般而言，人工神經(jīng)網(wǎng)絡(luò)適合于解決無法或很難精確建立數(shù)學(xué)模型、不完全清楚內(nèi)部機理的問題，人工神經(jīng)網(wǎng)絡(luò)的很多特性適合解決圖像復(fù)原問題。近些年來，對人工神經(jīng)網(wǎng)絡(luò)應(yīng)用于圖像復(fù)原的研究越來越多，形成了很多豐富的神經(jīng)網(wǎng)絡(luò)模型和算法。BP（Back Propagation反向傳播）和Hopfield（霍普菲爾德）是典型的人工神經(jīng)網(wǎng)絡(luò)類型，也是在圖像復(fù)原領(lǐng)域應(yīng)用較多的神經(jīng)網(wǎng)絡(luò)類型。

2 BP神經(jīng)網(wǎng)絡(luò)在圖像復(fù)原中的應(yīng)用

2.1 BP神經(jīng)網(wǎng)絡(luò)的特性

BP神經(jīng)網(wǎng)絡(luò)是上世紀(jì)80年代美國加州大學(xué)的Rumelhart、McClelland及其團隊研究并行分布信息處理時提出的采用反向傳播算法的多層前饋網(wǎng)絡(luò)。BP神經(jīng)網(wǎng)絡(luò)具有良好的泛化能力，其隱層的非線性傳遞函數(shù)神經(jīng)元可以學(xué)習(xí)輸入輸出之間的線性或非線性關(guān)系。在1989年，RobertHecht-Nielson證明了對于任何一個在閉區(qū)間內(nèi)連續(xù)的函數(shù)都可以由具有一個隱含層的BP網(wǎng)絡(luò)來逼近，這樣，一個三層（輸入層、隱層和輸出層）的BP神經(jīng)網(wǎng)絡(luò)即能完成對多維度函數(shù)的逼近。這些特性，使得選用BP神經(jīng)網(wǎng)絡(luò)簡單地實現(xiàn)在未知點擴展函數(shù)的情況下，擬合原始圖像與退化圖像之間的關(guān)系，從而得到滿意的圖像復(fù)原結(jié)果成為可能。

2.2 BP神經(jīng)網(wǎng)絡(luò)應(yīng)用于圖像復(fù)原

BP神經(jīng)網(wǎng)絡(luò)用退化圖像與相對應(yīng)的原始圖像進行訓(xùn)練，退化圖像為網(wǎng)絡(luò)的輸入，原始圖像為網(wǎng)絡(luò)的輸出。訓(xùn)練完成的神經(jīng)網(wǎng)絡(luò)會在退化圖像與原始圖像之間建立非線性的映射關(guān)系，使得利用這種非線性關(guān)系即可實現(xiàn)在只有退化圖像的情況下對齊進行復(fù)原。

利用BP神經(jīng)網(wǎng)絡(luò)進行圖像復(fù)原，一般用輸入圖像的N×N鄰域內(nèi)的N2個像素點對應(yīng)輸出圖像的一個像素點。這樣的對應(yīng)方法會使整個運算量增大，但正由于參與運算的像素點增加，使得網(wǎng)絡(luò)具有更好的泛化和魯棒能力。由于三層BP神經(jīng)網(wǎng)絡(luò)可以任意精度逼近某一多維度函數(shù)，因而其應(yīng)用于圖像復(fù)原時使用三層網(wǎng)絡(luò)結(jié)構(gòu)。輸入層和輸入層節(jié)點數(shù)分別由輸入圖像像素數(shù)量和輸出圖像像素數(shù)量決定，隱層節(jié)點數(shù)量和訓(xùn)練方法在很大程度上決定了網(wǎng)絡(luò)性能。

為了便于網(wǎng)絡(luò)計算，通過神經(jīng)網(wǎng)絡(luò)計算前通常將輸入圖像進行歸一化。以灰度圖像為例，將圖像數(shù)據(jù)[0～255]轉(zhuǎn)換到[-1～1]或[0～1]。圖像經(jīng)過神經(jīng)網(wǎng)絡(luò)復(fù)原后還需進行反歸一化轉(zhuǎn)換，將計算得到的數(shù)據(jù)轉(zhuǎn)換為圖像數(shù)據(jù)，即將[-1～1]或[0～1]轉(zhuǎn)換到[0～255]。

通常，運用BP網(wǎng)絡(luò)進行圖像復(fù)原算法流程包括：（1）圖像的預(yù)處理，得到歸一化的便于神經(jīng)網(wǎng)絡(luò)計算的數(shù)據(jù)；（2）使用退化圖像與對應(yīng)的原始圖像（訓(xùn)練BP神經(jīng)網(wǎng)絡(luò)；（3）將待復(fù)原圖像輸入訓(xùn)練好的BP神經(jīng)網(wǎng)絡(luò)進行圖像復(fù)原；（4）數(shù)據(jù)的后處理，將網(wǎng)絡(luò)輸出數(shù)據(jù)進行反歸一化，得到復(fù)原圖像。

3 Hopfield神經(jīng)網(wǎng)絡(luò)在圖像復(fù)原中的應(yīng)用

3.1 Hopfield神經(jīng)網(wǎng)絡(luò)的特性

不同于BP神經(jīng)網(wǎng)絡(luò)，Hopfield神經(jīng)網(wǎng)絡(luò)是一種單層反饋網(wǎng)絡(luò)，信號在網(wǎng)絡(luò)中不僅向前傳遞，還在神經(jīng)元之間傳遞。圖1是有三個神經(jīng)元的Hopfield神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)圖。Hopfield神經(jīng)網(wǎng)絡(luò)由美國加州理工學(xué)院物理學(xué)家J·J·Hopfield在上世紀(jì)80年代提出，并首次在神經(jīng)網(wǎng)絡(luò)研究中引入了計算能量函數(shù)的概念，通過研究網(wǎng)絡(luò)的穩(wěn)定性與計算能量函數(shù)的相關(guān)性給出了網(wǎng)絡(luò)的穩(wěn)定性判據(jù)。J·J·Hopfield運用Hopfield神經(jīng)網(wǎng)絡(luò)成功地探討了旅行商問題（TSP）的求解方法。HNN神經(jīng)網(wǎng)絡(luò)采用灌輸式學(xué)習(xí)方式，其網(wǎng)絡(luò)權(quán)值是事先按一定規(guī)則計算出來的，確定之后不再改變，各神經(jīng)元的狀態(tài)在運行過程中不斷更新，網(wǎng)絡(luò)穩(wěn)定時各神經(jīng)元的狀態(tài)便是問題的解。Hopfield神經(jīng)網(wǎng)絡(luò)的這些自身特征使其適于應(yīng)用于聯(lián)想記憶和求解最優(yōu)化問題。

3.2 Hopfield神經(jīng)網(wǎng)絡(luò)應(yīng)用于圖像復(fù)原

利用神經(jīng)網(wǎng)絡(luò)進行圖像復(fù)原的方法分為兩類：一種是用原始圖像和模糊圖像構(gòu)成的樣本訓(xùn)練神經(jīng)網(wǎng)絡(luò)，在訓(xùn)練好的網(wǎng)絡(luò)中建立起原始圖像與模糊圖像的非線性映射關(guān)系，然后以帶復(fù)原的模糊圖像作為網(wǎng)絡(luò)的輸入，經(jīng)過網(wǎng)絡(luò)輸出的圖像數(shù)據(jù)就是經(jīng)過復(fù)原的圖像，BP神經(jīng)網(wǎng)絡(luò)就是運用這種方法進行圖像復(fù)原的典型神經(jīng)網(wǎng)絡(luò)。另一種是經(jīng)過神經(jīng)網(wǎng)絡(luò)反復(fù)的數(shù)學(xué)迭代計算復(fù)原，運用Hopfield神經(jīng)網(wǎng)絡(luò)進行圖像復(fù)原屬于這類方法。

其中是神經(jīng)網(wǎng)絡(luò)的狀態(tài)向量，為網(wǎng)絡(luò)的權(quán)值矩陣，為由網(wǎng)絡(luò)中各神經(jīng)元閾值構(gòu)成的向量。Hopfield神經(jīng)網(wǎng)絡(luò)的運行結(jié)果即網(wǎng)絡(luò)達(dá)到穩(wěn)定狀態(tài)就是達(dá)到最小值時的狀態(tài)。由式（4）和（5）可以看出圖像復(fù)原的目標(biāo)函數(shù)與Hopfield神經(jīng)網(wǎng)絡(luò)能量函數(shù)具有相似的表達(dá)形式，因而可以建立兩者之間的聯(lián)系，從而將圖像復(fù)原問題轉(zhuǎn)變?yōu)樯窠?jīng)網(wǎng)絡(luò)的運算問題，這也就是Hopfield神經(jīng)網(wǎng)絡(luò)應(yīng)用于圖像復(fù)原的基本原理。

運用Hopfield神經(jīng)網(wǎng)絡(luò)解決圖像復(fù)原問題首先要確定網(wǎng)絡(luò)的權(quán)值矩陣。可以按照Hebb學(xué)習(xí)規(guī)則得出[4]。完成網(wǎng)絡(luò)初始化后，將退化圖像輸入網(wǎng)絡(luò)，從網(wǎng)絡(luò)中選取一個神經(jīng)元按照Hopfield神經(jīng)網(wǎng)絡(luò)的運算規(guī)則得出神經(jīng)元的輸出，將所有神經(jīng)元求出輸出后判斷該網(wǎng)絡(luò)是否達(dá)到穩(wěn)定狀態(tài)，即計算前后的網(wǎng)絡(luò)能量函數(shù)的誤差是否小于要求的范圍。如果網(wǎng)絡(luò)不穩(wěn)定，需要重復(fù)迭代計算；網(wǎng)絡(luò)達(dá)到穩(wěn)定狀態(tài)時，神經(jīng)網(wǎng)絡(luò)的狀態(tài)向量就是要求的原始圖像。經(jīng)過一定的后處理就能得到具有一定精度的原始圖像。

4 結(jié)語

人工神經(jīng)網(wǎng)絡(luò)在圖像復(fù)原問題中的應(yīng)用已經(jīng)擴展到了很多方面，包括三維顯微圖像、高能閃光照相等領(lǐng)域[5-6]。神經(jīng)網(wǎng)絡(luò)在圖像復(fù)原中的應(yīng)用機理也不斷得到深入研究。這些得益于神經(jīng)網(wǎng)絡(luò)算法不依賴求解問題本身數(shù)學(xué)模型的特點，以及自身強大的泛化能力。BP和Hopfield神經(jīng)網(wǎng)絡(luò)都能成功地運用在圖像復(fù)原問題中，在選用神經(jīng)網(wǎng)絡(luò)進行圖像復(fù)原研究時要注意到BP神經(jīng)網(wǎng)絡(luò)強烈地依賴退化圖像與原始圖像構(gòu)成的樣本集合對網(wǎng)絡(luò)進行訓(xùn)練，這就要求得到足夠的先驗知識或者通過某種算法得到退化圖像與原始圖像相對應(yīng)的樣本群。Hopfield神經(jīng)網(wǎng)絡(luò)不依賴于退化圖像與原始圖像的先驗知識，可以直接針對退化圖像進行復(fù)原。這就需要根據(jù)不同的實際情況選取合適的網(wǎng)絡(luò)類型來解決問題。

參考文獻

[1]尚鋼，鐘珞，陳立耀.神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)與參數(shù)選取[J].武漢工業(yè)大學(xué)學(xué)報，1997，19（2）.

[2]王晗.基于Hopfield神經(jīng)網(wǎng)絡(luò)的圖像恢復(fù)[D].武漢：華中科技大學(xué)南京理工大學(xué)，2006年4月.

[3]席旭剛，羅志增.用Hopfield神經(jīng)網(wǎng)絡(luò)實現(xiàn)觸覺圖像恢復(fù)[J].儀器儀表學(xué)報，2008，30（10）.

[4] Bianchini M，F(xiàn)rasconi P.Learning without local minima in radial basis function networks[J].IEEE Transaction on Neural Networks，1995，6（3）：749～756.

第6篇：訓(xùn)練神經(jīng)網(wǎng)絡(luò)的方法范文

關(guān)鍵詞：人工神經(jīng)網(wǎng)絡(luò)；電力變壓器；故障診斷

中圖分類號：TP393 文獻標(biāo)識碼：A 文章編號：1009-3044（2016）32-0174-03

1引言

電力變壓器在長期的運行中，故障是不可避免的。變壓器一旦損壞會造成大面積停電且故障修復(fù)耗時長，因此變壓器故障的及早發(fā)現(xiàn)和處理具有非常重要的意義。

電力變壓器的故障一般有機械故障、熱性故障和電性故障，由于機械故障一般都以熱性故障和電性故障的形式體現(xiàn)，因此主要以熱性故障和電性故障為主。熱性故障一般為中低溫過熱和高溫過熱，電性故障一般為低能放電和高能放電。傳統(tǒng)的變壓器故障診斷方法存在著效率偏低以及診斷準(zhǔn)確率不高的問題，因此我們可以利用人工神經(jīng)網(wǎng)絡(luò)的方法對電力變壓器的故障進行自動診斷。

2人工神經(jīng)網(wǎng)絡(luò)

2.1 人工神經(jīng)網(wǎng)絡(luò)概述

人工神經(jīng)網(wǎng)絡(luò)（ANNs）是對人腦或生物神經(jīng)網(wǎng)絡(luò)若干基本特性的抽象和模擬。

依靠系統(tǒng)的復(fù)雜程度，ANNs可通過調(diào)整內(nèi)部大量節(jié)點之間相互連接的關(guān)系，進而對有效信息進行可靠處理。而BP神經(jīng)網(wǎng)絡(luò)通常是指基于誤差反向傳播（Back Propagation）算法的多層前向神經(jīng)網(wǎng)絡(luò)， 不僅能對輸入-輸出模式映射關(guān)系進行學(xué)習(xí)和存儲，而且對描述此種映射關(guān)系的數(shù)學(xué)方程不需要事前揭示。最速下降法為BP神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)規(guī)則，通過反向傳播來持續(xù)調(diào)整網(wǎng)絡(luò)的權(quán)值和閾值，使其誤差平方和最小。

本文采用BP神經(jīng)網(wǎng)絡(luò)的三層前饋結(jié)構(gòu)，分別為（input）、隱含層（hide layer）和輸出層（output layer）。輸入層的節(jié)點數(shù)為5（對應(yīng)電力變壓器油中氣體H2、CH4、C2H4、C2H2、C2H6），輸出層則有5個節(jié)點（對應(yīng)無故障，中低溫過熱，高溫過熱，低能放電，高能放電），隱含層的節(jié)點數(shù)根據(jù)經(jīng)驗公式確定：

其中，r為隱層的節(jié)點數(shù)，n為輸入的節(jié)點數(shù)，m為輸出的節(jié)點數(shù)，a則為1～10之間的常數(shù)。經(jīng)試驗，本文r取13。各層間神經(jīng)元相互連接，且各層內(nèi)沒有連接。如圖1所示：

BP神經(jīng)網(wǎng)絡(luò)的訓(xùn)練首先對每一層的權(quán)值和偏差進行初始化（用小的隨機數(shù)），以免被大的加權(quán)輸入飽和，并且需對一些參數(shù)進行設(shè)定及初始化（期望的誤差最小值、最大循環(huán)次數(shù)、修正權(quán)值的學(xué)習(xí)效率）；第二步需要對網(wǎng)絡(luò)各層輸出矢量及網(wǎng)絡(luò)誤差進行計算；第三步需要對各層反向傳播的誤差變化、各層權(quán)層的修正值及新的權(quán)值進行計算，最后需要對權(quán)值修正后的誤差平方和進行計算，若符合要求則訓(xùn)練完成，若不符合要求則繼續(xù)。

2.2電力變壓器故障診斷的BP神經(jīng)網(wǎng)絡(luò)設(shè)計

2.2.1樣本數(shù)據(jù)的定義

電力變壓器的故障主要體現(xiàn)為中低溫過熱、高溫過熱、低能放電和高能放電。電力變壓器的故障數(shù)據(jù)一共為70組，其中樣本集數(shù)據(jù)為50組，測試集數(shù)據(jù)為20組，且分別定義樣本數(shù)據(jù)如下：

無故障，記為10000；

中低溫過熱，記為01000；

高溫過熱，記為00100；

低能放電，記為00010；

高能放電，記為00001。

2.2.2樣本數(shù)據(jù)的預(yù)處理

為提高神經(jīng)網(wǎng)絡(luò)的訓(xùn)練效率，本論文對數(shù)據(jù)進行了標(biāo)準(zhǔn)化處理，使其落入[-1，1]區(qū)間；并且對輸入樣本集數(shù)據(jù)進行了主元分析，以減小各樣本矢量的相關(guān)性，從而達(dá)到降維的目的。

2.2.3 BP神經(jīng)網(wǎng)絡(luò)設(shè)計參數(shù)設(shè)置

MATLAB中，BP神經(jīng)網(wǎng)絡(luò)設(shè)計需要定義有關(guān)參數(shù)：訓(xùn)練步數(shù)、顯示訓(xùn)練結(jié)果的間隔步數(shù)、訓(xùn)練目標(biāo)誤差、訓(xùn)練允許時間和訓(xùn)練中最小允許梯度值等，最終可返回訓(xùn)練后的權(quán)值、循環(huán)訓(xùn)練的總數(shù)和最終誤差。神經(jīng)網(wǎng)絡(luò)對象的一些主要訓(xùn)練參數(shù)及含義如表1所示。

2.2.4 BP神經(jīng)網(wǎng)絡(luò)驗證

表2列出了20組測試集數(shù)據(jù)，最后一列為網(wǎng)絡(luò)期望輸出，對應(yīng)變壓器的實際故障類型。

由電力變壓器故障診斷的誤差變化曲線可知：在使用BP神經(jīng)網(wǎng)絡(luò)法對網(wǎng)絡(luò)進行訓(xùn)練時，網(wǎng)絡(luò)只訓(xùn)練了112步，速度非常的快。網(wǎng)絡(luò)的訓(xùn)練均方誤差此時已經(jīng)達(dá)到目標(biāo)誤差0.01的數(shù)量級，因此該網(wǎng)絡(luò)可用。對樣本集數(shù)據(jù)進行訓(xùn)練后，我們可得到一個相關(guān)的BP神經(jīng)網(wǎng)絡(luò)模型，再用測試集數(shù)據(jù)對改模型進行驗證，驗證結(jié)果如表3所示。（注：圖中*號表示該BP神經(jīng)網(wǎng)絡(luò)模型診斷錯誤的數(shù)據(jù)組）

由以上BP神經(jīng)網(wǎng)絡(luò)自動診斷結(jié)果可以得知：電力變壓器故障診斷正確的個數(shù)為18個，故診斷正確率為90%左右。

3 結(jié)論

本文應(yīng)用人工神經(jīng)網(wǎng)絡(luò)的方法對電力變壓器的故障進行了自動診斷，診斷正確率可達(dá)90%。隨著計算機技術(shù)和人工智能技術(shù)的發(fā)展，利用人工神經(jīng)網(wǎng)絡(luò)進行變壓器的故障診斷有利于有效地實現(xiàn)對故障的綜合診斷，從而提高故障診斷的準(zhǔn)確性，可靠性和診斷效率，為變壓器故障診斷技術(shù)的發(fā)展拓展新的途徑。

參考文獻：

[1] 張錚，徐超，任淑霞，等.數(shù)字圖像處理與機器視覺――Visual C++與Matlab實現(xiàn)[M].北京：人民郵電出版社，2014.

[2] 馬銳.人工神經(jīng)網(wǎng)絡(luò)原理[M].北京：機械工業(yè)出版社，2010.

[3] 郭磊，董秀成.BP神經(jīng)網(wǎng)絡(luò)在變壓器故障診斷中的應(yīng)用[J] .西華大學(xué)學(xué)報，2008（5）：10-13.

[4] 殷躍.基于BP神經(jīng)網(wǎng)絡(luò)的電力變壓器故障診斷的研究[D].吉林：吉林大學(xué)通信工程學(xué)院，2007.

[5] 王連成.基于神經(jīng)網(wǎng)絡(luò)的DGA法在變壓器故障診斷中的應(yīng)用研究[D].黑龍江：哈爾濱工業(yè)大學(xué)電氣工程及自動化學(xué)院，2009.

[6] 李霖.基于BP神經(jīng)網(wǎng)絡(luò)的變壓器故障診斷方法研究[D].湖南：長沙理工大學(xué)電氣與信息工程學(xué)院，2013.

[7] 曾成碧，蒲維，曾先鋒.BP神經(jīng)網(wǎng)絡(luò)在油浸式變壓器過熱性故障診斷中的應(yīng)用[J]. 四川電力技術(shù)，2012（4）：60-63.

[8] 陳小玉.改進的神經(jīng)網(wǎng)絡(luò)在變壓器故障診斷中的應(yīng)用[J].計算機仿真，2012（8）：318-321.

[9] 宋彩利， 吳宏岐.神經(jīng)網(wǎng)絡(luò)在變壓器故障診斷中的應(yīng)用研究[J].微計算機信息，2008（34）：155-157.

第7篇：訓(xùn)練神經(jīng)網(wǎng)絡(luò)的方法范文

關(guān)鍵詞：匯率預(yù)測 非線性 神經(jīng)網(wǎng)絡(luò)

一、神經(jīng)網(wǎng)絡(luò)模型

關(guān)于神經(jīng)網(wǎng)絡(luò)，學(xué)界尚無一個嚴(yán)格統(tǒng)一的定義，一般來說，人工神經(jīng)網(wǎng)絡(luò)就是基于模仿生物大腦的結(jié)構(gòu)和功能，由許多簡單的并行工作的處理單元組成的，采用數(shù)學(xué)和物理方法進行研究而構(gòu)成的一種信息處理系統(tǒng)或計算機，該系統(tǒng)是依據(jù)對外部輸入信息的動態(tài)響應(yīng)來處理信息的。人工神經(jīng)網(wǎng)絡(luò)已經(jīng)完全不同于一般計算機的串行工作方式，其操作既不是串行的，也不是預(yù)先設(shè)定操作程序的，其基礎(chǔ)是訓(xùn)練而非優(yōu)化，目的是尋找到一個最優(yōu)的權(quán)重集合使輸出結(jié)果與實際最接近。

本文選用反饋型神經(jīng)網(wǎng)絡(luò)中的Elman網(wǎng)絡(luò)模型進行匯率預(yù)測。反饋型神經(jīng)網(wǎng)絡(luò)是一種從輸出到輸入具有反饋連接的神經(jīng)網(wǎng)絡(luò)，其結(jié)構(gòu)比前饋網(wǎng)絡(luò)要復(fù)雜得多，擁有比前饋型神經(jīng)網(wǎng)絡(luò)更強的計算能力，其突出優(yōu)點是具有很強的聯(lián)想記憶和優(yōu)化計算功能。

Elman網(wǎng)絡(luò)的非線性狀態(tài)空間表達(dá)式為：

其中，u表示r維輸入向量，x表示n維隱藏層節(jié)點單元向量，xc表示 維反饋狀態(tài)向量，y表示m維輸出節(jié)點向量。ω1、ω2、ω3分別表示輸入層到隱藏層、連接層到隱藏層、隱藏層到輸出層的連接權(quán)值。G（?）為輸出神經(jīng)元函數(shù)，F(xiàn)（?）是隱藏層輸出的線性組合。 為隱藏層神經(jīng)元的傳遞函數(shù)，即激活函數(shù)，一般采用Sigmoid函數(shù)。

二、數(shù)據(jù)選擇與處理

本文選擇從2003年1月2日到2013年12月31日這11年的歐元兌美元匯率日平均價格數(shù)據(jù)，樣本數(shù)均為2759，利用Matlab軟件進行分析。

為了使數(shù)據(jù)在模型訓(xùn)練過程中更好地收斂，在進行網(wǎng)絡(luò)訓(xùn)練之前，首先對匯率數(shù)據(jù)進行歸一化處理，使得匯率波動處在0到1之間，歸一化公式為，

其中，ut表示t期歸一化日匯率，pt表示t期匯率價格，pmin表示匯率樣本集中的最小值，pmax表示匯率樣本集中的最大值，結(jié)果如圖1所示。

圖1

網(wǎng)絡(luò)訓(xùn)練完成后需要進行樣本外預(yù)測，為了度量預(yù)測效果，需要選擇性能指標(biāo)對神經(jīng)網(wǎng)絡(luò)的預(yù)測性能進行檢測，本文選擇均方根誤差（RMSE）。

其中，Y為模型預(yù)測所得數(shù)據(jù)，T為目標(biāo)數(shù)據(jù)，N為數(shù)據(jù)量。

三、實證分析

本文用試湊法選擇Elman神經(jīng)網(wǎng)絡(luò)的滯后期數(shù)，也就是決定了模型的輸入層和隱藏層神經(jīng)元數(shù)，用Matlab檢測，用不同數(shù)量的輸入變量訓(xùn)練網(wǎng)絡(luò)，以達(dá)到預(yù)期誤差為目標(biāo)，歐元兌美元匯率最優(yōu)滯后期數(shù)可以為3、5、8、10，分別用Elman（3）、Elman（5）、Elman（8）、Elman（10）表示。

本文選擇RMSE、MAE指標(biāo)來檢測Elman模型對匯率波動的樣本內(nèi)預(yù)測效果，計算結(jié)果如下表1所示，

歐元兌美元 RMSE

Elman（3） 0.0070

Elman（5） 0.0087

Elman（8） 0.0025

Elman（10） 0.0040

表1歐元兌美元匯率Elman模型樣本內(nèi)預(yù)測檢驗

RMSE和MAE兩個指標(biāo)用來比較各個模型樣本內(nèi)預(yù)測能力，指標(biāo)值越小說明神經(jīng)網(wǎng)絡(luò)對樣本內(nèi)數(shù)據(jù)的擬合能力及預(yù)測效果越好。觀察表1， 滯后期數(shù)為8階時，Elman網(wǎng)絡(luò)對歐元兌美元匯率序列樣本內(nèi)預(yù)測的RMSE最小，因此滯后期數(shù)為8階時Elman模型對歐元兌美元匯率序列的樣本內(nèi)預(yù)測效果最好。

為了更直觀地了解不同滯后期數(shù)的Elman模型對貨幣匯率時間序列的樣本內(nèi)擬合及預(yù)測情況，下圖2給出了不同滯后期數(shù)的Elman神經(jīng)網(wǎng)絡(luò)對歐元匯率時間序列樣本集合進行預(yù)測的誤差結(jié)果。

圖2歐元兌美元匯率時間序列樣本內(nèi)訓(xùn)練預(yù)測標(biāo)準(zhǔn)差

本文發(fā)現(xiàn)Elman（10）比其他三個模型擁有更好的樣本內(nèi)擬合能力。直觀上來看，兩條曲線重合效果越好說明模型擬合能力越強。顯然，10階滯后的Elman神經(jīng)網(wǎng)絡(luò)對歐元匯率的擬合能力更好。

根據(jù)圖2，本文發(fā)現(xiàn)Elman（8）的樣本內(nèi)預(yù)測能力優(yōu)于其他，且Elman（10）的絕對誤差和標(biāo)準(zhǔn)差波動幅度均大于其他。證明對于神經(jīng)網(wǎng)絡(luò)模型來說，擁有更多的外部輸入信息并不一定可以改善模型訓(xùn)練效果。原因是訓(xùn)練過程中存在過擬合的現(xiàn)象。

歐元兌美元 RMSE

Elman（3） 0.0121

Elman（5） 0.0126

Elman（8） 0.0108

Elman（10） 0.0111

表2歐元兌美元匯率樣本外預(yù)測檢驗

由表2中結(jié)果可以看出，與樣本內(nèi)預(yù)測一樣，神經(jīng)網(wǎng)絡(luò)模型預(yù)測效果均隨著階數(shù)變化而改變，證明高階的神經(jīng)網(wǎng)絡(luò)模型比低階神經(jīng)網(wǎng)絡(luò)模型預(yù)測效果更好。隨著網(wǎng)絡(luò)階數(shù)改變，本文發(fā)現(xiàn)在四個不同階數(shù)的Elman神經(jīng)網(wǎng)絡(luò)中Elman（8）在RMSE指標(biāo)上的表現(xiàn)均優(yōu)于其他三組訓(xùn)練結(jié)果。

為了更直觀地了解兩個模型對歐元匯率時間序列的樣本外預(yù)測情況，下圖3給出了不同階數(shù)的Elman神經(jīng)網(wǎng)絡(luò)對匯率時間序列樣本集合進行預(yù)測的誤差結(jié)果。

圖3歐元兌美元匯率樣本外預(yù)測標(biāo)準(zhǔn)差

根據(jù)圖3，根據(jù)樣本外預(yù)測圖的直觀比較，以及標(biāo)準(zhǔn)差的波動幅度比較，Elman（8）的預(yù)測效果要優(yōu)于另外三組預(yù)測結(jié)果。

四、結(jié)論

為了更好地提供匯率波動預(yù)測的有效工具，在分析了傳統(tǒng)匯率預(yù)測研究中線性模型的局限性，并對歐元兌美元匯率時間序列進行了正態(tài)性和序列相關(guān)性檢驗等非線性檢驗的基礎(chǔ)上，本文采用非線性方法中的神經(jīng)網(wǎng)絡(luò)模型對歐元匯率序列進行擬合及預(yù)測。本文構(gòu)建了反饋型神經(jīng)網(wǎng)絡(luò)Elman模型，在實證研究中根據(jù)歐元匯率時間序列的特征估計出了影響神經(jīng)網(wǎng)絡(luò)模型預(yù)測能力的各關(guān)鍵參數(shù)，研究了Elman網(wǎng)絡(luò)對匯率序列的樣本內(nèi)擬合及預(yù)測能力和樣本外預(yù)測能力，得出的主要結(jié)論有：

1.Elman神經(jīng)網(wǎng)絡(luò)模型對4種匯率時間序列的樣本內(nèi)預(yù)測能力和樣本外預(yù)測能力都可以達(dá)到較為準(zhǔn)確的水平。

2.隨著滯后階數(shù)的改變，各神經(jīng)網(wǎng)絡(luò)對匯率序列樣本內(nèi)預(yù)測的RMSE和MAE兩個指標(biāo)均隨之改變，并且隨著模型輸入層和隱藏層神經(jīng)元數(shù)的增加，各神經(jīng)網(wǎng)絡(luò)模型的樣本內(nèi)預(yù)測能力大體上都增強了。

參考文獻：

[1]張興會，劉玲，陳增強，袁著祉. 應(yīng)用Elman神經(jīng)網(wǎng)絡(luò)的混沌時間序列預(yù)測[J]. 華東理工大學(xué)學(xué)報， 2002，S1：30-33.

[2] 董曉娜，蘇道磊，李希亮，曲利，張慧峰，吳晨. 基于粗糙集的BP神經(jīng)網(wǎng)絡(luò)在震例中的應(yīng)用研究[J]. 地震研究，2012，02：251-259+296.

第8篇：訓(xùn)練神經(jīng)網(wǎng)絡(luò)的方法范文

關(guān)鍵詞：短期負(fù)荷預(yù)測；神經(jīng)網(wǎng)絡(luò)；遺傳算法

作者簡介：黃國棟（1976-），男，廣東陽江人，廣東電網(wǎng)湛江供電局，工程師。（廣東 湛江 524005）

中圖分類號：TM714 文獻標(biāo)識碼：A 文章編號：1007-0079（2014）06-0261-02

電力短期負(fù)荷預(yù)測是對未來一周以內(nèi)（通常為一周或一天）的負(fù)荷進行預(yù)測。短期負(fù)荷預(yù)測在電網(wǎng)運行實時控制和發(fā)電規(guī)劃中具有重要地位，短期負(fù)荷的預(yù)測結(jié)果是調(diào)度中心制定發(fā)電計劃、電力系統(tǒng)運行安全評估、電力企業(yè)日常經(jīng)營管理的重要依據(jù)。[1]在當(dāng)前電力系統(tǒng)市場化形勢下，提高負(fù)荷預(yù)測精度對于電力系統(tǒng)的經(jīng)濟運行、合理制定機組檢修計劃和進行電力需求管理等具有重要意義。

一、電力系統(tǒng)負(fù)荷變化的特點及預(yù)測方法

電力系統(tǒng)負(fù)荷變化受到很多因素的影響。一方面，負(fù)荷變化存在由未知不確定因素引起的隨機波動；另一方面，具有周期變化的規(guī)律性，這也使得負(fù)荷曲線具有相似性；同時，由于受天氣、節(jié)假日等特殊情況的影響，負(fù)荷變化又會體現(xiàn)出差異性。[2]整體上講，負(fù)荷曲線是與很多因素相關(guān)而且難以用數(shù)學(xué)公式表達(dá)的非線性函數(shù)。

相對于早期的統(tǒng)計技術(shù)法和專家系統(tǒng)法，神經(jīng)網(wǎng)絡(luò)的優(yōu)點在于它不依靠專家經(jīng)驗，只利用觀察到的數(shù)據(jù)，可以在訓(xùn)練過程中通過學(xué)習(xí)來逼近任意的非線性輸入/輸出關(guān)系，因此，將神經(jīng)網(wǎng)絡(luò)方法應(yīng)用于電力負(fù)荷預(yù)測有著明顯的優(yōu)勢。但是，神經(jīng)網(wǎng)絡(luò)存在兩個主要問題：收斂速度慢和容易陷入局部極小點。因此，本文采用遺傳算法優(yōu)化人工神經(jīng)網(wǎng)絡(luò)，建立電力短期負(fù)荷預(yù)測模型，并將結(jié)合廣東省某城市的電力負(fù)荷的實際情況對預(yù)測方法進行探討和研究。

二、人工神經(jīng)網(wǎng)絡(luò)模型

BP（Back Propagation）神經(jīng)網(wǎng)絡(luò)是一種按誤差逆?zhèn)鞑ニ惴ㄓ?xùn)練的多層前饋網(wǎng)絡(luò)，神經(jīng)網(wǎng)絡(luò)模型中的所有神經(jīng)元按照功能一般分成三層（輸入層、隱含層和輸出層），各層順次連接。[3]其三層模型拓?fù)浣Y(jié)構(gòu)如圖1所示。

BP算法的學(xué)習(xí)過程分為正向傳播過程和反向傳播過程兩個階段。

1.正向傳播過程

輸入信息從輸入層經(jīng)隱含層逐層計算各單元的實際輸出值，各神經(jīng)元的狀態(tài)只對下一層神經(jīng)元的狀態(tài)產(chǎn)生影響。設(shè)BP網(wǎng)絡(luò)的輸入層有n1個節(jié)點，隱含層有n2個節(jié)點，輸出層有n3個節(jié)點，輸入為xi，輸入層與隱含層之間的權(quán)值為wki，隱含層與輸出層之間的權(quán)值為wjk；隱含層的閾值為bk，輸出層的閾值為bj；隱含層的傳遞函數(shù)為f1（·），輸出層的傳遞函數(shù)為f2（·）。則隱含層節(jié)點輸出zk和輸出層節(jié)點輸出yj分別為：

k=1，2，……n2

（1）

j=1，2，……n3

（2）

2.反相傳播過程

若網(wǎng)絡(luò)實際輸出值與期望值之差，即誤差超出允許值，則逆向逐層修正連接權(quán)值。設(shè)BP網(wǎng)絡(luò)有P個輸入樣本，采用平方型誤差函數(shù)，于是得到全局誤差為：

（3）

式中：為第p個樣本的實際輸出，為期望輸出。

采用累計誤差BP算法依次調(diào)整輸出層權(quán)值wjk和隱含層權(quán)值wki誤差使全局誤差變小，即：

（4）

（5）

式中：η為學(xué)習(xí)率。

如此往復(fù)不斷調(diào)整權(quán)值，直到使網(wǎng)絡(luò)的誤差滿足要求。

三、遺傳算法

1.遺傳算法的基本原理

遺傳算法（Genetic Algorithms，簡稱GA）是一種高度并行、自適應(yīng)全局優(yōu)化搜索方法。[4]它借鑒自然界遺傳和選擇機理，首先初始化一個種群，然后按照某種指標(biāo)在每一代選取較優(yōu)個體，利用遺傳算子（選擇、交叉和變異）對這些個體進行組合，產(chǎn)生新一代個體，重復(fù)此過程，直到滿足優(yōu)化準(zhǔn)則為止。遺傳算法是基于對生物遺傳和進化過程的計算機模擬，它能使各種人工系統(tǒng)具有良好的自適應(yīng)能力和優(yōu)化能力。目前，遺傳算法已經(jīng)廣泛應(yīng)用于規(guī)劃設(shè)計、組合優(yōu)化、自適應(yīng)控制、經(jīng)濟運行、模式識別、人工智能、分子生物學(xué)、故障診斷以及計算機技術(shù)等領(lǐng)域，并取得了很好的效果。

2.遺傳算法的實現(xiàn)過程

（1）將問題的解以編碼形式表示出來，并隨機生成若干個體，即初始群體。

（2）譯碼，計算目標(biāo)函數(shù)得出個體適應(yīng)度值，判斷是否滿足停止條件。

（3）根據(jù)個體適應(yīng)度值的高低，應(yīng)用選擇、交叉和突變算子進行遺傳操作，產(chǎn)生下一代群體。

（4）返回步驟（2），反復(fù)執(zhí)行，直到滿足停止條件。最后，搜索到最優(yōu)個體，即問題的最優(yōu)解。[5]

3.遺傳算法優(yōu)化BP網(wǎng)絡(luò)權(quán)值、閾值

由于遺傳算法是以最大值作為優(yōu)化目標(biāo)，為適應(yīng)神經(jīng)網(wǎng)絡(luò)算法的要求，將適應(yīng)度函數(shù)取反，即變?yōu)橐宰钚≈禐閮?yōu)化目標(biāo)。遺傳算法優(yōu)化BP神經(jīng)網(wǎng)絡(luò)算法的步驟：

（1）構(gòu)建BP網(wǎng)絡(luò)，確定遺傳算法個體長度。

（2）生成初始種群，確定種群規(guī)模。對遺傳算法個體進行編碼，編碼由神經(jīng)網(wǎng)絡(luò)的輸入層與隱含層的連接權(quán)值、隱含層閾值、隱含層與輸出層的連接權(quán)值和輸出層閾值四部分組成。

（3）根據(jù)個體得到BP網(wǎng)絡(luò)的權(quán)值和閾值，應(yīng)用訓(xùn)練數(shù)據(jù)訓(xùn)練，得到網(wǎng)絡(luò)的輸出。計算實際輸出與期望輸出的誤差，并依據(jù)此誤差計算個體適應(yīng)度值。

（4）根據(jù)個體的適應(yīng)度進行選優(yōu)操作，選擇若干適應(yīng)度強的個體直接進入下一代，適應(yīng)度差的個體被淘汰。

（5）進行交叉、變異操作，生成下一代群體，然后返回步驟（3），直到得到最優(yōu)解。

四、實例分析

本試驗分別采用單一神經(jīng)網(wǎng)絡(luò)預(yù)測法、遺傳算法和神經(jīng)網(wǎng)絡(luò)的組合預(yù)測法，分別對廣東省某城市某一日的時負(fù)荷進行預(yù)測與分析。以該市2010年6月2日～21日和2010年6月3日～22日（只選取工作日）的整點負(fù)荷訓(xùn)練樣本集，根據(jù)6月23日各整點的時負(fù)荷數(shù)據(jù)和24日各整點的溫度與天氣，預(yù)測6月24日的時負(fù)荷。

1.數(shù)據(jù)預(yù)處理

根據(jù)神經(jīng)網(wǎng)絡(luò)的建模原理，訓(xùn)練樣本的準(zhǔn)確性對于模型的預(yù)測準(zhǔn)確性至關(guān)重要。由于系統(tǒng)故障、線路停電檢修、通信錯誤等原因，歷史負(fù)荷數(shù)據(jù)中經(jīng)常存在一些不良數(shù)據(jù)。這些不良數(shù)據(jù)具有很強的隨機性，會對網(wǎng)絡(luò)的預(yù)測精度和預(yù)測速度產(chǎn)生嚴(yán)重影響。因此，在建立電力短期負(fù)荷預(yù)測模型前，先對訓(xùn)練用的數(shù)據(jù)樣本進行預(yù)處理。應(yīng)用格拉布斯準(zhǔn)則判別是否有不良數(shù)據(jù)，如果有要直接消除并以相應(yīng)的插值代替，從而提高數(shù)據(jù)的準(zhǔn)確度和可信度。經(jīng)計算，本實例的樣本數(shù)據(jù)正常，符合實際情況。

數(shù)據(jù)歸一化方法是神經(jīng)網(wǎng)絡(luò)預(yù)測前對數(shù)據(jù)常做的一種處理方法。數(shù)據(jù)歸一化處理把所有的數(shù)據(jù)都轉(zhuǎn)化為[0，1]之間的數(shù)，其目的是取消數(shù)據(jù)間數(shù)量級差別，避免因為輸入/輸出數(shù)據(jù)數(shù)量級差別較大而造成網(wǎng)絡(luò)預(yù)測誤差較大。最后需要進行反歸一化，得到最終預(yù)測結(jié)果。[6]數(shù)據(jù)歸一化的方法主要有最大最小值法和平均數(shù)方差法。本文采用最大最小值法。

2.確定BP神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)

考慮到該城市位于中國南端，緯度較低，影響電力負(fù)荷最主要的因素是溫度等天氣情況。采集預(yù)測日前一天每小時的負(fù)荷數(shù)據(jù)和預(yù)測日當(dāng)天各小時的溫度值（取平均值）、氣象類型（晴、陰、雨）作為預(yù)測條件。由此確定BP神經(jīng)網(wǎng)絡(luò)模型的輸入節(jié)點數(shù)為3；輸出節(jié)點數(shù)為1；隱含層節(jié)點數(shù)取8。為方便計算，將氣象類型數(shù)字化、歸一化處理，溫度值和負(fù)荷數(shù)據(jù)歸一化處理。本文采用分散式建模方法，即為一天的24小時各建立一個模型，共建立24個。分散式建模方法相對于集中建模方法（24小時用一個模型），雖然模型多，但是預(yù)測準(zhǔn)確度高。每個整點的時負(fù)荷采用相應(yīng)的BP神經(jīng)網(wǎng)絡(luò)模型進行預(yù)測。建模工具選用matlab7.0。[7]

3.遺傳算法優(yōu)化神經(jīng)網(wǎng)絡(luò)

以整點負(fù)荷、溫度數(shù)據(jù)和氣象數(shù)據(jù)作為網(wǎng)絡(luò)的訓(xùn)練樣本集，應(yīng)用遺傳算法對基于單一神經(jīng)網(wǎng)絡(luò)建立的各個模型（每小時各建一個模型，共24個）進行優(yōu)化，得到每個模型近似最優(yōu)權(quán)值和閾值。應(yīng)用優(yōu)化的權(quán)值和閾值對BP神經(jīng)網(wǎng)絡(luò)進行訓(xùn)練，并保存訓(xùn)練好的網(wǎng)絡(luò)。最后，應(yīng)用訓(xùn)練好的網(wǎng)絡(luò)對各整點時負(fù)荷進行預(yù)測。

表1 2010年6月24日負(fù)荷預(yù)測值與誤差

時間 實際值 BP神經(jīng)網(wǎng)絡(luò)

方法預(yù)測 誤差/% 遺傳算法神經(jīng)網(wǎng)絡(luò)方法預(yù)測 誤差/%

0：00 404.743 412.375 1.886 397.470 -1.797

1：00 382.280 376.397 -1.539 382.009 -0.071

2：00 359.937 369.208 2.576 352.735 -2.001

3：00 355.508 352.308 -0.900 357.115 0.452

4：00 347.836 341.504 -1.820 346.528 -0.376

5：00 347.545 342.354 -1.494 346.586 -0.276

6：00 354.184 356.650 0.696 360.655 1.827

7：00 364.504 363.920 -0.160 360.123 -1.202

8：00 395.881 392.358 -0.890 390.042 -1.475

9：00 462.394 471.572 1.985 464.239 0.399

10：00 500.344 502.904 0.512 494.610 -1.146

11：00 514.415 515.950 0.298 513.479 -0.182

12：00 477.935 489.898 2.503 485.792 1.644

13：00 479.680 473.516 -1.285 472.638 -1.468

14：00 470.148 477.403 1.543 462.066 -1.719

15：00 482.950 490.302 1.522 474.556 -1.738

16：00 487.295 483.800 -0.717 486.028 -0.260

17：00 501.225 503.265 0.407 505.465 0.846

18：00 470.361 462.391 -1.694 466.165 -0.892

19：00 455.995 443.791 -2.676 463.788 1.709

20：00 493.266 494.178 0.185 494.682 0.287

21：00 489.909 498.115 1.675 486.195 -0.758

22：00 474.146 486.493 2.604 480.348 1.308

23：00 446.201 436.293 -2.221 441.855 -0.974

單一神經(jīng)網(wǎng)絡(luò)方法和遺傳算法優(yōu)化神經(jīng)網(wǎng)絡(luò)方法得出的預(yù)測結(jié)果見表1和圖3。從圖3中3條曲線對比可以看出，應(yīng)用遺傳算法優(yōu)化神經(jīng)網(wǎng)絡(luò)預(yù)測模型得到的預(yù)測結(jié)果比單一神經(jīng)網(wǎng)絡(luò)的更接近實際負(fù)荷曲線。單一神經(jīng)網(wǎng)絡(luò)預(yù)測的負(fù)荷最大誤差為-2.676%，平均誤差1.408%，而用基于遺傳算法優(yōu)化神經(jīng)網(wǎng)絡(luò)預(yù)測的負(fù)荷最大誤差為-2.001%，平均誤差為1.034%，精度顯然大于單一神經(jīng)網(wǎng)絡(luò)。

五、結(jié)論

本文利用遺傳算法優(yōu)化了BP神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)，并且應(yīng)用此模型對實際電力短期負(fù)荷進行了預(yù)測試驗分析。實證證明，遺傳算法的全局優(yōu)化搜索能力有效彌補了BP神經(jīng)網(wǎng)絡(luò)容易陷入局部極小值的缺陷，在此基礎(chǔ)上建立的預(yù)測模型的可靠性、準(zhǔn)確性都有所增強，證明了基于遺傳算法優(yōu)化的神經(jīng)網(wǎng)絡(luò)的短期負(fù)荷預(yù)測方法是可行的。

參考文獻：

[1]牛東曉，曹樹華，趙磊，等.電力負(fù)荷預(yù)測技術(shù)及其應(yīng)用[M].北京：中國電力出版社，2002.

[2]陳金賽，張新波.基于改進BP人工神經(jīng)網(wǎng)絡(luò)的電力負(fù)荷預(yù)測[J].杭州電子科技大學(xué)學(xué)報，2011，34（4）：173-176.

[3]田景文，高美娟.人工神經(jīng)網(wǎng)絡(luò)算法研究及應(yīng)用[M].北京：北京理工大學(xué)出版社，2006.

[4]王小平，曹立明.遺傳算法[M].西安：西安交通大學(xué)出版社，

2002.

[5]李玲純，田麗.基于遺傳算法和BP神經(jīng)網(wǎng)絡(luò)的短期電力負(fù)荷預(yù)測[J].安徽工程科技學(xué)院學(xué)報，2009，24（3）：57-60.

第9篇：訓(xùn)練神經(jīng)網(wǎng)絡(luò)的方法范文

摘要：

為更全面準(zhǔn)確地評價產(chǎn)品造型設(shè)計，在近幾年國內(nèi)外產(chǎn)品評價系統(tǒng)研究的基礎(chǔ)上，綜合運用主成分分析法、聚類分析法、BP神經(jīng)網(wǎng)絡(luò)技術(shù)，對產(chǎn)品設(shè)計造型要素的感性意象進行定量化研究，建立和完善了產(chǎn)品設(shè)計評價的神經(jīng)網(wǎng)絡(luò)模型．并以園林工具割草機產(chǎn)品設(shè)計為例訓(xùn)練模型，驗證了模型的可行性和有效性．

關(guān)鍵詞：

產(chǎn)品設(shè)計評價；主成分分析；聚類分析；BP神經(jīng)網(wǎng)絡(luò)；感性工學(xué)

產(chǎn)品造型設(shè)計和評價是產(chǎn)品設(shè)計開發(fā)過程中的重要組成部分．近年來，國內(nèi)外學(xué)者結(jié)合感性工學(xué)對產(chǎn)品造型設(shè)計和產(chǎn)品造型評價進行了大量的研究．產(chǎn)品造型設(shè)計是一項復(fù)雜的系統(tǒng)運行過程，除受客觀條件如經(jīng)濟、技術(shù)、構(gòu)造等要素的影響外，同時，社會審美、目標(biāo)消費群的偏好、設(shè)計師經(jīng)驗、背景等因素也相互影響［1］．人工神經(jīng)網(wǎng)絡(luò)是伴隨著生物學(xué)、數(shù)學(xué)、計算機等學(xué)科的發(fā)展而產(chǎn)生的一門新興的綜合交叉性學(xué)科．其中，最常見的是BP神經(jīng)網(wǎng)絡(luò)，它具備任意精度的函數(shù)逼近能力，具有自組織、自適應(yīng)、自學(xué)習(xí)、高度非線性映射性、泛化性、容錯性的優(yōu)點［2］．BP神經(jīng)網(wǎng)絡(luò)因其很強的學(xué)習(xí)能力、抗故障性、并行性的優(yōu)點，特別適合于解決上述非線性很高的復(fù)雜系統(tǒng)．割草機產(chǎn)品應(yīng)用具有較強的地域性和個性化的消費者群細(xì)分，造型設(shè)計目前未形成系統(tǒng)的理論和方法．將BP神經(jīng)網(wǎng)絡(luò)法和遺傳算法等應(yīng)用于產(chǎn)品造型設(shè)計的評價系統(tǒng)中尚屬于摸索階段．文獻［3］提出了BP神經(jīng)網(wǎng)絡(luò)技術(shù)與產(chǎn)品評價系統(tǒng)結(jié)合的可行性．文獻［4］通過將遺傳算法與神經(jīng)網(wǎng)絡(luò)相結(jié)合，進一步優(yōu)化了產(chǎn)品設(shè)計評價模型的精度．產(chǎn)品造型設(shè)計與評價是個復(fù)雜的過程，需要多層次的系統(tǒng)分析．為此，本文將綜合運用主成分分析法、聚類分析法與BP神經(jīng)網(wǎng)絡(luò)技術(shù)，定量地研究感性意象與產(chǎn)品造型設(shè)計之間的關(guān)系．以園林工具割草機產(chǎn)品為例，把產(chǎn)品造型要素的集合分組為由類似對象組成的多個類，分析影響割草機產(chǎn)品感性意象的主要造型特征，基于MatlabR2014a平臺，建立BP神經(jīng)網(wǎng)絡(luò)模型，檢測產(chǎn)品造型與目標(biāo)消費者群體偏好之間的對應(yīng)關(guān)系，以驗證和提高產(chǎn)品設(shè)計評價模型的可行性和準(zhǔn)確度．

1研究流程

本文以割草機產(chǎn)品為例，綜合應(yīng)用主成分分析、聚類分析方法和BP神經(jīng)網(wǎng)絡(luò)技術(shù)，對感性意象進行定量化研究，建立和完善產(chǎn)品造型特征與感性意象關(guān)系評價的神經(jīng)網(wǎng)絡(luò)模型．研究流程如圖1所示．具體流程如下：

（1）通過網(wǎng)絡(luò)調(diào)研并篩選得到描述割草機外形的形容詞．

（2）通過網(wǎng)絡(luò)搜集各國割草機圖片樣本，對圖片進行去色、去標(biāo)志處理，排除顏色和品牌對試驗樣本的影響．

（3）把7點量表建立在已經(jīng)選擇出來的感性意象形容詞上，讓每個測試者針對這些選定的形容詞對每個試驗樣本打分．將試驗所得數(shù)據(jù)運用主成分分析，并結(jié)合專家意見，確定最終描述詞匯．

（4）將樣本進行聚類分析，并通過專家對同類內(nèi)樣本共同特征的提取，明確影響割草機外形意象的造型特征，并分析各造型特征組合與感性意象的關(guān)系．

（5）建立BP神經(jīng)網(wǎng)絡(luò)模型，以試驗數(shù)據(jù)訓(xùn)練神經(jīng)網(wǎng)絡(luò)模型．

（6）神經(jīng)網(wǎng)絡(luò)準(zhǔn)確率檢測，總結(jié)分析．

2割草機外觀特征與感性意象認(rèn)知關(guān)系量化試驗

2．1試驗準(zhǔn)備

通過調(diào)研，共搜集整理近5年銷售生產(chǎn)的割草機產(chǎn)品圖片150張，分別來自不同國家和地區(qū)．對圖片進行去色、去標(biāo)志處理，以排除顏色、品牌及其他因素對試驗樣本的影響．利用KJ法［5］篩選得到20個圖片樣本，部分樣本圖片如圖2所示．經(jīng)過表1的分析可以得到形容詞的意象空間，專家設(shè)計師結(jié)合這一意象空間進行總結(jié)和分析，得到其3個維度上的感性意象描述形容詞，分別為“科技－落后”“樸素－華麗”“易用－復(fù)雜”．

2．3關(guān)鍵造型特征提取和聚類分析

將意象空間的樣本進行聚類分析，把產(chǎn)品造型要素的集合分組為由類似的對象組成的多個類，分析影響割草機產(chǎn)品感性意象的主要造型特征．通過專家設(shè)計師評價和問卷調(diào)查統(tǒng)計，抽取同類樣本內(nèi)的共同特征，得到最主要的影響割草機感性意象的造型特征．聚類分析的結(jié)果如表2所示．

3BP神經(jīng)網(wǎng)絡(luò)模型建立、訓(xùn)練、預(yù)測

3．1BP神經(jīng)網(wǎng)絡(luò)模型建立

選用MatlabR2014a為平臺進行BP神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)的建立與模擬，其模型如圖3所示．通過歷史數(shù)據(jù)的訓(xùn)練，用以檢測產(chǎn)品造型與其感性意向的對應(yīng)關(guān)系，建立產(chǎn)品造型設(shè)計評價體系．經(jīng)過數(shù)次預(yù)先進行的試驗，確定神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)為3層，輸入層（包含2個節(jié)點）、隱含層（包含4個節(jié)點）、輸出層（包含1個節(jié)點）．輸入層是2個設(shè)計元素的編號組合，輸出層是關(guān)于“科技的－落后的”這個語匯對的感性意象評價值．

3．2BP神經(jīng)網(wǎng)絡(luò)模型訓(xùn)練設(shè)置

BP神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)次數(shù)為5000次，采用梯度下降法，目標(biāo)誤差值為0．001，訓(xùn)練結(jié)果采用均方誤差衡量，將表4中樣本1＃～15＃的數(shù)據(jù)導(dǎo)入建立的網(wǎng)絡(luò)，訓(xùn)練BP神經(jīng)網(wǎng)絡(luò)，在1753次訓(xùn)練時結(jié)果收斂，停止訓(xùn)練，其訓(xùn)練的結(jié)果如圖4所示．由圖4可得，其實際訓(xùn)練的誤差值為0．00908．

3．3BP神經(jīng)網(wǎng)絡(luò)模型測試選用

表4中樣本16?！?0＃測試神經(jīng)網(wǎng)絡(luò)預(yù)測能力，即將5個樣本造型特征組合導(dǎo)入網(wǎng)絡(luò)的輸入層，將調(diào)查得到的數(shù)據(jù)與神經(jīng)網(wǎng)絡(luò)預(yù)測的感性評價值進行對比，結(jié)果如表5所示．由表5可見，實際感性評價值與預(yù)測感性評價值相對誤差較小，說明網(wǎng)絡(luò)精度達(dá)到要求，驗證了割草機產(chǎn)品評價模型的可行性和有效性．

4結(jié)語

本文將主成分分析法、聚類分析法與BP神經(jīng)網(wǎng)絡(luò)模型相結(jié)合，對割草機產(chǎn)品造型設(shè)計與感性意象之間的關(guān)系進行分析，為產(chǎn)品造型設(shè)計符合目標(biāo)消費群體需求提供客觀評價幫助．但是本文只針對割草機的主要產(chǎn)品造型要素進行了試驗，隨著研究方法及科技的不斷進步，結(jié)合色彩、材質(zhì)、紋理甚至人機工程學(xué)等綜合因素的研究將成為下一步的研究重點．基于神經(jīng)網(wǎng)絡(luò)的意象認(rèn)知模型，還存在一定局限性，隨著科技的發(fā)展，結(jié)合認(rèn)知心理學(xué)、腦科學(xué)、人工智能等技術(shù)和方法將使相關(guān)研究得到更深入的發(fā)展．

參考文獻：

［1］王愛華，孫峻．BP神經(jīng)網(wǎng)絡(luò)在工程項目管理中的應(yīng)用［J］．建筑管理現(xiàn)代化，2009（4）：306－309．

［2］周美玉，李倩．神經(jīng)網(wǎng)絡(luò)在產(chǎn)品感性設(shè)計中的應(yīng)用［J］．東華大學(xué)學(xué)報（自然科學(xué)版），2011，37（4）：509－513．

［3］趙萬芹．基于BP神經(jīng)網(wǎng)絡(luò)的產(chǎn)品造型設(shè)計評價［J］．計算機工程與設(shè)計，2009，30（24）：5715－5717．

［4］林琳，張志華，張睿欣．基于遺傳算法優(yōu)化神經(jīng)網(wǎng)絡(luò)的產(chǎn)品造型設(shè)計評價［J］．計算機工程與設(shè)計，2015，36（3）：789－813．

［5］川喜田二郎．KJ法［M］．京都：中央公論新社，1986．