神經(jīng)網(wǎng)絡(luò)的訓(xùn)練流程精選(九篇)

前言：一篇好文章的誕生，需要你不斷地搜集資料、整理思路，本站小編為你收集了豐富的神經(jīng)網(wǎng)絡(luò)的訓(xùn)練流程主題范文，僅供參考，歡迎閱讀并收藏。

第1篇：神經(jīng)網(wǎng)絡(luò)的訓(xùn)練流程范文

關(guān)鍵詞：神經(jīng)網(wǎng)絡(luò)；入侵檢測；模塊

中圖分類號：TP393 文獻標志碼：A 文章編號：1009-3044（2015）13-0171-02

網(wǎng)絡(luò)給我們帶來巨大機會和發(fā)展的同時也給我們帶來了惡意入侵的危險。就現(xiàn)在的整體情況來看，經(jīng)常使用的網(wǎng)絡(luò)安全技術(shù)還局限于防火墻等一些靜態(tài)的安全保護方式，要是沒有積極主動的一些安全防護方式相配合，他的安全性能就是有殘缺的。開發(fā)一種主動防御、及時控制的技術(shù)就很有必要。入侵檢測技術(shù)恰恰就是這樣的一種技術(shù)。入侵檢測在國內(nèi)有很多文獻進行研究，目前入侵檢測存在的最大問題是檢測中誤報率較高。所以我們要提高入侵檢測的智能型。神經(jīng)網(wǎng)絡(luò)顧名思義模仿人的大腦，具有很好的并行計算，自適應(yīng)計算，抗干擾和智能判斷的特征，可以準確處理失真信號。這些特征能優(yōu)化現(xiàn)有的入侵檢測方法，是發(fā)展的必然趨勢。

1網(wǎng)絡(luò)攻擊的分類

從攻擊的技術(shù)手段方面看，網(wǎng)絡(luò)攻擊分為兩大類。第一類分析攻擊行為，并在數(shù)據(jù)包的載荷部分把其特征隱藏。有字符串結(jié)合而成的，服務(wù)于系統(tǒng)的一些常用命令，沒有被顯示出來。但是一旦點擊包含此字符串的對象，入侵行為就被激活。這種利用計算機本身系統(tǒng)結(jié)構(gòu)特點和應(yīng)用層協(xié)議的一些漏洞產(chǎn)生的攻擊稱為高層網(wǎng)絡(luò)攻擊。第二類攻擊稱為低層網(wǎng)絡(luò)攻擊。主要攻擊發(fā)生在網(wǎng)絡(luò)連接的時間和數(shù)據(jù)流量上，這類攻擊主要是針對TCP/IP協(xié)議棧中的基礎(chǔ)協(xié)議的漏洞進行攻擊。

2入侵檢測原型總體結(jié)構(gòu)

圖1描述了原型的總體結(jié)構(gòu)模型。對主要模塊的總體功能進行如下介紹。

1）數(shù)據(jù)捕獲模塊，捕獲在系統(tǒng)中運行的數(shù)據(jù)包，預(yù)處理模塊處理這些數(shù)據(jù)包。在實現(xiàn)時，將網(wǎng)絡(luò)接口設(shè)成混雜模式，方便數(shù)據(jù)流通，并同時監(jiān)聽經(jīng)過設(shè)備的數(shù)據(jù)[1]。

2）數(shù)據(jù)預(yù)處理模塊分析網(wǎng)絡(luò)上獲得的信息，對數(shù)據(jù)包根據(jù)協(xié)議類型一層一層解析。記錄和計算TCP連接信息，半開連接信息，保護網(wǎng)絡(luò)主機不同端口連接信息和半開連接信息，并對SYN報文和FIN報文的鏈表狀態(tài)和鏈表結(jié)點進行維護。IP協(xié)議處理函數(shù)中進行碎片信息的處理和記錄，目的是把基于碎片的拒絕服務(wù)攻擊提供給神經(jīng)網(wǎng)絡(luò)模塊?？偨Y(jié)信息并把信息轉(zhuǎn)化，進行歸一化處理，結(jié)合TCP數(shù)據(jù)報的標志位送入神經(jīng)網(wǎng)絡(luò)檢測模塊，檢測攻擊的存在。最后把得到的特征用于ICMP協(xié)議的掃描或攻擊檢測。

3）數(shù)據(jù)預(yù)處理模塊把得到的特征傳給神經(jīng)網(wǎng)絡(luò)檢測模塊，神經(jīng)網(wǎng)絡(luò)檢測模塊負責計算輸出層的輸出結(jié)果，并根據(jù)結(jié)果判斷攻擊。神經(jīng)網(wǎng)絡(luò)檢測模塊有三大模塊構(gòu)成。能檢測網(wǎng)絡(luò)漏洞掃描和TCP協(xié)議中拒絕服務(wù)攻擊的TCP神經(jīng)網(wǎng)絡(luò)檢測模塊；能通過檢測到拒絕服務(wù)攻擊和ICMP的IP神經(jīng)網(wǎng)絡(luò)檢測模塊；基于ICMP的主機活性掃描和拒絕服務(wù)攻擊的檢測被神經(jīng)網(wǎng)絡(luò)檢測模塊實現(xiàn)。

4）神經(jīng)網(wǎng)絡(luò)訓(xùn)練模塊對己知的網(wǎng)絡(luò)攻擊離線訓(xùn)練，以矩陣形式將訓(xùn)練好的神經(jīng)網(wǎng)絡(luò)的各層連接權(quán)存入磁盤文件中，在系統(tǒng)開始運行時神經(jīng)網(wǎng)絡(luò)檢測模塊讀入磁盤中的權(quán)值到神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)中。神經(jīng)網(wǎng)絡(luò)訓(xùn)練模塊也可分為TCP神經(jīng)網(wǎng)絡(luò)訓(xùn)練模塊、m神經(jīng)網(wǎng)絡(luò)訓(xùn)練模塊和ICMP神經(jīng)網(wǎng)絡(luò)訓(xùn)練模塊[1]。

5）響應(yīng)報警模塊報告當前的被檢測數(shù)據(jù)對象是否存在攻擊的跡象，判斷依據(jù)是神經(jīng)網(wǎng)絡(luò)的輸出。

3基于神經(jīng)網(wǎng)絡(luò)入侵檢測原型詳細設(shè)計

詳細設(shè)計分為數(shù)據(jù)捕獲模塊、數(shù)據(jù)預(yù)處理模塊、神經(jīng)網(wǎng)絡(luò)訓(xùn)練模塊、神經(jīng)網(wǎng)絡(luò)測試模塊、響應(yīng)報警模塊五個模塊。

數(shù)據(jù)捕獲模塊。網(wǎng)絡(luò)數(shù)據(jù)的捕獲通過Libpcap編程接口實現(xiàn)。這種接口是網(wǎng)絡(luò)數(shù)據(jù)包的標準捕獲接口，它效率高、獨立性和移植性強。使用具有快速的網(wǎng)絡(luò)數(shù)據(jù)包過濾功能的BPF數(shù)據(jù)包捕獲機制。數(shù)據(jù)捕獲過程中通過Libpcap截獲網(wǎng)絡(luò)數(shù)據(jù)包。

數(shù)據(jù)預(yù)處理模塊。數(shù)據(jù)預(yù)處理模塊接收網(wǎng)絡(luò)數(shù)據(jù)包，這些數(shù)據(jù)包由數(shù)據(jù)捕獲模塊送過來。接收后先處理這些數(shù)據(jù)包，并將處理的結(jié)果轉(zhuǎn)化為向量送入神經(jīng)網(wǎng)絡(luò)檢測模塊檢測。數(shù)據(jù)預(yù)處理模塊處理的數(shù)據(jù)包分別針對三種協(xié)議：IP、TCP、ICMP。IP協(xié)議的預(yù)處理主要提取針對基于m碎片的攻擊特征；TCP協(xié)議的預(yù)處理針對基于TCP協(xié)議網(wǎng)絡(luò)掃描并對拒絕服務(wù)攻擊特征提取。

神經(jīng)網(wǎng)絡(luò)訓(xùn)練模塊。采用雙隱層BP神經(jīng)網(wǎng)絡(luò)作為神經(jīng)網(wǎng)絡(luò)訓(xùn)練模塊的網(wǎng)絡(luò)結(jié)構(gòu)。離線狀態(tài)下運行神經(jīng)網(wǎng)絡(luò)訓(xùn)練模塊。網(wǎng)絡(luò)攻擊和正常網(wǎng)絡(luò)流通的一些知識，讓檢測模塊在對網(wǎng)絡(luò)攻擊事件進行檢查入侵之前學會。提供給神經(jīng)網(wǎng)絡(luò)訓(xùn)練模塊已知攻擊的輸入特征向量和與之對應(yīng)的期望輸出向量由系統(tǒng)管理員負責。本原型輸入特征向量是預(yù)處理模塊得到的可描述攻擊行為的特征向量；期望輸出數(shù)據(jù)一般為一串二進制0、1串指示了是何種具體的攻擊。本原型對基于IP、ICMP、TCP協(xié)議的網(wǎng)絡(luò)掃描和拒絕服務(wù)攻擊進行檢測，相應(yīng)定義了三種（IP、ICMP、TCP）神經(jīng)網(wǎng)絡(luò)[2]。

神經(jīng)網(wǎng)絡(luò)檢測模塊。神經(jīng)網(wǎng)絡(luò)檢測模塊接受的特征向量是由預(yù)處理模塊送來，這些特征向量做為神經(jīng)網(wǎng)絡(luò)的輸入向量，是由神經(jīng)網(wǎng)絡(luò)的各層計算出結(jié)果，然后把結(jié)果在輸出層輸出。輸出結(jié)果可能顯示的是正常的數(shù)據(jù)流，可能指示某一種網(wǎng)絡(luò)攻擊，也可能是未知的結(jié)果即這個結(jié)果在神經(jīng)網(wǎng)絡(luò)訓(xùn)練時沒有定義。針對這種情況，對于前兩種情況，系統(tǒng)管理員應(yīng)記錄下這時神經(jīng)網(wǎng)絡(luò)的輸入向量和輸出向量，在神經(jīng)網(wǎng)絡(luò)進行訓(xùn)練時，加入這兩種情況。對于后一種情況，需要在進行分析。

響應(yīng)報警模塊。響應(yīng)報警模塊對接受神經(jīng)網(wǎng)絡(luò)輸出向量，根據(jù)編碼的對應(yīng)關(guān)系，判斷攻擊行為。發(fā)現(xiàn)對應(yīng)的攻擊。就會有相應(yīng)的消息打印在屏幕上，并會有指示這種攻擊的全局變量在系統(tǒng)中設(shè)置；若沒有找到對應(yīng)攻擊，則不打印消息。理論上講訓(xùn)練神經(jīng)網(wǎng)絡(luò)時，對輸出向量的編碼是0、1串。但真正的輸出不會嚴格的是0、1串，所以約定，數(shù)值大于0.7的按1對待，小于0.3的按0對待。

改進后BP神經(jīng)網(wǎng)絡(luò)的訓(xùn)練

4神經(jīng)網(wǎng)絡(luò)訓(xùn)練流程

P代表樣本總數(shù)。

F代表不合格樣本數(shù)。

M代表正確率，設(shè)在1%-100%之間。

E為網(wǎng)絡(luò)訓(xùn)練后要達到的精度，設(shè)為小數(shù)。

5神經(jīng)網(wǎng)絡(luò)檢測

對參數(shù)和變量進行初始化；

從記事本文件中讀取檢測樣本、期望值、權(quán)值、閾值；

for（n=1；n

{放入矩陣第一行；

{for（n=1；n

根據(jù)閾值和權(quán)值的到線性輸出，放入矩陣第二行；

…

}

if（小于正確率） 不合格樣本數(shù)++；

}

輸出該組數(shù)據(jù)的檢測結(jié)果；

end

正確率輸出結(jié)果越接近l，表明可能受到攻擊。

6 結(jié)束語

本文調(diào)研了常見的網(wǎng)絡(luò)攻擊手段，探討了入侵檢測技術(shù)的研究方法、入侵檢測的發(fā)展方向。根據(jù)神經(jīng)網(wǎng)絡(luò)的特點，將神經(jīng)網(wǎng)絡(luò)與入侵檢測結(jié)合。設(shè)計了一個簡化的基于神經(jīng)網(wǎng)絡(luò)的網(wǎng)絡(luò)入侵檢測原型。原型通過統(tǒng)計底層網(wǎng)絡(luò)協(xié)議的數(shù)據(jù)流量信息數(shù)據(jù)包協(xié)議頭的信息，將這些信息預(yù)處理后送入已訓(xùn)練過的神經(jīng)網(wǎng)絡(luò)模塊，以此判斷當前網(wǎng)絡(luò)數(shù)據(jù)流量存在的攻擊或掃描行為。此原型提出了具有更高檢測率并且能檢測變種攻擊的模塊設(shè)計。

參考文獻：

[1] 張文修，梁怡.基于包含度的不確定推理[M]. 北京：清華大學出版社，2007.

第2篇：神經(jīng)網(wǎng)絡(luò)的訓(xùn)練流程范文

【關(guān)鍵詞】互聯(lián)網(wǎng)+ 入侵監(jiān)測 安全防御 遺傳算法

1 引言

入侵檢測是一種網(wǎng)絡(luò)安全防御技術(shù)，其可以部署于網(wǎng)絡(luò)防火墻、訪問控制列表等軟件中，可以檢測流入到系統(tǒng)中的數(shù)據(jù)流，并且識別數(shù)據(jù)流中的網(wǎng)絡(luò)包內(nèi)容，判別數(shù)據(jù)流是否屬于木馬和病毒等不正常數(shù)據(jù)。目前，網(wǎng)絡(luò)安全入侵檢測技術(shù)已經(jīng)誕生了多種，比如狀態(tài)檢測技術(shù)和深度包過濾技術(shù)，有效提高了網(wǎng)絡(luò)安全識別、處理等防御能力。

2 “互聯(lián)網(wǎng)+”時代網(wǎng)絡(luò)安全管理現(xiàn)狀

目前，我國已經(jīng)進入到了“互聯(lián)網(wǎng)+”時代，互聯(lián)網(wǎng)已經(jīng)應(yīng)用到了金融、民生、工業(yè)等多個領(lǐng)域?；ヂ?lián)網(wǎng)的繁榮為人們帶來了許多的便利，同時互聯(lián)網(wǎng)安全事故也頻頻出現(xiàn)，網(wǎng)絡(luò)病毒、木馬和黑客攻擊技術(shù)也大幅度改進，并且呈現(xiàn)出攻擊渠道多樣化、威脅智能化、范圍廣泛化等特點。

2.1 攻擊渠道多樣化

目前，網(wǎng)絡(luò)設(shè)備、應(yīng)用接入渠道較多，按照內(nèi)外網(wǎng)劃分為內(nèi)網(wǎng)接入、外網(wǎng)接入；按照有線、無線可以劃分為有線接入、無線接入；按照接入設(shè)備可以劃分為PC接入、移動智能終端接入等多種類別，接入渠道較多，也為攻擊威脅提供了較多的入侵渠道。

2.2 威脅智能化

攻擊威脅程序設(shè)計技術(shù)的提升，使得病毒、木馬隱藏的周期更長，行為更加隱蔽，傳統(tǒng)的網(wǎng)絡(luò)木馬、病毒防御工具無法查殺。

2.3 破壞范圍更廣

隨著網(wǎng)絡(luò)及承載的應(yīng)用軟件集成化增強，不同類型的系統(tǒng)管理平臺都通過SOA架構(gòu)、ESB技術(shù)接入到網(wǎng)絡(luò)集群平臺上，一旦某個系統(tǒng)受到攻擊，病毒可以在很短的時間內(nèi)傳播到其他子系統(tǒng)，破壞范圍更廣。

3 “互聯(lián)網(wǎng)+”時代網(wǎng)絡(luò)安全入侵檢測功能設(shè)計

入侵檢測業(yè)務(wù)流程包括三個階段，分別是采集網(wǎng)絡(luò)數(shù)據(jù)、分析數(shù)據(jù)內(nèi)容和啟動防御措施，能夠?qū)崟r預(yù)估網(wǎng)絡(luò)安全防御狀況，保證網(wǎng)絡(luò)安全運行，如圖1所示。

網(wǎng)絡(luò)安全入侵檢測過程中，為了提高入侵檢測準確度，引入遺傳算法和BP神經(jīng)網(wǎng)絡(luò)，結(jié)合這兩種數(shù)據(jù)挖掘算法的優(yōu)勢，設(shè)計了一個遺傳神經(jīng)網(wǎng)絡(luò)算法，業(yè)務(wù)流程如下：

（1）采集網(wǎng)絡(luò)數(shù)據(jù)，獲取數(shù)據(jù)源。

（2）利用遺傳神經(jīng)網(wǎng)絡(luò)識別數(shù)據(jù)內(nèi)容，對數(shù)據(jù)進行建模，將獲取的網(wǎng)絡(luò)數(shù)據(jù)包轉(zhuǎn)換為神經(jīng)網(wǎng)絡(luò)能夠識別的數(shù)學向量。

（3）使用已知的、理想狀態(tài)的數(shù)據(jù)對遺傳神經(jīng)網(wǎng)絡(luò)進行訓(xùn)練。

（4）使用訓(xùn)練好的遺傳神經(jīng)網(wǎng)絡(luò)對網(wǎng)絡(luò)數(shù)據(jù)進行檢測。

（5）保存遺傳神經(jīng)網(wǎng)絡(luò)檢測的結(jié)果。

（6）網(wǎng)絡(luò)安全響應(yīng)。

遺傳神經(jīng)網(wǎng)絡(luò)在入侵檢測過程中包括兩個階段，分別是訓(xùn)練學習階段和檢測分析階段。

（1）訓(xùn)練學習階段。遺傳神經(jīng)網(wǎng)絡(luò)訓(xùn)練學習可以生成一個功能完善的、識別準確的入侵檢測模型，系統(tǒng)訓(xùn)練學習流程如下：給定樣本庫和期望輸出參數(shù)，將兩者作為遺傳神經(jīng)網(wǎng)絡(luò)輸入?yún)?shù)，學習樣本中包含非常典型的具有攻擊行為特征的樣本數(shù)據(jù)和正常數(shù)據(jù)，通過訓(xùn)練學習得到的遺傳神經(jīng)網(wǎng)絡(luò)可以與輸入的期望結(jié)果進行比較和分析，直到期望輸出的誤差可以達到人們的期望值。

（2）檢測分析階段。遺傳神經(jīng)網(wǎng)絡(luò)訓(xùn)練結(jié)束之后，使用權(quán)值的形式將其保存起來，將其應(yīng)用到實際網(wǎng)絡(luò)入侵檢測系統(tǒng)，能夠識別正常行為或異常行為。

4 結(jié)束語

互聯(lián)網(wǎng)的快速發(fā)展和普及為人們的工作、生活和學習帶來便利，但同時也潛在著許多威脅，采用先進的網(wǎng)絡(luò)安全防御技術(shù)，以便提升網(wǎng)絡(luò)的安全運行能力。入侵檢測是網(wǎng)絡(luò)安全主動防御的一個關(guān)鍵技術(shù)，入侵檢測利用遺傳算法和BP神經(jīng)網(wǎng)絡(luò)算法優(yōu)勢，可以準確地構(gòu)建一個入侵檢測模型，準確地檢測出病毒、木馬數(shù)據(jù)，啟動病毒木馬查殺軟件，清除網(wǎng)絡(luò)中的威脅，保證網(wǎng)絡(luò)正常運行。

參考文獻

[1]徐振華.基于BP神經(jīng)網(wǎng)絡(luò)的分布式入侵檢測模型改進算法研究[J].網(wǎng)絡(luò)安全技術(shù)與應(yīng)用，2016，24（2）：111-112.

[2]劉成.試論入侵檢測技術(shù)在網(wǎng)絡(luò)安全中的應(yīng)用與研究[J].網(wǎng)絡(luò)安全技術(shù)與應(yīng)用，2016，24（2）：74-75.

[3]周立軍，張杰，呂海燕.基于數(shù)據(jù)挖掘技術(shù)的網(wǎng)絡(luò)入侵檢測技術(shù)研究[J].現(xiàn)代電子技術(shù)，2016，18（6）：121-122.

[4]謝勝軍.云計算時代網(wǎng)絡(luò)安全現(xiàn)狀與防御措施探討[J].網(wǎng)絡(luò)安全技術(shù)與應(yīng)用，2016，26（2）：41-42.

第3篇：神經(jīng)網(wǎng)絡(luò)的訓(xùn)練流程范文

【關(guān)鍵詞】神經(jīng)網(wǎng)絡(luò) 手寫 識別系統(tǒng) 應(yīng)用

隨著計算機技術(shù)的快速發(fā)展，其在人們的辦公學習和日常生活成了不可替代的工具。鍵盤已經(jīng)幾乎完全替代了筆在人們生活中的地位，隨之而來的后果就是人們越來越少的區(qū)書寫漢字，導(dǎo)致越來越多的中國人甚至都忘記了漢字該如何書寫，這種現(xiàn)象在很多研究和報道中都有體現(xiàn)。計算機和鍵盤是由西方國家發(fā)明的，其符合西方國家的語言習慣，對于中國人來說，用字母、符號去完成方塊漢字的輸入就需要使用者非常熟悉漢語拼音或者五筆編碼，對于文化程度較低的使用者來說，這些都限制著他們使用計算機。鑒于計算機鍵盤的這些缺陷，聯(lián)機手寫輸入法應(yīng)運而生，這為計算機的輸入帶來了新的發(fā)展機遇和挑戰(zhàn)。

1 聯(lián)機漢字手寫識別的意義及難點

聯(lián)機漢字識別是用書寫板代替?zhèn)鹘y(tǒng)紙張，筆尖通過數(shù)字化書寫板的軌跡通過采樣系統(tǒng)按時間先后發(fā)送到計算機中，計算機則自動的完成漢字的識別和顯示。

1.1 聯(lián)機漢字手寫識別的意義

聯(lián)機手寫漢字識別的誕生具有非常重要的意義。首先這種輸入方法延續(xù)了幾千年中華文明的寫字習慣，實現(xiàn)用戶的手寫輸入，對于長時間不提筆寫字的用戶來說能夠加強其對漢字書寫方面的認識，防止“提筆忘字”現(xiàn)象的繼續(xù)惡化。其次，手寫漢字輸入不需要學習和記憶計算機的漢字編碼規(guī)則，其完全符合中國人的寫字習慣，使人機之間的交流更人性化，更方便快捷。另外，隨著移動智能終端的不斷普及，聯(lián)機漢字手寫識別的應(yīng)用范圍將進一步擴大，以適用于不同層次人群對信息輸入的需要，具有較大的市場發(fā)展前景。

1.2 聯(lián)機手寫漢字識別問題的難點

手寫漢字識別是光學字符讀出器中最難的部分，也是其最終的目標，手寫漢字識別的應(yīng)用主要依賴于其正確識別率和識別速度[1]。手寫漢字識別系統(tǒng)的問題具有其特殊性：

（1）中國漢字量大。我國目前的常用漢字大概在4000個左右，在實際應(yīng)用中的漢字識別系統(tǒng)應(yīng)該能夠完全識別這些常用的字才能夠滿足需要，由于超大的漢字量，使得手寫識別的正確率和識別速度一直不高。

（2）字體多，結(jié)構(gòu)復(fù)雜。漢字的手寫字體豐富多彩，且漢字的筆畫繁多，以及復(fù)雜的結(jié)構(gòu)，再加上漢字中的形近字頗多，這些都為漢字識別系統(tǒng)的發(fā)展造成了很大的困難。

（3）書寫變化大。不同用戶在進行手寫輸入時其字體的變化是很大的，這種變化因人而異，對漢字識別造成了很大的干擾，增加了漢字匹配的難度。

2 人工神經(jīng)網(wǎng)絡(luò)概述

人工神經(jīng)網(wǎng)絡(luò)是一種應(yīng)用類似于大腦神經(jīng)突觸聯(lián)接的結(jié)構(gòu)進行信息處理的數(shù)學模型，通常簡稱為神經(jīng)網(wǎng)絡(luò)，是一種仿生物神經(jīng)的信號處理模型。在二十世紀四十年代初人們開始進行神經(jīng)網(wǎng)絡(luò)的研究，經(jīng)過幾十年的發(fā)展，神經(jīng)網(wǎng)絡(luò)也產(chǎn)生了一系列的突破，目前應(yīng)用最多的是Hopfield模型和BP算法。

神經(jīng)網(wǎng)絡(luò)的一般模型一般包括十個方面：環(huán)境、處理單元、傳播規(guī)則、神經(jīng)網(wǎng)絡(luò)的狀態(tài)、互聯(lián)模式、穩(wěn)定狀態(tài)、操作模式、活躍規(guī)則、活化函數(shù)和學習算法。其中，神經(jīng)元、互聯(lián)模式、學習算法是神經(jīng)網(wǎng)絡(luò)模型中的三個關(guān)鍵因素。神經(jīng)網(wǎng)絡(luò)的一個重要內(nèi)容就是學習，其學習方式可以分為監(jiān)督學習和無監(jiān)督學習，其學習過程一般遵循Hebb規(guī)則，誤差修正學習算法以及勝者為王的學習規(guī)則，其中Hebb規(guī)則是神經(jīng)網(wǎng)絡(luò)學習中最基本的規(guī)則。

人工神經(jīng)網(wǎng)絡(luò)具有獨特的優(yōu)越性。首先其具有主動學習的功能，在漢字識別過程中，先將漢字模板及可能的識別結(jié)果輸入到神經(jīng)網(wǎng)絡(luò)中，神經(jīng)網(wǎng)絡(luò)能夠通過其自身的學習過程來實現(xiàn)對漢字的識別，自學功能對于神經(jīng)網(wǎng)絡(luò)的預(yù)測功能具有非常重要的意義。其次，神經(jīng)網(wǎng)絡(luò)系統(tǒng)具有聯(lián)想存儲功能，其反饋功能能夠?qū)崿F(xiàn)這種聯(lián)想。另外，通過計算機的高速運算能力，神經(jīng)網(wǎng)絡(luò)具有高速尋找優(yōu)化解的能力。

3 人工神經(jīng)網(wǎng)絡(luò)在聯(lián)機手寫識別系統(tǒng)中的應(yīng)用

漢字識別屬于大類別模式識別，人工神經(jīng)網(wǎng)絡(luò)可以通過函數(shù)逼近、數(shù)據(jù)分類、數(shù)據(jù)聚類三種作用方式以及“聯(lián)想”的特殊模式對漢字進行識別。Hopfield神經(jīng)網(wǎng)絡(luò)作為反饋網(wǎng)絡(luò)的一種，其自聯(lián)想記憶網(wǎng)絡(luò)可以使系統(tǒng)不需要通過大量的訓(xùn)練即可對漢字進行識別，因此Hopfield神經(jīng)網(wǎng)絡(luò)對于漢字識別來說具有獨特的優(yōu)勢。其中的離散型Hopfield神經(jīng)網(wǎng)絡(luò)能夠通過串行異步和并行同步的工作方式，使其反饋過程具有非常好的穩(wěn)定性，而網(wǎng)絡(luò)只有通過不斷的演變穩(wěn)定在某一吸引子狀態(tài)時，才能夠?qū)崿F(xiàn)正確的聯(lián)想。

聯(lián)機手寫識別可以分為訓(xùn)練階段和識別階段。訓(xùn)練階段流程依次為：標準書寫字符圖像預(yù)處理，提取特征并建立特征庫，建立Hopfield網(wǎng)絡(luò)模型，訓(xùn)練網(wǎng)絡(luò)，保存權(quán)值。識別階段的流程為：坐標序列轉(zhuǎn)化為bmp圖像，預(yù)處理測試樣本，提取特征，送入網(wǎng)絡(luò)運行，運行網(wǎng)絡(luò)到平衡狀態(tài)，分析結(jié)果值。根據(jù)聯(lián)機手寫識別的工作流程以及Hopfield網(wǎng)絡(luò)模型的理論，基于Hopfield神經(jīng)網(wǎng)絡(luò)的聯(lián)機手寫識別系統(tǒng)在Matlab環(huán)境下得到了仿真模擬，效果非常理想。

4 總結(jié)

手寫識別系統(tǒng)能夠彌補普通鍵盤的不足，在提高漢字書寫頻率的同時，能夠滿足不同層次人群對計算機應(yīng)用的技術(shù)需要?；贖opfield神經(jīng)網(wǎng)絡(luò)的聯(lián)機手寫識別系統(tǒng)一起自身獨特的性能，不僅能夠滿足手寫漢字識別的正確率，而且其識別過程速度非常快。因此它對于實現(xiàn)聯(lián)機手寫識別以及圖像識別具有非常重要的意義。

參考文獻

[1]俞慶英.聯(lián)機手寫漢字識別系統(tǒng)的研究與實現(xiàn)[D].安徽大學，2005（5）.

[2]郭力賓.交叉點的神經(jīng)網(wǎng)絡(luò)識別及聯(lián)機手寫字符的概率神經(jīng)網(wǎng)絡(luò)識別初探[D].大連理工大學，2003（03）.

[3]趙蓉.基于神經(jīng)網(wǎng)絡(luò)的聯(lián)機手寫識別系統(tǒng)研究與實現(xiàn)[D].西安電子科技大學，2011（01）.

作者簡介

周珍娟（1979-）， 女，江西撫州人。計算機專業(yè)碩士。現(xiàn)為江蘇城市職業(yè)學院講師。主要研究方向為網(wǎng)絡(luò)安全，模式識別。

第4篇：神經(jīng)網(wǎng)絡(luò)的訓(xùn)練流程范文

關(guān)鍵字 ：神經(jīng)網(wǎng)絡(luò)，BP模型，預(yù)測

中圖分類號：TP183文獻標識碼： A

1 引言

在系統(tǒng)建模、辨識和預(yù)測中，對于線性系統(tǒng)，在頻域，傳遞函數(shù)矩陣可以很好地表達系統(tǒng)的黑箱式輸入輸出模型；在時域，Box-Jenkins方法、回歸分析方法、ARMA模型等，通過各種參數(shù)估計方法也可以給出描述。對于非線性時間序列預(yù)測系統(tǒng)，雙線性模型、門限自回歸模型、ARCH模型都需要在對數(shù)據(jù)的內(nèi)在規(guī)律知道不多的情況下對序列間關(guān)系進行假定?？梢哉f傳統(tǒng)的非線性系統(tǒng)預(yù)測，在理論研究和實際應(yīng)用方面，都存在極大的困難。相比之下，神經(jīng)網(wǎng)絡(luò)可以在不了解輸入或輸出變量間關(guān)系的前提下完成非線性建模[4，6]。神經(jīng)元、神經(jīng)網(wǎng)絡(luò)都有非線性、非局域性、非定常性、非凸性和混沌等特性，與各種預(yù)測方法有機結(jié)合具有很好的發(fā)展前景，也給預(yù)測系統(tǒng)帶來了新的方向與突破。建模算法和預(yù)測系統(tǒng)的穩(wěn)定性、動態(tài)性等研究成為當今熱點問題。目前在系統(tǒng)建模與預(yù)測中，應(yīng)用最多的是靜態(tài)的多層前向神經(jīng)網(wǎng)絡(luò)，這主要是因為這種網(wǎng)絡(luò)具有通過學習逼近任意非線性映射的能力。利用靜態(tài)的多層前向神經(jīng)網(wǎng)絡(luò)建立系統(tǒng)的輸入/輸出模型，本質(zhì)上就是基于網(wǎng)絡(luò)逼近能力，通過學習獲知系統(tǒng)差分方程中的非線性函數(shù)。但在實際應(yīng)用中，需要建模和預(yù)測的多為非線性動態(tài)系統(tǒng)，利用靜態(tài)的多層前向神經(jīng)網(wǎng)絡(luò)必須事先給定模型的階次，即預(yù)先確定系統(tǒng)的模型，這一點非常難做到。近來，有關(guān)基于動態(tài)網(wǎng)絡(luò)的建模和預(yù)測的研究，代表了神經(jīng)網(wǎng)絡(luò)建模和預(yù)測新的發(fā)展方向。

2 BP神經(jīng)網(wǎng)絡(luò)模型

BP網(wǎng)絡(luò)是采用Widrow-Hoff學習算法和非線性可微轉(zhuǎn)移函數(shù)的多層網(wǎng)絡(luò)。典型的BP算法采用梯度下降法，也就是Widrow-Hoff算法?，F(xiàn)在有許多基本的優(yōu)化算法，例如變尺度算法和牛頓算法。如圖1所示，BP神經(jīng)網(wǎng)絡(luò)包括以下單元：①處理單元(神經(jīng)元)（圖中用圓圈表示），即神經(jīng)網(wǎng)絡(luò)的基本組成部分。輸入層的處理單元只是將輸入值轉(zhuǎn)入相鄰的聯(lián)接權(quán)重，隱層和輸出層的處理單元將它們的輸入值求和并根據(jù)轉(zhuǎn)移函數(shù)計算輸出值。②聯(lián)接權(quán)重(圖中如V,W)。它將神經(jīng)網(wǎng)絡(luò)中的處理單元聯(lián)系起來，其值隨各處理單元的聯(lián)接程度而變化。③層。神經(jīng)網(wǎng)絡(luò)一般具有輸入層x、隱層y和輸出層o。④閾值。其值可為恒值或可變值，它可使網(wǎng)絡(luò)能更自由地獲取所要描述的函數(shù)關(guān)系。⑤轉(zhuǎn)移函數(shù)F。它是將輸入的數(shù)據(jù)轉(zhuǎn)化為輸出的處理單元，通常為非線性函數(shù)。

圖1 BP神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)

2.1 基本算法

BP算法主要包含4步，分為向前傳播和向后傳播兩個階段：

1）向前傳播階段

（1）從樣本集中取一個樣本（Xp，Yp），將Xp輸入網(wǎng)絡(luò)；

（2）計算相應(yīng)的實際輸出Op

在此階段，信息從輸入層經(jīng)過逐級的變換，傳送到輸出層。這個過程也是網(wǎng)絡(luò)在完成訓(xùn)練后正常運行時的執(zhí)行過程。

2）向后傳播階段

（1）計算實際輸出Op與相應(yīng)的理想輸出Yp的差；

（2）按極小化誤差的方式調(diào)整權(quán)矩陣。

這兩個階段的工作受到精度要求的控制，在這里取 作為網(wǎng)絡(luò)關(guān)于第p個樣本的誤差測度，而將網(wǎng)絡(luò)關(guān)于整個樣本集的誤差測度定義為 。圖2是基本BP算法的流程圖。

圖2 BP基本算法流程

2.2 動態(tài)BP神經(jīng)網(wǎng)絡(luò)預(yù)測算法

在經(jīng)典的BP算法以及其他的訓(xùn)練算法中都有很多變量，這些訓(xùn)練算法可以確定一個ANN結(jié)構(gòu)，它們只訓(xùn)練固定結(jié)構(gòu)的ANN權(quán)值（包括聯(lián)接權(quán)值和結(jié)點轉(zhuǎn)換函數(shù)）。在自動設(shè)計ANN結(jié)構(gòu)方面，也已有較多的嘗試，比如構(gòu)造性算法和剪枝算法。前一種是先隨機化網(wǎng)絡(luò)，然后在訓(xùn)練過程中有必要地增加新的層和結(jié)點；而剪枝法則正好相反。文獻[2]中提出了演化神經(jīng)網(wǎng)絡(luò)的理念，并把EP算法與BP進行了組合演化；也有很多學者把遺傳算法和BP進行結(jié)合，但這些算法都以時間復(fù)雜度以及空間復(fù)雜度的增加為代價。根據(jù)Kolmogorov定理,對于任意給定的L2型連續(xù)函數(shù)f: [ 0, 1 ]n Rm , f可以精確地用一個三層前向神經(jīng)網(wǎng)絡(luò)來實現(xiàn)，因而可以只考慮演化網(wǎng)絡(luò)的權(quán)值和結(jié)點數(shù)而不影響演化結(jié)果。基于此，在BP原有算法的基礎(chǔ)上，增加結(jié)點數(shù)演化因子，然后記錄每層因子各異時演化出的結(jié)構(gòu)，最后選取最優(yōu)的因子及其網(wǎng)絡(luò)結(jié)構(gòu)，這樣就可以避免由于增加或剪枝得到的局部最優(yōu)。根據(jù)實驗得知，不同的預(yù)測精度也影響網(wǎng)絡(luò)層神經(jīng)元的結(jié)點數(shù)，所以可根據(jù)要求動態(tài)地建立預(yù)測系統(tǒng)。具體步驟如下：

（1）將輸入向量和目標向量進行歸一化處理。

（2）讀取輸入向量、目標向量，記錄輸入維數(shù)m、輸出層結(jié)點數(shù)n。

（3）當訓(xùn)練集確定之后，輸入層結(jié)點數(shù)和輸出層結(jié)點數(shù)隨之而確定，首先遇到的一個十分重要而又困難的問題是如何優(yōu)化隱層結(jié)點數(shù)和隱層數(shù)。實驗表明，如果隱層結(jié)點數(shù)過少，網(wǎng)絡(luò)不能具有必要的學習能力和信息處理能力。反之，若過多，不僅會大大增加網(wǎng)絡(luò)結(jié)構(gòu)的復(fù)雜性（這一點對硬件實現(xiàn)的網(wǎng)絡(luò)尤其重要），網(wǎng)絡(luò)在學習過程中更易陷入局部極小點，而且會使網(wǎng)絡(luò)的學習速度變得很慢。隱層結(jié)點數(shù)的選擇問題一直受到神經(jīng)網(wǎng)絡(luò)研究工作者的高度重視。Gorman指出隱層結(jié)點數(shù)s與模式數(shù)N的關(guān)系是：s＝log2N；Kolmogorov定理表明，隱層結(jié)點數(shù)s＝2n＋1（n為輸入層結(jié)點數(shù)）；而根據(jù)文獻[7]：s＝sqrt（0.43mn＋0.12nn＋2.54m＋0.77n＋0.35）＋0.51[7]。

（4）設(shè)置結(jié)點數(shù)演化因子a。為了快速建立網(wǎng)絡(luò)，可以對其向量初始化，

并從小到大排序[4，7]。

（5）建立BP神經(jīng)網(wǎng)絡(luò)。隱含層傳遞函數(shù)用tansig，輸出層用logsig，訓(xùn)練函數(shù)采用動態(tài)自適應(yīng)BP算法，并制訂停止準則：目標誤差精度以及訓(xùn)練代數(shù)。

（6）初始化網(wǎng)絡(luò)。

（7）訓(xùn)練網(wǎng)絡(luò)直到滿足停止判斷準則。

（8）用測試向量對網(wǎng)絡(luò)進行預(yù)測，并記錄誤差和逼近曲線，評估其網(wǎng)絡(luò)的適應(yīng)性。其適應(yīng)度函數(shù)采取規(guī)則化均方誤差函數(shù)。

（9）轉(zhuǎn)到（5），選取下一個演化因子，動態(tài)增加隱含層結(jié)點數(shù)，直到最后得到最佳預(yù)測網(wǎng)絡(luò)。

3 基于神經(jīng)網(wǎng)絡(luò)的預(yù)測原理[4]

3.1 正向建模

正向建模是指訓(xùn)練一個神經(jīng)網(wǎng)絡(luò)表達系統(tǒng)正向動態(tài)的過程，這一過程建立的神經(jīng)網(wǎng)絡(luò)模型稱為正向模型，其結(jié)構(gòu)如圖3所示。其中，神經(jīng)網(wǎng)絡(luò)與待辨識的系統(tǒng)并聯(lián)，兩者的輸出誤差用做網(wǎng)絡(luò)的訓(xùn)練信號。顯然，這是一個典型的有導(dǎo)師學習問題，實際系統(tǒng)作為教師，向神經(jīng)網(wǎng)絡(luò)提供算法所需要的期望輸出。當系統(tǒng)是被控對象或傳統(tǒng)控制器時，神經(jīng)網(wǎng)絡(luò)多采用多層前向網(wǎng)絡(luò)的形式，可直接選用BP網(wǎng)絡(luò)或它的各種變形。而當系統(tǒng)為性能評價器時，則可選擇再勵學習算法，這時網(wǎng)絡(luò)既可以采用具有全局逼近能力的網(wǎng)絡(luò)（如多層感知器），也可選用具有局部逼近能力的網(wǎng)絡(luò)（如小腦模型控制器等）。

圖3 正向建模結(jié)構(gòu)

3.2 逆向建模

建立動態(tài)系統(tǒng)的逆模型，在神經(jīng)網(wǎng)絡(luò)中起著關(guān)鍵作用，并且得到了廣泛的應(yīng)用。其中，比較簡單的是直接逆建模法，也稱為廣義逆學習。其結(jié)構(gòu)如圖4所示，擬預(yù)報的系統(tǒng)輸出作為網(wǎng)絡(luò)的輸入，網(wǎng)絡(luò)輸出與系統(tǒng)輸入比較，相應(yīng)的輸入誤差用于訓(xùn)練，因而網(wǎng)絡(luò)將通過學習建立系統(tǒng)的逆模型。但是，如果所辨識的非線性系統(tǒng)是不可逆的，利用上述方法將得到一個不正確的逆模型。因此，在建立系統(tǒng)時，可逆性應(yīng)該先有所保證。

圖4 直接逆建模結(jié)構(gòu)

4 應(yīng)用實例分析

以我國西南某地震常發(fā)地區(qū)的地震資料作為樣本來源，實現(xiàn)基于動態(tài)神經(jīng)網(wǎng)絡(luò)的地震預(yù)報。根據(jù)資料，提取出7個預(yù)報因子和實際發(fā)生的震級M作為輸入和目標向量。預(yù)報因子為半年內(nèi)M>=3的地震累計頻度、半年內(nèi)能量釋放積累值、b值、異常地震群個數(shù)、地震條帶個數(shù)、是否處于活動期內(nèi)以及相關(guān)地震區(qū)地震級。在訓(xùn)練前，對數(shù)據(jù)進行歸一化處理。由于輸入樣本為7維的輸入向量，一般情況下輸入層設(shè)7個神經(jīng)元。根據(jù)實際情況，輸出層神經(jīng)元個數(shù)為1。隱含層神經(jīng)元的傳遞函數(shù)為S型正切函數(shù)，輸出層也可以動態(tài)選擇傳遞函數(shù)。實例數(shù)據(jù)來自文獻[4]，將數(shù)據(jù)集分為訓(xùn)練集、測試集和確定集。表1中的7×7數(shù)組表示歸一化后的訓(xùn)練向量，第一個7表示預(yù)報因子數(shù)，第二個7表示樣本數(shù)。

表1 歸一化后的訓(xùn)練向量

在不同神經(jīng)元數(shù)情況下，對網(wǎng)絡(luò)進行訓(xùn)練和仿真，得到如圖5所示的一組預(yù)測誤差曲線。其中，曲線A表示隱層結(jié)點數(shù)為6時的預(yù)測誤差曲線，曲線B表示隱含層結(jié)點數(shù)為3時的預(yù)測誤差曲線，曲線C表示隱含層結(jié)點數(shù)為5時的預(yù)測誤差曲線，曲線D表示隱含層結(jié)點數(shù)為4時的預(yù)測誤差曲線。將五種情況下的誤差進行對比，曲線C表示的網(wǎng)絡(luò)預(yù)測性能最好，其隱含層神經(jīng)元數(shù)為5，圖中曲線E表示的是隱含層結(jié)點數(shù)為15時的預(yù)測誤差曲線（文獻[4]中的最好結(jié)果）。同時也證明，在設(shè)計BP網(wǎng)絡(luò)時，不能無限制地增加層神經(jīng)元的個數(shù)。若過多，不僅會大大增加網(wǎng)絡(luò)結(jié)構(gòu)的復(fù)雜性，網(wǎng)絡(luò)在學習過程中更易陷入局部極小點，而且會使網(wǎng)絡(luò)的學習速度、預(yù)測速度變得很慢。

圖5 不同神經(jīng)元數(shù)預(yù)測誤差對比曲線

5 結(jié)論

本文針對基本的BP神經(jīng)網(wǎng)絡(luò)，提出了可動態(tài)改變神經(jīng)元數(shù)（與精度相關(guān)）的BP神經(jīng)網(wǎng)絡(luò)預(yù)測方法，可以根據(jù)實際情況建立預(yù)測系統(tǒng)。用此種方法可以建立最好的神經(jīng)網(wǎng)絡(luò)，不會有多余的神經(jīng)元，也不會讓網(wǎng)絡(luò)在學習過程中過早陷于局部極小點。

參考文獻

[1]潘正君，康立山，陳毓屏. 演化計算[M ]. 北京:清華大學出版社，1998

[2]飛思科技產(chǎn)品研發(fā)中心. 神經(jīng)網(wǎng)絡(luò)理論與實現(xiàn). 北京:電子工業(yè)出版社，2005

[3]蔡曉芬，方建斌. 演化神經(jīng)網(wǎng)絡(luò)算法. 江漢大學學報，第33卷第3期，2005.9

第5篇：神經(jīng)網(wǎng)絡(luò)的訓(xùn)練流程范文

關(guān)鍵詞：煤礦 漸進神經(jīng)網(wǎng)絡(luò) 煤與瓦斯突出

1 概述

對于煤礦各煤層的煤與瓦斯突出危險性的區(qū)域預(yù)測，一般是先確定突出危險性參數(shù)，建立一個初步的預(yù)測模型，然后根據(jù)該礦區(qū)已經(jīng)發(fā)生的煤與瓦斯突出事故的情況來不斷驗證，直到得到合理的區(qū)域預(yù)測模型，這樣整個區(qū)域預(yù)測模型的建立需要做大量調(diào)試，耗費很長的時間。

本文嘗試利用漸進神經(jīng)網(wǎng)絡(luò)的特點，建立利用結(jié)果反求礦井的煤與瓦斯突出危險性區(qū)域預(yù)測模型，使得建立的模型能更加適合不同礦井發(fā)生煤與瓦斯突出的實際情況。此外，還能大大減少模型調(diào)試所消耗的大量時間[3]。

2 關(guān)于建立煤與瓦斯突出區(qū)域預(yù)測模型的分析

目前為止，國內(nèi)外對影響煤與瓦斯突出參數(shù)的問題進行了很多研究，而隨著力學、動力學理論等學科的發(fā)展，分析礦井煤與瓦斯突出是如何發(fā)生的方法也越來越多。在眾多的突出理論中，能讓從事該行業(yè)的絕大多數(shù)人認同和接受的就是綜合假說。

綜合假說的主要理論是：煤與瓦斯突出是礦井中一種極其復(fù)雜的動力現(xiàn)象，它包括三個因素：地應(yīng)力、高壓瓦斯和煤的結(jié)構(gòu)性能，它的發(fā)生是三個主要因素綜合作用的結(jié)果。

從能量轉(zhuǎn)換角度分析，突出的能量來自煤巖體彈性彈性潛能和煤體中的瓦斯膨脹能，這些能量在突出過程中主要轉(zhuǎn)換為煤體的破碎功和碎煤在巷道中的移動功等。因此，在由煤巖層和瓦斯組成的這樣一個力學系統(tǒng)中，就有四種相互作用和相互轉(zhuǎn)化的能量體系，它們之間的消長關(guān)系夠長了煤與瓦斯突出全過程的能量條件。當煤巖體彈性潛能和煤體中的瓦斯膨脹能大于煤體的破壞功和移動功時，就發(fā)生煤與瓦斯突出，否則就不發(fā)生。

3 基于漸進神經(jīng)網(wǎng)絡(luò)的煤與瓦斯突出危險區(qū)域預(yù)測模型的建立

神經(jīng)網(wǎng)絡(luò)是由大量的神經(jīng)元相連接的網(wǎng)絡(luò)，針對影響煤與瓦斯突出的地應(yīng)力、瓦斯壓力、煤體結(jié)構(gòu)的復(fù)雜關(guān)系，通過對漸進神經(jīng)網(wǎng)絡(luò)的訓(xùn)練、控制和識辯可以反求到影響不同礦井對煤與瓦斯突出影響的參數(shù)及其權(quán)重值[2]。

基于地應(yīng)力、瓦斯壓力、煤體結(jié)構(gòu)參數(shù)反求流程如圖1所示。假設(shè)模型的各項參數(shù)為某一組數(shù)值，可以仿真得到相應(yīng)的突出參數(shù)的神經(jīng)網(wǎng)絡(luò)的初始訓(xùn)練樣本，將各種參數(shù)值Xm輸入神經(jīng)網(wǎng)絡(luò)，即可反求得到對于的參數(shù)Yi，并將其作為煤與瓦斯突出的影響參數(shù)，可以得到影響參數(shù)的計算值Xn。如果計算值Xm和測量值Xn偏差超過許可誤差，必須重新選取樣本，對神經(jīng)網(wǎng)絡(luò)在訓(xùn)練，直到計算值Xm和測量值Xn的偏差在許可范圍內(nèi)，即為反求得到的煤與瓦斯突出影響參數(shù)Yj。

神經(jīng)網(wǎng)絡(luò)模型的結(jié)構(gòu)，需要根據(jù)具體求解問題的復(fù)雜程度決定[3]。圖2為煤與瓦斯突出影響參數(shù)反求的神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)，神經(jīng)網(wǎng)絡(luò)由可能代表影響煤與瓦斯突出因素的N個輸入單元組成輸入層，網(wǎng)絡(luò)的輸出層由實際代表影響煤與瓦斯突出的M個單元組成，網(wǎng)絡(luò)還包含一個隱含層。通過神經(jīng)網(wǎng)絡(luò)可以建立影響煤與瓦斯突出因素的非線性關(guān)系：

神經(jīng)網(wǎng)絡(luò)的訓(xùn)練，就是根據(jù)訓(xùn)練樣本來計算權(quán)值矩陣W，根據(jù)求出影響參數(shù)及權(quán)值矩陣計算煤層的突出危險性程度。神經(jīng)網(wǎng)絡(luò)訓(xùn)練以后，不管實際問題怎么復(fù)雜，神經(jīng)網(wǎng)絡(luò)都可以快速的計算輸出變量，因此，神經(jīng)網(wǎng)絡(luò)是適合用于煤與瓦斯突出危險性區(qū)域預(yù)測模型的建立的。

4 結(jié)論

本文應(yīng)用反求的思想，從滿足預(yù)測的觀點出發(fā)，通過建立漸進神經(jīng)網(wǎng)絡(luò)的方法來反求滿足不同礦區(qū)實際情況的突出危險性區(qū)域預(yù)測模型，從而反求出影響不同煤礦的煤與瓦斯突出危險性的影響參數(shù)，從而避免了建立煤與瓦斯突出危險性區(qū)域預(yù)測模型過程中繁雜的調(diào)試過程，縮短了該模型建立過程，并使得區(qū)域預(yù)測模型具有較好的針對性及預(yù)測效果。

參考文獻：

[1]候媛彬，杜京義，汪梅.神經(jīng)網(wǎng)絡(luò)[M].西安電子科技大學出版社.

[2]張青貴.人工神經(jīng)網(wǎng)絡(luò)導(dǎo)論[M].中國水利水電出版社.

[3]劉海波，施式亮等.人工神經(jīng)網(wǎng)絡(luò)對礦山安全狀態(tài)的評判能力分析[J].安全與環(huán)境學報，2004（5）：69～72.

[4]胡千庭，鄒銀輝等.瓦斯含量法預(yù)測突出危險新技術(shù)[J].煤炭學報，2007（3）：277～280.

第6篇：神經(jīng)網(wǎng)絡(luò)的訓(xùn)練流程范文

關(guān)鍵詞：模糊神經(jīng)網(wǎng)絡(luò);企業(yè)水環(huán)境;評價

收稿日期：20120410

基金項目：國家自然科學基金資助項目(編號:41101080);山東省自然科學基金資助項目(編號:ZR2011DQ009);山東省研究生教育創(chuàng)新計劃

項目(編號:SDYC11147)資助

作者簡介：朱敏（1974—），女,湖南常德人,工程師,主要從事企業(yè)水環(huán)境研究工作。

通訊作者：李銳（1963—），男,湖南新化人,教授,博導(dǎo),主要從事環(huán)境經(jīng)濟學方面的教學與研究工作。中圖分類號：X73文獻標識碼：A文章編號：16749944(2012)05015003

1引言

隨著經(jīng)濟的發(fā)展和污染負荷的增加,人們認識到濃度控制已不能從根本上解決污染問題。而我國對水環(huán)境的研究,也主要集中在對水源地的分析和控制中。隨著工業(yè)企業(yè)對水環(huán)境的重視,開始逐步嘗試用處理過的中水進行循環(huán)使用,但是對多指標的水質(zhì)評價缺乏定性的判斷。而在對水環(huán)境的評價方法中,由于參與的評價因子眾多,并且與水質(zhì)等級之間存在的是非常復(fù)雜的非線性關(guān)系,所以至今都沒有形成統(tǒng)一的方法。常規(guī)的地下水水質(zhì)評價方法有綜合指數(shù)法、模糊綜合評價法、灰色聚類法等［1］,這些方法都還存在著一些不足。近年來,隨著神經(jīng)網(wǎng)絡(luò)的發(fā)展,國內(nèi)外很多從事地下水研究的學者將神經(jīng)網(wǎng)絡(luò)引入水質(zhì)評價中,取得了較好的評價效果,表明研究神經(jīng)網(wǎng)絡(luò)處理水質(zhì)評價具有非?，F(xiàn)實的意義。

模糊理論和神經(jīng)網(wǎng)絡(luò)技術(shù)是近幾年來人工智能研究較為活躍的兩個領(lǐng)域［2］。模糊神經(jīng)網(wǎng)絡(luò)(Fuzzy Neural Network,FNN)是在神經(jīng)網(wǎng)絡(luò)(Neural Network,NN)和模糊系統(tǒng)(Fuzzy System,FS)的基礎(chǔ)上發(fā)展起來的,二者的融合彌補了神經(jīng)網(wǎng)絡(luò)在模糊數(shù)據(jù)處理方面的不足和模糊邏輯在學習方面的缺陷,是一個集語言計算、邏輯推理、分布式處理和非線性動力學過程為一身的系統(tǒng)［3,4］。本文使用這種方法來評價某企業(yè)水環(huán)境質(zhì)量,通過MATLAB R2011b 編程實現(xiàn),其工具箱函數(shù)提供了歸一化函數(shù)mapminmax等,該仿真結(jié)果表明,系統(tǒng)具有較好的客觀性和預(yù)測性。

2模糊神經(jīng)網(wǎng)絡(luò)原理

模糊神經(jīng)網(wǎng)絡(luò)是一種集模糊邏輯推理的強大結(jié)構(gòu)性知識表達能力與神經(jīng)網(wǎng)絡(luò)的強大自學習能力于一體的新技術(shù),它是模糊邏輯推理與神經(jīng)網(wǎng)絡(luò)有機結(jié)合的產(chǎn)物［6,7］。

2.1模糊數(shù)學方法

模糊集概念是模糊數(shù)學的特征函數(shù)處于中介狀態(tài),并用隸屬函數(shù)表示模糊集。模糊數(shù)學是用來描述、研究和處理事物所具有的模糊特征的數(shù)學。“模糊”是指它的研究對象,而“數(shù)學”是指它的研究方法。

模糊數(shù)學中最基本的概念是隸屬度和模糊隸屬度函數(shù)。其中,隸屬度是指元素u屬于模糊子集f的隸屬程度,用μf(u)表示,它是一個在［0,1］之間的數(shù),越接近于0,表示μf(u)屬于模糊子集u的程度越小;越靠近1,表示u屬于模糊子集f的程度越大。

在模糊數(shù)學中,運用隸屬度來描述客觀事物中很多模糊的界限,而隸屬度可用隸屬函數(shù)來表示。比如水質(zhì)評價中“污染程度”就是一個模糊概念,因此,作為評價污染程度的分類標準也應(yīng)具有模糊的特征,用一般的評價方法進行分類別,不盡合理,而用模糊概念進行推理就比較符合客觀實際［5］。

2.2TakagiSugeno(T-S)模糊模型

TS模糊模型一般用于多個輸入和單個輸出的情況。該模型是一種自適應(yīng)能力很強的模糊系統(tǒng),該系統(tǒng)不僅能自動更新,而且能不斷修正模糊子集的隸屬函數(shù)。TS模糊系統(tǒng)用如下的“if-then”規(guī)則形式來定義,在規(guī)則為 的情況下,模糊推理如下:

Ri:Ifx1isAi1,x2isAi2，…,xkisAik,then yi=pi1x1+…+pikxk

其中Aij為模糊系統(tǒng)的模糊集,pij(j=1,2,…,k)為模糊系統(tǒng)參數(shù);yi為根據(jù)模糊規(guī)則得到的輸出,輸入部分(即if部分)是模糊的,輸出部分(即then部分)是確定的,該模糊推理表示輸出為輸入的線性組合。假設(shè)對于輸入量x=［x1,x2,…,xk］,首先根據(jù)模糊規(guī)則計算各輸入變量xj的隸屬度。

μAij=exp(-(xj-cij)2/bij)j=1,2,…,k;i=1,2,…,n(1)

式中,cij,bij分別為隸屬度函數(shù)的中心和寬度;k為輸入?yún)?shù)數(shù);n為模糊子集數(shù)。

將各隸屬度進行模糊計算,采用模糊算子為連乘算算子。

wi=μA1j(x1)×μA2j(x2)×…×μAkj(xk),i=1,2,…,n(2)

根據(jù)模糊計算結(jié)果計算模糊模型的輸出值yi。

yi=∑ni=1wi(pi0+pi1x1+…+pikxk)/∑ni=1wi。(3)

2.3TakagiSugeno模糊神經(jīng)網(wǎng)絡(luò)模型

TS模糊神經(jīng)網(wǎng)絡(luò)分為輸入層、模糊化層、模糊規(guī)則計算層和輸出層等4層。輸入層與輸入向量xi連接,節(jié)點數(shù)與輸入向量的維數(shù)相同。模糊化層采用隸屬函數(shù)(1)對輸入值進行模糊化得到模糊隸屬度值μ。模糊規(guī)則計算層采用模糊連乘公式(2)計算得到w,輸出層采用公式(3)計算得到模糊神經(jīng)網(wǎng)絡(luò)的輸出。模糊神經(jīng)網(wǎng)絡(luò)的學習算法如下。

2.3.1誤差計算

e=12(yd-yc)2,(4)

式中,yd是網(wǎng)絡(luò)期望輸出;yc是網(wǎng)絡(luò)實際輸出;e為期望輸出和實際輸出的誤差。

2.3.2系數(shù)修正

pij(k)=pij(k-1)-αepij,(5)

epij=(yd-yc)wi/∑mi=1wi×xj。(6)

式中,pij為神經(jīng)網(wǎng)絡(luò)系數(shù),α為網(wǎng)絡(luò)學習率;xj為網(wǎng)絡(luò)輸出參數(shù);wi為輸入?yún)?shù)隸屬度連乘積。

2.3.3參數(shù)修正

cij(k)=cij(k-1)-βecij,(7)

bij(k)-bij(k-1)-βecij。(8)

式中,cjj,bij分別為隸屬度函數(shù)的中心和寬度。

3企業(yè)水環(huán)境評價應(yīng)用

企業(yè)的水環(huán)境進行評價時,要采用一定的流程和算法。具體見圖1,分為模糊神經(jīng)網(wǎng)絡(luò)的構(gòu)建、模糊神經(jīng)網(wǎng)絡(luò)訓(xùn)練和模糊神經(jīng)網(wǎng)絡(luò)預(yù)測。

圖1模糊神經(jīng)網(wǎng)絡(luò)企業(yè)水環(huán)境評價算法流程

3.1網(wǎng)絡(luò)初始化

根據(jù)訓(xùn)練輸入、輸出數(shù)據(jù)維數(shù)確定網(wǎng)絡(luò)結(jié)構(gòu),初始化神經(jīng)網(wǎng)絡(luò)隸屬度函數(shù)參數(shù)和系數(shù),歸一化訓(xùn)練數(shù)據(jù)。在訓(xùn)練數(shù)據(jù)歸一化時,使用mapminmax函數(shù)來實現(xiàn)。

3.2模糊神經(jīng)網(wǎng)絡(luò)訓(xùn)練

模糊神經(jīng)網(wǎng)絡(luò)訓(xùn)練用訓(xùn)練數(shù)據(jù)訓(xùn)練模糊神經(jīng)網(wǎng)絡(luò),由于水質(zhì)評價真實數(shù)據(jù)比較難確定,印象,采用了等隔均勻分布方式內(nèi)插水質(zhì)指標標準數(shù)據(jù)生成樣本的方式來生成訓(xùn)練樣本,采用的水質(zhì)指標標準數(shù)據(jù)來自表1,網(wǎng)絡(luò)反復(fù)訓(xùn)練100次。

根據(jù)GB3838-2002《地表水環(huán)境質(zhì)量標準》,Ⅰ類主要適用于源頭水、國家自然保護區(qū);Ⅱ類主要適用于集中式生活引用水地表水源地一級保護區(qū)、珍稀水生生物棲息地、魚蝦類產(chǎn)卵場、仔稚幼魚的索餌場等;Ⅲ類主要適用于集中式生活引用水地表水源地二級保護區(qū)、魚蝦類越冬場、泅游通道、水產(chǎn)養(yǎng)殖區(qū)等漁業(yè)水域及游泳區(qū);Ⅳ類主要適用于一般工業(yè)用水區(qū)及人體非直接接觸的娛樂用水區(qū);Ⅴ類主要適用于農(nóng)業(yè)用水區(qū)及一般景觀要求水域。

表1地表水環(huán)境標準

序號項目Ⅰ類Ⅱ類Ⅲ類Ⅳ類Ⅴ類1化學需氧量(COD)≤15152030502懸浮物 ≤3氨氮 ≤0.50.51.01.52.04總磷 ≤0.020.10.20.30.55pH ≤6~9

因為在企業(yè)的水質(zhì)評價主要指標中,pH值和懸浮物沒有具體的定量指標,無法做出正確的判斷。因此,確定了化學需氧量(COD)、氨氮和總磷3個評價指標。

3.3模糊神經(jīng)網(wǎng)絡(luò)企業(yè)水環(huán)境評價

用訓(xùn)練好的模糊神經(jīng)網(wǎng)絡(luò)評價企業(yè)水環(huán)境,根據(jù)網(wǎng)絡(luò)預(yù)測值評價水質(zhì)等級。當預(yù)測值小于1.5時,水質(zhì)等級為Ⅰ類;當預(yù)測值在1.5~2.5時,水質(zhì)等級為Ⅱ類;當預(yù)測值在2.5~3.5時,水質(zhì)等級為Ⅲ類;當預(yù)測值在3.5~4.5時,水質(zhì)等級為Ⅳ類;預(yù)測值大于4.5時,水質(zhì)等級為Ⅴ類。

3.4結(jié)果分析

調(diào)用了企業(yè)2010~2011年每月的污水處理數(shù)據(jù),其各評價因子的數(shù)據(jù)折線圖見圖2。

圖2企業(yè)水環(huán)境數(shù)據(jù)

采用MATLAB R2011b進行仿真,輸入節(jié)點數(shù)為3,隱含節(jié)點數(shù)為7,輸出節(jié)點數(shù)為1。仿真結(jié)果如圖3。圖3為模糊神經(jīng)網(wǎng)絡(luò)模型訓(xùn)練數(shù)據(jù)預(yù)測仿真結(jié)果。該圖中顯示了實際輸出、預(yù)測輸出和誤差。結(jié)果顯示,該誤差范圍小于0.01。圖4為模糊神經(jīng)網(wǎng)絡(luò)模型測試數(shù)據(jù)預(yù)測仿真結(jié)果。該圖中顯示了實際輸出、預(yù)測輸出和誤差。結(jié)果顯示,該誤差范圍小于0.01。圖5為模糊神經(jīng)網(wǎng)絡(luò)企業(yè)水環(huán)境評價結(jié)果。

圖3模糊神經(jīng)網(wǎng)絡(luò)模型訓(xùn)練數(shù)據(jù)預(yù)測仿真結(jié)果

圖4模糊神經(jīng)網(wǎng)絡(luò)測試數(shù)據(jù)預(yù)測仿真結(jié)果

從企業(yè)水環(huán)境評價結(jié)果可以看出,目前,企業(yè)的水環(huán)境有了一定的改善,基本上維持在2~3級左右,說明了模糊神經(jīng)網(wǎng)絡(luò)評價的有效性。并且,水質(zhì)等級的判定可以幫助企業(yè)在循環(huán)經(jīng)濟和景觀建設(shè)中打下良好的基礎(chǔ)。

圖5模糊神經(jīng)網(wǎng)絡(luò)企業(yè)水環(huán)境評價

2012年5月綠色科技第5期4結(jié)語

從實際的應(yīng)用結(jié)果可以看出,基于MATLAB編程實現(xiàn)的模糊神經(jīng)網(wǎng)絡(luò)方法應(yīng)用與水質(zhì)評價取得了良好的評價結(jié)果,積極探索了除地下水水質(zhì)評價外的其它的環(huán)境質(zhì)量評價中,為模糊神經(jīng)網(wǎng)絡(luò)提供了一個新的應(yīng)用空間。

參考文獻：

［1］ 謝宏斌.環(huán)境質(zhì)量評價與預(yù)測方法的現(xiàn)狀［J］.廣西水利水電,2001(4):30~33.

［2］ Leontalitis I J.Billings S A.Input-output parametric models for nonlinear systems,part l:deterministic nonlinear systems［J］.Int J Contr,2006,4l(2):303.

［3］ 謝維信,錢法濤.模糊神經(jīng)網(wǎng)絡(luò)研究［J］.深圳大學學報,1999,16(1):22~27.

［4］ 王立新.模糊系統(tǒng)與模糊控制教程［M］.北京:清華大學出版社,2003.

［5］ 王鴻杰,尤賓,山官宗光.模糊數(shù)學分析方法在水環(huán)境評價中的應(yīng)用［J］.水文,2005(25):30~32.

第7篇：神經(jīng)網(wǎng)絡(luò)的訓(xùn)練流程范文

關(guān)鍵詞： 電子信息系統(tǒng)； 故障診斷； 神經(jīng)網(wǎng)絡(luò)； 故障字典

中圖分類號： TN710?34 文獻標識碼： A 文章編號： 1004?373X（2013）20?0166?05

目前，電子信息系統(tǒng)的復(fù)雜化、自動化和信息化程度越來越高，對可靠性、可維修性和技術(shù)保障能力的要求日趨迫切。系統(tǒng)中每一個部件發(fā)生故障都可能會產(chǎn)生鏈式反應(yīng)，影響系統(tǒng)效能發(fā)揮或造成重大的經(jīng)濟損失。因此，電子信息系統(tǒng)的狀態(tài)監(jiān)測與故障診斷技術(shù)早已得到世界各個發(fā)達國家相關(guān)部門的重視[1]。電子信息系統(tǒng)的功能電路大部分為模擬電路，許多元件參數(shù)具有很大的離散性，即具有容差。容差的普遍存在，導(dǎo)致實際故障的模糊性，加大了其故障定位的困難系數(shù)[2]。因此，針對該型電子信息系統(tǒng)的電路原理，綜合運用故障字典和神經(jīng)網(wǎng)絡(luò)相結(jié)合的故障診斷方法，研究某型電子信息系統(tǒng)模塊級故障診斷技術(shù)，具有一定的理論意義和和重要的實用價值。同時，本文研究的成果可以推廣到其他型號的電子信息系統(tǒng)故障診斷技術(shù)研究[3]。

1 故障診斷流程圖和電路仿真

1.1 功能模塊級故障診斷流程圖

首先對某型電子信息系統(tǒng)需要診斷的電路進行仿真，然后將得到的數(shù)據(jù)建成故障字典，最后，在故障字典中找出具有典型性的故障數(shù)據(jù)作為神經(jīng)網(wǎng)絡(luò)的輸入，利用BP神經(jīng)網(wǎng)將故障定位在具體的元器件上。圖1為模塊級故障診斷流程圖。

1.2 電路仿真

某型電子信息系統(tǒng)中的典型電路圖如2所示。

（1）晶體管的故障模型

由于無源元器件如電阻、電容的可靠性較高，發(fā)生故障的概率較小，因此假設(shè)電路中電阻、電容均無故障，只有5個晶體管出現(xiàn)故障。通過對故障晶體管的分析，將其的故障表現(xiàn)歸結(jié)為三類：內(nèi)部短路、內(nèi)部開路、局部擊穿?？紤]到以下的事實：開路的引腳不能與其他引腳短路、擊穿；兩個引腳開路等效于三個引腳同時開路；兩個PN結(jié)短路，等效于三個引腳同時短路；將三類故障在晶體管的三個引腳、兩個PN結(jié)之間進行故障組合后，可歸結(jié)為21種故障類型[4]，見表1。

（2）故障近似模型

在電路仿真的過程中，對使用最多的雙極型晶體管的近似故障模型進行研究，使用一種基于晶體管正常模型——GP模型為故障近似模型[5]。為使用軟件進行故障模擬，下面給出晶體管的故障模型，見圖3。其中故障引腳電阻RC，RB，RE為晶體管各引腳與電路相應(yīng)節(jié)點間的串聯(lián)電阻；故障結(jié)電阻RBC，RBE，RCE。分別為并聯(lián)于晶體管某兩引腳之間的電阻，用于模擬晶體管PN結(jié)的短路和擊穿。

正常情況下，故障引腳電阻RC，RB，RE阻值近似為零；故障結(jié)電阻RBC，RBE，RCE阻值為無窮大。仿真時，按如下方法設(shè)置電阻阻值：

（1）某引腳開路，對應(yīng)的故障引腳電阻阻值設(shè)置為無窮大，文中設(shè)置為10 000 Ω。

（2）某兩引腳短路，對應(yīng)的故障結(jié)電阻阻值設(shè)置為0 Ω（此處為理想值）。

（3）某兩引腳擊穿時，對應(yīng)的故障結(jié)電阻阻值設(shè)置為700 Ω（PN結(jié)擊穿后電阻阻值一般在500～1 500 Ω之間）。

（3）仿真軟件

仿真軟件選擇的是Multisim，該軟件操作簡單、快捷，最主要的是它可以直接調(diào)用所需元器件，而不必近似地畫出被測電路的等效電路圖，使得仿真結(jié)果更加接近于真實值。

（4）仿真過程

圖4為某型電子信息系統(tǒng)中的典型電路在軟件Multisim仿真時的界面圖。

2 故障字典的建立

（1）故障定義

現(xiàn)將圖2電路中與晶體管相關(guān)的106種故障（包括正常狀態(tài)F0）定義列于表2中。表中V代表晶體管，s代表短路，o代表開路，d代表擊穿，b代表基極，e代表發(fā)射極，c代表集電極。例如V4ecsbed就代表第4個晶體管發(fā)射極和集電極短路，基極和發(fā)射極擊穿[6]。其他故障以此類推。

（2） 測試量

本電路共有106種情況，即1個正常情況和105種個故障情況。在9個測試點上共得到[106×9=954]個電壓值。模擬圖2進行仿真，所得的954個數(shù)據(jù)列于表3。

（3）刪除不需要的測試點

由表3可見，節(jié)點1上的電壓不提供任何有用的信息，所以將其刪除。節(jié)點6和節(jié)點9上的電壓完全相同，所以刪除節(jié)點9。同一測試點，在兩種故障現(xiàn)象下，被測電壓之差超過0.1 V，則認為這兩個故障可分離；若被測電壓之差不超過0.1 V，則認為這兩個故障為不可惟一隔離的模糊故障組合。通過分析表中的數(shù)據(jù)，可以看到F2與F4等均為兩個不能唯一隔離的故障。

但由于它們皆與晶體管V1有關(guān)，任一故障可通過更換V1來排除，因此，無需進一步隔離的必要[7]。類似情況，經(jīng)過整理就得到了一個規(guī)范標準的故障字典列于表4。

3 BP神經(jīng)網(wǎng)絡(luò)的應(yīng)用

基于BP神經(jīng)網(wǎng)絡(luò)能夠出色地解決那些傳統(tǒng)故障診斷方法難以解決的問題，所以某型電子信息系統(tǒng)模塊級故障診斷系統(tǒng)采用故障字典和是神經(jīng)網(wǎng)絡(luò)相結(jié)合的方法，力求準確、快速地進行功能模塊級故障診斷[8]。

3.1 BP神經(jīng)網(wǎng)絡(luò)的故障診斷步驟

應(yīng)用神經(jīng)網(wǎng)絡(luò)檢測模擬電路故障的基本步驟為[9]：

（1） 建立故障字典或故障狀態(tài)表。應(yīng)用軟件模擬出對應(yīng)電路的正常狀態(tài)所對應(yīng)得各測試點的理論值，并把它建成一個故障字典或故障狀態(tài)表。

（2）建立神經(jīng)網(wǎng)絡(luò)。把故障字典或狀態(tài)表中的數(shù)據(jù)作為神經(jīng)網(wǎng)絡(luò)的輸入，按照電路故障特征點的數(shù)目以及所優(yōu)化處理得到的故障輸出類別的數(shù)目建立神經(jīng)網(wǎng)絡(luò)。

（3） 神經(jīng)網(wǎng)絡(luò)的訓(xùn)練、學習。設(shè)定神經(jīng)網(wǎng)絡(luò)學習速度、訓(xùn)練方法及相關(guān)參數(shù)，對網(wǎng)絡(luò)進行學習、訓(xùn)練。

（4）利用訓(xùn)練好的BP神經(jīng)網(wǎng)絡(luò)進行故障隔離。將電路的故障字典建立在神經(jīng)網(wǎng)絡(luò)之中，網(wǎng)絡(luò)的輸入節(jié)點由電路的可測節(jié)點決定，輸出節(jié)點由故障狀態(tài)的數(shù)目決定。

輸出有多少個故障狀態(tài)，輸出層就選用多少個神經(jīng)元，每一種故障狀態(tài)對應(yīng)一個相應(yīng)的神經(jīng)元。診斷是某種狀態(tài)時對應(yīng)的那個神經(jīng)元被激活，輸出其對應(yīng)的編碼。

3.2 仿真試驗及結(jié)果分析

（1） 本系統(tǒng)采用故障字典和神經(jīng)網(wǎng)絡(luò)相結(jié)合故障診斷技術(shù)研究，采用三層神經(jīng)網(wǎng)絡(luò)。通過電路的分析，選擇7個關(guān)鍵點的電壓作為神經(jīng)網(wǎng)絡(luò)的輸入。選擇6種故障現(xiàn)象作為神經(jīng)網(wǎng)絡(luò)的輸出模式，因此實際的神經(jīng)網(wǎng)絡(luò)輸入神經(jīng)元數(shù)為7，輸出神經(jīng)元數(shù)為6，隱含層的單元數(shù)按照前面介紹的公式計算為9。通過分析看到，在BP神經(jīng)網(wǎng)絡(luò)的輸出端應(yīng)該有6個節(jié)點，分別對應(yīng)1個無故障和5個故障。網(wǎng)絡(luò)的期望輸出如表5所示。

將仿真數(shù)據(jù)進行歸一化處理后，以實際故障樣本為網(wǎng)絡(luò)的原始訓(xùn)練樣本，網(wǎng)絡(luò)輸入層、隱含層和輸出層節(jié)點數(shù)分別取7、9和6，系統(tǒng)總誤差[E

最后，可用仿真得到的其余數(shù)據(jù)驗證神經(jīng)網(wǎng)絡(luò)的訓(xùn)練情況。表6為神經(jīng)網(wǎng)絡(luò)的驗證數(shù)據(jù)。表7為驗證數(shù)據(jù)對應(yīng)的輸出結(jié)果。

（2） 由三層BP神經(jīng)網(wǎng)絡(luò)組成的診斷系統(tǒng)在進行故障診斷時，采取數(shù)據(jù)驅(qū)動的正向推理策略，從初始狀態(tài)出發(fā)，向前推理，到達目標狀態(tài)為止。

故障診斷推理步驟如下：

①將故障樣本輸入給輸入層各節(jié)點，并將其作為該層神經(jīng)元的輸出；

②求出隱含層神經(jīng)元的輸出并作為輸出層的輸入；

③求出輸出層神經(jīng)元的輸出；

④由閾值函數(shù)判定輸出層神經(jīng)元的最終輸出結(jié)果[10]。

假設(shè)用[Yn]表示故障類型，則故障類型閾值判定函數(shù)為：

式中：[Φk=0.90]，當某模式下神經(jīng)網(wǎng)絡(luò)的輸出大于0.90，而其他值均較小時，則可認為發(fā)生了該故障。則表7變?yōu)橄鄳?yīng)的表8。

表8 整理結(jié)果

通過表8與表5的對比，可見仿真結(jié)果與事實相符。

4 結(jié) 語

本文針對某型電子信息系統(tǒng)的電路原理，綜合運用故障字典和神經(jīng)網(wǎng)絡(luò)相結(jié)合的故障診斷方法，研究該型電子信息系統(tǒng)模塊級故障診斷技術(shù)，具有一定的理論意義和和重要的實用價值。同時，本文研究的成果可以推廣到其他型號的電子信息系統(tǒng)故障診斷技術(shù)研究。

參考文獻

[1] 徐章遂，房立清，王希武，等.故障信息診斷原理及應(yīng)用[M].北京：國防工業(yè)出版社，2000.

[2] 宋小安.模擬電路故障診斷的專家系統(tǒng)法與BP神經(jīng)網(wǎng)絡(luò)法研究[D].南京：河海大學，2005.

[3] 胡昌華，許化龍.控制系統(tǒng)故障診斷與容錯控制的分析和設(shè)計[M].2版.北京：國防工業(yè)出版社，2001.

[4] 朱大奇.電子設(shè)備故障診斷原理與實踐[M].2版.北京：電子工業(yè)出版社，2004.

[5] 劉志海，魯青，李桂莉.基于故障樹的故障診斷專家系統(tǒng)的研究[J].礦山機械，2006，34（5）：75?76.

[6] 張翼.基于故障字典法的模擬電路印刷板故障診斷[D].南京：南京理工大學，2001.

[7] 余浩章，陳新華.基于故障樹的故障診斷推理新方法[J].上海海運學院學報，2001，22（3）：65?67.

[8] 高雋.人工神經(jīng)網(wǎng)絡(luò)原理及仿真實例[M].北京：機械工業(yè)出版社，2003.

[9] 王玉德，許振方，陳春延.基于BP算法的模擬電路故障診斷[J].電子測量技術(shù)，2006，29（6）：205?206.

[10] 王承.基于神經(jīng)網(wǎng)絡(luò)的模擬電路故障診斷方法研究[D].成都：電子科技大學，2005.

第8篇：神經(jīng)網(wǎng)絡(luò)的訓(xùn)練流程范文

【關(guān)鍵詞】供水管道；泄露檢測；神經(jīng)網(wǎng)絡(luò)

【中圖分類號】TP393【文獻標識碼】A【文章編號】1672-5158（2013）07-0063-02

Automatic Detection and Diagnosis of Water-Supply Pipe Leakage

WU Feng-quan￡？LI Hong-da

￡¨Information center， Chengde Petroleum College， Chengde， Hebei 067000￡？

【Abstract】This paper presents the design and implementation of Automatic Detection and Diagnosis about Water-Supply Pipe Leakage. After analyzing the current methods about Water-Supply Pipe Leakage， the merits and shortcomings of some older and newer technologies aren pointed out.At the same time， a mothod of leakage detection based on BPNN is put forward.

【Key words】 Water-Supply Pipe； Leakage Detection； Neural Network

1 引言

世界各國尤其是發(fā)達國家都非常重視供水節(jié)水的管理工作。很早就開展了漏損控制技術(shù)及設(shè)備的研究、開發(fā)工作，其漏失率遠低于亞洲國家。

我國由于城市基礎(chǔ)設(shè)施欠賬太多、供水設(shè)備的更新、技術(shù)水平提高緩慢，加上管理體制落后于不斷發(fā)展的形勢，使管網(wǎng)漏損率均未達到《城市供水2000年技術(shù)進步發(fā)展規(guī)劃》所規(guī)定的目標，大多數(shù)城市供水漏失率多在25%～30%。與發(fā)達國家比較還有很大的差距。

為指導(dǎo)節(jié)水技術(shù)開發(fā)和推廣應(yīng)用，推動節(jié)水技術(shù)進步，提高用水效率和效益，促進水資源的可持續(xù)利用，國家發(fā)展改革委、科技部會同水利部、建設(shè)部和農(nóng)業(yè)部組織制訂了2005年第17號《中國節(jié)水技術(shù)政策大綱》，其中就提及到要積極采用城市供水管網(wǎng)的檢漏和防滲技術(shù)。

2 國內(nèi)外研究現(xiàn)狀分析

目前，已有的管道泄漏檢測方法中，流量平衡法與壓力差法是基于物質(zhì)守恒與能量守恒來判斷泄漏的發(fā)生，無法定位；應(yīng)力波法是利用流體泄漏時引發(fā)的沿管壁傳播的應(yīng)力波來判斷泄漏和定位，對外帶包層或埋地的管道，應(yīng)力波衰減很快，長距離難以檢測，限制了這種方法的應(yīng)用；SCADA模型法響應(yīng)速度較快，可快速檢出管道較大的泄漏，但投資很大，沿管道需要安裝復(fù)雜的控制傳感系統(tǒng)。我國大中城市中使用的檢漏手段基本上還是人工聽漏法，這種原始的人工聽漏方法可靠性低，抗干擾性差，需要耗費大量人力。近年來，國內(nèi)外發(fā)展起來一些新的基于現(xiàn)代控制理論、信號處理的泄漏檢測與定位技術(shù)，這些方法仍然需要大量的數(shù)學建模。

針對以上各種方案的不足，提出應(yīng)用神經(jīng)網(wǎng)絡(luò)的自組織、自學習能力進行供水管道泄露的診斷方法，這種方法只需將給水管網(wǎng)的各種工況下對測壓點造成影響的數(shù)據(jù)輸入神經(jīng)網(wǎng)絡(luò)，讓其充分學習直到收斂，然后在將來的檢測中只需將測壓點數(shù)據(jù)輸入訓(xùn)練好的神經(jīng)網(wǎng)絡(luò)就可以判斷管網(wǎng)是否發(fā)生滲漏，并確定滲漏位置。而測壓點的數(shù)據(jù)是可以通過SCADA實時傳回來，這樣也就實現(xiàn)了管道泄露的實時診斷。

3 基于BP算法的神經(jīng)網(wǎng)絡(luò)設(shè)計

三層BP神經(jīng)網(wǎng)絡(luò)技術(shù)應(yīng)用中最關(guān)鍵的構(gòu)造參數(shù)包括輸入層、隱含層和輸出層的節(jié)點數(shù)，以及在神經(jīng)網(wǎng)絡(luò)各層之間連接權(quán)值和節(jié)點閾值的初始化。

3.1 輸入層節(jié)點數(shù)

由于實際管網(wǎng)的節(jié)點數(shù)較多，如果全部做為神經(jīng)網(wǎng)絡(luò)的原始訓(xùn)練數(shù)據(jù)，將會導(dǎo)致運算量過大，且難以收斂，可以采用管道泄露前后6個監(jiān)測點（含泄漏點）水壓變化數(shù)據(jù)進行訓(xùn)練。采用水壓監(jiān)測診斷故障的方法可以充分利用現(xiàn)有的SCADA系統(tǒng)，從而可以很容易實現(xiàn)。

除了管道泄露前后6個監(jiān)測點（含泄漏點）外，還包括該泄漏點處的正常工況下的水壓，因此輸入層共有7個節(jié)點，即輸入模式向量的維數(shù)為7。表1為各工況下測壓點水頭。

3.2 輸出層節(jié)點數(shù)

輸出層的節(jié)點數(shù)即各模式理想的輸出向量的維數(shù)，因為理想輸出向量必須能區(qū)分各種不同的模式，因此輸出層的節(jié)點數(shù)跟模式的個數(shù)相關(guān)。因為模式個數(shù)為7個，因此輸出層節(jié)點數(shù)可以取1個或7個等。用1個輸出層節(jié)點的神經(jīng)網(wǎng)絡(luò)，其模式分類和辨別能力是不夠的。當取7個輸出節(jié)點時，輸出向量分別為（0，0，0，0，0，1）；（0，0，0，0，1，0）；（0，0，0，1，0，0）；（0，0，1，0， 0，0）；（0，1，0，0，0，0）；（1，0，0，0，0，0）；（0，0，0，0，1，1）。

3.3 隱含層節(jié)點數(shù)

采用適當?shù)碾[含層節(jié)點數(shù)往往是網(wǎng)絡(luò)成敗的關(guān)鍵。中間層節(jié)點數(shù)選用太少，網(wǎng)絡(luò)難以處理較復(fù)雜的問題；但若中間層節(jié)點數(shù)過多，將使網(wǎng)絡(luò)訓(xùn)練時間急劇增加，而且過多的節(jié)點數(shù)容易使網(wǎng)絡(luò)訓(xùn)練過度。

可以用幾何平均規(guī)則來選擇隱含層中的節(jié)點數(shù)。那么，具有n個輸入節(jié)點及m個輸出節(jié)點對三層網(wǎng)絡(luò)，其中間層節(jié)點數(shù) hm n？。隱含層節(jié)點數(shù)可取7，嘗試取隱含層節(jié)點數(shù)的范圍為3～50，以對其在更大的范圍內(nèi)進行優(yōu)化。

3.4 程序流程圖

圖1為三層BP神經(jīng)網(wǎng)絡(luò)的程序流程圖。

圖5 隱含層節(jié)點數(shù)為35時的誤差曲線

3.6 網(wǎng)絡(luò)仿真結(jié)果

BP神經(jīng)網(wǎng)絡(luò)仿真結(jié)果如表2所示。

從仿真結(jié)果可以看出，該神經(jīng)網(wǎng)絡(luò)已經(jīng)能夠很好的識別不同節(jié)點發(fā)生滲漏時的特征，給出的仿真結(jié)果與期望的輸出T矩陣非常相似，最大誤差小于1e-6。

3.7 驗證神經(jīng)網(wǎng)絡(luò)

將節(jié)點10411滲漏后各節(jié)點水頭數(shù)據(jù)：

L=[37.47，35.06，35.29，37.46，33.01，29.74]

輸入已經(jīng)訓(xùn)練好的神經(jīng)網(wǎng)絡(luò)，通過調(diào)用SIGMOID函數(shù)，輸出結(jié)果如表3所示。

由結(jié)果可以看出，目標輸出與實際輸出非常接近，誤差滿足10E-5精度，所以可以證明此神經(jīng)網(wǎng)絡(luò)完全具有診斷管網(wǎng)泄露的能力。

4 結(jié)束語

本文所提出的基于BP神經(jīng)網(wǎng)絡(luò)來檢測與診斷泄露的方法。該方法應(yīng)用神經(jīng)網(wǎng)絡(luò)的自組織、自學習能力進行供水管道泄露的診斷方法，只需將給水管網(wǎng)的各種工況下對測壓點造成影響的數(shù)據(jù)輸入神經(jīng)網(wǎng)絡(luò)，讓其充分學習直到收斂，然后在將來的檢測中只需將測壓點數(shù)據(jù)輸入訓(xùn)練好的神經(jīng)網(wǎng)絡(luò)就可以判斷管網(wǎng)是否發(fā)生滲漏，并確定滲漏位置。而測壓點的數(shù)據(jù)是可以通過SCADA實時傳回來，實現(xiàn)了管道泄露的實時診斷。適合于城市供水管道泄露的檢測和診斷，有較好的發(fā)展前景。

參考文獻

[1] 順舟科技Z-BEE無線產(chǎn)品技術(shù)手冊

[2] AN965 Microchip ZigBeeTM協(xié)議棧

[3] 王巖，張國山.基于ZigBee協(xié)議的無線傳感器網(wǎng)絡(luò)設(shè)計.微計算機信息，2008，4-1：21-23

第9篇：神經(jīng)網(wǎng)絡(luò)的訓(xùn)練流程范文

但當BP神經(jīng)網(wǎng)絡(luò)應(yīng)用于預(yù)測模型尤其對于未來增長趨勢比較明顯的預(yù)測模型時，雖然其收斂精度較高，但其值域范圍受限導(dǎo)致訓(xùn)練樣本擬合函數(shù)與預(yù)測數(shù)據(jù)有較大差異，導(dǎo)致其局部搜索能力較強但全局搜索能力較差，易陷入局部最優(yōu)值。本文通過引入遺傳算法，發(fā)揮該算法全局搜索能力較強的特點，對BP神經(jīng)網(wǎng)絡(luò)權(quán)值和閾值進行預(yù)優(yōu)化，賦予各層較佳輸出解空間，發(fā)揮BP神經(jīng)網(wǎng)絡(luò)局部搜索能力強的特點，實現(xiàn)強強聯(lián)合，提高時間序列預(yù)測的精準度。

1．1BP神經(jīng)網(wǎng)絡(luò)

BP(BackPropagationnetwork)神經(jīng)網(wǎng)絡(luò)是當今預(yù)測領(lǐng)域應(yīng)用最廣泛的一種神經(jīng)網(wǎng)絡(luò)算法。BP神經(jīng)網(wǎng)絡(luò)由3層組成:輸入層、隱含層和輸出層。每一層中都包含若干節(jié)點(神經(jīng)元)，不同層之間節(jié)點通過權(quán)值進行全連接，同層節(jié)點之間無連接。其中，隱含層可為多層，實際應(yīng)用過程中有一個隱含層的三層神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)即可實現(xiàn)非線性函數(shù)擬合。

1．2遺傳算法

本文中的優(yōu)化對象為BP神經(jīng)網(wǎng)絡(luò)各層間權(quán)值和閾值。因此，在種群初始化時，遺傳算法采用常用的二進制編碼，并由農(nóng)業(yè)機械數(shù)量的歷史樣本數(shù)目確定遺傳算法將優(yōu)化的參數(shù)(權(quán)值和閾值)個數(shù)，從而確定種群的編碼長度。因BP神經(jīng)網(wǎng)絡(luò)隱含層神經(jīng)元采用S型傳遞函數(shù)，為減小計算誤差，減少或避免計算結(jié)果落入局部最小值，權(quán)值和閾值應(yīng)避免選擇區(qū)間內(nèi)較小和較大數(shù)值，選擇在［－0．5，0．5］區(qū)間內(nèi)的隨機數(shù)。遺傳算法計算流程。

2預(yù)測結(jié)果與分析

本文采用基于遺傳算法的BP神經(jīng)網(wǎng)絡(luò)，以我國從1997－2013年的農(nóng)業(yè)機械數(shù)量為基礎(chǔ)數(shù)據(jù)進行訓(xùn)練和測試和預(yù)測。其中，遺傳算法群體規(guī)模M=50，交叉概率pc=0．6，變異概率pm=0．01，BP神經(jīng)網(wǎng)絡(luò)權(quán)值閾值取值空間為［－0．5，0．5］，訓(xùn)練次數(shù)為1000，訓(xùn)練目標為0．01，學習速率為0．1。我國在1997－2013年期間的農(nóng)機總動力、農(nóng)用大中型拖拉機數(shù)量和小型拖拉機數(shù)量的預(yù)測值與歷史樣本數(shù)據(jù)之間的絕對值平絕誤差分別為1．080%、1．352%和1．765%。由此看出，使用基于遺傳算法的BP神經(jīng)網(wǎng)絡(luò)對于以農(nóng)業(yè)機械數(shù)量為預(yù)測對象的時間序列預(yù)測模型的預(yù)測精度較好，預(yù)測精度穩(wěn)定性較佳。從預(yù)測誤差可以看出，本文所使用的BP神經(jīng)網(wǎng)絡(luò)在預(yù)測本時間序列模型時，基本避免運算結(jié)果落入局部最小值，收斂性能較好，與前文中遺傳算法和BP神經(jīng)網(wǎng)絡(luò)優(yōu)勢互補、強強聯(lián)合的理論設(shè)想較為一致。2014年我國農(nóng)機總動力、農(nóng)用大中型拖拉機數(shù)量和小型拖拉機數(shù)量的預(yù)測結(jié)果來看，該預(yù)測結(jié)果與2013年度數(shù)值比較有較大增長，但增長幅度有所下降。預(yù)計到2014年，我國農(nóng)機總動力、大中型拖拉機數(shù)量和小型拖拉機數(shù)量分別為11．251×108kW、587．012萬臺和2043．201萬臺，與1997年相比分別增加了167．86%、751．96%和94．87%，與2013年相比分別增加了4．17%、10．75%和2．16%。其中，2014年農(nóng)機總動力和小型拖拉機數(shù)量增長率分別小于2013年的增長率5．88%和3．3%，農(nóng)用大中型拖拉機數(shù)量增長率大于2013年的增長率9．19%。由于我國在2004年出臺了一系列鼓勵提高農(nóng)業(yè)機械化的法律、政策、法規(guī)，中央財政農(nóng)機購置補貼資金投入連年大幅增加，極大地調(diào)動了農(nóng)民購機的積極性和企業(yè)生產(chǎn)的積極性，促進我國農(nóng)機裝備總量持續(xù)增長和農(nóng)機結(jié)構(gòu)優(yōu)化。隨著跨區(qū)作業(yè)和農(nóng)業(yè)生產(chǎn)合作社的逐步發(fā)展，有效提高了農(nóng)用大中型拖拉機在農(nóng)業(yè)生產(chǎn)中的的利用率，降低了農(nóng)民勞動強度，提高生產(chǎn)效率，因而其近幾年的保有量有較大增幅。小型拖拉機受農(nóng)業(yè)產(chǎn)業(yè)結(jié)構(gòu)調(diào)整和農(nóng)業(yè)機械大型化的影響，其近幾年的保有量增幅逐年降低。

3結(jié)論