神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)規(guī)則精選(九篇)

前言：一篇好文章的誕生，需要你不斷地搜集資料、整理思路，本站小編為你收集了豐富的神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)規(guī)則主題范文，僅供參考，歡迎閱讀并收藏。

第1篇：神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)規(guī)則范文

【關(guān)鍵詞】神經(jīng)網(wǎng)絡(luò) 手寫 識(shí)別系統(tǒng) 應(yīng)用

隨著計(jì)算機(jī)技術(shù)的快速發(fā)展，其在人們的辦公學(xué)習(xí)和日常生活成了不可替代的工具。鍵盤已經(jīng)幾乎完全替代了筆在人們生活中的地位，隨之而來(lái)的后果就是人們?cè)絹?lái)越少的區(qū)書寫漢字，導(dǎo)致越來(lái)越多的中國(guó)人甚至都忘記了漢字該如何書寫，這種現(xiàn)象在很多研究和報(bào)道中都有體現(xiàn)。計(jì)算機(jī)和鍵盤是由西方國(guó)家發(fā)明的，其符合西方國(guó)家的語(yǔ)言習(xí)慣，對(duì)于中國(guó)人來(lái)說，用字母、符號(hào)去完成方塊漢字的輸入就需要使用者非常熟悉漢語(yǔ)拼音或者五筆編碼，對(duì)于文化程度較低的使用者來(lái)說，這些都限制著他們使用計(jì)算機(jī)。鑒于計(jì)算機(jī)鍵盤的這些缺陷，聯(lián)機(jī)手寫輸入法應(yīng)運(yùn)而生，這為計(jì)算機(jī)的輸入帶來(lái)了新的發(fā)展機(jī)遇和挑戰(zhàn)。

1 聯(lián)機(jī)漢字手寫識(shí)別的意義及難點(diǎn)

聯(lián)機(jī)漢字識(shí)別是用書寫板代替?zhèn)鹘y(tǒng)紙張，筆尖通過數(shù)字化書寫板的軌跡通過采樣系統(tǒng)按時(shí)間先后發(fā)送到計(jì)算機(jī)中，計(jì)算機(jī)則自動(dòng)的完成漢字的識(shí)別和顯示。

1.1 聯(lián)機(jī)漢字手寫識(shí)別的意義

聯(lián)機(jī)手寫漢字識(shí)別的誕生具有非常重要的意義。首先這種輸入方法延續(xù)了幾千年中華文明的寫字習(xí)慣，實(shí)現(xiàn)用戶的手寫輸入，對(duì)于長(zhǎng)時(shí)間不提筆寫字的用戶來(lái)說能夠加強(qiáng)其對(duì)漢字書寫方面的認(rèn)識(shí)，防止“提筆忘字”現(xiàn)象的繼續(xù)惡化。其次，手寫漢字輸入不需要學(xué)習(xí)和記憶計(jì)算機(jī)的漢字編碼規(guī)則，其完全符合中國(guó)人的寫字習(xí)慣，使人機(jī)之間的交流更人性化，更方便快捷。另外，隨著移動(dòng)智能終端的不斷普及，聯(lián)機(jī)漢字手寫識(shí)別的應(yīng)用范圍將進(jìn)一步擴(kuò)大，以適用于不同層次人群對(duì)信息輸入的需要，具有較大的市場(chǎng)發(fā)展前景。

1.2 聯(lián)機(jī)手寫漢字識(shí)別問題的難點(diǎn)

手寫漢字識(shí)別是光學(xué)字符讀出器中最難的部分，也是其最終的目標(biāo)，手寫漢字識(shí)別的應(yīng)用主要依賴于其正確識(shí)別率和識(shí)別速度[1]。手寫漢字識(shí)別系統(tǒng)的問題具有其特殊性：

（1）中國(guó)漢字量大。我國(guó)目前的常用漢字大概在4000個(gè)左右，在實(shí)際應(yīng)用中的漢字識(shí)別系統(tǒng)應(yīng)該能夠完全識(shí)別這些常用的字才能夠滿足需要，由于超大的漢字量，使得手寫識(shí)別的正確率和識(shí)別速度一直不高。

（2）字體多，結(jié)構(gòu)復(fù)雜。漢字的手寫字體豐富多彩，且漢字的筆畫繁多，以及復(fù)雜的結(jié)構(gòu)，再加上漢字中的形近字頗多，這些都為漢字識(shí)別系統(tǒng)的發(fā)展造成了很大的困難。

（3）書寫變化大。不同用戶在進(jìn)行手寫輸入時(shí)其字體的變化是很大的，這種變化因人而異，對(duì)漢字識(shí)別造成了很大的干擾，增加了漢字匹配的難度。

2 人工神經(jīng)網(wǎng)絡(luò)概述

人工神經(jīng)網(wǎng)絡(luò)是一種應(yīng)用類似于大腦神經(jīng)突觸聯(lián)接的結(jié)構(gòu)進(jìn)行信息處理的數(shù)學(xué)模型，通常簡(jiǎn)稱為神經(jīng)網(wǎng)絡(luò)，是一種仿生物神經(jīng)的信號(hào)處理模型。在二十世紀(jì)四十年代初人們開始進(jìn)行神經(jīng)網(wǎng)絡(luò)的研究，經(jīng)過幾十年的發(fā)展，神經(jīng)網(wǎng)絡(luò)也產(chǎn)生了一系列的突破，目前應(yīng)用最多的是Hopfield模型和BP算法。

神經(jīng)網(wǎng)絡(luò)的一般模型一般包括十個(gè)方面：環(huán)境、處理單元、傳播規(guī)則、神經(jīng)網(wǎng)絡(luò)的狀態(tài)、互聯(lián)模式、穩(wěn)定狀態(tài)、操作模式、活躍規(guī)則、活化函數(shù)和學(xué)習(xí)算法。其中，神經(jīng)元、互聯(lián)模式、學(xué)習(xí)算法是神經(jīng)網(wǎng)絡(luò)模型中的三個(gè)關(guān)鍵因素。神經(jīng)網(wǎng)絡(luò)的一個(gè)重要內(nèi)容就是學(xué)習(xí)，其學(xué)習(xí)方式可以分為監(jiān)督學(xué)習(xí)和無(wú)監(jiān)督學(xué)習(xí)，其學(xué)習(xí)過程一般遵循Hebb規(guī)則，誤差修正學(xué)習(xí)算法以及勝者為王的學(xué)習(xí)規(guī)則，其中Hebb規(guī)則是神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)中最基本的規(guī)則。

人工神經(jīng)網(wǎng)絡(luò)具有獨(dú)特的優(yōu)越性。首先其具有主動(dòng)學(xué)習(xí)的功能，在漢字識(shí)別過程中，先將漢字模板及可能的識(shí)別結(jié)果輸入到神經(jīng)網(wǎng)絡(luò)中，神經(jīng)網(wǎng)絡(luò)能夠通過其自身的學(xué)習(xí)過程來(lái)實(shí)現(xiàn)對(duì)漢字的識(shí)別，自學(xué)功能對(duì)于神經(jīng)網(wǎng)絡(luò)的預(yù)測(cè)功能具有非常重要的意義。其次，神經(jīng)網(wǎng)絡(luò)系統(tǒng)具有聯(lián)想存儲(chǔ)功能，其反饋功能能夠?qū)崿F(xiàn)這種聯(lián)想。另外，通過計(jì)算機(jī)的高速運(yùn)算能力，神經(jīng)網(wǎng)絡(luò)具有高速尋找優(yōu)化解的能力。

3 人工神經(jīng)網(wǎng)絡(luò)在聯(lián)機(jī)手寫識(shí)別系統(tǒng)中的應(yīng)用

漢字識(shí)別屬于大類別模式識(shí)別，人工神經(jīng)網(wǎng)絡(luò)可以通過函數(shù)逼近、數(shù)據(jù)分類、數(shù)據(jù)聚類三種作用方式以及“聯(lián)想”的特殊模式對(duì)漢字進(jìn)行識(shí)別。Hopfield神經(jīng)網(wǎng)絡(luò)作為反饋網(wǎng)絡(luò)的一種，其自聯(lián)想記憶網(wǎng)絡(luò)可以使系統(tǒng)不需要通過大量的訓(xùn)練即可對(duì)漢字進(jìn)行識(shí)別，因此Hopfield神經(jīng)網(wǎng)絡(luò)對(duì)于漢字識(shí)別來(lái)說具有獨(dú)特的優(yōu)勢(shì)。其中的離散型Hopfield神經(jīng)網(wǎng)絡(luò)能夠通過串行異步和并行同步的工作方式，使其反饋過程具有非常好的穩(wěn)定性，而網(wǎng)絡(luò)只有通過不斷的演變穩(wěn)定在某一吸引子狀態(tài)時(shí)，才能夠?qū)崿F(xiàn)正確的聯(lián)想。

聯(lián)機(jī)手寫識(shí)別可以分為訓(xùn)練階段和識(shí)別階段。訓(xùn)練階段流程依次為：標(biāo)準(zhǔn)書寫字符圖像預(yù)處理，提取特征并建立特征庫(kù)，建立Hopfield網(wǎng)絡(luò)模型，訓(xùn)練網(wǎng)絡(luò)，保存權(quán)值。識(shí)別階段的流程為：坐標(biāo)序列轉(zhuǎn)化為bmp圖像，預(yù)處理測(cè)試樣本，提取特征，送入網(wǎng)絡(luò)運(yùn)行，運(yùn)行網(wǎng)絡(luò)到平衡狀態(tài)，分析結(jié)果值。根據(jù)聯(lián)機(jī)手寫識(shí)別的工作流程以及Hopfield網(wǎng)絡(luò)模型的理論，基于Hopfield神經(jīng)網(wǎng)絡(luò)的聯(lián)機(jī)手寫識(shí)別系統(tǒng)在Matlab環(huán)境下得到了仿真模擬，效果非常理想。

4 總結(jié)

手寫識(shí)別系統(tǒng)能夠彌補(bǔ)普通鍵盤的不足，在提高漢字書寫頻率的同時(shí)，能夠滿足不同層次人群對(duì)計(jì)算機(jī)應(yīng)用的技術(shù)需要?；贖opfield神經(jīng)網(wǎng)絡(luò)的聯(lián)機(jī)手寫識(shí)別系統(tǒng)一起自身獨(dú)特的性能，不僅能夠滿足手寫漢字識(shí)別的正確率，而且其識(shí)別過程速度非?？臁Ｒ虼怂鼘?duì)于實(shí)現(xiàn)聯(lián)機(jī)手寫識(shí)別以及圖像識(shí)別具有非常重要的意義。

參考文獻(xiàn)

[1]俞慶英.聯(lián)機(jī)手寫漢字識(shí)別系統(tǒng)的研究與實(shí)現(xiàn)[D].安徽大學(xué)，2005（5）.

[2]郭力賓.交叉點(diǎn)的神經(jīng)網(wǎng)絡(luò)識(shí)別及聯(lián)機(jī)手寫字符的概率神經(jīng)網(wǎng)絡(luò)識(shí)別初探[D].大連理工大學(xué)，2003（03）.

[3]趙蓉.基于神經(jīng)網(wǎng)絡(luò)的聯(lián)機(jī)手寫識(shí)別系統(tǒng)研究與實(shí)現(xiàn)[D].西安電子科技大學(xué)，2011（01）.

第2篇：神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)規(guī)則范文

【關(guān)鍵詞】PID控制;BP神經(jīng)網(wǎng)絡(luò);模糊PID控制

Abstruct：PID control are widely used in industrial process control，but the traditional PID control because of its control parameters are fixed，and it is difficult to adjust its parameters online.So this paper studies a new adaptive fuzzy PID control method，to solve problem without the ability to learn，and put forward a kind of adaptive fuzzy control method based on BP neural network in this paper.It is the effective combination of fuzzy control，neural network and PID control.Simulation results show that this fuzzy PID control method based on BP neural network has good control effect.

Keywords：PID control;BP neural network;Fuzzy PID control

1.引言

常規(guī)PID在控制領(lǐng)域被廣泛應(yīng)用，利用數(shù)學(xué)算法來(lái)整定參數(shù)。而且隨著控制系統(tǒng)的復(fù)雜，被控對(duì)象很難建立數(shù)學(xué)模型，人們開始探索新的控制方式。模糊控制不要求掌握被控對(duì)象的精確的數(shù)學(xué)模型，根據(jù)人工控制規(guī)則組織控制決策表，然后由該表決定控制量的大小。在一般的模糊系統(tǒng)設(shè)計(jì)中，規(guī)則是由經(jīng)驗(yàn)豐富的專業(yè)人員以語(yǔ)言的方式表達(dá)出來(lái)的。但對(duì)于某些問題即使是很有經(jīng)驗(yàn)的專業(yè)人員也很難將他們的經(jīng)驗(yàn)總結(jié)、歸納為一些比較明確而簡(jiǎn)化的規(guī)則。在這種情況下，就可以應(yīng)用神經(jīng)網(wǎng)絡(luò)的方法，依靠BP神經(jīng)網(wǎng)絡(luò)的自學(xué)習(xí)功能，實(shí)現(xiàn)模糊控制的神經(jīng)、模糊融合技術(shù)，并借助其并行分布的結(jié)構(gòu)來(lái)估計(jì)輸入到輸出的映射關(guān)系，直接從原始的工作數(shù)據(jù)中歸納出若干控制規(guī)則。從而為模糊系統(tǒng)建立起行之有效的決策規(guī)則。

2.PID控制器原理

2.1 PID控制的微分方程

PID控制器是一種線性控制器，它將給定值r（t）與實(shí)際輸出值c（t）的偏差的比例（p）、積分（I）、微分（D）通過線性組合構(gòu)成控制量，對(duì)控制對(duì)象進(jìn)行控制。

式中：

2.2 PID控制器各環(huán)節(jié)的作用

（1）比例環(huán)節(jié)：及時(shí)成比例地反應(yīng)控制系統(tǒng)的偏差信號(hào)e（t），偏差一旦產(chǎn)生，控制器立即產(chǎn)生控制作用以減小偏差。

（2）積分環(huán)節(jié)：積分作用會(huì)使系統(tǒng)穩(wěn)定性下降，Kd大會(huì)使系統(tǒng)不穩(wěn)定，但能消除靜態(tài)誤差。

（3）微分環(huán)節(jié)：能反應(yīng)偏差信號(hào)的變化趨勢(shì)，并能在偏差信號(hào)值變得太大之前，在系統(tǒng)中引入一個(gè)早期修正信號(hào)，從而加快系統(tǒng)的動(dòng)作速度，減小調(diào)節(jié)時(shí)間。Kd偏大時(shí)，超調(diào)較大，調(diào)節(jié)時(shí)間短;Kd偏小時(shí)，超調(diào)量也較大，調(diào)節(jié)時(shí)間長(zhǎng);只有Kd合適時(shí)才能超調(diào)小，時(shí)間短。

3.BP神經(jīng)網(wǎng)絡(luò)與模糊控制

模糊控制是運(yùn)用語(yǔ)言歸納操作人員的控制策略，運(yùn)用變量和模糊集合理論形成控制算法的一種控制。如何讓機(jī)器像人一樣識(shí)別、理解模糊規(guī)則并進(jìn)行模糊邏輯推理，最終得出新的結(jié)論并實(shí)現(xiàn)自動(dòng)控制是模糊控制研究的主要內(nèi)容。模糊控制器的基本結(jié)構(gòu)如圖1所示。

圖1 模糊控制結(jié)構(gòu)

人工神經(jīng)網(wǎng)絡(luò)是由大量人工神經(jīng)元經(jīng)廣泛互連二組成的，它可用來(lái)模擬腦神經(jīng)系統(tǒng)的結(jié)構(gòu)和功能。人工神經(jīng)網(wǎng)絡(luò)可以看成是以人工神經(jīng)元為節(jié)點(diǎn)，用有向加權(quán)弧連接起來(lái)的有向圖。BP網(wǎng)絡(luò)是一種利用誤差反向傳播訓(xùn)練算法的神經(jīng)網(wǎng)絡(luò)，是一種有隱含層的多層前饋網(wǎng)絡(luò)，系統(tǒng)地解決了多層網(wǎng)絡(luò)中隱含單元連接權(quán)的學(xué)習(xí)問題。BP學(xué)習(xí)算法的基本原理是梯度最速下降法，它的中心思想是調(diào)整權(quán)值使網(wǎng)絡(luò)總誤差最小。也就是采用梯度搜索技術(shù)，以期使網(wǎng)絡(luò)的實(shí)際輸出值與期望輸出值的誤差均方值為最小。網(wǎng)絡(luò)學(xué)習(xí)過程是一種誤差邊向后傳播邊修正權(quán)系數(shù)的過程。其結(jié)構(gòu)如圖2所示。

圖2中隱含層第一層神經(jīng)元為7個(gè)，分別對(duì)應(yīng)7個(gè)模糊子集：NB、NM、NS、ZO、PS、PM、PB。第二層49個(gè)神經(jīng)元代表49條規(guī)則。第三層7個(gè)神經(jīng)元代表輸出的7個(gè)模糊子集。模糊控制不依靠對(duì)象的數(shù)學(xué)模型，但模糊規(guī)則的建立需要人工經(jīng)驗(yàn)。采用BP算法對(duì)工程經(jīng)驗(yàn)和專家經(jīng)驗(yàn)的模糊規(guī)則進(jìn)行訓(xùn)練，其實(shí)就是把模糊規(guī)則用神經(jīng)網(wǎng)絡(luò)來(lái)表示，即經(jīng)過神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)，將模糊規(guī)則以加權(quán)系數(shù)的形式表現(xiàn)出來(lái)，規(guī)則的生成就轉(zhuǎn)化為加權(quán)系數(shù)的確定和修改。

神經(jīng)網(wǎng)絡(luò)是大規(guī)模并行運(yùn)算，但由于網(wǎng)絡(luò)結(jié)構(gòu)復(fù)雜，訓(xùn)練和學(xué)習(xí)需要大量的時(shí)間，所以目前還無(wú)法實(shí)現(xiàn)實(shí)時(shí)控制。在具體應(yīng)用中，我們是先離線將神經(jīng)網(wǎng)絡(luò)的各層權(quán)值和閾值訓(xùn)練出來(lái)，將其參數(shù)固定下來(lái)，然后將有系統(tǒng)檢測(cè)、計(jì)算得到的誤差變化直接代入非線性映射關(guān)系中，由計(jì)算機(jī)算出控制量，再用作被控對(duì)象。在matlab下以、、為輸出的BP網(wǎng)絡(luò)仿真訓(xùn)練如圖3、圖4、圖5所示。

4.模糊PID控制器的原理與仿真

對(duì)于某一BP神經(jīng)網(wǎng)絡(luò)控制系統(tǒng)，其中內(nèi)部變化及被控對(duì)象的數(shù)學(xué)模型為：

利用模糊控制對(duì)PID參數(shù)實(shí)現(xiàn)在線調(diào)節(jié)，原理如圖6。

圖6 模糊PID控制原理圖

采用Z-N法和試湊法相結(jié)合，借助MATLAB的SIMULINK平臺(tái)，對(duì)被控對(duì)象進(jìn)行常規(guī)PID仿真。參數(shù)值：kp=15，ki=6，kd=0.05。如圖7。作為比較，建立模糊PID控制器的仿真模型如圖8。

圖9、圖10分別為被控對(duì)象G（s）在階躍輸入下常規(guī)PID和模糊PID仿真結(jié)果的比較。

經(jīng)過仿真發(fā)現(xiàn)，常規(guī)PID控制缺點(diǎn)是超調(diào)量大，調(diào)節(jié)時(shí)間長(zhǎng)，動(dòng)態(tài)性能差。優(yōu)點(diǎn)是控制精度高，穩(wěn)定性能好。模糊控制動(dòng)態(tài)性能很好，上升速度快，基本無(wú)超調(diào)。但由于模糊化所造成的穩(wěn)態(tài)誤差，在沒有積分環(huán)節(jié)的情況下很難消除，故穩(wěn)態(tài)性能差。模糊PID繼承了二者的優(yōu)點(diǎn)，摒棄二者缺點(diǎn)，具有更全面優(yōu)良的控制性能。

5.結(jié)論

針對(duì)大滯后、慢時(shí)變、非線性的復(fù)雜系統(tǒng)，提出了一種基于BP神經(jīng)網(wǎng)絡(luò)的模糊PID控制算法，該算法不依賴被控對(duì)象的精確數(shù)學(xué)模型，可實(shí)現(xiàn)在線自調(diào)整模糊規(guī)則，從而增強(qiáng)了模糊控制器的自學(xué)習(xí)能力。通過算法的仿真研究，驗(yàn)證了算法的可行性。

參考文獻(xiàn)

[1]李華.計(jì)算機(jī)控制系統(tǒng)[M].北京：機(jī)械工業(yè)出版社，2007.

[2]高雋.人工神經(jīng)網(wǎng)絡(luò)原理及仿真實(shí)例[M].北京：機(jī)械工業(yè)出版社，2007.

[3]蔡自興.智能控制[M].北京：電子工業(yè)出版社，2003.

[4]李國(guó)勇.智能控制及其MATLAB實(shí)現(xiàn)[M].北京：電子工業(yè)出版社，2005.

[5]張德豐.MATLAB神經(jīng)網(wǎng)絡(luò)應(yīng)用設(shè)計(jì)[M].北京：機(jī)械工業(yè)出版社，2009.

[6]劉金琨.先進(jìn)PID控制及其MATLAB仿真[M].北京：電子工業(yè)出版社，2003.

[7]劉玲.三容水箱的單神經(jīng)元自適應(yīng)PID控制研究[J].信息技術(shù)，2005，3（8）：32-137.

第3篇：神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)規(guī)則范文

關(guān)鍵詞 直覺模糊邏輯；直覺模糊規(guī)則；區(qū)間值描述；自適應(yīng)直覺模糊神經(jīng)網(wǎng)絡(luò)

中圖分類號(hào)：TP183 文獻(xiàn)標(biāo)識(shí)碼：A 文章編號(hào)：1671-7597（2013）24-0045-02

基于自適應(yīng)網(wǎng)絡(luò)的模糊推理系統(tǒng)（ANFIS）采用反向傳播算法和最小二乘法調(diào)整模糊推理系統(tǒng)的參數(shù)，并能自動(dòng)產(chǎn)生模糊規(guī)則，堪稱模糊神經(jīng)網(wǎng)絡(luò)的經(jīng)典之作。自此，由于自適應(yīng)模糊神經(jīng)網(wǎng)絡(luò)通過控制模糊規(guī)則的自動(dòng)生成和修剪，可得到一個(gè)規(guī)則數(shù)更小和泛化能力更佳的網(wǎng)絡(luò)結(jié)構(gòu)，動(dòng)態(tài)模糊神經(jīng)網(wǎng)絡(luò)就成為模糊神經(jīng)網(wǎng)絡(luò)研究的熱點(diǎn)。為了克服動(dòng)態(tài)模糊神經(jīng)網(wǎng)絡(luò)的高斯隸屬度函數(shù)的不足，文獻(xiàn)[1]在采用橢圓基函數(shù)使隸屬函數(shù)寬度自適應(yīng)輸入變量的基礎(chǔ)上，提出廣義動(dòng)態(tài)模糊神經(jīng)網(wǎng)絡(luò)（GD-FNN）。Gang等進(jìn)一步將隸屬函數(shù)寬度自適應(yīng)于神經(jīng)元，提出一種結(jié)構(gòu)更為緊湊的自組織模糊神經(jīng)網(wǎng)絡(luò)（SOFNN）。

直覺模糊集是對(duì)模糊集最有影響的擴(kuò)展，語(yǔ)義描述上具有獨(dú)到的優(yōu)勢(shì)，并成功拓展到模糊推理、信息決策、非線性計(jì)算等領(lǐng)域。本文針對(duì)T-S模糊規(guī)則在語(yǔ)義描述上存在不足，在Xu最近提出的直覺模糊數(shù)運(yùn)算的基礎(chǔ)上給出了一種適合網(wǎng)絡(luò)計(jì)算的直覺模糊規(guī)則，并將動(dòng)態(tài)模糊神經(jīng)網(wǎng)絡(luò)拓展，提出了一種自適應(yīng)直覺模糊神經(jīng)網(wǎng)（AIFNN）結(jié)構(gòu)。

1 直覺模糊邏輯和規(guī)則

模糊集的隸屬函數(shù)值僅是一個(gè)單一值，不能同時(shí)描述支持、反對(duì)和猶豫。20世紀(jì)80年代末，Atanassov對(duì)Zadeh的模糊集合概念進(jìn)行了一系列的拓展，提出了直覺模糊集的概念和理論。Gau于1993年提Vague集合理論，并構(gòu)造了Vague集隸屬度的子區(qū)間描述。最近，徐澤水教授提出了基于隸屬度的區(qū)間值描述的直覺模糊集，并在直覺模糊集上構(gòu)造了一系列運(yùn)算規(guī)則。

定義1：（直覺模糊集）設(shè)是一個(gè)給定論域，則上的一個(gè)直覺模糊集為

（1）

其中定義隸屬函數(shù)為：

非隸屬函數(shù)為：

且恒有

并定義猶豫度或不確定度為：

定義2：（基于Vague集隸屬度的直覺模糊集）設(shè)為上的一個(gè)Vague集，則的隸屬函數(shù)滿足：

（2）

即為[0，1]的子區(qū)間，重新定義直覺模糊集為，其中滿足式（1），當(dāng)退化為模糊集。

定義3：（基于區(qū)間值描述的直覺模糊規(guī)則）設(shè)區(qū)間值為神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)中定義2給定的直覺模糊數(shù)區(qū)間值表示，表示直覺模糊數(shù)的隸屬度中心，表示直覺模糊數(shù)的隸屬度寬度，且滿足

如是自然的將T-S模糊神經(jīng)網(wǎng)絡(luò)規(guī)則拓展為直覺模糊規(guī)則，具有以下的形式：

（3）

其中是直覺模糊集，為輸入變量數(shù)，是直覺模糊規(guī)則數(shù)。

2 AIFNN結(jié)構(gòu)和直覺模糊算子的數(shù)值計(jì)算

AIFNN的結(jié)構(gòu)是一個(gè)六層的網(wǎng)絡(luò)結(jié)構(gòu)，如圖1所示。

圖1 AIFNN的結(jié)構(gòu)

第一層：輸入層，每個(gè)節(jié)點(diǎn)分別表示一個(gè)輸入語(yǔ)言變量。

第二層：隸屬函數(shù)層，每個(gè)節(jié)點(diǎn)分別表示一個(gè)直覺模糊隸屬函數(shù)。隸屬函數(shù)如下式所示：

（4）

其中，作為高斯隸屬函數(shù)的中心，和 （ ）是高斯隸屬函數(shù)的寬度。因此，節(jié)點(diǎn)隸屬度函數(shù)的區(qū)間值輸出。

第三層：范數(shù)層，每個(gè)節(jié)點(diǎn)分別代表一條直覺模糊規(guī)則中的if部分，采用一個(gè)簡(jiǎn)化的直覺模糊Bonferroni平均算子，第個(gè)節(jié)點(diǎn)的條件輸出為區(qū)間值：

（5）

第四層：結(jié)論層，每個(gè)節(jié)點(diǎn)分別代表一條直覺模糊規(guī)則中的then部分，采用直覺模糊權(quán)重平均算子的變形，計(jì)算第個(gè)節(jié)點(diǎn)的結(jié)論輸出為一區(qū)間值：

（6）

第五層：輸出處理層，輸出為，通過面積中心法進(jìn)行求解，如下式所示：

（7）

其中和由歸一化計(jì)算隸屬度函數(shù)求得：

（8）

第六層：輸出層，每一個(gè)節(jié)點(diǎn)都與一個(gè)語(yǔ)言變量相關(guān)聯(lián)，通過去模糊化算子計(jì)算輸出。

（9）

3 基于AIFNN的非線性函數(shù)逼近

通過典型的非線性函數(shù)逼近驗(yàn)證AIFNN算法的有效性，其試驗(yàn)效果圖如圖2所示。從圖（a）可以看出，規(guī)則是一條一條地生成的；從圖（b）可以看出，均方根誤差陡峭的地方，表明該處生成了或刪除了規(guī)則；圖（c）為訓(xùn)練集的目標(biāo)值和AIFNN輸出的實(shí)際值的比較，期望值與實(shí)際值基本重合在一起；圖（d）為訓(xùn)練集目標(biāo)值與AIFNN輸出的實(shí)際值之間的誤差；圖（e）為測(cè)試集的目標(biāo)值和AIFNN輸出的實(shí)際值的比較；圖（f）為測(cè)試集目標(biāo)值與AIFNN輸出的實(shí)際值之間的誤差。

為評(píng)估非線性函數(shù)逼近性能，采用誤差平均百分比（APE）度量算法性能。

定義如下：

（10）

其中為第個(gè)樣本的理想目標(biāo)值，為第個(gè)樣本的網(wǎng)絡(luò)實(shí)際輸出。

采用典型的三變量非線性函數(shù)為例，描述如下：

（11）

在定義域中隨機(jī)選取216個(gè)訓(xùn)練樣本和125個(gè)測(cè)試樣本。

表1 非線性函數(shù)逼近性能比較

算法 規(guī)則數(shù)目 參數(shù)數(shù)目 訓(xùn)練APE 測(cè)試APE

ANFIS 8 50 0.043 1.066

GD-FNN 10 64 2.11 1.54

SOFNN 9 60 1.1380 1.1244

FAOS-PFNN 7 35 1.89 2.95

AIFNN 5 50 0.7420 0.9051

從表1可以看出，AIFNN生成的規(guī)則數(shù)最小，測(cè)試的APE最小，因此，生成的網(wǎng)絡(luò)具有結(jié)構(gòu)最緊湊和泛化性能最佳的特點(diǎn)。相對(duì)于GD-FNN和SOFNN性能顯著提高，究其原因，高斯隸屬函數(shù)的寬度對(duì)網(wǎng)絡(luò)的結(jié)構(gòu)和泛化能力影響巨大。AIFNN采用UKF學(xué)習(xí)高斯隸屬函數(shù)寬度的環(huán)節(jié)，減小了對(duì)初值的依賴，并且精度能夠達(dá)到二階以上。更重要的是，AIFNN將高斯隸屬函數(shù)的寬度定義為一個(gè)直覺模糊數(shù)的區(qū)間值表示，在不確定性表達(dá)和處理上更為靈活。

（a）規(guī)則的生成和刪除 （b）均方根誤差

（c）訓(xùn)練期望值與實(shí)際值 （d）訓(xùn)練函數(shù)值的誤差

（e）測(cè)試期望值與實(shí)際值 （f）測(cè)試函數(shù)值的誤差

圖2 AIFNN非線性函數(shù)逼近

4 結(jié)束語(yǔ)

本文提出了AIFNN的結(jié)構(gòu)，結(jié)構(gòu)辨識(shí)和參數(shù)學(xué)習(xí)同時(shí)進(jìn)行，采用動(dòng)態(tài)的模糊規(guī)則的修剪策略。AIFNN將高斯隸屬函數(shù)的寬度定義為一個(gè)直覺模糊數(shù)描述的區(qū)間值，在不確定性表達(dá)和處理上更為靈活。此外，AIFNN增加了一個(gè)用UKF學(xué)習(xí)高斯隸屬函數(shù)寬度的環(huán)節(jié)，減小了對(duì)初值的依賴，并且精度能夠達(dá)到二階以上。因此，AIFNN訓(xùn)練的網(wǎng)絡(luò)結(jié)構(gòu)更為緊湊，泛化性能更佳。通過函數(shù)逼近實(shí)例，表明本文算法訓(xùn)練的神經(jīng)網(wǎng)絡(luò)的有效性，并且性能具有整體優(yōu)勢(shì)。

第4篇：神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)規(guī)則范文

人腦是自生命誕生以來(lái)，生物經(jīng)過數(shù)十億年漫長(zhǎng)歲月進(jìn)化的結(jié)果，是具有高度智能的復(fù)雜系統(tǒng)，它不必采用繁復(fù)的數(shù)字計(jì)算和邏輯運(yùn)算，卻能靈活處理各種復(fù)雜的，不精確的和模糊的信息，善于理解語(yǔ)言、圖象并具有直覺感知等功能。

人腦的信息處理機(jī)制極其復(fù)雜，從結(jié)構(gòu)上看它是包含有140億神經(jīng)細(xì)胞的大規(guī)模網(wǎng)絡(luò)。單個(gè)神經(jīng)細(xì)胞的工作速度并不高（毫秒級(jí)），但它通過超并行處理使得整個(gè)系統(tǒng)實(shí)現(xiàn)處理的高速性和信息表現(xiàn)的多樣性。

因此，從信息處理的角度對(duì)人腦進(jìn)行探究，并由此研制出一種象人腦一樣能夠“思維”的智能計(jì)算機(jī)和智能信息處理方法，一直是人工智能追求的目標(biāo)。

神經(jīng)網(wǎng)絡(luò)就是通過對(duì)人腦的基本單元---神經(jīng)元的建模和聯(lián)結(jié)，來(lái)探索模擬人腦神經(jīng)系統(tǒng)功能的模型，并研制一種具有學(xué)習(xí)、聯(lián)想、記憶和模式識(shí)別等智能信息處理功能的人工系統(tǒng)。本文介紹神經(jīng)網(wǎng)絡(luò)的特征以及近年來(lái)有關(guān)神經(jīng)網(wǎng)絡(luò)和混沌理論、模糊計(jì)算和遺傳算法等相結(jié)合的混合神經(jīng)網(wǎng)絡(luò)探究的動(dòng)態(tài)。

一．神經(jīng)網(wǎng)絡(luò)和聯(lián)結(jié)主義

回顧認(rèn)知科學(xué)的發(fā)展，有所謂符號(hào)主義和聯(lián)結(jié)主義兩大流派。符號(hào)主義從宏觀層次上，撇開人腦的內(nèi)部結(jié)構(gòu)和機(jī)制，僅從人腦外在表現(xiàn)出來(lái)的智能現(xiàn)象出發(fā)進(jìn)行探究。例如，將記憶、判定、推理、學(xué)習(xí)等心理活動(dòng)總結(jié)成規(guī)律、甚至編制成規(guī)則，然后用計(jì)算機(jī)進(jìn)行模擬，使計(jì)算機(jī)表現(xiàn)出各種智能。

符號(hào)主義認(rèn)為，熟悉的基本元素是符號(hào)，認(rèn)知過程是對(duì)符號(hào)表示的運(yùn)算。人類的語(yǔ)言，文字的思維均可用符號(hào)來(lái)描述，而且思維過程只不過是這些符號(hào)的存儲(chǔ)、變換和輸入、輸出而已。以這種方法實(shí)現(xiàn)的系統(tǒng)具有串行、線性、準(zhǔn)確、簡(jiǎn)潔、易于表達(dá)的特征，體現(xiàn)了邏輯思維的基本特性。七十年代的專家系統(tǒng)和八十年代日本的第五代計(jì)算機(jī)探究計(jì)劃就是其主要代表。

聯(lián)接主義則和其不同，其特征是從微觀出發(fā)。聯(lián)接主義認(rèn)為符號(hào)是不存在的，認(rèn)知的基本元素就是神經(jīng)細(xì)胞（神經(jīng)元），認(rèn)知過程是大量神經(jīng)元的聯(lián)接，以及這種聯(lián)接所引起的神經(jīng)元的不同興奮狀態(tài)和系統(tǒng)所表現(xiàn)出的總體行為。八十年代再度興起的神經(jīng)網(wǎng)絡(luò)和神經(jīng)計(jì)算機(jī)就是這種聯(lián)接主義的代表。

神經(jīng)網(wǎng)絡(luò)的主要特征是摘要：大規(guī)模的并行處理和分布式的信息存儲(chǔ)，良好的自適應(yīng)、自組織性，以及很強(qiáng)的學(xué)習(xí)功能、聯(lián)想功能和容錯(cuò)功能。和當(dāng)今的馮．諾依曼式計(jì)算機(jī)相比，更加接近人腦的信息處理模式。主要表現(xiàn)如下摘要：

神經(jīng)網(wǎng)絡(luò)能夠處理連續(xù)的模擬信號(hào)。例如連續(xù)灰度變化的圖象信號(hào)。

能夠處理混沌的、不完全的、模糊的信息。

傳統(tǒng)的計(jì)算機(jī)能給出精確的解答，神經(jīng)網(wǎng)絡(luò)給出的是次最優(yōu)的逼近解答。

神經(jīng)網(wǎng)絡(luò)并行分布工作，各組成部分同時(shí)參和運(yùn)算，單個(gè)神經(jīng)元的動(dòng)作速度不高，但總體的處理速度極快。

神經(jīng)網(wǎng)絡(luò)信息存儲(chǔ)分布于全網(wǎng)絡(luò)各個(gè)權(quán)重變換之中，某些單元障礙并不影響信息的完整，具有魯棒性。

傳統(tǒng)計(jì)算機(jī)要求有準(zhǔn)確的輸入條件，才能給出精確解。神經(jīng)網(wǎng)絡(luò)只要求部分條件，甚至對(duì)于包含有部分錯(cuò)誤的輸入，也能得出較好的解答，具有容錯(cuò)性。

神經(jīng)網(wǎng)絡(luò)在處理自然語(yǔ)言理解、圖象模式識(shí)別、景物理解、不完整信息的處理、智能機(jī)器人控制等方面有優(yōu)勢(shì)。

符號(hào)主義和聯(lián)接主義兩者各有特色，學(xué)術(shù)界目前有一種看法摘要：認(rèn)為基于符號(hào)主義得傳統(tǒng)人工智能和基于聯(lián)接主義得神經(jīng)網(wǎng)絡(luò)是分別描述人腦左、右半腦的功能，反映了人類智能的兩重性摘要：精確處理和非精確處理，分別面向熟悉的理性和感性兩個(gè)方面，兩者的關(guān)系應(yīng)該是互補(bǔ)而非互相代替。理想的智能系統(tǒng)及其表現(xiàn)的智能行為應(yīng)是兩者相互結(jié)合的結(jié)果。

接下去的新問題是，符號(hào)AI和聯(lián)接AI具體如何結(jié)合，兩者在智能系統(tǒng)中相互關(guān)系如何？分別扮演什么角色？目前這方面發(fā)表的文獻(xiàn)很多，大致有如下幾種類型摘要：

1．松耦合模型摘要：符號(hào)機(jī)制的專家系統(tǒng)和聯(lián)接機(jī)制的神經(jīng)網(wǎng)絡(luò)通過一個(gè)中間媒介（例如數(shù)據(jù)文件）進(jìn)行通訊。

2．緊耦合模型摘要：和松耦合模型相比較，其通訊不是通過外部數(shù)據(jù)進(jìn)行，而是直接通過內(nèi)部數(shù)據(jù)完成，具有較高的效率。其主要類型有嵌入式系統(tǒng)和黑板結(jié)構(gòu)等。

3．轉(zhuǎn)換模型摘要：將專家系統(tǒng)的知識(shí)轉(zhuǎn)換成神經(jīng)網(wǎng)絡(luò)，或把神經(jīng)網(wǎng)絡(luò)轉(zhuǎn)換成專家系統(tǒng)的知識(shí)，轉(zhuǎn)換前的系統(tǒng)稱為源系統(tǒng)，轉(zhuǎn)換后的系統(tǒng)稱為目標(biāo)系統(tǒng)，由一種機(jī)制轉(zhuǎn)成另一種機(jī)制。假如源系統(tǒng)是專家系統(tǒng)，目標(biāo)系統(tǒng)是神經(jīng)網(wǎng)絡(luò)，則可獲得學(xué)習(xí)能力及自適應(yīng)性；反之，可獲得單步推理能力、解釋能力及知識(shí)的顯式表示。當(dāng)然，轉(zhuǎn)換需要在兩種的機(jī)制之間，確定結(jié)構(gòu)上的一致性，目前主要新問題是還沒有一種完備而精確的轉(zhuǎn)換方法實(shí)現(xiàn)兩者的轉(zhuǎn)換。有待進(jìn)一步探究。

4．綜合模型摘要：綜合模型共享數(shù)據(jù)結(jié)構(gòu)和知識(shí)表示，這時(shí)聯(lián)接機(jī)制和符號(hào)機(jī)制不再分開，兩者相互結(jié)合成為一個(gè)整體，既具有符號(hào)機(jī)制的邏輯功能，又有聯(lián)接機(jī)制的自適應(yīng)和容錯(cuò)性的優(yōu)點(diǎn)和特征。例如聯(lián)接主義的專家系統(tǒng)等。

近年來(lái)神經(jīng)網(wǎng)絡(luò)探究的另一個(gè)趨向，是將它和模糊邏輯、混沌理論、遺傳進(jìn)化算法等相結(jié)合，即所謂“混合神經(jīng)網(wǎng)絡(luò)”方法。由于這些理論和算法都是屬于仿效生物體信息處理的方法，人們希望通過她們之間的相互結(jié)合，能夠獲得具有有柔性信息處理功能的系統(tǒng)。下面分別介紹。

二．混沌理論和智能信息處理

混沌理論是對(duì)貌似無(wú)序而實(shí)際有序，表面上看來(lái)是雜亂無(wú)章的現(xiàn)象中，找出其規(guī)律，并予以處理的一門學(xué)科。早在七十年代，美國(guó)和歐洲的一些物理學(xué)家、生物學(xué)家、數(shù)學(xué)家就致力于尋求在許許多多不同種類的不規(guī)則性之間的聯(lián)系。生物學(xué)家發(fā)現(xiàn)在人類的心臟中有混沌現(xiàn)象存在，血管在顯微鏡下交叉纏繞，其中也有驚人的有序性。在生物腦神經(jīng)系統(tǒng)中從微觀的神經(jīng)膜電位到宏觀的腦電波，都可以觀察到混沌的性態(tài)，證實(shí)混沌也是神經(jīng)系統(tǒng)的正常特性。

九十年代開始，則更進(jìn)一步將混沌和神經(jīng)網(wǎng)絡(luò)結(jié)合起來(lái)，提出多種混沌神經(jīng)網(wǎng)絡(luò)模型，并探索應(yīng)用混沌理論的各種信息處理方法。例如，在神經(jīng)元模型中，引入神經(jīng)膜的不應(yīng)性，探究神經(jīng)元模型的混沌響應(yīng)，探究在神經(jīng)網(wǎng)絡(luò)的方程中，不應(yīng)性項(xiàng)的定標(biāo)參數(shù)，不定性時(shí)間衰減常數(shù)等參數(shù)的性質(zhì)，以及這些參數(shù)于神經(jīng)網(wǎng)絡(luò)混沌響應(yīng)的關(guān)系，并確定混沌---神經(jīng)網(wǎng)絡(luò)模型具有混沌解的參數(shù)空間。經(jīng)過試驗(yàn)，由這種混沌神經(jīng)網(wǎng)絡(luò)模型所繪出的輸出圖形和腦電圖極為相似。

現(xiàn)代腦科學(xué)把人腦的工作過程看成為復(fù)雜的多層次的混沌動(dòng)力學(xué)系統(tǒng)。腦功能的物理基礎(chǔ)是混沌性質(zhì)的過程，腦的工作包含有混沌的性質(zhì)。通過混沌動(dòng)力學(xué)，探究、分析腦模型的信息處理能力，可進(jìn)一步探索動(dòng)態(tài)聯(lián)想記憶、動(dòng)態(tài)學(xué)習(xí)并應(yīng)用到模式識(shí)別等工程領(lǐng)域。例如摘要：

對(duì)混沌的隨機(jī)不規(guī)則現(xiàn)象，可利用混沌理論進(jìn)行非線性猜測(cè)和決策。

對(duì)被噪聲所掩蓋的微弱信號(hào)，假如噪聲是一種混沌現(xiàn)象，則可通過非線性辨識(shí)，有效進(jìn)行濾波。

利用混沌現(xiàn)象對(duì)初始值的敏銳依靠性，構(gòu)成模式識(shí)別系統(tǒng)。

探究基于混沌---神經(jīng)網(wǎng)絡(luò)自適應(yīng)存儲(chǔ)檢索算法。該算法主要包括三個(gè)步驟，即摘要：特征提取、自適應(yīng)學(xué)習(xí)和檢索。

模式特征提取采用從簡(jiǎn)單的吸引子到混沌的層次分支結(jié)構(gòu)來(lái)描述，這種分支結(jié)構(gòu)有可能通過少數(shù)幾個(gè)系統(tǒng)參數(shù)的變化來(lái)加以控制，使復(fù)雜新問題簡(jiǎn)單化。自適應(yīng)學(xué)習(xí)采用神經(jīng)網(wǎng)絡(luò)的誤差反傳學(xué)習(xí)法。檢索過程是通過一個(gè)具有穩(wěn)定吸引子的動(dòng)力學(xué)系統(tǒng)來(lái)完成，即利用輸入的初始條件和某個(gè)吸引子（輸出）之間的存在直接對(duì)應(yīng)關(guān)系的方法進(jìn)行檢索。利用這種方法可應(yīng)用于模式識(shí)別。例如黑白圖象的人臉識(shí)別。

三．模糊集理論和模糊工程

八十年代以來(lái)在模糊集理論和應(yīng)用方面，也有很大進(jìn)展。1983年美國(guó)西海岸AI探究所發(fā)表了稱為REVEAL的模糊輔助決策系統(tǒng)并投入市場(chǎng)，1986年美國(guó)將模糊邏輯導(dǎo)入OPS---5，并探究成功模糊專家系統(tǒng)外殼FLOPS，1987年英國(guó)發(fā)表采用模糊PROLOG的智能系統(tǒng)FRIL等。除此通用工具的研制以外，各國(guó)還開發(fā)一系列用于專用目的的智能信息處理系統(tǒng)并實(shí)際應(yīng)用于智能控制、模式識(shí)別、醫(yī)療診斷、故障檢測(cè)等方面。

模糊集理論和神經(jīng)網(wǎng)絡(luò)雖然都屬于仿效生物體信息處理機(jī)制以獲得柔性信息處理功能的理論，但兩者所用的探究方法卻大不相同，神經(jīng)網(wǎng)絡(luò)著眼于腦的微觀網(wǎng)絡(luò)結(jié)構(gòu)，通過學(xué)習(xí)、自組織化和非線性動(dòng)力學(xué)理論形成的并行分析方法，可處理無(wú)法語(yǔ)言化的模式信息。而模糊集理論則著眼于可用語(yǔ)言和概念作為代表的腦的宏觀功能，按照人為引入的隸屬度函數(shù)，邏輯的處理包含有模糊性的語(yǔ)言信息。

神經(jīng)網(wǎng)絡(luò)和模糊集理論目標(biāo)相近而方法各異。因此假如兩者相互結(jié)合，必能達(dá)到取長(zhǎng)補(bǔ)短的功能。將模糊和神經(jīng)網(wǎng)絡(luò)相結(jié)合的探究，約在15年前便已在神經(jīng)網(wǎng)絡(luò)領(lǐng)域開始，為了描述神經(jīng)細(xì)胞模型，開始采用模糊語(yǔ)言，把模糊集合及其運(yùn)算用于神經(jīng)元模型和描述神經(jīng)網(wǎng)絡(luò)系統(tǒng)。目前，有關(guān)模糊---神經(jīng)網(wǎng)絡(luò)模型的探究大體上可分為兩類摘要：一類是以神經(jīng)網(wǎng)絡(luò)為主，結(jié)合模糊集理論。例如，將神經(jīng)網(wǎng)絡(luò)參數(shù)模糊化，采用模糊集合進(jìn)行模糊運(yùn)算。另一類以模糊集、模糊邏輯為主，結(jié)合神經(jīng)網(wǎng)絡(luò)方法，利用神經(jīng)網(wǎng)絡(luò)的自組織特性，達(dá)到柔性信息處理的目的。

和神經(jīng)網(wǎng)絡(luò)相比，模糊集理論和模糊計(jì)算是更接近實(shí)用化的理論，非凡近年來(lái)美國(guó)和日本的各大公司都紛紛推出各種模糊芯片，研制了型號(hào)繁多的模糊推理板，并實(shí)際應(yīng)用于智能控制等各個(gè)應(yīng)用領(lǐng)域，建立“模糊工程”這樣一個(gè)新領(lǐng)域。日本更首先在模糊家電方面打開市場(chǎng)，帶有模糊控制，甚至標(biāo)以神經(jīng)---模糊智能控制的洗衣機(jī)、電冰箱、空調(diào)器、攝象機(jī)等已成為新一代家電的時(shí)髦產(chǎn)品。我國(guó)目前市場(chǎng)上也有許多洗衣機(jī)，例如榮事達(dá)洗衣機(jī)就是采用模糊神經(jīng)網(wǎng)絡(luò)智能控制方式的洗衣機(jī)。

四．遺傳算法

遺傳算法（GeneticAlgorithm摘要：GA）是模擬生物的進(jìn)化現(xiàn)象（自然、淘汰、交叉、忽然變異）的一種概率搜索和最優(yōu)化方法。是模擬自然淘汰和遺傳現(xiàn)象的工程模型。

GA的歷史可追溯到1960年，明確提出遺傳算法的是1975年美國(guó)Michigan大學(xué)的Holland博士，他根據(jù)生物進(jìn)化過程的適應(yīng)現(xiàn)象，提出如下的GA模型方案摘要：

1．將多個(gè)生物的染色體（Chromosmoe）組成的符號(hào)集合，按文字進(jìn)行編碼，稱為個(gè)體。

2．定義評(píng)價(jià)函數(shù)，表示個(gè)體對(duì)外部環(huán)境的適應(yīng)性。其數(shù)值大的個(gè)體表示對(duì)外部環(huán)境的適應(yīng)性高，它的生存（子孫的延續(xù)）的概率也高。

3．每個(gè)個(gè)體由多個(gè)“部分”組合而成，每個(gè)部分隨機(jī)進(jìn)行交叉及忽然變異等變化，并由此產(chǎn)生子孫（遺傳現(xiàn)象）。

4．個(gè)體的集合通過遺傳，由選擇淘汰產(chǎn)生下一代。

遺傳算法提出之后，很快得到人工智能、計(jì)算機(jī)、生物學(xué)等領(lǐng)域科學(xué)家的高度重視，并在各方面廣泛應(yīng)用。1989年美國(guó)Goldberg博士發(fā)表一本專著摘要：“GeneticAlgorithmsinSearch，OptimizationandMachineLearning”。出版后產(chǎn)生較大影響，該書對(duì)GA的數(shù)學(xué)基礎(chǔ)理論，GA的基本定理、數(shù)理分析以及在搜索法、最優(yōu)化、機(jī)器學(xué)習(xí)等GA應(yīng)用方面進(jìn)行了深入淺出的介紹，并附有Pascal模擬程序。

1985年7月在美國(guó)召開第一屆“遺傳算法國(guó)際會(huì)議”（ICGA）。以后每隔兩年召開一次。近年來(lái)，遺傳算法發(fā)展很快，并廣泛應(yīng)用于信息技術(shù)的各個(gè)領(lǐng)域，例如摘要：

智能控制摘要：機(jī)器人控制。機(jī)器人路徑規(guī)劃。

工程設(shè)計(jì)摘要：微電子芯片的布局、布線；通信網(wǎng)絡(luò)設(shè)計(jì)、濾波器設(shè)計(jì)、噴氣發(fā)動(dòng)機(jī)設(shè)計(jì)。

圖象處理摘要：圖象恢復(fù)、圖象識(shí)別、特征抽取。

調(diào)度規(guī)劃摘要：生產(chǎn)規(guī)劃、調(diào)度新問題、并行機(jī)任務(wù)分配。

優(yōu)化理論摘要：TSP新問題、背包新問題、圖劃分新問題。

人工生命摘要：生命的遺傳進(jìn)化以及自增殖、自適應(yīng)；免疫系統(tǒng)、生態(tài)系統(tǒng)等方面的探究。

神經(jīng)網(wǎng)絡(luò)、模糊集理論和以遺傳算法為代表的進(jìn)化算法都是仿效生物信息處理模式以獲得智能信息處理功能的理論。三者目標(biāo)相近而方法各異；將它們相互結(jié)合，必能達(dá)到取長(zhǎng)補(bǔ)短、各顯優(yōu)勢(shì)的效果。例如，遺傳算法和神經(jīng)網(wǎng)絡(luò)和模糊計(jì)算相結(jié)合方面就有摘要：

神經(jīng)網(wǎng)絡(luò)連續(xù)權(quán)的進(jìn)化。

傳統(tǒng)神經(jīng)網(wǎng)絡(luò)如BP網(wǎng)絡(luò)是通過學(xué)習(xí)，并按一定規(guī)則來(lái)改變數(shù)值分布。這種方法有練習(xí)時(shí)間過長(zhǎng)和輕易陷入局部?jī)?yōu)化的新問題。采用遺傳算法優(yōu)化神經(jīng)網(wǎng)絡(luò)可以克服這個(gè)缺點(diǎn)。

神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)的進(jìn)化。

目前神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)的設(shè)計(jì)全靠設(shè)計(jì)者的經(jīng)驗(yàn)，由人事先確定，還沒有一種系統(tǒng)的方法來(lái)確定網(wǎng)絡(luò)結(jié)構(gòu)，采用遺傳算法可用來(lái)優(yōu)化神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)。

神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)規(guī)則的進(jìn)化。

第5篇：神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)規(guī)則范文

關(guān)鍵詞：神經(jīng)網(wǎng)絡(luò)模糊控制PID控制

0 引言

隨著我國(guó)市場(chǎng)經(jīng)濟(jì)的迅速發(fā)展，水對(duì)人民生活與工業(yè)生產(chǎn)的影響日益加強(qiáng)，與此同時(shí)用戶對(duì)供水系統(tǒng)可靠性和供水質(zhì)量的要求也越來(lái)越高；另外，資源的緊缺和人們環(huán)保意識(shí)的增加，如何把先進(jìn)的自動(dòng)化技術(shù)、控制技術(shù)、通訊及網(wǎng)絡(luò)技術(shù)等應(yīng)用到供水領(lǐng)域，成為對(duì)供水系統(tǒng)的新要求，因此無(wú)論是在性能方面考慮還是在節(jié)能方面考慮，供水系統(tǒng)都需要巨大的變革。

1 傳統(tǒng)控制策略

由于變頻調(diào)速恒壓供水系統(tǒng)具有典型的大延遲性、非線性，而且城市用水具有季節(jié)性、時(shí)間性、水壓擾動(dòng)量大等特點(diǎn)。因此，雖然統(tǒng)治工業(yè)控制領(lǐng)域多年的傳統(tǒng)PID控制有很多優(yōu)點(diǎn)并且長(zhǎng)期應(yīng)用于供水系統(tǒng)，但是其固定參數(shù)模式致使其不適宜應(yīng)用于恒壓供水系統(tǒng)。由于PID控制擁有很多較好的優(yōu)點(diǎn)，諸如：原理簡(jiǎn)單，使用方便，適應(yīng)強(qiáng)，魯棒性強(qiáng)等優(yōu)點(diǎn)。因此在工業(yè)控制中人們往往還是會(huì)想到PID控制。根據(jù)被控對(duì)象的不同制定合適的KP、KI、KD參數(shù)，可以獲得滿意的控制效果。然而，PID控制并非盡如人意，因?yàn)镻ID控制適合系統(tǒng)模型非時(shí)變的情況。對(duì)于一個(gè)時(shí)變系統(tǒng)，由于PID的參數(shù)不會(huì)隨系統(tǒng)變化而動(dòng)態(tài)的調(diào)整KP、KI、KD參數(shù)，這樣會(huì)使控制作用變差，甚至造成系統(tǒng)不穩(wěn)定。

與傳統(tǒng)PID控制相比，模糊控制具有很多優(yōu)點(diǎn)。模糊控制是建立在模糊數(shù)學(xué)基礎(chǔ)上的一種智能控制技術(shù)，可以達(dá)到傳統(tǒng)控制策略無(wú)法達(dá)到的效果。模糊控制能較好得跟隨系統(tǒng)狀態(tài)的變化動(dòng)態(tài)調(diào)整自身控制參數(shù)，不需要建立精確的控制對(duì)象模型，因而在實(shí)際上的應(yīng)用越來(lái)越廣泛。

但是作為一門較為新型的控制科學(xué)，還沒有系統(tǒng)的方法來(lái)指導(dǎo)設(shè)計(jì)參數(shù)精良的模糊控制器。模糊控制器控制規(guī)則的確定以及其可調(diào)節(jié)性是對(duì)其控制效果影響最大的一方面。尤其是控制規(guī)則的合理制定是模糊控制中的重要部分。目前存在的主要問題是在建立模糊控制規(guī)則時(shí)要考慮若干參數(shù)的選擇是否合適，恰當(dāng)?shù)倪x擇參數(shù)是非常重要的。如在供水系統(tǒng)的水壓控制中，系統(tǒng)誤差和誤差變化率的動(dòng)態(tài)范圍需要反復(fù)多次整定以滿足控制需要。

盡管模糊推理系統(tǒng)的設(shè)計(jì)（隸屬度函數(shù)及模糊規(guī)則的建立）不主要依靠對(duì)象的模型，但是它卻相當(dāng)依靠專家或操作人員的經(jīng)驗(yàn)和知識(shí)。若缺乏這樣的經(jīng)驗(yàn)和知識(shí)，則很難期望它能夠得到滿意的控制效果。神經(jīng)網(wǎng)絡(luò)的出現(xiàn)很好的彌補(bǔ)了這一缺陷。神經(jīng)網(wǎng)絡(luò)系統(tǒng)的一大特點(diǎn)就是其自學(xué)習(xí)功能，將這種自學(xué)習(xí)的方法應(yīng)用于對(duì)模糊特征的分析與建模上，產(chǎn)生了自適應(yīng)的神經(jīng)網(wǎng)絡(luò)技術(shù)。這種自適應(yīng)的神經(jīng)網(wǎng)絡(luò)技術(shù)對(duì)于模糊系統(tǒng)的模型建立是非常有效的工具。而自適應(yīng)神經(jīng)模糊系統(tǒng)就是基于數(shù)據(jù)的建模方法，該系統(tǒng)中的模糊隸屬度函數(shù)及模糊規(guī)則是通過對(duì)大量已知數(shù)據(jù)的學(xué)習(xí)得到的，而不是基于經(jīng)驗(yàn)或直覺任意給定的，這對(duì)于那些特性還不被人們所完全了解或者特性非常復(fù)雜的系統(tǒng)尤為重要。

神經(jīng)網(wǎng)絡(luò)可以與模糊控制相結(jié)合組成神經(jīng)網(wǎng)絡(luò)模糊控制，兩者各有所長(zhǎng)，神經(jīng)網(wǎng)絡(luò)能夠通過給定的經(jīng)驗(yàn)集學(xué)習(xí)并生成映射規(guī)則，但其規(guī)則不可見；模糊控制制定的規(guī)則雖然可見，但是其自學(xué)習(xí)能力欠缺，導(dǎo)致其規(guī)則的動(dòng)態(tài)調(diào)整不足。因此有必要將上述兩點(diǎn)結(jié)合。

2 新型控制策略

由于供水系統(tǒng)的非線性、大慣性及純滯后性等特點(diǎn)，很顯然單純依靠PID、模糊控制和神經(jīng)網(wǎng)絡(luò)控制都不能實(shí)現(xiàn)很好的控制效果。因此可以考慮應(yīng)用一種綜合的控制策略以實(shí)現(xiàn)對(duì)供水系統(tǒng)的良好控制?；诖吮疚奶岢隽艘环N新型控制策略――神經(jīng)模糊PID控制算法，該算法可以綜合以上各算法的優(yōu)點(diǎn)，它不僅具有神經(jīng)網(wǎng)絡(luò)控制的自學(xué)習(xí)自組織能力，還具有模糊控制的魯棒性強(qiáng)、適應(yīng)性強(qiáng)的優(yōu)點(diǎn)，另外還擁有PID控制的實(shí)現(xiàn)簡(jiǎn)單方便等優(yōu)點(diǎn)，優(yōu)于以往的算法。

如圖顯示了神經(jīng)網(wǎng)絡(luò)模糊PID控制器的結(jié)構(gòu)框圖，該控制器是由三部分組成：

①神經(jīng)網(wǎng)絡(luò)控制器：控制模糊規(guī)則的動(dòng)態(tài)調(diào)整，通過神經(jīng)網(wǎng)絡(luò)的自學(xué)習(xí)，使模糊規(guī)則的生成轉(zhuǎn)變?yōu)榧訖?quán)系數(shù)的確定和調(diào)節(jié)。根據(jù)供水系統(tǒng)的運(yùn)行狀態(tài)，調(diào)節(jié)PID控制器參數(shù)，使供水系統(tǒng)最終達(dá)到最優(yōu)控制。

②模糊控制器：對(duì)系統(tǒng)的輸入輸出變量進(jìn)行模糊化和歸一化運(yùn)算。這些運(yùn)算的意義是鑒于模糊控制的強(qiáng)魯棒性和非線性控制作用，對(duì)輸入到神經(jīng)網(wǎng)絡(luò)的模糊規(guī)則進(jìn)行預(yù)處理，避免了神經(jīng)網(wǎng)絡(luò)采用sigmoid激活函數(shù)時(shí)，由于輸入過大而導(dǎo)致輸出飽和。

③傳統(tǒng)PID控制器：直接對(duì)供水系統(tǒng)的控制過程進(jìn)行閉環(huán)控制，并且三個(gè)參數(shù)KP、KI、KD實(shí)行在線調(diào)節(jié)，使控制作用時(shí)刻跟蹤系統(tǒng)的變化。

以上過程簡(jiǎn)要說來(lái)就是使輸出層神經(jīng)元的輸出狀態(tài)與PID控制器的KP、KI、KD參數(shù)相對(duì)應(yīng)，這樣可以通過神經(jīng)網(wǎng)絡(luò)的自學(xué)習(xí)能力實(shí)現(xiàn)加權(quán)系數(shù)調(diào)整，進(jìn)而使其穩(wěn)定狀態(tài)與PID的最優(yōu)控制相對(duì)應(yīng)，最終利用PID控制器的輸出u來(lái)實(shí)現(xiàn)對(duì)供水系統(tǒng)的水壓的控制。

參考文獻(xiàn)：

[1]劉萍麗.交流變頻恒壓供水控制器的設(shè)計(jì).大連海事大學(xué)碩士學(xué)位論文.2005.

[2]謝靜，韋力.新型恒壓供水系統(tǒng)[J].應(yīng)用能源技術(shù)，11，2010：42-45.

作者簡(jiǎn)介：

謝靜（1968-），女，陜西省咸陽(yáng)市人，講師，碩士，研究方向：電工電子、控制工程理論及應(yīng)用

第6篇：神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)規(guī)則范文

1模糊系統(tǒng)的Takagi?Sugeno模型

模糊系統(tǒng)理論［11］是溝通經(jīng)典數(shù)學(xué)的精確性與現(xiàn)實(shí)世界中大量存在的不精確性之間的橋梁。它是以模糊集合的形式表示系統(tǒng)所含的模糊性并能處理這些模糊性的系統(tǒng)理論，能夠有效地處理系統(tǒng)的不確定性、測(cè)量的不精確性等模糊性。Takagi－Sugeno模糊系統(tǒng)（T－S模糊系統(tǒng)）作為函數(shù)模糊系統(tǒng)的一種特例，由于構(gòu)成的各條規(guī)則采用線性方程式作為結(jié)論，使得模型的全局輸出具有良好的數(shù)學(xué)表達(dá)特性，這在處理多變量系統(tǒng)時(shí)能有效地減少模糊規(guī)則個(gè)數(shù)，具有很大的優(yōu)越性［12］。其規(guī)則表達(dá)如下［13］：式中：Rj為第j條模糊規(guī)則；xi為模糊語(yǔ)言變量；Aij（xi）為xi的第j個(gè)語(yǔ)言變量值，它是定義在xi論域上的一個(gè)模糊集合，相應(yīng)的隸屬度函數(shù)為μjAi（xi）；pkji為模糊系統(tǒng)參數(shù)；yj為根據(jù)模糊規(guī)則得到的輸出；If部分是前提或前件，then部分是結(jié)論或后件。

2T?S模糊神經(jīng)網(wǎng)絡(luò)

模糊系統(tǒng)在模糊建模的過程中常存在學(xué)習(xí)能力缺乏，辨識(shí)過程復(fù)雜，模型參數(shù)優(yōu)化困難等問題。而人工神經(jīng)網(wǎng)絡(luò)具有自學(xué)習(xí)、自組織和自適應(yīng)的能力，具有強(qiáng)大的非線性處理能力。二者的結(jié)合構(gòu)成模糊神經(jīng)網(wǎng)絡(luò)，可以有效地發(fā)揮模糊邏輯與神經(jīng)網(wǎng)絡(luò)的各自優(yōu)勢(shì)，彌補(bǔ)各自的不足［14］。

2．1T?S模糊神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)基于標(biāo)準(zhǔn)型的T－S模糊神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)如圖1所示。第5層是輸出層，它所實(shí)現(xiàn)的是清晰化計(jì)算。T－S模糊神經(jīng)網(wǎng)絡(luò)由前件網(wǎng)絡(luò)和后件網(wǎng)絡(luò)兩部分組成。前件網(wǎng)絡(luò)用來(lái)匹配模糊規(guī)則的前件，其結(jié)構(gòu)與圖1的前4層結(jié)構(gòu)完全相同；后件網(wǎng)絡(luò)用來(lái)產(chǎn)生模糊規(guī)則的后件，由N個(gè)結(jié)構(gòu)相同的并列子網(wǎng)絡(luò)組成［15］。

2．2T?S模糊神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)算法T－S模糊神經(jīng)網(wǎng)絡(luò)需要學(xué)習(xí)的參數(shù)主要有后件網(wǎng)絡(luò)的連接權(quán)pkki以及前件網(wǎng)絡(luò)第二層各結(jié)點(diǎn)隸屬函數(shù)的中心值ckj及寬度σkj。令上述T－S模型的參數(shù)pkji固定，則T－S模糊神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)可簡(jiǎn)化為圖1。簡(jiǎn)化結(jié)構(gòu)本質(zhì)上也是一種多層前饋網(wǎng)絡(luò)，所以可仿照BP網(wǎng)絡(luò)用誤差反傳的方法來(lái)設(shè)計(jì)調(diào)整參數(shù)的學(xué)習(xí)算法［15］。

3應(yīng)用研究

以下通過實(shí)例介紹T－S模糊神經(jīng)網(wǎng)絡(luò)在地下水水質(zhì)評(píng)價(jià)中的應(yīng)用。

3．1研究區(qū)概況吉林省西部地區(qū)位于松嫩平原的西南部，地理坐標(biāo)為東經(jīng)123°09′～124°22′，北緯44°57′～45°46′。研究區(qū)東接吉林省長(zhǎng)春市，南接四平市及遼寧省，西鄰，北接黑龍江省，東北以嫩江、松花江和拉林河與黑龍江省為界。吉林省西部屬半干旱半濕潤(rùn)的大陸性季風(fēng)氣候區(qū)，四季變化明顯。該區(qū)多年平均氣溫3～6℃，多年平均降雨量為400～500mm。研究區(qū)大部分屬于松嫩盆地，該盆地為一個(gè)巨大的含水層系統(tǒng)，埋藏有多層含水層，包括孔隙潛水含水層和承壓水含水層（分別為淺層、中深層）、上第三系大安組、泰康組孔隙－裂隙含水層（深層）和白堊系下統(tǒng)及上統(tǒng)裂隙孔隙含水層（深層）。研究區(qū)的地下水補(bǔ)給來(lái)源主要為降水入滲，排泄以潛水蒸發(fā)和人工開采為主。

3．2原始數(shù)據(jù)原始數(shù)據(jù)取自于吉林西部2005年50個(gè)地下水水化學(xué)監(jiān)測(cè)點(diǎn)的水質(zhì)監(jiān)測(cè)數(shù)據(jù)，結(jié)合研究區(qū)地下水水質(zhì)狀況，有針對(duì)性地選擇了鐵、氨氮、硝酸鹽、亞硝酸鹽、硫酸鹽、氯化物、溶解性總固體、氟化物和總硬度共9項(xiàng)指標(biāo)作為評(píng)價(jià)因子。地下水水

3．3神經(jīng)網(wǎng)絡(luò)的準(zhǔn)備工作（1）訓(xùn)練樣本、檢驗(yàn)樣本及其期望目標(biāo)的生成。采用Mat－lab7．0的linspace函數(shù)在各級(jí)評(píng)價(jià)標(biāo)準(zhǔn)之間按隨機(jī)均勻分布方式內(nèi)插生成訓(xùn)練樣本。各級(jí)評(píng)價(jià)標(biāo)準(zhǔn)之間生成500個(gè)，共2000個(gè)訓(xùn)練樣本，以解決僅利用各級(jí)評(píng)價(jià)標(biāo)準(zhǔn)作為訓(xùn)練樣本，導(dǎo)致訓(xùn)練樣本數(shù)過少的問題［16］。檢驗(yàn)樣本用生成訓(xùn)練樣本同理的方法生成400個(gè)樣本。小于一級(jí)標(biāo)準(zhǔn)的訓(xùn)練樣本和檢驗(yàn)樣本的期望目標(biāo)為按照生成訓(xùn)練樣本和檢驗(yàn)樣本的內(nèi)例產(chǎn)生對(duì)應(yīng)的0～1．5之間的數(shù)值；一、二級(jí)標(biāo)準(zhǔn)之間的訓(xùn)練樣本和檢驗(yàn)樣本的期望目標(biāo)為按照生成訓(xùn)練樣本和檢驗(yàn)樣本的內(nèi)例產(chǎn)生對(duì)應(yīng)的1．5～2．5之間的數(shù)值；同理，二、三級(jí)和三、四級(jí)標(biāo)準(zhǔn)之間的訓(xùn)練樣本和檢驗(yàn)樣本的期望目標(biāo)為2．5～3．5、3．5～4．5之間的數(shù)值。（2）水質(zhì)評(píng)價(jià)等級(jí)的劃分界限。據(jù)上述生成訓(xùn)練樣本與檢驗(yàn)樣本目標(biāo)輸出的思路可以確定一、二、三、四、五各級(jí)水的網(wǎng)絡(luò)輸出范圍分別為：＜1．5、1．5～2．5、2．5～3．5、3．5～4．5、＞4．5。（3）原始數(shù)據(jù)的預(yù)處理。利用Matlab7．0中的mapminmax函數(shù)將原始數(shù)據(jù)歸一化到0與1之間。

3．4T?S模糊神經(jīng)網(wǎng)絡(luò)的建立、訓(xùn)練、檢驗(yàn)及水質(zhì)評(píng)價(jià)

3．4．1T?S模糊神經(jīng)網(wǎng)絡(luò)的建立模糊神經(jīng)網(wǎng)絡(luò)的構(gòu)建根據(jù)訓(xùn)練樣本維數(shù)確定模糊神經(jīng)網(wǎng)絡(luò)輸入／輸出結(jié)點(diǎn)數(shù)、模糊隸屬度函數(shù)個(gè)數(shù)。由于輸入數(shù)據(jù)為9維，輸出數(shù)據(jù)為1維，通過試錯(cuò)法確定模糊神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)為9－18－1，即有18個(gè)隸屬度函數(shù)。選擇10組系數(shù)p0－p9，模糊隸屬度函數(shù)中心和寬度c和σ隨機(jī)得到，通過動(dòng)態(tài)BP算法對(duì)網(wǎng)絡(luò)的權(quán)值在線調(diào)整。隸屬度函數(shù)采用高斯函數(shù)，模糊推理采用sum－product［14］，解模糊采用加權(quán)平均法。網(wǎng)絡(luò)模型的概化如圖1所示。T－S模糊神經(jīng)網(wǎng)絡(luò)的第3層輸出為輸入數(shù)據(jù)的隸屬度函數(shù)；第4層輸出為第條規(guī)則的平均激活度；后件網(wǎng)絡(luò)實(shí)現(xiàn)了T－S模型模糊規(guī)則空間到輸出空間的映射，輸出為yj＝pkj0＋pjk1x1＋…＋pjkmxm和y＝∑αk×yj。

第7篇：神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)規(guī)則范文

【關(guān)鍵詞】模糊神經(jīng)網(wǎng)絡(luò)；建設(shè)工程；成本估算

當(dāng)前我國(guó)建設(shè)工程的規(guī)模和數(shù)量急劇增加，在社會(huì)信息化建設(shè)的背景下，建設(shè)工程也要適應(yīng)社會(huì)的需要加強(qiáng)建設(shè)管理部門的社會(huì)信息化建設(shè)。而工程項(xiàng)目的成本管理則是信息化建設(shè)的重要組成部分。原有的成本估算的方法，大多依靠工程造價(jià)管理人員的主觀經(jīng)驗(yàn)，但是在社會(huì)信息化背景下，這種估算方法已經(jīng)不能滿足工程建設(shè)精細(xì)化的需要，此時(shí)神經(jīng)模糊網(wǎng)絡(luò)系統(tǒng)結(jié)合了模糊理論和神經(jīng)網(wǎng)絡(luò)的優(yōu)勢(shì)開始出現(xiàn)，并逐漸成為當(dāng)今建設(shè)工程成本估算的主要應(yīng)用方法。模糊神經(jīng)網(wǎng)絡(luò)可以有效的處理非線性、模糊性的問題，擁有巨大的發(fā)展?jié)摿?。模糊神?jīng)網(wǎng)絡(luò)主要是由人工神經(jīng)系統(tǒng)和模糊系統(tǒng)結(jié)合而成。人工神經(jīng)網(wǎng)絡(luò)主要是模仿人腦的思維而形成，具有強(qiáng)大的自主學(xué)習(xí)和聯(lián)想的能力，但是卻不能很好的利用已有經(jīng)驗(yàn)，因此存在一定的局限性。而模糊系統(tǒng)，可以很容易的利用已有經(jīng)驗(yàn)，使問題推理的過程更加簡(jiǎn)捷。所以兩者的結(jié)合，可以起到良好的優(yōu)勢(shì)互補(bǔ)的作用[1]。

一、模糊神經(jīng)網(wǎng)絡(luò)的基本狀況

1.模糊神經(jīng)網(wǎng)絡(luò)的產(chǎn)生

模糊神經(jīng)網(wǎng)絡(luò)最早出現(xiàn)在日本，時(shí)間大致為上世紀(jì)80年代末。經(jīng)過一段時(shí)間的發(fā)展，直到上世紀(jì)90年代初，歐美國(guó)家開始在此基礎(chǔ)上加深了模糊神經(jīng)網(wǎng)路在眾領(lǐng)域的應(yīng)用。目前模糊神經(jīng)網(wǎng)絡(luò)已經(jīng)被應(yīng)用到眾多領(lǐng)域中，如工業(yè)控制領(lǐng)域、模式識(shí)別應(yīng)用、軟件估算領(lǐng)域等。而軟件估算的應(yīng)用就是本文主要探討的應(yīng)用方面。

2.模糊神經(jīng)網(wǎng)絡(luò)的特征

模糊神經(jīng)網(wǎng)絡(luò)實(shí)際上是模糊技術(shù)和人工神經(jīng)技術(shù)有機(jī)結(jié)合的產(chǎn)物。這兩種技術(shù)方法可以有效的對(duì)信息進(jìn)行智能化處理。但是分開來(lái)看兩者之前存在明顯的優(yōu)勢(shì)互補(bǔ)的作用。具體的可以分為四個(gè)方面進(jìn)行比較：（1）知識(shí)表達(dá)。模糊技術(shù)在知識(shí)的表達(dá)上具有表達(dá)清晰，便于理解的優(yōu)勢(shì)，而人工神經(jīng)網(wǎng)絡(luò)卻存在知識(shí)表達(dá)不明確，不易理解的缺陷。（2）知識(shí)存儲(chǔ)。模糊技術(shù)的知識(shí)存儲(chǔ)特點(diǎn)是規(guī)則集中，而人工神經(jīng)網(wǎng)絡(luò)技術(shù)的存儲(chǔ)特點(diǎn)則為分布式存儲(chǔ)。（3）知識(shí)運(yùn)用。模糊技術(shù)在知識(shí)的運(yùn)用上具有計(jì)算量小的特點(diǎn)，而人工神經(jīng)技術(shù)卻正好相反具有計(jì)算量較大的優(yōu)勢(shì)。（4）知識(shí)獲取。模糊技術(shù)具有不能自動(dòng)獲取的缺陷，而人工神經(jīng)系統(tǒng)卻可以自主進(jìn)行學(xué)習(xí) [2]。

二、模糊神經(jīng)網(wǎng)絡(luò)的建模應(yīng)用

（一）模糊神經(jīng)網(wǎng)絡(luò)的設(shè)計(jì)

模糊神經(jīng)網(wǎng)絡(luò)，通常是由n個(gè)輸入組合而成，并具有一定的結(jié)構(gòu)特征（如圖一所示）。模糊神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)的設(shè)計(jì)，主要由四個(gè)層次組成。

在函數(shù)式（1）和（2）中，W1和W2可以看做是輸入層到規(guī)則層的網(wǎng)絡(luò)權(quán)值矩陣；而W2和B矩陣則可以看做是模糊子集在函數(shù)中的具體參數(shù)。此時(shí)可以對(duì)W2和B進(jìn)行調(diào)節(jié)（即調(diào)節(jié)模糊子集在函數(shù)中的形狀），這樣做的目的是可以更好的對(duì)模糊規(guī)則進(jìn)行調(diào)整。

3.推理層

每一條If-Then規(guī)則在表達(dá)上可以將其表示成在模糊集空間上的一個(gè)相關(guān)的模糊蘊(yùn)涵關(guān)系。實(shí)際上模糊蘊(yùn)涵具有多樣的預(yù)算模式，而每一種不同的運(yùn)算模式都可以對(duì)不同的模糊算子進(jìn)行選擇，這樣便會(huì)產(chǎn)生多樣的模糊推理規(guī)則。比較經(jīng)常用到的規(guī)則通常有“乘積規(guī)則”以及“最大和最小的規(guī)則”，而再此設(shè)計(jì)中我們主要對(duì)“乘積規(guī)則”進(jìn)行具體利用。具體如下所示：我們?cè)O(shè)T為模糊的算子，此時(shí)經(jīng)過模糊推理的應(yīng)用，可以將此層的輸出表示為：

（二）網(wǎng)絡(luò)權(quán)值調(diào)整

對(duì)模糊邏輯的參數(shù)的具體網(wǎng)絡(luò)權(quán)值進(jìn)行調(diào)整的目的，是為了更好達(dá)到輸入和輸出的取值。通常情況下這種調(diào)節(jié)方法被稱作網(wǎng)絡(luò)的參數(shù)訓(xùn)練。而常用的訓(xùn)練方法則為遺傳算法。這種算法的形式主要是對(duì)生物進(jìn)行的過程進(jìn)行隨機(jī)抽取的通過交叉和變異以有效減少初始值的一種具有全局性特征的優(yōu)化方法，主要的實(shí)施步驟分為編碼、適配度、遺傳操作三個(gè)過程。

三、在建設(shè)工程成本估算中的具體應(yīng)用

例如我們可以基于組合模糊神經(jīng)網(wǎng)絡(luò)，來(lái)估算某一建筑工程的成本估算。首先要采集相關(guān)的樣本數(shù)據(jù)，然后經(jīng)過討論，選擇出對(duì)工程成本影響較大的因素（如建筑整體面積、建設(shè)層數(shù)、裝飾墻材料應(yīng)用、房間構(gòu)成等），將其設(shè)為X，此時(shí)可以看出建筑面積和建設(shè)的層數(shù)為一個(gè)確定的向量，設(shè)為X1，而裝飾墻材料應(yīng)用。

結(jié)語(yǔ)：

當(dāng)前，有效的簡(jiǎn)化工程成本編制工作，完善成本估算數(shù)據(jù)的精確度的首要方法就是先進(jìn)的成本管理手段的運(yùn)用。而模糊神經(jīng)網(wǎng)絡(luò)進(jìn)行工程成本估算的方法，具有簡(jiǎn)捷、精確的特性，對(duì)于彌補(bǔ)我國(guó)建設(shè)工程成本管理中的問題，具有重要的應(yīng)用價(jià)值，需要通過我們不斷的努力，使其更好的應(yīng)用發(fā)展。

參考文獻(xiàn)：

[1] 郝勝蘭.基于模糊神經(jīng)網(wǎng)絡(luò)的房產(chǎn)軟件項(xiàng)目成本估算研究[D].大連海事大學(xué)，2012.

第8篇：神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)規(guī)則范文

關(guān)鍵詞:學(xué)生綜合素質(zhì)評(píng)價(jià);BP神經(jīng)網(wǎng)絡(luò);算法設(shè)計(jì)

中圖分類號(hào):TP311文獻(xiàn)標(biāo)識(shí)碼:A文章編號(hào):1009-3044(2009)24-6786-03

BP neural Network Based on the Overall Quality of the Student Evaluation of Algorithm Design

ZHANG Wen-sheng

(Xiamen Gongshang Lvyou Xuexiao, Xiamen 3610012,China)

Abstract: In this paper, the overall quality of the students a variety of evaluation methods carried out in-depth analysis to explore the use of BP neural network theory to evaluate the feasibility of the overall quality, and BP neural network based on the overall quality of the student evaluation of algorithm design.

Key words: evaluation of the overall quality of students; BP neural network; algorithm design

學(xué)校德育教育是提高學(xué)生綜合素質(zhì)的重要一環(huán),在學(xué)校工作中占有舉足輕重的地位。德育涉及大量定性和定量的數(shù)據(jù)處理,為了體現(xiàn)其科學(xué)性和公平性,采用先進(jìn)的計(jì)算機(jī)技術(shù)進(jìn)行學(xué)生綜合素質(zhì)量化評(píng)估勢(shì)在必行。

1 問題的提出

據(jù)調(diào)查,目前在學(xué)校里對(duì)學(xué)生素質(zhì)評(píng)價(jià)的方法,主要有以下幾種:

1) 定性描述法

在學(xué)期或?qū)W年結(jié)束時(shí),班主任根據(jù)學(xué)生在班級(jí)、學(xué)校和社會(huì)活動(dòng)中的行為表現(xiàn),運(yùn)用文字對(duì)學(xué)生的綜合素質(zhì)進(jìn)行描述,作為對(duì)學(xué)生的評(píng)價(jià)。這種方法在評(píng)價(jià)學(xué)生綜合素質(zhì)時(shí)起過一定的作用,但是,由于教師對(duì)學(xué)生綜合素質(zhì)評(píng)價(jià)的內(nèi)容不明確,要求不統(tǒng)一,帶有一定的主觀片面性和模糊性。

2) 等級(jí)劃分法

班主任根據(jù)平時(shí)對(duì)學(xué)生的觀察和了解,對(duì)學(xué)生的綜合素質(zhì)行為劃分出優(yōu)、良、中、差四個(gè)等級(jí)。它只能說明每個(gè)學(xué)生綜合素質(zhì)發(fā)展的程度,在班集體中所處的地位,但缺乏具體內(nèi)容,學(xué)生對(duì)于自己或他人的優(yōu)點(diǎn)和缺點(diǎn)、以及個(gè)人今后的努力方向都不明確。

3) 自我總結(jié)法

這種方法是以學(xué)生為主,在教師的指導(dǎo)下總結(jié)自己的收獲,存在的問題、以及今后的努力方向,并寫成書面材料,然后寫在操行表的自我總結(jié)欄內(nèi)。這種方法是以學(xué)生的自我評(píng)價(jià)為主,它對(duì)于提高學(xué)生的自我評(píng)價(jià)能力,具有一定的促進(jìn)作用。但是,由于沒有老師和同學(xué)們參加評(píng)價(jià),其評(píng)價(jià)結(jié)果缺乏客觀性。

4) 小組評(píng)議法

是以班級(jí)小組評(píng)議為主。通過開評(píng)議會(huì)的形式,對(duì)全組成員分別進(jìn)行評(píng)議,肯定成績(jī),提出缺點(diǎn),最后把大家的意見集中起來(lái),作為對(duì)學(xué)生的評(píng)價(jià)結(jié)果。它具有一定的客觀性,可是,沒有教師參加評(píng)議,影響了評(píng)價(jià)結(jié)果的可信度。

上述各種方法的都有一定的長(zhǎng)處,也有一定的缺點(diǎn)。例如,對(duì)學(xué)生的綜合素質(zhì)的結(jié)構(gòu),沒有明確統(tǒng)一的規(guī)定和具體要求;不能同時(shí)吸收各方面的意見參加評(píng)價(jià);沒有制定較為符合需要的綜合素質(zhì)量表和采用科學(xué)的測(cè)量手段等等。所以,評(píng)價(jià)的結(jié)果往往帶有主觀片面性,評(píng)語(yǔ)內(nèi)容的不確定性,以及處在同一等級(jí)的同學(xué)之間存在差異的模糊性。于是最近又提出了對(duì)學(xué)生綜合素質(zhì)定量進(jìn)行測(cè)量和評(píng)價(jià)。

5) 定量分?jǐn)?shù)法

將構(gòu)成學(xué)生綜合素質(zhì)的各種因素?cái)?shù)量化,并制定出綜合素質(zhì)量表。在具體的進(jìn)行測(cè)量和評(píng)價(jià)時(shí),把學(xué)生綜合素質(zhì)所含每種因素的發(fā)展程度分為優(yōu)、良、中、差四個(gè)等級(jí),每個(gè)等級(jí)分別對(duì)應(yīng)一定的標(biāo)準(zhǔn)值。對(duì)不同因素確定不同的權(quán)重大小,再綜合學(xué)生每個(gè)因素所取得的標(biāo)準(zhǔn)值,最后得出學(xué)生的綜合素質(zhì)分。

用定量的方法對(duì)學(xué)生的綜合素質(zhì)發(fā)展程度進(jìn)行評(píng)價(jià)時(shí),不同因素需要確定不同的權(quán)重大小。權(quán)重的大小對(duì)評(píng)估結(jié)果十分重要,它反映了各指標(biāo)的相對(duì)重要性。由于對(duì)不同的因素的權(quán)重是人為給定的,而學(xué)生綜合素質(zhì)的各項(xiàng)因素對(duì)學(xué)生的整體素質(zhì)存在不可確定的影響程度,因些在對(duì)學(xué)生的測(cè)量和評(píng)定過程中必然受到主觀因素及模糊隨機(jī)性的影響。并且這種方法需要消耗大量的人力和時(shí)間。

為了探討這個(gè)問題,我們根據(jù)BP神經(jīng)網(wǎng)絡(luò)的基本概念和原理,用神經(jīng)網(wǎng)絡(luò)自我學(xué)習(xí)的方法,對(duì)中學(xué)生綜合素質(zhì)進(jìn)行測(cè)量和評(píng)價(jià)。BP神經(jīng)網(wǎng)絡(luò)能利用經(jīng)驗(yàn)樣本對(duì)神經(jīng)網(wǎng)絡(luò)的訓(xùn)練,達(dá)到神經(jīng)網(wǎng)絡(luò)的自我學(xué)習(xí),在網(wǎng)絡(luò)中自動(dòng)建立一個(gè)多輸入變量與輸出變量間的非線性映射過程,無(wú)需建立具體的數(shù)學(xué)模型和規(guī)則,可以處理那些難以用模型或規(guī)則描述的過程或系統(tǒng)。神經(jīng)網(wǎng)絡(luò)具有自組織、自學(xué)習(xí)、自適應(yīng)的特點(diǎn),能通過連接權(quán)重的不斷調(diào)整,克服權(quán)重確定的困難,弱化人為因素,自動(dòng)適應(yīng)信息、學(xué)習(xí)新知識(shí),最終通過學(xué)習(xí)訓(xùn)練對(duì)實(shí)際學(xué)習(xí)樣本提出合理的求解規(guī)則,對(duì)學(xué)生的綜合素質(zhì)的整體評(píng)定具有十分重要的意義。首先我們來(lái)了解BP神經(jīng)網(wǎng)絡(luò)的基本原理。

2BP神經(jīng)網(wǎng)絡(luò)的基本原理

1) 神經(jīng)元網(wǎng)絡(luò)基本概念

神經(jīng)網(wǎng)絡(luò)是單個(gè)并行處理元素的集合,從生物學(xué)神經(jīng)系統(tǒng)得到啟發(fā)。在自然界,網(wǎng)絡(luò)功能主要由神經(jīng)節(jié)決定,可以通過改變連接點(diǎn)的權(quán)重來(lái)訓(xùn)練神經(jīng)網(wǎng)絡(luò)完成特定的功能。如圖1所示。這里,網(wǎng)絡(luò)將根據(jù)輸出和目標(biāo)的比較而進(jìn)行調(diào)整,直到網(wǎng)絡(luò)輸出和目標(biāo)匹配。

2) 神經(jīng)元網(wǎng)絡(luò)結(jié)構(gòu)

圖2所示為一個(gè)單標(biāo)量輸入且無(wú)偏置的神經(jīng)元。

神經(jīng)元輸出計(jì)算公式為:a=f(wp+b)。神經(jīng)元中的w和b都是可調(diào)整的標(biāo)量參數(shù)。可以選擇特定的傳輸函數(shù),通過調(diào)整權(quán)重 和偏置參量 訓(xùn)練神經(jīng)網(wǎng)絡(luò)做一定的工作,或者神經(jīng)網(wǎng)絡(luò)自己調(diào)整參數(shù)以得到想要的結(jié)果。

3) BP結(jié)構(gòu)及算法描述

在實(shí)際應(yīng)用中,神經(jīng)網(wǎng)絡(luò)用得最廣泛的是反向傳播網(wǎng)絡(luò)(BP網(wǎng)絡(luò)),典型的BP網(wǎng)絡(luò)是三層網(wǎng)絡(luò),包括輸入層、隱含層和輸出層,各層之間實(shí)行全連接。

BP網(wǎng)絡(luò)是采用Widrow-Hoff學(xué)習(xí)算法和非線性可微傳輸函數(shù)的多層網(wǎng)絡(luò)。網(wǎng)絡(luò)的學(xué)習(xí)過程由正向和反向傳播兩部分組成。在正向傳播過程中,每一層神經(jīng)元的狀態(tài)只影響到下一層神經(jīng)元網(wǎng)絡(luò),如果輸出層不能得到期望輸出,就是實(shí)際輸出值與期望輸出值之間有誤差,那么轉(zhuǎn)入反向傳播過程,將誤差信號(hào)沿原來(lái)的連接通路返回,通過修改各層神經(jīng)元的權(quán)值,逐次地向輸入層傳播去進(jìn)行計(jì)算,再經(jīng)過正向傳播過程,這兩個(gè)過程的反復(fù)運(yùn)用,使得誤差信號(hào)最小。實(shí)際上,誤差達(dá)到人們所希望的要求時(shí),網(wǎng)絡(luò)的學(xué)習(xí)過程就結(jié)束了。

4) 反向傳播算法

反向傳播學(xué)習(xí)算法最簡(jiǎn)單的應(yīng)用是沿著性能函數(shù)最速增加的方向一梯度的負(fù)方向更新權(quán)重和偏置。這種遞歸算法可以寫成:

xk+1=xk-ak*gk

這里xk是當(dāng)前權(quán)重和偏置向量,gk是當(dāng)前梯度,ak是學(xué)習(xí)速率。在神經(jīng)元中,學(xué)習(xí)速度又稱為“學(xué)習(xí)速率”,它決定每一次循環(huán)訓(xùn)練中所產(chǎn)生的權(quán)值變化量(即該值的存在是神經(jīng)元網(wǎng)絡(luò)的一個(gè)必須的參數(shù))。大的學(xué)習(xí)速度可能導(dǎo)致系統(tǒng)的不穩(wěn)定,但小的學(xué)習(xí)速度將會(huì)導(dǎo)致訓(xùn)練較長(zhǎng),收斂速度很慢,通常情況下取值在0-01～0,8之間。

3 基于BP神經(jīng)網(wǎng)絡(luò)的學(xué)生綜合素質(zhì)量化評(píng)估模型

從上述對(duì)神經(jīng)元網(wǎng)絡(luò)基本概念的研究,我們可以看出BP神經(jīng)網(wǎng)絡(luò)主要根據(jù)所提供的數(shù)據(jù),通過學(xué)習(xí)和訓(xùn)練,找出輸入與輸出之間的內(nèi)在聯(lián)系,從而求取問題的解,而不是完全依據(jù)對(duì)問題的經(jīng)驗(yàn)知識(shí)和規(guī)則,因而具有自適應(yīng)功能,這對(duì)于弱化權(quán)重確定中的人為因素是十分有益的;其次能夠處理那些有噪聲或不完全的數(shù)據(jù),具有泛化功能和很強(qiáng)的容錯(cuò)能力;由于實(shí)際對(duì)學(xué)生量化評(píng)估往往是非常復(fù)雜的,各個(gè)因素之間相互影響,呈現(xiàn)出復(fù)雜的非線性關(guān)系,人工神經(jīng)網(wǎng)絡(luò)為處理這類非線性問題提供了強(qiáng)有力的工具。因此與其它評(píng)定方法相比,基于神經(jīng)網(wǎng)絡(luò)的評(píng)價(jià)方法越來(lái)越顯示出它的優(yōu)越性。結(jié)合學(xué)校對(duì)學(xué)生進(jìn)行綜合素質(zhì)評(píng)估考核的具體問題,我們提出以下設(shè)計(jì)。

3.1量化評(píng)估內(nèi)容的確定

1) 確定學(xué)生的綜合素質(zhì)結(jié)構(gòu)

學(xué)生的綜合素質(zhì)結(jié)構(gòu),主要是根據(jù)一定歷史階段的社會(huì)要求、學(xué)校對(duì)學(xué)生的傳統(tǒng)要求,以及各個(gè)不同年齡階段學(xué)生心理和生理發(fā)展的特征來(lái)確定的,它具有一定的社會(huì)性、科學(xué)性、可行性。以教育部提出的職業(yè)學(xué)校學(xué)生發(fā)展目標(biāo)為依據(jù),評(píng)定內(nèi)容包括:道德品質(zhì)與公民素養(yǎng)、學(xué)習(xí)能力、交流與合作能力、運(yùn)動(dòng)與健康、審美與表現(xiàn)、職業(yè)技能等6個(gè)層次。每個(gè)層次又包括各種因素,各層次和因素之間又是相互聯(lián)系和相互促進(jìn)的,它既反映了社會(huì)的、學(xué)校的具體要求,又符合學(xué)生綜合素質(zhì)發(fā)展和形成的規(guī)律。當(dāng)然,在實(shí)際評(píng)價(jià)學(xué)生中,可以根據(jù)學(xué)校的實(shí)際特點(diǎn)進(jìn)一步確定各要素,進(jìn)一步構(gòu)成學(xué)生綜合素質(zhì)評(píng)價(jià)的綜合評(píng)價(jià)指標(biāo)體系。

2) 學(xué)生綜合素質(zhì)評(píng)價(jià)的結(jié)構(gòu)設(shè)計(jì)

用BP神經(jīng)網(wǎng)絡(luò)進(jìn)行學(xué)生綜合素質(zhì)評(píng)價(jià)結(jié)構(gòu)的設(shè)計(jì)如圖3所示。對(duì)學(xué)生的綜合素質(zhì)進(jìn)行量化評(píng)估時(shí),從輸入層輸入評(píng)價(jià)學(xué)生綜合素質(zhì)的n個(gè)評(píng)價(jià)指標(biāo)因素信息,經(jīng)隱含層處理后傳入輸入層,其輸出值y即為學(xué)生評(píng)估結(jié)果。這n個(gè)評(píng)價(jià)指標(biāo)因素的設(shè)置,要考慮到能符合學(xué)生綜合素質(zhì)發(fā)展和形成的規(guī)律,能全面評(píng)價(jià)學(xué)生的綜合素質(zhì)狀況。

網(wǎng)絡(luò)結(jié)構(gòu)的參數(shù)選擇十分重要,由于輸入層與隱含層神經(jīng)元個(gè)數(shù)的增加會(huì)增加網(wǎng)絡(luò)的表達(dá)能力,不僅會(huì)降低系統(tǒng)的性能,同時(shí)也會(huì)影響其收斂速度和增加噪聲干擾。所以首先必須確定輸入層神經(jīng)元的數(shù)目。為使模型即有理論價(jià)值又有可操作性,本例對(duì)應(yīng)于對(duì)學(xué)生綜合素質(zhì)考核結(jié)構(gòu)的六個(gè)因素,本文采用6個(gè)輸入神經(jīng)元,分別為道德品質(zhì)與公民素養(yǎng)、學(xué)習(xí)能力、交流與合作能力、運(yùn)動(dòng)與健康、審美與表現(xiàn)、職業(yè)技能等評(píng)價(jià)指標(biāo)。由于目前隱單元數(shù)尚無(wú)一般的指導(dǎo)原則,為了兼顧網(wǎng)絡(luò)的學(xué)習(xí)能力和學(xué)習(xí)速度,隱含層神經(jīng)元的個(gè)數(shù)選擇采用試算法,在網(wǎng)絡(luò)訓(xùn)練過程中進(jìn)行調(diào)整。筆者首先選定15,用訓(xùn)練樣本來(lái)學(xué)習(xí),然后減少隱含層單元數(shù)后再進(jìn)行學(xué)習(xí),通過觀察訓(xùn)練誤差變化的大小來(lái)調(diào)整隱單元數(shù)。其原則是:若在減少隱單元數(shù)進(jìn)行訓(xùn)練時(shí)過程平衡(即逐步收斂并達(dá)到較小的誤差)且誤差無(wú)顯著增加,則說明減少隱單元數(shù)是合適的;否則表明隱單元數(shù)不宜減少,而應(yīng)增加隱單元數(shù)直到滿意為止。選擇一個(gè)輸入神經(jīng)元為學(xué)生綜合素質(zhì)最終評(píng)價(jià)結(jié)果,分別以0、0,5、1對(duì)應(yīng)于學(xué)生評(píng)議等級(jí)的優(yōu)、良、中三種不同的評(píng)價(jià)結(jié)果。經(jīng)過多次實(shí)驗(yàn),最后得到適宜的網(wǎng)絡(luò)模型為6-4-1網(wǎng)絡(luò)模式。

3.2 量化評(píng)估模型

1) 指標(biāo)體系的規(guī)范化處理

根據(jù)神經(jīng)網(wǎng)絡(luò)計(jì)算規(guī)則,為了保證輸出在線性部分,不到兩端去,應(yīng)保證輸入輸出在0-1之間,反傳達(dá)時(shí)也一樣,輸出應(yīng)在0~1之間。因此要將原始數(shù)據(jù)歸一預(yù)處理,變換為[0,1]區(qū)間的數(shù)值,得到規(guī)范化數(shù)據(jù),作為輸入輸出節(jié)點(diǎn)的樣本數(shù)據(jù)。原始數(shù)據(jù)采用我校高一年一個(gè)班級(jí)的50名學(xué)生的學(xué)生綜合素質(zhì)各項(xiàng)指標(biāo)因素樣本數(shù)據(jù),將實(shí)際數(shù)據(jù)分為兩組:前40名學(xué)生的各項(xiàng)指標(biāo)因素成績(jī)樣本數(shù)據(jù)作為學(xué)習(xí)樣本,后10名學(xué)生的成績(jī)數(shù)據(jù)作為測(cè)試樣本。

2) 學(xué)習(xí)算法

本模型采用6-4-1BP神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu),其中輸入層為6個(gè)指標(biāo)值和一個(gè)閾值。模型初始化時(shí)對(duì)所有的連接權(quán)賦予(0,1)上分布的隨機(jī)數(shù),閾值取1。權(quán)值的修正依據(jù)帶慣性因子的delta規(guī)則。根據(jù)多次試驗(yàn)的結(jié)果,其中,慣性因子α=0.075,學(xué)習(xí)率η=0.85,將樣本數(shù)據(jù)40組為一次循環(huán),每次循環(huán)記錄40組樣本中最大的學(xué)習(xí)誤差。經(jīng)過多次的學(xué)習(xí),最后觀察網(wǎng)絡(luò)輸入與期望輸出的相對(duì)誤差,當(dāng)誤差小于0.005時(shí),學(xué)習(xí)結(jié)束?？梢缘玫饺绻龃髽颖镜膫€(gè)數(shù),精度還會(huì)進(jìn)一步提高。

本文探討了神經(jīng)網(wǎng)絡(luò)在學(xué)生綜合素質(zhì)評(píng)價(jià)上的應(yīng)用方法,可取得較為理想的結(jié)果,它可以解決用傳統(tǒng)統(tǒng)計(jì)方法不能或不易解決的問題。但是由于它是一種黑盒方法,無(wú)法表達(dá)和分析評(píng)估系統(tǒng)的輸入與輸出間的關(guān)系,因此也難于對(duì)所得結(jié)果作任何解釋,對(duì)求得的結(jié)果作統(tǒng)計(jì)檢驗(yàn);再者,采用神經(jīng)網(wǎng)絡(luò)作評(píng)價(jià)系統(tǒng)時(shí),由沒有一個(gè)便于選定最合適的神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)的標(biāo)準(zhǔn)方法,只能花大量時(shí)間采用湊試法,從許多次實(shí)驗(yàn)中找出“最合適”的一種;還有樣本數(shù)據(jù)需要足夠的多,才能得到較為理想的結(jié)果。

參考文獻(xiàn):

[1] 高長(zhǎng)梅,趙承志,白昆榮.學(xué)校德育工作全書(上)[M].北京:人民日?qǐng)?bào)出版社,2005.

[2] 聞新,周露,李翔,張寶偉.MATLAB神經(jīng)網(wǎng)絡(luò)仿真與應(yīng)用[M].北京:科學(xué)出版社,2008.

[3] J.P.Marques de sa,Pattern Recognition―Concepts,Methods and Applications[M].北京:清華大學(xué)出版社,2006.

第9篇：神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)規(guī)則范文

人工神經(jīng)網(wǎng)絡(luò)是近年來(lái)迅猛發(fā)展的前沿課題，它對(duì)突破現(xiàn)有科學(xué)技術(shù)的瓶頸起到重大的作用。本文剖析了人工神經(jīng)網(wǎng)絡(luò)的特征、模型結(jié)構(gòu)以及未來(lái)的發(fā)展趨勢(shì)。

【關(guān)鍵詞】人工神經(jīng)網(wǎng)絡(luò) 神經(jīng)元 矩陣

1 人工神經(jīng)網(wǎng)絡(luò)概述

人工神經(jīng)網(wǎng)絡(luò)（ANN）是一種用計(jì)算機(jī)網(wǎng)絡(luò)系統(tǒng)模擬生物神經(jīng)網(wǎng)絡(luò)的智能神經(jīng)系統(tǒng)，它是在現(xiàn)代神經(jīng)生物學(xué)研究成果的基礎(chǔ)上發(fā)展起來(lái)的，模擬人腦信息處理機(jī)制的一種網(wǎng)絡(luò)系統(tǒng)，它不但具有處理數(shù)值數(shù)據(jù)的計(jì)算能力，而且還具有處理知識(shí)的學(xué)習(xí)、聯(lián)想和記憶能力。

人工神經(jīng)網(wǎng)絡(luò)模擬了大腦神經(jīng)元的組織方式，反映了人腦的一些基本功能，為研究人工智能開辟了新的途徑。它具有以下基本特征：

1.1 并行分布性

因?yàn)槿斯ど窠?jīng)網(wǎng)絡(luò)中的神經(jīng)元排列并不是雜亂無(wú)章的，往往是以一種有規(guī)律的序列排列，這種結(jié)構(gòu)非常適合并行計(jì)算。同時(shí)如果將每一個(gè)神經(jīng)元看作是一個(gè)基本的處理單元，則整個(gè)系統(tǒng)可以是一個(gè)分布式處理系統(tǒng)，使得計(jì)算快速。

1.2 可學(xué)習(xí)性和自適應(yīng)性

一個(gè)相對(duì)很小的人工神經(jīng)網(wǎng)絡(luò)可存儲(chǔ)大量的專家知識(shí)，并能根據(jù)學(xué)習(xí)算法，或利用指導(dǎo)系統(tǒng)模擬現(xiàn)實(shí)環(huán)境（稱為有教師學(xué)習(xí)），或?qū)斎脒M(jìn)行自適應(yīng)學(xué)習(xí)（稱為無(wú)教師學(xué)習(xí)），可以處理不確定或不知道的事情，不斷主動(dòng)學(xué)習(xí)，不斷完善知識(shí)的存儲(chǔ)。

（3）魯棒性和容錯(cuò)性

由于采用大量的神經(jīng)元及其相互連接，具有聯(lián)想映射與聯(lián)想記憶能力，容錯(cuò)性保證網(wǎng)絡(luò)將不完整的、畸變的輸入樣本恢復(fù)成完整的原型，魯棒性使得網(wǎng)絡(luò)中的神經(jīng)元或突觸遭到破壞時(shí)網(wǎng)絡(luò)仍然具有學(xué)習(xí)和記憶能力，不會(huì)對(duì)整體系統(tǒng)帶來(lái)嚴(yán)重的影響。

1.3 泛化能力

人工神經(jīng)網(wǎng)絡(luò)是大規(guī)模的非線性系統(tǒng)，提供了系統(tǒng)協(xié)同和自組織的潛力，它能充分逼近任意復(fù)雜的非線性關(guān)系。如果輸入發(fā)生較小變化，則輸出能夠保持相當(dāng)小的差距。

1.4 信息綜合能力

任何知識(shí)規(guī)則都可以通過對(duì)范例的學(xué)習(xí)存儲(chǔ)于同一個(gè)神經(jīng)網(wǎng)絡(luò)的各連接權(quán)值中，能同時(shí)處理定量和定性的信息，適用于處理復(fù)雜非線性和不確定對(duì)象。

2 人工神經(jīng)網(wǎng)絡(luò)模型

神經(jīng)網(wǎng)絡(luò)是在對(duì)人腦思維方式研究的基礎(chǔ)上，將其抽象模擬反映人腦基本功能的一種并行處理連接網(wǎng)絡(luò)。神經(jīng)元是神經(jīng)網(wǎng)絡(luò)的基本處理單元。

在神經(jīng)網(wǎng)絡(luò)的發(fā)展過程中，從不同角度對(duì)神經(jīng)網(wǎng)絡(luò)進(jìn)行了不同層次的描述和模擬，提出了各種各樣的神經(jīng)網(wǎng)絡(luò)模型，其中最具有代表性的神經(jīng)網(wǎng)絡(luò)模型有：感知器、線性神經(jīng)網(wǎng)絡(luò)、BP網(wǎng)絡(luò)、自組織網(wǎng)絡(luò)、徑向基函數(shù)網(wǎng)絡(luò)、反饋神經(jīng)網(wǎng)絡(luò)等等。

3 神經(jīng)元矩陣

神經(jīng)元矩陣是神經(jīng)網(wǎng)絡(luò)模型的一種新構(gòu)想，是專門為神經(jīng)網(wǎng)絡(luò)打造的一個(gè)矩陣，它符合神經(jīng)元的一切特征。

神經(jīng)元矩陣采用矩陣形式，它可為n維向量組成。引入向量觸頭和信使粒的概念，向量觸頭可生長(zhǎng)，即長(zhǎng)度可變，方向可變，信使?？伞坝问帯痹诰仃囍?，建立各種聯(lián)系。如圖1即是神經(jīng)元矩陣模型

（1）容器可產(chǎn)生一種無(wú)形的約束力，使系統(tǒng)得以形成，容器不是全封閉的，從而保證系統(tǒng)與外界的溝通和交互；各向量間可用相互作用的力來(lái)聯(lián)系，而各個(gè)信使粒則受控于容器、中空向量以及其它的信使粒。各神經(jīng)元之間自主交互，神經(jīng)元矩陣是一種多層次的管理，即一層管理一層。系統(tǒng)具有明顯的層級(jí)制和分塊制，每層每塊均獨(dú)立且協(xié)同工作，即每層每塊均含組織和自組織因素。

（2）向量觸頭是中空的，信使粒可以通過向量或存儲(chǔ)于向量中，所以又稱為中空向量。向量存儲(chǔ)了信使粒后，可以吸引更多的信使粒在附近，或使鄰近向量轉(zhuǎn)向、伸長(zhǎng)，進(jìn)而形成相對(duì)穩(wěn)定的信息通路。

（3）當(dāng)兩條或更多的信息通路匯集時(shí)，可能伴隨著通路的增強(qiáng)、合并，以及信使粒的聚集、交換，這是神經(jīng)元矩陣運(yùn)算的一種主要形式。通路的形成過程，也就是是神經(jīng)元矩陣分塊、分層、形成聯(lián)接的過程，也為矩陣系統(tǒng)宏觀管理、層級(jí)控制的實(shí)現(xiàn)奠定了基礎(chǔ)。

神經(jīng)元矩陣亦是一種具有生物網(wǎng)絡(luò)特征的數(shù)學(xué)模型，綜合了數(shù)學(xué)上矩陣和向量等重要概念，是一種立體的矩陣結(jié)構(gòu)。尤其是將矩陣的分塊特性和向量的指向特征結(jié)合起來(lái)，更好的體現(xiàn)了神經(jīng)網(wǎng)絡(luò)的整體性和單元獨(dú)立性，系統(tǒng)的組織和自組織特征也更為凸顯。信使粒以“點(diǎn)”的數(shù)學(xué)概念，增強(qiáng)了系統(tǒng)的信息特征，尤其是增強(qiáng)了矩陣的存儲(chǔ)和運(yùn)算功能。

4 人工神經(jīng)網(wǎng)絡(luò)的發(fā)展趨勢(shì)

人工神經(jīng)網(wǎng)絡(luò)是邊緣叉科學(xué)，它涉及計(jì)算機(jī)、人工智能、自動(dòng)化、生理學(xué)等多個(gè)學(xué)科領(lǐng)域，研究它的發(fā)展具有非常重要意義。針對(duì)神經(jīng)網(wǎng)絡(luò)的社會(huì)需求以及存在的問題，今后神經(jīng)網(wǎng)絡(luò)的研究趨勢(shì)主要側(cè)重以下幾個(gè)方面。

4.1 增強(qiáng)對(duì)智能和機(jī)器關(guān)系問題的認(rèn)識(shí)

人腦是一個(gè)結(jié)構(gòu)異常復(fù)雜的信息系統(tǒng)，我們所知道的唯一智能系統(tǒng)，隨著信息論、控制論、計(jì)算機(jī)科學(xué)、生命科學(xué)的發(fā)展，人們?cè)絹?lái)越驚異于大腦的奇妙。對(duì)人腦智能化實(shí)現(xiàn)的研究，是神經(jīng)網(wǎng)絡(luò)研究今后的需要增強(qiáng)的地發(fā)展方向。

4.2 發(fā)展神經(jīng)計(jì)算和進(jìn)化計(jì)算的理論及應(yīng)用

利用神經(jīng)科學(xué)理論的研究成果，用數(shù)理方法探索智能水平更高的人工神經(jīng)網(wǎng)絡(luò)模型，深入研究網(wǎng)絡(luò)的算法和性能，使離散符號(hào)計(jì)算、神經(jīng)計(jì)算和進(jìn)化計(jì)算相互促進(jìn)，開發(fā)新的網(wǎng)絡(luò)數(shù)理理論。

4.3 擴(kuò)大神經(jīng)元芯片和神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)的作用

神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)體現(xiàn)了結(jié)構(gòu)和算法的統(tǒng)一，是硬件和軟件的混合體，神經(jīng)元矩陣即是如此。人工神經(jīng)網(wǎng)絡(luò)既可以用傳統(tǒng)計(jì)算機(jī)來(lái)模擬，也可以用集成電路芯片組成神經(jīng)計(jì)算機(jī)，甚至還可以生物芯片方式實(shí)現(xiàn)，因此研制電子神經(jīng)網(wǎng)絡(luò)計(jì)算機(jī)潛力巨大。如何讓傳統(tǒng)的計(jì)算機(jī)、人工智能技術(shù)和神經(jīng)網(wǎng)絡(luò)計(jì)算機(jī)相融合也是前沿課題，具有十分誘人的前景。

4.4 促進(jìn)信息科學(xué)和生命科學(xué)的相互融合

信息科學(xué)與生命科學(xué)的相互交叉、相互促進(jìn)、相互滲透是現(xiàn)代科學(xué)的一個(gè)顯著特點(diǎn)。神經(jīng)網(wǎng)絡(luò)與各種智能處理方法有機(jī)結(jié)合具有很大的發(fā)展前景，如與專家系統(tǒng)、模糊邏輯、遺傳算法、小波分析等相結(jié)合，取長(zhǎng)補(bǔ)短，可以獲得更好的應(yīng)用效果。

參考文獻(xiàn)

[1]鐘珞.饒文碧.鄒承明著.人工神經(jīng)網(wǎng)絡(luò)及其融合應(yīng)用技術(shù).科學(xué)出版社.