模擬人類(lèi)實(shí)際神經(jīng)網(wǎng)絡(luò)的數(shù)學(xué)方法問(wèn)世以來(lái)，人們已慢慢習(xí)慣了把這種人工神經(jīng)網(wǎng)絡(luò)直接稱(chēng)為神經(jīng)網(wǎng)絡(luò)。神經(jīng)網(wǎng)絡(luò)在系統(tǒng)辨識(shí)．模式識(shí)別，智能控制等領(lǐng)域有著廣泛而吸引人的前景。特別在智能控制中，人們對(duì)神經(jīng)網(wǎng)絡(luò)的自學(xué)習(xí)功能尤其感興趣，并且把神經(jīng)網(wǎng)絡(luò)這一重要特點(diǎn)看作是解決自動(dòng)控制中按制器適應(yīng)能力這個(gè)難題的關(guān)鍵鑰匙之一。

神經(jīng)網(wǎng)絡(luò)的基礎(chǔ)在于神經(jīng)元。

神經(jīng)元是以生物神經(jīng)系統(tǒng)的神經(jīng)細(xì)胞為基礎(chǔ)的生物模型。在人們對(duì)生物神經(jīng)系統(tǒng)進(jìn)行研究，以探討人工智能的機(jī)制時(shí)，把神經(jīng)元數(shù)學(xué)化，從而產(chǎn)生了神經(jīng)元數(shù)學(xué)模型。

大量的形式相同的神經(jīng)元連結(jié)在—起就組成了神經(jīng)網(wǎng)絡(luò)。神經(jīng)網(wǎng)絡(luò)是一個(gè)高度非線(xiàn)性動(dòng)力學(xué)系統(tǒng)。雖然，每個(gè)神經(jīng)元的結(jié)構(gòu)和功能都不復(fù)雜，但是神經(jīng)網(wǎng)絡(luò)的動(dòng)態(tài)行為則是十分復(fù)雜的；因此，用神經(jīng)網(wǎng)絡(luò)可以表達(dá)實(shí)際物理世界的各種現(xiàn)象。

神經(jīng)網(wǎng)絡(luò)模型是以神經(jīng)元的數(shù)學(xué)模型為基礎(chǔ)來(lái)?yè)硎龅?。神?jīng)網(wǎng)絡(luò)模型由網(wǎng)絡(luò)拓?fù)洌?jié)點(diǎn)特點(diǎn)和學(xué)習(xí)規(guī)則來(lái)表示。神經(jīng)網(wǎng)絡(luò)對(duì)人們的巨大吸引力主要在下列幾點(diǎn)：

1．并行分布處理。

2．高度魯棒性和容錯(cuò)能力。

3．分布存儲(chǔ)及學(xué)習(xí)能力。

4．能充分逼近復(fù)雜的非線(xiàn)性關(guān)系。

在控制領(lǐng)域的研究課題中，不確定性系統(tǒng)的控制問(wèn)題長(zhǎng)期以來(lái)都是控制理論研究的中心主題之一，但是這個(gè)問(wèn)題一直沒(méi)有得到有效的解決。利用神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)能力，使它在對(duì)不確定性系統(tǒng)的控制過(guò)程中自動(dòng)學(xué)習(xí)系統(tǒng)的特性，從而自動(dòng)適應(yīng)系統(tǒng)隨時(shí)間的特性變異，以求達(dá)到對(duì)系統(tǒng)的最優(yōu)控制；顯然這是一種十分振奮人心的意向和方法。

人工神經(jīng)網(wǎng)絡(luò)的模型現(xiàn)在有數(shù)十種之多，在這一章中，主要介紹應(yīng)用較多的典型的神經(jīng)網(wǎng)絡(luò)模型。這些模型包括BP網(wǎng)絡(luò)、Hopfield網(wǎng)絡(luò)、ART網(wǎng)絡(luò)和Kohonen網(wǎng)絡(luò)。

1.1   神經(jīng)網(wǎng)絡(luò)的基本機(jī)理和結(jié)構(gòu)

神經(jīng)網(wǎng)絡(luò)的基本組成單元是神經(jīng)元，在數(shù)學(xué)上的神經(jīng)元模型是和在生物學(xué)上的神經(jīng)細(xì)胞對(duì)應(yīng)的?；蛘哒f(shuō)，人工神經(jīng)網(wǎng)絡(luò)理論是用神經(jīng)元這種抽象的數(shù)學(xué)模型來(lái)描述客觀(guān)世界的生物細(xì)胞的。

很明顯，生物的神經(jīng)細(xì)胞是神經(jīng)網(wǎng)絡(luò)理論誕生和形成的物質(zhì)基礎(chǔ)和源泉。這樣，神經(jīng)元的數(shù)學(xué)描述就必須以生物神經(jīng)細(xì)胞的客觀(guān)行為特性為依據(jù)。因此，了解生物神經(jīng)細(xì)胞的行為特性就是一件十分重要而必須的事了。

神經(jīng)網(wǎng)絡(luò)的拓樸結(jié)構(gòu)也是以生物學(xué)解剖中神經(jīng)細(xì)胞互連的方式為依據(jù)的。對(duì)神經(jīng)細(xì)胞相互作用情況的揭露也是十分重要的。

1．1．1 神經(jīng)元及其行為機(jī)理

神經(jīng)元是神經(jīng)網(wǎng)絡(luò)基本元素。只有了解神經(jīng)元才能認(rèn)識(shí)神經(jīng)網(wǎng)絡(luò)的本質(zhì)。在這一節(jié)介 紹神經(jīng)元的生物學(xué)解副，信息的處理與傳遞方式，工作功能以及其數(shù)學(xué)模型。

一、神經(jīng)元的生物學(xué)解剖

在人體內(nèi)，神經(jīng)元的結(jié)構(gòu)形式并非是完全相同的；但是，無(wú)論結(jié)構(gòu)形式如何，神經(jīng)元都是 由一些基本的成份組成的。神經(jīng)元的生物學(xué)解剖可以用圖1—1所示的結(jié)構(gòu)表示。從圖中 可以看出：神經(jīng)元是由細(xì)胞體，樹(shù)突和軸突三部分組成。

圖1-1  神經(jīng)元的解剖

1．細(xì)胞體

細(xì)胞體是由很多分子形成的綜合體，內(nèi)部含有一個(gè)細(xì)胞核、核糖體、原生質(zhì)網(wǎng)狀結(jié)構(gòu)等，它是神經(jīng)元活動(dòng)的能量供應(yīng)地，在這里進(jìn)行新陳代謝等各種生化過(guò)程。神經(jīng)元也即是整個(gè)細(xì)胞，整個(gè)細(xì)胞的最外層稱(chēng)為細(xì)胞膜。

2．樹(shù)突

細(xì)胞體的伸延部分產(chǎn)生的分枝稱(chēng)為樹(shù)突，樹(shù)突是接受從其它神經(jīng)元傳人的信息的入口。

3．軸突

細(xì)胞體突起的最長(zhǎng)的外伸管狀纖維稱(chēng)為軸突。軸突最長(zhǎng)可達(dá)1米以上。軸突是把神經(jīng)元興奮的信息傳出到其它神經(jīng)元的出口。

突觸，是一個(gè)神經(jīng)元與另一個(gè)神經(jīng)元之間相聯(lián)系并進(jìn)行信息傳送的結(jié)構(gòu)。突觸如圖1—2所示。它由突觸前成分，突觸間隙和突觸后成分組成。突觸前成分是一·個(gè)神經(jīng)元的軸突末梢。突觸間隙是突觸前成分與后成分之間的距離空間，間隙一般為200—300?。突觸后成分可以是細(xì)胞體，樹(shù)突或軸突。突觸的存在說(shuō)明：兩個(gè)神經(jīng)元的細(xì)胞質(zhì)并不直接連通，兩者彼此聯(lián)系是通過(guò)突觸這種結(jié)構(gòu)接口的。有時(shí)．也把突觸看作是神經(jīng)元之間的連接。

圖1-2   突觸結(jié)構(gòu)

目前，根據(jù)神經(jīng)生理學(xué)的研究，已經(jīng)發(fā)現(xiàn)神經(jīng)元及其問(wèn)的突觸起碼有不同的4種行為。神經(jīng)元的4種生物行為有：

(1)能處于抑制或興奮狀態(tài)；

(2)能產(chǎn)生爆發(fā)和平臺(tái)兩種情況；

(3)能產(chǎn)生抑制后的反沖；

(4)具有適應(yīng)性。

突觸的4種生物行為有：

(1)能進(jìn)行信息綜合；

(2)能產(chǎn)生漸次變化的傳送；

(3)有電接觸和化學(xué)接觸等多種連接方式；

(4)會(huì)產(chǎn)生延時(shí)激發(fā)。

目前，人工神經(jīng)網(wǎng)絡(luò)的研究?jī)H僅是對(duì)神經(jīng)元的第一種行為和突觸的第一種行為進(jìn)行模擬，其它行為尚未考慮。所以，神經(jīng)網(wǎng)絡(luò)的研究只是處于起步的初級(jí)階段，后邊還有大量的工作等人們?nèi)ヌ接懞脱芯?。目前，神?jīng)網(wǎng)絡(luò)的研究已向人們展示了其美好的前景；只要按階段不斷取得進(jìn)展，神經(jīng)元和突觸的其它行為是完全可以實(shí)現(xiàn)人工模擬的。

二.神經(jīng)元的信息處理與傳遞

1．神經(jīng)元的興奮與抑制

人工神經(jīng)網(wǎng)絡(luò)對(duì)神經(jīng)元的興奮與抑制進(jìn)行模擬，故而首先應(yīng)了解神經(jīng)元的興奮與抑制狀態(tài)。

一個(gè)神經(jīng)元的興奮和抑制兩種狀態(tài)是由細(xì)胞膜內(nèi)外之間不同的電位差來(lái)表征的。在抑制狀態(tài)，細(xì)胞膜內(nèi)外之間有內(nèi)負(fù)外正的電位差，這個(gè)電位差大約在-50—-100mv之間。在興奮狀態(tài)，則產(chǎn)生內(nèi)正外負(fù)的相反電位差，這時(shí)表現(xiàn)為約60—100mv的電脈沖。細(xì)胞膜內(nèi)外的電位差是由膜內(nèi)外的離子濃度不同導(dǎo)致的。細(xì)胞的興奮電脈沖寬度一般大約為1ms。神經(jīng)元的興奮過(guò)程電位變化如圖1—3所示。

圖1-3.神經(jīng)元的興奮過(guò)程電位變化

2．神經(jīng)元的信息傳遞及閥值特性

對(duì)神經(jīng)細(xì)腦的研究結(jié)果表明：神經(jīng)元的電脈沖幾乎可以不衰減地沿著軸突傳送到其它神經(jīng)元去。

由神經(jīng)元傳出的電脈沖信號(hào)通過(guò)軸突，首先到達(dá)軸突末梢，這時(shí)則使其中的囊泡產(chǎn)生變化從而釋放神經(jīng)遞質(zhì)，這種神經(jīng)遞質(zhì)通過(guò)突觸的間隙而進(jìn)入到另一個(gè)神經(jīng)元的樹(shù)突中。樹(shù)突上的受體能夠接受神經(jīng)遞質(zhì)從而去改變膜向離子的通透性．使膜外內(nèi)離子濃度差產(chǎn)生變化；進(jìn)而使電位產(chǎn)生變化。顯然，信息就從一個(gè)神經(jīng)元傳送到另一個(gè)神經(jīng)元中。

當(dāng)神經(jīng)元接受來(lái)自其它神經(jīng)元的信息時(shí)，膜電位在開(kāi)始時(shí)是按時(shí)間連續(xù)漸漸變化的。當(dāng)膜電位變化經(jīng)超出一個(gè)定值時(shí)，才產(chǎn)生突變上升的脈沖，這個(gè)脈沖接著沿軸突進(jìn)行傳遞。神經(jīng)元這種膜電位高達(dá)一定閥值才產(chǎn)生脈沖傳送的特性稱(chēng)閥值特性。

這種閥值特性從圖1—3中也可以看出。

神經(jīng)元的信息傳遞除了有閥值特性之外，還有兩個(gè)特點(diǎn)。一個(gè)是單向性傳遞，即只能從前一級(jí)神經(jīng)元的軸突末梢傳向后一級(jí)神經(jīng)元的樹(shù)突或細(xì)胞體，不能反之。另一個(gè)是延時(shí)性傳遞．信息通過(guò)突觸傳遞，通常會(huì)產(chǎn)生0.5—1ms的延時(shí)。

3．神經(jīng)元的信息綜合特性

神經(jīng)元對(duì)來(lái)自其它神經(jīng)元的信息有時(shí)空綜合特性。

在神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)上，大量不同的神經(jīng)元的軸突末梢可以到達(dá)同一個(gè)神經(jīng)元的樹(shù)突并形成大量突觸。來(lái)源不同的突觸所釋放的神經(jīng)遞質(zhì)都可以對(duì)同一個(gè)神經(jīng)元的膜電位變化產(chǎn)生作用。因此，在樹(shù)突上，神經(jīng)元可以對(duì)不同來(lái)源的輸入信息進(jìn)行綜合。這就是神經(jīng)元對(duì)信息的空間綜合特性。

對(duì)于來(lái)自同一個(gè)突觸的信息，神經(jīng)元可以對(duì)于不同時(shí)間傳人的信息進(jìn)行綜合。故神經(jīng)元對(duì)信息有時(shí)間綜合特性。

4．神經(jīng)元、突觸的D/A、A/D特性

從神經(jīng)元軸突上傳遞的信息是等幅、恒寬、編碼的離散電脈沖信號(hào)，故而是一個(gè)數(shù)字量。但在突觸中神經(jīng)遞質(zhì)的釋放和樹(shù)突中膜電位的變化是連續(xù)的。故而，這時(shí)說(shuō)明突觸有D/A功能。在神經(jīng)元的樹(shù)突膜電位高過(guò)一定閥值時(shí)，則又變成電脈沖方式由軸突傳送出去。故而，這個(gè)過(guò)程說(shuō)明神經(jīng)元有A/D功能。

很明顯，信息通過(guò)一個(gè)神經(jīng)元傳遞時(shí)，神經(jīng)元對(duì)信息執(zhí)行了D/A、A/D轉(zhuǎn)換過(guò)程。

從上面可知，神經(jīng)元對(duì)信息的處理和傳遞有閥值，D/A、A/D和綜合等一系列特性和功能。

三、神經(jīng)元的數(shù)學(xué)模型

從神經(jīng)元的特性和功能可以知道，神經(jīng)元是一個(gè)多輸入單輸出的信息處理單元，而且，它對(duì)信息的處理是非線(xiàn)性的。根據(jù)神經(jīng)元的特性和功能，可以把神經(jīng)元抽象為一個(gè)簡(jiǎn)單的數(shù)學(xué)模型。工程上用的人工神經(jīng)元模型如圖1—4所示。

圖1—4     神經(jīng)元的數(shù)學(xué)模型

在圖1—4中，X₁，X₂，……，X_n是神經(jīng)元的輸入，即是來(lái)自前級(jí)n個(gè)神經(jīng)元的軸突的信息A是i神經(jīng)元的閻值；W_i1，W_i2……，W_in分別是i神經(jīng)元對(duì)X₁，X₂，……，X_n的權(quán)系數(shù)，也即突觸的傳遞效率；Y_i是i神經(jīng)元的輸出；f[·]是激發(fā)函數(shù)，它決定i神經(jīng)元受到輸人X₁，X₂，……，X_n的共同刺激達(dá)到閥值時(shí)以何種方式輸出。

從圖1—4的神經(jīng)元模型，可以得到神經(jīng)元的數(shù)學(xué)模型表達(dá)式：

(1-1)

圖1-5.典型激發(fā)函數(shù)

對(duì)于激發(fā)函數(shù)f[·]有多種形式，其中最常見(jiàn)的有階躍型、線(xiàn)性型和S型三種形式，這三種形式如圖1—5所示。

為了表達(dá)方便；令：

(1-2)

則式(1-1)可寫(xiě)成下式：

Y_i=F[U_i] ；       (1-3)

顯然，對(duì)于階躍型激發(fā)涵數(shù)有：

(1-4)

對(duì)于線(xiàn)性型激發(fā)函數(shù)，有：

f(U_i)=K_u；             (1-5)

對(duì)于S型激發(fā)函數(shù)，有：

(1-6)

對(duì)于階躍型激發(fā)函數(shù)，它的輸出是電位脈沖，故而這種激發(fā)函數(shù)的神經(jīng)元稱(chēng)離散輸出模型。

對(duì)于線(xiàn)性激發(fā)函數(shù)，它的輸出是隨輸入的激發(fā)總量成正比的；故這種神經(jīng)元稱(chēng)線(xiàn)性連續(xù)型模型。

對(duì)于用s型激發(fā)函數(shù)，它的輸出是非線(xiàn)性的；故這種神經(jīng)元稱(chēng)非線(xiàn)性連續(xù)型模型。

上面所敘述的是最廣泛應(yīng)用而且人們最熟悉的神經(jīng)元數(shù)學(xué)模型；也是歷史最長(zhǎng)的神經(jīng)元模型。近若干年來(lái)，隨著神經(jīng)網(wǎng)絡(luò)理論的發(fā)展，出現(xiàn)了不少新穎的神經(jīng)元數(shù)學(xué)模型，這些模型包括邏輯神經(jīng)元模型，模糊神經(jīng)元模型等，并且漸漸也受到人們的關(guān)注和重視。