?? 2.txt
字號(hào):
發(fā)信人: GzLi (笑梨), 信區(qū): DataMining
標(biāo) 題: [轉(zhuǎn)載] 神經(jīng)網(wǎng)絡(luò)介紹 (1) Hopfield神經(jīng)網(wǎng)絡(luò)
發(fā)信站: 南京大學(xué)小百合站 (Fri Nov 1 22:30:07 2002), 站內(nèi)信件
【 以下文字轉(zhuǎn)載自 AI 討論區(qū) 】
【 原文由 gaoy 所發(fā)表 】
【 以下文字轉(zhuǎn)載自 EEtechnology 討論區(qū) 】
【 原文由 blaze 所發(fā)表 】
發(fā)信人: pilot (冰山上的來(lái)客)
信 區(qū): Telecom
標(biāo) 題: 神經(jīng)網(wǎng)絡(luò)介紹 (1) Hopfield神經(jīng)網(wǎng)絡(luò)
發(fā)信站: 紫金飛鴻 (Tue Oct 19 12:53:44 1999)
一.Hopfield神經(jīng)網(wǎng)絡(luò)
1.離散型Hopfield神經(jīng)網(wǎng)絡(luò)
離散型Hopfield神經(jīng)網(wǎng)絡(luò)由 N個(gè)神經(jīng)元互連而成。神經(jīng)元的輸出為離散值1和0(或-1
),它們分別代表神經(jīng)元的激活和抑制狀態(tài)。 這種神經(jīng)網(wǎng)絡(luò)的各神經(jīng)元相互連接,其連接
強(qiáng)度用權(quán)值表示,N*N維矩陣稱之為權(quán)矩陣。每個(gè)神經(jīng)元都有一閥值(或稱門限值)。權(quán)
矩陣和閥矢量就定義唯一一個(gè) N維的離散型Hopfield神經(jīng)網(wǎng)絡(luò)。
穩(wěn)定性、存儲(chǔ)容量、吸引半徑和收斂時(shí)間是度量這種神經(jīng)網(wǎng)絡(luò)性能的四大指標(biāo)。
2.連續(xù)狀態(tài)Hopfield神經(jīng)網(wǎng)絡(luò)
連續(xù)狀態(tài)Hopfield神經(jīng)網(wǎng)絡(luò)同樣由 N個(gè)神經(jīng)元互連而成,但神經(jīng)元的輸出不再是離散
值0和1,而可以在某一區(qū)間連續(xù)變化。g(i)(u)為第i個(gè)神經(jīng)元的傳遞函數(shù),通常取連續(xù)、
有界和單調(diào)增長(zhǎng)的Sigmoid函數(shù)
g(i)(u)=0.5*[1+tanh(u/u0)]
根據(jù)網(wǎng)絡(luò)的穩(wěn)定性定理,若網(wǎng)絡(luò)中神經(jīng)元傳遞函數(shù)為單調(diào)增長(zhǎng)的連續(xù)有界函數(shù),當(dāng)dE/dt
<=0,網(wǎng)絡(luò)是穩(wěn)定的。而Hopfield神經(jīng)網(wǎng)絡(luò)的能量函數(shù)是單調(diào)下降的,其網(wǎng)絡(luò)證明是穩(wěn)定
的,穩(wěn)定點(diǎn)且穩(wěn)定點(diǎn)對(duì)應(yīng)著能量函數(shù)E(t)的極小點(diǎn)。
任何一個(gè)目標(biāo)函數(shù)可以化為能量函數(shù)(有關(guān)其形式,請(qǐng)查有關(guān)書籍)的優(yōu)化問(wèn)題,均
可以由這種連續(xù)狀態(tài)的Hopfield神經(jīng)網(wǎng)絡(luò)來(lái)求解。由于這種網(wǎng)絡(luò)具有連續(xù)時(shí)間動(dòng)力學(xué)性質(zhì)
,因 此,求解時(shí)間常數(shù)數(shù)量級(jí)(微秒至納秒數(shù)量級(jí))。
對(duì)于連續(xù)狀態(tài)Hopfield神經(jīng)網(wǎng)絡(luò),有兩個(gè)問(wèn)題是非常重要的,其一,能量函數(shù)E(t)是
否有下界,其二,神經(jīng)元的輸出輸入電壓U(i)(t)是否有界。它們是網(wǎng)絡(luò)穩(wěn)定(或說(shuō)能求
解優(yōu)化問(wèn)題)和網(wǎng)絡(luò)能用硬件實(shí)現(xiàn)的必要條件。
信號(hào)處理的許多問(wèn)題,其目標(biāo)函數(shù)都可以映射成能量函數(shù)形式,多數(shù)情況可以應(yīng)用
Hopfield神經(jīng)網(wǎng)絡(luò)求解。
連續(xù)狀態(tài)Hopfield神經(jīng)網(wǎng)絡(luò)及其改進(jìn)型已廣泛應(yīng)用于信號(hào)分解、自適應(yīng)濾波、譜估計(jì)
、A/D變換等信號(hào)處理的許多領(lǐng)域。
--
※ 來(lái)源:.南京大學(xué)小百合站 dii.nju.edu.cn.[FROM: saw.nju.edu.cn]
--
※ 轉(zhuǎn)載:.南京大學(xué)小百合站 dii.nju.edu.cn.[FROM: aiake1.nju.edu.c]
--
※ 轉(zhuǎn)載:.南京大學(xué)小百合站 bbs.nju.edu.cn.[FROM: 211.80.38.17]
?? 快捷鍵說(shuō)明
復(fù)制代碼
Ctrl + C
搜索代碼
Ctrl + F
全屏模式
F11
切換主題
Ctrl + Shift + D
顯示快捷鍵
?
增大字號(hào)
Ctrl + =
減小字號(hào)
Ctrl + -