基于STDP的多種憶阻神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)的研究.pdf

1、人工神經(jīng)網(wǎng)絡(luò)，又簡(jiǎn)稱神經(jīng)網(wǎng)絡(luò)，是以生物神經(jīng)網(wǎng)絡(luò)的功能結(jié)構(gòu)為基礎(chǔ)而抽象出來(lái)的一種用于實(shí)現(xiàn)人工智能的數(shù)學(xué)模型。它是基于神經(jīng)科學(xué)研究成果而提出的一種自適應(yīng)、非線性處理系統(tǒng)，該系統(tǒng)通過(guò)大量處理單元的相互作用來(lái)實(shí)現(xiàn)類似于大腦神經(jīng)網(wǎng)絡(luò)對(duì)信息的記憶和處理。由于人腦中的神經(jīng)連接具有相當(dāng)高的復(fù)雜度和密度，因此人工神經(jīng)網(wǎng)絡(luò)今后也必將會(huì)向著復(fù)雜化和大規(guī)?；姆较虬l(fā)展。為實(shí)現(xiàn)這一目標(biāo)就需要神經(jīng)網(wǎng)絡(luò)中的兩個(gè)重要組件——神經(jīng)元和突觸，具有納米級(jí)規(guī)模和低能耗特性。由

2、于突觸需要對(duì)接受到的各種信號(hào)具有可塑性，需要記憶系統(tǒng)動(dòng)態(tài)變化的歷史，還需要能將對(duì)應(yīng)的變化轉(zhuǎn)換成連續(xù)的數(shù)據(jù)存儲(chǔ)起來(lái)。因此突觸的選擇對(duì)于人工神經(jīng)網(wǎng)絡(luò)的成功與否至關(guān)重要。而憶阻器的出現(xiàn)為這一問(wèn)題的解決帶來(lái)了希望。
　　憶阻器是由蔡少棠教授在1971年對(duì)電路理論研究過(guò)程中，從其完備性的角度出發(fā)提出的，該元件填補(bǔ)了本應(yīng)存在但卻未被提及的磁通量和電荷之間的關(guān)系。至此，基本電路元件的種類在原有的電容、電阻、電感的基礎(chǔ)上擴(kuò)充成了四個(gè)。自2008年

3、惠普實(shí)驗(yàn)室發(fā)現(xiàn)納米級(jí)憶阻器實(shí)物以來(lái)，憶阻器就以其獨(dú)特的非易失性和記憶特性吸引了世界的廣泛關(guān)注，并在阻變式存儲(chǔ)器、人工神經(jīng)網(wǎng)絡(luò)、信號(hào)處理等方面獲得了廣泛應(yīng)用。憶阻器所具有的這些特有的性能，使得它非常適合在人工神經(jīng)網(wǎng)絡(luò)電路實(shí)現(xiàn)中充當(dāng)一個(gè)合格的突觸。
　　本文介紹了幾種常見(jiàn)的憶阻器模型，并借助數(shù)值仿真的方法分析了惠普模型憶阻器的基本特性。介紹了STDP學(xué)習(xí)規(guī)則對(duì)應(yīng)的兩種數(shù)學(xué)模型。采用基于非對(duì)稱時(shí)間窗的STDP作為憶阻神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)規(guī)則，

4、結(jié)合具有自適應(yīng)突變和拓?fù)渥儺惖幕蛩惴?，完成了?duì)不同模型憶阻器學(xué)習(xí)性能的比較。在現(xiàn)有憶阻器的基礎(chǔ)上提出了混合模型憶阻器的構(gòu)想，并驗(yàn)證了該模型憶阻器用于憶阻神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)效果優(yōu)于原有憶阻器模型。針對(duì)以HEBB學(xué)習(xí)規(guī)則對(duì)憶阻神經(jīng)網(wǎng)絡(luò)進(jìn)行學(xué)習(xí)還原巴普洛夫?qū)嶒?yàn)存在的缺陷，提出了更貼近動(dòng)物大腦思維的憶阻神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)，即以對(duì)稱時(shí)間窗的STDP數(shù)學(xué)模型作為神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)規(guī)則，結(jié)合遺忘模型憶阻器作為網(wǎng)絡(luò)突觸，驗(yàn)證了關(guān)于憶阻神經(jīng)網(wǎng)絡(luò)具有聯(lián)想學(xué)習(xí)、修正及遺