高能效類腦智能：算法與體系架構(gòu)

譯者序
前言
致謝
第1章　概述1
　1.1　神經(jīng)網(wǎng)絡(luò)的歷史1
　1.2　軟件中的神經(jīng)網(wǎng)絡(luò)2
　　　1.2.1　人工神經(jīng)網(wǎng)絡(luò)2
　　　1.2.2　脈沖神經(jīng)網(wǎng)絡(luò)2
　1.3　神經(jīng)形態(tài)硬件的需求3
　1.4　本書的目標(biāo)和大綱4
　參考文獻(xiàn)6
第2章　人工神經(jīng)網(wǎng)絡(luò)的基礎(chǔ)與學(xué)習(xí)9
　2.1　人工神經(jīng)網(wǎng)絡(luò)的工作原理9
　　　2.1.1　推理9
　　　2.1.2　學(xué)習(xí)10
　2.2　基于神經(jīng)網(wǎng)絡(luò)的機(jī)器學(xué)習(xí)13
　　　2.2.1　監(jiān)督學(xué)習(xí)13
　　　2.2.2　強(qiáng)化學(xué)習(xí)15
　　　2.2.3　無監(jiān)督學(xué)習(xí)17
　　　2.2.4　案例研究：基于動(dòng)作的啟發(fā)式動(dòng)態(tài)規(guī)劃18
　2.3　網(wǎng)絡(luò)拓?fù)?4
　　　2.3.1　全連接神經(jīng)網(wǎng)絡(luò)24
　　　2.3.2　卷積神經(jīng)網(wǎng)絡(luò)25
　　　2.3.3　循環(huán)神經(jīng)網(wǎng)絡(luò)27
　2.4　數(shù)據(jù)集和基準(zhǔn)29
　2.5　深度學(xué)習(xí)31
　　　2.5.1　前深度學(xué)習(xí)時(shí)代31
　　　2.5.2　深度學(xué)習(xí)的崛起31
　　　2.5.3　深度學(xué)習(xí)技術(shù)32
　　　2.5.4　深度神經(jīng)網(wǎng)絡(luò)示例38
　參考文獻(xiàn)40
第3章　硬件中的人工神經(jīng)網(wǎng)絡(luò)47
　3.1　概述47
　3.2　通用處理器48
　3.3　數(shù)字加速器48
　　　3.3.1　數(shù)字ASIC實(shí)現(xiàn)方法48
　　　3.3.2　FPGA加速器61
　3.4　模擬/混合信號(hào)加速器62
　　　3.4.1　傳統(tǒng)集成技術(shù)中的神經(jīng)網(wǎng)絡(luò)62
　　　3.4.2　基于新興非易失性存儲(chǔ)器的神經(jīng)網(wǎng)絡(luò)68
　　　3.4.3　光學(xué)加速器71
　3.5　案例研究：一種節(jié)能的自適應(yīng)動(dòng)態(tài)規(guī)劃加速器的程序設(shè)計(jì)72
　　　3.5.1　硬件架構(gòu)73
　　　3.5.2　設(shè)計(jì)示例78
　參考文獻(xiàn)82
第4章　脈沖神經(jīng)網(wǎng)絡(luò)的工作原理與學(xué)習(xí)92
　4.1　脈沖神經(jīng)網(wǎng)絡(luò)92
　　　4.1.1　常見的脈沖神經(jīng)元模型92
　　　4.1.2　信息編碼94
　　　4.1.3　脈沖神經(jīng)元與非脈沖神經(jīng)元的比較95
　4.2　淺層SNN的學(xué)習(xí)96
　　　4.2.1　ReSuMe96
　　　4.2.2　Tempotron97
　　　4.2.3　脈沖時(shí)間相關(guān)可塑性98
　　　4.2.4　雙層神經(jīng)網(wǎng)絡(luò)中通過調(diào)制權(quán)重依賴的STDP進(jìn)行學(xué)習(xí)的方法101
　4.3　深度SNN學(xué)習(xí)113
　　　4.3.1　SpikeProp113
　　　4.3.2　淺層網(wǎng)絡(luò)棧113
　　　4.3.3　ANN的轉(zhuǎn)換115
　　　4.3.4　深度SNN反向傳播的研究進(jìn)展116
　　　4.3.5　在多層神經(jīng)網(wǎng)絡(luò)中通過調(diào)制權(quán)重依賴的STDP進(jìn)行學(xué)習(xí)的方法116
　參考文獻(xiàn)128
第5章　脈沖神經(jīng)網(wǎng)絡(luò)的硬件實(shí)現(xiàn)133
　5.1　對(duì)專用硬件的需求133
　　　5.1.1　地址事件表示133
　　　5.1.2　事件驅(qū)動(dòng)計(jì)算134
　　　5.1.3　漸進(jìn)精度推理134
　　　5.1.4　實(shí)現(xiàn)權(quán)重依賴的STDP學(xué)習(xí)規(guī)則的硬件注意事項(xiàng)138
　5.2　數(shù)字脈沖神經(jīng)網(wǎng)絡(luò)142
　　　5.2.1　大規(guī)模脈沖神經(jīng)網(wǎng)絡(luò)專用集成電路142
　　　5.2.2　中小型數(shù)字脈沖神經(jīng)網(wǎng)絡(luò)147
　　　5.2.3　脈沖神經(jīng)網(wǎng)絡(luò)中的硬件友好型強(qiáng)化學(xué)習(xí)149
　　　5.2.4　多層脈沖神經(jīng)網(wǎng)絡(luò)中的硬件友好型監(jiān)督學(xué)習(xí)153
　5.3　模擬/混合信號(hào)脈沖神經(jīng)網(wǎng)絡(luò)161
　　　5.3.1　基本構(gòu)建塊161
　　　5.3.2　大規(guī)模模擬/混合信號(hào)CMOS脈沖神經(jīng)網(wǎng)絡(luò)163
　　　5.3.3　其他模擬/混合信號(hào)CMOS脈沖神經(jīng)網(wǎng)絡(luò)專用集成電路166
　　　5.3.4　基于新興納米技術(shù)的脈沖神經(jīng)網(wǎng)絡(luò)166
　　　5.3.5　案例研究：脈沖神經(jīng)網(wǎng)絡(luò)中基于憶阻器交叉開關(guān)的學(xué)習(xí)169
　參考文獻(xiàn)183
第6章　總結(jié)190
　6.1　展望190
　　　6.1.1　腦啟發(fā)式計(jì)算190
　　　6.1.2　新興的納米技術(shù)191
　　　6.1.3　神經(jīng)形態(tài)系統(tǒng)的可靠計(jì)算192
　　　6.1.4　人工神經(jīng)網(wǎng)絡(luò)和脈沖神經(jīng)網(wǎng)絡(luò)的融合193
　6.2　結(jié)論194
　參考文獻(xiàn)194
附錄197
術(shù)語表205