這是一本給集成電路科學與工程、電子科學與技術、微電子學與固體電子學、新一代電子信息技術、人工智能等硬件專業(yè)學生使用的教材和研究人員使用的參考書。
本書首先從硬件層面分兩章"憶阻突觸"和"憶阻神經(jīng)元" 系統(tǒng)講解基于憶阻器的仿生突觸與神經(jīng)元,重點分析不同種類的憶阻材料用作突觸和神經(jīng)元時依據(jù)的物理機制,以及在實際應用中面臨的主要問題。
在神經(jīng)網(wǎng)絡設計層面,按照編碼方式分類,可分為模擬值編碼的人工神經(jīng)網(wǎng)絡和脈沖編碼的脈沖神經(jīng)網(wǎng)絡;按照訓練方式分類,可分為監(jiān)督學習、非監(jiān)督學習、強化學習。本書首先按照此順序逐個講解。
更多科學出版社服務,請掃碼獲取。
1.中共中央組織部千人計劃青年項目"基于納米孔基因測序研究",第12批,負責人(本書依托項目)
目錄
“存儲器科學與技術叢書”序
前言
第1章 站在類腦計算與憶阻器的交匯點1
1.1 類腦計算1
1.1.1 學習與泛化1
1.1.2 存算一體2
1.1.3 高能效3
1.2 類腦計算:為什么是憶阻器4
1.2.1 突觸可塑性:類腦計算的物理基礎4
1.2.2 憶阻器:天然的突觸5
1.3 類腦計算的發(fā)展簡史11
1.3.1 第一代:感知器11
1.3.2 第二代:引入非線性的多層感知器12
1.3.3 第三代:從模擬計算到神經(jīng)形態(tài)計算13
1.4 本書章節(jié)安排13
1.5 思考題15
參考文獻16
第2章 憶阻突觸17
2.1 離子遷移型17
2.1.1 導電橋型18
2.1.2 氧化物型20
2.1.3 固態(tài)電解質(zhì)型23
2.2 相變型26
2.2.1 晶-非晶相變26
2.2.2 莫特相變29
2.3 鐵電型32
2.3.1 基本原理32
2.3.2 常用鐵電材料36
2.3.3 常用器件結構39
2.4 憶阻突觸陣列41
2.4.1 潛行通路問題及解決方案42
2.4.2 多核結構45
2.4.3 三維堆疊46
2.5 本章小結48
2.6 思考題49
參考文獻49
第3章 憶阻神經(jīng)元53
3.1 神經(jīng)元簡介53
3.1.1 生物神經(jīng)元53
3.1.2 神經(jīng)元的簡化模型58
3.2 基于非易失的相變材料62
3.2.1 設計思想62
3.2.2 相變神經(jīng)元的電路實現(xiàn)63
3.2.3 輔助電路65
3.3 基于易失的閾值轉(zhuǎn)換材料67
3.3.1 設計原理67
3.3.2 閾值轉(zhuǎn)換常見機理及其神經(jīng)元69
3.4 本章小結77
3.5 思考題78
參考文獻78
第4章 人工神經(jīng)網(wǎng)絡的監(jiān)督學習80
4.1 單層神經(jīng)網(wǎng)絡80
4.1.1 算法原理80
4.1.2 基于1T1M的突觸陣列:人臉識別88
4.1.3 基于憶阻器差分對的突觸陣列:三宮格識別94
4.2 深度神經(jīng)網(wǎng)絡97
4.2.1 算法原理97
4.2.2 反向傳播的憶阻交叉陣列實現(xiàn)99
4.2.3 憶阻突觸的非理想效應與對策103
4.3 本章小結110
4.4 思考題112
參考文獻113
第5章 脈沖神經(jīng)網(wǎng)絡的監(jiān)督學習115
5.1 脈沖傳播115
5.1.1 算法原理115
5.1.2 權重更新:隱藏層到輸出層116
5.1.3 權重更新:輸入層到隱藏層121
5.1.4 操作流程123
5.1.5 異或問題應用125
5.1.6 問題與改進方案(1)126
5.1.7 問題與改進方案(2)127
5.2 遠程監(jiān)督方法130
5.2.1 算法原理131
5.2.2 基于互補器件的電路實現(xiàn)132
5.2.3 器件非理想效應及解決方案136
5.3 本章小結138
5.4 思考題139
參考文獻140
第6章 人工神經(jīng)網(wǎng)絡的非監(jiān)督學習141
6.1 尋找隱藏的數(shù)據(jù)結構141
6.2 若干算法142
6.2.1 競爭學習142
6.2.2 期望-最大化143
6.3 本章小結146
6.4 思考題146
參考文獻146
第7章 脈沖神經(jīng)網(wǎng)絡的非監(jiān)督學習147
7.1 赫布法則147
7.2 STDP變種1150
7.2.1 憶阻突觸實現(xiàn)150
7.2.2 神經(jīng)網(wǎng)絡應用:圖像識別152
7.3 STDP變種2157
7.3.1 憶阻突觸實現(xiàn)157
7.3.2 應用:DVS與運動軌跡識別158
7.3.3 憶阻突觸電導方差對網(wǎng)絡性能影響161
7.4 本章小結163
7.5 思考題164
參考文獻165
第8章 深度強化學習167
8.1 強化學習簡介167
8.2 基于模擬值的深度Q值網(wǎng)絡168
8.2.1 吃還是不吃?這是個問題168
8.2.2 Bellman方程169
8.2.3 Bellman方程求解173
8.2.4 深度Q值網(wǎng)絡177
8.2.5 若干優(yōu)化技術179
8.2.6 憶阻突觸陣列實現(xiàn)182
8.3 基于脈沖的深度Q值網(wǎng)絡184
8.3.1 脈沖Q值學習185
8.3.2 策略遷移186
8.4 本章小結186
8.5 思考題188
參考文獻188
第9章 卷積神經(jīng)網(wǎng)絡189
9.1 基本原理190
9.1.1 特征提。旱谝粚泳矸e核190
9.1.2 特征提取:池化191
9.1.3 特征提取:后續(xù)層卷積核191
9.1.4 分類:拍平與全連接192
9.2 二維憶阻陣列實現(xiàn)192
9.2.1 負權重的電路實現(xiàn)195
9.2.2 激活函數(shù)的電路實現(xiàn)196
9.2.3 平均池化的電路實現(xiàn)197
9.2.4 三維卷積核運算的電路實現(xiàn)198
9.2.5 權重更新的電路實現(xiàn)198
9.2.6 卷積的并行實現(xiàn)200
9.2.7 憶阻突觸陣列的非理想效應201
9.2.8 芯片級體系結構203
9.3 三維憶阻陣列實現(xiàn)203
9.3.1 設計理念203
9.3.2 設計與實現(xiàn)實例205
9.4 本章小結208
9.5 思考題209
參考文獻209
第10章 貝葉斯神經(jīng)網(wǎng)絡210
10.1 不確定性來源與量化210
10.1.1 乳腺腫瘤數(shù)據(jù):標簽交疊區(qū)難題211
10.1.2 貝葉斯神經(jīng)網(wǎng)絡:量化不確定度213
10.2 隨機失效突觸技術214
10.2.1 隨機失效神經(jīng)元/突觸技術簡介214
10.2.2 隨機失效突觸與貝葉斯神經(jīng)網(wǎng)絡的等價性217
10.2.3 蒙特卡羅-隨機失效突觸技術的優(yōu)缺點219
10.3 基于閾值轉(zhuǎn)換器件的硬件實現(xiàn)219
10.3.1 基于OTS的隨機突觸220
10.3.2 新冠肺炎胸片診斷:量化不確定度222
10.4 本章小結227
10.5 思考題227
參考文獻228
第11章 全光神經(jīng)網(wǎng)絡229
11.1 光學突觸器件原理229
11.2 基于集成光感器件的卷積神經(jīng)網(wǎng)絡234
11.2.1 波分復用與光頻梳:高并行的光信息處理234
11.2.2 全光卷積神經(jīng)網(wǎng)絡設計235
11.3 本章小結236
11.4 思考題237
參考文獻237
第12章 其他應用238
12.1 稀疏編碼238
12.1.1 原理238
12.1.2 神經(jīng)網(wǎng)絡方案239
12.1.3 憶阻交叉陣列實現(xiàn)242
12.2 主成分分析244
12.2.1 原理245
12.2.2 憶阻交叉陣列實現(xiàn)249
12.3 偏微分方程求解255
12.3.1 原理255
12.3.2 憶阻交叉陣列實現(xiàn)258
12.3.3 問題與改進方案264
12.4 本章小結264
12.5 思考題266
參考文獻267