91麻豆国产的在线直播平台 ,久久综合婷婷丁香五月中文字幕

本書(shū)旨在采用一種符合讀者認(rèn)知角度且能提升其學(xué)習(xí)效率的方式來(lái)講解深度學(xué)習(xí)背后的核心知識(shí)、原理和內(nèi)在邏輯。

經(jīng)過(guò)基礎(chǔ)篇的學(xué)習(xí)，想必你已經(jīng)對(duì)深度學(xué)習(xí)的總體框架有了初步的了解和認(rèn)識(shí)，掌握了深度神經(jīng)網(wǎng)絡(luò)從核心概念、常見(jiàn)問(wèn)題到典型網(wǎng)絡(luò)的基本知識(shí)。本書(shū)為核心篇，將帶領(lǐng)讀者實(shí)現(xiàn)從入門到進(jìn)階、從理論到實(shí)戰(zhàn)的跨越。全書(shū)共7章，前三章包括復(fù)雜CNN、RNN和注意力機(jī)制網(wǎng)絡(luò)，深入詳解各類主流模型及其變體；第4章介紹這三類基礎(chǔ)模型的組合體，即概率生成模型；第5章和第6章著重介紹這些復(fù)雜模型在計(jì)算機(jī)視覺(jué)和自然語(yǔ)言處理兩大最常見(jiàn)領(lǐng)域的應(yīng)用；第7章講解生成式大語(yǔ)言模型的內(nèi)在原理并對(duì)其發(fā)展趨勢(shì)予以展望。

本書(shū)系統(tǒng)全面，深入淺出，且輔以生活中的案例進(jìn)行類比，以此降低學(xué)習(xí)難度，能夠幫助讀者迅速掌握深度學(xué)習(xí)的基礎(chǔ)知識(shí)。本書(shū)適合有志于投身人工智能領(lǐng)域的人員閱讀，也適合作為高等院校人工智能相關(guān)專業(yè)的教學(xué)用書(shū)。

·瞿煒，美國(guó)伊利諾伊大學(xué)人工智能博士，哈佛大學(xué)、京都大學(xué)客座教授；前中國(guó)科學(xué)院大學(xué)教授、模式識(shí)別國(guó)家重點(diǎn)實(shí)驗(yàn)室客座研究員；國(guó)家部委特聘專家、重點(diǎn)實(shí)驗(yàn)室學(xué)術(shù)委員會(huì)委員；國(guó)際期刊編委，多個(gè)學(xué)術(shù)期刊審稿人及國(guó)際學(xué)術(shù)會(huì)議委員。在人工智能業(yè)界擁有二十余年的技術(shù)積累和實(shí)踐經(jīng)驗(yàn)，曾先后在互聯(lián)網(wǎng)、醫(yī)療、安防、教育等行業(yè)的多家世界 500 強(qiáng)企業(yè)擔(dān)任高管。他是授業(yè)解惑科技有限公司的創(chuàng)始人，以及多家人工智能、金融公司的聯(lián)合創(chuàng)始人，還是一名天使投資人。憑借多年的專業(yè)積淀和卓越的行業(yè)洞察力，瞿煒博士近年來(lái)致力于人工智能教育事業(yè)的發(fā)展。作為教育博主，他擅長(zhǎng)用通俗易懂的表達(dá)方式結(jié)合直觀生動(dòng)的模型動(dòng)畫(huà)，講述復(fù)雜的人工智能理論與算法；創(chuàng)作的人工智能系列視頻和課程在 B 站（賬號(hào)：梗直哥丶）/知乎/GZH/視頻號(hào)（賬號(hào)：梗直哥丶）等平臺(tái)深受學(xué)生們的歡迎和認(rèn)可，累計(jì)訪問(wèn)量超數(shù)千萬(wàn)人次。 ·李力，人工智能專家，長(zhǎng)期致力于計(jì)算機(jī)視覺(jué)和強(qiáng)化學(xué)習(xí)領(lǐng)域的研究與實(shí)踐。曾在多家科技企業(yè)擔(dān)任資深算法工程師，擁有十余年行業(yè)經(jīng)驗(yàn)，具備豐富的技術(shù)能力和深厚的理論知識(shí)。在他的職業(yè)生涯中，李力參與并領(lǐng)導(dǎo)了眾多深度學(xué)習(xí)和強(qiáng)化學(xué)習(xí)的核心技術(shù)項(xiàng)目，有效地應(yīng)用先進(jìn)模型解決圖像識(shí)別、目標(biāo)檢測(cè)、自然語(yǔ)言處理、機(jī)器人研發(fā)等多個(gè)領(lǐng)域的實(shí)際問(wèn)題。 ·楊潔，人工智能和自然語(yǔ)言處理領(lǐng)域資深應(yīng)用專家，在自然語(yǔ)言理解、基于知識(shí)的智能服務(wù)、跨模態(tài)語(yǔ)言智能、智能問(wèn)答系統(tǒng)等技術(shù)領(lǐng)域具有深厚的實(shí)戰(zhàn)背景。她曾在教育、醫(yī)療等行業(yè)的企業(yè)擔(dān)任關(guān)鍵職位，擁有十年以上的行業(yè)管理經(jīng)驗(yàn)，成功領(lǐng)導(dǎo)并實(shí)施了多個(gè)創(chuàng)新項(xiàng)目，擅長(zhǎng)引領(lǐng)團(tuán)隊(duì)將復(fù)雜的理論轉(zhuǎn)化為實(shí)際應(yīng)用，解決行業(yè)中的關(guān)鍵問(wèn)題。

第 1章復(fù)雜卷積神經(jīng)網(wǎng)絡(luò)：捕獲精細(xì)特征 1

1.1　AlexNet 2

1.1.1　AlexNet簡(jiǎn)介 2

1.1.2　代碼實(shí)現(xiàn) 3

1.1.3　模型訓(xùn)練 6

1.1.4　小結(jié) 10

1.2　VGGNet 10

1.2.1　VGGNet簡(jiǎn)介 10

1.2.2　代碼實(shí)現(xiàn) 13

1.2.3　模型訓(xùn)練 15

1.2.4　小結(jié) 16

1.3　批歸一化方法 16

1.3.1　批歸一化簡(jiǎn)介 16

1.3.2　代碼實(shí)現(xiàn) 17

1.3.3　模型訓(xùn)練 19

1.3.4　小結(jié) 20

1.4　GoogLeNet 20

1.4.1　GoogLeNet簡(jiǎn)介 20

1.4.2　Inception結(jié)構(gòu) 20

1.4.3　GoogLeNet的模型結(jié)構(gòu) 21

1.4.4　代碼實(shí)現(xiàn) 22

1.4.5　模型訓(xùn)練 25

1.4.6　小結(jié) 26

1.5　ResNet 26

1.5.1　ResNet簡(jiǎn)介 26

1.5.2　殘差結(jié)構(gòu) 27

1.5.3　ResNet模型結(jié)構(gòu) 28

1.5.4　代碼實(shí)現(xiàn) 30

1.5.5　模型訓(xùn)練 35

1.5.6　小結(jié) 36

1.6　DenseNet 36

1.6.1　DenseNet簡(jiǎn)介 36

1.6.2　代碼實(shí)現(xiàn) 39

1.6.3　模型訓(xùn)練 44

1.6.4　小結(jié) 44

第 2章復(fù)雜循環(huán)神經(jīng)網(wǎng)絡(luò)：為記憶插上翅膀 46

2.1　雙向RNN和深度RNN 47

2.1.1　雙向RNN 47

2.1.2　深度RNN 48

2.1.3　小結(jié) 51

2.2　RNN長(zhǎng)期依賴問(wèn)題 51

2.2.1　什么是長(zhǎng)期依賴 52

2.2.2　長(zhǎng)期記憶失效原因 52

2.2.3　截?cái)鄷r(shí)間步 53

2.2.4　小結(jié) 54

2.3　長(zhǎng)短期記憶網(wǎng)絡(luò)及其變體 54

2.3.1　核心思想 54

2.3.2　網(wǎng)絡(luò)結(jié)構(gòu) 55

2.3.3　遺忘門 56

2.3.4　輸入門 56

2.3.5　輸出門 57

2.3.6　門控循環(huán)單元 57

2.3.7　小結(jié) 60

2.4　四種RNN代碼實(shí)現(xiàn) 60

2.4.1　模型定義 60

2.4.2　模型實(shí)驗(yàn) 63

2.4.3　效果對(duì)比 66

2.4.4　小結(jié) 67

第3章復(fù)雜注意力神經(jīng)網(wǎng)絡(luò)：大模型的力量 68

3.1　BERT模型 68

3.1.1　3種模型結(jié)構(gòu) 69

3.1.2　詞嵌入 70

3.1.3　預(yù)訓(xùn)練：掩碼語(yǔ)言模型 70

3.1.4　預(yù)訓(xùn)練：下一句預(yù)測(cè) 71

3.1.5　微調(diào) 72

3.1.6　優(yōu)缺點(diǎn) 73

3.1.7　小結(jié) 74

3.2　GPT系列模型 74

3.2.1　GPT-1模型思想和結(jié)構(gòu) 75

3.2.2　GPT-1無(wú)監(jiān)督預(yù)訓(xùn)練和監(jiān)督微調(diào) 76

3.2.3　GPT-1數(shù)據(jù)集和性能特點(diǎn) 77

3.2.4　GPT-2模型思想和結(jié)構(gòu) 78

3.2.5　GPT-2 數(shù)據(jù)集和性能特點(diǎn) 79

3.2.6　GPT-3 模型思想和結(jié)構(gòu) 80

3.2.7　基于情景學(xué)習(xí)的對(duì)話模式 80

3.2.8　GPT-3 數(shù)據(jù)集和性能特點(diǎn) 83

3.2.9　小結(jié) 84

3.3　T5模型 84

3.3.1　基本思想 84

3.3.2　詞表示發(fā)展史 85

3.3.3　模型結(jié)構(gòu) 86

3.3.4　預(yù)訓(xùn)練流程 87

3.3.5　預(yù)訓(xùn)練數(shù)據(jù)集 88

3.3.6　模型版本 89

3.3.7　小結(jié) 89

3.4　ViT模型 90

3.4.1　Transformer的好處 90

3.4.2　模型結(jié)構(gòu) 90

3.4.3　數(shù)據(jù)預(yù)處理 91

3.4.4　圖片塊和位置嵌入 91

3.4.5　Transformer編碼器 92

3.4.6　MLP頭 93

3.4.7　性能對(duì)比 93

3.4.8　小結(jié) 94

3.5　Swin Transformer模型 94

3.5.1　要解決的問(wèn)題 95

3.5.2　模型結(jié)構(gòu) 95

3.5.3　輸入預(yù)處理 97

3.5.4　四個(gè)階段 97

3.5.5　Swin Transformer塊 98

3.5.6　窗口注意力 98

3.5.7　計(jì)算復(fù)雜度分析 98

3.5.8　移動(dòng)窗口多頭自注意力機(jī)制 99

3.5.9　特征圖循環(huán)移位計(jì)算 99

3.5.10　masked MSA操作 100

3.5.11　小結(jié) 101

第4章深度生成模型：不確定性的妙用 102

4.1　蒙特卡洛方法 103

4.1.1　采樣 104

4.1.2　重要性采樣 105

4.1.3　馬爾可夫鏈蒙特卡洛方法 105

4.1.4　小結(jié) 106

4.2　變分推斷方法 106

4.2.1　參數(shù)估計(jì) 107

4.2.2　問(wèn)題定義 108

4.2.3　算法思路 108

4.2.4　KL散度 109

4.2.5　公式推導(dǎo) 109

4.2.6　高斯混合模型實(shí)例 110

4.2.7　與MCMC方法對(duì)比 111

4.2.8　小結(jié) 111

4.3　變分自編碼器 112

4.3.1　降維思想 112

4.3.2　自編碼器 112

4.3.3　VAE基本思想 114

4.3.4　隱空間可視化 117

4.3.5　神經(jīng)網(wǎng)絡(luò)實(shí)現(xiàn) 117

4.3.6　重新參數(shù)化技巧 118

4.3.7　小結(jié) 119

4.4　生成對(duì)抗網(wǎng)絡(luò) 119

4.4.1　什么是對(duì)抗生成思想 119

4.4.2　模型結(jié)構(gòu) 120

4.4.3　判別器 121

4.4.4　生成器 121

4.4.5　訓(xùn)練流程 121

4.4.6　損失函數(shù) 123

4.4.7　小結(jié) 123

4.5　擴(kuò)散模型 123

4.5.1　模型對(duì)比 124

4.5.2　基本思想 124

4.5.3　前向過(guò)程 125

4.5.4　逆向過(guò)程 126

4.5.5　損失函數(shù) 128

4.5.6　損失函數(shù)的參數(shù)化 129

4.5.7　訓(xùn)練流程 130

4.5.8　小結(jié) 130

4.6　深度生成模型項(xiàng)目實(shí)戰(zhàn) 131

4.6.1　代碼實(shí)現(xiàn) 131

4.6.2　VAE模型 132

4.6.3　GAN模型 136

4.6.4　小結(jié) 140

第5章計(jì)算機(jī)視覺(jué)：讓智慧可見(jiàn) 141

5.1　自定義數(shù)據(jù)加載 141

5.1.1　數(shù)據(jù)加載 141

5.1.2　數(shù)據(jù)準(zhǔn)備 142

5.1.3　ImageFolder方法 142

5.1.4　自定義數(shù)據(jù)集示例1 145

5.1.5　自定義數(shù)據(jù)集示例2 147

5.1.6　小結(jié) 150

5.2　圖像數(shù)據(jù)增強(qiáng) 150

5.2.1　數(shù)據(jù)增強(qiáng)簡(jiǎn)介 150

5.2.2　代碼準(zhǔn)備 150

5.2.3　常見(jiàn)圖像數(shù)據(jù)增強(qiáng)方法 153

5.2.4　小結(jié) 159

5.3　遷移學(xué)習(xí) 160

5.3.1　遷移學(xué)習(xí)簡(jiǎn)介 160

5.3.2　ResNet預(yù)訓(xùn)練模型 160

5.3.3　ViT預(yù)訓(xùn)練模型 163

5.3.4　小結(jié) 165

5.4　經(jīng)典計(jì)算機(jī)視覺(jué)數(shù)據(jù)集 165

5.4.1　數(shù)據(jù)集簡(jiǎn)介 165

5.4.2　小結(jié) 169

5.5　項(xiàng)目實(shí)戰(zhàn)：貓狗大戰(zhàn) 170

5.5.1　項(xiàng)目簡(jiǎn)介 170

5.5.2　數(shù)據(jù)準(zhǔn)備 170

5.5.3　模型訓(xùn)練 175

5.5.4　模型預(yù)測(cè) 178

5.5.5　小結(jié) 180

第6章自然語(yǔ)言處理：人機(jī)交互懂你所說(shuō) 181

6.1　詞嵌入和Word2Vec 181

6.1.1　獨(dú)熱編碼 181

6.1.2　Word2Vec 182

6.1.3　Gensim代碼實(shí)現(xiàn) 185

6.1.4　小結(jié) 186

6.2　詞義搜索和句義表示 186

6.2.1　文本搜索方法 186

6.2.2　正則搜索 187

6.2.3　詞義搜索 188

6.2.4　距離計(jì)算方法 189

6.2.5　句子向量 189

6.2.6　代碼實(shí)現(xiàn) 190

6.2.7　常見(jiàn)應(yīng)用 192

6.2.8　小結(jié) 192

6.3　預(yù)訓(xùn)練模型 193

6.3.1　預(yù)訓(xùn)練和遷移學(xué)習(xí) 193

6.3.2　遷移學(xué)習(xí)族譜 194

6.3.3　大語(yǔ)言模型 194

6.3.4　LLM進(jìn)化方向 196

6.3.5　BERT系列進(jìn)化 197

6.3.6　GPT系列進(jìn)化 197

6.3.7　多模態(tài)模型 199

6.3.8　存在的問(wèn)題 200

6.3.9　小結(jié) 200

6.4　Hugging Face庫(kù)介紹 200

6.4.1　核心庫(kù) 200

6.4.2　官網(wǎng)介紹 201

6.4.3　代碼調(diào)用 204

6.4.4　小結(jié) 207

6.5　NLP數(shù)據(jù)集 207

6.5.1　預(yù)訓(xùn)練數(shù)據(jù)集 208

6.5.2　下游任務(wù)數(shù)據(jù)集 209

6.5.3　數(shù)據(jù)集使用 211

6.5.4　小結(jié) 213

6.6　項(xiàng)目實(shí)戰(zhàn)：電影評(píng)論情感分析 213

6.6.1　Pipeline 213

6.6.2　模型實(shí)戰(zhàn) 214

6.6.3　直接微調(diào) 219

6.6.4　小結(jié) 221

第7章　多模態(tài)生成式人工智能：引領(lǐng)智能新時(shí)代 222

7.1　CLIP模型 222

7.1.1　計(jì)算機(jī)視覺(jué)研究新范式 223

7.1.2　對(duì)比學(xué)習(xí)預(yù)訓(xùn)練 223

7.1.3　圖像編碼器 224

7.1.4　文本編碼器 224

7.1.5　數(shù)據(jù)收集 224

7.1.6　圖像分類 225

7.1.7　模型訓(xùn)練和優(yōu)缺點(diǎn)分析 226

7.1.8　小結(jié) 227

7.2　DALL·E系列模型 227

7.2.1　初代模型結(jié)構(gòu) 227

7.2.2　dVAE模塊 228

7.2.3　Transformer模塊 229

7.2.4　圖像生成過(guò)程 230

7.2.5　DALL·E 2 模型結(jié)構(gòu) 230

7.2.6　CLIP模塊 231

7.2.7　prior模塊 232

7.2.8　decoder模塊 232

7.2.9　DALL·E 2 推理過(guò)程 233

7.2.10　模型效果 233

7.2.11　局限分析 233

7.2.12　小結(jié) 234

7.3　InstructGPT模型 235

7.3.1　GPT系列回顧 235

7.3.2　指示學(xué)習(xí)和提示學(xué)習(xí) 235

7.3.3　人工反饋強(qiáng)化學(xué)習(xí) 236

7.3.4　訓(xùn)練流程 237

7.3.5　數(shù)據(jù)集采集 238

7.3.6　監(jiān)督微調(diào) 239

7.3.7　獎(jiǎng)勵(lì)模型 239

7.3.8　強(qiáng)化學(xué)習(xí) 239

7.3.9　優(yōu)缺點(diǎn)分析 240

7.3.10　小結(jié) 240

7.4　深度學(xué)習(xí)最新發(fā)展趨勢(shì)分析 240

7.4.1　趨勢(shì)1：多模態(tài)融合 241

7.4.2　趨勢(shì)2：AIGC大爆發(fā) 242

7.4.3　趨勢(shì)3：大小模型分化 243

7.4.4　趨勢(shì)4：概率分布模型的大發(fā)展 244

7.4.5　趨勢(shì)5：深度強(qiáng)化學(xué)習(xí)的春天 244

7.4.6　更多展望 245

7.5　下一步學(xué)習(xí)的建議 245

7.5.1　動(dòng)手實(shí)踐 245

7.5.2　PyTorch官方文檔和課程 246

7.5.3　推薦網(wǎng)站 246

7.5.4　多讀論文 247

7.5.5　關(guān)于強(qiáng)化學(xué)習(xí) 247

7.5.6　繼續(xù)加油 248

你還可能感興趣

我要評(píng)論