目錄
前言
第1章 緒論 1
1.1 機(jī)器學(xué)習(xí)內(nèi)涵 1
1.2 定義與術(shù)語 4
1.2.1 機(jī)器學(xué)習(xí)相關(guān)定義 4
1.2.2 機(jī)器學(xué)習(xí)相關(guān)術(shù)語 6
1.3 發(fā)展簡(jiǎn)史 10
1.4 典型應(yīng)用 16
1.5 倫理計(jì)算 22
第2章 機(jī)器學(xué)習(xí)數(shù)學(xué)基礎(chǔ) 27
2.1 向量與矩陣運(yùn)算 27
2.1.1 向量與矩陣基本概念 27
2.1.2 向量與矩陣范數(shù) 28
2.1.3 矩陣性能指標(biāo)與相關(guān)計(jì)算 34
2.2 特征值分析 37
2.2.1 特征值問題與特征向量 37
2.2.2 矩陣特征值與相關(guān)計(jì)算 41
2.3 奇異值分解 42
2.3.1 奇異值分解及其解釋 42
2.3.2 奇異值分解與特征值 44
2.3.3 奇異值的性質(zhì) 47
2.4 圖論基礎(chǔ) 50
2.4.1 權(quán)重圖與圖切 50
2.4.2 鄰接矩陣構(gòu)建 52
2.4.3 拉普拉斯矩陣 58
2.5 張量基礎(chǔ) 62
2.5.1 基本概念 62
2.5.2 相關(guān)運(yùn)算 64
2.5.3 張量分解 66
2.6 小結(jié) 70
第3章 機(jī)器學(xué)習(xí)優(yōu)化基礎(chǔ) 72
3.1 優(yōu)化理論基本概念 72
3.1.1 建立最優(yōu)化模型 73
3.1.2 凸優(yōu)化問題及求解 74
3.2 拉格朗日乘子法與KKT 條件 77
3.2.1 等式約束問題 78
3.2.2 不等式約束問題 79
3.2.3 原始問題與對(duì)偶問題 80
3.3 梯度下降法 82
3.3.1 批量梯度下降法 82
3.3.2 隨機(jī)梯度下降法 84
3.4 牛頓迭代法 85
3.5 坐標(biāo)下降法 88
3.6 小結(jié) 91
第4章 機(jī)器學(xué)習(xí)數(shù)據(jù)基礎(chǔ) 92
4.1 合成數(shù)據(jù)集 92
4.1.1 數(shù)據(jù)線性可分 93
4.1.2 數(shù)據(jù)線性不可分 93
4.2 真實(shí)數(shù)據(jù)集 96
4.2.1 圖像數(shù)據(jù)集 96
4.2.2 視頻數(shù)據(jù)集 99
4.2.3 生物信息數(shù)據(jù)集 100
4.2.4 自然語言數(shù)據(jù)集 101
4.2.5 其他數(shù)據(jù)集 101
4.3 數(shù)據(jù)處理 103
4.3.1 數(shù)據(jù)清洗與特征處理 103
4.3.2 不平衡問題 105
4.3.3 數(shù)據(jù)類型轉(zhuǎn)換 108
4.4 小結(jié) 109
第5章 特征提取方法 110
5.1 經(jīng)典方法 110
5.1.1 主成分分析 110
5.1.2 局部保持投影 113
5.1.3 線性判別分析 116
5.1.4 張量分析方法 121
5.1.5 經(jīng)典方法總結(jié)與分析 124
5.2 進(jìn)階方法 126
5.2.1 基于自適應(yīng)圖嵌入的無監(jiān)督方法 126
5.2.2 基于快速構(gòu)圖的無監(jiān)督方法 131
5.2.3 基于最大化比率和線性判別分析的方法 138
5.3 小結(jié) 148
第6章 特征選擇方法 150
6.1 經(jīng)典方法 150
6.1.1 過濾式方法 151
6.1.2 包裹式方法 156
6.1.3 嵌入式方法 160
6.1.4 經(jīng)典方法總結(jié)與分析 163
6.2 進(jìn)階方法 164
6.2.1 基于多分類邏輯斯諦回歸的方法 164
6.2.2 基于稀疏無監(jiān)督投影的聯(lián)合方法 175
6.2.3 非線性特征選擇網(wǎng)絡(luò)方法 183
6.3 小結(jié) 186
第7章 聚類分析方法 187
7.1 經(jīng)典方法 188
7.1.1 K均值聚類 188
7.1.2 模糊K均值聚類 190
7.1.3 密度聚類 192
7.1.4 層次聚類 195
7.1.5 譜聚類 197
7.1.6 經(jīng)典方法總結(jié)與分析 202
7.2 進(jìn)階方法 208
7.2.1 基于熵正則化的自適應(yīng)近鄰圖方法 208
7.2.2 基于二部圖的快速自監(jiān)督方法 216
7.2.3 基于新類發(fā)現(xiàn)的遞進(jìn)式自監(jiān)督方法 224
7.3 小結(jié) 228
第8章 回歸與分類方法 229
8.1 經(jīng)典方法 230
8.1.1 最小二乘回歸 230
8.1.2 支持向量回歸 235
8.1.3 K近鄰法 238
8.1.4 決策樹 243
8.1.5 支持向量機(jī) 248
8.1.6 感知機(jī)與神經(jīng)網(wǎng)絡(luò) 255
8.1.7 經(jīng)典方法總結(jié)與分析 263
8.2 進(jìn)階方法 265
8.2.1 基于*范數(shù)最小化的方法 265
8.2.2 基于分隔平面的邏輯回歸方法 272
8.3 正激勵(lì)噪聲 280
8.4 小結(jié) 286
參考文獻(xiàn) 288
附錄A 相關(guān)學(xué)術(shù)組織、重要會(huì)議與期刊 295
A1 相關(guān)學(xué)術(shù)組織 295
A2 重要會(huì)議與期刊 296