目錄：

第1章機(jī)器學(xué)習(xí)概述

1.1什么是機(jī)器學(xué)習(xí)

1.2機(jī)器學(xué)習(xí)的分類

1.2.1基本分類

1.2.2監(jiān)督學(xué)習(xí)及其功能分類

1.3構(gòu)建機(jī)器學(xué)習(xí)系統(tǒng)

1.3.1機(jī)器學(xué)習(xí)的基本元素

1.3.2機(jī)器學(xué)習(xí)的一些基本概念

1.3.3機(jī)器學(xué)習(xí)模型的性能評(píng)估

1.4通過簡(jiǎn)單示例理解機(jī)器學(xué)習(xí)

1.4.1一個(gè)簡(jiǎn)單的回歸示例

1.4.2一個(gè)簡(jiǎn)單的分類示例

1.5訓(xùn)練、驗(yàn)證與測(cè)試

1.6深度學(xué)習(xí)簡(jiǎn)介

1.7本章小結(jié)

習(xí)題

第2章統(tǒng)計(jì)與優(yōu)化基礎(chǔ)

2.1概率基礎(chǔ)

2.1.1離散隨機(jī)變量 

2.1.2連續(xù)隨機(jī)變量 

2.1.3隨機(jī)變量的基本特征

2.1.4隨機(jī)特征的蒙特卡洛逼近

2.2概率實(shí)例

2.2.1離散隨機(jī)變量示例

2.2.2高斯分布

2.2.3指數(shù)族

2.2.4混合高斯過程

2.2.5馬爾可夫過程

2.3似然估計(jì)

2.4貝葉斯估計(jì)——后驗(yàn)估計(jì)

2.5隨機(jī)變量的熵特征

2.5.1熵的定義和基本性質(zhì)

2.5.2KL散度、互信息和負(fù)熵

2.6非參數(shù)方法

2.7優(yōu)化技術(shù)概述

2.7.1基本優(yōu)化算法

2.7.2拉格朗日方法

2.8本章小結(jié)

習(xí)題

第3章貝葉斯決策

3.1機(jī)器學(xué)習(xí)中的決策

3.2分類的決策

3.2.1加權(quán)錯(cuò)誤率準(zhǔn)則

3.2.2拒絕判決

3.3回歸的決策

3.4高斯情況下的分類決策

3.4.1相同協(xié)方差矩陣情況的二分類

3.4.2不同協(xié)方差矩陣情況的二分類

3.4.3多分類情況

3.5KNN方法

*3.6概率圖模型概述

3.6.1貝葉斯網(wǎng)絡(luò)

3.6.2無向圖模型

3.6.3圖模型的學(xué)習(xí)與推斷

3.7本章小結(jié)

習(xí)題

第4章基本回歸算法

4.1線性回歸

4.1.1基本線性回歸

4.1.2線性回歸的遞推學(xué)習(xí)

4.1.3正則化線性回歸

4.1.4多輸出線性回歸

*4.2稀疏線性回歸Lasso

4.2.1Lasso的循環(huán)坐標(biāo)下降算法

4.2.2Lasso的LAR算法

4.3線性基函數(shù)回歸

*4.4奇異值分解

4.5回歸學(xué)習(xí)的誤差分解

4.6本章小結(jié)

習(xí)題

第5章基本分類學(xué)習(xí)

5.1基本分類問題

5.2線性判別函數(shù)模型

5.2.1Fisher線性判別分析

*5.2.2感知機(jī)

5.3邏輯回歸

5.3.1二分類問題的邏輯回歸

5.3.2多分類問題的邏輯回歸

5.4樸素貝葉斯方法

*5.5機(jī)器學(xué)習(xí)理論簡(jiǎn)介

5.5.1假設(shè)空間有限時(shí)的泛化誤差界

5.5.2假設(shè)空間無限時(shí)的泛化誤差界

5.6本章小結(jié)

習(xí)題

第6章支持向量機(jī)與核函數(shù)方法

6.1線性支持向量機(jī)

6.1.1不等式約束的優(yōu)化

6.1.2線性可分情況的SVM

6.1.3不可分情況的SVM

6.1.4合頁損失函數(shù)

6.1.5SVM用于多分類問題

6.2非線性支持向量機(jī)

6.2.1SVM分類算法小結(jié)

*6.2.2SMO算法

6.3支持向量回歸

*6.4核函數(shù)方法

6.5本章小結(jié)

習(xí)題

第7章決策樹

7.1基本決策樹算法

7.1.1決策樹的基本結(jié)構(gòu)

7.1.2信息增益和ID3算法

7.1.3信息增益率和C4.5算法

7.2CART算法

7.2.1分類樹

7.2.2回歸樹

7.3決策樹的一些實(shí)際問題

7.3.1連續(xù)數(shù)值變量

7.3.2正則化和剪枝技術(shù)

7.3.3缺失屬性的訓(xùn)練樣本問題

7.4本章小結(jié)

習(xí)題

第8章集成學(xué)習(xí)

8.1Bagging和隨機(jī)森林

8.1.1自助采樣和Bagging算法

8.1.2隨機(jī)森林算法

8.2提升和AdaBoost算法

8.2.1AdaBoost算法介紹

*8.2.2AdaBoost算法分析

8.3提升樹算法

8.3.1加法模型和提升樹

8.3.2梯度提升樹

8.4本章小結(jié)

習(xí)題

第9章神經(jīng)網(wǎng)絡(luò)與深度學(xué)習(xí)之一： 基礎(chǔ)

9.1神經(jīng)網(wǎng)絡(luò)的基本結(jié)構(gòu)

9.1.1神經(jīng)元結(jié)構(gòu)

9.1.2多層神經(jīng)網(wǎng)絡(luò)解決異或問題

9.1.3多層感知機(jī)

9.1.4神經(jīng)網(wǎng)絡(luò)的逼近定理

9.2神經(jīng)網(wǎng)絡(luò)的目標(biāo)函數(shù)和優(yōu)化

9.2.1神經(jīng)網(wǎng)絡(luò)的目標(biāo)函數(shù)

9.2.2神經(jīng)網(wǎng)絡(luò)的優(yōu)化

9.3誤差反向傳播算法

9.3.1反向傳播算法的推導(dǎo)

9.3.2反向傳播算法的向量形式

9.3.3反向傳播算法的擴(kuò)展

9.4神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)中的一些問題

9.4.1初始化

9.4.2正則化

9.4.3幾類等價(jià)正則化技術(shù)

9.5本章小結(jié)

習(xí)題

第10章神經(jīng)網(wǎng)絡(luò)與深度學(xué)習(xí)之二： 結(jié)構(gòu)

10.1卷積神經(jīng)網(wǎng)絡(luò)

10.1.1卷積運(yùn)算及其物理意義

10.1.2基本CNN的結(jié)構(gòu)

10.1.3CNN的參數(shù)學(xué)習(xí)

*10.1.4卷積的一些擴(kuò)展結(jié)構(gòu)

*10.1.5CNN示例介紹

10.2循環(huán)神經(jīng)網(wǎng)絡(luò)

10.2.1基本RNN

10.2.2RNN的計(jì)算和訓(xùn)練

*10.2.3長(zhǎng)短期記憶模型

*10.2.4門控循環(huán)單元

10.3本章小結(jié)

習(xí)題

第11章神經(jīng)網(wǎng)絡(luò)與深度學(xué)習(xí)之三： 技術(shù)和應(yīng)用

11.1深度學(xué)習(xí)中的優(yōu)化算法

11.1.1小批量SGD算法

11.1.2動(dòng)量SGD算法

11.1.3自適應(yīng)學(xué)習(xí)率算法

11.2深度學(xué)習(xí)訓(xùn)練的正則化技術(shù)

11.2.1Dropout技術(shù)

11.2.2批歸一化

*11.2.3層歸一化

*11.3對(duì)抗訓(xùn)練

*11.4自編碼器

11.4.1自編碼器的基本結(jié)構(gòu)

11.4.2自編碼器的一些擴(kuò)展

*11.5生成對(duì)抗網(wǎng)絡(luò)

*11.6注意力機(jī)制和Transformer

11.6.1注意力機(jī)制

11.6.2序列到序列模型

11.6.3Transformer

11.7本章小結(jié)

第12章聚類和EM算法

12.1聚類算法

12.1.1K均值聚類算法

12.1.2DBSCAN聚類算法

12.1.3其他度量和聚類算法

12.2EM算法

12.2.1EM算法的隱變量形式

12.2.2獨(dú)立同分布情況

*12.2.3EM算法擴(kuò)展到MAP估計(jì)

*12.2.4通過KL散度對(duì)EM算法的解釋

12.3基于EM算法的高斯混合模型參數(shù)估計(jì)

12.3.1GMM參數(shù)估計(jì)

12.3.2GMM的軟聚類

12.4本章小結(jié)

習(xí)題

第13章降維和連續(xù)隱變量學(xué)習(xí)

13.1主分量分析

13.1.1主分量分析原理

13.1.2廣義Hebb算法

*13.2樣本向量的白化和正交化

13.2.1樣本向量的白化

13.2.2向量集的正交化

*13.3獨(dú)立分量分析

13.3.1獨(dú)立分量分析的原理和目標(biāo)函數(shù)

13.3.2不動(dòng)點(diǎn)算法FastICA

13.3.3自然梯度算法

13.3.4仿真實(shí)驗(yàn)舉例

13.4本章小結(jié)

習(xí)題

第14章強(qiáng)化學(xué)習(xí)之一： 經(jīng)典方法

14.1強(qiáng)化學(xué)習(xí)的基本問題

14.2馬爾可夫決策過程

14.2.1MDP的定義

14.2.2貝爾曼方程

14.2.3策略

14.2.4強(qiáng)化學(xué)習(xí)的類型

14.2.5探索與利用

14.3動(dòng)態(tài)規(guī)劃

14.3.1策略迭代方法

14.3.2值函數(shù)迭代方法

14.4強(qiáng)化學(xué)習(xí)的蒙特卡洛方法

14.4.1MC部分策略評(píng)估

14.4.2MC策略改進(jìn)

14.4.3在軌策略和離軌策略

14.5強(qiáng)化學(xué)習(xí)的時(shí)序差分方法

14.5.1基本時(shí)序差分學(xué)習(xí)和Sarsa算法

14.5.2離軌策略和Q學(xué)習(xí)

14.5.3DP、MC和TD算法的簡(jiǎn)單比較

*14.5.4多步時(shí)序差分學(xué)習(xí)和資格跡算法

*14.6多臂賭博機(jī)

14.7本章小結(jié)

習(xí)題

第15章強(qiáng)化學(xué)習(xí)之二： 深度強(qiáng)化學(xué)習(xí)

15.1強(qiáng)化學(xué)習(xí)的值函數(shù)逼近

15.1.1基本線性值函數(shù)逼近

*15.1.2線性值函數(shù)逼近的小二乘策略迭代算法

15.1.3深度Q網(wǎng)絡(luò)

15.2策略梯度方法

15.2.1MC策略梯度算法Reinforce

15.2.2行動(dòng)器評(píng)判器方法

*15.3連續(xù)動(dòng)作確定性策略梯度方法

15.3.1DPG算法

15.3.2DDPG算法

15.3.3連續(xù)動(dòng)作DRL的一些進(jìn)展概述

15.4本章小結(jié)

習(xí)題

附錄A課程的實(shí)踐型作業(yè)實(shí)例

A.1第1次實(shí)踐作業(yè)

A.2第2次實(shí)踐作業(yè)

A.3第3次實(shí)踐作業(yè)

附錄B函數(shù)對(duì)向量和矩陣的求導(dǎo)

術(shù)語表

參考文獻(xiàn)