机器学习 目录

学期内是更不动了，之后慢慢填。

优化

1. 梯度下降 Gradient Descent 与随机梯度下降 Stochastic Gradient Descent

2. 随机方差缩减梯度下降 Stochastic Variance Reduced Gradient

3. 镜像下降 Mirror Descent 与线性耦合 Linear Coupling

4. ...

泛化

1. 没有免费午餐定理 No Free Lunch 与 PAC 可学习性

2. 一致收敛性 Uniform Convergency

3. VC 维 Vapnik-Chervonenkis dimension

4. Rademacher Complexity

5. Boosting 与 Adaboost

6. ...

监督学习

1. 压缩感知 Compressed Sensing

2. 支持向量机 Support Vector Machine, SVM

3. 决策树 Decision Tree

4. ...

无监督学习

1. 主成分分析 Principal Component Analysis, PCA

2. k-近邻与局部敏感哈希 k-Nearest Neighbors, Locality-Sensitive Hashing, LSH

3. 聚类 Clustering

4. 对比学习 SimCLR 的理论分析 Contrastive Learning

5. t-SNE

其他

1. 鲁棒性 Robust

2. 超参数调教 Hyperparameter

3. ...