机器学习&深度学习公开课&PPT资源整理(待更新)
公开课
伯克利(伯克利CS的本科生课程质量都很好,抽时间看看。)
斯坦福
MIT
前修课程
(伯克利课程都有)
向量微积分 vector calculus(math53)
线性代数(math54 math110 or EE16A+16B)
概率论(CS70 or stat 134)
机器学习和深度学习
CS189/289 Introduction to machine learning 机器学习
CS281: Advanced Machine Learning
UCB CPSC 540 也是机器学习 哥伦比亚大学 https://www.cs.ubc.ca/~nando/540-2013/lectures.html
Nando de Freitas 教授的机器学习课程清单 https://www.cs.ubc.ca/~nando/teaching.html Nando de Freitas 教授Youtobe的主页上有他的教程视频
CS231 斯坦福深度视觉识别 Fei-Fei Li
MIT David Silver讲的强化学习
CS294-112 伯克利强化学习
Stat212b:Topics Course on Deep Learning
http://joanbruna.github.io/stat212b/
加州大学伯克利分校统计系Joan Bruna(Yann LeCun博士后) 以统计的角度讲解DL。
CS224d: Deep Learning for Natural Language Processing
斯坦福大学 Richard Socher 主要讲解自然语言处理领域的各种深度学习模型
课程评价:
目前上过三个学校的课 Berkeley CS本科生的课不得不说从各个方面都是一流的。因为作为一个工科 (especially CS) 大校,基本全校都在学码。本科生除了college of engineering下的EECS项目(which is really hard to get in),还有L&S学院下的CS专业。而且declare CS难度逐年陡增。
作为一个转专业狗,我很庆幸自己有机会选了很多优质的本科生的课 给自己 (hopefully) 打下了很好的基础。这里CS优质课程基本都是本科的(AKA 硬课) 每门upper-division课基本都有300-500人 lower-division课甚至有600-1000人,如著名的61系列(因为没有declare专业的人基本都会选)每门课都会配备很多TA,TA也非常用心,回复问题十分即使细致,course logistics are well organized,还有discussion section十分有用,基本会把课程重点都强调一遍。相对的,研究生的课基本都是研究导向的,不会花很多时间在detail上,会讨论很多前沿的科研问题。如果基础不好,基本学不到什么。因为Berkeley CS的graduate program基本都是phd和极少数ms,所以默认大家基础都很好。个人认为如果基础不好 直接来上graduate的课学不到什么。
作为一个非CS的MS,因为自己项目十分flexible,所以有一半的课程可以随便选 于是全选了CS课。在Berkeley期间学了61C, 161, 162, 170, 189/289, 280, 281。可以说每门课都很有用 学到了很多。
因为本科学过基本算法和数据结构还有各种语言,就没有上61B
下面是部分课程介绍:
61C machine structure, 从C, assembly到CPU设计全过了一遍,还有spark, OS basics,systems的入门。照理这课应该是CS的入门课 但是我是在学了很多高级概念以后再来学 感觉会有很多不一样的理解。课程量巨大,一个project设计一个CPU(用logic gate),一个project用C写一个program that translates assembly into machine code,另一个project实现高效矩阵运算(openMP, SIMD)。
162 OS 号称CS神课之一,工作量巨大,一个学期3个homework,1个巨型project(implement an OS, 参考stanford OS project)。3个homework每个基本相当于别的课的一个project(implement a HTTP server, implement a shell, implement malloc etc)所有都是C写的
170 算法 另一神课。偏理论,作业全是证明和pseudo code,没有真正写码,但是几乎涵盖所有面试内容(although后半学期全在讲NP completeness各种证明,randomized algorithm)
189 ML,任务量也很大,上课和考试基本都是理论,作业是用python implement各种ML model from scratch包括neural net, random forest
个人感觉project的质量都很好,course staff设计的很用心,考试也有一定难度(类似T大本科生考试,会出一些怪题,十分考验对基础知识的掌握,基本每次平均分只有50/100左右,虽然最后会curve)
以上针对EECS系,别的系(应该)相对会水一些。 还是十分羡慕Berkeley CS的本科生的 有这么好的教育 而且还物美价廉(公立)
国内本科过来交流...天真直接选了 61c,170,164,164...第一、二周简直就要死掉了...于是默默退掉了162和164...