2024-01-28-机器学习工程师的生产实践(MLOps)之 (二)- 吴恩达
摘要
2024-01-28 周日 杭州 晴
小记: 人工智能来袭了,很多人并没有因此更加幸福,人类的幸福是建立在我有别人没有的对立基础上的,哪些执念很重的人永远不会幸福,他们只是在追求低级的快感而已。
课程内容
1. 课程大纲
心得: MLOps 是一门基于机器学习的新兴学科,从机器学习的生命周期来解读AI产品应用于生产的过程,有句话怎么讲呢,这个世界唯一不变的就是改变,从 Devops 到 MLOps ,调度AI 算力,并将AI 产品快速应用于生产实际也是对于世界的一些促进作用。哪怕是共产主义的中国,社会的管理体制也把我们作为了一个工具而已,你有能力就赚足够多的钱作为激励,我心里也想为国民做些什么,到最后这种体制下我只是为了钱,为了房,为了满足欲望而奋斗的小丑。
内心 OS: 留名青史或者遗臭万年都比藉藉无名好呀!
2. 关键挑战
心得: 机器学习系统部署过程涉及到两个核心的问题,数据 & 算力调度。
3. 部署模式
-
影子部署
-
金丝雀部署
-
蓝绿部署
- AI 自动化
心得: 运维角度看 AI 发展,都说运维是一件比较辛苦的事情,传统的运维需要了解很多细枝末节,随着技术的发展,逐渐通过脚本或者工具辅助完成运维相关的工作,既然部分工作可以被工具标准化,那么 AI 调用辅助工具完成运维工作也会成为可能。可以预见的是未来 AI 将会完成几乎所有的手工操作,人类希望把自己放在决策者的位置上,可能只是人类自己的一厢情愿罢了。
4. 单机监控
- 监控指标
5. 流水线监控
总结
心得: 前两年,也就是刚毕业那会,对于人工智能只是好奇,感觉只有研究生阶段才能进行 AI 相关的学习,所以自己一直在做算力调度相关的工作,毕业5年了,才逐渐发现原来研究生相比于本科生只是多了一项训练,那就是 X -> Y 的一个探索过程,很多本科参与工作后大多是一个项目组会分配足够明确的工作内容。研究生的课题可能更加模糊和未知,因此这就是二者差别的一种体现,非要说研究生比本科生更抗压,这就有点没事找事了,刚毕业的研究生本身就比刚毕业的本科生多吃了几年盐,多踩了几年坑。