PyTorch项目源码学习(1)
PyTorch
PyTorch是一个开源的深度学习框架,项目地址 https://github.com/pytorch/pytorch 在学术工作中的使用频率较高。其主体由C++开发,PyTorch是Torch的Python调用版本。学习PyTorch项目源代码的目的在于学习其中的实现方法与技巧,增加训练优化经验以及丰富设计思路。
资料整理
目前网上相关的资料较少(或者说信息空间大都被Pytorch应用相关文章挤占),目前主要进行相关研究文章的搜集整合,对项目进行自上而下的学习
前人文章
腾讯工程师整理
https://zhuanlan.zhihu.com/p/598044604
知乎用户整理
https://www.zhihu.com/column/c_1556947351318720512
简书用户整理
https://www.jianshu.com/p/e3bf5f4dfd93
推理框架原理文章
https://zhuanlan.zhihu.com/p/654499244
官方相关资料
设计思想
https://pytorch.org/docs/master/community/design.html
项目贡献者Guide
https://pytorch.org/docs/master/community/contribution_guide.html
官方文档
https://pytorch.org/docs/stable/index.html
官方目录介绍
https://github.com/pytorch/pytorch/blob/main/CONTRIBUTING.md#codebase-structure
原理相关图书
鱼书深度学习两本,斋藤康毅著
深度学习入门:基于Python的理论与实现
深度学习入门2:自制框架
国内框架原理图书
用Python实现深度学习框架 张觉非 陈震 著
相关工具
pybind 将c++与python链接 https://github.com/pybind/pybind11
CUDA 并行编程 https://docs.nvidia.com/cudnn/index.html