GPT&T5

GPT对比GPT-2:https://zhuanlan.zhihu.com/p/96791725
Pytorch——GPT-2 预训练模型及文本生成:https://www.cnblogs.com/wwj99/p/12503545.html 训练目标

图解 GPT-2:https://zhuanlan.zhihu.com/p/264396525
OpenAI GPT2原理解读:https://zhuanlan.zhihu.com/p/57251615

工程:https://github.com/akanyaani/gpt-2-tensorflow2.0
xmind 待

T5 github:
https://github.com/bojone/t5_in_bert4keras
https://kexue.fm/archives/7867

文本生成开源版本(ZJ):
https://github.com/bytedance/neurst

posted @ 2021-07-05 15:44  chease  阅读(418)  评论(0编辑  收藏  举报