Tokenizer: BPE, WordPiece, and SentencePiece

1 Word-based Tokenizer

2 Character-based Tokenizer

3 Subword-based Tokenizer

3.1 Byte-Pair Encoding(BPE)

Byte-Level BPE

3.2 WordPiece

3.3 Unigram

3.4 SentencePiece

posted @   ForHHeart  阅读(135)  评论(0编辑  收藏  举报
相关博文:
阅读排行:
· DeepSeek “源神”启动!「GitHub 热点速览」
· 微软正式发布.NET 10 Preview 1:开启下一代开发框架新篇章
· 我与微信审核的“相爱相杀”看个人小程序副业
· C# 集成 DeepSeek 模型实现 AI 私有化(本地部署与 API 调用教程)
· spring官宣接入deepseek,真的太香了~
点击右上角即可分享
微信分享提示