会员
周边
捐助
新闻
博问
闪存
赞助商
Chat2DB
所有博客
当前博客
我的博客
我的园子
账号设置
简洁模式
...
退出登录
注册
登录
返回顶部
十方央丶
博客园
首页
新随笔
管理
订阅
2024年12月6日
如何理解 AI 对话中的 Token?
摘要: 一、什么是Token? 1. 定义: 在自然语言处理(NLP)和AI对话系统中,token通常指的是文本中的一个单元,可以是一个单词、一个标点符号、一个数字,或者甚至是一个子词(如“playing”可以被分成“play”和“##ing”)。 2. 通俗理解: 想象你正在玩拼图游戏,每个拼图块代表一个
阅读全文
posted @ 2024-12-06 14:47 十方央丶
阅读(234)
评论(0)
推荐(0)
编辑