返回顶部
摘要: 一、什么是Token? 1. 定义: 在自然语言处理(NLP)和AI对话系统中,token通常指的是文本中的一个单元,可以是一个单词、一个标点符号、一个数字,或者甚至是一个子词(如“playing”可以被分成“play”和“##ing”)。 2. 通俗理解: 想象你正在玩拼图游戏,每个拼图块代表一个 阅读全文
posted @ 2024-12-06 14:47 十方央丶 阅读(234) 评论(0) 推荐(0) 编辑