2025年1月14日

AI - 大模型核心参数解析(Top-k、Top-p、Temperature、frequency penalty、presence penalty)

摘要: 原文链接 https://blog.csdn.net/u012856866/article/details/140308083 文章目录 0. 前言1. top-k采样2. top-p采样3. Temperature采样4. 联合采样(top-k & top-p & Temperature)4. f 阅读全文

posted @ 2025-01-14 16:49 frank_cui 阅读(818) 评论(0) 推荐(0) 编辑

AI - 大模型返回的prompt_tokens、prompt_unit_price等信息,是什么意思

摘要: 在使用大语言模型(LLM)时,`prompt_tokens`、`completion_tokens`和`prompt_unit_price`等信息是非常重要的概念,它们帮助用户理解和管理模型的使用情况和成本。以下是对这些术语的详细解释: ### 1. `prompt_tokens`- **定义**: 阅读全文

posted @ 2025-01-14 15:58 frank_cui 阅读(259) 评论(0) 推荐(0) 编辑

AI - 大模型里的token,具体指什么?

摘要: 在大语言模型中,**token** 是一个比单个字母或单个汉字更复杂的概念。它通常是指输入文本被模型处理时的一个基本单位,这个单位可以是一个单词、一个子词(subword)、一个字符,甚至是一个特殊的标记(如换行符、标点符号等)。具体来说,token的划分方式取决于模型使用的分词器(tokenize 阅读全文

posted @ 2025-01-14 15:56 frank_cui 阅读(602) 评论(0) 推荐(0) 编辑

< 2025年3月 >
23 24 25 26 27 28 1
2 3 4 5 6 7 8
9 10 11 12 13 14 15
16 17 18 19 20 21 22
23 24 25 26 27 28 29
30 31 1 2 3 4 5

导航

统计

levels of contents
点击右上角即可分享
微信分享提示