01 2025 档案

AI - ReAct 技术与 Function Call 技术介绍
摘要:ReAct 技术与 Function Call 技术介绍 1. ReAct 技术 ReAct 是一种用于增强语言模型推理能力的技术,通过在模型的推理过程中引入“思考”(thought)步骤,帮助模型更好地理解和规划下一步行动。 核心思想: ReAct 在传统的“行动-观察”(action-obser 阅读全文

posted @ 2025-01-20 13:28 frank_cui 阅读(135) 评论(0) 推荐(0) 编辑

AI - 大模型的类别对比:LLM,Text Embedding,Rerank,Speech to text,TTS
摘要:以下是大模型的几种类别对比:LLM、Text Embedding、Rerank、Speech to Text、TTS。 LLM(大语言模型) 定义:通过在大规模文本数据上进行预训练,学习语言的规律和模式,获得通用语言理解能力和生成能力的模型。 特点: 参数量大,计算资源需求高。 具有强大的语言理解能 阅读全文

posted @ 2025-01-20 13:26 frank_cui 阅读(395) 评论(0) 推荐(0) 编辑

AI - 大模型核心参数解析(Top-k、Top-p、Temperature、frequency penalty、presence penalty)
摘要:原文链接 https://blog.csdn.net/u012856866/article/details/140308083 文章目录 0. 前言1. top-k采样2. top-p采样3. Temperature采样4. 联合采样(top-k & top-p & Temperature)4. f 阅读全文

posted @ 2025-01-14 16:49 frank_cui 阅读(708) 评论(0) 推荐(0) 编辑

AI - 大模型返回的prompt_tokens、prompt_unit_price等信息,是什么意思
摘要:在使用大语言模型(LLM)时,`prompt_tokens`、`completion_tokens`和`prompt_unit_price`等信息是非常重要的概念,它们帮助用户理解和管理模型的使用情况和成本。以下是对这些术语的详细解释: ### 1. `prompt_tokens`- **定义**: 阅读全文

posted @ 2025-01-14 15:58 frank_cui 阅读(200) 评论(0) 推荐(0) 编辑

AI - 大模型里的token,具体指什么?
摘要:在大语言模型中,**token** 是一个比单个字母或单个汉字更复杂的概念。它通常是指输入文本被模型处理时的一个基本单位,这个单位可以是一个单词、一个子词(subword)、一个字符,甚至是一个特殊的标记(如换行符、标点符号等)。具体来说,token的划分方式取决于模型使用的分词器(tokenize 阅读全文

posted @ 2025-01-14 15:56 frank_cui 阅读(545) 评论(0) 推荐(0) 编辑

< 2025年2月 >
26 27 28 29 30 31 1
2 3 4 5 6 7 8
9 10 11 12 13 14 15
16 17 18 19 20 21 22
23 24 25 26 27 28 1
2 3 4 5 6 7 8

导航

统计

levels of contents
点击右上角即可分享
微信分享提示