摘要:ReAct 技术与 Function Call 技术介绍 1. ReAct 技术 ReAct 是一种用于增强语言模型推理能力的技术,通过在模型的推理过程中引入“思考”(thought)步骤,帮助模型更好地理解和规划下一步行动。 核心思想: ReAct 在传统的“行动-观察”(action-obser
阅读全文
摘要:以下是大模型的几种类别对比:LLM、Text Embedding、Rerank、Speech to Text、TTS。 LLM(大语言模型) 定义:通过在大规模文本数据上进行预训练,学习语言的规律和模式,获得通用语言理解能力和生成能力的模型。 特点: 参数量大,计算资源需求高。 具有强大的语言理解能
阅读全文
摘要:原文链接 https://blog.csdn.net/u012856866/article/details/140308083 文章目录 0. 前言1. top-k采样2. top-p采样3. Temperature采样4. 联合采样(top-k & top-p & Temperature)4. f
阅读全文
摘要:在使用大语言模型(LLM)时,`prompt_tokens`、`completion_tokens`和`prompt_unit_price`等信息是非常重要的概念,它们帮助用户理解和管理模型的使用情况和成本。以下是对这些术语的详细解释: ### 1. `prompt_tokens`- **定义**:
阅读全文
摘要:在大语言模型中,**token** 是一个比单个字母或单个汉字更复杂的概念。它通常是指输入文本被模型处理时的一个基本单位,这个单位可以是一个单词、一个子词(subword)、一个字符,甚至是一个特殊的标记(如换行符、标点符号等)。具体来说,token的划分方式取决于模型使用的分词器(tokenize
阅读全文
摘要:RAG(Retrieval-Augmented Generation,检索增强生成)技术是一种结合了检索和生成功能的自然语言处理(NLP)技术。它通过从大型外部数据库中检索与输入问题相关的信息,来辅助生成模型回答问题。以下是对RAG技术的详细解析: 一、技术原理 RAG技术的核心思想是将传统的检索技
阅读全文
摘要:总结 fit_transform = fit + transform 的组合,整个过程既包括了训练又包含了转换。fit_transform 对数据先拟合 fit,找到数据的整体指标,如均值、方差、最大值最小值等,然后对数据集进行转换transform,从而实现数据的标准化、归一化操作。 如果要想在
阅读全文
摘要:总结 1. 定类数据、定序数据,无法进行距离间的比较,和加减法的运算 定距数据,虽然能进行加减法的运算,但不能进行乘除法的运算。因为没有零点(作者注:todo) 定比数据,可以进行加减乘除 2. 将定类数据、定序数据进行数值化 定距数据,进行归一化后 均可进行四则运算 一、定类数据 在数据处理和分析
阅读全文
摘要:假设检验的步骤 实例讲解 第三步:由于一般的显著性水平定为0.05,因此在正态分布图中,对应的接受域是0.95,对应着-1.96~1.96的红色阴影区域 第四步: 4.1——计算出样本统计值 根据第二步骤的公式,将样本所有的值代入该公式,计算出样本统计值 = 2.23,落在了拒绝域 4.2——计算p
阅读全文