2024年4月5日
LLM推理过程和优化技术
摘要： 一、基础说明 总体说明 很好的指标说明 二、相关知识点 LLM推理的过程是一个自回归的过程。 自回归（Autoregressive，简称AR）过程是一种统计模型，用于描述时间序列数据中的依赖关系。在自然语言处理（NLP）中，自回归过程被广泛应用于生成任务，如文本生成、机器翻译等。大语言模型（如GPT 阅读全文
posted @ 2024-04-05 11:45 johnny_zhao 阅读(60) 评论(0) 推荐(0) 编辑