2024年3月9日
使用Tokeniser估算GPT和LLM服务的查询成本
摘要： 将LLM集成到项目所花费的成本主要是我们通过API获取LLM返回结果的成本，而这些成本通常是根据处理的令牌数量计算的。我们如何预估我们的令牌数量呢？Tokeniser包可以有效地计算文本输入中的令牌来估算这些成本。本文将介绍如何使用Tokeniser有效地预测和管理费用。 大语言模型（如GPT）中的 阅读全文
posted @ 2024-03-09 09:45 deephub 阅读(4) 评论(0) 推荐(0) 编辑