2023年8月6日
Inferllm源码解析
摘要： # Inferllm源码解析 ## 文件结构 1. application: 放置几个不同模型的参数配置和后处理 2. include: 包含抽象model类的头文件 3. src/core: 核心组件，包括tensor、算法等基础算子的抽象和KV文件系统的实现 4. src/graph: 包含了几 阅读全文
posted @ 2023-08-06 10:32 wildkid1024 阅读(215) 评论(0) 推荐(0) 编辑