02 2024 档案

BentoML：如何使用 JuiceFS 加速大模型加载
摘要：BentoML 是一个开源的大语言模型（LLM） AI 应用的开发框架和部署工具，致力于为开发者提供最简单的构建大语言模型 AI 应用的能力，其开源产品已经支持全球数千家企业和组织的核心 AI 应用。 当 BentoML 在 Serverless 环境中部署模型时，其中一个主要挑战是冷启动慢，尤其在 阅读全文
posted @ 2024-02-21 11:11 JuiceFS 阅读(122) 评论(0) 推荐(0) 编辑
极限挑战：使用 Go 打造百亿级文件系统的实践之旅
摘要：JuiceFS 企业版是一款为云环境设计的分布式文件系统，单命名空间内可稳定管理高达百亿级数量的文件。 构建这个大规模、高性能的文件系统面临众多复杂性挑战，其中最为关键的环节之一就是元数据引擎的设计。JuiceFS 企业版于 2017 年上线，经过几年的不断迭代和优化，在单个元数据服务进程使用 30 阅读全文
posted @ 2024-02-02 14:50 JuiceFS 阅读(140) 评论(0) 推荐(0) 编辑

点击右上角即可分享
微信分享提示