Seal软件

摘要：

千呼万唤，GPUStack 迄今最受用户关注、超多新功能的版本重磅发布！阅读全文

posted @ 2024-12-09 10:20 Seal软件阅读(10) 评论(0) 推荐(0) 编辑

摘要：

使用 GPUStack 在昇腾 Ascend 910B 上运行 Qwen2.5 全系列的推理性能表现阅读全文

posted @ 2024-11-04 13:11 Seal软件阅读(688) 评论(0) 推荐(0) 编辑

摘要：

GPUStack 正式发布并开源，一个用于运行 LLM（大型语言模型）的开源 GPU 集群管理器。阅读全文

posted @ 2024-07-26 16:15 Seal软件阅读(609) 评论(2) 推荐(0) 编辑

摘要：

配置 NVIDIA 容器运行时环境并使用容器方式运行 GPUStack 的操作教程阅读全文

posted @ 2024-11-19 10:57 Seal软件阅读(40) 评论(0) 推荐(0) 编辑

摘要：

安装 GPUStack 和 Dify，并使用 Dify 来对接 GPUStack 部署的对话模型、Embedding 模型和 Reranker 模型。阅读全文

posted @ 2024-11-12 10:02 Seal软件阅读(45) 评论(0) 推荐(0) 编辑

摘要：

使用 llama.cpp 制作并量化 GGUF 模型，并将模型上传到 HuggingFace 和 ModelScope 模型仓库阅读全文

posted @ 2024-11-07 11:51 Seal软件阅读(75) 评论(0) 推荐(0) 编辑

摘要：

单机多卡分布式推理、跨主机分布式推理、CPU 推理、各种调度策略，你想要的全都有阅读全文

posted @ 2024-09-19 10:11 Seal软件阅读(200) 评论(0) 推荐(0) 编辑

摘要：

了解团队部署自助式IaC的实践方法阅读全文

posted @ 2024-04-29 09:45 Seal软件阅读(65) 评论(0) 推荐(0) 编辑

摘要：

从开发者角度看PaaP，会关注哪些点？阅读全文

posted @ 2024-04-26 09:32 Seal软件阅读(48) 评论(0) 推荐(0) 编辑

摘要：

平台工程通过改进开发者体验、整合、管理内部API等方式，促进API开发阅读全文

posted @ 2024-04-24 10:19 Seal软件阅读(31) 评论(0) 推荐(0) 编辑