摘要:
https://zhuanlan.zhihu.com/p/1932581459438344043 vLLM 优化与性能调优指南 https://docs.vllm.com.cn/en/latest/usage/index.html vLLM的用户文档 阅读全文
posted @ 2025-12-30 18:43
blcblc
阅读(7)
评论(0)
推荐(0)
摘要:
https://linxiuzhu.com/archives/1747212060023 大模型推理框架深度对比:vLLM、SGLang、LMDeploy与Ollama的架构特性与场景适配 是否需要企业级高并发? ├─ 是 → vLLM └─ 否 → 是否涉及多模态/复杂控制流? ├─ 是 → SG 阅读全文
posted @ 2025-12-30 18:14
blcblc
阅读(166)
评论(0)
推荐(0)
摘要:
https://zhuanlan.zhihu.com/p/49316901341 产品定位对比 模型支持与集成深度对比 知识库对比 阅读全文
posted @ 2025-12-30 17:14
blcblc
阅读(17)
评论(0)
推荐(0)
摘要:
https://unsloth.ai/docs/get-started/unsloth-notebooks unsloth提供的一些notebook 这是notebook的github https://github.com/unslothai/notebooks/ https://unsloth.a 阅读全文
posted @ 2025-12-30 17:10
blcblc
阅读(6)
评论(0)
推荐(0)
摘要:
https://zhuanlan.zhihu.com/p/1987311965429850641 从pip到UV:新一代包管理器的高效替代方案 阅读全文
posted @ 2025-12-30 16:10
blcblc
阅读(8)
评论(0)
推荐(0)
摘要:
https://unsloth.ai/docs/zh unsloth的文档 https://unsloth.ai/docs/get-started/fine-tuning-llms-guide/what-model-should-i-use#instruct-or-base-model https: 阅读全文
posted @ 2025-12-30 15:58
blcblc
阅读(19)
评论(0)
推荐(0)
摘要:
https://www.2008qm.com/serverdocs/rtx-5090-vs-a100%EF%BC%9A%E8%AE%AD%E7%BB%83%E6%95%88%E7%8E%87%E5%85%A8%E9%9D%A2%E5%AF%B9%E6%AF%94%E4%B8%8E%E5%AE%9E% 阅读全文
posted @ 2025-12-30 15:50
blcblc
阅读(40)
评论(0)
推荐(0)
摘要:
https://www.luochang.ink/posts/sft_note/ 三种方法实现监督微调:LLaMA Factory, trl 和 unsloth 下载模型的方法 https://github.com/luochang212/sft-note/blob/main/model/downl 阅读全文
posted @ 2025-12-30 15:41
blcblc
阅读(7)
评论(0)
推荐(0)
摘要:
https://unsloth.ai/docs/get-started/fine-tuning-llms-guide/datasets-guide 参考这篇文章 Alpaca "Instruction": "Task we want the model to perform." "Input": " 阅读全文
posted @ 2025-12-30 15:40
blcblc
阅读(18)
评论(0)
推荐(0)
摘要:
https://blog.csdn.net/EnjoyEDU/article/details/156144697 (这是复制的,排版不好)https://juejin.cn/post/7573587915810652201 最详细的 DeepAgents 实战拆解:一次看懂LangChain全新深度 阅读全文
posted @ 2025-12-30 15:15
blcblc
阅读(138)
评论(0)
推荐(0)

浙公网安备 33010602011771号