会员
周边
众包
新闻
博问
闪存
赞助商
Chat2DB
所有博客
当前博客
我的博客
我的园子
账号设置
会员中心
简洁模式
...
退出登录
注册
登录
ForHHeart
博客园
首页
新随笔
联系
订阅
管理
随笔 - 39
文章 - 0
评论 - 0
阅读 -
2704
LLM local deployment: Xinference, Ollama
Xinference
好文要顶
关注我
收藏该文
微信分享
ForHHeart
粉丝 -
0
关注 -
0
+加关注
0
0
«
上一篇:
LLaMA 2
»
下一篇:
RNNs & LSTMs & GRUs
posted @
2024-01-26 00:22
ForHHeart
阅读(
10
) 评论(
0
)
编辑
收藏
举报
刷新页面
返回顶部
登录后才能查看或发表评论,立即
登录
或者
逛逛
博客园首页
【推荐】还在用 ECharts 开发大屏?试试这款永久免费的开源 BI 工具!
【推荐】编程新体验,更懂你的AI,立即体验豆包MarsCode编程助手
【推荐】凌霞软件回馈社区,博客园 & 1Panel & Halo 联合会员上线
【推荐】抖音旗下AI助手豆包,你的智能百科全书,全免费不限次数
【推荐】博客园社区专享云产品让利特惠,阿里云新客6.5折上折
【推荐】轻量又高性能的 SSH 工具 IShell:AI 加持,快人一步
编辑推荐:
·
一个奇形怪状的面试题:Bean中的CHM要不要加volatile?
·
[.NET]调用本地 Deepseek 模型
·
一个费力不讨好的项目,让我损失了近一半的绩效!
·
.NET Core 托管堆内存泄露/CPU异常的常见思路
·
PostgreSQL 和 SQL Server 在统计信息维护中的关键差异
阅读排行:
·
DeepSeek “源神”启动!「GitHub 热点速览」
·
微软正式发布.NET 10 Preview 1:开启下一代开发框架新篇章
·
我与微信审核的“相爱相杀”看个人小程序副业
·
C# 集成 DeepSeek 模型实现 AI 私有化(本地部署与 API 调用教程)
·
spring官宣接入deepseek,真的太香了~
公告
昵称:
ForHHeart
园龄:
2年9个月
粉丝:
0
关注:
0
+加关注
<
2025年2月
>
日
一
二
三
四
五
六
26
27
28
29
30
31
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
1
2
3
4
5
6
7
8
阅读排行榜
1. Distributed Training: DeepSpeed ZeRO 1/2/3 + Accelerate, Megatron-LM(964)
2. Env Config(359)
3. Mamba(208)
4. Pre-trained Model Summary(173)
5. Tokenizer: BPE, WordPiece, and SentencePiece(135)
6. Quantization: fp16, bf16, int8, fp4, nf4(132)
7. Mixtral 8×7B (Mistral MoE)(87)
8. Navigation Page(52)
9. Python Basic Notes(47)
10. DS/MLE Key Competency and Occupational Classification Concluded from Job Descriptions(45)
11. transformers(44)
12. DS / ML Basic Notes(42)
13. Build Lightweight AI SaaS: Next.js + Tailwind CSS(32)
14. ML / AI Algorithms from Scratch(32)
15. LeetCode Notes in Python(31)
16. Momentum Contrast (MoCo) for Unsupervised Visual Representation Learning(30)
17. Reinforcement Learning from Human Feedback(RLHF): TRPO, PPO, DPO(27)
18. Transformer(24)
19. LeetCode Hot 100(20)
20. Multimodal Large Language Model(MLLM)(19)
21. Retrieval-Augmented Generation(RAG)(18)
22. Text Representation: OneHot, BOW, N-grams, TF-IDF, Word2Vec, Glove, FastText, ELMO, BERT, SBERT(17)
23. SQL Basic Notes(17)
24. RecSys & Ads Basic Notes(16)
25. LLaMA 2(14)
26. BERT(14)
27. Data Structures and Sort Algorithms Notes for Coding Interview(13)
28. PyTorch Basic Notes(12)
29. Self-supervised Learning(11)
30. RNNs & LSTMs & GRUs(10)
31. LLM local deployment: Xinference, Ollama(10)
32. Docker(9)
33. Loss Function(8)
34. Interview Experience for RecSys & Ads(8)
35. Python Web Dev(8)
点击右上角即可分享
支持DeepSeek的编程助手
【推荐】编程新体验,更懂你的AI,立即体验豆包MarsCode编程助手
【推荐】凌霞软件回馈社区,博客园 & 1Panel & Halo 联合会员上线
【推荐】抖音旗下AI助手豆包,你的智能百科全书,全免费不限次数
【推荐】博客园社区专享云产品让利特惠,阿里云新客6.5折上折
【推荐】轻量又高性能的 SSH 工具 IShell:AI 加持,快人一步
· 一个奇形怪状的面试题:Bean中的CHM要不要加volatile?
· [.NET]调用本地 Deepseek 模型
· 一个费力不讨好的项目,让我损失了近一半的绩效!
· .NET Core 托管堆内存泄露/CPU异常的常见思路
· PostgreSQL 和 SQL Server 在统计信息维护中的关键差异
· DeepSeek “源神”启动!「GitHub 热点速览」
· 微软正式发布.NET 10 Preview 1:开启下一代开发框架新篇章
· 我与微信审核的“相爱相杀”看个人小程序副业
· C# 集成 DeepSeek 模型实现 AI 私有化(本地部署与 API 调用教程)
· spring官宣接入deepseek,真的太香了~