本地部署运行 Google Gemma 开源大模型

Google 开源了 Gemma 大模型,有 7B 和 2B 两个版本,7B 模型的能力已经是开源模型中的领先水平。Gemma 可以轻松的在本地部署运行,如果你的显存在 8G 以上,可以体验 7B 版本,8G 以下的话可以试试 2B 版本。
部署过程如下:
1、使用 ollama 运行 Gemma 模型
2、使用 Chatbox 作为 UI 客户端

1、安装 ollama 打开网页 https://ollama.com/ 下载程序后直接安装。安装完成后,本机cmd执行命令:
ollama -V
正确显示版本号即为安装成功。

2、运行 Gemma
ollama 网页顶部导航中有一个 “Models” 链接,点击。选择“gemma” 链接,https://ollama.com/library/gemma
进入模型页面

然后将命令复制到CMD中进行下载就行,显示下面就是安装成功了

3、安装 Chatbox
https://chatboxai.app/zh 下载安装,然后进行配置,直接选就行,有默认选项

然后就可以使用了。

posted @   SiSensor  阅读(135)  评论(0编辑  收藏  举报
相关博文:
阅读排行:
· Manus重磅发布:全球首款通用AI代理技术深度解析与实战指南
· 被坑几百块钱后,我竟然真的恢复了删除的微信聊天记录!
· 没有Manus邀请码?试试免邀请码的MGX或者开源的OpenManus吧
· 园子的第一款AI主题卫衣上架——"HELLO! HOW CAN I ASSIST YOU TODAY
· 【自荐】一款简洁、开源的在线白板工具 Drawnix
点击右上角即可分享
微信分享提示