摘要: 昨天使用Ollama在本地运行了DeepSeek R1这个可以深度思考的AI模型。通过这种方式可以快速体验模型,但是要长期高频使用的话,通过命令行这种方式终究是不太方便。 所以今天来分享一个可视的软件ChatWise。 添加图片注释,不超过 140 字(可选) 这是一个独立开发者开发的软件,界面简介 阅读全文
posted @ 2025-01-24 21:29 托尼不是塔克 阅读(2079) 评论(0) 推荐(0) 编辑
摘要: 这段时间国内外讨论DeepSeek的人都比较多,我印象比较深的是,Deepseek用较低的成本训练了一个不错的模型。另一个是说最近的R1可以匹敌chatgpt的o1。 对比chatgpt的模型很多,我也不知道是宣传而已,还是真的这么牛逼。所以准备本地运行一下看看。因为ollama上已经有这个模型了, 阅读全文
posted @ 2025-01-24 21:24 托尼不是塔克 阅读(7024) 评论(0) 推荐(0) 编辑
摘要: 最强“小钢炮”MiniCPM-o 2.6的本地安装部署已经讲过了。 但是还是有一些问题,比如我在RTX3060上可以运行,但是要实时视频和语音非常卡,主要是因为需要18G显存,这个需求远超我本地显存,所以使用到了内存共享,速度自然慢很多。 当时的是原版模型,没用使用量化模型。今天来记录下INT4量化 阅读全文
posted @ 2025-01-24 21:08 托尼不是塔克 阅读(57) 评论(0) 推荐(0) 编辑
摘要: 上一篇中,大致聊了下国产小钢炮MiniCPM的特性,看起来很不错,可玩性很高。 今天,主要来说一下,如何在本地运行这个项目。 添加图片注释,不超过 140 字(可选) 配置过程花了一些时间,最终还是成功了,可以正常进行视频通话,语音通话,和聊天机器人。安装和测试过程中遇到了几个棘手的问题。下面就完整 阅读全文
posted @ 2025-01-24 20:51 托尼不是塔克 阅读(153) 评论(0) 推荐(0) 编辑
点击右上角即可分享
微信分享提示