随笔分类 -  本地大模型

本地大模型的构建
本地大模型构建系列(一):5、python调用ollama本地大模型(Windows 10)
摘要:第一步,安装 Python 依赖包: WIN+R,打开CMD,输入: pip install ollama 也可以使用镜像 pip install ollama -i https://pypi.tuna.tsinghua.edu.cn/simple 第二步,启动ollama后,开始调用 Ollama 阅读全文

posted @ 2024-12-19 20:18 llmpig 阅读(2588) 评论(0) 推荐(0) 编辑

本地大模型构建系列(一):4、安装部署MaxKB(Windows 10)
摘要:前言 MaxKB是一个基于大语言模型和检索增强生成(RAG)技术的开源知识库问答系统。它旨在帮助企业高效管理知识,并提供智能问答功能。MaxKB支持直接上传文档或自动爬取在线文档,能够进行文本自动拆分和向量化,从而有效减少大模型的幻觉现象,提升用户的问答交互体验。 该系统具有以下特点: 1、模型中立 阅读全文

posted @ 2024-12-19 20:12 llmpig 阅读(1344) 评论(0) 推荐(0) 编辑

本地大模型构建系列(一):3、安装部署Open WebUI(Windows 10)
摘要:引言:什么是Open WebUI Open WebUI 是一种用于构建和管理基于 Web 的用户界面的开源框架,常用于简化开发者创建现代、交互性强的 Web 应用程序的过程。以下是它的关键点: 1、框架开源:Open WebUI 是开源的,开发者可以自由使用它,适用于各种Web 应用开发; 2、用户 阅读全文

posted @ 2024-12-19 19:52 llmpig 阅读(3301) 评论(0) 推荐(0) 编辑

本地大模型构建系列(一):2、安装Docker(Windows 10)
摘要:引言:什么是Dockers? Docker 是一个开源的容器化平台,旨在简化应用程序的开发、发布和运行。它通过将应用程序及其依赖打包在轻量级的容器中,确保在不同环境中的一致性和可移植性。 Docker 的几个关键点: 1、容器化技术:Docker 容器将应用程序及其所有依赖打包在一起,确保它们可以在 阅读全文

posted @ 2024-12-19 19:20 llmpig 阅读(423) 评论(0) 推荐(0) 编辑

本地大模型构建系列(一):1、本地安装部署Ollama大模型(Windows 10)
摘要:前置准备: 大模型启动器下载官网: (1)Olama+Docker本地部署Ollama官网地址:https://ollama.com/ Docker下载地址:https://github.com/tech-shrimp/docker_installer Open webui安装部署:https:// 阅读全文

posted @ 2024-12-18 10:44 llmpig 阅读(2895) 评论(0) 推荐(0) 编辑

点击右上角即可分享
微信分享提示