随笔分类 -  AI人工智能

nvidia-smi驱动故障
摘要：使用nvidia-smi查看报错如下 nvidia-smi NVIDIA-SMI has failed because it couldn't communicate with the NVIDIA driver. Make sure that the latest NVIDIA driver is 阅读全文
posted @ 2026-06-30 09:26 minseo 阅读(3) 评论(0) 推荐(0)
数字人生成服务怎么部署
摘要：环境查看 系统环境 # lsb_release -a No LSB modules are available. Distributor ID: Ubuntu Description: Ubuntu 22.04.5 LTS Release: 22.04 Codename: jammy # uname 阅读全文
posted @ 2026-06-29 11:54 minseo 阅读(3) 评论(0) 推荐(0)
怎么指定GPU启动应用
摘要：一台服务器有多个显卡 已经启动了部分服务,如果再启动服务可能占用前面的显卡 怎么指定显卡 如下 设置显卡位置以0开始2代表使用第3张显卡 空格之后再输入启动命令 CUDA_VISIBLE_DEVICES=2 python3 -m vllm.entrypoints.openai.api_server 阅读全文
posted @ 2026-06-26 11:18 minseo 阅读(7) 评论(0) 推荐(0)
怎么查看进程消耗GPU
摘要：使用nvidia-smi可以查看到进程消耗的GPU情况 但是无法显示完整进程GPU 使用pid查询 使用nvidia-smi命令查看消耗的GPU已经进程号 # nvidia-smi Thu Jun 25 11:11:13 2026 + + | NVIDIA-SMI 580.159.03 Driver 阅读全文
posted @ 2026-06-25 11:15 minseo 阅读(7) 评论(0) 推荐(0)
Stable Diffusion启动提示端口错误处理
摘要：Windows启动Stable Diffusion报错 错误原因,本机IP地址设置错误 修改配置文件为本机地址 文件为 sd-webui-aki-v4.1\.launcher\preference.json 修改以下地址为本机地址再次启动即可 2026-04-24补充开始 也可以把改地址修改为0.0 阅读全文
posted @ 2025-10-22 11:36 minseo 阅读(30) 评论(0) 推荐(0)
Co-Sight搭建和使用
摘要：Github https://github.com/ZTE-AICloud/Co-Sight 环境查看 系统环境 ~ lsb_release -a No LSB modules are available. Distributor ID:Ubuntu Description:Ubuntu 22.04 阅读全文
posted @ 2025-10-15 13:45 minseo 阅读(322) 评论(0) 推荐(0)
prompt-optimizer提示词优化搭建
摘要：Github站点 https://github.com/linshenkx/prompt-optimizer 下载代码 # git clone https://github.com/linshenkx/prompt-optimizer.git 修改配置文件 # 复制配置文件 # cp env.loc 阅读全文
posted @ 2025-07-30 10:13 minseo 阅读(257) 评论(0) 推荐(0)
OpenManus安装和使用
摘要：环境查看 系统环境 # cat /etc/redhat-release Rocky Linux release 9.3 (Blue Onyx) # uname -a Linux Rocky9OpenManus003098 5.14.0-362.18.1.el9_3.0.1.x86_64 #1 SMP 阅读全文
posted @ 2025-04-30 14:32 minseo 阅读(194) 评论(0) 推荐(0)
label-studio标装工具安装
摘要：Github地址 https://github.com/HumanSignal/label-studio/ 环境查看 系统环境 # cat /etc/redhat-release Rocky Linux release 9.3 (Blue Onyx) # uname -a Linux Rocky9L 阅读全文
posted @ 2024-11-21 10:45 minseo 阅读(560) 评论(0) 推荐(0)
Qwen2.5-0.5B-Instruct搭建
摘要：模型地址 https://huggingface.co/Qwen/Qwen2.5-0.5B-Instruct 简介 通义千问新一代开源模型Qwen2.5，旗舰模型Qwen2.5-72B性能超越Llama 405B，再登全球开源大模型王座。Qwen2.5全系列涵盖多个尺寸的大语言模型、多模态模型、数学 阅读全文
posted @ 2024-11-19 16:15 minseo 阅读(4043) 评论(0) 推荐(0)
多卡4090服务器怎么使用指定显卡启动服务
摘要：多卡4090在启动服务时如果不指定显卡则多个应用可能占用一张显卡启动 需要指定环境变量指定显卡启动 如下指定第一张网卡启动,下标从0开始 # export CUDA_VISIBLE_DEVICES=0 再启动需要显卡的应用即可 阅读全文
posted @ 2024-11-01 17:57 minseo 阅读(191) 评论(0) 推荐(0)
本地文生图模型flux搭建
摘要：参考 https://blog.csdn.net/engchina/article/details/140892356 引言 2024年8月1日，blackforestlabs.ai发布了 FLUX.1 模型套件。 FLUX.1 文本到图像模型套件，该套件定义了文本到图像合成的图像细节、提示依从性、 阅读全文
posted @ 2024-10-29 16:12 minseo 阅读(1645) 评论(0) 推荐(0)
Docker和K8S集群调用GPU
摘要：参考： 安装Docker插件 https://docs.nvidia.com/datacenter/cloud-native/container-toolkit/latest/install-guide.html Unbntu使用Docker调用GPU https://blog.csdn.net/d 阅读全文
posted @ 2024-10-12 11:06 minseo 阅读(642) 评论(0) 推荐(0)
怎么部署99AI
摘要：简介 开源地址 https://github.com/vastxie/99AI 99AI 稳定版：可商业化的 AI Web 应用（免授权，无后门，支持快速部署），以 ALL-IN-CHAT 为目标。已支持 AI 对话、绘图、音乐、视频功能，以及联网、思维导图等插件。 环境查看 系统环境 # cat 阅读全文
posted @ 2024-09-14 09:17 minseo 阅读(719) 评论(0) 推荐(0)
怎么部署langfuse
摘要：参考： https://github.com/langfuse/langfuse 1.使用docker部署 下载代码部署 # Clone repository git clone https://github.com/langfuse/langfuse.git cd langfuse # Run s 阅读全文
posted @ 2024-08-13 11:27 minseo 阅读(1598) 评论(0) 推荐(0)
SillyTavern搭建
摘要：github地址 https://github.com/SillyTavern/SillyTavern/tree/release SillyTavern 是一个可以安装在电脑（和安卓手机）上的用户界面，让您可以与文本生成的人工智能互动，并与您或社区创建的角色聊天/玩角色扮演游戏。 环境查看 系统环境 阅读全文
posted @ 2024-08-02 09:11 minseo 阅读(3297) 评论(0) 推荐(0)