Fork me on GitHub
摘要: ollama——快速上手Llama3 1. ollama安装 #Linux curl -fsSL https://ollama.com/install.sh | sh #vi /etc/systemd/system/ollama.service [Unit] Description=Ollama S 阅读全文
posted @ 2024-04-26 10:39 壶小旭 阅读(4040) 评论(0) 推荐(0) 编辑
摘要: ChatGLM3 docker部署 1. 下载项目到本地 git clone https://github.com/THUDM/ChatGLM3 cd ChatGLM3 这目录ChatGLM3下应该还需要包含chatglm3-6b-32k HuggingFace 或者 ModelScope ,需要手 阅读全文
posted @ 2024-03-27 16:15 壶小旭 阅读(500) 评论(0) 推荐(0) 编辑
摘要: JAVA 上传文件到FTP /** * @ClassName FTPLoad * @Description TODO * @Author dell * @Date 2024/3/14 15:56 * @Version 1.0 **/ import cn.hutool.core.io.FileUtil 阅读全文
posted @ 2024-03-15 17:17 壶小旭 阅读(54) 评论(0) 推荐(0) 编辑
摘要: paddleocr 在docker环境下部署 第一步 查看cuda的版本nvcc -V,我的是11.2;nvidia-smi 对应的cuda version是11.6,所以采用了registry.baidubce.com/paddlepaddle/paddle:latest-dev-cuda11.6 阅读全文
posted @ 2024-03-15 16:02 壶小旭 阅读(407) 评论(0) 推荐(0) 编辑
摘要: PaddleOCR安装过程中的ERROR OSError: (External) CUDA error(222), the provided PTX was compiled with an unsupported toolchain.. [Hint: 'cudaErrorUnsupportedPt 阅读全文
posted @ 2023-10-07 16:05 壶小旭 阅读(1233) 评论(0) 推荐(0) 编辑
摘要: ## 程序启动停止的shell脚本 ### 启动脚本start.sh 执行python api.py命令脚本如下 ``` app=api basePy=/opt/conda/envs/chatglm2 pid=`ps -ef | grep "$app.py" | grep -v grep | awk 阅读全文
posted @ 2023-09-01 10:04 壶小旭 阅读(39) 评论(0) 推荐(0) 编辑
摘要: ## paddlespeech安装出现的问题 操作系统Ubuntu ImportError: libssl.so.1.1: cannot open shared object file: No such file or directory ![](https://img2023.cnblogs.co 阅读全文
posted @ 2023-08-16 16:57 壶小旭 阅读(1944) 评论(0) 推荐(0) 编辑
摘要: # anaconda的虚拟python环境配置jupyter ```shell #进入虚拟环境后安装nb_conda conda install nb_conda #配置端口号 jupyter notebook --generate-config #依据生成的文件,进行vim修改,添加下面内容 vi 阅读全文
posted @ 2023-07-05 16:15 壶小旭 阅读(42) 评论(0) 推荐(0) 编辑
摘要: # NVIDIA-SMI has failed带来的一系列问题 ## 前沿 记实验室的小红帽服务器重启后,使用nvidia-smi出现以下问题: - NVIDIA-SMI has failed because it couldn't communicate with the NVIDIA drive 阅读全文
posted @ 2023-06-26 16:58 壶小旭 阅读(179) 评论(0) 推荐(0) 编辑
摘要: ## FastAPI跨域配置 ```python from fastapi import FastAPI import uvicorn from fastapi.middleware.cors import CORSMiddleware #解决跨域问题 import os import redis 阅读全文
posted @ 2023-06-07 10:01 壶小旭 阅读(1067) 评论(0) 推荐(0) 编辑