03 2024 档案

使用TensorRT-LLM部署ChatGLM3
摘要：说明： TensorRT-LLM是NVIDIA开发的高性能推理 TensorRT-LLM 是 NVIDIA 推出的一个专门用于编译和优化大语言模型推理的综合程序库。 可在 NVIDIA GPU 上加速和优化最新的大语言模型（LLM）的推理性能。 官网地址为：https://github.com/TH 阅读全文
posted @ 2024-03-26 16:58 宝英姐姐 阅读(654) 评论(0) 推荐(0) 编辑
AI-Station使用教程
摘要：一、创建用户 用户管理-创建用户： 1. 在ai-station的web页面上登录管理员的账号:admin，密码：123456Aaa？ 2. 点击系统管理 -> 用户管理 ->创建 -> 再次输入密码：123456Aaa？ 3. 创建普通用户：账户和姓名必须一致（自定义设置）->选取iei 用户组 阅读全文
posted @ 2024-03-22 09:56 宝英姐姐 阅读(404) 评论(0) 推荐(0) 编辑
AIStation制作DeepSpeed镜像
摘要：如何在AIStation训练平台中制作DeepSpeed镜像 需要注意：以下操作都是在普通账户操作的，管理员无法操作 一、导入NGC镜像 1.1到NGC官网连接https://catalog.ngc.nvidia.com/orgs/nvidia/containers/pytorch/tags，根据需 阅读全文
posted @ 2024-03-20 09:50 宝英姐姐 阅读(379) 评论(0) 推荐(0) 编辑
centos7安装sftp
摘要：FTP明文传输，SFTP传输加密后更加的可靠，所以选择sftp 1、ssh -V命令来查看openssh的版本 版本必须大于4.8p1 低于的这个版本需要升级 升级的话可以在网上找下 输入ssh -V 2、创建SFTP相关用户及目录 2.1创建一个系统用户,并设置成不能登录，按需设置登录的shell 阅读全文
posted @ 2024-03-11 13:30 宝英姐姐 阅读(496) 评论(0) 推荐(0) 编辑
Ubuntu系统修改docker默认存储路径
摘要：1、打开配置文件 vim /etc/systemd/system/multi-user.target.wants/docker.service 添加 --data-root=/mnt/inaisfs/cpu_node_docker_data 将/mnt/inaisfs/cpu_node_docker 阅读全文
posted @ 2024-03-04 11:19 宝英姐姐 阅读(241) 评论(0) 推荐(0) 编辑

点击右上角即可分享
微信分享提示
🚀
回顶
➖
收起
  1. 1 404 not found REOL
404 not found - REOL
00:00 / 00:00
An audio error has occurred.