04 2024 档案
摘要:一、环境配置 ChatGLM2-6B至少需要13G GPU(虽然官网说12G即可),int8需要8G,int4需要4G。 Win10系统,GTX1060显卡6GB(只能用int4模型,亲测开启GLM2时占了5GB以上) 1、git 2、conda 3、python 3.9 4、pip 5、CUDA
阅读全文
摘要:前言 Redis 集群是一种分布式数据库解决方案,旨在提供高性能、高可用性、可扩展性的数据存储服务。目前比较普遍流行的搭配则是三主三从配置,共6台redis服务进行集群配置。 Redis的三主三从配置是一种集群模式,其中包含三个主节点和三个从节点。每个从节点对应一个主节点,当主节点出现故障时,从节点
阅读全文
摘要:一、安装nginx 查看这篇博客 https://www.cnblogs.com/zrl66/p/14118063.html 二、负载均衡upstream 下面就是访问www.qwe.com域名反向代理,然后请求转到upstream backend权重配置,根据配置进行访问。 http { ....
阅读全文