刷新
ComfyUI进阶篇:ComfyUI核心节点(四)

博主头像 ComfyUI核心节点(四) 前言: 学习ComfyUI是一场持久战。当你掌握了ComfyUI的安装和运行之后,会发现大量五花八门的节点。面对各种各样的工作流和复杂的节点种类,可能会让人感到不知所措。在这篇文章中,我们将用通俗易懂的语言对ComfyUI的核心节点进行系统梳理,并详细解释每个参数。希望 ...

智汇宁夏,共创未来!天翼云携手宁夏共建“中国算力之都”!

博主头像 为充分发挥宁夏算力产业基础与优势,聚焦人工智能关键共性技术创新,推动人工智能技术与实体经济深度融合,搭建AI产业应用开发与生态合作平台,6月29日,2024首届算力之都开发者大会暨天翼云智算生态合作大会在宁夏隆重举行。 大会以“沙海铸就人工智能,黄河汇集数字洪流”为主题,邀请全球顶尖院士和来自清华大... ...

LLM并行训练3-数据并行

博主头像 前置知识 混合精度训练 在参数存储时采取fp32, 开始进行fp/bp时转成fp16运算, 拿到fp16梯度后再转回fp32更新参数. ZeRO对显存占用的估算: 模型状态: Weights(fp16)、grad(fp16) 和 MasterWeights(fp32 模型参数备份),momentum ...

LLM并行训练2-张量并行

博主头像 切分方式 前置知识 矩阵乘法求导 \[Y=f(AB)=f(C) \]\[\frac{\partial Y}{\partial A} = \frac{\partial Y}{\partial C} \cdot B^{T} \]\[\frac{\partial Y}{\partial B} = A^{T ...

LLM并行训练1-流水线并行

博主头像 并行训练-流水线 简述 并行训练主要有三种策略: 数据并行训练加速比最高,但要求每个设备上都备份一份模型,显存占用比较高,通信量大 张量并行,通信量比较高,适合在机器内做模型并行。 流水线并行,训练设备容易出现空闲状态,加速效率没有DP高;但能减少通信边界支持更多的层数,适合在机器间使用。 流水线并 ...

01-如何查看你的Python版本?

博主头像 你可能听说过Python 2和Python 3。尽管它们是同一种语言的两个版本,但它们的语法不同;用Python 3编写的代码可能无法在Python 2中运行。让我们来看看如何在Windows、macOS和Linux系统的命令行和脚本中检查你的Python版本。 Python是最流行的编程语言之一。 ...

CBAM注意力模型介绍

博主头像 研究表明,人类视觉感知过程中,注意力机制发挥了积极的效果,可以帮助人们高效和自适应的处理视觉信息并聚焦于显著的画面区域,从而能够做出最准确的判断。因此,通过模拟视觉注意力机制,在网络结构中加入注意力模块,使模型可以更加关注待分类图像中的关键信息,抑制不相关的特征信息,促使模型对重要的特征区域更加敏感... ...

有手就行!10分钟上手实现文生图!

博主头像 大家好,我是 Java陈序员。 今天,给大家介绍一个文生图工具,无需繁杂的配置,一键安装启动,十分钟就能实现文生图! 关注微信公众号:【Java陈序员】,获取开源项目分享、AI副业分享、超200本经典计算机电子书籍等。 项目介绍 Fooocus 一款基于 Gradio 实现的图像生成软件,提供高质量 ...

<1···456···15>