PyTorch 是一个开源的机器学习框架，可以方便地进行神经网络模型训练和推理。本文基于 PyTorch 演示了一个非常简单但是功能齐全的神经网络训练过程，无论模型权重有多大，使用 TyTorch 训练的过程是类似的，期望本文能启到抛砖引玉的作用…… ...

目录1. 判断满二叉树2. 给定一个数，求该数的平方根，不用内置函数3. GAN model 内容4. Diffusion model 内容5. 二叉树的创建，插入和删除6. Linux相关命令：7. 快速排序8. xgboost和deepfm的性能。9. 判断链表里是否有环10. HDFS相关基础 ...

从DDPM到DDIM(四) 预测噪声与后处理 前情回顾 下图展示了DDPM的双向马尔可夫模型。 训练目标。最大化证据下界等价于最小化以下损失函数： \[\boldsymbol{\theta}^*=\underset{\boldsymbol{\theta}}{\operatorname{argmin} ...

从DDPM到DDIM(三) DDPM的训练与推理 前情回顾 首先还是回顾一下之前讨论的成果。 扩散模型的结构和各个概率模型的意义。下图展示了DDPM的双向马尔可夫模型。 其中\(\mathbf{x}_T\)代表纯高斯噪声，\(\mathbf{x}_t, 0 < t < T\) 代表中间的隐变量, \ ...

从DDPM到DDIM (一) 极大似然估计与证据下界 现在网络上关于DDPM和DDIM的讲解有很多，但无论什么样的讲解，都不如自己推到一遍来的痛快。笔者希望就这篇文章，从头到尾对扩散模型做一次完整的推导。本文的很多部分都参考了 Calvin Luo[1] 和 Stanley Chan[2] 写的经典 ...

本教程详细介绍了 LoRA 参数高效微调技术，包括数据集准备和处理、模型加载、参数设置等，然后以 Qwen2-0.5B 预训练模型实践，进行了文本分类能力微调，微调过程通过 SwanLab 可视化界面查看，最终微调模型进行测试数据评估…… ...

背景： 1.介绍FL 2.介绍NAS(讨论范围限制在CNN) 宏搜索空间覆盖整个CNN模型，例如，隐藏层的数量n、操作类型（例如，卷积）和快捷连接的链接方法 微观搜索空间仅覆盖整个模型结构中重复的基序或细胞。并且这些单元在复杂的多分支操作中构建 介绍RT(强化学习)在NAS中的运用，因为RT要模拟采 ...

本文介绍在tensorflow库中，用于动态调整神经网络的学习率的一种方法——指数衰减ExponentialDecay()策略的参数含义及其具体用法~ ...

大侠幸会，在下全网同名「算法金」 0 基础转 AI 上岸，多个算法赛 Top 「日更万日，让更多人享受智能乐趣」 今日 220+/10000 在 回归求助 & 送教程这篇文章中，我放出来最近在做的揭榜挂帅的 PPT 初稿，很多读者表示感兴趣，还有小伙伴问啥时候出书，更有同学贴心的给对象要了份PPT（ ...

1. RNN（Recurrent Neural Network） 时间轴 1986年，RNN 模型首次由 David Rumelhart 等人提出，旨在处理序列数据。 关键技术 循环结构 序列处理 长短时记忆网络（LSTM）和门控循环单元（GRU） 核心原理 RNN 通过循环结构让网络记住以前的输入 ...

前段时间写过一篇介绍神经网络的入门文章：神经网络极简入门。那篇文章介绍了神经网络中的基本概念和原理，并附加了一个示例演示如何实现一个简单的神经网络。 不过，在那篇文章中并没有详细介绍神经网络在训练时，是如何一步步找到每个神经元的最优权重的。本篇介绍神经网络训练时，常用的一种权重更新的方式--梯度下降 ...

图像增强方法在数字图像处理中占有重要地位，它能够有效提高图像的视觉效果，增强图像的细节信息，从而在医学、遥感、工业检测等多个领域发挥重要作用 1. 空间域增强方法 空间域增强方法是通过直接对图像像素进行操作来实现图像增强的技术。以下是几种常见的空间域增强方法： 1.1 直方图均衡化 直方图均衡化是一 ...

大侠幸会，在下全网同名「算法金」 0 基础转 AI 上岸，多个算法赛 Top 「日更万日，让更多人享受智能乐趣」 今日 210+/10000，内含 Pandas 是一个强大的数据分析库，广泛应用于科学研究、金融分析、商业智能等领域。它提供了高效的数据结构和数据分析工具，使得处理和分析数据变得更加简单 ...

大侠幸会，在下全网同名「算法金」 0 基础转 AI 上岸，多个算法赛 Top 「日更万日，让更多人享受智能乐趣」 今日 216/10000 抱个拳，送个礼 神经网络设计与选择 参数初始化与优化 学习率调整与正则化 数据预处理与标准化 训练过程与监控 特定模型技巧 其他训练技巧 1. 神经网络设计与选 ...

​ 大侠幸会，在下全网同名「算法金」 0 基础转 AI 上岸，多个算法赛 Top 「日更万日，让更多人享受智能乐趣」 今日 215/10000 为模型找到最好的超参数是机器学习实践中最困难的部分之一 1. 超参数调优的基本概念 机器学习模型中的参数通常分为两类：模型参数和超参数。模型参数是模型通过训 ...

一、概述 分类模型是机器学习中一种最常见的问题模型，在许多问题场景中有着广泛的运用，是模式识别问题中一种主要的实现手段。分类问题概况起来就是，对一堆高度抽象了的样本，由经验标定了每个样本所属的实际类别，由特定算法训练得到一个分类器，输入样本属性即自动计算出其所属类别，从而完成特定的识别任务。依实现原 ...

大侠幸会，在下全网同名「算法金」 0 基础转 AI 上岸，多个算法赛 Top 「日更万日，让更多人享受智能乐趣」 参考 论文：https://arxiv.org/abs/2101.02118 更多内容，见微*公号往期文章： 审稿人：拜托，请把模型时间序列去趋势！！ 使用 Python 快速上手 LS ...

大侠幸会，在下全网同名「算法金」 0 基础转 AI 上岸，多个算法赛 Top 「日更万日，让更多人享受智能乐趣」 不要轻易使用 For 循环 For 循环，老铁们在编程中经常用到的一个基本结构，特别是在处理列表、字典这类数据结构时。但是，这东西真的是个双刃剑。虽然看起来挺直白，一用就上手，但是，有时 ...

大侠幸会，在下全网同名「算法金」 0 基础转 AI 上岸，多个算法赛 Top 「日更万日，让更多人享受智能乐趣」 抱个拳，送个礼 高斯过程回归（GPR）是一种非参数化的贝叶斯方法，用于解决回归问题。与传统的线性回归模型不同，GPR 能够通过指定的核函数捕捉复杂的非线性关系，并提供不确定性的估计。在本 ...

大侠幸会，在下全网同名「算法金」 0 基础转 AI 上岸，多个算法赛 Top 「日更万日，让更多人享受智能乐趣」 抱个拳，送个礼 更多内容，见微*公号往期文章，阅读人数已破 10, 000：协方差、方差、标准差、协方差矩阵 好的，让我们开始这段统计学的江湖之旅，早日实现一“统”江湖大业。 1. 什么 ...