博客园  :: 首页  :: 新随笔  :: 联系 :: 订阅 订阅  :: 管理

2026年2月14日

摘要: 独立同分布(i.i.d.) 引言 独立同分布(Independent and Identically Distributed,简称i.i.d.)是概率论与数理统计体系中最基础、最核心的假设之一,也是机器学习、数据分析、信号处理等领域的底层逻辑基石。无论是经典的参数估计、假设检验,还是深度学习模型的泛 阅读全文

posted @ 2026-02-14 15:48 steve.z 阅读(2) 评论(0) 推荐(0)

摘要: 极大似然估计(MLE) 一、引言 在统计学、机器学习与数据建模领域,我们经常会遇到这样的核心问题:已经采集到一组样本数据,且已知数据服从某一类概率分布,但分布的关键参数未知,如何通过已有的样本,反推出最合理的参数值? 极大似然估计就是解决这类问题最经典、最常用的方法之一,它广泛应用于线性回归、逻辑回 阅读全文

posted @ 2026-02-14 15:39 steve.z 阅读(3) 评论(0) 推荐(0)

摘要: Python 广播机制 目录 什么是广播机制 广播的核心规则 广播的实际应用 常见广播场景示例 广播的注意事项与陷阱 什么是广播机制 广播(Broadcasting) 是 NumPy 中一种强大的机制,它允许不同形状的数组之间进行算术运算。在没有广播的情况下,两个数组进行运算必须具有完全相同的形状。 阅读全文

posted @ 2026-02-14 11:10 steve.z 阅读(1) 评论(0) 推荐(0)

2026年2月13日

摘要: 快速复习:求导、偏导数与链式求导 一、一元函数求导(基础核心) 核心:针对单变量函数 \( y = f(x) \),求因变量 \( y \) 对自变量 \( x \) 的变化率,记为 \( f'(x) \) 或 \( \frac{dy}{dx} \)。 1. 常用基本导数公式(必记) 常数导数:\( 阅读全文

posted @ 2026-02-13 11:38 steve.z 阅读(1) 评论(0) 推荐(0)

摘要: 链式求导(Chain Rule)的本质是复合函数变化的传递机制——它描述了当多个函数嵌套组合时,输入的微小变化如何通过每一层函数逐层传递、缩放,最终影响到输出。 核心直觉:变化率的"接力赛" 想象一个三层复合函数 \(y = f(g(h(x)))\): x → [h] → u → [g] → v → 阅读全文

posted @ 2026-02-13 10:47 steve.z 阅读(3) 评论(0) 推荐(0)

2026年2月12日

摘要: 在数学(微积分)领域,这四个术语的英文翻译如下: 1. 导数 (Derivative) 翻译: Derivative 相关用法: Take the derivative: 求导 First/Second derivative: 一阶/二阶导数 Directional derivative: 方向导数 阅读全文

posted @ 2026-02-12 16:28 steve.z 阅读(2) 评论(0) 推荐(0)

摘要: RAG、MCP、Skills 技术指南 一、RAG (Retrieval-Augmented Generation) 什么是 RAG? RAG 是一种增强型生成技术,它将检索系统与大语言模型结合起来。简单来说,RAG 让 AI 在回答问题时,不仅依赖训练数据,还能从外部知识库中检索相关信息,然后基于 阅读全文

posted @ 2026-02-12 15:59 steve.z 阅读(20) 评论(0) 推荐(0)

摘要: 凸函数与凹函数:数学优化中的关键概念 基本定义 函数类型 数学特征 几何特征 典型应用 凸函数 任意两点连线位于函数图像之上 图像呈"碗状" 优化问题、机器学习 凹函数 任意两点连线位于函数图像之下 图像呈"帽状" 资源分配、决策理论 凸函数和凹函数的英文翻译 中文术语 英文术语 专业解释 凸函数 阅读全文

posted @ 2026-02-12 15:17 steve.z 阅读(4) 评论(0) 推荐(0)

摘要: Loss Function 和 Cost Function:机器学习中的关键概念 基本定义 术语 定义 特点 应用场景 Loss Function(损失函数) 衡量单个样本预测结果与真实值之间的误差 针对单次预测 分类、回归模型 Cost Function(代价函数) 计算整个训练集所有样本的平均误 阅读全文

posted @ 2026-02-12 15:09 steve.z 阅读(1) 评论(0) 推荐(0)

摘要: 赫布原理(Hebbian principle / Hebb's rule) 是现代神经科学和人工智能领域最重要、最经典的理论之一。它被公认为学习和记忆的细胞水平生物学基础。 1. 谁提出的?什么时候? 提出者:加拿大心理学家 Donald Olding Hebb(唐纳德·赫布) 时间:1949年 出 阅读全文

posted @ 2026-02-12 09:16 steve.z 阅读(4) 评论(0) 推荐(0)