随笔分类 - 机器（深度）学习 / 深度学习知识
损失函数代码
摘要：这个是从代码层面，详细了解损失函数！ CrossEntropyLoss import torch import torch.nn as nn # 实际中遇到的 outputs = torch.tensor([[0.5870, 0.4130], [0.6517, 0.3483], [0.4455, 0
阅读全文
过拟合、欠拟合
摘要：过拟合（Overfitting）： 定义： 过拟合指的是模型在训练数据上表现很好，但在新数据上表现较差的情况。模型过于复杂，可能捕捉了训练数据中的噪声或特定的样本特征，而这些特征并不代表整体的数据分布。 原因： 过拟合通常发生在模型复杂度较高、参数过多或者训练数据不足的情况下。模型可能过分记住了训练
阅读全文
模型的评估
摘要：在机器学习中，模型评估有很多不同的指标，具体的选择通常取决于你解决的问题的性质（例如分类、回归等）以及你关心的特定性能方面。以下是一些常见的模型评估指标： 分类问题指标： 在二分类问题中，"正类别"通常指的是模型预测为正例的类别。在一个二分类问题中，我们通常将其中一个类别标记为正例（Positive
阅读全文
epoch
摘要：在机器学习中，一个 epoch 是指对整个训练数据集进行一次完整的训练。在训练神经网络时，一次完整的训练周期会经过所有的训练样本，然后根据模型的权重进行参数更新。 训练数据集通常被分成小批次（minibatches）进行处理，每个小批次包含一组训练样本。在一个 epoch 中，模型会逐批次地处理训练
阅读全文
多分类问题：模型输出结果，和标签的顺序
摘要：背景： 在多分类问题中，模型输出的结果是一个矩阵，某个值为1，其他的值为0. 怎么知道值为1的那个位置，代表的是哪个标签？？ 二分类 常见的约定的惯例 第一个位置通常对应"负类别"：这是因为通常情决定了负类别是标签0或其他表示非目标类别的值。 第二个位置通常对应"正类别"：同样地，正类别通常被编码为
阅读全文
下采样和上采样
摘要：参考文献：https://blog.csdn.net/zhibing_ding/article/details/125254670 下采样： 上采样是指减少某类别的样本数量多的数据，使其与多数类别的样本数量相近。 对图像而言，下采样就是特征提取，减少数据量 上采样： 上采样是指增加某类别的样本数量少
阅读全文
归一化，池化
摘要：定义：归一化（Normalization）是数据处理和统计分析中常用的一种技术，其目的是将数据转换成特定的范围或分布，以便更好地进行比较、分析和处理。 归一化通常用于以下领域： 数据标准化：在数据分析和机器学习中，归一化可以用于将不同尺度的数据转换为相同的尺度，以避免某些特征对模型的权重产生不合理的
阅读全文
训练集 测试集
摘要：定义 训练集（Training Set）： 训练集是用来训练机器学习模型的数据集。 模型通过训练集中的样本学习关联模式、特征，以便能够对新数据进行预测或分类。 训练集的质量和数量对模型性能有着重要的影响。 测试集（Test Set）： 测试集用于最终评估模型的性能，检查模型对未见过的数据的泛化能力。
阅读全文
MLP多层感知机、人工神经网络、前馈神经网络、最基本的网络模型
摘要：多层感知机（MLP，Multilayer Perceptron）也叫人工神经网络（ANN，Artificial Neural Network） MLP多层感知机，即原始神经网络。只用全连接层，没有卷积层，只接受向量（一维数组）作为输入，不接受矩阵（二维数组），丢失图像中的像素关系 包括输入层、输出层
阅读全文
模型相关概念
摘要：我发现这种数学问题，国内的教材，就会给你整的罗里吧嗦，说不清楚，让人非常难理解 激活函数：是调整模型的，也就是σ。来调整模型的权重，使需要的神经元高亮， 损失函数（loss function）或代价函数（cost function）：用来评价模型好坏的，在epoch每次迭代的时候展示 梯度下降法(g
阅读全文
