合集-机器学习
摘要：
一、前言 随着 ChatGPT 的横空出世，全世界的目光都聚焦在了生成式 AI 上。本次将介绍 Transformer 的发展历史、基本原理，也是记录总结自己在学习路上的所得。 首先我想聊聊 NLP 的发展路线，这样对于后面的 transformer 可能会有更好的理解。自从计算机诞生之初，让计算机
阅读全文
一、前言 随着 ChatGPT 的横空出世，全世界的目光都聚焦在了生成式 AI 上。本次将介绍 Transformer 的发展历史、基本原理，也是记录总结自己在学习路上的所得。 首先我想聊聊 NLP 的发展路线，这样对于后面的 transformer 可能会有更好的理解。自从计算机诞生之初，让计算机
阅读全文
摘要：
一、前言简介 我相信你一定听过一个说法，那就是机器学习模型可以被视为函数的一种表示方式。它们通常是由多个函数组成的，这些函数通过参数连接在一起。我们让机器从数据中提取模式、规律和关联，然后使用这些信息来做出预测、分类、聚类等任务。所以从本质上来说，在机器学习中我们其实就是要找一个超级函数，我们已知的
阅读全文
一、前言简介 我相信你一定听过一个说法，那就是机器学习模型可以被视为函数的一种表示方式。它们通常是由多个函数组成的，这些函数通过参数连接在一起。我们让机器从数据中提取模式、规律和关联，然后使用这些信息来做出预测、分类、聚类等任务。所以从本质上来说，在机器学习中我们其实就是要找一个超级函数，我们已知的
阅读全文
摘要：一、前言 在真正的工程应用中，模型训练也许更为重要，特别是对于生成式模型来说，无论是 NLP 领域或者 GNN 领域所产生的内容是否适用，在直觉上我们可以可以清晰的辨别。但是具体在模型上我们怎么调整就是一个类似黑盒的概念，我们一般通过更多的特征向量，和更深层次的神经网络架构来实现我们所期望的内容。但
阅读全文
摘要：
一、前言 前面我们了解了关于机器学习使用到的数学基础和内部原理，这一次就来动手使用 pytorch 来实现一个简单的神经网络工程，用来识别手写数字的项目。自己动手后会发现，框架里已经帮你实现了大部分的数学底层逻辑，例如数据集的预处理，梯度下降等等，所以只要你有足够棒的idea，你大部分都能相对轻松去
阅读全文
一、前言 前面我们了解了关于机器学习使用到的数学基础和内部原理，这一次就来动手使用 pytorch 来实现一个简单的神经网络工程，用来识别手写数字的项目。自己动手后会发现，框架里已经帮你实现了大部分的数学底层逻辑，例如数据集的预处理，梯度下降等等，所以只要你有足够棒的idea，你大部分都能相对轻松去
阅读全文
摘要：一、前言 在上一篇中我们使用全连接网络，来构建我们的手写数字图片识别应用，取得了很好的效果。但是值得注意的是，在实验的最后，最后我们无论把 LOSS 优化到如何低，似乎都无法在测试数据集 test data 中提高我们的识别准确度，你可以回头尝试全连接的网络连接，新增多几层 layer ，来尝试是否
阅读全文
摘要：
一、前言 通过上一篇文章，我们大概了解了卷积是什么，并且分析了为什么卷积能在图像识别上起到巨大的作用。接下来，废话不多话，我们自己尝试动手搭建一个简易的CNN网络。 二、准备工作 在开始的时候，我们首先概括一下卷积所需要进行的工作： 定义一个卷积核：卷积核是一个小的矩阵（例如3x3或5x5），包含一
阅读全文
一、前言 通过上一篇文章，我们大概了解了卷积是什么，并且分析了为什么卷积能在图像识别上起到巨大的作用。接下来，废话不多话，我们自己尝试动手搭建一个简易的CNN网络。 二、准备工作 在开始的时候，我们首先概括一下卷积所需要进行的工作： 定义一个卷积核：卷积核是一个小的矩阵（例如3x3或5x5），包含一
阅读全文
