随笔分类 - ai / 机器学习
摘要：Transformer 是一个 seq2seq 的模型，输入是序列数据，输出也是序列数据，输出的序列数据长度由模型决定。 seq2seq's model 应用 语音辨识、机器翻译、语音翻译都是 seq2seq's model 的应用。 很多 nlp 任务都可以当成 QA 任务来做，而 QA 的问题又
阅读全文
摘要：引入 Self-attention 前面学到的内容输入都是一个向量，假如输入是一排向量，又应如何处理。 来看下有什么例子需要将一排向量输入模型： 当输入是一排向量时，输出有三种类型： 输入和输出的长度一样，每一个向量对应一个 label，如词性标注、音标识别、节点特性（如会不会买某件商品）。 一整个
阅读全文
摘要：卷积神经网络（CNN，Convolutional Neural Network）是专门用于影像识别的 Network 架构。 现在来看一个图像识别的例子： 现在的问题是怎么一张图片当成模型的输入呢？ 对于机器来说，一张图片是一个三维的 tensor，即图片的宽、高和 channel 的数目。对于示例
阅读全文
摘要：这一节主要讲解机器学习、类神经网络训练不起来怎么办？讲解一些训练的 tips。 先来回顾下机器学习的步骤： 接下来将介绍在机器学习过程中，遇到问题时如何判断原因并解决： 在训练数据上 Loss 值很大 Model Bias 在训练数据上 Loss 值很大，有可能是发生了 Model 问题。 问题原因
阅读全文
摘要：学习内容链接 李宏毅机器学习2021 很早以前我们就希望机器能跟人一样聪明，AI 是我们想要达成的目标，机器学习达成这一目标的手段，让机器通过学习能变得跟人一样聪明。 深度学习是机器学习的其中一种方法。 机器学习和深度学习介绍 机器学习介绍 Machine Learning 概括来说就是 Looki
阅读全文
摘要：生成式学习是用来生成有结构的复杂物件，这些复杂物件通常由一些小的元素构成： * 文句：由 token 所构成 * 中文的 token 就是【字】 * 英文的 token 是 word piece。 unbreakable -> un break able * 影像：由像素所组成 * 语音：由取样点所
阅读全文
摘要：> 该文是一篇机器学习的学习笔记，学习内容：[李宏毅2023春机器学习课程](https://speech.ee.ntu.edu.tw/~hylee/ml/2023-spring.php) ChatGPT（Chat Generative Pre-trained Transformer） 是一个以对话
阅读全文
