摘要: 1. Transformer整体结构 首先介绍Transformer的整体结构,下图是Transformer用于中英文翻译的整体结构: 可以看到Transformer由Encoder和Decoder两部分组成,Encoder和Decoder都包含了6个block。 Transformer的工作流程大 阅读全文
posted @ 2024-04-09 11:22 野哥李 阅读(159) 评论(0) 推荐(0) 编辑
摘要: 什么是Transformer? Transformer架构擅长处理文本数据,这些数据本身是有顺序的。他们将一个文本序列作为输入,并产生另一个文本序列作为输出。例如,讲一个输入的英语句子翻译成西班牙语。 Transformer的核心部分,包含一个编码器层和解码器层的堆栈。 为了避免混淆,我们把单个层称 阅读全文
posted @ 2024-03-26 20:49 野哥李 阅读(241) 评论(0) 推荐(0) 编辑
摘要: Transformer 自注意力机制 自注意力机制核心就是计算句子在编码过程中每个位置上的注意力权重,然后再以权重和的方式计算整个句子的隐含向量表示 attention核心? self-attention 核心公式: \(\text{Attention}(Q,K,V) = \text{softmax 阅读全文
posted @ 2024-03-25 17:42 野哥李 阅读(33) 评论(0) 推荐(0) 编辑
摘要: CJSON简介 官网下载 cJSON download | SourceForge.net github clone地址:https://github.com/yegeli/cJSON.git gitee clone地址:https://gitee.com/yegeli/cJSON.git 核心内容 阅读全文
posted @ 2023-11-15 17:21 野哥李 阅读(306) 评论(0) 推荐(0) 编辑
摘要: 836. 矩形重叠 题目描述 矩形以列表 [x1, y1, x2, y2] 的形式表示,其中 (x1, y1) 为左下角的坐标,(x2, y2) 是右上角的坐标。矩形的上下边平行于 x 轴,左右边平行于 y 轴。 如果相交的面积为 正 ,则称两矩形重叠。需要明确的是,只在角或边接触的两个矩形不构成重 阅读全文
posted @ 2023-11-13 09:41 野哥李 阅读(18) 评论(0) 推荐(0) 编辑
摘要: 119. 杨辉三角 II 题目描述 给定一个非负索引 rowIndex,返回「杨辉三角」的第 rowIndex 行。 在「杨辉三角」中,每个数是它左上方和右上方的数的和。 示例 1: 输入: rowIndex = 3 输出: [1,3,3,1] 示例 2: 输入: rowIndex = 0 输出: 阅读全文
posted @ 2023-11-06 15:23 野哥李 阅读(27) 评论(0) 推荐(0) 编辑
摘要: 118. 杨辉三角 题目描述 给定一个非负整数 numRows,生成「杨辉三角」的前 numRows 行。 在「杨辉三角」中,每个数是它左上方和右上方的数的和。 示例 1: 输入: numRows = 5 输出: [[1],[1,1],[1,2,1],[1,3,3,1],[1,4,6,4,1]] 示 阅读全文
posted @ 2023-11-06 11:58 野哥李 阅读(22) 评论(0) 推荐(0) 编辑
摘要: 112. 路径总和 题目描述 给你二叉树的根节点 root 和一个表示目标和的整数 targetSum 。判断该树中是否存在 根节点到叶子节点 的路径,这条路径上所有节点值相加等于目标和 targetSum 。如果存在,返回 true ;否则,返回 false 。 叶子节点 是指没有子节点的节点。 阅读全文
posted @ 2023-11-06 11:09 野哥李 阅读(29) 评论(0) 推荐(0) 编辑
摘要: 111. 二叉树的最小深度 题目描述 给定一个二叉树,找出其最小深度。 最小深度是从根节点到最近叶子节点的最短路径上的节点数量。 说明:叶子节点是指没有子节点的节点。 示例 1: 输入:root = [3,9,20,null,null,15,7] 输出:2 示例 2: 输入:root = [2,nu 阅读全文
posted @ 2023-10-31 14:44 野哥李 阅读(12) 评论(0) 推荐(0) 编辑
摘要: 110. 平衡二叉树 题目描述 给定一个二叉树,判断它是否是高度平衡的二叉树。 本题中,一棵高度平衡二叉树定义为: 一个二叉树每个节点 的左右两个子树的高度差的绝对值不超过 1 。 示例 1: 输入:root = [3,9,20,null,null,15,7] 输出:true 示例 2: 输入:ro 阅读全文
posted @ 2023-10-31 11:19 野哥李 阅读(8) 评论(0) 推荐(0) 编辑