摘要: 完整代码 前言 关于Transformer原理与论文的介绍:详细了解Transformer:Attention Is All You Need PyTorch中实现Transformer模型 前面介绍了,Transformer 模型结构的实现,这里介绍下论文中提到的训练策略与设置。 设置文件名为tr 阅读全文
posted @ 2024-02-07 15:44 October- 阅读(199) 评论(0) 推荐(0) 编辑
摘要: 报错 在复现 Transformer 代码的训练阶段时,发生报错: RuntimeError: Expected all tensors to be on the same device, but found at least two devices, cuda:0 and cpu! 解决方案 通过 阅读全文
posted @ 2024-02-04 19:09 October- 阅读(54) 评论(0) 推荐(0) 编辑
摘要: 完整代码 前言 关于Transformer原理与论文的介绍:详细了解Transformer:Attention Is All You Need 对于论文给出的模型架构,使用 PyTorch 分别实现各个部分。 命名transformer.py,引入的相关库函数: import copy import 阅读全文
posted @ 2024-02-01 16:34 October- 阅读(855) 评论(0) 推荐(2) 编辑
摘要: 前言 使用opencv对图像进行操作,要求:(1)定位银行票据的四条边,然后旋正。(2)根据版面分析,分割出小写金额区域。 图像校正 首先是对图像的校正 读取图片 对图片二值化 进行边缘检测 对边缘的进行霍夫曼变换 将变换结果从极坐标空间投影到笛卡尔坐标得到倾斜角 根据倾斜角对主体校正 import 阅读全文
posted @ 2024-01-19 15:59 October- 阅读(698) 评论(0) 推荐(0) 编辑
摘要: 论文“Bi-directional Distribution Alignment for Transductive Zero-Shot Learning”提出Bi-VAEGAN,它以f-VAEGAN-D2为Baseline,进一步发展了TF-VAEGAN通过利用所见数据和反馈模块增强生成的视觉特征思 阅读全文
posted @ 2024-01-10 20:36 October- 阅读(145) 评论(0) 推荐(0) 编辑
摘要: 前面介绍了将VAE+GAN解决零样本学习的方法:f-VAEGAN-D2,这里继续讨论引入生成模型处理零样本学习(Zero-shot Learning, ZSL)问题。论文“Latent Embedding Feedback and Discriminative Features for Zero-S 阅读全文
posted @ 2024-01-10 16:44 October- 阅读(285) 评论(0) 推荐(0) 编辑
摘要: 使用OpenCV实现视频去抖 整体步骤: 设置输入输出视频 寻找帧之间的移动:使用opencv的特征检测器,检测前一帧的特征,并使用Lucas-Kanade光流算法在下一帧跟踪这些特征,根据两组点,将前一个坐标系映射到当前坐标系完成刚性(欧几里得)变换,最后使用数组纪录帧之间的运动。 计算帧之间的平 阅读全文
posted @ 2024-01-08 09:49 October- 阅读(571) 评论(0) 推荐(0) 编辑
摘要: 虽然f-VAEGAN-D2在题目中说“适用任意样本”,但对比的Few-shot相关的实验较少,这里仅讨论零样本学习的情况。 1. 背景介绍 由于为每个对象收集足够数量的高质量带标签样本难以实现,使用有限的标签进行训练学习一直是一个重要的研究方向。零样本学习(Zero-Shot Learning, Z 阅读全文
posted @ 2024-01-07 20:09 October- 阅读(275) 评论(0) 推荐(0) 编辑
摘要: 原论文于2023.11.6撤稿,原因:缺乏合法的授权,详见此处 Abstract 在小样本学习中(Few-shot Learning, FSL)中,有通过利用额外的语义信息,如类名的文本Embedding,通过将语义原型与视觉原型相结合来解决样本稀少的问题。但这种方法可能会遇到稀有样本中学到噪声特征 阅读全文
posted @ 2023-12-23 15:01 October- 阅读(420) 评论(0) 推荐(1) 编辑
摘要: 生成模型 给定数据集,希望生成模型产生与训练集同分布的新样本。对于训练数据服从\(p_{data}(x)\);对于产生样本服从\(p_{model}(x)\)。希望学到一个模型\(p_{model}(x)\)与\(p_{data}(x)\)尽可能接近。 这也是无监督学习中的一个核心问题——密度估计问 阅读全文
posted @ 2023-12-10 21:49 October- 阅读(293) 评论(9) 推荐(1) 编辑
摘要: 前言 本文使用Python实现了PCA算法,并使用ORL人脸数据集进行了测试并输出特征脸,简单实现了人脸识别的功能。 1. 准备 ORL人脸数据集共包含40个不同人的400张图像,是在1992年4月至1994年4月期间由英国剑桥的Olivetti研究实验室创建。此数据集包含40个类,每个类含10张图 阅读全文
posted @ 2023-11-30 20:43 October- 阅读(749) 评论(0) 推荐(0) 编辑
摘要: 论文链接:Meta-Tuning Loss Functions and Data Augmentation for Few-Shot Object Detection Abstract 现阶段的少样本学习技术可以分为两类:基于微调(fine-tuning)方法和基于元学习(meta-learning 阅读全文
posted @ 2023-11-15 19:44 October- 阅读(579) 评论(0) 推荐(1) 编辑
摘要: 基于元学习(Meta-Learning)的方法: Few-shot问题或称为Few-shot学习是希望能通过少量的标注数据实现对图像的分类,是元学习(Meta-Learning)的一种。 Few-shot学习,不是为了学习、识别训练集上的数据,泛化到测试集,而是为了让模型学会学习。也就是模型训练后, 阅读全文
posted @ 2023-11-11 11:01 October- 阅读(2160) 评论(0) 推荐(0) 编辑
摘要: --> 1. 背景 在机器翻译任务下,RNN、LSTM、GRU等序列模型在NLP中取得了巨大的成功,但是这些模型的训练是通常沿着输入和输出序列的符号位置进行计算的顺序计算,无法并行。 文中提出了名为Transformer的模型架构,完全依赖注意力机制(Attention Mechanisms),构建 阅读全文
posted @ 2023-09-29 12:45 October- 阅读(387) 评论(0) 推荐(1) 编辑
摘要: 数据来源:House Prices - Advanced Regression Techniques 参考文献: Comprehensive data exploration with Python 1. 导入数据 import pandas as pd import warnings warnin 阅读全文
posted @ 2023-09-11 20:16 October- 阅读(190) 评论(0) 推荐(0) 编辑