随笔分类 - paper
-
ResNet:Deep Residual Learning for Image Recognition
摘要:摘要 残差网络:一种深度学习中的神经网络结构,通过引入跳跃连接来解决深度神经网络中的梯度消失和梯度爆炸问题。ResNet(residual networks)的简单介绍 输入层学习参差函数,而不是学习未残差的函数。以及在ImageNet和COCO数据集上取得好的成绩。 1 介绍 揭示了网络的深度对于 阅读全文
-
AlexNet: ImageNet Classification with Deep Convolutional Neural Networks
摘要:摘要: 在ImageNet竞赛中,主要使用8层(5个卷积层、三个全连接层),其中在第1,2,5层使用最大池化,三个全连接层使用softmax非线性激活。实现图像分类,正是AlexNet网络模型的结构,在传统的神经网络模型中,使用非饱和和高效的CPU来卷积操作,同时也是用“dropout”(正则化)来 阅读全文
-
Transformer:Attention is all you need
摘要:摘要 transformer是一种新的网络架构,它放弃了传统的循环和卷积,提供了一种编码器和解码器网络结构来完成任务,主要用于翻译任务中。它的优点为:更少的训练时间,较好的泛用性。 1 介绍 循环神经网络模型包括长短期记忆(LSTM)和门控制神经网络模型,被确立为序列模型和转导问题,推动了循环语言模 阅读全文
-
ALOHA:A Simple Recipe for Robot Dexterity
摘要:摘要: 模仿学习在学习端到端的机器策略中展示了好的结果,本论文的工作解决的问题是,能在多大程度上推动模仿学习来挑战灵巧的操作任务。在ALOHA2 平台上,将一个简单的大规模数据收集的配方与可表达的模型(扩散的策略)相结合,可以有效地学习具有挑战性的手动操作任务,包括可变形的物体和复杂的接触丰富的动态 阅读全文