07 2022 档案

Rprop 与 RMSprop 优化器
摘要：https://www.cnblogs.com/setdong/p/16508415.html 1. Rprop 在 full-batch optimization 中, 一些梯度可能很小, 而另一些梯度可能很大, 故难以寻找一个 global 学习率. 可以使用梯度的 sign 解决这个问题, 保 阅读全文
posted @ 2022-07-23 03:27 李斯赛特 阅读(1263) 评论(0) 推荐(0) 编辑
【论文笔记】Towards Certifying l-infinity robustness using neural networks with l-infinity-dist neurons
摘要：原文地址 slides GitHub 代码 本文发表于 2021 ICML，提出了一个新颖的神经网络计算方式：对于网络中的每个神经元，不采用传统的线性转换+非线性激活函数的方式，而是计算输入与参数之间的 ℓ∞-distance，作者将其称为 ℓ∞- 阅读全文
posted @ 2022-07-15 07:14 李斯赛特 阅读(1162) 评论(0) 推荐(0) 编辑
【论文笔记】（2015，JSMA）The Limitations of Deep Learning in Adversarial Settings
摘要：提出 JSMA 对抗样本生成方法 阅读全文
posted @ 2022-07-02 18:23 李斯赛特 阅读(1469) 评论(0) 推荐(0) 编辑

点击右上角即可分享
微信分享提示