摘要: 中间收敛证明省略了一段,具体请看原文 阅读全文
posted @ 2021-02-13 17:33 Neo_DH 阅读(486) 评论(0) 推荐(0) 编辑
摘要: 只整理自己觉得必要的部分,如有兴趣请读原note 阅读全文
posted @ 2021-02-06 22:30 Neo_DH 阅读(291) 评论(0) 推荐(1) 编辑
摘要: 匆忙记下需要整理的内容。阅读之前建议了解Mirror Descent等优化方法(疯狂暗示)。证明补不全了,有时间看了dual averaging之后再看吧 阅读全文
posted @ 2021-01-27 20:19 Neo_DH 阅读(287) 评论(0) 推荐(0) 编辑
摘要: 如何在Federated Learning中使用adaptive method,他们的reformula很棒,以及学习一下adaptive 方法的证明。至于文中最关键的如何将Local update和server model联系起来证明收敛性写的太模糊了,看不太懂。未完待续,欢迎留言讨论。 阅读全文
posted @ 2021-01-22 23:21 Neo_DH 阅读(1155) 评论(0) 推荐(0) 编辑
摘要: 写不出论文了,兴趣使然地开一个论文笔记系列,不知道毕业的时候能写到多少篇(苦笑)。论文名称"Clustered federated learning: Model-Agnostic distributed multi-Task optimization under privacy constraints",讲的是如何用gradients来划分用户 阅读全文
posted @ 2021-01-15 22:00 Neo_DH 阅读(1204) 评论(0) 推荐(0) 编辑
摘要: 关于mirror descent的整理,2/2/2021主要更新:详细说明了MD和GD的区别 阅读全文
posted @ 2021-01-09 03:52 Neo_DH 阅读(1233) 评论(0) 推荐(0) 编辑
摘要: 一转眼马上就要2021年,自己已经很久没有更新文章了,趁还有几天可以挣扎再弥补弥补 阅读全文
posted @ 2020-12-26 23:36 Neo_DH 阅读(123) 评论(0) 推荐(0) 编辑
摘要: 《Three Approaches for Personalization with Applications to Federated Learning》论文笔记(简略版,证明待看) 阅读全文
posted @ 2020-10-13 03:23 Neo_DH 阅读(2001) 评论(4) 推荐(2) 编辑
摘要: Linux相关个人整理,目前进度12/19,暂停更新,后续内容另追加。 阅读全文
posted @ 2020-10-08 17:40 Neo_DH 阅读(166) 评论(1) 推荐(1) 编辑
摘要: 是对2018年挂在arxiv,19年发表在AAAI会议上的"RSA: Byzantine-Robust Stochastic Aggregation Methods for Distributed Learning from Heterogeneous Datasets"阅读笔记 阅读全文
posted @ 2020-09-14 17:25 Neo_DH 阅读(614) 评论(0) 推荐(2) 编辑