论文笔记(3)—"Federated Composite Optimization"
这篇讲的是如果FL的model需要一些regularity,例如sparsity等性质,如何去优化这样一个model。
再FL的local和server update上引入了两个方法,一个是Mirror Descent,另一个是Dual Averaging。
他们的实验优化的都是一些convex的函数,跟之前写的multi-task FL一样,可能在在neural network上Dual Avergaing比较难以实施。
对于Mirror Descent的方法,这种proximal想法在Federated Optimization in Heterogeneous Networks也出现过,不过之前的那篇在解决一个Heterogeneity的问题,而这个proximal是model本身的需要。
至于具体证明,等2月份有空的时候会统一整理一遍。
具体证明看不懂,等有时间看完dual averaging之后再看吧
标签:
Paper Disscusion
【推荐】国内首个AI IDE,深度理解中文开发场景,立即下载体验Trae
【推荐】编程新体验,更懂你的AI,立即体验豆包MarsCode编程助手
【推荐】抖音旗下AI助手豆包,你的智能百科全书,全免费不限次数
【推荐】轻量又高性能的 SSH 工具 IShell:AI 加持,快人一步
· 从 HTTP 原因短语缺失研究 HTTP/2 和 HTTP/3 的设计差异
· AI与.NET技术实操系列:向量存储与相似性搜索在 .NET 中的实现
· 基于Microsoft.Extensions.AI核心库实现RAG应用
· Linux系列:如何用heaptrack跟踪.NET程序的非托管内存泄露
· 开发者必知的日志记录最佳实践
· TypeScript + Deepseek 打造卜卦网站:技术与玄学的结合
· Manus的开源复刻OpenManus初探
· AI 智能体引爆开源社区「GitHub 热点速览」
· C#/.NET/.NET Core技术前沿周刊 | 第 29 期(2025年3.1-3.9)
· 从HTTP原因短语缺失研究HTTP/2和HTTP/3的设计差异