摘要: 神经网络模型拆分Distributed Machine Learning Federated Learning 针对神经网络的模型并行方法有:横向按层划分、纵向跨层划分和模型随机划分 横向按层划分将神经网络每两层间的连边参数、激活函数值和误差传播值存储于一个工作结点。前馈时,每一个节点要先向前一个结点索要一层的数据,经过自身的计算后,再把数据存到自身的末层上,供下一层发出索要数据的申请。后馈... 阅读全文
posted @ 2018-12-07 23:02 JamesDYX 阅读(2024) 评论(1) 推荐(0) 编辑
摘要: Chisel 学习笔记(七)Chisel 集合在Chisel中,我们既可以使用Scala中自带的集合,包括List,Seq,ArrayBuffer——List的使用方式在学习笔记(一)中有所体现;Seq与List类似,但是在Chisel中,我们更常使用Seq来表述某个模块的参数;ArrayBuffer的特性是不用描述出长度,且通过+就可以简单的添加元素(-可以删除元素),较为方便——也可以使... 阅读全文
posted @ 2018-12-07 13:24 JamesDYX 阅读(4293) 评论(0) 推荐(0) 编辑