摘要:
原标题:注意!使用FPGA“代替”CPU,说法不准确! 问题「用 FPGA 代替 CPU」中,这个「代替」的说法不准确。我们并不是不用 CPU 了,而是用 FPGA 加速适合它的计算任务,其他任务仍然在 CPU 上完成,让 FPGA 和 CPU 协同工作。 为什么使用 FPGA,相比 CPU、GPU 阅读全文
摘要:
今天看了陆奇最近关于大模型的分享,其中提取微软(openai)在做chatgpt训练时,多台服务器之间的通信并非采用的网卡形式,而是使用的fpga进行,这也令我新增了一个知识盲区,于是去了解了,以下是陆奇原文: 做大模型是很难的,很大难度是infra(基础设施)。我在微软的时候,我们每个服务器都不用 阅读全文