英特尔公布 1 万亿参数 AI 模型
导读 | 在 ChatGPT 的推动下,如今有越来越多的公司开始参与生成式 AI 的开发了,大模型领域也 “越来越卷”。英特尔是最新参与进来的玩家,并在近日公布了一个名为 Aurora genAI 的产品,它是一个主要用于科学领域的生成式 AI 模型。 |
英特尔 Aurora genAI 模型以 Megatron 和 DeepSpeed 为基础,其规模达到了 1 万亿个参数(1 Trillion Parameters,上图中有对应描述),相比之下 ChatGPT 的规模仅为 1750 亿参数,Aurora genAI 在参数规模上增长了约 570%。
Aurora genAI 模型将在通用文本、科学文本、科学数据和与该领域相关的代码上进行训练。这将是一个纯粹以科学为重点的生成式 AI 模型,其潜在的应用范围是:
- 推动清洁能源聚变研究
- 催化剂研究
- 癌症研究
- 航空航天研究
- 神经科学研究
- 宇宙学研究
拥有这么大的规模,那么驱动 Aurora genAI 模型背后的算力肯定也不容小觑。英特尔透露,他们使用的是名为 Aurora(欧若拉)的超级计算机,这是英特尔与阿贡国家实验室和 HPE 合作开发的百万兆级超级计算机。
Aurora 超级计算机采用了 21248 个 Sapphire Rapids 至强 CPU、63744 个 Xe 架构的 Ponte Vecchio GPU(英特尔表示 Ponte Vecchio GPU 的性能要优于英伟达的 H100)。Aurora 超级计算机还使用了 1024 个 DAOS 节点和 10.9 PB 的 DDR5 傲腾持久内存,所有这些组件通过 oneAPI 互相链接,实现了百万兆级性能。
Aurora 超级计算机的浮点运算能力达到了 2 exaFLOPS,而目前 TOP 500 排名第一的超级计算机 Frontier 其浮点运算能力也才 1 exaFLOPS,Aurora 实现了性能翻倍,未来 Aurora 将存放于美国阿贡国家实验室。
【推荐】国内首个AI IDE,深度理解中文开发场景,立即下载体验Trae
【推荐】编程新体验,更懂你的AI,立即体验豆包MarsCode编程助手
【推荐】抖音旗下AI助手豆包,你的智能百科全书,全免费不限次数
【推荐】轻量又高性能的 SSH 工具 IShell:AI 加持,快人一步
· 全程不用写代码,我用AI程序员写了一个飞机大战
· DeepSeek 开源周回顾「GitHub 热点速览」
· 记一次.NET内存居高不下排查解决与启示
· MongoDB 8.0这个新功能碉堡了,比商业数据库还牛
· .NET10 - 预览版1新功能体验(一)