kaiyun官方注册
您所在的位置: 首页> 人工智能> 业界动态> 百度成功点亮国内首个自研万卡集群

百度成功点亮国内首个自研万卡集群

成功点亮昆仑芯三代万卡集群,还将点亮 3 万卡集群
2025-02-06
来源:IT之家

2 月 5 日消息,百度智能云今日宣布成功点亮昆仑芯三代万卡集群,这也是国内首个正式点亮的自研万卡集群。百度智能云将进一步点亮 3 万卡集群。

0.png

首先,突破硬件扩展性瓶颈,如卡间互联的拓扑限制,避免通信带宽成为瓶颈;

同时,围绕芯片及集群功耗,基于万卡规模常规方案功耗可达十兆瓦或更高,采用创新性散热方案,从而解决万卡集群的能效与散热问题;

完善模型的分布式训练优化,采用高效并行化任务切分策略,训练主流开源模型的集群 MFU 提升至 58%;

在提升稳定性方面,提供容错与稳定性机制,避免由于单卡故障率随规模指数上升而造成的万卡集群有效性大幅下降,保障有效训练率达到 98%;

最后,针对机间通信带宽需求,建设超大规模 HPN 高性能网络,优化拓扑结构,从而降低通信瓶颈,带宽有效性达到 90% 以上。

从昆仑芯科技官方获悉,本次点亮的昆仑芯三代万卡集群,采用的是昆仑芯 P800。昆仑芯官网暂未公布该卡的参数。

0.png


Magazine.Subscription.jpg

本站内容除特别声明的原创文章之外,转载内容只为传递更多信息,并不代表本网站赞同其观点。转载的所有的文章、图片、音/视频文件等资料的版权归版权所有权人所有。本站采用的非本站原创文章及图片等内容无法一一联系确认版权者。如涉及作品内容、版权和其它问题,请及时通过电子邮件或电话通知我们,以便迅速采取适当措施,避免给双方造成不必要的经济损失。联系电话:010-82306118;邮箱:aet@chinaaet.com。
Baidu
map