完善资料让更多小伙伴认识你,还能领取20积分哦, 立即完善>
哈瓦那实验室HLS-Gaudi2系统为数据中心带来了一个新的深度学习性能和可扩展性水平。
该系统包含八个Gaudi2 mezzanine卡、两个第4.0代PCle交换机和一个标准双插槽Xeon lcelake CPu主机子系统,具有NVME存储和主机连接功能。 Gaudi2符合oCP OAM(开放式计算项目加速器模块)1.1规范。每块卡都包含Gaudi HL-2080处理器,该处理器集成了96GB HBM2E内存和24个100GbE RoCE v2 RDMA NIC。 Gaudi2处理器为关键视觉和语言工作负载提供了领先的培训性能(如2022年5月的公告所示),这些工作负载与创新的可编程架构相关联,该架构专门为Al培训和推理而构建,并且能够使用标准接口和fuil软件包、参考模型和操作指南扩展到大量处理器。 8个Gaudi2板卡内部互连,使用从每个Gaudi2到其他7个处理器的21x100GbE RoCE端口实现无阻塞全对所有连接。此外,该系统还提供24x100GbE-RoCE RDMA,通过利用外部现成以太网交换,进一步扩展、扭转和集群基于Gaudi2的节点。可以使用类似的服务器构建各种集群架构,以利用数千个Gaudi2扩展Al训练和推理集群。
|
|
|
|
只有小组成员才能发言,加入小组>>
3个成员聚集在这个小组
加入小组203浏览 1评论
在DL Workbench 2022.1中转换模型时遇到的错误问题
279浏览 1评论
使用OpenVINO推断时收到ImportError: DLL load failed while importing ie_api错误
396浏览 1评论
如何将PyTorch模型与OpenVINO trade结合使用?
665浏览 1评论
求助,无法找到rdquo;OpenCV ldquo提供的封装配置文件求分享
490浏览 1评论
小黑屋| 手机版| Archiver| 电子发烧友 ( 湘ICP备2023018690号 )
GMT+8, 2024-11-21 20:17 , Processed in 0.582727 second(s), Total 72, Slave 52 queries .
Powered by 电子发烧友网
© 2015 bbs.elecfans.com
关注我们的微信
下载发烧友APP
电子发烧友观察
版权所有 © 湖南华秋数字科技有限公司
电子发烧友 (电路图) 湘公网安备 43011202000918 号 电信与信息服务业务经营许可证:合字B2-20210191 工商网监 湘ICP备2023018690号