当前位置：首页 > 科技 > 数码

Intel正式发布Gaudi 3 AI加速器：1200W功耗！性价比两倍于NVIDIA H100

来源：责编：时间：2024-09-26 08:56:07 36观看

导读早在4月份，Intel就宣布了新一代AI加速器Gaudi 3，现在它终于发布了，详细的规格参数也已出炉，竞争对手直指NVIDIA H100 GPU加速器，当然后者的Blackwell系列也要上量了。Gaudi 3的规格提升幅度堪称跨越式的，制造工艺

早在4月份，Intel就宣布了新一代AI加速器Gaudi 3，现在它终于发布了，详细的规格参数也已出炉，竞争对手直指NVIDIA H100 GPU加速器，当然后者的Blackwell系列也要上量了。

Gaudi 3的规格提升幅度堪称跨越式的，制造工艺从台积电7nm来到台积电5nm，MME(矩阵乘法引擎)从2个增加到8个，虽然每个MME内部的TPC(张量处理核心)从12个减少到8个，但是总数从24个大幅增加到了64个，另外媒体解码器差从8个增至14个。

内置SRAM缓存容量翻番至96MB，带宽翻倍至12.8TB/s。

核心性能方面，MME BF16/FP8都是1835 TFlops(每秒1.835千万亿次)，矢量BF16则是28.8 TFlops(每秒28.8万亿次)，分别提升了3.2倍、1.1倍、1.6倍。

HBM2E高带宽内存容量从96GB增加到128GB(八颗)，带宽也顺应增加来到惊人的3.7TB/s。

24个200Gb RDMA网络接口，双向网络互连带宽1.2TB/s，主机接口峰值双向带宽128GB/s，系统总线升级为PCIe 5.0 x16。

Intel正式发布Gaudi 3 AI加速器：1200W功耗！性价比两倍于NVIDIA H100

按照官方说法，Gaudi 3对比NVIDIA H100，LLM大模型推理性能领先50％、训练时间快40％，性价比则是对手的2倍。

开发方面，无缝兼容PyTorch框架、Hugging Face Transformer和扩散模型。

Intel正式发布Gaudi 3 AI加速器：1200W功耗！性价比两倍于NVIDIA H100

Gaudi 3加速器提供三种部署形态，一是OAM 2.0标准夹层卡，被动散热峰值功耗900W，液冷散热峰值功耗1200W，支持48个112Gb PAM4SerDes网络链接。

Intel正式发布Gaudi 3 AI加速器：1200W功耗！性价比两倍于NVIDIA H100

二是HLB-325通用基板，支持八颗Gaudi 3，具体功耗未披露。

Intel正式发布Gaudi 3 AI加速器：1200W功耗！性价比两倍于NVIDIA H100

三是HL-338扩展卡，PCIe 5.0 x16接口，被动散热峰值功耗600W，还可以四卡互连。

Intel正式发布Gaudi 3 AI加速器：1200W功耗！性价比两倍于NVIDIA H100

Intel此前已宣布，IBM将会在其云服务中部署Gaudi 3加速器。

另有消息称，Gaudi 3加速器也有中国特供版，其中OAM模组、PCIe模组的峰值功耗都限制至450W，算力自然也会大打折扣，但暂无更进一步说法。

Intel正式发布Gaudi 3 AI加速器：1200W功耗！性价比两倍于NVIDIA H100

本文链接：//www.dmpip.com//www.dmpip.com/showinfo-24-116183-0.htmlIntel正式发布Gaudi 3 AI加速器：1200W功耗！性价比两倍于NVIDIA H100

声明：本网页内容旨在传播知识，若有侵权等问题请及时与本网联系，我们将在第一时间删除处理。邮件：2376512515@qq.com

上一篇： Intel二代独立显卡终于泄露！2.85GHz频率新高

下一篇：首发4899元宏碁推出14寸非凡Go公主本：定制公主粉潮配色

标签：

热门焦点

0糖0卡0脂旭日森林仙草乌龙茶优惠：15瓶到手29元

旭日森林无糖仙草乌龙茶510ml*15瓶平时要卖为79.9元，今日下单领取50元优惠券，到手价为29.9元。产品规格：0糖0卡0脂，添加草本仙草汁，清凉爽口，富含茶多酚，保留
Raft算法：保障分布式系统共识的稳健之道

1. 什么是Raft算法？Raft 是英文”Reliable、Replicated、Redundant、And Fault-Tolerant”（“可靠、可复制、可冗余、可容错”）的首字母缩写。Raft算法是一种用于在分布式系统
三言两语说透柯里化和反柯里化

JavaScript中的柯里化(Currying)和反柯里化(Uncurrying)是两种很有用的技术，可以帮助我们写出更加优雅、泛用的函数。本文将首先介绍柯里化和反柯里化的概念、实现原理和应用
在线图片编辑器，支持PSD解析、AI抠图等

自从我上次分享一个人开发仿造稿定设计的图片编辑器到现在，不知不觉已过去一年时间了，期间我经历了裁员失业、面试找工作碰壁，寒冬下一直没有很好地履行计划.....这些就放在日
腾讯盖楼，字节拆墙

来源 | 光子星球撰文 | 吴坤谚编辑 | 吴先之“想重温暴刷深渊、30+技能搭配暴搓到爽的游戏体验吗？一起上晶核，即刻暴打！”曾凭借直播腾讯旗下代理格斗游戏《DNF》一
认真聊聊东方甄选：如何告别低垂的果实

来源：山核桃作者：财经无忌爆火一年后，俞敏洪和他的东方甄选依旧是颇受外界关心的“网红”。7月5日至9日，为期5天的东方甄选“甘肃行”首次在自有App内直播，
iQOO Neo8系列新品发布会

旗舰双芯更强更Pro
华为举行春季智慧办公新品发布会首次推出电子墨水屏平板

北京时间2月27日晚，华为在巴塞罗那举行春季智慧办公新品发布会，在海外市场推出之前已经在中国市场上市的笔记本、平板、激光打印机等办公产品，并首次推出搭载