当前位置:首页 > 科技  > 互联网

AMD新发布的Instinct MI300到底怎么样?

来源: 责编: 时间:2023-12-22 17:13:37 287观看
导读 TechWeb 文 / 新喀鸦随着一些模型(例如大型语言模型)达到数万亿参数,AI、高性能计算和数据分析变得日益复杂。以英伟达为首的很多公司都推出了一系列用于AI计算的相关芯片。而在近期美国加州圣

TechWeb 文 / 新喀鸦wEU28资讯网——每日最新资讯28at.com

随着一些模型(例如大型语言模型)达到数万亿参数,AI、高性能计算和数据分析变得日益复杂。以英伟达为首的很多公司都推出了一系列用于AI计算的相关芯片。wEU28资讯网——每日最新资讯28at.com

而在近期美国加州圣何塞的AMD Advancing AI大会上,AMD正式公布了Instinct MI300系列加速器的详细规格与性能,以及众多的应用部署案例。那么AMD新发布的Instinct MI300到底怎么样?wEU28资讯网——每日最新资讯28at.com

AMD Instinct MI300系列wEU28资讯网——每日最新资讯28at.com

MI300系列包含MI300A和MI300X两款产品,其中MI300A是集成了CPU+GPU的APU(Accelerated Processing Units)产品。MI300X则是采用了纯GPU设计的GPU产品。wEU28资讯网——每日最新资讯28at.com

目前MI300系列在市场上的竞争对手无疑是英伟达的H100。在AMD官网上具体对比参数如下:wEU28资讯网——每日最新资讯28at.com

MI300A与H100相比,在AI算力方面两者几乎不分上下。wEU28资讯网——每日最新资讯28at.com

MI300A与H100相比,在高性能计算方面MI300A有着相对明显的优势。wEU28资讯网——每日最新资讯28at.com

MI300A与H100相比,在内存容量和带宽方面MI300A有着相对明显的优势。wEU28资讯网——每日最新资讯28at.com

MI300X与H100相比,在AI算力方面MI300X有着一定的优势。wEU28资讯网——每日最新资讯28at.com

MI300X与H100相比,在高性能计算方面MI300X有着相对明显的优势。wEU28资讯网——每日最新资讯28at.com

MI300A与H100相比,在内存容量和带宽方面MI300A有着相对明显的优势。wEU28资讯网——每日最新资讯28at.com

不过值得一提的是,MI300X有着304个CU(计算单元),而H100则只有132个SM(流式多处理器)。这样看来MI300X其实是靠“堆规格”把算力堆上去的。这就会造成在同样的成本下,算力方面H100比起MI300X更有优势。不过鉴于目前英伟达凭借各种优势把H100卖得很贵,AMD“堆规格”的策略也许是个不错的竞争方式。wEU28资讯网——每日最新资讯28at.com

ROCm 6wEU28资讯网——每日最新资讯28at.com

AMD在这次大会上还宣布将推出最新的AMD ROCm 6开放软件平台,不仅能提升AI加速性能,还增加了对生成式AI多项新功能的支持,包括FlashAttention、HIPGraph和vLLM等。wEU28资讯网——每日最新资讯28at.com

在生态系统层面,AMD的合作伙伴数量不断增加,除了Pytorch和Hugging Face外,OpenAI Triton 3.0版本也将支持AMD GPU。wEU28资讯网——每日最新资讯28at.com

AMD的软件生态圈ROCm(Radeon Open Compute Ecosystem)于2016年4月发布,相比2007年发布的英伟达CUDA起步较晚。因此目前从软件生态角度看,英伟达CUDA仍然具有相当的优势。wEU28资讯网——每日最新资讯28at.com

重要客户wEU28资讯网——每日最新资讯28at.com

根据目前的消息显示Meta、微软、甲骨文以及服务器供应商戴尔、惠普、联想、超微等将成为MI300系列的重要客户。这些公司的具体动向如下:wEU28资讯网——每日最新资讯28at.com

Meta正在新增AMD Instinct MI300X加速器至其数据中心。wEU28资讯网——每日最新资讯28at.com

微软近期发布Azure ND MI300x v5虚拟机(VM)系列产品。wEU28资讯网——每日最新资讯28at.com

甲骨文计划引入搭载AMD MI300X的裸机实例用于其高性能计算,且该基于MI300X的实例预计将支援配备高速RDMA网络的OCI Supercluster。wEU28资讯网——每日最新资讯28at.com

戴尔展示了Dell PowerEdge XE9680服务器,其配备8个MI300系列加速器。wEU28资讯网——每日最新资讯28at.com

惠普近期发布首款搭载AMD MI300A APU的超算加速器HPE Cray Supercomputing EX255a,预计于2024年上半年上市。wEU28资讯网——每日最新资讯28at.com

联想宣布计划将在2024年上半年推出基于AMD MI300系列加速器的创新设计。wEU28资讯网——每日最新资讯28at.com

超微推出基于第4代AMD EPYC处理器和AMD Instinct MI300系列加速器的H13系列新产品。wEU28资讯网——每日最新资讯28at.com

AMD中国官网wEU28资讯网——每日最新资讯28at.com

AMD美国官网wEU28资讯网——每日最新资讯28at.com

另外,目前在AMD中国官网AMD Instinct 加速器页面中还没有出现MI300系列的相关介绍,在“产品阵容”部分还是MI200系列的介绍信息。因此,MI300系列产品可能暂时不会向中国出售。wEU28资讯网——每日最新资讯28at.com

本文链接://www.dmpip.com//www.dmpip.com/showinfo-21-52159-0.htmlAMD新发布的Instinct MI300到底怎么样?

声明:本网页内容旨在传播知识,若有侵权等问题请及时与本网联系,我们将在第一时间删除处理。邮件:2376512515@qq.com

上一篇: 国家新闻出版署:网络游戏不得设置每日登录、首次充值、连续充值等诱导性奖励

下一篇: 赛力斯发布“问界M9追尾公交车”情况说明:驾驶员干预导致智驾退出造成事故

标签:
  • 热门焦点
Top
Baidu
map