NVIDIA GPU已经在AI、HPC领域遥遥领先，但没有最强，只有更强。
现在，NVIDIA又发布了全新的HGX H200加速器，可处理AIGC、HPC工作负载的海量数据。
NVIDIA H200的一大特点就是首发新一代HBM3e高带宽内存(疑似来自SK海力士)，单颗容量就多达141GB(原始容量144GB但为提高良率屏蔽了一点点)，同时带宽多达4.8TB/s。
对比H100，容量增加了76％，带宽增加了43％，而对比上代A100，更是容量几乎翻番，带宽增加2.4倍。
得益于NVLink、NVSwitch高速互连技术，H200还可以四路、八路并联，因此单系统的HBM3e内存容量能做到最多1128GB，也就是1.1TB。
只是相比于AMD Instinct MI300X还差点意思，后者搭载了192GB HBM3，带宽高达5.2TB/s。
性能方面，H200再一次实现了飞跃，700亿参数的Llama2大语言模型推理性能比H100提高了多达90％，1750亿参数的GTP-3模型推理性能也提高了60％，而对比前代A100 HPC模拟性能直接翻番。
八路H200系统下，FP8深度学习计算性能可以超过32PFlops，也就是每秒3.2亿亿次浮点计算，堪比一台大型超级计算机。
随着未来软件的持续升级，H200还有望继续释放潜力，实现更大的性能优势。
此外，H200还可以与采用超高速NVLink-C2C互连技术的NVIDIA Grace CPU处理器搭配使用，就组成了GH200 Grace Hopper超级芯片，专为大型HPC、AI应用而设计的计算模块。
NVIDIA H200将从2024年第二季度开始通过全球系统制造商、云服务提供商提供。
本文链接：//www.dmpip.com//www.dmpip.com/showinfo-25-24753-0.html八路达成1.1TB HBM3e内存！NVIDIA奉上全球第一GPU H200
声明：本网页内容旨在传播知识，若有侵权等问题请及时与本网联系，我们将在第一时间删除处理。邮件：2376512515@qq.com
Copyright © 2016-2023 天津谷骐科技有限公司 版权所有 sitemap.xml
违法及侵权请联系：2376512515@qq.com 津ICP备18001702号
津公网安备 12010102000574号
