当前位置：首页 > 科技 > 数码

消息称英伟达针对中国区改良版H20在LLM推理中比H100更快

来源：责编：时间：2023-11-10 17:06:58 256观看

导读 IT之家 11 月 9 日消息，国外科技媒体 Semianalysis 近日发布付费文章，表示三款中国特供版 AI 芯片之一，在 LLM 推理中，要比 H100 快 20% 以上。IT之家此前报道，英伟达即将推出 HGX H20、L20 PCle

IT之家 11 月 9 日消息，国外科技媒体 Semianalysis 近日发布付费文章，表示三款中国特供版 AI 芯片之一，在 LLM 推理中，要比 H100 快 20% 以上。

IT之家此前报道，英伟达即将推出 HGX H20、L20 PCle 和 L2 PCle 接口芯片，这三款芯片均基于英伟达 H100 改良而来，官方已经生产出这些 GPU 样品，并预估下月投入批量生产。

消息称英伟达预计最快将于 11 月 16 号之后公布，国内厂商最快将在这几天拿到样品。

这篇付费文章中详细介绍了英伟达 H20、L20 和 L2 的详细信息，涉及 FLOPS 数据、NVLink 带宽、功耗、内存带宽、内存容量、芯片尺寸等。

文章中写道：

更为重要的是，在这三款中国特供版 GPU 中，其中一款（并未明确是哪款，但应该是指 H20）在 LLM 推理中要比 H100 快 20%，而且性能接近于英伟达明年年初发布的新款 GPU。

报道中还提及的一点是，英伟达 HGX H20 采用 HGX 格式，采用台积电的 CoWoS 封装。而另外两款芯片主要基于 Ada，面向游戏领域，不需要复杂的封装。

该文章还预测了英伟达 2024 和 2025 财年业绩，此前消息称由于美国不断地加码，英伟达丢失了超过价值 50 亿美元的订单，而借助这些中国专供 GPU，会改善英伟达的业绩表现。

本文链接：//www.dmpip.com//www.dmpip.com/showinfo-24-19959-0.html消息称英伟达针对中国区改良版H20在LLM推理中比H100更快

声明：本网页内容旨在传播知识，若有侵权等问题请及时与本网联系，我们将在第一时间删除处理。邮件：2376512515@qq.com

上一篇：外媒：SK海力士已决定将明年设施投资增至约10万亿韩元

下一篇： 26999元惠普暗影精灵10台式机新配置今晚开售：14代i7+RTX4090

标签：

热门焦点

小米平板5 Pro 12.4简评：多专多能兼顾影音娱乐的大屏利器

疫情带来了网课，网课盘活了安卓平板，安卓平板市场虽然中途停滞了几年，但好的一点就是停滞的这几年行业又有了新的发展方向，例如超窄边框、高刷新率、多摄镜头组合等，这就让安卓
2023 年的 Node.js 生态系统

随着技术的不断演进和创新，Node.js 在 2023 年达到了一个新的高度。Node.js 拥有一个庞大的生态系统，可以帮助开发人员更快地实现复杂的应用。本文就来看看 Node.js 最新的生
CSS单标签实现转转logo

转转品牌升级后更新了全新的Logo，今天我们用纯CSS来实现转转的新Logo，为了有一定的挑战性，这里我们只使用一个标签实现，将最大化的使用CSS能力完成Logo的绘制与动画效果。新logo
从 Pulsar Client 的原理到它的监控面板

背景前段时间业务团队偶尔会碰到一些 Pulsar 使用的问题，比如消息阻塞不消费了、生产者消息发送缓慢等各种问题。虽然我们有个监控页面可以根据 topic 维度查看他的发送状态，
企业采用CRM系统的11个好处

客户关系管理（CRM）软件可以为企业提供很多的好处，从客户保留到提高生产力。　　CRM软件用于企业收集客户互动，以改善客户体验和满意度。　　CRM软件市场规模如今超过580
让我们一起聊聊文件的操作

文件【1】文件是什么？文件是保存数据的地方，是数据源的一种，比如大家经常使用的word文档、txt文件、excel文件、jpg文件...都是文件。文件最主要的作用就是保存数据，它既可以保
网红炒股不为了赚钱，那就是耍流氓！

来源：首席商业评论6月26日高调宣布入市，网络名嘴大v胡锡进居然进军了股市。在一次财经媒体峰会上，几个财经圈媒体大佬就“胡锡进炒股是否知道认真报道”展开讨论。有
半导体需求下滑三星电子DS业务部门今年营业亏损预计超10万亿韩元

7月17日消息，据外媒报道，去年下半年开始的半导体需求下滑，影响到了三星电子、SK海力士、英特尔等诸多厂商，营收明显下滑，部分厂商甚至出现了亏损。作为
iQOO 11S或7月上市：搭载“鸡血版”骁龙8Gen2 史上最强5G Soc

去年底，iQOO推出了“电竞旗舰”iQOO 11系列，作为一款性能强机，iQOO 11不仅全球首发2K 144Hz E6全感屏，搭载了第二代骁龙8平台及144Hz电竞屏，同时在快充