当前位置:首页 > 科技  > 资讯

微软首款定制 AI 芯片,Maia 100 更多规格公开

来源: 责编: 时间:2024-09-01 11:51:35 25观看
导读来源:IT之家 微软公司出席 Hot Chip 2024 大会,分享了 Maia 100 芯片的规格信息。Maia 100 是台积电 5nm 节点上制造的最大处理器之一,专门为部署在 Azure 中的大规模 AI 工作负载而设计。Maia 100 芯片规格如下芯片尺寸

来源:IT之家 uYe28资讯网——每日最新资讯28at.com

微软公司出席 Hot Chip 2024 大会,分享了 Maia 100 芯片的规格信息。Maia 100 是台积电 5nm 节点上制造的最大处理器之一,专门为部署在 Azure 中的大规模 AI 工作负载而设计。uYe28资讯网——每日最新资讯28at.com

uYe28资讯网——每日最新资讯28at.com

Maia 100 芯片规格如下uYe28资讯网——每日最新资讯28at.com

芯片尺寸:820 平方毫米uYe28资讯网——每日最新资讯28at.com

封装:采用 COWOS-S 夹层技术的 TSMC N5 工艺uYe28资讯网——每日最新资讯28at.com

HBM BW/Cap;1.8TB/s @ 64GB HBM2EuYe28资讯网——每日最新资讯28at.com

峰值密集 Tensor POPS: 6bit: 3,9bit: 1.5, BF16: 0.8uYe28资讯网——每日最新资讯28at.com

L1/L2:500MBuYe28资讯网——每日最新资讯28at.com

后端网络 BW:600GB/s(12X400gbe)uYe28资讯网——每日最新资讯28at.com

主机 BW(PCIe):32GB/s PCIe Gen5X8uYe28资讯网——每日最新资讯28at.com

设计 TDP:700WuYe28资讯网——每日最新资讯28at.com

Provision TDP:500WuYe28资讯网——每日最新资讯28at.com

Microsoft Maia 100 系统采用垂直集成方式,以优化成本和性能。它还采用定制服务器板,配备专门设计的机架和软件堆栈,以提高性能。uYe28资讯网——每日最新资讯28at.com

Maia 100 架构uYe28资讯网——每日最新资讯28at.com

高速 Tensor 单元可为训练和推理提供高速处理,同时支持多种数据类型,单元采用 16xRx16 结构。uYe28资讯网——每日最新资讯28at.com

矢量处理器是一个松散耦合的超标量引擎,采用定制指令集架构(ISA),支持包括 FP32 和 BF16 在内的多种数据类型。uYe28资讯网——每日最新资讯28at.com

直接内存访问(DMA)引擎支持不同的张量分片方案。uYe28资讯网——每日最新资讯28at.com

硬件 semaphores 支持 Maia 系统的异步编程。uYe28资讯网——每日最新资讯28at.com

为提高数据利用率和能效,大型 L1 和 L2 scratch pads 交由软件管理。uYe28资讯网——每日最新资讯28at.com

Maia 100 采用基于以太网的互联技术和类似 RoCE 的定制协议,可实现超高带宽计算。它支持高达 4800 Gbps 的 all-gather 和 scatter-reduced 带宽,以及 1200 Gbps 的 all-to-all 带宽。uYe28资讯网——每日最新资讯28at.com

在软件方面,Maia 软件开发工具包(SDK)允许任何人快速将其 PyTorch 和 Triton 模型移植到 Maia。Maia SDK 为开发人员提供了多个组件,使他们能够轻松地将模型部署到 Azure OpenAI 服务。uYe28资讯网——每日最新资讯28at.com

uYe28资讯网——每日最新资讯28at.com

本文链接://www.dmpip.com//www.dmpip.com/showinfo-16-110801-0.html微软首款定制 AI 芯片,Maia 100 更多规格公开

声明:本网页内容旨在传播知识,若有侵权等问题请及时与本网联系,我们将在第一时间删除处理。邮件:2376512515@qq.com

上一篇: 前员工爆料,OpenAI AGI 安全团队已流失近半成员

下一篇: 美航天器撞击测试引发天文奇观:百年流星雨或将上演?

标签:
  • 热门焦点
Top
Baidu
map