当前位置:首页 > 科技  > 芯片

微软与NVIDIA扩大云端AI合作,加速硬件创新

来源: 责编: 时间:2023-11-20 17:13:46 182观看
导读微软Azure正在导入更多采用NVIDIA H100的虚拟机器,以增强其AI工作负载的处理能力。H100是NVIDIA最新的AI处理器,具有PCIe为基础的H100 GPU,通过NVLink连接的一对处理器,拥有近4个petaFLOPS的AI运算能力和188GB更快的HBM3

微软Azure正在导入更多采用NVIDIA H100的虚拟机器,以增强其AI工作负载的处理能力。H100是NVIDIA最新的AI处理器,具有PCIe为基础的H100 GPU,通过NVLink连接的一对处理器,拥有近4个petaFLOPS的AI运算能力和188GB更快的HBM3存储器。00028资讯网——每日最新资讯28at.com


00028资讯网——每日最新资讯28at.com

此次合作不仅有助于提升微软Azure在AI领域的竞争力,也进一步巩固了NVIDIA在云端AI硬件市场的领先地位。随着AI技术的快速发展和应用的广泛普及,云端AI运算的需求也在持续增长。此次微软与NVIDIA的合作,无疑将推动云端AI硬件的创新和发展。00028资讯网——每日最新资讯28at.com


00028资讯网——每日最新资讯28at.com

此外,微软还计划在2024年将新的NVIDIA H200 Tensor Core GPU加入其Azure系列中。H200 GPU是专为加速最大的AI工作负载所设计,包括大型语言模型(LLM)及生成式AI模型。它采用新一代HBM3e存储器,显着增加存储器容量和带宽。相较于H100,H200 GPU将提供141GB HBM3e存储器和4.8TB/s峰值存储器带宽,分别较H100增加1.8倍、1.4倍。00028资讯网——每日最新资讯28at.com


00028资讯网——每日最新资讯28at.com

同时,为了帮助开发人员在其Windows PC上运行和配置AI模型,微软发布了Windows AI Studio。这是一个全新的开发工具,让开发者可以在其中存取AI模型、并对其进行调整,以满足其需求。同时,NVIDIA也发布了TensorRT-LLM更新,最初针对Windows推出这项更新,作为在H100 GPU上更有效运行LLM的一种方式。不过,此次最新更新将TensorRT-LLM导入搭载GeForce RTX 30和40系列GPU的PC上。这意味着更多的开发者和公司可以使用先进的AI硬件来训练和运行他们的模型。00028资讯网——每日最新资讯28at.com


00028资讯网——每日最新资讯28at.com

此次微软与NVIDIA的深度合作,不仅在技术层面提供了更加高效和强大的支持,也预示着云端AI硬件未来的发展趋势。随着技术的不断进步和应用场景的不断扩展,云端AI硬件的创新和发展将会更加快速和多样化。00028资讯网——每日最新资讯28at.com


00028资讯网——每日最新资讯28at.com

本文链接://www.dmpip.com//www.dmpip.com/showinfo-27-31508-0.html微软与NVIDIA扩大云端AI合作,加速硬件创新

声明:本网页内容旨在传播知识,若有侵权等问题请及时与本网联系,我们将在第一时间删除处理。邮件:2376512515@qq.com

上一篇: 裕日车稳步发展,2024年新车上市

下一篇: 基于第四代英特尔®至强®可扩展处理器的浪潮云海超融合压缩和纠删功能设计

标签:
  • 热门焦点
  • Redmi Buds 4开箱简评:才199还有降噪 可以无脑入

    Redmi Buds 4开箱简评:才199还有降噪 可以无脑入

    在上个月举办的Redmi Note11T Pro系列新机发布会上,除了两款手机新品之外,Redmi还带来了两款TWS真无线蓝牙耳机产品,Redmi Buds 4和Redmi Buds 4 Pro,此前我们在Redmi Note11T
  • K6:面向开发人员的现代负载测试工具

    K6:面向开发人员的现代负载测试工具

    K6 是一个开源负载测试工具,可以轻松编写、运行和分析性能测试。它建立在 Go 和 JavaScript 之上,它被设计为功能强大、可扩展且易于使用。k6 可用于测试各种应用程序,包括 Web
  • 一篇聊聊Go错误封装机制

    一篇聊聊Go错误封装机制

    %w 是用于错误包装(Error Wrapping)的格式化动词。它是用于 fmt.Errorf 和 fmt.Sprintf 函数中的一个特殊格式化动词,用于将一个错误(或其他可打印的值)包装在一个新的错误中。使
  • Java NIO内存映射文件:提高文件读写效率的优秀实践!

    Java NIO内存映射文件:提高文件读写效率的优秀实践!

    Java的NIO库提供了内存映射文件的支持,它可以将文件映射到内存中,从而可以更快地读取和写入文件数据。本文将对Java内存映射文件进行详细的介绍和演示。内存映射文件概述内存
  • 多线程开发带来的问题与解决方法

    多线程开发带来的问题与解决方法

    使用多线程主要会带来以下几个问题:(一)线程安全问题  线程安全问题指的是在某一线程从开始访问到结束访问某一数据期间,该数据被其他的线程所修改,那么对于当前线程而言,该线程
  • 共享单车的故事讲到哪了?

    共享单车的故事讲到哪了?

    来源丨海克财经与共享充电宝相差不多,共享单车已很久没有被国内热点新闻关照到了。除了一再涨价和用户直呼用不起了。近日多家媒体再发报道称,成都、天津、郑州等地多个共享单
  • 年轻人的“职场羞耻感”,无处不在

    年轻人的“职场羞耻感”,无处不在

    作者:冯晓亭 陶 淘 李 欣 张 琳 马舒叶来源:燃次元“人在职场,应该选择什么样的着装?”近日,在网络上,一个与着装相关的帖子引发关注,在该帖子里,一位在高级写字楼亚洲金
  • 2021中国国际消费电子博览会与青岛国际软件融合创新博览会新闻发布会隆重举行

    2021中国国际消费电子博览会与青岛国际软件融合创新博览会新闻发布会隆重举行

    9月18日,2021中国国际消费电子博览会与青岛国际软件融合创新博览会新闻发布会在青岛国际新闻中心隆重举行。发布会上青岛市政府领导联袂出席,对本次双展会情
  • 电博会与软博会实现

    电博会与软博会实现"线下+云端"的双线融合

    在本次“电博会”与“软博会”双展会利好条件的加持下,既可以发挥展会拉动人流、信息流、资金流实现快速交互流动的作用,继而推动区域经济良性发展;又可以聚
Top
Baidu
map