当前位置：首页 > 科技 > 数码

国产GPU AI训推达到国际水准！摩尔线程已媲美RTX 4090、A100

来源：责编：时间：2024-06-16 17:44:43 98观看

导读快科技6月14日消息，摩尔线程官方宣布，2024年5月份与智谱AI开展了新一轮GPU大模型适配、性能测试，包括大模型推理、基于夸娥（KUAE）千卡智算集群的大模型预训练。测试使用的相关大模型，来自智谱AI基座大模型及其开

快科技6月14日消息，摩尔线程官方宣布，2024年5月份与智谱AI开展了新一轮GPU大模型适配、性能测试，包括大模型推理、基于夸娥（KUAE）千卡智算集群的大模型预训练。

测试使用的相关大模型，来自智谱AI基座大模型及其开源版本。

测试结果表明，在推理方面，摩尔线程自研全功能GPU显著优于基准对比产品RTX 3090和RTX 4090，其中全部测试用例中优于RTX 3090，在多batch下优于RTX 4090。

在训练方面，摩尔线程夸娥千卡智算集群的训练精度与A100集群相比，误差在1％以内，而集群性能扩展系数超过90％，模型算力利用率（MFU）与A100集群相当。

国产GPU达到国际水准！摩尔线程已媲美RTX 4090、A100

这一结果，对于中国大模型产品技术生态具有重要的意义：

一是技术自主新突破。

摩尔线程千卡智算集群成功应用ChatGLM预训练，标志着摩尔线程有能力让大模型训练与推理在全国产可控的算力底座上运行，可增强技术自主性，保障信息安全。

二是助力打破算力瓶颈。

根据Scaling laws（尺度定律），有限的算力供应可能成为制约大模型发展的关键瓶颈，而摩尔线程全功能GPU可以提高大模型的迭代速度和自研水平，助推中国大模型更好发展。

三是开拓创新空间。

摩尔线程与智谱AI卓有成效的适配与测试合作，有利于推动实现软硬件的深度融合与协同创新。

四是降低运营成本。

摩尔线程凭进的AGI算力底座，不仅可以兼容适配全球主流AI软件生态，节约迁移成本，而且在单位算力总体拥有成本上拥有较为明显优势，能够有效降低大模型产品研发成本。

值得一提的是，早在2022年8月，智谱AI就开源了GLM-130B模型，2023年又推出了千亿基座对话模型ChatGLM，以及开源版本的ChatGLM-6B。

近，摩尔线程陆续公布了与国产AI企业在大模型训练、推理方面的合作，主要包括：

－第一家接入无问芯穹，适配无穹Infini-AI大模型开发与服务平台，完成LLama2 700亿参数大模型训练测试、MT-infini-3B 3B(30亿参数)规模大模型实训

－完成憨猴集团70亿、340亿。700亿参数量级大模型的分布式训练

－完成与滴普企业大模型Deepexi v1.0的训练、推理适配

－完成羽人科技70亿参数大语言模型YuRen-7b的训练测试

－完成师者AI 70亿参数全学科教育大模型的高强度训练测试

国产GPU达到国际水准！摩尔线程已媲美RTX 4090、A100

本文链接：//www.dmpip.com//www.dmpip.com/showinfo-24-93920-0.html国产GPU AI训推达到国际水准！摩尔线程已媲美RTX 4090、A100

声明：本网页内容旨在传播知识，若有侵权等问题请及时与本网联系，我们将在第一时间删除处理。邮件：2376512515@qq.com

上一篇：毫无悬念的对比！锐龙7 7800X3D VS. i9-14900KS：同为强游戏处理器平台差价7000元

下一篇：原相3950终于解禁！雷柏VT1PRO MAX评测：轻量级无线鼠标新兴悍将

标签：

热门焦点

卢伟冰长文解析K60至尊版对Redmi有着里程碑式的意义

在今天的Redmi后性能时代战略发布会结束之后，Redmi总经理卢伟冰又带来了一篇长文，详解了为什么 Redmi 要开启后性能时代？为什么选择和 MediaTek、Pixelworks 深度合作？以及后性
石头智能洗地机A10 Plus体验：双向自清洁治好了我的懒癌

一、前言和介绍专为家庭请假懒人而生的石头科技在近日又带来了自己的全新旗舰新品，石头智能洗地机A10 Plus。从这个产品名上就不难看出，这次石头推出的并不是常见的扫地机器
6月安卓手机好评榜：魅族20 Pro蝉联冠军

性能榜和性价比榜之后，我们来看最后的安卓手机好评榜，数据来源安兔兔评测，收集时间2023年6月1日至6月30日，仅限国内市场。第一名：魅族20 Pro好评率：95%5月份的时候魅族20 Pro就是
三言两语说透设计模式的艺术-简单工厂模式

一、写在前面工厂模式是最常见的一种创建型设计模式，通常说的工厂模式指的是工厂方法模式，是使用频率最高的工厂模式。简单工厂模式又称为静态工厂方法模式，不属于GoF 23种设计
28个SpringBoot项目中常用注解，日常开发、求职面试不再懵圈

前言在使用SpringBoot开发中或者在求职面试中都会使用到很多注解或者问到注解相关的知识。本文主要对一些常用的注解进行了总结，同时也会举出具体例子，供大家学习和参考。注解
2023 年的 Node.js 生态系统

随着技术的不断演进和创新，Node.js 在 2023 年达到了一个新的高度。Node.js 拥有一个庞大的生态系统，可以帮助开发人员更快地实现复杂的应用。本文就来看看 Node.js 最新的生
之家push系统迭代之路

前言在这个信息爆炸的互联网时代，能够及时准确获取信息是当今社会要解决的关键问题之一。随着之家用户体量和内容规模的不断增大，传统的靠"主动拉"获取信息的方式已不能满足用
花7万退货退款无门：谁在纵容淘宝珠宝商家造假？

来源：极点商业作者：杨铭在淘宝购买珠宝玉石后，因为保证金不够赔付，店铺关闭，退货退款难、维权无门的比比皆是。“提供相关产品鉴定证书，支持全国复检，可以30天无理由退换货。&
国行版三星Galaxy Z Fold5/Z Flip5发布售价7499元起

2023年8月3日，三星电子举行Galaxy新品中国发布会，正式在国内推出了新一代折叠屏智能手机三星Galaxy Z Fold5与Galaxy Z Flip5，以及三星Galaxy Tab S9