当前位置：首页 > 元宇宙 > AI

30 亿参数“从 0 到 1”，摩尔线程无问芯穹“千卡集群”行业内首次实现国产 GPU 端到端 AI 大模型实训

来源：责编：时间：2024-05-29 17:24:19 106观看

导读 5 月 27 日消息，摩尔线程、无问芯穹今天联合宣布，双方已经正式完成基于国产全功能 GPU 千卡集群的 3B 规模大模型“MT-infini-3B”实训，该模型基于摩尔线程国产全功能 GPU MTT S4000 组成的千卡集群，以及无问芯穹

5 月 27 日消息，摩尔线程、无问芯穹今天联合宣布，双方已经正式完成基于国产全功能 GPU 千卡集群的 3B 规模大模型“MT-infini-3B”实训，该模型基于摩尔线程国产全功能 GPU MTT S4000 组成的千卡集群，以及无问芯穹的 AIStudio PaaS 平台打造。

据悉，这次的 MT-infini-3B 模型训练总共用时 13.2 天，全程稳定无中断，集群训练稳定性达到 100％，千卡训练和单机相比扩展效率超过 90％，号称“充分验证了夸娥千卡智算集群在大模型训练场景下的可靠性，同时也在行业内率先开启了国产大语言模型与国产 GPU 千卡智算集群深度合作的新范式”。

获悉，实训出来的 MT-infini-3B 性能在同规模模型中跻身前列，相比在国际主流硬件上训练而成的其他模型，在 C-Eval、MMLU、CMMLU 等 3 个测试集上均实现性能领先。

无问芯穹联合创始人兼 CEO 夏立雪表示，当前无问芯穹正在打造“M 种模型”和“N 种芯片”之间的“M x N”中间层产品，实现多种大模型算法在多元芯片上的高效、统一部署，已与摩尔线程达成深度战略合作，而目前“MT-infini-3B”这一训练成果是行业内首次实现基于国产 GPU 芯片从 0 到 1 的端到端大模型实训案例。

本文链接：//www.dmpip.com//www.dmpip.com/showinfo-45-4458-0.html30 亿参数“从 0 到 1”，摩尔线程无问芯穹“千卡集群”行业内首次实现国产 GPU 端到端 AI 大模型实训

声明：本网页内容旨在传播知识，若有侵权等问题请及时与本网联系，我们将在第一时间删除处理。邮件：2376512515@qq.com

上一篇：五粮液浓香酒：劳动节送礼的精致艺术

下一篇：振兴乡村发展助力青少年教育中国三星连续十一年蝉联企业社会责任榜外企第一

标签：

热门焦点

元宇宙的文旅赛道，还能如何发力？

来源：X增强现实苹果推出Vision Pro，为XR行业注入一剂强心针。而在苹果开发者大会上迪士尼CEO鲍勃·艾格在宣布迪士尼与苹果达成合作，其Disney+流媒体服务将于Vision Pro
拯救XR，苹果力不从心

来源 | 光子星球撰文 | 文烨豪编辑 | 吴先之苹果终于呈上了它的“答卷”。北京时间6月6日凌晨，苹果2023年全球开发者大会（WWDC）如期举行。作为苹果CEO库克口中&ld
大厂元宇宙，又菜又爱玩

撰文 | 吴先之编辑 | 王潘当下所有大厂推出的元宇宙产品，所能带来的沉浸式体验并不多，好在国内外科技巨头在bug方面都处在同一水平线。以Meta为例，由于VR头显设
NFT的未来：传统企业与去中心化机构之间的竞赛

传统企业和去中心化机构一直存在分歧，但最近NFT的爆炸式增长让他们产生了共同的兴趣，双方都在竞相让用户更轻松、更方便地使用NFT。毫无疑问，NFT 市场正在增长。
2022年中国元宇宙产业系列研究报告-基础设施篇（5）

传感器是由敏感元件和转换元件构成，能够感受规定的检测量(物理量、化学量、生物量等)，并按照一定规律将检测量转化成可用的输出信号的器件和装置，进而满足信息的
元宇宙“概念股”集体崩塌，背后究竟发生了什么？

近期，Roblox和Meta公布了第四季度的财务报告，在财报发布一日后，股价大跌。作为市值一度超过1万亿美元的世界第六大公司Meta，股价大跌4%，市值降至5650亿美元，甚至跌出
量子计算在未来能否提高区块链技术的效率

区块链技术的主要成功之处在于对不透明的金融流程进行了去中心化的访问量子计算机的内在目标是解决传统计算机不可能解决的问题随着区块链技术的使用案例逐渐
过去女性在互联网领域是半边天，在Web3，将会是整片天！

Web 2.0 是由几家“直男”大公司塑造的。接下来的Web3世界中，如果女性在创造性方面发挥更大的作用，可能会让这个新时代更受欢迎、更安全和公平。当我们谈论 Web3
艺术创作者能否永久收取版税？

NFTs正在改变我们理解互联网所有权的方式，社区管理的所有权有很多好处，但如果创作者想为他/她的创作获得永久的收益（版税），会发生什么？这不是一个容易解决的问题，版税