6月18日消息,在近日举行的2024世界半导体大会暨南京国际半导体博览会上,江苏鲲鹏・昇腾生态创新中心的首席运营官王陶披露了昇腾集群的最新进展。据王陶介绍,昇腾集群已经完成了训练千亿参数大模型的技术路线,其性能更是超越了业界知名的英伟达A100。
在中国众多的大模型中,近半数选择了昇腾技术路线,这足以彰显其在AI领域的强劲实力。王陶进一步指出,昇腾AI芯片在训练效率上最高可以达到英伟达芯片的1.1倍。更令人瞩目的是,在训练如metaLlama、BloomGPT等大型模型时,昇腾AI的算力训练效率远超英伟达A100,甚至达到了其他国产友商的10倍。
王陶骄傲地表示,昇腾目前已经成为了国产化大模型的首选。他举例说,科大讯飞在经过严格测试后,也采纳了华为的万卡集群方案。与英伟达A100相比,该集群在效率上能达到0.8至1.2倍。尽管在某些方面与英伟达A100还存在微小差距,但在大模型训练领域,昇腾已经与英伟达A100芯片不相上下。特别是在万卡算力集群的实践应用上,无论是鲲鹏云脑还是科大讯飞,都已经过了市场的严格检验。
据ITBEAR科技资讯了解,此前在华为全连接大会2023上,华为发布了一款全新架构的昇腾AI计算集群——Atlas 900SuperCluster,该集群可支持超过万亿参数的大模型训练。其创新之处在于采用了华为全新的星河AI智算交换机CloudEngineXH16800,利用该交换机高密度800GE端口的能力,仅通过两层交换网络就能实现2250节点(相当于18000张卡)的超大规模无收敛集群组网。这一技术突破无疑进一步巩固了昇腾在AI领域的领先地位。
本文链接://www.dmpip.com//www.dmpip.com/showinfo-45-5753-0.html性能超英伟达A100,华为高管:近半中国大模型选择昇腾技术路线
声明:本网页内容旨在传播知识,若有侵权等问题请及时与本网联系,我们将在第一时间删除处理。邮件:2376512515@qq.com