当前位置:首页 > 元宇宙 > AI

AI组网新趋势:Scale up与Scale out如何引领未来?探秘组网技术的颠覆性变革!

来源: 责编: 时间:2024-09-12 09:07:02 22观看
导读【ITBEAR】9月11日消息,随着人工智能技术的飞速发展,AI组网结构的变化趋势日益成为业界关注的焦点。近日,兴业证券发布了一份题为《AI深度洞察系列报告(三):Scale up与Scale out组网变化趋势如何看?》的研究报告,深入探讨了这

【ITBEAR】9月11日消息,随着人工智能技术的飞速发展,AI组网结构的变化趋势日益成为业界关注的焦点。近日,兴业证券发布了一份题为《AI深度洞察系列报告(三):Scale up与Scale out组网变化趋势如何看?》的研究报告,深入探讨了这一问题及其对算力产业链投资机会的影响。U8428资讯网——每日最新资讯28at.com

U8428资讯网——每日最新资讯28at.com

报告指出,在AI大模型训练领域,分布式并行训练架构已成为主流,其中张量并行对通信的要求尤为突出。随着模型规模的不断扩大,服务器内带宽需求也在迅猛增长。为满足这一需求,建立更大带宽的超节点已成为行业发展的必然趋势。U8428资讯网——每日最新资讯28at.com

据ITBEAR了解,超节点的规模设计正由GPU厂商和云服务商共同推动。以英伟达为例,其超节点规模在不断升级,以适应日益增长的算力需求。同时,谷歌也在通过扩大超节点Pod规模来降低数据中心网络(DCN)的带宽要求。此外,UALink联盟也在积极推动超节点规模的进一步提升。U8428资讯网——每日最新资讯28at.com

在Scale up方面,除了带宽提升外,互联密度的增加也是一个重要趋势。英伟达等厂商正在采用先进的互联技术,如NVL GB200方案和NVLINK协议,以提升机柜内部的互联带宽。目前,铜互联方式仍占主导地位,但长期来看,光互联技术有望取代铜互联,成为未来的主流互联方式。U8428资讯网——每日最新资讯28at.com

U8428资讯网——每日最新资讯28at.com

另一方面,Scale out的发展则主要体现在集群规模的扩大上。受Scaling Laws法则的驱动,AI大模型的硬件部署正朝着更大集群的方向发展。目前,AI集群规模已进入10万卡阶段,以太网组网在AI集群中的应用也正在加速落地。U8428资讯网——每日最新资讯28at.com

报告还提到,字节跳动和meta等科技巨头已经采用以太网技术来搭建AI集群。同时,博通等厂商也在不断升级其以太网交换芯片,以满足不断增长的市场需求。英伟达也强调了以太网方案在AI集群部署中的重要性。U8428资讯网——每日最新资讯28at.com

此外,随着AI集群规模的扩大,交换机和光模块等配套设施的需求也在不断增加。Arista等公司针对AI需求提出了不同的交换机互联方案,通过提升交换机端口数来推动Scale out规模的进一步提升。同时,光模块的总需求也与算力需求成正比,保持向上趋势。硅光技术有望在未来逐步从可插拔硅光形式过渡到CPO形式,并在1.6T光模块阶段实现渗透率的提升。U8428资讯网——每日最新资讯28at.com

综上所述,AI组网正朝着更大规模集群的方向发展,Scale up和Scale out两大趋势共同推动了AI算力产业链的不断进步。随着技术的不断创新和市场需求的持续增长,相关产业将迎来更多的投资机会和发展空间。U8428资讯网——每日最新资讯28at.com

#AI组网# #Scale up# #Scale out# #算力产业链# #投资机会#U8428资讯网——每日最新资讯28at.com

本文链接://www.dmpip.com//www.dmpip.com/showinfo-45-7006-0.htmlAI组网新趋势:Scale up与Scale out如何引领未来?探秘组网技术的颠覆性变革!

声明:本网页内容旨在传播知识,若有侵权等问题请及时与本网联系,我们将在第一时间删除处理。邮件:2376512515@qq.com

上一篇: 李彦宏瞩目的大模型:竞争新赛道,效率革命,智能体未来已来?

下一篇: 双奖加持!相芯数字人领跑AI界,成行业新宠与大众最爱!

标签:
  • 热门焦点
Top
Baidu
map