当前位置：首页 > 科技 > 芯片

国内AI算力租赁需求激增，NVIDIA加速卡涨价成常态

来源：责编：时间：2023-12-05 17:11:27 196观看

导读由于国内大型语言模型（LLM）的爆发式增长，AI算力基础硬件设施无法满足需求，导致国内科技大厂如腾讯、阿里巴巴、华为等纷纷向算力租赁业者求助。其中，国内网络安全厂商也跨界提供GPU算力租赁服务。据报道，由于NVIDIA多款高端

由于国内大型语言模型（LLM）的爆发式增长，AI算力基础硬件设施无法满足需求，导致国内科技大厂如腾讯、阿里巴巴、华为等纷纷向算力租赁业者求助。其中，国内网络安全厂商也跨界提供GPU算力租赁服务。

据报道，由于NVIDIA多款高端人工智能（AI）GPU芯片出口受限，国内科技大厂在AI算力告急的情况下，不得不向国内算力租赁业者求助。国内算力租赁大厂汇纳科技公告称，由于算力需求大幅增加、算力资源持续紧张，该公司内建NVIDIA A100芯片的高消能服务器算力供应，收费将上调100%。

在市场涌现出的强大需求下，拥有GPU资源的企业也纷纷下海，跨界布局算力租赁。一家网络安全一线大厂相关人士向媒体表示，该公司也在做算力租赁，主要以NVIDIA的A100/A800加速卡为主。

由于ChatGPT引发的大型语言模型（LLM）风潮横扫国内市场，LLM训练的参数量与训练时的数据量双双提升后，亟需更大的算力布局。但当AI推论情境和需求成长后，国内的算力基础硬件设施无法跟上LLM的需求爆发。

由于NVIDIA高端AI GPU遭到美国政府断供，再加上新一代国内特供版芯片还不确定，在当前国内的AI算力告急下，厂商瞄准多元算力，表示国内本土芯片已在不断升级中，将和国产高端芯片业者保持密切联系。

尽管包括华为昇腾、壁仞科技、摩尔线程等国内本土芯片业者陆续获得厂商采用测试的机会，但对于国内AI服务器发展熟稔的浪潮信息资深副总裁刘军，日前在“2023年人工智能计算大会”（AICC 2023）上坦承，要实现多元算力的挑战不小。刘军指出，全球高端AI训练芯片目前已经超过40款左右，但因为每家厂商在开发过程中采用的技术路线不一样，所以在接口互连等方面还存在较多不兼容之处，这也使得AI算力系统整个开发配置周期拉长、定制化开发投资过大、从既有厂商迁移到国内本土方案的转换时间过久等挑战。

本文链接：//www.dmpip.com//www.dmpip.com/showinfo-27-38260-0.html国内AI算力租赁需求激增，NVIDIA加速卡涨价成常态

声明：本网页内容旨在传播知识，若有侵权等问题请及时与本网联系，我们将在第一时间删除处理。邮件：2376512515@qq.com

上一篇：国内AI需求飙升，打破单芯片效能瓶颈成未来要务

下一篇： AMD利用PyTorch与ROCm，为显示卡注入AI研发新动力

标签：

热门焦点

K60至尊版刚预热一加Ace2 Pro正面硬刚

Redmi这边刚如火如荼的宣传了K60 Ultra的各种技术和硬件配置，作为竞品的一加也坐不住了。一加中国区总裁李杰发布了两条微博，表示在自家的一加Ace2上早就已经采用了和PixelWo
Mate60手机壳曝光致敬自己的经典设计

8月3日消息，今天下午博主数码闲聊站带来了华为Mate60的第三方手机壳图，可以让我们在真机发布之前看看这款华为全新旗舰的大致轮廓。从曝光的图片看，Mate 60背后摄像头面积依然
量化指标是与非：挽救被量化指标扼杀的技术团队

作者 | 刘新翠整理 | 徐杰承本文整理自快狗打车技术总监刘新翠在WOT2023大会上的主题分享，更多精彩内容及现场PPT，请关注51CTO技术栈公众号，发消息【WOT2023PPT】即可直接领取
如何通过Python线程池实现异步编程？

线程池的概念和基本原理线程池是一种并发处理机制，它可以在程序启动时创建一组线程，并将它们置于等待任务的状态。当任务到达时，线程池中的某个线程会被唤醒并执行任务，执行完任
2023年，我眼中的字节跳动

此时此刻（2023年7月），字节跳动从未上市，也从未公布过任何官方的上市计划；但是这并不妨碍它成为中国最受关注的互联网公司之一。从2016-17年的抖音强势崛起，到2018年的“头腾
东方甄选单飞：有些鸟注定是关不住的

文/彭宽鸿编辑/罗卿东方甄选创始人俞敏洪带队的“7天甘肃行”直播活动已在近日顺利收官。成立后一年多时间里，东方甄选要脱离抖音自立门户的传闻不绝于耳，“7
阿里大调整

来源：产品刘有媒体报道称，近期淘宝天猫集团启动了近年来最大的人力制度改革，涉及员工绩效、层级体系等多个核心事项，目前已形成一个初步的“征求意见版”：1、取消P序列
重估百度丨大模型，能撑起百度的“今天”吗?

自象限原创作者｜程心罗辑2023年之前，对于自己的“今天”，百度也很迷茫。“新业务到 2022 年底还是 0，希望 2023 年出来一个 1。”这是2022年底，李彦宏
回归OPPO两年，一加赢了销量，输了品牌

成为OPPO旗下主打性能的先锋品牌后，一加屡创佳绩。今年618期间，一加手机全渠道销量同比增长362%，凭借一加 11、一加 Ace 2、一加 Ace 2V三款爆品，一加