当前位置：首页 > 科技 > 芯片

AWS推出GPU租赁服务：降低AI工作负载成本

来源：责编：时间：2023-11-15 16:22:34 170观看

导读随着生成式AI的崛起，GPU算力需求持续增长。然而，高昂的GPU价格和供不应求的市场环境给许多企业和研究机构带来了挑战。为了解决这一问题，AWS近日推出了一项创新服务——「亚马逊弹性运算云（EC2）机器学习容量区块」（Amazon E

随着生成式AI的崛起，GPU算力需求持续增长。然而，高昂的GPU价格和供不应求的市场环境给许多企业和研究机构带来了挑战。为了解决这一问题，AWS近日推出了一项创新服务——「亚马逊弹性运算云（EC2）机器学习容量区块」（Amazon Elastic Compute Cloud Capacity Blocks for ML），允许客户在需要的时候租用GPU算力，以执行特定的AI相关任务。

这项新的服务让客户能够预约NVIDIA H100 Tensor Core GPU实例，并在EC2 UltraCluster中获取低延迟、高吞吐量的连接，以便进行分散式训练。客户可以根据需要灵活地安排GPU算力的使用时间点以及时数，从而降低整体费用。

这项服务特别适合那些只需要在少数工作中使用到昂贵的GPU资源的情况。通过EC2容量区块，客户可以在1到14天内保留GPU算力容量，从1个到64个丛集，每个丛集配置8颗GPU（最高为512颗GPU），从而可以灵活地执行各种AI工作负载。

该服务最早可提前8周预约，并已在亚马逊的美国东部（俄亥俄州）区域推出。这项服务的推出不仅能帮助客户降低成本，同时也为AWS提供了将GPU资源效率最大化的机会，确保了相关的营收。然而，这些GPU资源的价格将根据实际的供需情况动态浮动。

AWS新的GPU租赁服务为那些需要执行AI工作负载但又面临GPU价格和供应挑战的客户提供了新的选择。通过按需租赁GPU算力，客户可以更灵活地满足其特定需求，同时降低了整体费用。

本文链接：//www.dmpip.com//www.dmpip.com/showinfo-27-25505-0.htmlAWS推出GPU租赁服务：降低AI工作负载成本

声明：本网页内容旨在传播知识，若有侵权等问题请及时与本网联系，我们将在第一时间删除处理。邮件：2376512515@qq.com

上一篇：声纳追踪系统用于VR头盔，增强用户体验并保护隐私

下一篇：蓝队竞技启动：半导体和金融等行业参与其中

标签：

热门焦点

5月iOS设备好评榜：iPhone 14仅排第43？

来到新的一月，安兔兔的各个榜单又重新汇总了数据，像安卓阵营的榜单都有着比较大的变动，不过iOS由于设备的更新换代并没有那么快，所以相对来说变化并不大，特别是iOS好评榜，老款设
消息称迪士尼要拍真人版《魔发奇缘》：女主可能也找黑人演员

8月5日消息，迪士尼确实有点忙，忙着将不少动画改成真人版，继《美人鱼》后，真人版《白雪公主》、《魔发奇缘》也在路上了。据外媒消息称，迪士尼将打造真人版
摸鱼心法第一章——和配置文件说拜拜

为了能摸鱼我们团队做了容器化，但是带来的问题是服务配置文件很麻烦，然后大家在群里进行了“亲切友好”的沟通图片图片图片图片对比就对比，简单对比下独立配置中心和k8s作为配
如何通过Python线程池实现异步编程？

线程池的概念和基本原理线程池是一种并发处理机制，它可以在程序启动时创建一组线程，并将它们置于等待任务的状态。当任务到达时，线程池中的某个线程会被唤醒并执行任务，执行完任
一文掌握 Golang 模糊测试（Fuzz Testing）

模糊测试（Fuzz Testing）模糊测试（Fuzz Testing）是通过向目标系统提供非预期的输入并监视异常结果来发现软件漏洞的方法。可以用来发现应用程序、操作系统和网络协议等中的漏洞或
JVM优化：实战OutOfMemoryError异常

一、Java堆溢出堆内存中主要存放对象、数组等，只要不断地创建这些对象，并且保证 GC Roots 到对象之间有可达路径来避免垃圾收集回收机制清除这些对象，当这些对象所占空间超过
东方甄选单飞：有些鸟注定是关不住的

文/彭宽鸿编辑/罗卿东方甄选创始人俞敏洪带队的“7天甘肃行”直播活动已在近日顺利收官。成立后一年多时间里，东方甄选要脱离抖音自立门户的传闻不绝于耳，“7
自研Exynos回归！三星Galaxy S24系列将提供Exynos和骁龙双版本

年初，全新的三星Galaxy S23系列发布，包含Galaxy S23、Galaxy S23+和Galaxy S23 Ultra三个版本，全系搭载超频版骁龙8 Gen 2，虽同样采用台积电4nm工艺制
iQOO 11S新品发布会

iQOO将在7月4日19:00举行新品发布会，推出杭州亚运会电竞赛事官方用机iQOO 11S。