当前位置：首页 > 元宇宙 > AI

利用固态硬盘降低 AI 微调训练显存需求，群联展示 aiDaptiv+ 平台

来源：责编：时间：2024-03-29 17:13:36 138观看

导读 3 月 27 日消息，据外媒 Tom's Hardware 报道，群联在英伟达 GDC2024 上展示了同 Maingear 合作的 aiDaptiv+ 硬件平台，可降低中小型企业 AI 模型微调训练成本。群联表示中小型企业在模型微调训练方面面临各种困难

3 月 27 日消息，据外媒 Tom's Hardware 报道，群联在英伟达 GDC2024 上展示了同 Maingear 合作的 aiDaptiv+ 硬件平台，可降低中小型企业 AI 模型微调训练成本。

群联表示中小型企业在模型微调训练方面面临各种困难：采用云服务不仅昂贵也存在数据隐私的不稳定性；而在本地运行又需要复杂的构建过程，电力需求也不能忽视。

而群联 aiDaptiv+ 方案采用超耐用型 aiDAPTIVCache 固态硬盘，可扩展系统的可用内存容量，容纳更大模型，同时也方便易用。

具体来说，aiDaptiv+ 包含的中间件软件库可将 GPU 显存中不活跃的 AI 模型层切片分离，在 aiDAPTIVCache 缓存固态硬盘上暂放待处理的这些切片，并将 GPU 上已完成的部分与待处理的切片交换。此过程无需对 AI 应用本身进行修改。

▲ 图源Tom's Hardware

▲ 图源 Tom's Hardware

群联表示，其 aiDaptiv+ 方案可在一台 4 卡工作站平台中完成 Llama 70b 模型的微调训练，容纳显存总量 7 倍以上的数据。

▲ 图源群联官方

而为了实现这种显存外数据存储，方案中的固态硬盘必须要有足够高的耐久。

群联此次推出的 aiDAPTIVCache 系列固态硬盘 ai100E，其采用 SLC 闪存，每根容量 2TB，拥有 5 年内 100DWPD（注：每日整盘写入次数）的写入耐久。

本文链接：//www.dmpip.com//www.dmpip.com/showinfo-45-3778-0.html利用固态硬盘降低 AI 微调训练显存需求，群联展示 aiDaptiv+ 平台

声明：本网页内容旨在传播知识，若有侵权等问题请及时与本网联系，我们将在第一时间删除处理。邮件：2376512515@qq.com

上一篇：马斯克宣布 Grok 聊天机器人将在本周晚些时候向所有 X Premium 订阅用户开放

下一篇：北汽极狐:“走得快”还要“走得远”

标签：

热门焦点

《蜘蛛侠》火了，超级英雄就该这么演

燃次元（ID:chaintruth）原创作者 | 陶淘编辑 | 曹拿下豆瓣8.8分、IMDB 9.1的高分，6月2日在全球同步上映的《蜘蛛侠：纵横宇宙》（以下简称《蜘蛛侠》），上映不足一周，便在国内“
元宇宙是投资中国的第五次重大机遇

作者为凯思博投资董事长导语：投资逻辑要来自于人性在社会发展过程中的普遍规律，由第一性原理出发找出重大的投资机会来。1978年的改革开放到今天，中国总共经历了
冰墩墩的NFT暴涨千倍？真相则是价格暴跌、成交遇冷

《区块链日报》记者查证，近日来冰墩墩数字藏品交易数量出现大幅下滑，而所谓的暴涨千倍更是有价无市的自嗨。昨日，北京冬奥会正式闭幕。在这届冬奥会上，吉祥物“冰
从NFT顶级公链到Web3.0基础设施：带你了解不一样的Flow

对于大部分年轻人来说，刚刚过去的春节有一个词语突然成为了品牌宣传的流行语，作为从NFT中衍生出来的“数字藏品”一时间获得了不少品牌青睐，他们纷纷推出自己的数
好莱坞：一股新的电影制作加密浪潮将颠覆这个行业

在Moviecoin.com平台上，有一部电影设定了一个前所未有的目标，即通过预售NFT获得100%的全额融资，这部电影就是马克·奥康纳(Mark O’connor)执导的《Oui Cannes》，
摩根大通：元宇宙市场预计每年收入超1万亿美元

今日《元宇宙新鲜事》有：香港首届元宇宙艺博会将于5月举办；NH-Amundi Asset Management上市其第二支元宇宙ETF；Meta虚拟现实平台Horizon Worlds月活跃用户在三个
餐桌上怎么变出元宇宙？

作者：星影“元宇宙让餐饮业脱胎换骨。”实体的餐饮与虚拟的元宇宙，看起来风马牛不相及，但最近全世界的餐饮企业都掀起了一股注册元宇宙商标的热潮。2月初，全球最大
元宇宙是推动NFT发展的初始家园

现在大家都知道了什么是NFT，但好像离自己的生活还有一定距离。随着我们与NFT 接触增加，该如何将这些数字资产带入我们的日常生活？NFT还是主流吗？如果我们将“主流
NFT 技术将传世之作带入博物馆

意大利四大博物馆已与一个项目合作，该项目将展示和销售达芬奇、卡拉瓦乔、拉斐尔和莫迪利亚尼等人的杰作的 NFT复制品。该计划采用了科技公司Cincello的国际专