当前位置:首页 > 元宇宙 > AI

火山引擎:提供超高性价比,简化企业 AI 应用落地门槛

来源: 责编: 时间:2024-08-31 08:30:15 30观看
导读在近日举办的火山引擎AI创新巡展(上海站)活动中,火山引擎总裁谭待表示,豆包大模型在三个月内综合能力提升了20.3%,在降低价格门槛的同时确保高性能,让大模型更容易在千行百业落地。在今年5月举办的Force原动力大会上,字节

在近日举办的火山引擎AI创新巡展(上海站)活动中,火山引擎总裁谭待表示,豆包大模型在三个月内综合能力提升了20.3%,在降低价格门槛的同时确保高性能,让大模型更容易在千行百业落地。XqQ28资讯网——每日最新资讯28at.com

在今年5月举办的Force原动力大会上,字节跳动发布了豆包大模型,并将推理成本打到最低,豆包通用模型pro在企业市场的推理输入定价为0.0008元/千Tokens。XqQ28资讯网——每日最新资讯28at.com

豆包通用模型pro为客户提供业内最高标准的初始 TPM(每分钟 Tokens)和 RPM(每分钟请求数),有助于企业的业务在高并发场景中落地。XqQ28资讯网——每日最新资讯28at.com

在演讲中,谭待以经常出现高并发、高负载的企业客服行业为例,分享了豆包大模型的性能情况。XqQ28资讯网——每日最新资讯28at.com

他表示,在企业客服行业,随着交易量出现波峰、波谷,场景始终在不断变化。而凭借豆包大模型,以及火山引擎的能力和服务,已经帮助很多企业客服客户优化了效果,并支持住最高并发挑战。XqQ28资讯网——每日最新资讯28at.com

火山引擎智能算法负责人、火山方舟负责人吴迪则表示,为应对企业日常业务的真实需求,火山引擎通过将调度做到极致,在成本方面极具优势。XqQ28资讯网——每日最新资讯28at.com

同时,火山引擎支持在分钟级时间段内,完成数千卡伸缩,有效支持突发流量和业务高峰。火山引擎推出的批量推理模式,使得接入豆包模型批量推理模式的客户,默认可获得13亿tokens的起始额度。XqQ28资讯网——每日最新资讯28at.com

沐瞳智能服务负责人张文文则在现场分享了沐瞳与火山引擎合作的真实案例。沐瞳通过将豆包大模型能力应用于旗下游戏的 AI实时判罚场景,基于游戏内聊天文本对辱骂/攻击性发言进行识别,取得良好的真实效果。XqQ28资讯网——每日最新资讯28at.com

他表示,在对战游戏领域,玩家很容易情绪激动,情不自禁地“口吐芬芳”。如不能对此有效管理,则可能导致玩家流失、游戏口碑下降。XqQ28资讯网——每日最新资讯28at.com

大模型出现之前,对于这种情况的传统解法,只有关键字屏蔽,以及客服解决等。但真实场景是,游戏中每天发生上亿场战斗,其中三百万场可能出现相关投诉,只依靠客服处理并不现实。XqQ28资讯网——每日最新资讯28at.com

在使用豆包大模型后,与举报相关的聊天记录会发给大模型,以编制过的prompt,让大模型对其加以识别,再根据识别结果做出针对性的判罚、处理、禁言等。最终,召回率超过80%,个别语种甚至能够超过90%,并且用通用模型即可管理52种语言的业务。XqQ28资讯网——每日最新资讯28at.com

火山引擎云基础产品负责人罗浩则表示,在与沐瞳的合作中,大量用到了各种的云基础,以及包括豆包大模型在内的火山引擎AI产品,并且所有的产品使用都在同一朵云之上,在整体调用过程中也没有出现额外的流量成本,调用的延时也做到了最优化。XqQ28资讯网——每日最新资讯28at.com

在现场,罗浩还列举了客户美图的具体案例,进一步解读了企业如何在具体业务场景中更高效地利用火山引擎的云端资源。他表示,火山引擎提供弹性资源池,利用潮汐算力,使得美图在整体使用GPU和CPU云资源时,成本达到最优化。XqQ28资讯网——每日最新资讯28at.com

本文链接://www.dmpip.com//www.dmpip.com/showinfo-45-6533-0.html火山引擎:提供超高性价比,简化企业 AI 应用落地门槛

声明:本网页内容旨在传播知识,若有侵权等问题请及时与本网联系,我们将在第一时间删除处理。邮件:2376512515@qq.com

上一篇: 亚信科技入选“2024中国通信行业大模型企业竞争力10强”

下一篇: 通义网页版升级!推出通义效率版块,上线“PPT创作”

标签:
  • 热门焦点
  • 这一超级富豪“逆袭”,身价大增4330亿

    这一超级富豪“逆袭”,身价大增4330亿

    来源:侃见财经互联网的突围没有“终点”。在快节奏的商业环境下,不断的试错成了互联网企业的标配,一年一个风口,一个风口造就一个热点,但是回头来看,最终受益的还是身处
  • B端难做:留给魔珐科技的时间不多了

    B端难做:留给魔珐科技的时间不多了

    来源:零态LT元宇宙泡沫正在碎裂,进入2023年后这一赛道热度一直在递减。今年2月,微软解散了成立仅四个月的工业元宇宙部门;今年3月,该公司2017年收购的虚拟现实社交平台AltspaceVR
  • 元宇宙步入暗夜

    元宇宙步入暗夜

    撰文 | 文烨豪元宇宙的故事,似乎讲不通了。 当下,刮起元宇宙热潮的Roblox股价已跌去大半,带头大哥Meta也正因元宇宙亏损深陷泥潭。 再看国内,从字节“派对岛&
  • 关于年度热词NFT,除了钱,我们还可以聊点啥?

    关于年度热词NFT,除了钱,我们还可以聊点啥?

    每到年底,社交媒体总少不了年度盘点、年度总结、年度热词。如果让你来总结2021年度热词,你会想到什么?柯林斯词典将年度热词颁给了“NFT”,而其理由是:一个缩写词的
  • “元宇宙”里过大年,《迷你世界》在做一场怎样的实验?

    “元宇宙”里过大年,《迷你世界》在做一场怎样的实验?

    2021年是游戏行业不确定性急剧上升的一年。一方面游戏正风光无限,腾讯等大厂更加密集地投资动作,让游戏创投市场异常火热,"元宇宙"概念的大放异彩,更是吸引了Netfl
  • AI特效、虚拟人、数字盲盒,来看看元宇宙如何融合冬奥会!

    AI特效、虚拟人、数字盲盒,来看看元宇宙如何融合冬奥会!

    今天是冬奥会比赛的第12天,截至目前所累计的成绩,中国代表团已经取得了冬奥历史最佳战绩。全世界的人都在关注着这场盛事,为奥运健儿呐喊助威。谷爱凌、徐梦桃、
  • 2022年6款最佳的NFT稀有度查询工具

    2022年6款最佳的NFT稀有度查询工具

    NFT正在风靡全球,但拥有一个你自认为看起来很酷的 NFT 是不够的,因为它还应该是稀有的,稀有度会影响每个 NFT 的价值。因此,如果您打算投资 NFT,则需要使用 NFT 稀
  • 暴涨100倍的NFT worlds 会是未来元宇宙的雏形吗?

    暴涨100倍的NFT worlds 会是未来元宇宙的雏形吗?

    NFT Worlds 系列产品于 2021 年 10 月 5 日免费铸造,该NFT系列是将传统的中心化电子游戏minecraft 与去中心化资产相结合。传统游戏Minecraft 对用户定制非常开
  • 独立故事片“Calladita”将使用 NFT 筹集资金

    独立故事片“Calladita”将使用 NFT 筹集资金

    导演 Miguel Faus 正在转向加密来资助他的处女作,由 Paula Grimaldo 和 Emily Mortimer 主演。“Calladita”(导演 Miguel Faus)。图片:米格尔·福斯在过去的一年
Top
Baidu
map