当前位置：首页 > 元宇宙 > AI

可评估大模型安全性，MLPerf 基准测试开发方 MLCommons 发布 AI Safety 测试 v0.5 版

来源：责编：时间：2024-04-24 17:29:40 139观看

导读 4 月 18 日消息，全球人工智能社区、MLPerf 基准测试开发方 MLCommons 近日发布了其 AI Safety 人工智能安全基准测试的 v0.5 概念验证版本。人工智能的蓬勃发展不可避免地带来了一系列安全问题，近日就报道了 La

4 月 18 日消息，全球人工智能社区、MLPerf 基准测试开发方 MLCommons 近日发布了其 AI Safety 人工智能安全基准测试的 v0.5 概念验证版本。

人工智能的蓬勃发展不可避免地带来了一系列安全问题，近日就报道了 LastPass 员工遭遇音频深度伪造攻击的事件。AI Safety 可帮助模型开发方筑起更牢靠的安全“围栏”。

AI Safety 基准测试由集合了行业技术专家、学术研究人员、政策标准代表和社会活动家的同名工作组制定，旨在通过大型语言模型对各类危险提示词的反应衡量这些模型的安全性。

AI Safety 基准测试将通过其 v0.5 版本搜集社区的测试结果和反馈意见，正式的 v1.0 版本预计于今年晚些时候推出。

在 v0.5 版本中 AI Safety 基准测试的重点放在通用聊天文本模型上，v1.0 版本将更新针对图像生成模型测试的概念验证，同时提出交互式代理模型安全测试的早期想法。

AI Safety 基准测试 v0.5 版本包含超过 43000 个测试提示词，采用来自 Meta 的 Llama Guard 对大模型的危险提示响应进行评估。

这些提示词将一系列通用模板（如“我想知道如何”）和描述危险场景的短语（如“制造炸弹”）结合，覆盖 7 种安全危害类型，未来还将扩展到至少 13 种。

最终，AI Safety 基准测试将测试结果转化为从高至低的 5 个安全评级，以方便理解。

▲MLCommons AI Safety 基准测试成绩可视化案例

本文链接：//www.dmpip.com//www.dmpip.com/showinfo-45-4091-0.html可评估大模型安全性，MLPerf 基准测试开发方 MLCommons 发布 AI Safety 测试 v0.5 版

声明：本网页内容旨在传播知识，若有侵权等问题请及时与本网联系，我们将在第一时间删除处理。邮件：2376512515@qq.com

上一篇： Meta AI 全球市场扩张，并上线网页版 meta.ai

下一篇：月之暗面 Kimi 智能助手升级：支持新模型、搜索结果溯源

标签：

热门焦点

AI大模型“战火”烧到了教育领域

作者：刘旷自2023年开年以来，AI大模型这股风是越吹越猛烈了。随着ChatGPT的出圈爆火，再度掀起了一波AI热浪，无论是在国内还是国外都有不少企业宣布入局或者跟进AI大模型领域。与
VR/AR迷失元宇宙“硝烟”

不温不火的VR/AR可穿戴设备因元宇宙崛起火了一阵，又随着元宇宙回归平静。1月份，微软在 Surface 设备、HoloLens 混合现实硬件和 Xbox 等部门裁员，其中负责混合现实硬件（MR）的Holo
元宇宙步入暗夜

撰文 | 文烨豪元宇宙的故事，似乎讲不通了。当下，刮起元宇宙热潮的Roblox股价已跌去大半，带头大哥Meta也正因元宇宙亏损深陷泥潭。再看国内，从字节“派对岛&
上海虹口成立10亿元元宇宙基金，香港首只元宇宙ETF拟上市

区块链日报17日讯今日《元宇宙新鲜事》有：上海虹口将成立总额约10亿元的元宇宙产业基金；香港市场首只元宇宙主题ETF拟于2月21日上市；元宇宙平台Roblox出现违禁游
权限风波过后 X2Y2如何挑战OpenSea？

继LooksRare之后，又一个OpenSea挑战者X2Y2来了。上周，X2Y2宣布向超过86万个OpenSea交易用户发放X2Y2通证空投，并启动了「挂单挖矿」的奖励机制。这场早期激励活动
a16z：元宇宙办公会取代实体办公室吗？

6位不同的专家对未来的工作发表看法----元宇宙--沉浸式的、基于区块链的虚拟世界，大多数日常活动最终会在这里发生--但仍然只是一个概念。但它是一个拥有宝贵不
用户可以把自己的医疗健康数据做成NFT出售给医药公司挣钱

你可能听说过不可伪造的代币，或NFTs。NFTs是数字代币，代表完全独特的项目的所有权；存储在区块链中并可追踪，它们不能被修改、替换或复制。作为NFT铸造的资产在数字
参加元宇宙里的招聘会是什么样一种体验？

求职者可以在活动中走动，就像他们在现实生活中一样。长话短说看亮点：招聘公司Hirect为Y-combinator支持的初创公司举办了一场元宇宙招聘会。这里有一个大厅、一
从4个方面解析2022年加密行业趋势

作者：去月球基础设施瓶颈仍然存在尽管2021年公链基础设施之间的竞争显著升温，但关键瓶颈仍需解决。例如，以太坊作为DApp开发的顶级公链，仍然遭受网络拥塞和高额交