当前位置：首页 > 元宇宙 > AI

谷歌 DeepMind 推出 AI 安全框架 Frontier Safety Framework，可检测优化降低大模型风险性

来源：责编：时间：2024-05-23 17:06:02 121观看

导读 5 月 21 日消息，谷歌DeepMind 日前推出了一款名为“Frontier Safety Framework”的 AI 安全框架，主要用于检测AI模型的风险情况，号称能够主动识别“未来可能酿成重大风险的 AI 能力”，向研究人员指出相关模型“究

5 月 21 日消息，谷歌DeepMind 日前推出了一款名为“Frontier Safety Framework”的 AI 安全框架，主要用于检测AI模型的风险情况，号称能够主动识别“未来可能酿成重大风险的 AI 能力”，向研究人员指出相关模型“究竟在哪些层面可能会被黑客利用”。

据介绍，DeepMind 目前公布的 Frontier Safety Framework 1.0版本主要包含三个关键组件，即“识别模型是否具备酿成重大风险的能力”，“预估模型会在什么阶段具备安全隐患”、“智能优化模型防止其酿成风险”。

▲ 图源谷歌官方新闻稿

DeepMind 表示，该公司“一直在突破 AI 的边界”，所开发的模型已改变了他们对 AI 可能性的认知，虽然公司相信未来的 AI 技术将为社会带来宝贵的工具。但他们也意识到相关AI技术的风险性有可能对社会造成毁灭性的影响，因此他们正在逐步增强模型的安全性与可控性。

注意到，目前 DeepMind 仍在开发 Frontier Safety Framework，计划通过产业、学术及有关部门的合作来改善相关框架。

本文链接：//www.dmpip.com//www.dmpip.com/showinfo-45-4380-0.html谷歌 DeepMind 推出 AI 安全框架 Frontier Safety Framework，可检测优化降低大模型风险性

声明：本网页内容旨在传播知识，若有侵权等问题请及时与本网联系，我们将在第一时间删除处理。邮件：2376512515@qq.com

上一篇： IBM 宣布开源其“最先进”Granite 代码模型：116 种编程语言训练，号称优于其他竞品

下一篇：面壁智能推出 MiniCPM-Llama3-V 2.5 开源端侧多模态模型：8B 参数、高效部署手机

标签：

热门焦点

一份全面清单：Web3行业高薪酬的13种工作

来源：区块链骑士这可能会让许多人感到震惊，但除了成为开发人员之外，Web3还有其他高薪工作。Web3可能是现代就业市场中跨学科最多的领域，换句话说，它由许多个在不同领域中具有不同
人间诚实周鸿祎：360 All in 大模型的六个解读

主笔 / 村口有牛文章架构师 / 毛自聪出品 / 巨头财经5月至今，人间躁动，各路大模型你方唱罢我登场，VC圈互联网圈媒体圈已近癫狂。谁也没想到，今日，360再度刷屏，老牌互联网巨头展现
文心一言排名垫底，却成为百度业绩增长杠杆

文/侯煜编辑/罗卿知识增强大预言模式文心一言发布后，百度公司热度大幅提升，文心一言到底能为百度的业绩带来多大的增益成为业内关注焦点。近日，百度（NASDAQ：BIDU/09888.HK）公布了
“任何国产元宇宙都是假元宇宙”

上个月，华语乐坛的优质偶像之一，DOTA2资深玩家林俊杰，在国外元宇宙产品分布式大陆(Decentraland)上买了三块虚拟地产，花了12.3万美元（也就是人民币接近80万）。截至目
2021年中国元宇宙行业用户行为分析热点报告

元宇宙网络热度高涨，中国网民对虚拟生态兴趣浓厚。艾媒咨询数据显示，超六成的网民对“元宇宙”了解程度较高，在元宇宙较基础的游戏领域，超九成的人对VR游戏更感兴
纽约证券交易所母公司ICE收购tZero股份以探索代币化股票

2 月 22 日，纽约证券交易所 (NYSE) 的母公司洲际交易所 (ICE) 宣布，它将持有私人数字证券市场 tZERO 的所有权。根据公告，ICE 将成为 tZero 的“重要”少数股东，但
虚拟人的3大纪律和6种品牌孵化模式

作者：陈格雷（老小格）及团队虚拟人很热，我们最近广泛收集和研究了、各种消费品牌企业在虚拟人开发上的一些主要特点，整理出6种最主要的品牌虚拟人模式，后面一一介绍。
NFT行业周报：NBA巨星勒布朗·詹姆斯申请NFT相关商标

1. “无聊猿”BAYC交易总额突破14亿美元3月10日，据DappRader最新数据显示，“无聊猿”Bored Ape Yacht Club（BAYC）交易总额已突破14亿美元，创下历史新高，本文撰写时为
初探元宇宙

2021年可以被称为“元宇宙”元年。继2021年3月沙盒游戏平台Roblox将“元宇宙”概念放入招股书中，被称为“元宇宙”第一股后，Facebook更名为Meta, 引发全球范围内