当前位置：首页 > 元宇宙 > AI

OpenAI 和 Anthropic 同意推出新模型前交给美国政府评估安全

来源：责编：时间：2024-09-02 17:20:34 28观看

导读 8 月 30 日消息，人工智能公司 OpenAI 和 Anthropic 已经同意允许美国政府在这些公司发布重大新的人工智能模型之前访问这些模型，以帮助提高它们的安全性。图源 Pexels美国人工智能安全研究所（US AI Safety Insti

8 月 30 日消息，人工智能公司 OpenAI 和 Anthropic 已经同意允许美国政府在这些公司发布重大新的人工智能模型之前访问这些模型，以帮助提高它们的安全性。

图源 Pexels

美国人工智能安全研究所（US AI Safety Institute）周四宣布，这两家公司已经与该研究所签署了谅解备忘录，承诺在模型公开发布之前和之后提供访问权限。美国政府表示，这一举措将有助于他们共同评估安全风险并缓解潜在问题。该机构表示，将与英国的对应机构合作，就安全改进提供反馈。

OpenAI 首席战略官 Jason Kwon 对合作表示支持：

“我们非常支持美国 AI 安全研究所的使命，并期待一起合作，制定 AI 模型的安全最佳实践和标准。我们相信，该研究所在确保美国在负责任开发 AI 方面的领导地位上扮演着关键角色。我们期望通过与研究所的合作，能为全球提供一个可以借鉴的框架。”

Anthropic 公司也表示，建立有效测试 AI 模型的能力非常重要。该公司的联合创始人兼政策负责人 Jack Clark 说：

“确保 AI 安全可靠对于让这项技术带来积极影响是至关重要的。通过这样的测试和合作，可以更好地发现和减少 AI 带来的风险，推动负责任的 AI 发展。我们为能够参与这项重要工作感到自豪，并希望为 AI 的安全性和可信度设立新的标准。”

在联邦和州立法机构正在考虑如何对这项技术设置哪些限制而不扼杀创新的同时，共享人工智能模型访问权是一项重要举措。注意到，周三，加利福尼亚州立法者通过了《前沿人工智能模型安全创新法案》（SB 1047），要求加利福尼亚州的人工智能公司在训练先进的基础模型之前采取特定的安全措施。这引起了包括 OpenAI 和 Anthropic 在内的人工智能公司的反对，他们警告称这可能会伤害较小的开源开发人员，尽管该法案已经进行了修改，并且仍在等待加利福尼亚州州长加文・纽瑟姆的签署。

与此同时，美国白宫一直在努力从主要公司那里获得关于人工智能安全措施的自愿承诺。几家领先的 AI 公司已经做出非约束性承诺，投资于网络安全和歧视研究，并致力于对人工智能生成的内容进行水印标记。

美国人工智能安全研究所所长伊丽莎白・凯利在一份声明中表示，这些新的协议只是“开始，但它们是我们努力帮助负责任地管理人工智能未来的一个重要里程碑”。

本文链接：//www.dmpip.com//www.dmpip.com/showinfo-45-6598-0.htmlOpenAI 和 Anthropic 同意推出新模型前交给美国政府评估安全

声明：本网页内容旨在传播知识，若有侵权等问题请及时与本网联系，我们将在第一时间删除处理。邮件：2376512515@qq.com

上一篇：阿里通义千问推出 Qwen2-VL：开源 2B 7B 参数 AI 大模型，处理任意分辨率图像无需分割成块

下一篇：一年翻番，OpenAI 称 ChatGPT AI 聊天机器人全球周活跃用户数量破 2 亿

标签：

热门焦点

亚马逊AIGC全家桶来袭，巨头AI大乱战都有什么杀手锏

此前，亚马逊云科技发布多款AIGC产品，其中包括AI大模型服务Amazon Bedrock、人工智能计算实例Amazon EC2 Trn1n和Amazon EC2 Inf2、自研“泰坦”（Titan）AI大模型、软件
元宇宙是投资中国的第五次重大机遇

作者为凯思博投资董事长导语：投资逻辑要来自于人性在社会发展过程中的普遍规律，由第一性原理出发找出重大的投资机会来。1978年的改革开放到今天，中国总共经历了
区块链产业人才发展报告

工业和信息化部作为工业和信息化行业主管部门，正在着力推进“两个强国”建设，加快推动以区块链为代表的新兴技术与实体经济深度融合。我国区块链技术和应用想要
权限风波过后 X2Y2如何挑战OpenSea？

继LooksRare之后，又一个OpenSea挑战者X2Y2来了。上周，X2Y2宣布向超过86万个OpenSea交易用户发放X2Y2通证空投，并启动了「挂单挖矿」的奖励机制。这场早期激励活动
韩国国民银行将推出韩国首个加密货币 ETF

韩国国民银行(Kookmin Bank)计划发行该国首个以散户投资者为主要关注点的加密货币投资基金。根据公告，该银行正在等待政府批准，并已建立一个准备就绪的数字资产
DAO登上了历史舞台，但是主流准备好采用DAO了吗？

Block-807DAO要么是定义虚拟未来、无领导组织的革命性概念，要么是充满存在主义和自我毁灭挑战的反乌托邦结构，取决于你在与谁交谈。近几个月来， DAO已经从Crypto
音乐家如何利用NFTs来提高歌迷参与度

"音乐是一种语言，不以特定的文字说话。它用情感说话，如果它在骨子里，它就在骨子里。" - Keith Richards音乐激励着我们，使我们流泪，使我们充满狂喜，并抚慰我们的灵魂
融资千万美元的元宇宙平台UGC到底是什么？

据获悉，全球化元宇宙社交平台BUD Technologies, Inc.（以下简称“BUD”）宣布完成1500万美元A+轮融资，本轮融资由启明创投领投，老股东源码资本、GGV纪源资本、云九资
NFT行业周报：NBA巨星勒布朗·詹姆斯申请NFT相关商标

1. “无聊猿”BAYC交易总额突破14亿美元3月10日，据DappRader最新数据显示，“无聊猿”Bored Ape Yacht Club（BAYC）交易总额已突破14亿美元，创下历史新高，本文撰写时为