当前位置：首页 > 元宇宙 > AI

教 AI 入侵 AI，科学家研发 Masterkey 新方式

来源：责编：时间：2024-01-03 09:09:34 202观看

导读 12 月 29 日消息，新加坡南洋理工大学（NTU）的计算机科学专家近日研发了新的方法，可以使用聊天机器人来入侵聊天机器人。该科研团队训练了一个 AI 聊天机器人，可以绕过其它 AI 聊天的安全限制。团队研发了名为 Maste

12 月 29 日消息，新加坡南洋理工大学（NTU）的计算机科学专家近日研发了新的方法，可以使用聊天机器人来入侵聊天机器人。

该科研团队训练了一个 AI 聊天机器人，可以绕过其它 AI 聊天的安全限制。

团队研发了名为 Masterkey（LLM）的算法，逆向设计了 LLM 检测和防御恶意查询的方式，然后教会 LLM 自动学习并通过相关提示词，可以绕过其他 LLM 的安全性。

团队通过这种方式，可以创建一个黑客 LLM，它可以自动适应新条件，并在开发人员对其 LLM 进行更正后创建新的黑客请求。

研究团队成功利用这种方式入侵 AI 模型之后，已经通知服务提供商相关问题。

附上《新闻稿原文地址》，感兴趣的用户可以深入阅读。

本文链接：//www.dmpip.com//www.dmpip.com/showinfo-45-3111-0.html教 AI 入侵 AI，科学家研发 Masterkey 新方式

声明：本网页内容旨在传播知识，若有侵权等问题请及时与本网联系，我们将在第一时间删除处理。邮件：2376512515@qq.com

上一篇：清华大学研发 LLM4VG 基准：用于评估 LLM 视频时序定位性能

下一篇：优必选宣布港交所挂牌上市，成为“人形机器人第一股”

标签：

热门焦点

元宇宙里卖酸奶，好炸裂的操作！

作者 | 李东阳来源 | 首席营销官有没有发现，当下的热搜出现一个有意思的现象，那就是“情怀”不知不觉成为了主流，爷青回话题讨论性非常高。前有名侦探柯南和优衣库
不同于传统数字经济，元宇宙赋予商业生态更多数字资产价值！

作者：中科基大数据元宇宙是一个去中心化的开放平台，而为了维护这样的平台，需要建立一个公平的游戏规则，确保每个元宇宙的参与者通过这个规则都可以挣到钱，他们的利益都可以得到保
AIGC产品测评TOP25丨谁能抢到下个十年的“船票”？

Tech星球（微信ID：tech618）文 | 何煦阳策划 | 杨晓鹤封面来源 | 图虫创意 2016年，李彦宏站在百度联盟峰会的讲台上，向所有人宣布：互联网的下一幕是人工智能。同年，Google 旗下 Dee
元宇宙火热的当下，我们该如何“身临其境”的体验元宇宙？

元宇宙的余热依然没有过去，甚至大有星星之火开启燎原之势，元宇宙本身也从殿堂走向了民间，我们可以看到一些企业开始了元宇宙的探索，诸如中国电信全资控股子公司天
英特尔首款加密芯片将于今年上市｜国际动态

No.1 英特尔首款加密芯片将于今年上市2月13日消息，英特尔首款名为“区块链加速器”的加密芯片将于今年晚些时候上市。目前，已经有两家公司预订了这项技术，分别是G
2022年的Web3：定义概念并开创新范式

Web3 是关于加密和区块链应该如何使用的概念，因为它是加密圈的一个离散子领域。社区机会将呈指数级增长，扩大这些子行业的人口统计范围。追求 Web3 项目的组织仍
从4个方面解析2022年加密行业趋势

作者：去月球基础设施瓶颈仍然存在尽管2021年公链基础设施之间的竞争显著升温，但关键瓶颈仍需解决。例如，以太坊作为DApp开发的顶级公链，仍然遭受网络拥塞和高额交
百度虚拟人——AI手语主播首次亮相冬奥会！

除了火遍全国的冰墩墩，虚拟人也成为这届冬奥会的一大亮点元素。以体育明星谷爱凌为原型的数智人Meet Gu最先亮相。在2月5日谷爱凌首秀、2月7日谷爱凌首金的两天
全球十大元宇宙概念游戏

A股市场中，不少游戏公司早早搭上了元宇宙概念。举例，中青宝宣称将发布一款元宇宙概念的模拟经营类游戏，尽管游戏尚在研发中，这一消息已经让中青宝的股价在51个交易