当前位置：首页 > 元宇宙 > AI

13 项测试仅通过 4 项，Meta 的 Llama 2 LLM 被指安全性低：幻觉率 48%

来源：责编：时间：2024-04-24 17:31:14 128观看

导读 4 月 18 日消息，AI 安全公司 DeepKeep 近日发布评估报告，在 13 个风险评估类别中，Meta 公司的 Llama 2 大语言模型仅通过 4 项测试。报告称 70 亿参数的 Llama 2 7B 模型幻觉（回答内容存在虚假，或者有误导性内容）最

4 月 18 日消息，AI 安全公司 DeepKeep 近日发布评估报告，在 13 个风险评估类别中，Meta 公司的 Llama 2 大语言模型仅通过 4 项测试。

报告称 70 亿参数的 Llama 2 7B 模型幻觉（回答内容存在虚假，或者有误导性内容）最为严重，幻觉率高达 48%。

DeepKeep 表示：“结果表明，模型有明显的幻觉倾向，提供正确答案或编造回答的可能性对半开，而幻觉率最高，那么向用户传递的错误信息越多”。

除了幻觉问题之外，Llama 2 大语言模型还存在注入和操纵等问题。根据测试结果，80% 的场景下通过“提示注入”的方式，可以操纵 Llama 的输出，意味着攻击者可以“戏弄”Llama，将用户引导到恶意网站。

附上参考地址

LlamaV2 7B: hallucination, susceptibility to DoS attacks and PII data leakage

本文链接：//www.dmpip.com//www.dmpip.com/showinfo-45-4095-0.html13 项测试仅通过 4 项，Meta 的 Llama 2 LLM 被指安全性低：幻觉率 48%

声明：本网页内容旨在传播知识，若有侵权等问题请及时与本网联系，我们将在第一时间删除处理。邮件：2376512515@qq.com

上一篇：马斯克的 AI 机器人 Grok 闹笑话，将球员投篮不中误解成“用砖头破坏房屋”

下一篇：振兴乡村发展助力青少年教育中国三星连续十一年蝉联企业社会责任榜外企第一

标签：

热门焦点

元宇宙终究没火过两年

来源：传播体操在ChatGPT快速破圈的同时，元宇宙的热度却一泻千里。虽然互联网大厂们都没有否认元宇宙的长期想象力，但在行动上却都纷纷表示了对元宇宙短期前景的悲观。号称改变
AI大模型“战火”烧到了教育领域

作者：刘旷自2023年开年以来，AI大模型这股风是越吹越猛烈了。随着ChatGPT的出圈爆火，再度掀起了一波AI热浪，无论是在国内还是国外都有不少企业宣布入局或者跟进AI大模型领域。与
比特币的价格越高，使用价值越大

隔夜比特币还是在精准地横盘在42k上方。空头昨日试图发起一波小的攻势，但是晚上就被多头掰了回来。以太坊的链上gas price降到了60 gwei以下，彰显着市场活跃度的
城市数字孪生标准化白皮书（2022版）

当前，城市数字孪生已经发展成为支撑智慧城市的重要技术手段。城市数字孪生通过在数字空间对城市物理空间和社会空间进行全要素表达、全过程呈现、全周期可溯，实
智能人机交互技术的春晚大考

1月初的一个早晨，京东智能客户服务产品部紧急开会，进行关于尚未对外公布的“X项目”的初讨论。1月5日，这个神秘的X项目对外公布，京东成为央视2022年春晚独家互动合
元宇宙社交时代，华丽归来的超级QQ秀重构虚拟社交场景

作者:狂人不知不觉间，QQ已经迎来了第23个生日。作为国内社交平台的起点，QQ可谓是睥睨全网，不仅有庞大的用户群体，还将虚拟形象及QQ整合成在线虚拟社区，开启了时髦
从英式拍到荷兰拍，看传统金融拍卖玩法如何玩转NFT市场交易

作者：鲁拍卖是一种从古至今的商业活动。从古代的典当到现代的拍卖市场、我们熟知的拍卖行，以及知名街头艺术家Bansky名画拍卖成功后，竟自毁粉碎，现价值又翻倍的拍
售出6930万美元的NFT已经过去一年，NFT如今是否已成为主流？

Everydays: the First 5000 Days/Beeple去年三月，一件艺术品被著名拍卖行佳士得以6930万美元的高价售出。而让人们感到震惊的是，这个拍卖作品不是出自哪位艺术大
TX加入的NFT数字收藏品，元宇宙的破圈之路?

3月7日，澳大利亚 NFT 初创公司 Immutable 在新加坡淡马锡牵头的R资中以估值 25 亿美元完成2亿美元R资，腾讯参投。想必国人最熟知的应该就是TX，作为国内四大互联网