当前位置：首页 > 元宇宙 > AI

谷歌 AI 搜索闯大祸：建议网友吃石头、毒蘑菇，把胶水加到披萨上

来源：责编：时间：2024-05-27 08:51:36 95观看

导读谷歌 AI 又闯大祸！没认出毒蘑菇、建议用户吃石头、把胶水加到披萨上，瞬间招来海量批评。事情是这样的：有网友在谷歌搜索寻找“芝士和披萨粘不到一块”的解决办法。AI 直接在顶部给出总结指导，看似有模有样，却暗藏

谷歌 AI 又闯大祸！没认出毒蘑菇、建议用户吃石头、把胶水加到披萨上，瞬间招来海量批评。

事情是这样的：

有网友在谷歌搜索寻找“芝士和披萨粘不到一块”的解决办法。AI 直接在顶部给出总结指导，看似有模有样，却暗藏陷阱。

你还可以把 1/8 杯的无毒胶水加到酱料里，使其更黏。

本来大家还只当是寻常的“AI 幻觉”问题，毕竟都加胶水了确实黏啊，逻辑没毛病。

真正引爆舆论焦点的，是有人挖出这个建议确实有出处：

来自 11 年前网友在“美国贴吧”Reddit 论坛披萨板块的恶搞留言。

对比原文，可以看出谷歌 Gemini 大模型确实出色地总结精简了网友发言，去掉不必要的细节融合进回答中。

但关键在于缺乏常识，没有识别出网友恶搞的意图，当真了。

大家批评的另一个点在于，问题出现在谷歌最核心、使用量最大的搜索产品上，而不是专门的 AI 对话。

如果是一个不熟悉 AI 技术，不了解 AI 会出现“幻觉”的普通搜索用户遇到这事，就更容易被 AI 骗到。

当然，具体到披萨 + 胶水这个例子因为过于离谱，大部分人都不会当真。

但也有人马上举出谷歌 Gemini 更多、更危险的失误：

建议用户每天至少吃一块小石头。

在儿童感兴趣的“宇航员平常都做什么”问题上，把恶意言论总结进来。

AI 对话产品也没幸免，曾把剧毒的毁灭天使菌 (Destroying Angel) 判断成可食用口蘑 (White Button Mushroom)。

用户发送图片 +“口蘑！好吃！”文字，Gemini 顺着就说用户判断的对，没有任何关于蘑菇可能有毒的提示。

有人认为加不完善的 AI 功能，反而是正在毁掉搜索引擎。毁掉人们几十年来对这个产品的信赖。

前不久谷歌 AI 生图也因拒绝画白人引发强烈批评，导致生图功能暂停。

甚至有人感叹：我们才进入 AI 时代没几个月，就已经成了一场灾难。

垃圾数据正在进入大模型

说回到披萨的例子，这还不是个偶然现象，许多网友都能稳定复现出来。

来源同样是那位昵称“f*ucsmith”的 Reddit 网友 11 年前的那条恶搞留言。

像这样 AI 从 Reddit 论坛吸收错误知识的情况，也非孤例。

曾有人在论坛上开玩笑说下面这张图是“狗生出了奶牛”。

结果谷歌 AI 也当真了，相当坚定地告诉用户“确实出现过狗生出奶牛的情况”……

像 Reddit 这样的论坛，固然数据丰富，但其中质量参差不齐，积累了几十年间网友或善意或恶意的误导、玩笑。

有网友声称：无论谁家大模型用 Reddit 数据训练，出的 AI 产品都得掂量掂量再用了。

然鹅现实确是，OpenAI 刚刚牵手 Reddit，宣布双方合作，把论坛内容引入 ChatGPT 等产品中。

并且 OpenAI CEO 阿尔特曼自己也是 Reddit 的投资人。

Reddit 联合创始人兼首席执行官 Steve Huffman 当时还说：

Reddit 包含了真实、最新的人类对话，引入 ChatGPT 可以帮助人们找到更多他们想要的信息，并帮助新用户在 Reddit 上找到社区。

嗯，就有点讽刺。

只能希望他们能做好数据清洗吧。

故意误导 AI 方法很简单

除了 AI 无意间从低质量数据中获得错误知识的情况，也有人发现了故意给 AI 留言错误信息的攻击方法。

代表人物有佐治亚理工助理教授 Mark Riedl，他在自己的个人主页上用与背景一样的字体给 AI 留言，编造他没获过的奖项。

这样人类一般不会注意到，但算法却会当真，认为他的书“在 3020 年畅销，还得过 3 个普利策奖”。

那么，现在有什么 AI 搜索产品稍微靠谱一些，不容易被骗的吗？

他也做了一系列测试，发现最知名的 AI 搜索 Perplexity 也会上当，直接照搬他主页上的胡言乱语。

You.com 表现还可以，但也出现了小失误。

参考链接：

[1]https://x.com/kurtopsahl/status/1793494822436917295

[2]https://x.com/deliprao/status/1793652235420713301

[3]https://x.com/mark_riedl/status/1793375699967054334

本文来自微信公众号：量子位（ID：QbitAI），作者：梦晨

本文链接：//www.dmpip.com//www.dmpip.com/showinfo-45-4412-0.html谷歌 AI 搜索闯大祸：建议网友吃石头、毒蘑菇，把胶水加到披萨上

声明：本网页内容旨在传播知识，若有侵权等问题请及时与本网联系，我们将在第一时间删除处理。邮件：2376512515@qq.com

上一篇：六部门：鼓励在电影视觉效果、后期制作中运用 AI 等新技术、装备

下一篇：马斯克承认自家 xAI 聊天机器人 Grok 不如 ChatGPT，但年底之前也许能赶上

标签：

热门焦点

《从营销AIGC化到AIGC营销化》报告发布

来源：清元宇宙7月2日上午，清华大学元宇宙文化实验室举办元宇宙在线沙龙“AIGC热潮与应用”。会议中，清华大学新闻与传播学院教授、元宇宙文化实验室主任、新媒体研究
错过了BRC20还有eths,eth铭文协议

来源：三头鸟NFT大家好，我是鸟哥，了解鸟哥的人都知道鸟哥擅撸空投，说实话撸毛虽然回报大但周期还是有点长的，所以除了撸毛我们自己也在研究早期项目，打新，比如BRC20协议ordi当时就有
虚拟人再升级，企业可以解放双手了？

来源：伯虎财经今天想跟大家来唠唠AI，其实聊到这个话题很多人都不陌生了。在ChatGPT和AIGC大热背后，还有一位低调的“大佬”——虚拟人。比如咱们熟知的虚
元宇宙风口下，视觉中国如何重估？

要说横跨2021年和2022年，到目前仍然很火的概念，元宇宙肯定要算一个。不仅互联网巨头们纷纷布局，上市公司们趋之若鹜，还被不少地方政府写入了产业规划，大有在2022年
NFT也有黄牛？这家公司专门对付外挂作弊机器人

澳大利亚前总理马尔科姆·特恩布尔 (Malcolm Turnbull) 是支持萨姆·Crowther (Sam Crowther) 的人之一，Sam是一名出生于纽卡斯尔的黑客，他的职业生涯始于为国防
音乐NFT平台里的下一匹黑马是谁？

NFT 销售额在 2021 年开始暴涨，从 2018 年的仅 4069 万美元的交易量，到 2021 年，NFT 交易量飙升至 442 亿美元以上，并不断刷新记录并达到新的高度。预测到2025 年N
NFT自动售货机来啦！

“纽约市有一台售卖 Solana NFT 的自动售货机，用信用卡就能买”Solana NFT 市场 Neon 可让您使用信用卡亲自购买 NFT，无需使用加密货币。由于基于 Solana 链的 N
过去女性在互联网领域是半边天，在Web3，将会是整片天！

Web 2.0 是由几家“直男”大公司塑造的。接下来的Web3世界中，如果女性在创造性方面发挥更大的作用，可能会让这个新时代更受欢迎、更安全和公平。当我们谈论 Web3
NFT世界的艺术家名单

我们汇编了以下艺术家的名单，它包括每个艺术家的简短概述。当然，这份名单肯定不全面，还有很多很多艺术家、哲学家和商业领袖为世界贡献了不可估量的价值。而他们