当前位置：首页 > 元宇宙 > AI

研究发现：AI 越聪明就越有可能“胡编乱造”

来源：责编：时间：2024-10-01 17:06:44 9观看

导读 9 月 29 日消息，一项新研究发现，随着大型语言模型（LLM）变得越来越强大，它们似乎也越来越容易编造事实，而不是避免或拒绝回答它们无法回答的问题。这表明，这些更聪明的 AI 聊天机器人实际上变得不太可靠。图源 Pexels

9 月 29 日消息，一项新研究发现，随着大型语言模型（LLM）变得越来越强大，它们似乎也越来越容易编造事实，而不是避免或拒绝回答它们无法回答的问题。这表明，这些更聪明的 AI 聊天机器人实际上变得不太可靠。

图源 Pexels

注意到，该研究发表在《自然》杂志上，研究人员研究了一些业界领先的商业 LLM：OpenAI 的 GPT 和 Meta 的 LLaMA，以及由研究小组 BigScience 创建的开源模型 BLOOM。

研究发现，虽然这些 LLM 的回答在许多情况下变得更加准确，但总体上可靠性更差，给出错误答案的比例比旧模型更高。

瓦伦西亚人工智能研究所在西班牙的研究员 José Hernández-Orallo 对《自然》杂志表示：“如今，它们几乎可以回答一切。这意味着更多正确的答案，但也意味着更多错误的答案。”

格拉斯哥大学的科学和技术哲学家 Mike Hicks 对此进行了更严厉的评价，Hicks（未参与该研究）告诉《自然》杂志：“在我看来，这就像我们所说的胡说八道，它越来越擅长假装知识渊博。”

测试中，这些模型被问及了从数学到地理等各种主题，并被要求执行诸如按指定顺序列出信息等任务。总体而言，更大、更强大的模型给出了最准确的答案，但在更难的问题上表现不佳，其准确率较低。

研究人员称，一些最大的“撒谎者”是 OpenAI 的 GPT-4 和 o1，但所有被研究的 LLM 似乎都呈这种趋势，对于 LLaMA 系列模型，没有一个能够达到 60% 的准确率，即使是最简单的问题。

而当被要求判断聊天机器人的回答是准确还是不准确时，一小部分参与者有 10% 到 40% 的概率判断错误。

总之研究表明，AI 模型越大（就参数、训练数据和其他因素而言），它们给出错误答案的比例就越高。

研究人员称，解决这些问题最简单的方法是让 LLM 不那么急于回答一切。Hernández-Orallo 称：“可以设置一个阈值，当问题具有挑战性时，让聊天机器人说‘不，我不知道’。”但如果聊天机器人被限制为只回答它们知道的东西，可能会暴露技术的局限性。

本文链接：//www.dmpip.com//www.dmpip.com/showinfo-45-8015-0.html研究发现：AI 越聪明就越有可能“胡编乱造”

声明：本网页内容旨在传播知识，若有侵权等问题请及时与本网联系，我们将在第一时间删除处理。邮件：2376512515@qq.com

上一篇：字节跳动发布豆包视频生成模型，这效果让我分不清 AI 与现实

下一篇：国际机器人联合会：2023 年我国新安装工业机器人 27.63 万台，超全球半数

标签：

热门焦点

新周期，谁在坚守窄门？

来源：锦缎今日的投资者恐怕已经忘记了，在OpenAI创造出ChatGPT这一杀器的前夜，生成式AI也曾经是一道窄门，窄到连马斯克都差点失去了信心。在当时的舆论眼中，AGI的道路不够性感，不够
关于ChatGPT的10点思考

作者：晏涛三寿近日ChatGPT又有大动作。5月19日，OpenAI在官网宣布正式发布App应用，并登录苹果应用商店。与网页版的聊天机器人相比，iOS应用程序的发布有望让更多人接触到ChatGPT
现在的元宇宙：一款低配版的科幻游戏

在2021年的岁末之际，不禁感叹元宇宙元年之热闹，从元宇宙NFT头像，到元宇宙数字地产，再到元宇宙旅游景区等等，仿佛科幻感十足的元宇宙眨眼间就从人们的概念认知中完全
银保监会：打击以“元宇宙”为名义的违法行为

今日，银保监会发布《关于防范以“元宇宙”名义进行非法集资的风险提示》，全文如下：近期，一些不法分子蹭热点，以“元宇宙投资项目”“元宇宙链游”等名目吸收资金，涉
国内涌现70余家数字藏品平台：合规、流量与利润在博弈

作者：杨郑君2月16日，迅雷链企业数字藏品服务平台正式上线，继阿里、腾讯、京东、百度、网易等之后，又一家互联网企业正式加入到火热的数字藏品平台的竞争中。除互联
顶流IP“冰墩墩”带着中国元素NFT进入全球视野

一场被国际奥委会主席评价堪称独具匠心、非凡卓越的2022年北京冬季奥运会，在这个“双奥之城”经历了16个令人难忘的精彩日夜，最终圆满闭幕。让我们印象深刻的不
以太坊面临来自Fantom的巨大挑战

众所周知，区块链和加密货币项目经常因其对环境的影响而受到批评。但是有一个非营利性的加密货币和区块链项目说它比其他的更环保。今天老雅痞就给大家聊一聊加
顶级NFT收藏家Gary Vaynerchuk 与百威推出NFT

特别声明，我们的文章不作为投资建议，请各位读者独立思考，还是那句话：投资要慎之又慎，谁也不要相信。Gary Verneychuk 和百威 NFT 之一。由 VeynerNFT 提供百威推出
知名艺术家打造去中心化“好莱坞”：一部电影一个DAO

根据市场追踪网站 DappRadar 的数据，随着 NFT 的“出圈”与加密货币的普及，NFT 市场在 2021 年的销售额达到约 250 亿美元，而 2020 年仅为 9490 万美元，同比增超 2