员工称亚马逊 AI 聊天机器人 Q “幻觉”严重，且泄露公司机密数据

12 月 2 日消息，亚马逊于今年 11 月底推出名为 Q 的 AI 聊天机器人，不过根据国外科技媒体 Platformer 披露的一份内部文件，亚马逊员工称 Q 存在严重的“幻觉”问题，并泄露了包括 AWS 数据中心位置、内部折扣计划等诸多机密信息。fwF28资讯网——每日最新资讯28at.com

fwF28资讯网——每日最新资讯28at.com

11 月 17 日报道，剑桥词典（Cambridge Dictionary）近日宣布 2023 年年度词汇为“hallucinate”（产生幻觉）。fwF28资讯网——每日最新资讯28at.com

hallucinate 原意为似乎看到、听到、感觉到或闻到“一些不存在的东西”，通常是指用户在不良健康或者服用药物状态下产生的幻觉。fwF28资讯网——每日最新资讯28at.com

伴随着 AI 的崛起，hallucinate 延伸为 AI 产生幻觉，生成错误的信息。fwF28资讯网——每日最新资讯28at.com

报告文件显示，亚马逊 Q 会产生幻觉，返回有害或不适当的聊天内容。例如，亚马逊 Q 会返回过时的安全信息，可能会让客户面临风险。fwF28资讯网——每日最新资讯28at.com

亚马逊淡化了员工讨论的重要性，并声称没有发现任何安全问题。然而，泄露的文件引发了人们对 Q 准确性和安全性的担忧，Q 仍处于预览阶段，尚未正式发布。fwF28资讯网——每日最新资讯28at.com

一名员工将该事件标记为“sev 2”，这意味着该事件非常严重，需要工程师加班第一时间修复。fwF28资讯网——每日最新资讯28at.com

Q 被定位为 ChatGPT 的企业级版本，旨在比消费级工具更安全。然而，内部文件强调了 Q 提供不准确或有害信息的风险。fwF28资讯网——每日最新资讯28at.com

报道称 Q 除了存在严重的幻觉之外，还泄露了公司机密数据，包括 AWS 数据中心的位置、内部折扣计划和未发布的功能。fwF28资讯网——每日最新资讯28at.com

文章发表后，该发言人发布一份声明，反驳了员工的说法，称亚马逊 Q 没有泄露机密信息。fwF28资讯网——每日最新资讯28at.com

相关阅读：fwF28资讯网——每日最新资讯28at.com

《亚马逊 AWS 推出 AI 聊天机器人 Amazon Q 为企业提供服务》fwF28资讯网——每日最新资讯28at.com

本文链接：//www.dmpip.com//www.dmpip.com/showinfo-45-2768-0.html员工称亚马逊 AI 聊天机器人 Q “幻觉”严重，且泄露公司机密数据

声明：本网页内容旨在传播知识，若有侵权等问题请及时与本网联系，我们将在第一时间删除处理。邮件：2376512515@qq.com

上一篇： 青藏高原第一座人工智能算力中心揭牌并启动运营，位于青海西宁

下一篇： AI 同声传译新突破，谷歌发布 Translatotron 3 模型：可绕过文本转换步骤