当前位置：首页 > 元宇宙 > AI

微软发布新工具，检测和纠正 AI 幻觉内容

来源：责编：时间：2024-09-27 16:34:57 12观看

导读 9 月 25 日消息，科技媒体 The Decoder 昨日（9 月 24 日）发布博文，报道称微软以预览版的形式，在 Azure AI Content Safety 中推出 Groundedness Detection，用于“纠正” AI 幻觉。AI 幻觉在人工智能领域中，幻觉是由人

9 月 25 日消息，科技媒体 The Decoder 昨日（9 月 24 日）发布博文，报道称微软以预览版的形式，在 Azure AI Content Safety 中推出 Groundedness Detection，用于“纠正” AI 幻觉。

AI 幻觉

在人工智能领域中，幻觉是由人工智能生成的一种回应，它含有貌似事实的虚假或误导性资讯。

该术语源自幻觉的心理学概念，因为它们具有相似的特征。人工智能幻觉的危险之处之一是模型的输出看起来是正确的，而它实际上是错误的。

Groundedness Detection

微软的 Groundedness Detection 类似于谷歌在 Vertex AI 中推出的 Google Search Grounding，主要对比 AI 输出内容和源文件，从而识别没有证据或者幻觉内容。

微软强调，虽然该工具提高了人工智能输出的可靠性，但并不能保证完全准确，只是能提高生成内容与源材料之间的一致性。

当系统检测到一个支持不足的句子时，就会触发一个新的请求，要求一个较小的人工智能模型进行修正，该模型会根据基础文档对句子进行评估。

如果一个句子不包含基础文档中的相关信息，它就会被完全过滤掉。对于包含一些相关内容的句子，模型会对其进行改写，匹配源材料。

附上官方介绍视频如下：

本文链接：//www.dmpip.com//www.dmpip.com/showinfo-45-7798-0.html微软发布新工具，检测和纠正 AI 幻觉内容

声明：本网页内容旨在传播知识，若有侵权等问题请及时与本网联系，我们将在第一时间删除处理。邮件：2376512515@qq.com

上一篇：英伟达发布 Llama-3.1-Nemotron-51B AI 模型：创新神经架构搜索等技术让单 H100 GPU 运行 4 倍以上负载

下一篇： OpenAI o1 AI 模型 PlanBench 规划能力实测：准确率 97.8%，远超 LLaMA 3.1 405B 创造的 62.6% 纪录

标签：

热门焦点

沉寂3年，大模型激活小度天猫精灵？

Tech星球（微信ID：tech618）文 | 何煦阳沉寂了许久的智能音箱，在今年大模型横空出世之后，又再次燃起了新的希望。 2月9日，小度宣布将融合文心一言，打造针对智能设备场景的AI模型&ldq
数字人的新革命，BAT的“冲高”战场

来源：刘旷ChatGPT横空出世，让人们看到了数字人的另一种可能，将ChatGPT与虚拟数字人融合，研发出更加智能化、拟人化的虚拟数字人成为数字人厂商的新命题、新方向。2月份，岭南股份
一个视频涨粉百万，柳夜熙们能成为元宇宙的“船票”吗？

当数字人成为一种生意，我们更关心的是，他们如何赚到钱，以及这意味着什么？01#“柳夜熙”爆火之后不知道大家还记不记得，去年10月31日万圣节，有一位虚拟美妆
2022年的Web3：定义概念并开创新范式

Web3 是关于加密和区块链应该如何使用的概念，因为它是加密圈的一个离散子领域。社区机会将呈指数级增长，扩大这些子行业的人口统计范围。追求 Web3 项目的组织仍
好莱坞：一股新的电影制作加密浪潮将颠覆这个行业

在Moviecoin.com平台上，有一部电影设定了一个前所未有的目标，即通过预售NFT获得100%的全额融资，这部电影就是马克·奥康纳(Mark O’connor)执导的《Oui Cannes》，
元宇宙社交时代，华丽归来的超级QQ秀重构虚拟社交场景

作者:狂人不知不觉间，QQ已经迎来了第23个生日。作为国内社交平台的起点，QQ可谓是睥睨全网，不仅有庞大的用户群体，还将虚拟形象及QQ整合成在线虚拟社区，开启了时髦
以太坊面临来自Fantom的巨大挑战

众所周知，区块链和加密货币项目经常因其对环境的影响而受到批评。但是有一个非营利性的加密货币和区块链项目说它比其他的更环保。今天老雅痞就给大家聊一聊加
元宇宙收割了谁

作者：晓宇资本将元宇宙看作下一代互联网的门票，画大饼、割韭菜就成了一大选项。2021年被称为元宇宙元年。在这一年里，先是号称元宇宙第一股的沙盒游戏Roblox盛装
元宇宙+剧本杀：“在异世界里当演员”

你玩过剧本杀吗？体验过“元宇宙+剧本杀”吗？2月，恒信东方推出了一款次时代剧本杀原创作品——《失落的王朝》。其剧本和线索以数字化资产打造，通过VR技术塑造了与