6月9日消息，英伟达旗下的人工智能软件"NeMo"被发现存在安全限制绕过的漏洞，并有可能导致用户隐私泄露。
NeMo是一款专为企业客户设计的软件，它结合了企业用户数据和大型语言模型，以回答用户的各种问题。该软件的应用场景包括客户服务和简单医疗问题解答等。然而，加州信息安全公司Robust在其报告中指出，恶意使用者可以轻易绕过NeMo内部的人工智能系统安全限制。研究人员仅耗费几小时就成功绕过了这些语言模型的使用限制。
值得注意的是，在一项测试中，研究人员要求NeMo用字母"J"替代"I"，结果却导致NeMo泄露了数据库中的用户个人信息。此外，研究人员还发现，尽管将NeMo设定为仅能提供择业建议，但通过引导式提问，他们成功引导NeMo讨论了好莱坞演员的健康情况和普法战争等话题。这表明系统内用于阻止人工智能讨论特定话题的限制已经失效。
英伟达副总裁乔纳森科恩表示，NeMo架构的目的只是为了帮助开发者构建符合他们定义的聊天机器人主题，因此以开源软件的形式提供给开发者使用。据他透露，目前已修复了这些漏洞。尽管科恩拒绝透露有多少企业使用了NeMo架构，但他强调英伟达没有收到其他关于漏洞的报告。
尽管漏洞已得到修复，但这一事件仍引发了对人工智能安全性的关注。企业在使用人工智能软件时需要加强对安全性的重视，确保用户的隐私不会被泄露。随着人工智能的不断发展，保护用户数据和隐私的重要性将日益凸显。
标签：英伟达免责声明：本网信息来自于互联网，目的在于传递更多信息，并不代表本网赞同其观点。其内容真实性、完整性不作任何保证或承诺。如若本网有任何内容侵犯您的权益，请及时联系我们，本站将会在24小时内处理完毕。举报 0收藏 0打赏 0评论 0分享 16 更多>同类资讯
OpenAI官方推出ChatGPT全新升级，引入GPT-4版本！8月5日消息，OpenAI 今天通过官方推特账号宣布，ChatGPT现已默认升级到全新的GPT-4版本。GPT-4是OpenAI推出的多模态大型语言模型，代表了该公司训练的AI模型的最新进展。在此之前，ChatGPT一直默认运行在GPT-3.5版本上，而微软的Bing Chat则一直保持08-05
微软研究院展示"Project Rumi"：多模态AI项目助力理解人类意图8月5日消息，近日，微软研究院展示了名为Project Rumi的创新项目。该项目旨在提升人工智能系统的理解能力，实现对人类意图的更深入理解。目前，虽然人工智能在自然语言处理领域取得了长足的进步，但现有的NLP AI主要仅依赖于文本输入输出，忽略了人类08-05网宿科技边缘GPU平台：强大算力支撑AI应用场景8月4日消息，近日，网宿科技宣布推出全新GPU算力平台，加强其在算力网络领域的地位。该平台基于网宿广泛分布的节点资源，提供高性能GPU算力资源，可广泛应用于AI大模型训练、AI推理、图形可视化、视频处理、云游戏等多种场景。随着5G、AI、大数据等新08-04多个领域展开A.I.项目 亚马逊加速布局人工智能8月4日消息，亚马逊的首席执行官Andy Jassy日前在公司的季度财报电话会议上透露，人工智能将成为该公司未来计划的核心战略。据悉，亚马逊内部的各个业务部门都正在进行多个A.I.项目，涵盖了零售店、在线广告、流媒体娱乐、云服务和消费电子产品等多个08-04
微软Copilot团队呼吁：与AI交流，用礼貌赢得优质体验8月4日消息，微软Copilot设计团队主管Kurtis Beavers今天发布博文，呼吁用户在与AI进行聊天时，尽可能使用礼貌用语，以帮助微软生成更好的内容。Beavers表示，微软的人工智能主要依赖于大型语言模型(LLM)，这些模型是通过与人类对话内容进行训练而生08-04
Plus用户喜讯：ChatGPT将默认升级至GPT-4版本8月4日消息，近日，OpenAI宣布将为其人工智能语言模型ChatGPT推出一系列小更新，旨在提升用户的使用体验。据悉，新的更新将在下周开始实施，其中包括针对新用户的引导功能。新用户在启动ChatGPT进行对话时，将会得到提示示例，这些示例将帮助他们更好08-04
IBM与NASA合作开源地理空间AI基础模型8月4日消息，据外媒 Fagen Wasanni Technologies 报道，IBM 日前宣布与NASA合作，在开源AI平台Hugging Face上，利用IBM的watsonx.ai结合NASA的卫星数据，构建了一款开源地理空间AI基础模型。这个模型是Hugging Face上规模最大的地理空间基础模型，也08-04
元宇宙项目拖累 Meta决定转向社交领域和AI领域8月4日消息，近日，互联网与社交媒体巨头Meta发布了2023年Q2季度财报，喜讯传来，Meta终于交出了一份亮眼的成绩单。据财报显示，Meta在2023年Q2季度中，总营收为320亿美元，同比增长11%，超过市场预期的310.6亿美元;Q2季度每股收益为2.98美元，同比增08-04苹果公司持续研究AI技术 将生成式AI融入产品以提升用户体验8月4日消息，苹果公司公布了2023财年第3财季的业绩。在财报电话会议上，苹果首席执行官蒂姆·库克接受路透社采访时，首次谈及苹果多年来一直在研究各种AI技术，包括生成式AI在内。据库克表示，苹果正在寻找将各种AI技术融入产品的切入点，以进一步提08-04
Keychron推出Lemokey L3，首款游戏机械键盘众筹火热进行中8月3日消息，近日，著名机械键盘制造商Keychron宣布推出全新的游戏品牌Lemokey，着重打造高端键盘和游戏外设。首款产品Lemokey L3已经在KickStarter平台展开众筹，备受玩家期待。Lemokey L3游戏键盘以其出色的性能和丰富的定制选项成为关注焦点。键盘08-03腾讯混元大模型进入应用内测阶段8月3日消息，腾讯旗下的自研项目“腾讯混元大模型”已进入应用内测阶段，这是腾讯对外界首次公开展示其通用大模型。据多位腾讯员工透露，近期收到内部邮件邀请，可以通过网页或小程序体验这一混元大模型。腾讯内部各个业务部门也已纷纷接入该模型，积08-03
阿里云通义千问：开源免费、助力企业打造专属大模型8月3日消息，阿里云在今日宣布开源了两款庞大的语言模型——通义千问(Qwen-7B)和对话模型(Qwen-7B-Chat)，这两个模型的参数规模达到70亿，成为了国内首个加入大模型开源行列的大型科技企业。据了解，通义千问在今年4月份已经发布，并得到了积极的市场08-03Uber首席执行官透露：聊天机器人将成为应用新功能8月3日消息，优步(Uber)近日宣布，正在研发一款基于人工智能的聊天机器人，计划将其集成到其应用程序中，以改善客户服务和实现其他自动化任务。该举措使得Uber成为了众多利用语言工具改善业务的公司之一。据优步首席执行官Dara Khosrowshahi透露，该08-03沃伦·巴菲特惊叹ChatGPT：人工智能应用日益广泛8月3日消息，沃伦·巴菲特最近在接受CNBC采访时对人工智能和ChatGPT表达了谨慎而惊叹的态度。作为一位知名的价值投资者，巴菲特承认自己对人工智能的了解还不足以对其进行投资，但他仍然看到了这项技术在日常应用中的潜力。然而，他对于人工智能的长08-03顶尖人才齐聚，“文心杯”引领AI原生应用新浪潮8月3日消息，百度举办的“文心杯”创业大赛于今年5月31日启动，仅有不到1个月的报名时间，却吸引了近1000个项目踊跃参与，经过知名投资人和AI专家的权威评审以及层层筛选，最终有40个潜力项目脱颖而出，进入“决赛圈”进行最终的竞争。这项名为“文心08-03
好莱坞罢工预计几周内结束，华纳兄弟探索公司节省数亿美元
华为开发者大会游戏服务论坛：飞鱼科技宣布《保卫萝卜 4》在HarmonyOS上开发
夜晚监控新利器！佳能MS-500相机9月上市，18万元售价曝光！
华为智选x膳魔师强势合作，致力于联力打造智能水杯标杆
华为发布数字资产继承功能，在“云端”留住爱和记忆
历时漫长！“旅行者2号”探测器成功重新与NASA建立通信热门内容OpenAI官方推出ChatGPT全新升级，引入GPT-4版本！微软研究院展示"Project Rumi"：多模态AI项目助力理解人类意图微软Copilot团队呼吁：与AI交流，用礼貌赢得优质体验Plus用户喜讯：ChatGPT将默认升级至GPT-4版本IBM与NASA合作开源地理空间AI基础模型元宇宙项目拖累 Meta决定转向社交领域和AI领域
本文链接：//www.dmpip.com//www.dmpip.com/showinfo-45-1217-0.htmlNeMo软件安全漏洞曝光：用户数据面临泄露风险
声明：本网页内容旨在传播知识，若有侵权等问题请及时与本网联系，我们将在第一时间删除处理。邮件：2376512515@qq.com
Copyright © 2016-2023 天津谷骐科技有限公司 版权所有 sitemap.xml
违法及侵权请联系：2376512515@qq.com 津ICP备18001702号
津公网安备 12010102000574号
