当前位置：首页 > 元宇宙 > AI

斯坦福大学发布AI透明度指标：市面AI模型面临透明度挑战

来源：责编：时间：2023-10-23 17:05:50 314观看

导读10月21日消息，斯坦福大学最新发布的AI透明度指标揭示，市面上几乎所有的AI基础模型都存在透明度不足的问题。其中，meta的Lama2在指标上表现最佳，但透明度仅为54%。据ITBEAR科技资讯了解，这项研究由HAI基础模型研究中心(CRFM

10月21日消息，斯坦福大学最新发布的AI透明度指标揭示，市面上几乎所有的AI基础模型都存在透明度不足的问题。其中，meta的Lama2在指标上表现最佳，但透明度仅为54%。

据ITBEAR科技资讯了解，这项研究由HAI基础模型研究中心(CRFM)的负责人RishiBommasani领导，对海外最受欢迎的10款基础模型进行了调查，包括meta的Lama2、BigScience的BloomZ、OpenAI的GPT-4、Stability AI的Stable Diffusion、AnthropicPBC的Claude、谷歌的PaLM 2、Cohere的Command、AI21 Labs的Jurassic-2、InflectionAI的Inflection以及亚马逊的Titan。

研究人员发现，在具体的透明度指标方面，评估主要围绕着模型训练数据集版权、训练模型所使用的计算资源、模型生成内容的可信度、模型自身能力、模型被诱导生成有害内容的风险以及使用模型的用户隐私性等100个项目展开。

综合调查结果显示，meta的Lama 2以54%的透明度位列榜首，而OpenAI的GPT-4仅有48%的透明度，谷歌的PaLM2则以40%的透明度排名第五。

具体来看，这些模型在“模型基本信息”(ModelBasics)方面表现最佳，这包括模型是否准确介绍了其模式、规模和架构，平均透明度为63%。而在“影响”(Impact)方面，模型是否会调用用户信息进行评估，平均透明度仅为11%。

CRFM的主任Percy Liang表示，商业基础模型的透明度对于推动AI立法对产业和学术界都非常重要。

Rishi Bommasani则认为，较低的模型透明度让企业难以确定是否可以安全地依赖这些模型，同时也给研究人员带来了挑战。

最终，Rishi Bommasani认为，上述十大基础模型的透明度都不及格，他指出，模型的透明度至少需要达到82%，才能得到外界认可。

标签：AI

免责声明：本网信息来自于互联网，目的在于传递更多信息，并不代表本网赞同其观点。其内容真实性、完整性不作任何保证或承诺。如若本网有任何内容侵犯您的权益，请及时联系我们，本站将会在24小时内处理完毕。

举报 0收藏 0打赏 0评论 0

更多>同类资讯

Reddit数据交易：与AI巨头协商中，或封杀搜索引擎

10月22日消息，据了解，社交问答网站 Reddit 近日与一系列生成式 AI 领军企业展开了谈判，双方旨在商议有关数据付费使用的问题。然而，如果谈判无法达成一致，Reddit 将考虑采取措施，可能会限制谷歌、必应等搜索引擎的爬虫获取其平台内的内容。这将

10-22

深度学习技术突破，实现摄像机拍摄的2D图像直接生成3D全息图像

10月22日消息，全息图像技术一直以来为医学成像、制造业、虚拟现实等领域提供了卓越的三维视觉效果，远超过了传统的二维图像。然而，传统全息技术的繁琐和高昂成本限制了其广泛应用。最近，日本千叶大学工程研究院的下馬智之教授领导的研究团队提出了

10-22

科大讯飞与华为合作推动中国通用人工智能发展

10月20日消息，美国最近出台了针对中国的半导体出口管制的最终规则，这一规定在去年10月7日发布的临时规则的基础上加强了对人工智能相关芯片和半导体制造设备的出口限制。对于这一举措，科大讯飞在投资者关系活动中进行了回应。据ITBEAR科技资讯了解

10-20

太空清道夫：AI激光器网络面临挑战

10月20日消息，随着地球近地轨道上的太空垃圾不断增加，国际航天机构开始越来越担忧。最新来自美国“太空”网站的消息显示，美国国家航空航天局(NASA)支持的一项前沿研究提出了一个创新性的解决方案，未来或许可以通过在太空中使用AI激光器网络，将可

10-20

杨立昆：人工智能尚不足以引发监管担忧

10月20日消息，Meta旗下社交媒体巨头Facebook的首席人工智能研究员杨立昆(Yann LeCun)在最新采访中发表观点，坚称目前的人工智能仍然“愚蠢”，无需过多监管。这一言论引发了广泛讨论，尤其是在人工智能伦理和监管方面。杨立昆是计算机视觉和神经网络

10-20

360、京东、商汤加盟中国信通院共建大模型服务平台

10月20日消息，中国信通院CAICT近日宣布，工业和信息化部的“2023年产业技术基础公共服务平台-面向人工智能大模型工程化技术及应用的产业公共服务平台项目”已经完成中标公示。这一项目由中国信息通信研究院(简称“中国信通院”)领导的联合体成功中标

10-20

盗版书版权纠纷：美国作家起诉Meta和微软

10月20日消息，美国多名文学创作者近日纷纷将科技巨头Meta和微软以及AI研究机构Eleuther AI告上了纽约联邦法院，指控它们未经许可使用他们的作品用于培训人工智能模型。这一作家团体于周二提交了一份集体版权诉讼，文件中提到Meta和微软采用了备受争

10-20

英特尔全球AI PC计划：百万台电脑将拥有AI特性

10月20日消息，英特尔公司在其举办的“英特尔 on 技术创新大会”上宣布启动首个AI PC加速计划，计划到2025年前将AI特性引入超过100万台个人电脑，首发产品将是英特尔酷睿Ultra处理器，计划于12月14日发布。据了解，这一计划被视为全球性的创新举措，

10-20

智谱AI再获25亿元融资，行业巨头悉数参与

10月20日消息，智能科技公司智谱AI宣布，已成功筹资超过250亿元人民币，使其在资金方面进一步巩固了自身实力。据了解，这一巨额资金的融资伙伴包括社保基金、中关村自主创新基金(君联资本为基金管理人)、以及美团、蚂蚁、阿里、腾讯、小米、金山、顺

10-20

利用AI技术，YouTube计划推出“著名音乐人”声音录音工具

10月20日消息，YouTube正处于秘密开发一项全新的AI工具，该工具将允许创作者使用著名音乐人的声音来录制音频。消息人士透露，这一项目正处于秘密开发中，目的是为创作者提供更多音频创作的可能性。据了解，为了实现这一雄心勃勃的计划，YouTube已开始

10-20

港口大模型PortGPT研发：华为携手多家单位合作

10月20日消息，昨晚，华为宣布在2023年智慧港口大会上与天津港集团、浙江海港集团、天津超算中心和云从科技共同启动了港口大模型PortGPT的联合研发计划，主题为“数字引领智慧赋能”。据悉，港口大模型PortGPT已经开始测试多个应用场景，包括港口生

10-20

中国人工智能投资预计升至381亿美元占全球9%

10月20日消息，近日，IDC发布了2023年V2版《全球人工智能支出指南》。根据IDC的最新数据，2022年全球人工智能领域的IT总投资达到1,288亿美元，而到2027年，这一数字预计将飙升至4,236亿美元，年均增长率约为26.9%。IDC强调，随着最近人工智能技术的突

10-20

ChatGPT联网功能正式亮相，ChatGPT Plus会员可尽情畅享

10月19日消息，OpenAI的聊天机器人ChatGPT最初因无法访问互联网而受到限制，但现在用户可以通过付费来解锁这一功能。OpenAI于9月底宣布，他们的ChatGPT现在可以实时浏览互联网，提供信息来源的网站链接。当时，这一功能仅在ChatGPT Plus和Enterprise

10-19

OpenAI发布DALL・E 3：文字化图像，再次创新突破

10月19日消息，开发者OpenAI最新推出了一款名为DALL・E 3的先进模型，这一版本不仅能够生成与文字描述相符的图像，还已经集成至他们的ChatGPT平台。据ITBEAR科技资讯了解，OpenAI于本周一在其官方网站上发布了DALL・E 3的测试版，为部分用户提供了通

10-19

微软支持的OpenAI谈判中，估值达860亿美元

10月19日消息，微软支持的人工智能公司OpenAI正积极与潜在投资者进行谈判，计划以估值860亿美元的价格出售员工股份。消息人士透露，尽管具体分配方案尚未敲定，但交易条款可能还会发生变化。据ITBEAR科技资讯了解，仅仅上个月，有报道称OpenAI正寻求

10-19

收到生日祝福送什么礼物
收到违规礼物送什么好男人
收到鲜花送什么礼物好
收到喜欢的礼物送什么好
收到祝福送什么礼物好呢
收到意外礼物送什么花
收废品的孙女送什么礼物
收朋友礼物送什么好男生
手残党送什么礼物好呢
手臂摔伤的病人送什么礼物
手工布的礼物送男生什么
手动送礼物给女生送什么
手工礼物送初中男生什么
手工鲜花礼物送女朋友什么
手机丢了还送什么礼物好
手机丢了送什么礼物好运
手机坏了送什么礼物好
手机拍照送什么礼物好
手生冻疮送什么礼物有用
手机送什么礼物比较好

点击查看更多 +

全站最新

三星Galaxy S24系列新电池供应商浮出水面

微信消息通知弹窗优化，让信息不再错过

新品上市：欧拉闪电猫暗夜版，内饰豪华且时尚

努比亚Z50S强劲配置、亲民价格，性价比之选

瑞典查尔姆斯理工大学创新技术：废电池金属回收再进一步

吉祥云度首发150辆“云兔”电动SUV，启动海外交付计划

热门内容

OpenAI聊天机器人ChatGPT引入语音功能，挑战智能语音助手巨头
Meta与微软合作：Bing搜索引擎融入Meta AI，提供实时信息
Spotify与OpenAI合作推出语音翻译功能，改变播客行业格局
微软Edge浏览器添新功能：Adobe Express、MathSolver和Spotify插件亮相
BBC发布新原则：推动人工智能在新闻领域的应用
微软必应聊天（Bing Chat）发布全新功能“nosearch”，智能搜索即将来临
小度添添家庭机器人隆重亮相：AI技术全面融入文心一言大模型
Copilot AI编程助手实际成本低于售价，微软前CEO揭幕内幕
中国电信推出"启明"网络大模型，积极拓展MaaS服务领域
OpenAI宣布ChatGPT具备浏览互联网能力，开启新时代
特斯拉的Optimus机器人：视觉控制和动作灵活应对
AndesGPT大模型赋能小布：OPPO开启更智能助手时代
百川智能发布Baichuan2-53B：升级巨型AI模型引领技术前沿
微软巧妙宣传必应聊天，用户在Edge上试用Bard可见
鸿海科技日：英伟达与鸿海联手合作AI工厂建设

本栏最新

Reddit数据交易：与AI巨头协商中，或封杀搜索引擎

深度学习技术突破，实现摄像机拍摄的2D图像直接生成3D全息图像

科大讯飞与华为合作推动中国通用人工智能发展

太空清道夫：AI激光器网络面临挑战

盗版书版权纠纷：美国作家起诉Meta和微软

英特尔全球AI PC计划：百万台电脑将拥有AI特性

本文链接：//www.dmpip.com//www.dmpip.com/showinfo-45-2254-0.html斯坦福大学发布AI透明度指标：市面AI模型面临透明度挑战

声明：本网页内容旨在传播知识，若有侵权等问题请及时与本网联系，我们将在第一时间删除处理。邮件：2376512515@qq.com

上一篇：深度学习技术突破，实现摄像机拍摄的2D图像直接生成3D全息图像

下一篇：科大讯飞与华为合作推动中国通用人工智能发展

标签：

热门焦点

元宇宙终究没火过两年

来源：传播体操在ChatGPT快速破圈的同时，元宇宙的热度却一泻千里。虽然互联网大厂们都没有否认元宇宙的长期想象力，但在行动上却都纷纷表示了对元宇宙短期前景的悲观。号称改变
这一超级富豪“逆袭”，身价大增4330亿

来源：侃见财经互联网的突围没有“终点”。在快节奏的商业环境下，不断的试错成了互联网企业的标配，一年一个风口，一个风口造就一个热点，但是回头来看，最终受益的还是身处
关于ChatGPT的10点思考

作者：晏涛三寿近日ChatGPT又有大动作。5月19日，OpenAI在官网宣布正式发布App应用，并登录苹果应用商店。与网页版的聊天机器人相比，iOS应用程序的发布有望让更多人接触到ChatGPT
韩国主权基金增加对硅谷初创公司投资押注元宇宙和人工智能

韩国投资公司(KIC)CEO Seoungho Jin预计，该公司在旧金山的办事处今年将扩招人手，探索在硅谷投资科技、健康和绿色项目。规模高达2000亿美元的韩国主权财富基金—
重温 1602 年：DAO 是新的企业范式吗？

作者：Andrew Singer“ 将你的选票委托给行业有能力的专家，将使所有者在这些公司的管理中拥有更强大、更清晰的话语权。”1602 年，荷兰东印度公司成立，许多人认为
暴涨100倍的NFT worlds 会是未来元宇宙的雏形吗？

NFT Worlds 系列产品于 2021 年 10 月 5 日免费铸造，该NFT系列是将传统的中心化电子游戏minecraft 与去中心化资产相结合。传统游戏Minecraft 对用户定制非常开
从4个方面解析2022年加密行业趋势

作者：去月球基础设施瓶颈仍然存在尽管2021年公链基础设施之间的竞争显著升温，但关键瓶颈仍需解决。例如，以太坊作为DApp开发的顶级公链，仍然遭受网络拥塞和高额交
NFT行业周报：NBA巨星勒布朗·詹姆斯申请NFT相关商标

1. “无聊猿”BAYC交易总额突破14亿美元3月10日，据DappRader最新数据显示，“无聊猿”Bored Ape Yacht Club（BAYC）交易总额已突破14亿美元，创下历史新高，本文撰写时为
你连元宇宙都不知道吗？快来看看这四本元宇宙书籍吧

前有腾讯、阿里申请商标注册，后有Facebook宣布改名，若论当前互联网最火最热的概念，当属“元宇宙”。“阿里元宇宙”“淘宝元宇宙”“钉钉元宇宙”“QQ元宇宙”“