7月7日消息，OpenAI宣布成立一个新团队，旨在探索引导和控制下一代超智能人工智能系统的方法。该团队由OpenAI联合创始人兼首席科学家IlyaSutskever和Alignment负责人JanLeike共同领导。据悉，该团队被授予最高优先级，并获得公司20%的计算资源支持，他们的目标是在未来四年内解决控制超智能AI的核心技术挑战。
OpenAI的研究者Sutskever和Leike认为，下一代超智能AI可能在十年内问世，这将是迄今为止最具影响力的技术之一，有助于解决许多原本需要大量人力资源才能解决的问题。然而，他们也警惕这项技术潜在的反噬人类风险，因为超智能AI的巨大力量可能导致人类失去主权甚至灭绝。
该团队表示，目前还没有一个合理的解决方案来引导或控制潜在的超智能AI，人类目前只能通过反馈来调整AI系统的生成过程，但无法可靠地从根源上监督AI系统。为此，OpenAI计划构建一个大致达到人类水平的自动化对齐研究员，并利用大量的深度学习来扩展AI的能力，并迭代地调整这种超级智能。
据ITBEAR科技资讯了解，该团队计划开发可扩展的训练方法，验证生成的模型，并进行一系列可控性测试。研究人员目前计划利用这个AI系统来辅助评估其他AI系统，并希望了解和控制模型如何将监督推广到人类研究员无法监督的任务上。
Sutskever和Leike表示，随着研究的深入，他们预计研究重点可能会发生变化，并可能出现新的研究领域。
这一新团队目前正在招募机器学习研究人员和工程师。Sutskever和Leike认为，招募更多的机器学习专家对于解决下一代超智能AI的问题至关重要。他们计划广泛分享团队的研究成果，并促进整个行业的共同进步。
该新团队的工作是对OpenAI现有工作的补充，旨在提高ChatGPT等当前模型的安全性，以及理解和减轻人工智能带来的其他风险，如滥用、经济破坏、虚假信息、偏见和歧视、成瘾和过度依赖等。虽然新团队将专注于解决将超智能AI系统与人类意图结合的机器学习挑战，但OpenAI正在积极与跨学科专家合作，以解决与社会技术问题相关的更广泛的人类和社会问题。
标签：OpenAI免责声明：本网信息来自于互联网，目的在于传递更多信息，并不代表本网赞同其观点。其内容真实性、完整性不作任何保证或承诺。如若本网有任何内容侵犯您的权益，请及时联系我们，本站将会在24小时内处理完毕。举报 0收藏 0打赏 0评论 0分享 14 更多>同类资讯
语言差异导致人工智能费用差异：中文使用者面临挑战7月31日消息，据最新研究显示，大型语言模型(LLM)的费用受到使用语言的显著影响，可能加剧英语和其他语言使用者之间的人工智能鸿沟。该研究发现，由于计费方式的不同，英语输入和输出的费用相较于其他语言要低得多，其中简体中文费用约为英语的两倍，07-31谷歌发布全新机器人模型RT-2，赋予智能垃圾分类能力7月30日消息，谷歌公司近日发布了一款名为Robotics Transformer 2(RT-2)的全新机器人模型。这款机器人采用了最新版本的大语言模型，赋予了它们更强大的视觉-语言-行动能力。据谷歌透露，RT-2可以通过接收网络上的信息和图像，训练机器人执行各种任务07-30
未来展望：中国气象局引领世界人工智能气象应用进步7月29日消息，中国气象局近日印发《人工智能气象应用工作方案(2023—2030 年)》，旨在加快推进国产人工智能气象应用技术体系的建设，进一步提升我国气象领域的现代化水平。该方案明确了2025年和2030年的发展目标，力求在人工智能技术在气象领域的应用07-29谷歌发布新型AI模型RT-2：助力机器人学会扔垃圾等任务7月29日消息，谷歌近日发布了一项名为Robotics Transformer2(RT-2)的引人瞩目的新型人工智能(AI)模型。该模型的目标是帮助训练机器人理解并执行各种任务，例如扔垃圾等。据谷歌介绍，RT-2是一种视觉语言动作模型，其独特之处在于，它允许机器人从互联07-29
微软合作助力AMD开发"雅典娜"人工智能芯片7月28日消息，据外媒报道，美国芯片制造商AMD计划在未来五年内在印度卡纳塔克邦班加罗尔投资4亿美元，新建一个占地50万平方英尺的设计中心，并预计在2023年底之前启用。这一举措将增加约3000个新的工程岗位，提供更多机会供当地人就业。据了解，该设07-28
北京交通大学发布国内首个综合交通大模型TransGPT，助力交通行业智慧发展7月28日消息，北京交通大学联合中国计算机学会智慧交通分会和足智多模公司等机构，今日正式发布了国内首个综合交通大模型TransGPT。该模型基于Transformer架构，融合了多模态结构和实时场景数据调用模式，成为以综合交通大模型为基础设施，辅以交通细07-28
人工智能竞赛加速！ChatGPT应用在安卓平台发布 横扫16国市场！7月28日消息，自从OpenAI的ChatGPT应用正式登陆安卓平台以来，安卓版ChatGPT应用已在16国推出。据悉，本周二，OpenAI的ChatGPT应用在安卓平台上迎来了正式发布。这一消息一经传出，引发了全球范围内的关注。安卓版ChatGPT应用在美国、印度、孟加拉国07-28DoorDash推出基于AI技术的聊天机器人“DashAI”，外卖点餐更便捷7月28日消息，据报道，美国餐饮外卖巨头DoorDash近日正加紧研发基于人工智能技术的聊天机器人“DashAI”，旨在进一步提升顾客的点餐效率。这款名为“DashAI”的聊天机器人能够通过顾客输入的关键词，为他们推荐个性化的外卖餐饮选择。一旦这一功能成07-28
数字安全领域持续发力，360集团与郑州市政府签署全面战略合作协议7月27日消息，杭州市政府与三六零科技集团有限公司于昨日下午签署了战略合作框架协议，进一步加深双方在数据安全领域的合作。根据官方介绍，杭州与三六零科技集团有着长期的合作关系，此次合作旨在夯实数据安全底座、推动数据安全产业发展，并提升自07-28Meta股价大涨 扎克伯格称人工智能投资显现成效7月27日消息，据近期的财经报道，Meta首席执行官马克·扎克伯格宣布，该公司采用新兴技术对信息流和推荐进行个性化的做法已经初见成效。美股周三收盘后，Meta股价迎来上涨，这得益于该公司报告了自2021年以来的首次两位数收入增长。扎克伯格称，Meta07-27
Stability AI稳定扩散XL 1.0版本登场，35亿参数助力高效图像生成7月27日消息，文生图行业领军企业Stability AI在日前正式发布了Stable Diffusion XL 1.0版本。仅一个月前，该公司曾推出0.9版本，如今Stability AI称Stable Diffusion XL 1.0是他们迄今为止最先进的AI工具。Stable Diffusion XL 1.0以开源形式登陆Git07-27
微软宣布全面开放必应深色模式7月27日消息，微软Bing工程和产品负责人Jordi Ribas近日在社交媒体上发布了一条令人振奋的消息，宣布将面向所有必应聊天(Bing Chat)和必应搜索(Bing Search)用户开放深色模式。这一举措将为用户带来更加舒适的使用体验和更加个性化的界面设置。据ITBE07-27
微软与日本政府达成协议 将提供ChatGPT技术用于文书处理与统计数据分析7月27日消息，微软近日与日本政府达成重要协议，将向后者提供最新的ChatGPT技术，引发了业界广泛关注。根据协议内容，微软将提供日本政府最新的语言模型GPT-4，以及由Meta开发的生成式AI技术。为确保处理机密信息的安全性，微软在位于东京和大阪的数07-27亚马逊云计算部门展开与谷歌、微软的人工智能竞争7月27日消息，据路透社报道，亚马逊旗下的云计算部门正积极引发市场关注，该部门近日宣布了一系列全新的人工智能(AI)工具和服务，旨在与谷歌和微软展开激烈竞争，进一步巩固其在云计算领域的领先地位。在周三的一次发布会上，亚马逊高管透露，数千名07-27
OpenAI停止AI Classifier工具运行，寻求更高准确性7月26日消息，OpenAI 官方近日更新新闻稿，宣布停止使用名为 AI Classifier 的 AI 文本检测工具。该工具的初衷是用于区分文本是由人类撰写还是由AI生成的，然而在上线后，OpenAI 发现该工具的准确性问题相当严重，无法可靠地识别内容。据报告显示，识07-26
谷歌 Chrome 浏览器或效仿 Edge？侧边面板功能升级
三星Galaxy S24 Ultra：下一代旗舰手机或迎来钛合金时代！
歌尔光学发布全新VR和AR显示模组，助力产品显示效果飞跃提升
宁德时代上半年营收爆发式增长，超越韩国电池行业！
雷柏与原相科技战略合作，打造高级定制光学引擎
黄仁勋掌握公司所有运营，英伟达降价愿望破灭热门内容语言差异导致人工智能费用差异：中文使用者面临挑战未来展望：中国气象局引领世界人工智能气象应用进步微软合作助力AMD开发"雅典娜"人工智能芯片北京交通大学发布国内首个综合交通大模型TransGPT，助力交通行业智慧发展人工智能竞赛加速！ChatGPT应用在安卓平台发布 横扫16国市场！数字安全领域持续发力，360集团与郑州市政府签署全面战略合作协议
本文链接：//www.dmpip.com//www.dmpip.com/showinfo-45-1032-0.htmlOpenAI成立新团队，探索超智能人工智能的引导和控制方法
声明：本网页内容旨在传播知识，若有侵权等问题请及时与本网联系，我们将在第一时间删除处理。邮件：2376512515@qq.com
Copyright © 2016-2023 天津谷骐科技有限公司 版权所有 sitemap.xml
违法及侵权请联系：2376512515@qq.com 津ICP备18001702号
津公网安备 12010102000574号
