当前位置:首页 > 元宇宙 > 元宇宙

欧盟人工智能法案:四种AI系统风险类型的划分及监管措施

来源: 责编: 时间:2023-08-05 11:39:11 2748观看
导读作者:赵志东 蔡佳雯来源:区块链日报该法案采用风险分级的规制路径,将人工智能系统的风险划分成不可接受的风险、高风险、有限风险和轻微风险四种类型,并针对不同类型施加了不同的监管措施。本文将进一步展开解读欧盟人工

作者:赵志东 蔡佳雯2dO28资讯网——每日最新资讯28at.com

来源:区块链日报2dO28资讯网——每日最新资讯28at.com

该法案采用风险分级的规制路径,将人工智能系统的风险划分成不可接受的风险、高风险、有限风险和轻微风险四种类型,并针对不同类型施加了不同的监管措施。本文将进一步展开解读欧盟人工智能法案的监管框架及监管措施。

6月14日,欧洲议会(European Parliament)以499票赞成、28票反对、93票弃权的结果通过了《关于“欧洲议会和理事会条例:制定人工智能的统一规则(人工智能法案)并修订某些联盟立法”的提案》(以下简称“欧盟人工智能法案”)。2dO28资讯网——每日最新资讯28at.com

人工智能已成为全球科技行业的一个关键战场,各家科技公司都在争夺技术开发方面的主导地位。欧洲议会批准了全球首个针对人工智能行业的综合性法规,迈出了欧盟人工智能法案正式生效的重要一步。2dO28资讯网——每日最新资讯28at.com

该法案采用风险分级的规制路径,将人工智能系统的风险划分成不可接受的风险、高风险、有限风险和轻微风险四种类型,并针对不同类型施加了不同的监管措施。本文将进一步展开解读欧盟人工智能法案的监管框架及监管措施。2dO28资讯网——每日最新资讯28at.com

解读欧盟人工智能法案:四种AI系统风险类型的划分及监管措施2dO28资讯网——每日最新资讯28at.com

 2dO28资讯网——每日最新资讯28at.com

图源:欧洲政策研究中心(Centre for European Policy Studies,CEPS)

一、禁用不可接受的风险类型的人工智能系统

根据欧盟人工智能法案,部分人工智能系统因严重侵犯基本人权或违反欧盟价值观,故而被归类为不可接受的风险类型的人工智能系统,无论是其投放市场,或是投入服务或使用的行为均应被禁止。2dO28资讯网——每日最新资讯28at.com

在被禁用的人工智能系统中,有一类是涉及该人工智能系统可能会通过潜意识操纵用户,或利用特定用户在年龄、身体或精神残疾或其他方面的弱点,实质性地改变用户的行为,并可能给该用户造成身体或心理伤害。2dO28资讯网——每日最新资讯28at.com

举例而言,当前市场上面向青少年如同的语音集成类玩具,若其使用的人工智能系统与用户进行游戏或交互过程中,会鼓励未成年人进行一些危险的行为或挑战,则是利用儿童在年龄、心智方面的不成熟影响其安全。再如,对于通过声音频率潜意识影响用户行为的人工智能系统,如果该系统用于让卡车司机长时间驾驶,就属于通过潜意识操控司机,影响了司机的健康和安全,故而被禁用。2dO28资讯网——每日最新资讯28at.com

另一类被禁止的人工智能系统,则涉及不当的数据评估。这类人工智能系统可根据采集/提供的个人信息、数据、资料等,对相关个人进行评估、分类或行为预测,若该人工智能系统的评估或预测结果会导致某些人受到不合理的待遇或不公允的评价,则该人工智能系统属于不可接受的风险类型。2dO28资讯网——每日最新资讯28at.com

此外,为执法目的在公共场所使用实时远程生物识别系统也被列入不可接受的风险类型,例如在公共场所使用该系统以抓取生物识别数据来创建面部识别数据库的行为,就是法案所禁止的。2dO28资讯网——每日最新资讯28at.com

但是,不同于前述两类,在公共场所使用实时远程生物识别系统有例外许可情形。当使用该系统的执法目的为有针对性地寻找特定的潜在犯罪受害者;或预防对人身安全的重大威胁或恐怖主义威胁;或侦查、定位、识别或起诉刑事犯罪嫌疑人时,若事先得到司法机关的授权,并在时间、地理和范围上符合最小必要原则,则在公共场所使用实时远程生物识别系统是被允许的。2dO28资讯网——每日最新资讯28at.com

二、重点监管高风险类型的人工智能系统

高风险类型的人工智能系统是欧盟法案的监管重点,具体包括应用于自然人生物识别和分类、关键基础设施的管理和运营、教育和职业培训、就业和员工管理、获得和享受基本公共服务及福利资格的评估、执法、移民、庇护和边境管制、司法程序和民主程序等领域的人工智能系统。2dO28资讯网——每日最新资讯28at.com

法案针对该类型的人工智能系统,规定了从入市前到入市后的全流程风险管理措施,以预防并控制高风险类型人工智能系统对人类安全或基本人权产生负面影响。该等义务的承担主体主要是为人工智能系统的服务提供者。2dO28资讯网——每日最新资讯28at.com

所谓提供者,系指开发人工智能系统或以自身名义/商标将人工智能系统投入市场或投入使用(无论是收费还是免费)的自然人、法人、机构或其他团体。也就是说,无论是开发、发行、还是仅仅作为经销商或中间授权方,只要是提供高风险类型的人工智能系统服务的主体,都属于受监管的对象。2dO28资讯网——每日最新资讯28at.com

在人工智能系统投入市场前,提供者应建立和维持风险管理系统,识别已知的和可预见的投入使用后可能存在的风险,并确保人工可对人工智能系统进行监督,能通过对系统输出的存在“自动化偏见”的结果进行人为干预,以调整或终止其结果输出。此外,对于利用数据训练模式的人工智能系统,提供者还应确保其数据训练、验证和测试均符合欧盟数据立法的相关要求。2dO28资讯网——每日最新资讯28at.com

人工智能系统在投放入市时,应当进行合格评估,提供者应向主管机关提供AI系统及其开发过程的描述、关于AI系统检测、运作和控制的描述等系统相关必要信息,确保Al系统的性能始终符合其预期目的及各项管理要求,并贴上欧洲共同市场安全标志(“CE标志”),附有CE标志的人工智能系统产品方可在欧盟成员国内自由流通。2dO28资讯网——每日最新资讯28at.com

人工智能系统在投入使用后,提供者应当建立入市后检测系统,收集、记录和分析人工智能系统在整个生命周期的可靠性、性能和安全性的相关数据,并评估人工智能系统对法规的持续遵守情况。当人工智能系统发生严重故障或侵犯人类基本权利的事件时,提供者应当在发现该事件后的72小时内向国家监督机构报告。2dO28资讯网——每日最新资讯28at.com

三、有限风险或轻微风险类型的人工智能系统

有限风险类型的人工智能系统,是指使用者在应用系统时能够意识到在与人工智能互动,且使用者仍然能以自己的判断做出明智的决定。该风险类型的人工智能系统在欧盟法案的监管框架下有较高的自由度,投放市场或投入使用前无需取得特殊的牌照、认证或履行繁杂的报告、监督、记录留存等义务。当前市场上常见的聊天机器人、文字和图片识别及生成软件、AI伴侣等大多属于此一风险类型。2dO28资讯网——每日最新资讯28at.com

而未归类在不可接受的风险、高风险或有限风险类型的其他人工智能系统,都属于轻微风险类型。该风险类型的人工智能系统没有特殊的干预和审查制度,但提供者可自愿建立各行业的行为准则。2dO28资讯网——每日最新资讯28at.com

当然,与人类交互的人工智能系统仍需要符合透明度规则,即提供者应当告知用户的交互对象是AI而非真人,告知的内容根据人工智能系统的类型有所差异:(1)对于情感识别系统或生物识别分类系统,提供者应当将系统的运作情况和结果告知使用者;(2)对于生成或操纵图像、音频或视频内容的人工智能系统,如果该种深度伪造会让人误以为是真实内容的,提供者应当就深度伪造内容进行披露和提示,以帮助用户区分深度伪造信息和真实信息。2dO28资讯网——每日最新资讯28at.com

本文链接://www.dmpip.com//www.dmpip.com/showinfo-40-4-0.html欧盟人工智能法案:四种AI系统风险类型的划分及监管措施

声明:本网页内容旨在传播知识,若有侵权等问题请及时与本网联系,我们将在第一时间删除处理。邮件:2376512515@qq.com

上一篇: 清华、北大等86所高校布局元宇宙,是风口还是噱头?

下一篇: AI网红能年赚百万,普通人的新机会来了?

标签:
  • 热门焦点
  • 元宇宙的文旅赛道,还能如何发力?

    元宇宙的文旅赛道,还能如何发力?

    来源:X增强现实苹果推出Vision Pro,为XR行业注入一剂强心针。而在苹果开发者大会上迪士尼CEO鲍勃·艾格在宣布迪士尼与苹果达成合作,其Disney+流媒体服务将于Vision Pro
  • 10亿基金,李彦宏呼唤下一个AI独角兽

    10亿基金,李彦宏呼唤下一个AI独角兽

    ©️深响原创 · 作者|何文 AI太热了。 在海外,OpenAI估值已超270亿美元、英伟达市值破万亿、微软把GPT整合进了全线产品。在国内,百度、阿里、华为、商汤等大公司,以及
  • 元宇宙火热的当下,我们该如何“身临其境”的体验元宇宙?

    元宇宙火热的当下,我们该如何“身临其境”的体验元宇宙?

    元宇宙的余热依然没有过去,甚至大有星星之火开启燎原之势,元宇宙本身也从殿堂走向了民间,我们可以看到一些企业开始了元宇宙的探索,诸如中国电信全资控股子公司天
  • “我没搞懂元宇宙,但一天能赚9w块”

    “我没搞懂元宇宙,但一天能赚9w块”

    作者:郑宇轩最近几个月,“元宇宙”爆火,除了 Facebook 改名为 Meta 高调进军元宇宙外, BAT 为代表的大厂纷纷着手“元宇宙”新业务。刹那之间,元宇宙成为新风口,除了
  • 下一个黄金赛道?NFT的碎片化!

    下一个黄金赛道?NFT的碎片化!

    碎片化可能是我们一生中最重要的一个投资趋势,碎片化本身并不新鲜。它已经存在了400年之久。早在1602年,荷兰东印度公司是历史上第一家在公共证券交易所上市的公
  • Meta 在衰落吗?

    Meta 在衰落吗?

    扎克伯格已经很久没有出现在公众视野里了,近日,他罕见的接受播客采访,在两个小时的时间里畅谈了Meta、Facebook、Instagram、元宇宙的未来。正方观点:是的阿伦·达
  • 虚拟邓丽君后,数字人赛道开启3.0时代

    虚拟邓丽君后,数字人赛道开启3.0时代

    “如果右脑时代来临,虚拟世界将是对人类才华的无限放大。” 郭晓喆称,开发数字人形象时,自己的团队在内部“卷”了一下:“当我们翻阅大量历史典籍的时候,苏小妹找到
  • 元宇宙专题二:GameFi 深度解析,元宇宙内容雏形显现

    元宇宙专题二:GameFi 深度解析,元宇宙内容雏形显现

    GameFi=Game(游戏)+DEFI(去中心化金融),核心特点为“Play to Earn”。通过技术与去中心化价值观赋能,GameFi 游戏资产化身为NFT 和代币上链,具备了可验证性和流通性;开
  • 超级账本Julian Gordon:联盟链与公链的竞争不是非此即彼

    超级账本Julian Gordon:联盟链与公链的竞争不是非此即彼

    在2021年《福布斯》区块链50强榜单中,29家企业使用Hyperledger超级账本技术,占比近60%。同年,研究机构Blockdata发布了的调查报告显示,访问Top100上市公司中,有 81
Top
Baidu
map