《生成式人工智能服务管理暂行办法》发布
促进产业健康发展和规范应用
近日，国家网信办联合国家发展改革委、教育部、科技部、工业和信息化部、公安部、广电总局公布了《生成式人工智能服务管理暂行办法》（以下称《办法》），该《办法》自2023年8月15日起施行。
国家互联网信息办公室有关负责人表示，出台《办法》，旨在促进生成式人工智能健康发展和规范应用，维护国家安全和社会公共利益，保护公民、法人和其他组织的合法权益。
ChatGPT这一现象级的产品“腾空出世”，在国内外掀起了一场大语言模型产业和生成式人工智能产业的热潮。然而，热潮背后，通过生成式人工智能伪造内容导致的诈骗事件也屡有发生。“AI诈骗成功率接近100%”的话题甚至一度冲上热搜，利用“AI换脸”“AI换声”等虚假音视频进行诈骗、诽谤的违法行为引起社会关注。
“作为今年最热门的新技术，生成式人工智能给社会生产生活带来了很多便利，但也给数据安全、隐私保护带来更加复杂的风险和挑战。”奇安信集团副总裁张卓在接受记者采访时表示。
据悉，《办法》提出国家坚持发展和安全并重、促进创新和依法治理相结合的原则，采取有效措施鼓励生成式人工智能创新发展，对生成式人工智能服务实行包容审慎和分类分级监管，明确了提供和使用生成式人工智能服务总体要求。张卓认为，促进发展和防范风险需要两者并重，从《办法》中可以看出，数据安全和隐私保护贯穿于生成式人工智能数据的标注、模型预训练、模型训练、提供服务等各个环节，避免了监管盲区导致的安全风险。
在张卓看来，《办法》从源头层面对数据标注提出了明确规范。所谓数据标注，指的是对未经处理的语音、图片、文本、视频等原始数据进行加工处理，使其成为结构化数据让机器可识别的过程。因此，它决定着生成式人工智能最底层“原材料”的安全属性。《办法》第八条要求，在生成式人工智能技术研发过程中进行数据标注的，生成式人工智能服务提供者（以下称提供者）应当制定符合本办法要求的清晰、具体、可操作的标注规则；开展数据标注质量评估，抽样核验标注内容的准确性；对标注人员进行必要培训，提升尊法守法意识，监督指导标注人员规范开展标注工作。
张卓表示，《办法》从数据训练处理环节，明确并细化了监管要求。《办法》第七条指出，提供者应当依法开展预训练、优化训练等训练数据处理活动，遵守以下规定：使用具有合法
本文链接：//www.dmpip.com//www.dmpip.com/showinfo-46-1856-0.html《生成式人工智能服务管理暂行办法》发布
声明：本网页内容旨在传播知识，若有侵权等问题请及时与本网联系，我们将在第一时间删除处理。邮件：2376512515@qq.com
上一篇： 大英博物馆要把文物做成数字藏品 宣布合作元宇宙平台
下一篇： 生成式人工智能服务管理暂行办法出台
Copyright © 2016-2023 天津谷骐科技有限公司 版权所有 sitemap.xml
违法及侵权请联系：2376512515@qq.com 津ICP备18001702号
津公网安备 12010102000574号
