企业合规师资讯：深度合成服务，不能任性了
“《规定》是目前我国针对深度合成服务出台的第一部专门性部门规章，作出了一系列明确合规指引，对加强互联网信息服务深度合成管理、促进互联网信息服务健康发展、推进网络空间治理意义重大，影响深远”
《法治周末》记者 王京仔
“只需一张自拍，马上改头换面”“声音克隆，为用户量声打造个性化音色”“AI一下，让你的文字变成绘画”“虚拟主播，效果媲美真人”……技术的发展与风险相伴而生，当深度合成技术在美颜、绘画、主播、元宇宙等领域为大众带来多样化的交互体验时，其技术滥用也引发了侵权、诈骗等一系列问题。
12月11日，国家互联网信息办公室、工业和信息化部、公安部联合发布《互联网信息服务深度合成管理规定》（以下简称《规定》），为深度合成服务划定了“底线”和“红线”，强调不得利用深度合成服务从事法律、行政法规禁止的活动，要求深度合成服务提供者落实信息安全主体责任。
《规定》将于2023年1月10日起施行。
深度合成技术存滥用风险
“深度合成服务在满足用户需求、改进用户体验的同时，也被一些不法人员用于制作、复制、发布、传播违法信息，诋毁、贬损他人名誉、荣誉，仿冒他人身份实施诈骗等违法行为，影响传播秩序和社会秩序，损害人民群众合法权益，危害国家安全和社会稳定。”国家互联网信息办公室有关负责人表示。
那么，究竟什么是深度合成技术？
《规定》给出了答案：深度合成技术，是指利用深度学习、虚拟现实等生成合成类算法制作文本、图像、音频、视频、虚拟场景等网络信息的技术。
这意味着，如今常见或大热的语音转换、图像修复、三维重建、虚拟人、AI换脸、AI绘画等技术类型都被涵盖其中，而这些深度合成技术的滥用风险是看得见的。
从2019年的“ZAO”到2021年的“avatarify”，爆红仅数天的AI换脸软件就因数据安全问题被下架；获得艺术类比赛一等奖的AI画作，因侵犯版权等问题遭到数千名画家联合抵制；最近因功能强大而受到追捧的AI聊天机器人“ChatGPT”，也引发了传播虚假信息的争议。
近日，杭州互联网法院就审理了一起因“AI换脸”App利用深度合成算法侵害他人肖像权的案件。
今年3月，古风汉服模特楼某某在某平台发布了一段古风短视频，视频中清晰展示了自己的面部妆容，及多段汉服造型形象片段。其后，楼某某发现上海某公司运营的一款AI换脸App中，有自己拍摄的古风造型视频模板。用户可通过上传个人照片，将视频模板中的人脸替换成用户上传的人脸，除五官发生实质性变化之外，其余内容都与原视频保持一致。
该软件生成换脸后的古风造型视频，用户可以将其保存并分享到其他平台。此外，该App的用户通过支付68元至198元不等的会员费，即可使用全部“换脸”视频模板。
法院经审理认为，上海某公司未经楼某某同意，通过技术手段提取涉案古风肖像视频，并擅自上传至其运营的换脸App中供用户选择使用，该行为本身已侵害楼某某肖像权。同时，涉案视频模板已被用户多次使用和收藏，可以认定上海某公司利用深度合成技术将其他用户提供的人脸替换至涉案视频中的身体形象之上，并生成了形象逼真、画面流畅的伪造肖像视频，可供用户进行下载保存、发布共享等不当使用。
最终，法院依法认定上海某公司构成对楼某某肖像权的侵害，判决App开发者赔礼道歉并赔偿损失5000元。
“随着深度合成技术的开源开放、深度合成产品和服务的逐渐增多，深度合成内容制作的技术门槛越来越低，深度合成服务已经实现了公众化、平民化，普通人仅需要少量的图像、音频、视频、文本等样本数据，利用简便易用的深度合成工具，就能够模糊真实信息和虚假信息的边界。”中国政法大学副校长时建中表示，深度合成技术一旦被滥用，会造成巨大风险与实质性危害，可能给个人、企业造成肖像、名誉等人格和财产权益损害，也可能给社会秩序、国家政治稳定和安全造成巨大威胁。
落实深度合成服务提供者主体责任
今年3月1日实施的《互联网信息服务算法推荐管理规定》（以下简称《算法规定》），对包括生成合成类在内的五类算法推荐服务进行规范，而深度合成技术就属于生产合成类算法的运用。
在此基础上，此次《规定》专门针对深度合成进行了规范。
《规定》明确，任何组织和个人不得利用深度合成服务制作、复制、发布、传播法律、行政法规禁止的信息，或从事危害国家安全和利益、损害国家形象、侵害社会公共利益、扰乱经济和社会秩序、侵犯他人合法权益等法律、行政法规禁止的活动。
同时，《规定》要求，深度合成服务提供者建立健全用户注册、算法机制机理审核、科技伦理审查、信息发布审核、数据安全、个人信息保护、反电信网络诈骗、应急处置等管理制度；制定和公开管理规则、平台公约，完善服务协议，落实真实身份信息认证制度；采取技术或者人工方式对输入数据和合成结果进行审核，建立健全用于识别违法和不良信息的特征库；建立健全辟谣机制等。
在《算法规定》明确“不得生成合成虚假新闻信息”的基础上，《规定》也对相关主体，在新闻舆论领域的深度合成技术运用进行了规范。
按照《规定》，深度合成服务提供者和使用者不得利用深度合成服务制作、复制、发布、传播虚假新闻信息。转载基于深度合成服务制作发布的新闻信息的，应当依法转载互联网新闻信息稿源单位发布的新闻信息。此外，具有舆论属性或者社会动员能力的深度合成服务提供者，应当按照《算法规定》履行备案和变更、注销备案手续；深度合成服务提供者开发上线具有舆论属性或者社会动员能力的新产品、新应用、新功能的，应当按照国家有关规定开展安全评估。
中国信息通信研究院副院长王志勤认为，《规定》有效衔接了相关法律法规。在网络安全法、数据安全法、个人信息保护法、《互联网信息服务管理办法》等上位法框架下，《规定》有效承接了《网络信息内容生态治理规定》《网络音视频信息服务管理规定》《互联网信息服务算法推荐管理规定》等规章、规范性文件中关于网络信息内容管理、新技术新应用安全评估、显著标识、备案管理等制度规定，对深度合成服务管理机制、主体责任等作出了衔接性制度安排。
深度合成内容应进行标识
除深度合成服务提供者以外，《规定》也将深度合成服务技术支持者纳入监管，明确他们的数据和技术管理规范。
《规定》明确，深度合成服务提供者和技术支持者应当加强训练数据管理。采取必要措施保障训练数据安全之余，提供人脸、人声等生物识别信息显著编辑功能的，应当提示使用者依法告知被编辑的个人，并取得其单独同意。
深度合成服务提供者和技术支持者还应当加强技术管理，定期审核、评估、验证生成合成类算法机制机理。其中，对具有生成或者编辑人脸、人声等生物识别信息，可能涉及国家安全、国家形象、国家利益和社会公共利益的特殊物体、场景等非生物识别信息的模型、模板等工具，应当依法自行或者委托专业机构开展安全评估。
此外，《算法规定》要求，发现未作显著标识的算法生成合成信息的，应当作出显著标识后，方可继续传输。《规定》在此基础上进一步细化，通过显著标识和隐式标识两种方式对深度合成信息进行规范。
按照《规定》，深度合成服务提供者对使用其服务生成或者编辑的信息内容，应当采取技术措施添加不影响用户使用的标识。提供智能对话、智能写作、合成人声、仿声、人脸生成、人脸替换、人脸操控、姿态操控、沉浸式拟真场景等具有生成或者显著改变信息内容功能的服务，可能导致公众混淆或者误认的，深度合成服务提供者应当在生成或者编辑的信息内容的合理位置、区域进行显著标识，向公众提示深度合成情况。
“《规定》是目前我国针对深度合成服务出台的第一部专门性部门规章，作出了一系列明确合规指引，对加强互联网信息服务深度合成管理、促进互联网信息服务健康发展、推进网络空间治理意义重大，影响深远。”中国科学院信息工程研究所所长孟丹表示。
“深度合成服务从相继被纳入到相关规定中监管，到出台专门的规章进行规制，显示出我国一方面引导深度合成技术良性发展，另一方面坚决打击利用深度合成服务制作传播违法不良信息、危害信息内容安全、社会公共利益和国家安全的行为。”在时建中看来，深度合成技术展现了其强大的能量和可能性，加速应用已经成为现实趋势。在合规前提下，深度合成技术创新发展，不断开拓应用场景，将形成对人工智能产业整体的带动效应，促进技术向上向善。
（来源：法治日报）
