如影随形

改脸、改声、侵犯版权……如何应对生成式AI的滥

发布时间：2025-10-22 12:08编辑：bat365在线平台官网浏览（144）

中国互联网络信息中心近日发布了《生成式人工智能应用发展报告（2025）》。据介绍，我国生成式人工智能产品用户规模已达5.15亿人。报告还指出，随着生成式人工智能的快速普及，面部修改、声音修改、侵犯版权、学术滥用等问题日益突出。这些问题在实践中如何体现？我们如何管理和应对这些风险挑战？ 很多情况下，人工智能被用来通过改变面孔和声音来制作虚假广告。 生成式人工智能的多模态能力可以让用户轻松改变视频中人物的面孔和声音，或者直接生成完整的视频虚构，给犯罪分子以可乘之机。近期，AI通过改变f值生成虚假广告的案例屡见不鲜。王牌和声音。比如，有的假奥运冠军宣传散养鸡蛋，有的则冒充医生推销保健品，严重误导公众。 这些深度语音和面部改变的人工智能合成是如何生成的？我们如何识别这些假视频？ 业内人士告诉记者，随着语音和换脸人工智能技术的日益成熟，它们现在已经足以使假货看起来像真的了。判断视频或声音是否高度合成的最好方法是使用人工智能来识别。换句话说，用AI来识别AI。 大型人工智能模型研究员潘继明：Desd从技术角度来看，最快的方式是基于AI的识别，比如专门的deepfake识别模型。用于分析视频和音频中的不自然特征，例如眨眼率、面部肌肉运动的生理一致性、纯语音和唇形同步率、光源一致性以及检测其他细微的身体或生理缺陷。 专家：治理的核心在于全面落实内容识别制度。 近两年，不断出现利用AI深度合成明星、面孔、声音发生变化的视频。对此，专家认为治理的核心是内容标签制度。他表示，关键是要全面引入制度。 北航大学法学院副教授 赵景武：我国自2025年9月起正式出台《人工智能生成合成内容标注办法》。该办法要求所有文本、图像、视频等人工智能生成内容均须显式标注“暴露身份”，并鼓励数字水印等隐性标签。平台企业应按照《合成物标签管理办法》建立来源认定机制人工智能生成的内容，为人工智能生成的内容附加防篡改的数字水印，并确保这些标签即使在编辑和压缩后也能被准确识别。 专家认为，AI深度合成的用户在使用AI创作视频时，应该对违规行为设定法律限制，而应该使用AI深度合成，合法合法。 北京航空大学法学院副教授 赵景武：从明确合法性边界的角度来看，需要严格区分AI换脸技术的合法适用与非法滥用。合法请求通常包括具有合法价值的场景，例如影视制作、教育、医疗康复等。这些应用程序必须遵守法律规定的最低必要原则，确认使用范围与目的相符，并获得适当的批准。好的。非法滥用主要表现在未经授权使用肖像、传播虚假信息、制作淫秽色情内容等场景。 训练大规模人工智能模型会引发版权问题。我如何解决冲突？ 我们来看看人工智能带来的版权分数问题。去年十月，超过一万名来自文学和音乐界的人士发表联合声明，谴责“未经授权使用创意作品来训练生成人工智能”。为什么大规模AI模型使用的数据会引发版权纠纷？问题又该如何解决呢？听听专家是怎么说的。 AI行业官员告诉记者，目前训练大规模人工智能模型的数据很多都来自于互联网，而这些数据中都包含版权相关的数据。他表示，都被包含在内。 AI大规模模型研究员潘继明：现有的大规模模式ls 经过大量数据训练。来源包括互联网数据以及图书、文章、行业数据等。经过数据预处理、无监督学习、微调和强化学习后，可用于内容生成。然而，该模型不了解版权。当前数据中如果没有明确的版权标记，很难知道哪些内容受版权保护，哪些内容不能轻易生成。目前，大型模型的基本做法是无论版权状况如何都进行数据捕获训练。 对于大规模人工智能模型相关的版权问题，专家表示，人工智能的发展不应以牺牲版权为代价，两者的和谐共存应建立在尊重知识产权的基础上。 北京航空航天大学法学副教授赵景武认为，人工智能开发者和运营者应建立完善的版权合规机制，包括： 执行在培训数据收集阶段进行版权研究，以优先批准和使用公开许可的资源。维护模型训练过程中的数据源日志。 将抄袭检测纳入您的内容生成过程。 输出阶段必须添加版权标志和水印。 同时，主管部门应拓宽训练数据供应渠道，解决训练数据不足与版权之间的矛盾。 学生和研究人员通过滥用人工智能撰写论文和抄作业而引起关注。 除了刚才提到的问题之外，报告还指出，利用生成式人工智能帮助学生和研究人员撰写文章和抄作业也正在引起各界的关注。 专家表示，由于生成式人工智能在学术研究中的广泛应用，学术诚信体系面临着前所未有的挑战。简单的禁令已被证明是无效且难以执行的。 “堵不如救”的治理理念正在成为全球学术界的共识。本质上，在认识到人工智能技术在提高科学研究效率方面的积极价值的同时，通过规范性指导确保其应用不损害学术诚信。 北京航空航天大学法学院副教授 赵景武：在教育活动中，教师应建立引导学生正确使用人工智能工具的环节，将此类工具“懒惰”、“省时”的不良定位调整到“提高学习效率”、“支持科研”的正确功能定位，并明确其辅助定位的属性。同时，教师还需要设计能够评价学生思维过程的评价方法。使用表达式减少对纯文本输入的依赖并提高流程 ev估价率。