中国经济网版权所有 中国经济网新媒体矩阵 网络广播视听节目许可证（0107190）（京ICP040090） 换脸变声、侵犯版权……如何应对Generative AI的滥用？ 2025年10月22日 07:26 来源：央视新闻客户端 中国互联网络信息中心近日发布了《生成式人工智能应用发展报告（2025）》。报告显示，我国生成式人工智能产品用户规模已达5.15亿。报告还指出，随着生成式人工智能的快速普及，换脸变声、侵犯版权、学术滥用等问题日益突出。这些问题在实践中如何体现？如何应对和应对这些挑战？利用AI改变面孔、声音制作虚假广告的案例时有发生。生成式人工智能的多模态能力可以让用户轻松改变视频中人物的面孔和声音，甚至直接生成完全虚构的视频，给犯罪分子以可乘之机。近期，人工智能变脸、变声生成虚假广告的案例屡见不鲜。比如，有的假冒奥运冠军推荐免费鸡蛋，有的则冒充医生形象推销保健品，严重误导公众。这个变声变脸AI深度合成是怎么做到的？如何识别这些假视频？业内人士告诉mga记者，随着AI变声、换脸技术越来越成熟，已经足以以假乱真。判断视频或声音是否深度合成的最佳方法是使用人工智能进行识别。也就是用AI来识别AI。人工智能大模型研究员潘继明：从技术角度来看，最快的方法是基于AI的识别，例如专门的Deepfake识别模型，用于分析视频和音频中的非自然特征，例如检测眨眼频率、面部肌肉运动的生理一致性率、音频和纯唇形同步率、光源恒定以及其他轻微的身体或身体虐待。专业知识：关键管理存在于内容标签系统的整个实施过程中。近两年，人工智能深度合成明星、改变面孔和声音的视频一一出现，并屡遭封禁。对此，专家表示，主要管理在于全面推行内容标签制度。北京航空航天大学法学院副教授 赵景武：我国自2025年9月起正式实施《人工智能生成合成内容标注办法》，明确要求所有人工智能生成内容文本、图像、视频等内容必须明确标注“其身份明确”，而隐性标签如数字水印。平台企业必须按照《人工智能生成合成内容标签管理办法》从源头嵌入身份机制，对生成的内容附加防篡改的数字水印，并确保这些标签在编辑、压缩后仍能被准确识别。专家表示，AI深度合成的用户在通过AI制作视频时，应该有侵权的法律边界，应该以合法合法的方式使用AI深度合成。北京航空航天大学法学院副教授 赵景武：在明确合法性边界方面，需要严格区分换脸技术的合法适用与非法滥用的界限。法律应用通常包括影视制作等具有合法价值的场景，教育教学、康复医疗等。 滥用 滥用主要表现在未经授权使用图片、传播虚假信息、制作淫秽色情内容等场景。 AI大模型训练引发版权问题。冲突如何解决？我们来看看人工智能带来的版权侵权问题。去年年初，一万多名文学界、音乐界人士发表联合声明，谴责“未经授权使用创意作品训练生成人工智能”。大型人工智能模型使用的数据为何会引发版权纠纷，如何解决？我们来听听专家是怎么说的。人工智能业内人士告诉记者，目前大规模人工智能模型训练的数据大部分来自互联网，这些数据中就包括版权相关的数据。人工智能大模型研究员潘吉明：现有大模型dels 是基于大量数据进行训练的。来源包括互联网数据，以及书籍、论文、行业数据等，经过数据预处理、无支持学习、正则化、强化学习后，可用于内容生成。然而，该模型没有版权意识。除非现有数据上有明确的版权标记，否则不知道哪些内容涉及版权，哪些内容不能随便生成。如今，大型模型通常会进行数据采集训练，即使有版权吗？对于大规模人工智能模型涉及的版权问题，专家表示，人工智能的发展不能以牺牲版权为代价，两者的和谐相处应建立在尊重知识产权的基础上。北京航空航天大学法学院副教授赵景武表示，人工智能开发者和运营者需要建立全面的体系版权合规机制，包括：在训练数据收集阶段进行版权分析，优先获得许可并使用开放许可资源；在模型训练过程中维护数据源记录；在内容生成过程中嵌入反抄袭检测；并在输出阶段添加版权标志和水印。另一方面，主管部门需要拓展培训数据供应渠道，解决培训数据不足与版权之间的矛盾。学生和研究人员滥用AI写论文、抄作业，引发关注。除了刚才提到的问题之外，报告还提到，学生和研究人员利用生成式人工智能写论文、抄作业也正在引起社会各界的关注。专家表示，随着人工智能发展在学术研究中的广泛应用，学术诚信问题日益凸显。制度面临前所未有的挑战。事实证明，简单的禁令无效且难以执行。 “堵多于少”的管理理念正在成为全球学术界的共识。主要是认识到人工智能技术在提高科研效率方面的积极价值，同时通过规范引导确保其应用不损害学术诚信。北航法学院副教授赵景武：在教学活动中，教师应设置专门环节，正确引导学生正确使用人工智能工具，包括 类工具从“偷懒”、“省事”的错误定位调整为“学习效率提升”、“帮助科研”的正确功能定位，明确了其辅助定位的特点。同时，教师还需要设计能够评估学生成绩的通过方法。思维过程，减少对纯文本输入的依赖，增加过程评价的比例。 （央视新闻客户端） （编辑：孙丹）