面向AIGC的媒体鉴伪系统
Fake Media Authentication System for AIGC
成果简介（300-500字）
生成式人工智能在内容创作和知识表达领域引发了深刻的变革。这一方面为各类产业的智能化创造了前所未有的机遇，另一方面也对数字媒体内容安全及监管带来了巨大的挑战。如今，利用人工智能技术可以非常便捷地产生虚假的图像及音视频，导致网络空间中虚假内容泛滥，对个人隐私、社会秩序、国家安全等方面造成了严重威胁。为了防范AI技术导致的潜在风险，构建完善的监管、安全保障技术体系，亟需发展面向AI生成式虚假媒体的鉴伪检测技术。为此，本项目深入探索了AI生成式虚假媒体与真实媒体在生成机理上的差异，发现了虚假媒体中固有的AI生成伪影，建立了可有效区分两类媒体的表征模型。在此基础上，构建了适用于AIGC媒体的检测模型与训练策略，开发了一套面向AIGC的媒体鉴伪系统。该系统能够准确地判断给定媒体是否由AI技术生成，可用于多种AIGC媒体鉴伪场景。
图1 AI虚假媒体鉴伪特征提取框图
图2 面向AI虚假媒体鉴伪的训练数据增强方案
图3 面向AIGC的媒体鉴伪系统
技术创新
建立了可捕获AI虚假媒体固有伪影的表征模型；
设计了针对AI虚假媒体鉴伪的可控数据增强方案；
构建了适用于多种类AIGC媒体的鉴伪系统。
专利情况
[1]李昊东，黄继武.“一种深度网络生成人脸图像的检测方法及系统”. 申请号：201810434620.4，申请日期：2018年5月8日，已授权，授权日期：2022年5月17日，专利号：ZL201810434620.4.
[2]李斌，陈涵，巫俊强.“一种基于双细粒度伪影的深度伪造视频检测方法”. 申请号：202210704052.1，申请日期：2022年6月21日.
市场前景及应用领域
可为生成式人工智能的监管、安全保障措施提供技术支撑，应用于社交媒体、人工智能、司法刑侦取证、电子商务政务等领域。
合作方式：面谈
联系人：技术转化中心
联系方式：26536230
科研概况