中科睿鉴推出AIGC内容安全与模型安全检测平台，有效鉴别AI生成内容

用户需求

随着深度学习技术的快速发展，该技术被应用于人脸和 语音等多模态信息的伪造，各类伪造软件泛滥成灾。深度伪 造算法具有翻新速度快、逼真程度高、溯源取证难等特点， 某主管部门迫切需要开展音视频协同的深度伪造鉴别、溯源 和取证技术研究，构建特定人物音视频伪造犯罪技术处置能 力，建立可日常化技术迭代升级的伪造与反伪造对抗技术体 系，利用行业大模型快速、准确甄别虚假信息、人工智能生 成内容 (AIGC) 等，防范深度合成技术滥用风险。

解决方案

北京中科睿鉴科技有限公司的解决方案包括四个部分。 一是基于人工智能生成图像伪造检测。包括基于多元素组合 丑化的人脸伪造检测、基于对抗训练的强鲁棒真伪检测方 法、基于图像掩码自编码器的自监督预训练方法等创新点。 二是基于人工智能生成音频伪造检测。包括多特征多分技术 的多因子融合伪造音频检测技术、基于预训练语音模型伪造 音频检测技术等创新点。三是基于人工智能生成视频伪造检 测。包括基于多模态时空特征差异的视频数据真伪检测算 法、基于跨域迁移和小样本学习的跨来源检测自适应检测方 法、多种特征融合检测等创新点。四是基于人工智能生成文 本伪造检测。包括短篇生成文本检测、跨生成来源检测自适 应技术、多领域生成文本检测方法等创新点。

项目成果

项目取得三项主要成果。 一是研究针对特定人物的高多样性和逼真度的伪造音视频生成方法，构建支持鉴别、溯源和取证全流程的深度伪造音视频标准。二是构建面向特定人 物的细粒度深度伪造音视频检测的数据集。三是基于连续学 习的多模态深度伪造音视频协同鉴别技术，实现面向特定人 物的高泛化性和强鲁棒性的深度伪造音视频协同检测，形成主动发现多模态信息伪造手段的能力，最终提升深度伪造音 视频鉴别能力。