内容检测方法、装置、电子设备和存储介质与流程
本公开涉及人工智能，尤其涉及自然语言处理和深度学习。
背景技术：
1、随着全球新技术快速发展，ai(artificial intelligence，人工智能)生成越来越多应用到内容生产中，可能被用于深度伪造，发布不实、有害或错误的内容。需要对内容进行审核，以识别深度伪造问题。
技术实现思路
1、本公开提供了一种内容检测方法、装置、电子设备和存储介质。
2、根据本公开的一方面，提供了一种内容检测方法，包括：
3、基于多个分类模型中的每个分类模型，对目标内容进行不同类型的伪造痕迹的检测，得到每个分类模型针对目标内容的第一检测结果以及与第一检测结果对应的置信度；
4、基于每个分类模型针对目标内容的第一检测结果以及与第一检测结果对应的置信度，确定针对目标内容的伪造判别结果。
5、根据本公开的另一方面，提供了一种内容检测装置，包括：
6、内容检测模块，用于基于多个分类模型中的每个分类模型，对目标内容进行不同类型的伪造痕迹的检测，得到每个分类模型针对目标内容的第一检测结果以及与第一检测结果对应的置信度；
7、结果确定模块，用于基于每个分类模型针对目标内容的第一检测结果以及与第一检测结果对应的置信度，确定针对目标内容的伪造判别结果。
8、根据本公开的另一方面，提供了一种电子设备，包括：
9、至少一个处理器；以及
10、与该至少一个处理器通信连接的存储器；其中，
11、该存储器存储有可被该至少一个处理器执行的指令，该指令被该至少一个处理器执行，以使该至少一个处理器能够执行本公开实施例中任一的方法。
12、根据本公开的另一方面，提供了一种存储有计算机指令的非瞬时计算机可读存储介质，其中，该计算机指令用于使该计算机执行根据本公开实施例中任一的方法。
13、根据本公开的另一方面，提供了一种计算机程序产品，包括计算机程序，该计算机程序在被处理器执行时实现根据本公开实施例中任一的方法。
14、本公开实施例的技术方案，可以通过多个分类模型对目标内容进行不同类型的伪造痕迹的检测，并且综合每个分类模型的检测结果，确定针对目标内容的伪造判别结果。如此，可以显著提升对微小的深度伪造痕迹的辨别能力，同时兼具识别新型伪造痕迹的泛化能力。
15、应当理解，本部分所描述的内容并非旨在标识本公开的实施例的关键或重要特征，也不用于限制本公开的范围。本公开的其它特征将通过以下的说明书而变得容易理解。
技术特征：
1.一种内容检测方法，包括：
2.根据权利要求1所述的方法，其中，所述基于所述每个分类模型针对所述目标内容的第一检测结果以及与所述第一检测结果对应的置信度，确定针对所述目标内容的伪造判别结果，包括：
3.根据权利要求2所述的方法，其中，所述检测决策树是基于所述每个分类模型针对样本内容的第二检测结果、与所述第二检测结果对应的置信度以及生成所述样本内容的方式训练得到的；其中，所述生成所述样本内容的方式包括基于信息采集装置采集所述样本内容或基于人工智能技术生成所述样本内容。
4.根据权利要求1-3中任一项所述的方法，其中，所述基于多个分类模型中的每个分类模型，对目标内容进行不同类型的伪造痕迹的检测，得到所述每个分类模型针对所述目标内容的第一检测结果以及与所述第一检测结果对应的置信度，包括：
5.根据权利要求4所述的方法，其中，所述目标内容的音频合成检测结果包括所述音频信息中的合成音轨区间的起始端点和结束端点；所述方法还包括：
6.根据权利要求1-5中任一项所述的方法，其中，所述基于多个分类模型中的每个分类模型，对目标内容进行不同类型的伪造痕迹的检测，得到所述每个分类模型针对所述目标内容的第一检测结果以及与所述第一检测结果对应的置信度，包括：
7.根据权利要求1-6中任一项所述的方法，其中，所述方法还包括：
8.根据权利要求7所述的方法，其中，所述方法还包括：
9.根据权利要求8所述的方法，其中，所述方法还包括：
10.一种内容检测装置，包括：
11.根据权利要求10所述的装置，其中，所述结果确定模块，还用于：
12.根据权利要求11所述的装置，其中，所述检测决策树是基于所述每个分类模型针对样本内容的第二检测结果、与所述第二检测结果对应的置信度以及生成所述样本内容的方式训练得到的；其中，所述生成所述样本内容的方式包括基于信息采集装置采集所述样本内容或基于人工智能技术生成所述样本内容。
13.根据权利要求10-12中任一项所述的装置，其中，所述内容检测模块，还用于：
14.根据权利要求13所述的装置，其中，所述目标内容的音频合成检测结果包括所述音频信息中的合成音轨区间的起始端点和结束端点；所述装置还包括：
15.根据权利要求10-14中任一项所述的装置，其中，所述内容检测模块，还用于：
16.根据权利要求10-15中任一项所述的装置，其中，所述装置还包括交互模块，所述交互模块用于：
17.根据权利要求16所述的装置，其中，所述装置还包括第三显示模块，所述第三显示模块用于：
18.根据权利要求17所述的装置，其中，所述装置还包括调用模块，所述调用模块用于：
19.一种电子设备，包括：
20.一种存储有计算机指令的非瞬时计算机可读存储介质，其中，所述计算机指令用于使所述计算机执行根据权利要求1-9中任一项所述的方法。
21.一种计算机程序产品，包括计算机程序，所述计算机程序在被处理器执行时实现根据权利要求1-9中任一项所述的方法。
技术总结
本公开提供了内容检测方法、装置、电子设备和存储介质，涉及人工智能技术领域，尤其涉及自然语言处理和深度学习技术领域。具体实现方案为：基于多个分类模型中的每个分类模型，对目标内容进行不同类型的伪造痕迹的检测，得到每个分类模型针对目标内容的第一检测结果以及与第一检测结果对应的置信度；基于每个分类模型针对目标内容的第一检测结果以及与第一检测结果对应的置信度，确定针对目标内容的伪造判别结果。本公开可以显著提升对伪造痕迹的辨别能力，同时兼具识别伪造痕迹的泛化能力。
技术研发人员：薛晖,陈洋,包沉浮,仵楠,姜辉,杨潇茜,高磊,胡子轩,李岩哲,张天问,陈惠敏,孟庆雨
受保护的技术使用者：北京百度网讯科技有限公司
技术研发日：
技术公布日：2024/9/23