聊天内容钓鱼检测方法、装置、电子设备及存储介质与流程

xiaoxiao2026-08-11  20


本申请涉及信息安全相关,具体涉及一种聊天内容钓鱼检测方法、装置、电子设备及存储介质。


背景技术:

1、目前,针对企微聊天内容的钓鱼检测,其常规的方案有两种:一种为人工抽检,人工从企业微信后台系统中抽取一定比例的聊天记录进行审核,此种方式是目前最普遍的监督方案,该方案无法全面了解企业被攻击情况,且抽检工作量大,需要大量的人力资源;另一种就是规则模板,使用预定义的规则与模板分析企业微信后台系统中的聊天记录,该方案缺乏灵活性与适应性,无法处理复杂性或未知情况。因此,现有的钓鱼检测方法无法适合现有的需求。


技术实现思路

1、有鉴于此,本申请的实施例致力于提供一种聊天内容钓鱼检测方法、装置、电子设备及存储介质。

2、本申请提供了一种聊天内容钓鱼检测方法,包括:

3、采集目标数据;其中,所述目标数据为员工与客户的沟通信息;

4、预处理所述目标数据;

5、将所述目标数据输入预设的ai模型,得到检测结果;

6、其中,所述预设的ai模型为深度学习模型,用于对目标数据进行检测所述目标数据是否存在钓鱼内容,得到检测结果。

7、在一些实施例中,还包括:

8、展示所述检测结果。

9、在一些实施例中,所述预处理所述目标数据,包括:

10、对目标数据进行所述url内容过滤;

11、对所述目标数据进行文本预处理转化为向量序列。

12、在一些实施例中,ai模型的训练方法,包括:

13、采集历史沟通数据;

14、基于所述历史沟通数据生成训练集与测试集;

15、基于所述训练集对ai模型进行训练;

16、基于所述测试集对ai模型进行测试,若所述ai模型没有通过测试,则重新对ai模型进行训练。

17、在一些实施例中,还包括:

18、获取人工对所述检测结果的人工审核结果;

19、若所述人工审核结果表征所述检测结果的准确率低于预设值,则重新对ai模型进行训练。

20、本申请还提供一种聊天内容钓鱼检测装置,包括:

21、采集模块,用于采集目标数据;其中,所述目标数据为员工与客户的沟通信息;

22、预处理模块,用于预处理所述目标数据;

23、检测模块,用于将所述目标数据输入预设的ai模型,得到检测结果;

24、其中,所述预设的ai模型为深度学习模型,用于对目标数据进行检测所述目标数据是否存在钓鱼内容,得到检测结果。

25、本申请还提供一种电子设备,包括:

26、处理器,以及用于存储所述处理器可执行程序的存储器;

27、所述处理器,用于通过运行所述存储器中的程序,实现如上述的聊天内容钓鱼检测方法。

28、本申请还提供一种计算机可读存储介质,所述计算机可读存储介质上存储有计算机程序,所述计算机程序在被处理器运行时使得所述处理器执行如上述的聊天内容钓鱼检测方法。

29、本申请所提供的一种聊天内容钓鱼检测方法,首先采集目标数据;其中,所述目标数据为员工与客户的沟通信息;预处理所述目标数据;将所述目标数据输入预设的ai模型,得到检测结果;其中,所述预设的ai模型为深度学习模型,用于对目标数据进行检测所述目标数据是否存在钓鱼内容,得到检测结果。如此本申请提供的方案,通过采集员工与客户的沟通信息作为目标数据,该方法能够全面覆盖企业微信中的聊天记录,从而更全面地了解企业面临的钓鱼攻击情况。预处理和输入目标数据到ai模型的过程是自动化的,这减少了人工抽检的需求,降低了人力资源的消耗,并提高了处理速度和效率。使用深度学习模型作为检测工具,可以利用其强大的特征提取和模式识别能力,更准确地识别出钓鱼内容。深度学习模型能够从大量数据中学习并适应新的钓鱼策略和模式,这使得该方法比传统的基于规则的系统更加灵活和适应性强。通过训练和测试ai模型,可以不断提高其识别钓鱼内容的准确率,减少误报和漏报,提高整体的安全性。



技术特征:

1.一种聊天内容钓鱼检测方法,其特征在于,包括:

2.根据权利要求1所述的聊天内容钓鱼检测方法,其特征在于,还包括:

3.根据权利要求1所述的聊天内容钓鱼检测方法,其特征在于,所述预处理所述目标数据,包括:

4.根据权利要求1所述的聊天内容钓鱼检测方法,其特征在于,ai模型的训练方法,包括:

5.根据权利要求1所述的聊天内容钓鱼检测方法,其特征在于,还包括:

6.一种聊天内容钓鱼检测装置,其特征在于,包括:

7.一种电子设备,其特征在于,包括:

8.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质上存储有计算机程序,所述计算机程序在被处理器运行时使得所述处理器执行如权利要求1至5中任一项所述的聊天内容钓鱼检测方法。


技术总结
本申请涉及信息安全相关技术领域,具体涉及一种聊天内容钓鱼检测方法、装置、电子设备及存储介质。其中,方法包括:采集目标数据;其中,所述目标数据为员工与客户的沟通信息;预处理所述目标数据;将所述目标数据输入预设的AI模型,得到检测结果;其中,所述预设的AI模型为深度学习模型,用于对目标数据进行检测所述目标数据是否存在钓鱼内容,得到检测结果。如此本申请提供的方案,可以更好的实现对于聊天内容钓鱼的检测。

技术研发人员:姚顺鹏
受保护的技术使用者:北京子敬科技有限公司
技术研发日:
技术公布日:2024/9/23
转载请注明原文地址:https://www.famiwei.com/read-9025901.html

最新回复(0)