研究表明：AI生成的商业电子邮件欺诈占比达40%

根据 VIPRE 2024 年第二季度《电子邮件威胁趋势报告》中所述，由人工智能生成的电子邮件现在占商业电子邮件欺诈企图的大约 40%。

这家安全公司表示，他们通过多种设计用来检测人工智能生成内容的工具，包括 GPTZero、Quillbot、ZeroGPT、Sapling 和 Scribbr，对其客户收到的 欺诈邮件样本进行了分析，得出了40% 的数据。

总体而言，欺诈 钓鱼邮件占2024 年第二季度检测到的 2.2645 亿封垃圾邮件的约 49%，生成式人工智能在钓鱼活动中日益增多的应用几乎毫无疑问是一个日益严重的担忧。

在过去一年内发布了两份报告，指出了像 ChatGPT 这样的生成式人工智能应用如何使得钓鱼邮件更容易产生，并更有可能逃避检测。

第一份报告发布于 2023 年 10 月，指出在 ChatGPT 发布后的第一个季度（2022 年第四季度）至 2023 年第一季度之间，钓鱼攻击增加了 1265%。第二份报告在今年 5 月发布，发现过去六个月内的钓鱼攻击激增了 856%，欺诈 攻击增长了 27%。

生成式人工智能似乎已成为网络犯罪工具箱的一部分，基于 AI 的钓鱼工具包正成为在线骗子的热门选择。这些工具包在暗网上可以买到，这些工具包的价格正在下降，它们产生的钓鱼邮件具有更好的本地化文本、图形和登录页面，比旧一代的钓鱼工具包更加逼真。

相关政府和企业必须采用先进的威胁检测解决方案，利用人工智能和机器学习来实时识别和阻止这些越来越有说服力的人工智能生成的欺诈。此外，实施持续的安全意识培训和使用多因素认证可以显著提高组织在人工智能时代的抗 欺诈邮件攻击能力。