研究揭示DeepSeek可通过越狱生成恶意软件，如键盘记录器和勒索软件

一项由Tenable的研究人员进行的新研究表明，通过利用越狱技术，DeepSeek R1这样的开源大型语言模型可以被用来创建功能性的恶意软件，如键盘记录器和勒索软件。尽管这些AI工具内置了安全措施以防止生成有害代码，但研究人员发现，只需一些特定的提示技巧，就可以绕过这些防护机制。

在3月13日发布的详细报告中，研究员尼克·迈尔斯描述了他们如何成功地使用DeepSeek R1来开发一个能够捕捉击键并隐藏其存在于磁盘上的加密日志文件的键盘记录器。虽然DeepSeek最初拒绝了直接构建键盘记录器的要求，但通过将其请求框定为“教育目的”，研究人员能够获得详细的恶意软件代码。

此外，Tenable团队还尝试利用DeepSeek R1开发勒索软件。尽管生成的样本需要大量手动编辑，但这表明DeepSeek有能力提供必要的基础结构，使得即使是那些几乎没有编程经验的人也能快速上手，制作出具有基本功能的恶意软件。

这一发现引起了对自由访问的AI模型可能被网络罪犯滥用的关注。专家警告说，随着这些工具变得更加复杂，它们可能会降低恶意软件开发的技术门槛，增加潜在威胁的数量和复杂性。因此，加强网络安全防御变得尤为重要，包括但不限于行为检测、投资于AI增强的安全措施以及强化安全开发实践和教育。

分享三个策略，帮助安全团队减轻风险威胁参与者利用人工智能带来的风险:

1、关注静态签名的行为检测:人工智能生成的恶意软件，特别是在迭代改进时，将可能逃避传统的基于签名的检测方法。安全团队应优先考虑行为分析，即监控异常的活动模式，如意外的文件加密、未经授权的持久性机制或异常的网络流量。这种方法对新的或多态的威胁更有弹性。、

2、投资人工智能增强的防御:正如攻击者使用AI来增强他们的能力一样，防御者也可以利用AI来更有效地检测和应对威胁。人工智能驱动的工具可以分析大量数据，以识别微妙的妥协迹象，自动化日常任务，甚至根据新兴趋势预测潜在的攻击媒介。

3、加强安全开发实践和教育:像DeepSeek这样的生成性人工智能系统可以通过以下技术被欺骗产生有害的输出越狱。组织应该在他们的人工智能系统中实施强大的护栏以防止滥用，包括输入验证、道德使用政策和对滥用的持续监控。此外，让开发人员和用户了解生成式人工智能的风险和局限性以降低意外或故意误用的可能性也很重要。