用AI对抗AI:网络安全专家如何利用犯罪分子的工具来对付他们

责任编辑:cres

作者:Andrius

2025-05-14 10:59:40

来源:企业网D1Net

原创

由于自主式AI可以被编程用于执行各种任务,智能体有望引发一场劳动革命,从制造业到客户服务领域都将受到影响,然而,这也伴随着代价,因为它们同样可以被编程用于进行欺诈活动,例如利用社交媒体数据和深度伪造技术开展高级社交攻击,实施高度个性化的网络钓鱼计划。

一段时间以来,AI在网络安全领域一直发挥着作用。如今,自主式AI正成为焦点。基于预先设定的计划和目标,自主式AI能够做出选择,以优化结果,而无需开发者的干预。

由于自主式AI可以被编程用于执行各种任务,智能体有望引发一场劳动革命,从制造业到客户服务领域都将受到影响,然而,这也伴随着代价,因为它们同样可以被编程用于进行欺诈活动,例如利用社交媒体数据和深度伪造技术开展高级社交攻击,实施高度个性化的网络钓鱼计划。正因为如此,Gartner警告称,在未来两年内,智能体将使暴露账户被接管的时间缩短50%。

但AI工具也有潜力成为正面的力量。英国的网络安全专家开发了一款名为Daisy的聊天机器人,它扮演着完美的电话诈骗受害者角色,通过让骗子长时间通话来浪费他们的时间。这种出人意料的方法表明,即使我们无法抓住威胁行为者,我们也可以将他们的时间和精力引向徒劳无功的事情,比如与Daisy交谈,从而降低他们伤害他人的能力。

我们很容易想象到,这种方法可以被应用到组织环境中,以浪费更复杂的攻击者的时间。特别是当AI系统能够构建以阻止可疑活动、自主分析实时威胁,并研究网络威胁态势以提出网络安全改进建议时。

代理服务器及其在网络安全防御中的作用

代理服务器充当发出请求的设备与响应服务器之间的中介,它们在接收请求时提供了一层额外的保护,使请求在到达预期目的地之前被重新路由和验证。代理在发送请求时为用户提供不同的IP地址,使服务器无法知道用户的真实地址,从而增加了匿名性。

代理服务器在网络安全战斗的两边都被使用过:代理网络可以被用于诈骗和分布式拒绝服务(DDoS)攻击的僵尸网络,但它们也有助于防御此类攻击,并帮助网络安全措施更有效地发挥作用。例如,在沙箱环境中,代理服务器将可疑电子邮件定向到沙箱服务器,在那里它们可以被检查,而无需接触内部网络。

代理服务器还将在线匿名性转化为对抗威胁行为者的武器。通过使用代理服务器,网络安全专家在收集来自原本难以访问的在线黑客论坛的开源情报时可以保持匿名。因此,当与AI解决方案结合使用时,一个由可信代理组成的整个网络可以大规模收集数据。

通过协同作战加强数字防线

AI和代理服务器都是强大的武器,既可以用于善也可以用于恶,然而,当它们结合在一起时,其力量将为网络安全社区带来显著优势。

目前正在使用的解决方案包括能够检测漏洞并识别新兴威胁的网络监控技术。由AI驱动和代理支持的架构允许此类数据在不被黑客封锁的情况下大规模收集,黑客会阻止进入论坛、博客和市场,而这些地方可能包含关键的威胁数据。通过在此过程中使用代理服务器,网络安全公司和专家可以避免将自己的信息暴露给攻击者。同时,AI通过帮助导航黑客为阻止此类网络抓取活动而设置的措施来发挥作用。

代理服务器还与AI结合使用,每天扫描数十亿个URL以识别潜在威胁。例如,它们在检测和阻止“路过式下载”(drive-by-downloads)方面发挥着关键作用,然而,当AI驱动的工具通过代理服务器访问这些网站时,它们可以在不下载的情况下发现威胁,并可以提前阻止其与公司网络的接触。

令人高兴的是,自主式AI系统的持续发展有望为代理支持的威胁检测和网络防御带来更大的可能性。专门为此目的创建的智能体,在庞大的代理基础设施支持下,将能够自主扫描网络,并在威胁行为者之前确定最佳应对策略。此类智能体将能够在最小的人工监督下管理与骗子的许多互动,不断学习和适应,以便始终检查可疑链接、电子邮件和其他在线攻击向量。

最终,智能体将通过消除其人为联系来中和社交工程攻击,就像Daisy——那位可爱的、用来浪费骗子时间的AI一样。

权衡利弊

尽管网络安全专家承认自主式AI的危险性,但这项技术仍有很大的发展空间,可以用于善事,正如我们已经在用于网络安全和情报收集的AI驱动工具中所看到的那样。此外,网络安全专业人员可以构建和使用庞大的合法来源的代理基础设施,而无需隐藏在阴影中,因为这是出于正确的原因。这为组织提供了相对于网络犯罪分子的巨大优势。

尽管始终需要谨慎行事,但技术的进步也应该让网络安全行业感到兴奋。一种“无论他们能做什么,我们都能做得更好”的态度使网络安全专业人员能够很好地利用新兴的智能体和成熟的代理技术来发挥自己的优势。

企业网D1net(www.d1net.com):

国内主流的to B IT门户,旗下运营国内最大的甲方CIO专家库和智力输出及社交平台-信众智(www.cioall.com)。旗下运营19个IT行业公众号(微信搜索D1net即可关注)。

版权声明:本文为企业网D1Net编译,转载需在文章开头注明出处为:企业网D1Net,如果不注明出处,企业网D1Net将保留追究其法律责任的权利。

链接已复制,快去分享吧

企业网版权所有©2010-2025 京ICP备09108050号-6京公网安备 11010502049343号