研究人员表示，威胁行为者正在密切关注并进行实验。一些威胁行为者声称使用AI进行深度伪造视频的创建、击败面部识别和总结数据泄露中的被盗数据，其他人则将AI集成到他们的黑客工具中或创建恶意聊天机器人。
然而，研究指出，“也许AI对网络犯罪最显著的影响是骗局的增加，特别是那些利用深度伪造技术的骗局。”
研究称，其中一些骗局已经造成了生命损失。例如，一群主要在尼日利亚的网络犯罪分子，称为Yahoo Boys，使用深度伪造进行浪漫和色情敲诈骗局，通过虚假身份获取受害者的信任，他们通常说服受害者分享有损声誉的照片，然后威胁如果不支付赎金就公开这些照片。Intel 471表示，许多受害者都是未成年人，有些甚至因此自杀。
自2023年1月以来，深度伪造服务的数量显著增加，价格也变得更便宜。一个威胁行为者声称，使用AI工具生成音频和视频深度伪造的费用在每分钟60美元到400美元之间，具体取决于复杂性，相比2023年的价格，这是一笔便宜的交易，其他威胁行为者的服务包括每年999美元的订阅服务，每天可以进行300次面部替换。
其他人则在商业电子邮件诈骗（BEC）和文件欺诈中使用AI。研究指出，其中一个人开发了一种使用AI操纵发票的工具，拦截各方之间的通信，并更改信息，如银行账户号码，以将付款重定向到骗子账户。
生产力提升
“发票操纵工具据称具有多种功能，包括检测和编辑所有便携式文档格式（PDF）文件的能力，以及交换国际银行账户号码（IBAN）和银行识别代码（BIC），”研究说，“该工具以每月5000美元或终身访问15000美元的订阅方式提供。如果该工具能如承诺的那样工作，这就实现了AI常被引用的生产力提升用例，尽管是在犯罪背景下。”
另一位犯罪分子声称使用Meta的Llama大语言模型（LLM）从数据泄露的成果中提取最敏感的数据，以此来施压受害者支付赎金。
然而，Intel 471的分析师Jeremy Kirk指出，并非所有关于使用AI的说法都是准确的。“我们使用‘据称’这个词来表示这是一个威胁行为者的说法，并且通常不清楚AI到底在多大程度上被纳入产品，使用的LLM模型是什么，等等，”他在一封电子邮件中说，“至于网络犯罪工具的开发者是否为了商业利益而搭上AI的顺风车，似乎确实有一些努力在研究AI如何能帮助网络犯罪活动。地下市场竞争激烈，通常一种服务或产品有多个供应商，他们的产品工作得比另一个更好对他们有商业优势，而AI可能会有所帮助。”
Intel 471 观察到许多存疑的声明，包括四位伊利诺伊大学厄巴纳-香槟分校（UIUC）的计算机科学家声称，他们使用 OpenAI 的 GPT-4 大语言模型（LLM）通过向 LLM 提供描述漏洞的常见漏洞和暴露（CVE）建议，自动利用现实世界系统中的漏洞，然而，研究指出，“由于研究的许多关键要素没有公布——例如代理代码、提示词或模型输出——其他研究人员无法准确再现这项研究，再次引发怀疑。”
自动化
其他威胁行为者提供了抓取和总结 CVE 数据的工具，以及将 Intel 471 称为知名 AI 模型集成到多用途黑客工具中的工具，据称可以完成从扫描网络、寻找内容管理系统中的漏洞到编写恶意脚本的所有工作。
研究作者还强调了一些随着 AI 使用的增长而出现的新风险，例如 Google 的新 AI 驱动的搜索生成体验生成的推荐将用户引导到恶意网站，以及 AI 应用程序中的漏洞。此外，还观察到国家和其他恶意实体使用 LLM 进行多种攻击。研究引用了微软和 OpenAI 的公开博客文章，这些文章特别指出了五个国家资助的团体。
为了应对此问题，研究指出，美国联邦通信委员会、美国国土安全部、英国政府等政府机构正在采取措施监控和监管 AI 以确保其安全。
情况只会变得更糟
Intel 471 得出结论，尽管 AI 过去在网络犯罪中只扮演了所谓的“小配角”，但这项技术的角色已经扩大，其分析师预计，随着 LLM 生成内容的能力，深度伪造、网络钓鱼和 BEC 活动将会增加，虚假信息活动也会随之增加。
该公司补充道，“当 LLM 能够发现漏洞、编写和测试漏洞利用代码，并在野外自动利用漏洞时，安全形势将发生巨大变化。”
“机器学习和被称为 AI 的技术在安全行业中已经流传了很长时间，从对抗垃圾邮件到检测恶意软件，”Kirk 说，“至少，AI 可以加快攻击速度，但也可以加快防御速度。有时攻击者会占上风，而防御者会追赶上来，但这与我们现在的情况并无不同。
“网络犯罪分子如何利用 AI 还将取决于 LLM 和具有更少保护措施的 AI 模型的可用性，并允许提示获取可能用于恶意用途的信息或代码。”
企业网D1net(www.d1net.com)：
国内主流的to B IT门户，同时在运营国内最大的甲方CIO专家库和智力输出及社交平台-信众智(www.cioall.com)。同时运营19个IT行业公众号(微信搜索D1net即可关注)。
版权声明：本文为企业网D1Net编译，转载需在文章开头注明出处为：企业网D1Net，如果不注明出处，企业网D1Net将保留追究其法律责任的权利。
京公网安备 11010502049343号