这一场景每天都在全球各地的企业中上演，到2027年，深度伪造攻击将给各企业造成400亿美元的损失。两年前还看似理论层面的技术，如今已实现工业化规模应用。

深度伪造只是新兴威胁态势中的一个维度。GenAI与身份系统的融合，催生了新的攻击途径，而各企业才刚刚开始理解这些途径。拥有广泛权限的智能体、数量激增到难以理解的机器身份、创建未经授权账户的影子AI系统——本应提供保护的工具，如今却成了武器。

深度伪造危机加剧，400亿美元损失近在眼前

统计数据只是冰山一角。Persona发布的《2024年身份欺诈报告》显示，仅在招聘欺诈领域，该机构就拦截了7500万次深度伪造尝试——这还只是一家供应商在一个垂直领域的数据。若将此数据推算至全行业，年度深度伪造尝试次数可能高达数十亿。

深度伪造技术的发展速度惊人。2023年，深度伪造事件激增3000%。联络中心遭遇的语音攻击增加了700%。到2024年，制作出令人信服的语音克隆仅需不到3分钟的音频素材——这些素材可轻松从财报电话会议、播客或社交媒体上获取。

OpenAI的GPT-4o安全文档现已内置深度伪造检测功能。AI公司将深度伪造防御功能直接嵌入模型，这一事实表明了此类威胁的规模之大。

在《华尔街日报》最近的一期科技新闻简报中，CrowdStrike首席执行官George Kurtz解释了AI的进步如何帮助网络安全从业者防御系统，同时也谈到了攻击者如何利用AI。Kurtz与《华尔街日报》记者Dustin Volz就AI、2024年美国大选以及中国和俄罗斯构成的威胁进行了讨论。

Kurtz表示：“如今的深度伪造技术已经非常先进，我认为这是我们真正需要担忧的领域之一。我是说，2016年的时候，我们就开始追踪这一技术，当时你会发现人们真的在和机器人聊天，那可是2016年啊。他们要么在争论，要么在宣扬自己的主张，进行着互动式的对话，而实际上背后根本没有人。所以我认为，人们很容易误以为那是真实的，或者被我们想要支持的某种观点所左右，但很多情况下，这些观点都是由其他国家推动的，而且一直都是这样。”

CrowdStrike美洲地区首席技术官Cristian Rodriguez补充道：“深度伪造、智能体、影子AI——这些已不再是边缘案例，而是当下的攻击面。旧的季度访问审查或静态策略模式根本无法跟上机器速度的威胁。我们需要用AI来对抗AI，让人来制定战略，而不是疲于应对警报。”

对抗性AI的研究揭示了一个“浅信任”时代，在这个时代，没有任何数字交互可以仅凭表面价值来判断。与新兴威胁相比，过去十年的商业电子邮件泄露攻击将显得微不足道。

智能体：失控的攻击面

每个智能体都相当于一个拥有持续系统访问权限的超级用户。与人类用户不同，智能体保持持续连接。与传统权限有限的服务账户不同，智能体需要广泛的权限才能正常运行。

机器身份的数量已经是人类身份的45倍。智能体正呈指数级加速这一激增趋势。典型的企业部署ChatGPT会创建数十个智能体，每个智能体都需要身份、凭证和访问权限。在Claude、Gemini、Copilot和专有系统中，各企业突然要管理数千个几乎无人监管的AI身份。

攻击场景已经出现。攻击者入侵了一个可以访问公司整个知识库的智能体。他们没有直接窃取数据(那样会触发警报)，而是篡改了智能体的回复，在数周内潜移默化地向员工灌输错误信息。在发现这一情况之前，公司已经基于这些被篡改的情报做出了关键业务决策。

机器身份激增：新兴的攻击面危机

机器身份是网络安全领域最被低估的威胁途径。如今，各企业管理的机器身份数量是人类身份的45倍，且身份总数每年以240%的速度增长。这种指数级增长使传统的身份和访问管理(IAM)架构失效。

实际运营情况暴露了关键漏洞。容器的生命周期往往不到5分钟，但它们会在传统IAM系统记录其存在之前就生成凭证、进行身份验证并访问资源。Ivanti的Karl Triebes证实：“传统的IAM系统甚至无法检测到这些身份。”

规模扩大加剧了脆弱性。企业维护着15000多个服务账户(其中92%为孤立账户)、25000多个API密钥(其中67%从未轮换)以及50000多个证书(其中40%为自签名证书)。CyberArk的数据显示，68%的数据泄露事件利用了非人类凭证。SolarWinds事件展示了级联效应——一个被入侵的服务账户引发了企业范围内的故障。

领先的企业正在部署自动化技术。Venafi的TLS Protect可在数小时内绘制证书基础设施图，防止89%的与证书相关的中断。SPIFFE/SPIRE框架提供可自动轮换且随工作负载终止的加密工作负载身份，消除了静态凭证的积累。

市场动态验证了紧迫性。机器身份管理市场规模在2024年达到51.3亿美元，预计到2032年将以14.19%的复合年增长率扩大至148.1亿美元。Gartner的分析显示，没有自动化机器身份管理(MIM)的企业遭遇数据泄露的概率要高出4倍。实施自动化机器身份管理可在六个月内将凭证事件减少73%。

Rodriguez补充道：“机器身份的激增给我们敲响了警钟。当每个员工对应45个服务账户时，你无法用传统的IAM来保护它们。如果你无法看清每个人类、机器和AI身份，那你就是在盲目行动。这就是身份安全的未来方向：实时、自动化且跨领域统一。”

机器身份管理是下一个关键的安全投资领域。解决这一差距的企业将通过降低数据泄露风险和提高运营效率获得竞争优势。

影子AI：隐匿的463万美元数据泄露乘数

IBM 2025年的数据显示，影子AI现在给企业造成的单次数据泄露成本高达463万美元，比平均水平高出16%，然而，97%的遭受数据泄露的企业缺乏基本的AI访问控制。

Prompt Security首席执行官Itamar Golan告诉VentureBeat：“我们每天会看到50个新的AI应用，目前已经收录了12000多个。”WinWire首席技术官Vineet Arora在最近接受VentureBeat采访时表示：“各部门纷纷采用未经批准的AI解决方案，因为即时收益太诱人，让人难以抗拒。”Arora警告称：“突然之间，大量鲜为人知的AI应用在未经任何合规或风险审查的情况下处理企业数据。”

按照每月5%的增长速度计算，到2026年年中，影子应用的数量可能会翻倍。Cyberhaven的数据显示，工作场所ChatGPT账户中有73.8%未经授权。企业AI使用量在24个月内增长了61倍。一位不愿透露姓名的财富500强企业首席信息安全官一针见血地指出：“这就像试图清点烟雾的数量。”

传统安全措施在此失效。Arora向VentureBeat解释道：“大多数传统管理工具无法全面了解AI应用的情况。”他的治理框架针对这一问题提出了解决方案：设立负责任的AI办公室，部署具备AI意识的安全控制措施，并对AI架构应用零信任原则。

Arora强调：“全面禁止往往会使AI的使用转入地下，这只会加大风险。”“你无法阻止AI的采用，但可以引导其安全使用。”

Golan表示：“根据欧盟《AI法案》，‘罚款可能比GDPR(通用数据保护条例)下的罚款还要高得多’。”然而，禁止并非解决之道。Arora证实：“一旦员工有了获批的AI使用途径和明确的政策，他们就不再觉得有必要偷偷使用随机工具。”

安全负责人的战略要务

在对IBM《2024年数据泄露成本报告》中记录的数十起数据泄露事件进行了18个月的研究和分析后，明确的战略要务浮出水面。

假设任何单一身份都可能被入侵。设计能够限制爆炸半径的系统，而非试图阻止每一次数据泄露。世邦魏理仕全球首席信息安全官Eric Hart也秉持这一理念：“关键不在于不发生任何安全事件，而在于在事件不可避免地发生时将损失降到最低。”

在添加安全工具之前，先投资于身份可见性。企业无法保护其看不见的东西。要想成功，就必须在尝试治理之前，对所有人类、机器和AI身份拥有完整的可见性。

将深度伪造视为生存威胁，而非边缘案例。每个企业都需要立即部署深度伪造防御措施。预计2027年将造成400亿美元损失，那些持观望态度的企业将为此付出代价。

在智能体自我管理之前对其进行管控。管控窗口正在关闭。一旦智能体变得足够自主，能够抵抗管控，就为时已晚。

接受传统安全模式已过时。静态策略、定期审查和人力规模的治理在数以百万计的身份以机器速度运行的环境中无法发挥作用。未来需要的是用AI来对抗AI，让人来制定战略，而非管理实施。

变革的必然性

通过GenAI实现身份安全的变革，是网络安全的转折点。能够利用这些能力并管理风险的企业将蓬勃发展。那些未能做到这一点的企业将成为自互联网诞生以来网络安全领域最重大变革的牺牲品。

从CrowdStrike的Falcon平台、CyberArk的身份安全平台、ForgeRock的自主身份、Ivanti的Neurons、微软的安全副驾驶、Okta的身份云、Palo Alto Networks的Cortex、SentinelOne的Singularity到Venafi的控制平面，企业所需的工具已经齐备。安全负责人拥有应对深度伪造、不受管控的智能体和激增的机器身份的资源，但现在是时候采取战略性行动了。

Hart的智慧引人共鸣：“安全在于持续维护，在于不断进化。你如何以全新或不同的方式看待和利用你所拥有的东西?”在一个智能体激增、深度伪造破坏信任、机器身份数量呈指数级超过人类身份的时代，进化不是建议——而是生存的必需。

AI驱动的攻击与AI驱动的防御之间的竞赛将决定网络安全的下一个十年。赢家将认识到，身份安全不再仅仅是管理访问权限——而是要治理一个由人类、机器和AI实体组成的生态系统，这些实体正以前所未有的规模和速度运行。

变革已然来临，风险真实存在，引领而非被动应对的机会正在缩小。接下来会发生什么，取决于安全负责人在未来18个月内所做的决策。

企业网D1net(www.d1net.com)：

国内头部to B IT门户，旗下运营国内最大的甲方CIO专家库和智力输出及社交平台-信众智(www.cioall.com)。旗下运营19个IT行业公众号(微信搜索D1net即可关注)。

版权声明：本文为企业网D1Net编译，转载需在文章开头注明出处为：企业网D1Net，如果不注明出处，企业网D1Net将保留追究其法律责任的权利。