CIO如何发现并应对AI的隐藏成本

责任编辑:cres

作者:John

2025-11-14 14:23:54

来源:企业网D1Net

原创

在企业急速采用AI技术的过程中,隐性成本成为CIO们面临的意外障碍,这些成本包括数据重复、治理债务、效率低下以及未跟踪的模型使用,可能导致预算失控、合规和安全风险增加。

CIO们在急于采用AI技术时,遇到了一个意想不到的障碍:隐性成本,这些成本可能会阻碍企业创新和业务转型。

提供AI驱动的行政助理服务的公司Fyxer AI的CIO Andy Wallace表示:“AI支出不像传统信息技术预算那样稳定,它每小时都在波动,CIO们需要借助实时仪表盘来实时监控代币使用情况、API调用次数和基础设施成本。”

网络安全恢复公司Commvault的CIO Ha Hoang表示,揭示隐性成本的第一步是提高透明度,不仅要了解支出情况,还要了解使用情况和价值。她指出,AI的隐性成本往往隐藏在数据分散、影子项目和未跟踪的模型使用中。“CIO们需要具备超越基础设施的洞察能力,包括数据的访问、复制和管理方式。”Hoang认为,CIO们对数据保护和恢复所采用的规范,同样应适用于AI领域。“这将包括对每个数据集和模型进行清晰的谱系追踪、生命周期管理和责任归属。”

成本损耗

Hoang指出,数据重复和治理债务是主要的成本损耗因素。她表示:“随着AI实验的加速,数据副本在云环境、沙箱和模型中大量涌现。”她警告称,这些不必要的开支不仅会推高存储和计算成本,还会增加合规和安全风险。“如果底层数据管理不善,今天看似每次推理仅需几美分的成本,日后可能会演变成重大的技术和运营债务。”

Wallace认为,最大的隐性成本是效率低下。“对我们Fyxer公司来说,这可能意味着提示词优化不佳、模型漂移未受监控或不必要的计算周期。”然而,他指出,同样的效率陷阱也适用于采用其公司软件的企业CIO们。Wallace表示,控制效率低下的明智方法是让企业CFO参与进来。“财务部门需要像工程部门一样了解这一挑战,因为跨职能的流畅沟通是避免账单到来时出现意外情况的关键。”

追求简约

Hoang表示,重要的是将AI视为数据生态系统的一部分,而非例外。“从数据准备到模型部署,从一开始就将成本透明度和治理纳入AI生命周期。”她建议道。

同时,自动化数据分类、保留和保护策略也有助于防止成本激增。Hoang还建议,企业应像测试核心应用一样测试AI的恢复能力和韧性。“这确保了企业能够长期维持其AI投资。”她表示。

Wallace建议,将AI视为一个动态的金融系统,而非固定的技术投资,这意味着要使用信息技术和财务部门的联合仪表盘,设定明确的支出阈值,并在使用模式发生变化时自动发出警报。“当财务和工程团队共享透明度时,你就能将过去每月一次的震惊转化为一个可管理、可预测的过程。”他表示。

Wallace还表示,CIO们还需要与首席财务官和财务团队紧密合作,并排比较各项指标,因为财务监督必须与工程进度保持同步。“等待月末对账的日子已经一去不复返了,如果你不是每30分钟监控一次使用情况,你就已经落后了。”

Google的初创企业现场首席技术官David White建议,尽可能追求效率。“你是否仅仅因为认为最新技术就是最好的,就使用它?”他问道。“你是否使用了最具成本效益的加速器,或者你是否可以使用价格更低的GPU?”

隐性成本

White认为,CIO们需要意识到隐性开支,比如那些默默无闻的团队成员为保持一切正常运行、集成和优化所付出的成本。他指出,这包括用于调整模型的数据准备工作,即使你不是在构建自己的模型。“所有幕后人物让一切看起来都很美好的背后都有成本——他们不是免费的。”White表示。

另一个重大错误是假设AI的表现与SaaS部署相同——实际上并非如此。“你不是在购买静态许可证——你是在为持续的计算付费,这种计算会随着团队的使用方式而扩展。”

Wallace警告称,成本每天、甚至每小时都在波动,具体取决于使用情况。“试图在不与首席财务官沟通的情况下管理这种波动性,是导致预算失控的原因。”他表示。“财务部门需要实时了解AI运营情况,而不是每月总结。”

最后一点思考

Hoang表示,一个企业的AI的可持续性将取决于其数据基础的稳固程度。“投资于可信、受治理且可恢复的数据的CIO们将更高效地解锁AI价值,并避免因速度失控而产生的隐性成本。”

企业网D1net(www.d1net.com):

国内头部to B IT门户,旗下运营国内最大的甲方CIO专家库和智力输出及社交平台-信众智(www.cioall.com)。旗下运营19个IT行业公众号(微信搜索D1net即可关注)。

版权声明:本文为企业网D1Net编译,转载需在文章开头注明出处为:企业网D1Net,如果不注明出处,企业网D1Net将保留追究其法律责任的权利。

链接已复制,快去分享吧

企业网版权所有©2010-2026 京ICP备09108050号-6京公网安备 11010502049343号