提供AI驱动的行政助理服务的公司Fyxer AI的CIO Andy Wallace表示:“AI支出不像传统信息技术预算那样稳定,它每小时都在波动,CIO们需要借助实时仪表盘来实时监控代币使用情况、API调用次数和基础设施成本。”
网络安全恢复公司Commvault的CIO Ha Hoang表示,揭示隐性成本的第一步是提高透明度,不仅要了解支出情况,还要了解使用情况和价值。她指出,AI的隐性成本往往隐藏在数据分散、影子项目和未跟踪的模型使用中。“CIO们需要具备超越基础设施的洞察能力,包括数据的访问、复制和管理方式。”Hoang认为,CIO们对数据保护和恢复所采用的规范,同样应适用于AI领域。“这将包括对每个数据集和模型进行清晰的谱系追踪、生命周期管理和责任归属。”
成本损耗
Hoang指出,数据重复和治理债务是主要的成本损耗因素。她表示:“随着AI实验的加速,数据副本在云环境、沙箱和模型中大量涌现。”她警告称,这些不必要的开支不仅会推高存储和计算成本,还会增加合规和安全风险。“如果底层数据管理不善,今天看似每次推理仅需几美分的成本,日后可能会演变成重大的技术和运营债务。”
Wallace认为,最大的隐性成本是效率低下。“对我们Fyxer公司来说,这可能意味着提示词优化不佳、模型漂移未受监控或不必要的计算周期。”然而,他指出,同样的效率陷阱也适用于采用其公司软件的企业CIO们。Wallace表示,控制效率低下的明智方法是让企业CFO参与进来。“财务部门需要像工程部门一样了解这一挑战,因为跨职能的流畅沟通是避免账单到来时出现意外情况的关键。”
追求简约
Hoang表示,重要的是将AI视为数据生态系统的一部分,而非例外。“从数据准备到模型部署,从一开始就将成本透明度和治理纳入AI生命周期。”她建议道。
同时,自动化数据分类、保留和保护策略也有助于防止成本激增。Hoang还建议,企业应像测试核心应用一样测试AI的恢复能力和韧性。“这确保了企业能够长期维持其AI投资。”她表示。
Wallace建议,将AI视为一个动态的金融系统,而非固定的技术投资,这意味着要使用信息技术和财务部门的联合仪表盘,设定明确的支出阈值,并在使用模式发生变化时自动发出警报。“当财务和工程团队共享透明度时,你就能将过去每月一次的震惊转化为一个可管理、可预测的过程。”他表示。
Wallace还表示,CIO们还需要与首席财务官和财务团队紧密合作,并排比较各项指标,因为财务监督必须与工程进度保持同步。“等待月末对账的日子已经一去不复返了,如果你不是每30分钟监控一次使用情况,你就已经落后了。”
Google的初创企业现场首席技术官David White建议,尽可能追求效率。“你是否仅仅因为认为最新技术就是最好的,就使用它?”他问道。“你是否使用了最具成本效益的加速器,或者你是否可以使用价格更低的GPU?”
隐性成本
White认为,CIO们需要意识到隐性开支,比如那些默默无闻的团队成员为保持一切正常运行、集成和优化所付出的成本。他指出,这包括用于调整模型的数据准备工作,即使你不是在构建自己的模型。“所有幕后人物让一切看起来都很美好的背后都有成本——他们不是免费的。”White表示。
另一个重大错误是假设AI的表现与SaaS部署相同——实际上并非如此。“你不是在购买静态许可证——你是在为持续的计算付费,这种计算会随着团队的使用方式而扩展。”
Wallace警告称,成本每天、甚至每小时都在波动,具体取决于使用情况。“试图在不与首席财务官沟通的情况下管理这种波动性,是导致预算失控的原因。”他表示。“财务部门需要实时了解AI运营情况,而不是每月总结。”
最后一点思考
Hoang表示,一个企业的AI的可持续性将取决于其数据基础的稳固程度。“投资于可信、受治理且可恢复的数据的CIO们将更高效地解锁AI价值,并避免因速度失控而产生的隐性成本。”
企业网D1net(www.d1net.com):
国内头部to B IT门户,旗下运营国内最大的甲方CIO专家库和智力输出及社交平台-信众智(www.cioall.com)。旗下运营19个IT行业公众号(微信搜索D1net即可关注)。
版权声明:本文为企业网D1Net编译,转载需在文章开头注明出处为:企业网D1Net,如果不注明出处,企业网D1Net将保留追究其法律责任的权利。






























































































京公网安备 11010502049343号