人工智能治理的隐藏运营成本有哪些？

人工智能不仅运行成本高，治理成本也高。除非金融、风险和技术协调一致，否则人工智能项目将停滞甚至失败。

在我帮助大型企业部署人工智能的工作中，我不断看到同样的故事上演。一支出色的数据科学团队构建了一个突破性的模型。公司开始兴奋，但项目却遇到瓶颈;一堵由恐惧和困惑筑成的墙，生活在代价与风险的交汇处。领导层提出了两个似乎没人能同时回答的问题：“安全运行需要多少成本？”以及“我们承担了多少风险？”

问题在于，负责成本的人和负责风险的人生活在不同的世界里。向首席财务官汇报的FinOps团队痴迷于优化云法案。治理、风险与合规（GRC）团队向首席风险官汇报，专注于法律风险暴露。而在CTO领导下创新驱动的AI和MLOps团队，却夹在中间。

这种组织结构导致项目要么运行成本过高，要么部署风险过高。解决方案不是更好的金融运营或更严格的治理;它是将人工智能成本和治理风险作为一个单一、可衡量的系统来管理，而非由不同部门共同拥有的竞争关注点。我称之为“负责任的人工智能财务运营”。

要理解这个系统的必要性，我们首先必须揭露治理所带来的隐藏成本，远在模型真正接触客户之前。

第一阶段：治理的部署前成本

第一个隐藏成本出现在开发过程中，我称之为开发重做成本。在受监管的行业中，模型不仅要准确，还必须被证明是公平的。这是一种常见情形：模型通过了所有技术准确性基准，但在最终偏见审查中被标记为不合规。

正如我在最近的一篇VentureBeat文章中详细说明的，这次重做是导致AI策略停滞的速度差距的主要原因。这迫使团队回到起点，导致数周甚至数月的重做、重新采样数据、重构特征和重新训练模型;这不仅消耗了开发者昂贵的时间，还延误了上市时间。

即使模型运作完美，受监管行业仍要求大量文书工作。团队必须详细记录模型如何做出决策及其数据来源。你在云端发票上看不到这笔费用，但它是你最资深专家薪资工时中的重要部分。

这些不仅仅是技术问题，更是由于AI治理标准流程失败导致的财务负担。

第二阶段：生产中的经常性运营成本

一旦模型部署完成，治理成本将成为运营预算的永久部分。

1、可解释性开销

对于高风险决策，治理要求每个预测都必须可解释。虽然用于实现这一点的库（如流行的SHAP和LIME）是开源的，但它们并非免费运行。它们计算量大。实际上，这意味着在主模型之外，为每一笔交易运行第二个繁重的算法。这很容易使计算资源和延迟翻倍，导致每次预测都产生显著且持续的治理开销。

2、持续监测负担

标准MLOps涉及监控性能漂移（例如，模型是否变得不够准确？）。但人工智能治理增加了第二层更复杂的层面：治理监控。这意味着要不断检查偏差漂移（例如，模型是否随着时间对某个特定群体变得不公平？）和可解释性漂移。这需要一个独立的、始终在线的基础设施，负责摄取生产数据、运行统计测试并存储结果，为项目增加了连续且独立的成本流。

3、审计与存储账单

要做到可审计，你必须记录所有内容。在金融领域，FINRA等机构的法规要求会员公司遵守SEC关于电子记录的规定，这些规定可能要求以不可删除的形式保存至少六年。这意味着每个预测、输入和模型版本都会产生一个数据产物，产生存储成本，而这种成本每天增长，持续多年。

4、受监管与非受监管的差异：为什么社交媒体应用和银行不能使用相同的AI作手册

并非所有人工智能都一样，未能区分不同用例是预算和风险错位的主要原因。我上述所说的治理税并非普遍适用，因为利害关系差异很大。

考虑一个不受监管的用例，比如社交媒体应用上的视频推荐引擎。如果模型推荐了我不喜欢的视频，后果很微不足道;我只是直接滑过它。糟糕预测的成本几乎为零。MLOps团队可以优先考虑速度和参与度指标，而对治理则相对轻描淡写。

现在考虑我经常遇到的一个受监管用例：银行用于抵押贷款承保的人工智能模型。一个偏袒的模型不公平地拒绝向受保护群体发放贷款，不仅会导致不良客户体验，还可能引发联邦调查、根据公平贷款法律开设数百万美元的罚款以及公关灾难。在这个世界里，可解释性、偏见监控和可审计性不是可选的;它们是经营过程中不可谈判的成本。这一根本区别正是为什么单一版本的人工智能平台完全由MLOps、FinOps或GRC团队决定，注定会失败。

5、负责任的人工智能金融运营：统一成本与风险的实用手册

弥合CFO、CRO和CTO之间的鸿沟，需要建立基于共享语言和问责制的新运营模式。

创建一个带有新指标的统一语言。FinOps 跟踪业务指标，如每用户成本，以及技术指标，如每次推理成本或每次 API 调用成本。治理追踪风险暴露。负责任的人工智能金融运营方法通过创建诸如每次合规决策成本等指标，将这些元素融合起来。在我自己的研究中，我关注的指标不仅量化了重新训练模型的成本，还衡量了这种再培训相对于合规提升的成本效益。

组建一支跨职能的老虎团队。领先组织正在创建包含FinOps、GRC和MLOps成员的赋能小组，取代了各自为政的部门。该团队共同负责高风险人工智能产品的整个生命周期;其成功衡量标准是系统整体风险调整后的盈利能力。该团队不仅应定义跨职能的AI成本治理指标，还应制定每个工程师、科学家和运营团队必须遵守的标准，适用于组织内的每一个AI模型。

投资于统一平台。市场正在回应这一需求。财富商业洞察预测，MLOps市场的爆炸性增长将到2032年达到近200亿美元，这证明了市场正在回应统一的企业级AI控制平面的需求。合适的平台提供了一个单一仪表盘，CTO可以查看模型绩效，CFO可以查看其相关的云支出，CRO则可以实时查看合规状态。

6、组织挑战

实现人工智能价值的最大障碍已不再是纯粹的技术层面，而是组织层面。获胜的公司将是那些打破财务、风险和技术团队隔阂的公司。

他们会认识到：A）没有了解风险就无法优化成本;B）你无法在不量化风险成本的情况下管理风险;C）没有对模型实际工作原理的深入工程理解，这两者都无法实现。通过拥抱融合的负责任人工智能金融运营学科，领导者终于可以阻止警报在不同建筑中响起，开始进行一场既有利又负责任的创新交响乐。

由CXOUNION-CXO联盟（cxounion.cn）转载而成，来源于数智化转型网；编辑/翻译：CXOUNIONCXO联盟小O。

如需加入CXO UNION（CXO联盟）高管社群，请联系社群小伙伴哦~

免责声明: 本网站(http://www.cxounion.cn/)内容主要来自原创、合作媒体供稿和第三方投稿，凡在本网站出现的信息，均仅供参考。本网站将尽力确保所提供信息的准确性及可靠性，但不保证有关资料的准确性及可靠性，读者在使用前请进一步核实，并对任何自主决定的行为负责。本网站对有关资料所引致的错误、不确或遗漏，概不负任