人工智能时代，如何平衡治理与创新？

治理常被视为创新的障碍，但合规监管可以帮助引导新兴技术探索朝正确方向发展，而人工智能是解决方案的关键元素。

除了宣传的好处外，生成式人工智能还为企业及其客户带来了新的风险。根据麦肯锡的研究，超过一半使用人工智能的组织报告至少一次负面后果，近三分之一的受访者提到AI不准确性导致的问题。

幻觉并不是实施生成式人工智能的唯一挑战。除了常见的关注点，如业务价值、安全和数据准备度外，Gartner还指出，组织可能忽视关键盲点，包括影子人工智能、技术债务、技能流失、数据主权、互作性问题和供应商锁定。

信息不准确、数据泄露等风险综合导致全球监管机构正急于收紧法规，确保企业在严格指导下运营，并保护客户。最引人注目的人工智能立法是欧盟的《人工智能法案》，这是一个全面的基于风险的人工智能框架，也是不断演变的监管环境的一部分。律师事务所Bird & Bird开发了一款AI地平线追踪器，分析22个司法管辖区，展示人工智能法规，包括法律、指南和相关行为。该追踪器呈现了广泛的区域性方法，从完全无监管到严格的材料要求。

因此，负责在这一环境中引导人工智能项目的数字领导者面临潜在的治理雷区。监管上的困境使一些企业质疑尝试人工智能是否值得冒险。

例如，制造业专家RS的研究发现，工业领域中只有34%的高级领导优先考虑人工智能和机器学习。公司创新副总裁迈克·布雷表示，这一结论仅仅是对采纳的谨慎态度。

然而，尽管治理可能被视为创新的障碍，专家认为遵守规则和法规能创造有用的基础规则，有助于引导人工智能探索朝正确方向发展。事实上，一些专家认为，人工智能的部署可以帮助CIO及其业务同事管理风险。

一、治理真的是创新的障碍吗？

英国故障专家RAC的数据与洞察负责人Ian Ruffle承认，数字领导者必须正面应对合规。他的组织运营一个人工智能治理论坛，汇聚信息安全和其他业务业务部门专家，确保公司专注于正确的领域。

“我觉得你得摸索一下，”他说。“我们不想成为害怕人工智能的企业。你必须拥抱它的潜力。”拉弗尔表示，他所在组织数据驱动探索中的关键教训是，有效的治理是一场团队游戏。共同思考规则和法规如何指导你的人工智能实施。

“成功是建立正确的关系，绝不试图掩盖问题，”他说。“如果你处于领导岗位，并且在研究一项新技术时，你首先应该考虑在你所做的事情和数据处理方式上进行正确的治理。你的变革流程必须被严格监控，避免出错。”

RS的Bray也认为治理应指导AI的实施。他表示，公司处境与其他企业类似，必须在机遇与风险的平衡中取得平衡。承认这种多样性意味着强有力的治理，对于确保RS以有利于客户、供应商和内部团队的方式使用人工智能，同时降低风险至关重要。

“我们的经验是，拥有正确的治理、安全和合规基础对于有效使用人工智能至关重要，同时在判断人工智能是否是合适的解决方案之前，清晰理解问题或应对机会，而不是被技术本身主导，”他说。

Hottinger Brüel & Kjær数字未来总监Charlotte Bemand在10月伦敦DTX 2025活动上发言时表示，关键在于在创新时代管理治理需要谨慎的平衡。治理不再是一套固定的规则和法规，而是不断演变的。聪明的商业领导者确保护栏和框架与组织成熟度之间紧密匹配。

“在我的业务中，我们拥有高度监管且极其敏感的终端市场，且在该领域的合规活动也更高，”她说。“还有一大堆市场和客户，他们期待我们带来快速创新和敏捷，我们必须在这两者之间取得平衡。”

二、如何平衡治理与创新之间的微妙关系？

英国救助儿童会首席数据与人工智能官施鲁蒂·夏尔马在同一场活动中表示，关键是奠定基础与鼓励创新之间的微妙界限。

她说，治理往往伴随着不好的声誉。人们普遍认为合规涉及官僚主义和大量行政工作，但治理不必是一本100页的规则手册或人们反复引用的政策，她说。管理治理的最佳方式是设立明确的界限。

“除了嵌入角色和基于角色的访问外，我们还让人们拥有沙盒环境可供探索，同时也拥有清晰的体验，”她补充道。“对我来说，清晰是关于界限和确立正确的定义。人们可以在一个对组织安全且安全的范围内探索和实验。”

简而言之，当治理嵌入创新过程，而非被视为额外的障碍时，组织可以利用合规作为结构，安全有效地探索人工智能的潜力。

英国养老金监管机构数字、数据与技术主管保罗·内维尔表示，整合现实将令一些专业人士感到惊讶。“人们往往把风险和机会当作两个独立的概念，但实际上它是一个长长的连续体，”他说。“风险可以是机会，机会也可以是风险。这两点都是真的。”

Neville最近采访了一位未具名的CEO，他对当今的问题如此沉浸，无法想象一个完全不同的世界，在那里通过利用自动化和人工智能，事情可以做出不同的处理。“他们太专注于风险，以至于无法前进，”他说。“那真是太悲伤了。”

关键是要有远见去想象不同的事物，内维尔说。最优秀的领导者描绘更美好的明天，突出潜在风险，并提供管理这些担忧的机制。为了帮助制定清晰愿景，内维尔和同事们成立了一个人工智能咨询委员会。

“该委员会将有外部和内部成员，但由我们的首席运营官担任主席，而非我，以赋予其独立性，”他说。“议会也意味着我们能够好好地了解我们正在做的事情，并采取伦理的态度。它向我们提出机会挑战，因此会考虑治理和创新。”

三、如何利用创新来进行更好的治理？

科技巨头联想全球首席信息官阿胡表示，没有单一的方法能管理治理与人工智能之间的平衡，因为不同行业和公司之间的环境和应对方式各异。然而，成功的一种潜在途径是利用人工智能来管理风险。胡认为，对人工智能的战略性投资将为管理治理的首席信息官带来回报。

“生成式人工智能的一个优势在于建议许多不同的来源，远超人类的能力，并提出基于基础的建议，”他说。“正确掌握你的方法，人工智能工具可以提升你的风险评估、缓解和管理功能。”

这对制造、建筑和工业服务集团The Heico Companies的环境健康安全副总裁戴夫·罗伯茨来说无疑是如此。他帮助组织在所有工作现场最大限度地降低风险和潜在严重事故，确保各区域的监管要求得到满足。在这个角色中，他遇到的是越来越多的指导方针和规则。

“我处理很多法规，而且这些似乎还在不断增加，”他说。“我的工作之一就是考虑我们如何跟上这些变化。所以只要我能找到简化世界并通过法规管理的方法，那就可能有用。”

这正是人工智能发挥作用的地方。罗伯茨认识到Heico需要一个系统来减少全球风险管理的负担。他扫描了IT市场，发现Benchmark Gensuite的PSI AI Advisor利用AI从事件报告中提取和摘要细节，可能为公司管理重大风险这一难题提供解决方案。

通过利用AI助手提供的洞察，Heico在其各设施内显著减少了工作场所事故，帮助将薪酬成本降低了60%。罗伯茨表示，这些结果改变了关于人工智能与治理联系的讨论。

“企业领导者关注的是重大问题，”罗伯茨说。“这项技术能带你找到真正重要的地方。我们的成功赢得了领导层的信誉。他们知道哪些风险更大，因为他们掌握着洞察力。”

由CXOUNION-CXO联盟（cxounion.cn）转载而成，来源于数字化转型网；编辑/翻译：CXOUNIONCXO联盟小O。

如需加入CXO UNION（CXO联盟）高管社群，请联系社群小伙伴哦~

免责声明: 本网站(http://www.cxounion.cn/)内容主要来自原创、合作媒体供稿和第三方投稿，凡在本网站出现的信息，均仅供参考。本网站将尽力确保所提供信息的准确性及可靠性，但不保证有关资料的准确性及可靠性，读者在使用前请进一步核实，并对任何自主决定的行为负责。本网站对有关资料所引致的错误、不确或遗漏，概不负任何法律责任。