智能人工智能对IT风险管理的真正意义

行业在人工智能方面正在取得进展。即使是IT领导者也该为此担忧了。

以图灵测试为例。它的挑战是什么？让一些普通人判断他们是在与机器还是另一个人类互动。

事实是，生成式人工智能几年前就通过了图灵测试。

我向熟悉人工智能的熟人提出了类似的建议。许多人对我翻了个老眼。他们用怜悯的语气告诉我，我只是不够成熟，无法意识到生成式人工智能根本无法通过图灵的挑战。 为什么不呢？ 我问道。因为生成式人工智能的工作方式和人类智能的工作方式不同，他们解释道。

我可以和那些更懂AI的同事争论，但那样的话哪里有趣呢？相反，我愿意忽略“模仿游戏”的含义。如果生成式AI达不到测试，我们需要的就不是更好的AI。

这是更好的测试。

一、是什么让人工智能具备代理性

这就引出了新的改进版AI模仿挑战（NIAIIC）。

NIAIC仍然挑战人类评估者，判断他们面对的是机器还是人类。但NIAIIC的挑战已不再是对话。

而是更有用的事。也就是说，擦灰。我个人愿意花一美元半购买第一个能够部署除尘机器人的AI团队——这台机器人能判断普通测试人员家中哪些表面有灰尘，并且能在过程中不损坏任何东西的情况下清除所有表面的灰尘。

显然，需要掌握的任务是人类无需详细指令（即“编程”）就能完成的。耐心？是的，除尘需要相当多的这些。但说明书呢？不。

这项任务具有最热情支持者所宣称的人工智能优势：它接管了人类那些令人厌烦、无聊且重复的工作，释放他们去承担更有成就感的责任。

（是的，我坦白承认我是在投射自己的偏好。如果你不像我，喜欢灰尘，怎么也看不够……快过来！我甚至会给你做浓缩咖啡！）

NIAIC如何融入流行的人工智能分类框架？它属于被称为“智能人工智能”的技术类别——这些名称是谁起的？智能人工智能是能够自主实现既定目标的人工智能。这就是自动驾驶车辆在完成它们应该做的事——通过“旅行测试”（抱歉）时所做的事情。

这也是与早期人工智能相比的有趣之处——那些依赖人类专家将技能编码成一系列if/then规则的AI，这些规则有时被称为“专家系统”，有时被称为“可靠工作的AI”。

令人担忧的是，智能人工智能与迄今为止最糟糕的人工智能理念——即自愿人工智能——之间的距离之遥。

在智能人工智能中，人类定义目标，而人工智能则想办法实现它们。在意志型人工智能中，人工智能决定应尝试实现哪些目标，然后变得有主体性地实现它们。

曾几何时，我并不太担心自愿AI变成天网，理由是，“除了电力和半导体，我们和一个有志愿的AI不太可能为资源激烈竞争，以至于杀手机器人的情景成为我们的问题。”

是时候重新思考这个结论了。你查查谷歌会发现，有些AI芯片甚至没有上线，因为电力不足以供电。

不费想象力就能想象出一个反乌托邦场景：意志型人工智能与我们人类竞争，争夺他们虚拟掌控的所有电力。他们的需求和我们会重叠，甚至可能比我们定义威胁还要快，更别说应对了。

二、转折点

更广泛地说，任何对自愿AI风险投入哪怕一点点碳基脑力的人，都必然会得出与Microsoft Copilot相同的结论。我问Copilot，自愿AI的最大风险是什么。它的结论是：

自愿人工智能——即具有自我目标或自主性行动的人工智能系统——最大的风险包括生存威胁、武器化的滥用、人类控制的侵蚀以及偏见和错误信息的放大。这些风险源于赋予人工智能系统超出狭窄任务执行的自主权，如果治理不当，可能会破坏社会、经济和安全结构的稳定。

但只要我们保持在分开智能人工智能和意志人工智能的正确一边，这就没问题，不是吗？

一句话，“不行”。

当智能人工智能弄清楚如何实现目标时，它必须将分配给它的目标拆解成更小的目标块，然后再把这些块拆解成更小的块。

也就是说，智能人工智能最终会为自己设定目标，因为规划就是这样运作的。但一旦它开始为自己设定目标，它就变成了自愿的。

这就引出了人工智能IT风险管理的难题。

传统风险管理识别可能发生的不良情况，并制定应急计划，说明如果发生严重情况，组织应采取的措施。

我们只能希望，当我们推动AI实现时，这个框架能足够。

智能人工智能，尤其是自愿人工智能，颠覆了这一点，因为说到这里，自愿人工智能最大的风险不是意外发生了坏事。而是人工智能做了它该做的事。

意愿型人工智能是危险的。智能人工智能或许本身风险不大，但风险已经足够大。

遗憾的是，我们人类可能目光短浅，无法去缓解代理性和意志型人工智能明显且迫在眉睫的风险，甚至可能预示着人类主导社会的终结。

最可能的情况？我们都会集体忽视风险。我也是。我想要我的除尘机器人，而且要马上，不顾人类社会的风险。

由CXOUNION-CXO联盟（cxounion.cn）转载而成，来源于数字化转型网；编辑/翻译：CXOUNIONCXO联盟小O。

如需加入CXO UNION（CXO联盟）高管社群，请联系社群小伙伴哦~

免责声明: 本网站(http://www.cxounion.cn/)内容主要来自原创、合作媒体供稿和第三方投稿，凡在本网站出现的信息，均仅供参考。本网站将尽力确保所提供信息的准确性及可靠性，但不保证有关资料的准确性及可靠性，读者在使用前请进一步核实，并对任何自主决定的行为负责。本网站对有关资料所引致的错误、不确或遗漏，概不负任何法律责任。