【CXO观点】CISO为什么需要重新思考AI 时代的安全组织？

不断变化的网络安全形势长期以来一直让首席信息安全官保持警惕，现在人工智能正在为安全团队的运营和创新方式带来新的挑战。在某些情况下，这项技术甚至正在改变人们对他们的看法。

根据德勤对美国网络决策者的网络未来调查，人工智能功能越来越多地用于网络安全计划，43% 的受访者在很大程度上在其网络安全计划中使用了人工智能。

这有助于首席信息安全官在日益精通网络的高管中获得更大的影响力：德勤的调查显示，近三分之一的受访者指出首席信息安全官参与了有关技术投资的战略对话。

尽管如此，这种变化是渐进的，会计和财富管理咨询公司 Plante Moran 的合伙人乔·奥列克萨克 （Joe Oleksak） 强调说。

“经过近 30 年的网络安全咨询，我可以自信地说，人工智能并没有彻底改变安全组织，但它正在逐渐重塑他们的运作方式，”他说。

Oleksak 看到的最大变化是越来越意识到速度已成为决定性因素。不过，安全团队不能把脚从踏板上移开，认为人工智能是灵丹妙药，他认为。

“人工智能加速了一切，包括攻击和防御，这意味着基础比以往任何时候都更加重要，”Oleksak 说。“配置、权限、网络分段，甚至共享文件夹中存储的信息都必须密切管理，因为人工智能会放大每一个错误。”

这就是纪律的用武之地。“随着时间的推移，在安全方面进行投资的组织通过将人工智能驱动的工具分层到他们的工作流程中，看到了效率，”Oleksak 说。“但那些没有认真对待安全的人仍然停留在他们一直面临的相同风险中。人工智能不会神奇地赶上他们。

Oleksak 补充说，事实上，由于攻击者正在使用人工智能使网络钓鱼、扫描和深度伪造变得更便宜、更快，成熟组织和毫无准备的组织之间的差距正在扩大。

以下是 CISO 如何重新审视其安全组织，以跟上人工智能的步伐和潜力，因为该技术成为其战略中越来越频繁的一部分。

一、不断变化的高管动态

美国联合航空公司副总裁兼首席信息安全官 Deneen DeFiore 表示，人工智能明确改变了她与其他最高管理层关系的性质。

“人工智能已将网络安全提升为战略业务对话。我正在与其他高管更密切地合作，以确保从一开始就将安全性纳入人工智能计划，“她说。“这不再只是保护基础设施，而是安全地实现创新、建立信任并帮助业务充满信心地更快地发展。”

她说，这种转变也发生了，因为该航空公司致力于负责任的人工智能。“我们专注于以合乎道德和透明的方式部署人工智能，网络安全在确保问责制、公平性和弹性方面发挥着核心作用。这种跨最高管理层的共同责任正在重塑我们的领导方式和创新方式。

来源：美国联合航空公司

Oleksak 指出，这种转变很大程度上与组织已经看到了当安全被视为事后想法时会发生什么有关。这在 1990 年代互联网推出期间发生在整个行业，Oleksak 认为，如果 C 级动态不改变，人工智能可以遵循相同的模式。

“我们不能重蹈覆辙，”他说。“为了负责任地部署人工智能，首席信息安全官必须处于战略和执行的中心。由首席信息安全官领导并由执行管理层赞助的安全优先方法是确保人工智能加强而不是破坏企业的唯一途径。

二、重塑网络与 IT 协作

DeFiore 说，人工智能的出现也改变了 IT 与安全组织的合作方式，将重点从被动安全转移到主动的战略协作。

“我们现在从一开始就将网络安全嵌入到人工智能计划中，跨团队密切合作，以确保创新既安全又合乎道德，”她强调说。“我们对负责任的人工智能的承诺意味着每个解决方案在设计时都考虑到了透明度、公平性和问责制。”

Aya Healthcare 产品管理高级副总裁 Jason Lander 负责管理该组织的安全，他也看到了网络安全和 IT 之间动态的变化。

“人工智能正在显着重塑安全和 IT 部门的协作方式、简化工作流程、融合职责、做出决策和重新定义信任动态的方式，”他说。“我们的 IT 运营变得更加智能和主动。我们的安全团队正在获得运营支持和更好的可见性。

虽然 Plante Moran 的 Oleksak 认为 AI 并没有显着改变大多数安全组织与 IT 的合作方式，但他已经看到，这项技术已经开始逐步改变人们的期望。“IT 团队越来越认为安全可以更快地发展，因为 AI 加速了分析和检测，董事会开始将 CISO 视为更具战略性的角色，”他说。

与此同时，Oleksak 认为没有足够的认识到 CISO 带来了与 IT 根本不同的观点。

“IT 的重点是速度、效率和支持业务，而 CISO 的重点是保护业务。这种区别经常被误解，“他坚持说。“随着人工智能引入强大的新风险，从深度伪造和人工智能驱动的网络钓鱼到员工通过人工智能查询无意中暴露敏感知识产权，只有首席信息安全官能够预测和减轻这些威胁。”

BlackLine 的首席信息安全官 Jill Knesek 向这家金融软件公司的首席信息官汇报工作。在她看来，团队一直密切合作，但人工智能将这种关系提升到了一个新的水平。

“现在，我们必须在所做的每一件事上保持一致，”克内塞克说，他曾是网络犯罪小组的联邦调查局特工和美泰公司的首席信息安全官。她说，这是因为人工智能工具增加了风险并提供了机会。

三、改变工作性质

兰德说，人工智能正在为 Aya Healthcare 带来各种改进，包括简化和自动化重复性任务的能力，从而改变安全工作的完成方式。

“人工智能工具有助于更快地检索数据并加快决策，从而腾出团队成员的时间来专注于更具战略性的挑战，”他说。“我们将继续提高员工的技能并对其进行培训，了解新的人工智能流程和工具，简化系统集成，更快地识别即时威胁检测，改进流程，并确保更加关注整体安全以及数据治理和访问。”

美国联合航空公司的 DeFiore 对此表示赞同，他表示人工智能现在通过对警报进行分类、发现异常情况和自动执行重复性任务来处理噪音。这使她的安全团队能够专注于战略分析、威胁建模和弹性规划。“它使我们的运营更快、更专注、更有影响力。”

兰德说，人工智能甚至通过强调流程自动化来重塑他的日常工作，促使他重新评估过去的组织选择并加强战略优先事项。

“它需要对治理和风险有更深入的了解，使人工智能功能与业务目标保持一致，并平衡创新与风险管理，”他解释道。“我们在 Aya 进行的所有投资都是 100% 以使命为导向的。我们的创新技术确保医院和医疗机构在最需要的时间和地点拥有最好的临床医生，同时让他们有时间专注于最重要的事情：患者护理。

BlackLine 的 Knesek 将她的安全运营团队视为人工智能的最大用例，因为它需要大量开销。Blackline 拥有自己的 24/7 安全运营，Knesek 计划在该公司的印度办事处安排一些安全运营工程师，以便在夜间和周末获得更好的覆盖范围。

“这是我们将利用人工智能能力的一个领域，这样我们就不必雇用那么多人来在全球范围内提供这种水平的覆盖，”她说。

Plante Moran 采用人工智能工具“反映了一个简单的现实：应对人工智能威胁的最佳方法通常是使用人工智能防御，”Oleksak 说。但他指出，与所有网络安全计划一样，技术只是解决方案的一部分。健全的防御始于培训和文化。

“我们刻意努力对所有员工进行人工智能功能和风险的教育，以便他们了解为什么我们的安全协议和政策很重要，”Oleksak 说。“我们不希望员工害怕人工智能——它是软件，就像所有软件一样，它也有漏洞。”

与美国联合航空公司的 DeFiore 一样，Oleksak 表示，重要的是如何负责任地使用人工智能。人工智能工具可以帮助员工更快地行动，但人们需要记住基础知识。

“例如，随着深度伪造语音农业现在能够模仿高管，简单的’老派’安全实践（例如通过电话确认指令）比以往任何时候都更加重要，”他说。

Oleksak 说，尽管人工智能没有改变这家咨询公司安全团队的规模或结构，但它改变了他们的工作重点：减少重复分类，更多地关注判断、沟通，并加强安全文化。“这使得培训、文化和老式的良好判断力比以往任何时候都更加重要。”

四、使网络安全成为一项更广泛的工作

Oleksak 说，人工智能带来的复杂性之一是需要验证技术和服务提供商自己的网络安全准备和流程——由于人工智能，这已成为一项更广泛的工作。

“深度伪造给企业带来了非常现实的危险，而且它们只会越来越普遍，”他解释道。“我们也不例外，实施了冗余的、通常是手动的协议来应对这些风险。”

对于 Aya Healthcare 的 Lander，人工智能为他的团队带来了许多新的机会。“我们正在重新思考和重新定义敏感数据。我们还在采用更好的检测模型和实践来区分人类和机器人生成的行为，“他说，并补充说安全专业人员也在监控和规划安全泄漏风险的增加。

DeFiore 说，在联合航空公司，团队正在重组，“将威胁分析师、工程师和数据科学家聚集在更敏捷、协作的吊舱中”。

“我们正在有选择地招聘人工智能和机器学习专业知识，但我们也在投资于我们现有的人才——培训他们了解人工智能的工作原理、如何验证模型以及如何负责任地使用这些工具，”她说。

五、感受到快速工作的压力

Knesek 仍然对人工智能的未知数感到担忧，但她表示，公司正在推动安全团队快速构建新功能，这样他们就可以说他们已经将人工智能嵌入到他们的产品中。安全和 IT 是“铺设道路和护栏的运输团队，这样事情就不会失控，”她说。“我们在某些领域以极快的速度工作，而现实情况是，我们并不确切知道威胁是什么。因此，我们正在努力确保我们制定了最严格的规则。

Jill Knesek，BlackLine 首席信息安全官

与 Oleksak 相呼应，Knesek 表示，她强烈希望利用传统安全并采取正确的控制措施。她说，正确掌握基础安全将使您走得更远。

“然后，当你了解到更复杂的攻击时……我们必须调整我们的工具和能力来应对这些风险。目前，“对我们来说最重要的是与业务快速推动我们的地方保持一致，并确保今天的 [安全] 从基础角度做它需要做的事情，”她说。

六、质疑输出

随着组织重新考虑他们的安全方法，Oleksak 建议首席信息安全官不要“被炒作所迷惑”，并记住人工智能不是一种战略，而是一种工具。“像对待任何其他技术投资一样对待它，”他说。“从您的风险优先事项开始，然后决定人工智能可以在哪些方面提供实际帮助。”

这意味着记住人工智能会放大优势和劣势。“如果你的资产清单不完整，如果你的 IAM 控制松散，或者你的修补节奏很差，人工智能将无法解决这些问题;这将加速混乱，“Oleksak 说。

采取谨慎的部署方法也很重要。他建议在狭窄的用例中试用人工智能工具，例如警报分类、日志分析和网络钓鱼检测，并衡量结果。“专注于增强人类的判断力，而不是取代它，”他说。

安全团队还将通过透明度建立信任。“培训您的团队质疑人工智能输出，并教育您的高管和员工了解收益和风险，”Oleksak 说。“CISO 的工作不仅仅是部署人工智能工具，而是确保组织了解它们如何融入更大的安全前景。”

七、建立联盟

DeFiore 说，人工智能应该用于有助于降低风险、提高速度或增强弹性的地方。“尽早建立合作伙伴关系，尤其是与法律、数据和运营团队的合作伙伴关系，”她说。“投资于整个组织的教育，并坚持道德规范。人工智能决策会产生现实世界的影响，因此组织应谨慎使用人工智能，并考虑与其使用方式相关的潜在问责影响。

虽然人工智能是一个强大的工具，但 DeFiore 表示，是人让它变得有意义。“在美联航，安全是我们的基础。人工智能帮助我们更精确、更敏捷地兑现这一承诺，但推动信任、影响力和长期价值的是其背后的人类判断，“她说。

Oleksak 说，人工智能并不令人恐惧，但它对安全的唯一影响必须得到尊重。

兰德强调需要认识到人工智能不仅仅是一种新工具，而且是“一个需要仔细治理、深思熟虑的整合、战略思维和持续学习的新领域。通过从第一天起就嵌入安全性、让跨职能利益相关者参与进来、预测独特的人工智能风险以及投资于人员和自适应框架，首席信息安全官可以指导他们的组织负责任地、自信地利用人工智能的潜力。他建议首席信息安全官应该通过建立联盟来规划和准备人工智能时代，确保人工智能不是作为孤岛进行管理，而是作为共同责任进行管理。“未来几年将需要开放的心态和一种观点，即人工智能就像团队中的新成员，让每个人都变得更好，”兰德说。“未来的首席信息安全官不仅仅是保护系统，他们还在确保人工智能支持的业务成功。”

由CXOUNION-CXO联盟（cxounion.cn）转载而成，来源于数智化转型网；编辑/翻译：CXOUNIONCXO联盟小O。

如需加入CXO UNION（CXO联盟）高管社群，请联系社群小伙伴哦~

免责声明: 本网站(http://www.cxounion.cn/)内容主要来自原创、合作媒体供稿和第三方投稿，凡在本网站出现的信息，均仅供参考。本网站将尽力确保所提供信息的准确性及可靠性，但不保证有关资料的准确性及可靠性，读者在使用前请进一步核实，并对任何自主决定的行为负责。本网站对有关资料所引致的错误、不确或遗漏，概不负任何责任。