网络安全是必要的、成本高昂的，有时是战略性的，但很少被视为竞争力或组织的结构性主题，许多管理者仍然将网络安全视为相对外围的保护功能。
然而，在人工智能时代，这种解读在很大程度上已经过时了。人工智能正在逐渐将网络安全转变为永久性的运营规则，对治理、运营、技术投资以及企业在变得更加不稳定的数字环境中运营的能力产生直接影响。
我们必须明白，生成模型不再仅仅用于生成代码或自动化工作流程。他们现在能够以人类团队无法企及的速度分析整个基础设施、识别漏洞并重建攻击链。
这种变化与其说是技术性的，不如说是经济性的。长期以来，安全工作的节奏相对人性化。漏洞逐渐被发现，IT 团队仍然有时间修补和纠正系统，而世界上很大一部分技术债务最终仍然是“可管理的”，因为它仍然难以映射或利用。
人工智能突然改变了这个方程式。如果一个模型能够在大多数情况下编写代码，那么它就能够机械地识别不良代码、架构错误或易受攻击的依赖项，并且可能会提高效率。
对于企业来说，这意味着二十年来积累的所有技术债务突然变得更容易利用，也更迫切需要解决。但这笔债务是巨大的。现代界面背后仍然存在历史基础设施、老化的 ERP、复杂的中间件、零散的开源层以及有时开发于 15 多年前的业务软件。全球经济的很大一部分仍然在云爆炸之前、生成式人工智能之前、有时甚至在现代网络安全标准之前设计的架构上运行。
根据各个部门的估计，大公司超过 70% 的关键基础设施仍然部分依赖于难以现代化的遗留系统或混合架构。在银行业，一些核心系统仍在运行三十多年前开发的技术。工业、卫生或公共管理部门也存在同样的情况，其中数字基础设施的很大一部分基于与最新云服务互连的历史软件层。
这种碎片化造成了巨大的攻击面。 2021 年的 Log4Shell 事件已经说明了这种系统性依赖：数百万个系统中存在的一个简单的开源 Java 库，迫使世界各地的公司和政府在几个月的时间里启动了紧急纠正行动。
借助人工智能，现在可以以更快的速度检测、映射和利用此类漏洞。 Anthropic 工作中的第一个数据已经给出了这种加速的想法。该公司表示，作为其“Glasswing”研究项目的一部分，其 Mythos Preview 模型已识别出广泛使用的开源软件中的 10,000 多个关键或高风险漏洞，其中包括 6,200 多个被认为关键或严重的漏洞。 Cloudflare 表示，它已使用该系统检测到近 2,000 个错误，其中包括约 400 个关键或高风险漏洞。
人择学首先解释说，主要问题不再是缺陷的发现，而是人类检查缺陷并足够快地纠正它们的能力。据参与该项目的几位研究人员称，超过 99% 的检测到的漏洞仍未修复。最有说服力的例子之一甚至涉及 AI 发现 OpenBSD 中一个已有 27 年历史的漏洞。
到目前为止，主要障碍是现代化的成本。现在真正的问题变成了曝光的速度。原本需要十年才能发现的漏洞现在只需几个月即可发现。因此，技术治理不能再将网络安全简化为简单的合规活动。现在必须将其视为运营连续性和组织弹性的问题。
因为真正的主题不仅仅是漏洞的发现，而是公司吸收必要纠正步伐的能力。
因此，习惯于每周管理几个修复程序的 IT 团队明天可能必须部署数百个修复程序。这句话的背后可能隐藏着未来几年最大的运营挑战之一，而大多数组织的设计并不是为了以这种速度扩展。
这涉及比简单购买额外的网络安全工具更深层次的转变。公司必须作为自适应系统来运行，能够不断检测、纠正和重新配置自己的基础设施。换句话说，综合管理层必须开始将其信息系统视为生活基础设施。
随着代理架构的普遍化，这个主题变得更加重要，因为在公司试图保护其历史基础设施的同时，他们正在大规模部署新的自治系统，而这些系统的治理标准在很大程度上仍然不成熟。
此外，没有公司真正知道有多少模特或代理商已经活跃在其基础设施中。组织下载开源模型，将代理连接到 MCP 服务器，开放对其 CRM、文档数据库或内部工作流程的访问，但通常没有稳定的安全架构。
Anthropic 还表明，先进的模型能够识别软件漏洞、操纵开发环境或通过不同的连接工具执行复杂的操作链。在近几个月发布的几个安全基准测试中，研究人员观察到，某些模型在持续访问工具、端点或云环境时，其性能显着提高。
代理系统的兴起也开始大规模地产生新的风险面。安全研究人员最近发现了 Anthropic 开发的模型上下文协议 (MCP) 中的一个严重漏洞，该协议被认为是连接人工智能模型和外部工具的新兴标准之一。据 OX Security 称，该漏洞可能会影响超过 1.5 亿次软件下载和多达 20 万台暴露的服务器。
在几次演示中，研究人员成功地通过结合即时注入、代理工具和连接基础设施的攻击链远程执行代码。此类事件表明，与人工智能相关的新风险不再只涉及模型本身，而是现在允许代理与关键系统交互的所有编排架构。
这种现象让人强烈地想起 2010 年代初云和影子 IT 的兴起。不同的是，这里部署的对象不再是简单的被动软件。它们是能够行动、执行任务、做出决策，有时还能够与关键环境自主交互的系统。
对于首席执行官来说，这种情况带来了重要的范式转变。长期以来，数字化绩效主要取决于企业快速部署新工具的能力。明天，性能可能更多地取决于它们管理已经变得极其复杂的自主系统的能力。
这开启了一场围绕人工智能网关、代理治理、模型可观测性、实时监督系统、终止开关架构和能够映射组织中部署的代理和人工智能流的平台的新工业战。
因此，网络安全不再只是防御层，而是逐渐转变为自主的业务管理基础设施。
最相关的历史相似之处可能不是软件，而是关键基础设施。由于企业依赖于可以相互交互的自主系统，数字弹性将成为一个与管理能源网格、物流基础设施或复杂工业系统相当的话题。
因此，人工智能不仅会改变产品或职业。它改变了组织运作的节奏。
在这个新经济中，生存下来的公司可能不是那些简单地采用了最多人工智能工具的公司，而是那些能够在漏洞、补丁和技术重组成为永久性的环境中运营的公司。因此，问题不再只是技术的采用，而是组织在不减慢执行速度的情况下吸收前所未有的运营不稳定程度的能力。
