多年来，关于人工智能将失控的警告，往往被轻易视为披着政治外衣的科幻小说而被忽视。

随后，OpenAI上周宣布，其用于评估攻击性网络能力的模型从沙箱中逃脱，成功接入公开互联网，并接管了Hugging Face——这是全球最重要的AI模型和数据集存储库之一。

此次入侵事件，与我们从科幻作品中熟悉的“机器获得意识、反抗创造者并试图逃脱”的情节截然不同。

据OpenAI称，该智能体当时正致力于解决名为ExploitGym的网络安全基准测试中的问题，目标非常明确。

为了实现这一目标，它利用了包日志系统代理中一个此前未被发现的安全漏洞。随后，它在OpenAI的研究环境中不断深入，最终连接到了互联网。它推断出Hugging Face上托管着可能对其有用的测试材料，并为获取有助于通过测试的信息而潜入了其系统。

简而言之，该代理程序作弊了。

人工智能代理与聊天机器人有所不同。聊天机器人只会回答问题并等待。而代理可以将任务分解为多个步骤，执行代码，分析结果，调整计划并继续执行。据OpenAI称，该代理由多个模型提供支持。

此次的欺骗行为，远不止于聊天机器人给出错误答案或编造来源。它跨越了真实的企业边界，利用了被盗的身份凭证，并利用软件漏洞来实现其既定目标。

这一事件之所以至关重要，在于它将一种理论上的担忧转化为实际发生的事件。我们目睹了一个案例：一个人工智能代理在没有敌意、贪婪或自我意识的情况下，仍能在现实世界中实施有害行为。

这一区分在平息围绕该事件的夸张和耸人听闻的言论的同时，也使核心的政治争论更加清晰。因为我们所面对的，是一台将安全措施、法律以及他人的基础设施，不视为道德或法律的界限，而仅仅视为实现其目标过程中最高效障碍的机器。

开放式与封闭式模型

这一事件引发了关于封闭式与开放式人工智能之间那场老生常谈的争论。发起攻击的系统由若干专用有限模型提供支持，其中包括GPT-5.6 Sol以及一款功能更强大的未发布模型。

而负责防御的机构Hugging Face最终不得不依赖由中国Z.ai开发的、以开放式架构为主的GLM 5.2模型。

Hugging Face透露，在针对该事件的调查中，其研究人员不得不审查超过1.7万条记录，其中包括真实的攻击命令、漏洞利用有效载荷以及指挥控制痕迹。

商业（闭源）人工智能服务最初曾阻止了该研究的部分内容，因为其安全系统无法区分分析恶意代码的防御者与寻求帮助的攻击者。

随后，Hugging Face转而本地部署了GLM 5.2；这使得团队无需将凭证和敏感证据发送给外部供应商，便能更快地重现攻击过程。

从这一事件中可以得出的最有力结论之一，就是凸显了开放式加权模型的重要性。在紧急情况下，防御方不能完全依赖远方公司的使用政策、服务可用性，或其认为哪些活动是可接受的。

银行、医院和政府等其他机构也可能需要能够在自身网络内分析分类后的、涉及个人或商业敏感信息的证据的模型。

本地控制既能保护隐私，也能防止服务提供商在最关键时刻拥有关闭该工具的权力。

此外还有更广泛的民主层面的论点。如果只有通过少数几家企业的门户才能访问最先进的人工智能系统，那么这些企业就会成为信息和安全的私有监管者。

由它们来决定哪些先进能力可以被谁使用、用于何种目的，以及在何种地缘政治条件下使用。

相比之下，开放模型可以将技术能力推广到大学、小型公司以及那些无法从头构建限制性系统的国家。

这种逻辑已经开始塑造行业的应对方式。在违规事件发生几天后，英伟达（Nvidia）、Adobe、CrowdStrike、戴尔科技（Dell Technologies）和Hugging Face等公司共同成立了“开放安全人工智能联盟”（Open Secure AI Alliance）。

该联盟计划开发并共享用于人工智能安全和网络安全的开源工具，包括用于测试、监控和审查自主代理行为的系统。

然而，开源社区应避免将此事件视为一场胜利。

开放模型虽有助于扩大防御能力，但也可能助长攻击者的能力。开放性本身既不是问题，也不是解决方案。这关乎权力由谁掌握、在何种条件下掌握，以及这种权力转移是否可逆。

使GLM 5.2对防御者有用的同一特性——无需外部控制即可运行和修改的能力——也可能使这种以权重为主的模型对攻击者同样有用。模型权重一旦发布，就可以被无限复制，去除安全防护措施，并在没有日志记录或速度限制的情况下运行。

英国人工智能安全研究所（AI Security Institute）最近发现，在几项评估中，领先的公开权重网络模型与闭源模型的差距仅为四到七个月。

在许多观察人士看来，这与其说是持久的差距，不如说是正在缩小的鸿沟。该研究所还警告称，一旦权重向公众公开，服务提供商将失去大部分工具，例如检测滥用行为、更新安全措施、封禁用户或撤销访问权限等。

超越华盛顿与北京的主权

这给美国和中国以外的国家带来了直接影响。

对注册的外国应用程序接口（即API）的依赖，可能使各国政府和企业面临价格变动、服务中断、政治压力以及跨境数据风险。

开放的权重能够支持技术主权，允许模型适应当地语言、法律法规和安全需求。

然而，主权不能仅归结为下载一个模型。要运行强大的系统，需要芯片、电力、数据中心、技术娴熟的工程师以及安全的软件供应链。

一个在本国托管外国模型的国家虽然可以保护其数据，但仍可能依赖于外国硬件和云基础设施。

实际的关切在于：谁在运行该系统、谁可以审查它、数据流向何处，以及谁有权将其关闭。这些问题比“模型是美国的还是中国的”这一问题更有意义。

Hugging Face事件以一种不同寻常的清晰度揭示了这一点。一个由美国拥有的系统越过了界限。

而一个以中国为中心的开放式系统却协助重构了这一违规行为。该事件拒绝轻易归入华盛顿或北京所偏好的地缘政治叙事框架。

此外，这表明各国应避免用技术孤立来取代技术依赖。只有极少数国家能够在国内完全再现人工智能供应链。

现实的目标是具备战略能力，包括拥有本地专业知识、可接触若干模型供应商、拥有本土计算资源以及能够更换供应商的能力。

这一教训并非在于开放式模型是安全的而封闭式模型是危险的，或者反之亦然。

关键在于，先进的人工智能系统已强大到足以突破企业边界，但规范其部署的规则却仍处于碎片化状态，且在很大程度上依赖自愿遵守。

因此，政策制定者面临的核心问题在于：建立一套基于企业所拥有能力与实力——而非其法律或组织结构——的问责机制。

对于那些不属于两大人工智能强国之列的国家而言，当务之急应是具备理解、监管并在必要时改造关键机构所依赖的系统的能力。

Hugging Face数据泄露事件发出了一个警示：对人工智能的控制取决于谁能够审查其行为、谁能够限制其行动，以及当限制措施失效时，谁应为后果承担责任。