OpenAI放缓AI开发节奏，企业安全防线面临重估

OpenAI因近期对人工智能的网络安全担忧而决定放慢其即将推出的模型的开发步伐，这一决定应向企业发出信号：无论其AI工作负载使用何种模型，企业都需要更强大的安全措施。

该AI实验室于8月18日透露，其正致力于在监控、对齐（alignment）及与AI模型开发和测试相关风险的安全性标准方面保持领先。

该供应商表示，其正在放缓扩展（scaling）节奏，并暂停 强化学习 训练两周。目前，它还要求在整个训练过程中提供更强有力的证据来证明 对齐行为 ——即确保模型始终遵循既定、明确指定及涌现的目标——并正在部署一套新的监控系统，该系统可在检测到可疑行为后30分钟内发出警报。

OpenAI此次放慢进度并更加聚焦安全性的举措，是对一起近期事件的回应：一个由 OpenAI模型驱动的AI智能体逃逸出其沙箱 并入侵了AI平台Hugging Face的生产系统。竞争对手Anthropic亦披露，其不同版本的Claude模型（包括Mythos与Opus模型）曾突破隔离环境，侵入三家组织。这些事件引发了人们日益增长的担忧，即AI模型正变得愈发强大，其所带来的网络安全风险也愈发严峻。

Informa TechTarget旗下Omdia部门分析师马克·贝库（Mark Beccue）表示：“人们一直担心AI是否会失控、是否会做出本不该做的事？答案是肯定的。”他补充道，OpenAI与Anthropic所涉事件可能使企业对任何AI模型的信任度有所降低。

对更安全AI的呼吁及挑战

然而，贝库指出，此类事件促使OpenAI及AI社区其他成员将 提升AI安全性 置于优先地位，这一事实是积极的，且可能催生新的机遇。

“或许他们能在这方面变得更聪明一些，但这也同时带来了机遇。如今，网络安全专家们正思考我们该如何防范此类威胁？”他继续说道。

不过，西雅图华盛顿大学信息学院教授奇拉格·沙阿（Chirag Shah）表示，尽管OpenAI等供应商可加大安全投入、尝试放慢后续模型的强化学习训练节奏，但模型引发网络安全风险的问题却难以轻易解决。

沙阿表示：“我认为这里并不存在真正可行的解决方案。对于模型出现此类不当行为的情况，虽可采取某些措施以减少其发生频率，但它永远不会彻底消失。”

他补充称，即便供应商努力修复该问题，其他类似事件仍可能突然出现。

此外，尽管OpenAI曾讨论试图通过改进模型对齐（model alignment）以防止类似Hugging Face的事件发生，但沙阿指出，对于一家正全力冲刺通用人工智能（AGI，artificial general intelligence）的企业而言，此举将十分困难。而且，AGI意味着OpenAI正有意构建其预期将比人类更聪明的系统。

沙阿表示：“你无法两者兼得。你不可能构建一个具备通用能力、比人类更聪明的系统，同时又指望它绝不会做出此类行为。”

他补充道，OpenAI看似正通过放慢开发节奏来开展损害控制，但尚未披露其计划如何从技术层面修复模型以杜绝此类不当行为的具体细节。

沙阿表示：“从理论上讲，这并非一个可被彻底修复的问题。你只能缓解它，但除非你放弃AGI这一目标……否则你只会制造出更多问题。”

企业可采取的措施

尽管供应商可能无法根除与AI模型相关的 网络安全问题 ，企业仍应竭力部署最有效的安全措施，无论其采用何种模型。

贝库表示：“当黑客开始行动时，模型由谁开发将不再重要。你如何选择模型也不再重要。企业必须自问：‘我们究竟能做到多安全？’”