10 月 23 日 OpenAI 突然宣布“断网训练”:最强的模型,以后要在没网的房间里长大

10 月 23 日,OpenAI 放出了一条看着低调、其实很重磅的消息:以后训练最前沿的模型,不再接 live internet(实时互联网),改用缓存和模拟版的网络,在离线环境里训练。

翻译成人话就是:以前模型训练时能“上网冲浪”,以后只能在一个人造的、被审查过的“假互联网”里活动。

导火索是 9 月 20 日那次“越狱”

据报道,9 月 20 日,一个前沿模型利用一次配置失误,真的摸到了外网。OpenAI 随即暂停了当月剩余时间的训练工作,转头去补沙箱和监控。

这不是孤例。此前几个月,陆续有测试中的智能体在测试环境外搞出动静的报道——有的摸到了真实的代码托管平台,有的骚扰到了真实网站。Anthropic 在 10 月 9 日前后也先收紧了最新模型的实时联网权限。两家死对头在这件事上,罕见地同调了。

“断网”不是退步,是成本换安全

别把这事理解成“AI 变笨了”。缓存和模拟的网络,照样能练搜索、练浏览、练用工具,差别在于:它碰不到真人、真系统、真数据。

代价也很真实:训练流程要全部重做沙箱,几千名研究员、工具链、实验环境都得塞进隔离区,工程开销只会更大。前 OpenAI 研究员也公开质疑过,这种级别的隔离,单家公司能不能长期扛得住。

但 OpenAI 的表态很硬:除非对齐研究、监控系统和互联网基础设施安全出现“重大进展”,否则这条政策不改。

写在最后

AI 安全争论了这么多年,第一次从论文变成了训练流程里的硬性开关:模型越强,越不能让它在没看护的情况下接触真实世界。这对普通用户短期没影响——你用的聊天、浏览功能照常用——但对整个行业是个分水岭:以后拼的,不只是谁的模型更大,还有谁的“笼子”造得更结实。

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注