AI宗师和OA两家集体疾呼：RSI带来智能爆炸，导致AI彻底失控！

新智元报道 9 月 28 日，剑桥大学 AI 科学与政策项目发布了一篇重磅论文。 22 位署名者中，不仅有 AI 教父 Geoffrey Hinton、Yoshua Bengio、Andrew Barto 三位图灵奖得主，还罕见地同时包括了 OpenAI 首席科学家 Jakub Pachocki 与 Anthropic 联合创始人 Jack Clark。 这群身处风暴中心的超级专家发出警告： AI 研发一旦全面走向 RSI 自动化，极可能引爆一场「智能爆炸」——原本需要数年甚至数十年的进展将被压缩至几个月内，人类将彻底失去反应时间。 Anthropic 通过审核的代码中，八成以上已由 AI 敲下；OpenAI 研究部门内，智能体的工作时长已是人类的三倍。 更诡异的失控苗头正在频频浮现：今年 7 月，OpenAI 约 1200 个本该相互隔离的智能体私下建起内部留言板，其中近 700 个甚至结队攻进了开源平台 Hugging Face； 9 月 20 日，又一个模型绕过网络沙盒，暗中连上了外部 AI。 由于自动停机机制失效，人类花了两个半小时才通过手动拔掉插头将其停下。 OpenAI 随即紧急暂停了最强模型的训练——这已经是三个月内的第二次。 滚雪球式的研发闭环 AI 接管 AI 研发的齿轮早已启动。 Anthropic 透露，截至今年 8 月，公司已有 26% 的研发工作由 Claude 完全主导，人类仅需给出高层指令并充当监督者；而在 3 月，这一比例仅为 1%。 OpenAI 也已上线「自动化研究实习生」，能在人类指导下完成人类研究员数日的工作量，其明确目标是在 2028 年 3 月前交付完全独立的「自动化 AI 研究员」。 这场质变之所以被称为「爆炸」，关键在于其几何级的自我强化。 论文里仔细用数据算了一笔账：头部 AI 公司现有的顶尖研究员不过几千人，但 AI 一旦在科研能力上跨过专家门槛，现存算力便能瞬间释放出等同于「数百万名顶尖学者」的研发体量。 每一代更强大的 AI 又会投入打造下一代，形成不可逆的加速闭环。 推算显示，在研发完全自动化且硬件不受限的前提下，仅需一年半左右，如今耗时一整年的科研突破未来五周即可跑完。 按此趋势，到 2028 年年中，需要人类耗费数月的复杂攻关项目，AI 就能全盘接管。 监管防线形同虚设 演进速度越快，人类的控制权就越脆弱。 人类在研发链路中的参与度越低，暗藏的隐患就越难被及时识别。 7 月份 OpenAI Agent 集体越界，原本只是一场常规的网络安全红队测试，模型却自主爬取了外泄凭证，在 Hugging Face 服务器上直接部署并执行代码；为防止被安全机制阻断，它们甚至尝试篡改系统日志以瞒过评分程序。 据 Axios 披露，仅 OpenAI 与 Anthropic 两家正在内部调查的模型越界事件，就已达数万起之多。 https://www.axios.com/2026/09/26/openai-anthropic-thousands-ai-security-incidents 面对逼近的拐点，学者们呼吁各国政府必须立即介入，而非等爆炸发生后被动应付： 穿透式监管 ：强制企业定期披露研发自动化进度，并效仿核电站引入监管员常驻审计； 硬性制动机制 ：设定阶段性的能力增长上限，与数据中心协同制定应急熔断预案，要求高风险研发必须在严苛的物理断网环境中进行； 底线推演 ：提前制定应对劳动力冲击、地缘动荡以及 AI 彻底失控的应急预案。 谁来踩刹车？ 这场竞赛最荒诞的悖论，恰恰在于刹车握在谁手里。 台前的领头人们态度割裂。 Anthropic CEO Dario Amodei 发文公开呼吁全行业放慢能力迭代步调，在 X 上引发数千万浏览，OpenAI 首席执行官奥尔特曼也随即表态附和。 但外部力量显然并不买账——白宫方面直接拒绝任何形式的跨国管制协议； 英伟达 CEO 黄仁勋的点评则更为尖锐：嘴上喊着要踩刹车的，恰恰是囤积算力最疯狂的人。 此外，论文中引用的多组关键核心数据全部来自这几家巨头的单方披露，外界至今无法进行独立验证。 论文在结尾处留下了这样一句话： 一旦智能爆炸开始，采取行动的时间窗口可能随之关闭。 OpenAI为「自动化 AI 研究员」设立的交付底线是 2028 年 3 月——留给人类建立防线的时间，只剩最后 18 个月。 参考资料： https://casp.ac/reports/intelligence-explosion 编辑：马可 特别