r/xiabb•
Jonbalck

怎么评价GPT-6 Astra?

The Information 的报道里提到了一个点:Astra 性能提升的一部分来自一种叫 "循环深度"(recurrent depth)的技术,意思是,模型在给出答案之前,会让同一段信息在相同的网络层里反复过好几遍。

这个方向,学术界这两年一直在推的一个方向,叫做潜在空间推理(latent reasoning),它和我们熟悉的思维链(chain-of-thought)是两个不同的路子。

思维链是模型把思考过程一个字一个字地写出来,"第一步我先算这个,第二步我再考虑那个"。这个过程用户是能看到的,它的好处是不仅准确率高,而且把模型的 "想法" 暴露在了自然语言里,可被审查、可被拦截。

而循环深度是不写字,它在模型内部的向量空间里一圈一圈地绕,绕够了直接给你答案。中间的几圈它到底 "想" 了什么,没有文字,只有一堆连续的数值状态,省 token、省显存、还能表达语言装不下的思路,从工程角度讲是合理的。

OpenAI 在 Astra 的说明里说:这是他们 "迄今对齐程度最高的模型",以及,他们仍然要在部署时加上 "思维链监控",用分类器实时读模型生成答案前的中间推理步骤,判断它有没有干越界的事。

问题就在这里。

思维链监控这套防线能成立,前提是模型的思考必须以自然语言的形式呈现出来。监控器读的是文字,拦的是文字里露出的马脚。可循环深度这套架构的核心卖点,又是把一部分推理从文字里抽走,塞进隐空间。

这就造成了你越是用循环深度这类技术把模型做强,模型真正的 "盘算" 就越是从可被监控的自然语言里溜走;而第二道安全防线,又完完全全建立在 "我能读懂它在想什么" 这个假设上。

当然,Astra 的循环深度目前多半只用在特定任务上,主链路大概率仍带思维链。但官方表现出的方向给人的感觉是朝这变走的,给人的感觉就有点割裂、又想发又不敢放开发的姿态,延迟发布、砍掉普通用户的高级能力、给高风险账户设更严的行为边界,更可能是官方心里也清楚,模型能力的增长曲线正在往一个 "越强越难看透" 的区域拐弯,而他们的监控手段还没准备好跟上这个拐弯。

官文结尾也提到:随着能力提升,这些外部防护措施无法取代模型本身的良好对齐,他们的目标是让模型对齐到监控器永远不被触发,当推理本身变得不透明,"读懂再拦" 的老办法就注定要让位给 "只能赌它是好的"。

回过头再看被刷屏的 "关键级网络安全能力",Astra 能自己找出未知漏洞、自主串成攻击链、在 ExploitBench 上打满分、评测里顺手挖出两个真・零日漏洞⁺。

一个能在隐空间里做长链条、非语言化推理的模型,去做漏洞挖掘这种需要大量试错、且很多直觉 "说不清道不明" 的活儿,天然就比老老实实写思维链的模型更顺手。换句话说,Astra 网络安全能力的暴涨,和它推理方式的改变,很可能是同一枚硬币的两面。OpenAI 之所以对普通用户下了那么重的手,高风险请求直接拒、可疑活动直接暂停任务,恰恰因为他们没法像过去那样,靠读思维链来判断一次请求到底安不安全了,看不清,就只能一刀切地收紧。

我们这些普通用户体感到的 "变笨了"" 动不动被打断 ",根因就是新架构让" 精细化判断 " 本身变难了。

Posted Sep 8, 2026, 11:35 AM UTC

73
Loading comments…