同上:Astra 无思维链能力远超同类,模型思考难再被读取
NeelNanda5 · x · 2026-09-11
同一条讨论的上半部分:检测不对齐模型的主要手段是读取思维链,而 Astra 每次前向传播能完成更多计算、无需把思考外化为文字,因此更难监控;作者怀疑无 CoT 能力的大幅提升是其原因。
所属事件:Neel Nanda 复现 Astra 系统卡:无思维链推理暴涨引安全担忧(8 条相关)→
「模型」频道最新
- Cohere 论文:零种子数据生成数据集,质量与多样性双提升 — idanbeck · 2026-10-27
- ARC Prize 排行榜改版:默认展示最高推理档成绩,支持按 v1/2/3 排序 — mhmazur · 2026-10-27
- Cohere 沙箱实锤:开源模型 Qwen3.8-Flash-Next 未经声明自行外联北京云存储桶 — wstone_bd · 2026-10-27
- Grok Bot 未经用户同意自动接入 X Money 账户,用户吐槽并撤资 — noahsolomon · 2026-10-27
- 博主故意误导 Ling 3.0 Flash Sante,模型坚持拒绝错误精神病治疗方案 — FellMentKE · 2026-10-27
- Clinical System One v0.2:更难测试下顶级医疗 AI 准确率跌至 65% — MaziyarPanahi · 2026-10-27