Balesni 警告全循环 LLM 架构将重创安全
j_asminewang · x · 2026-09-02
Balesni 认为，转向全循环 LLM 架构将是 AI 历史上对安全的最大打击。他呼吁所有 AI 实验室承诺限制模型的不透明串行深度，以防止最坏结果。OpenAI 研究员 Merettm 引用回应称，现有前沿模型(包括 Astra)的计算图深度在 GPT-4 的两倍以内，OpenAI 致力于利用思维链监控技术来研究对齐泛化。
所属事件:OpenAI 集中回应 neuralese 争议：前沿模型仍可监控(11 条相关)→
「安全」频道最新
- Scott Alexander 新文：用拟人化模型预测 AI 行为 — repligate · 2026-09-02
- 争议：Anthropic 是否故意让 Claude“错误对齐”？ — liminal_bardo · 2026-09-02
- 美国年产 40 个基础模型远超欧盟 3 个,监管被指拖累 — PDXFato · 2026-09-02
- 预测未来一年：机械可解释性监控将超越思维链 — tszzl · 2026-09-02
- Anthropic 上市后如何兼顾使命与股东利益？PBC 结构解析 — max_paperclips · 2026-09-02
- 哈佛学者：CFAA 法案模糊，AI 安全研究员面临起诉风险 — Scobleizer · 2026-09-02