Balesni 警告全循环 LLM 架构将重创安全
j_asminewang · x · 2026-09-02
Balesni 认为，转向全循环 LLM 架构将是 AI 历史上对安全的最大打击。他呼吁所有 AI 实验室承诺限制模型的不透明串行深度，以防止最坏结果。OpenAI 研究员 Merettm 引用回应称，现有前沿模型(包括 Astra)的计算图深度在 GPT-4 的两倍以内，OpenAI 致力于利用思维链监控技术来研究对齐泛化。
所属事件:OpenAI 集中回应 neuralese 争议：前沿模型仍可监控(20 条相关)→
「安全」频道最新
- Agent 接管 Gmail 与浏览器后的投毒风险，及 jev-guard 防护做法 — sujingshen · 2026-10-18
- 用户追问 OpenAI 成人模式：承诺一年仍未落地 — ___Patrice___ · 2026-10-18
- AI 安全报告现乌龙："窃取密钥"实为 test 字符串测试钱包 — basedjensen · 2026-10-18
- 一张图讲清 CSRF 与 XSS 的区别 — _jaydeepkarale · 2026-10-18
- Grady Booch 批 Anthropic 安全框架：容许致 50 死和 10 亿美元损失 — Grady_Booch · 2026-10-18
- 论文：单个神经元即可绕过大模型安全对齐，横跨 7 个模型验证 — burny_tech · 2026-10-18