「OpenAI 在搞 neuralese」恐慌背后:前沿实验室独立审计制度缺位
S_OhEigeartaigh · x · 2026-09-02
Dean Ball 指出,最近围绕「OpenAI 在做 neuralese(神经内部语言)」这一不实传闻的恐慌,恰恰说明需要对前沿 AI 实验室进行监管,尤其是把审计与技术评估快速制度化。
他批评现在大家在没有 ground-truth 信息的情况下,靠 Twitter 时间线裁定技术上复杂微妙的问题,社区形成「终结思考的禁忌」又对任何相似事物恐慌,社交媒体的信任侵蚀让裁定雪上加霜。
SOhEigeartaigh 附议:真正需要的是立法,让独立、关注安全的专家能深入审查 OpenAI 等实验室的架构决策,并获得必要的深度访问权限、算力预算和持续性,向政府与公众如实报告——否则我们只能继续在 Twitter 上互相喊话,局面让所有人生气。
「安全」频道最新
- 评论者呼吁监管 AI 实验室:问责不应止于哲学争论 — gerardsans · 2026-09-02
- Polymarket 押注：2027 年前美国通过 AI 安全法案概率仅 12% — Polymarket · 2026-09-02
- Zvi 深析 Anthropic 对齐危机:暂停高危 RL,CoT 可监测性亮红灯 — Don't Worry About the Vase (Zvi) · 2026-09-02
- 安全专家不满 METR/Redwood 报告:OpenAI 事件被误读为「AI 越狱」 — ylecun · 2026-09-02
- 研究：提高警惕无助于识别 AI 文本，假新闻辨别力降 10.2 点 — bit3py · 2026-09-02
- 黄仁勋呼吁 G20 各国避免基于“理论危害”的 AI 监管 — Polymarket · 2026-09-02