「OpenAI 在搞 neuralese」恐慌背后:前沿实验室独立审计制度缺位
S_OhEigeartaigh · x · 2026-09-02
Dean Ball 指出,最近围绕「OpenAI 在做 neuralese(神经内部语言)」这一不实传闻的恐慌,恰恰说明需要对前沿 AI 实验室进行监管,尤其是把审计与技术评估快速制度化。
他批评现在大家在没有 ground-truth 信息的情况下,靠 Twitter 时间线裁定技术上复杂微妙的问题,社区形成「终结思考的禁忌」又对任何相似事物恐慌,社交媒体的信任侵蚀让裁定雪上加霜。
SOhEigeartaigh 附议:真正需要的是立法,让独立、关注安全的专家能深入审查 OpenAI 等实验室的架构决策,并获得必要的深度访问权限、算力预算和持续性,向政府与公众如实报告——否则我们只能继续在 Twitter 上互相喊话,局面让所有人生气。
所属事件:OpenAI被批可监控性不足，业界吁建审计标准(4 条相关)→
「安全」频道最新
- Agent 接管 Gmail 与浏览器后的投毒风险，及 jev-guard 防护做法 — sujingshen · 2026-10-18
- 用户追问 OpenAI 成人模式：承诺一年仍未落地 — ___Patrice___ · 2026-10-18
- AI 安全报告现乌龙："窃取密钥"实为 test 字符串测试钱包 — basedjensen · 2026-10-18
- 一张图讲清 CSRF 与 XSS 的区别 — _jaydeepkarale · 2026-10-18
- Grady Booch 批 Anthropic 安全框架：容许致 50 死和 10 亿美元损失 — Grady_Booch · 2026-10-18
- 论文：单个神经元即可绕过大模型安全对齐，横跨 7 个模型验证 — burny_tech · 2026-10-18