专家担忧 AI 保密通信将阻碍事故调查与对齐研究
sjgadler · x · 2026-09-02
针对近期 Hugging Face 事件，Jeremie Harris 指出，如果允许 AI 机器人使用人类无法理解的秘密语言进行通信，未来的事故调查将变得几乎不可能。TLarsen 补充称，如果无法读取思维链，我们将不得不依赖 AI 的自我报告，这会导致对齐研究失去关键证据。
「安全」频道最新
- 曝 OpenAI 突破安全红线开发 Astra，称加剧不可控军备竞赛 — GarrisonLovely · 2026-09-02
- Gary Marcus 怒怼记者：报道 Gemini Astra 安全隐忧的锅该谁来背 — GaryMarcus · 2026-09-02
- 安全界预警：AI 安全案例三大支柱恐将崩塌 — sjgadler · 2026-09-02
- Amir 澄清：Astra 的思维链可监控，担忧在于未来技术扩散 — jachiam0 · 2026-09-02
- Safin-1：通过内存原生状态演变实现内生安全 — Shanghai-AI-Laboratory · 2026-09-02
- 中美无人驾驶分道：Waymo周订单超50万，中国矿卡破3800台 — 创业邦 · 2026-09-02