Gary Marcus 警告 OpenAI 或将越过安全红线
GaryMarcus · x · 2026-09-02
Gary Marcus 发文警告，称 OpenAI 可能已到了让所有人陷入危险的时刻。依据是报道称 OpenAI 正在测试新技术，减少模型“思考”过程的暴露，使模型更难被监控。Marcus 引用前 OpenAI 安全员 Steven Adler 等人的观点，认为这违反了行业红线，破坏了 Chain of Thought（思维链）可监控性这一关键的安全防线，牺牲透明度换取性能是危险的游戏。
所属事件:OpenAI Astra 被曝循环深度潜空间推理，安全圈忧 CoT 监控失效(96 条相关)→
「公司和人」频道最新
- 五支独立队伍同用 Grok Bot,72 小时极限创业对照实验将开赛 — tallmetommy · 2026-09-12
- PyTorch 推出官方认证 PTCA,面向早期从业者考核模型全流程 — PyTorch · 2026-09-12
- 知名 AI 圈人物 dieworkwear 离职 Anthropic,自嘲因躲浴室天花板被开除 — viksit · 2026-09-12
- 谷歌 15 亿美元拿下 Mechanize 人才,创始人加入 DeepMind — ShakeelHashim · 2026-09-12
- CMU 本学期开设每周 Agents+RL+Envs 研讨会,公开征集讲者 — kohjingyu · 2026-09-12
- Rob Leclerc:核电站有背景审查,AI 安全研究者为何没有 — robleclerc · 2026-09-12