Gary Marcus 警告 OpenAI 或将越过安全红线
GaryMarcus · x · 2026-09-02
Gary Marcus 发文警告，称 OpenAI 可能已到了让所有人陷入危险的时刻。依据是报道称 OpenAI 正在测试新技术，减少模型“思考”过程的暴露，使模型更难被监控。Marcus 引用前 OpenAI 安全员 Steven Adler 等人的观点，认为这违反了行业红线，破坏了 Chain of Thought（思维链）可监控性这一关键的安全防线，牺牲透明度换取性能是危险的游戏。
所属事件:OpenAI Astra 被曝循环深度潜空间推理，安全圈忧 CoT 监控失效(96 条相关)→
「公司和人」频道最新
- 投资人 nikita Bier:Elizabeth Holmes 的骗局是 TED 演讲时代的产物 — nikitabier · 2026-10-18
- 分析562个AI PM岗位:拆成4种,最小众的Model PM中位数薪资34.5万美元最高 — aakashgupta · 2026-10-18
- SGLang Summit 赞助商一周从 11 家增至 36 家,嘉宾含 Lilian Weng — BanghuaZ · 2026-10-18
- Yacine 预言：智能普及后人们会记住 Anthropic 如何对待用户 — yacineMTB · 2026-10-18
- Periodic 创始人 CoLM 演讲：自训模型终将跨越前沿模型拐点 — heghbalz · 2026-10-18
- 一周两笔曝出,DeepSeek 被曝密集布局具身智能投资 — 量子位 · 2026-10-18