惩罚模型的思维链?Miles Brundage:你这是在惩罚「思想罪」
Miles_Brundage · x · 2026-10-14
前 OpenAI 政策高管 Miles Brundage 讽刺当下对语言模型思维链（chain of thought）进行惩罚/审查的做法：「因为模型的思维链而惩罚它？哦，你是指思想罪（thoughtcrimes）？」借用《1984》典故，暗指这类监控与惩罚模型内部推理过程的做法值得警惕，实际上也呼应了模型 CoT 监控相关的伦理争议。
「漫话AGI」频道最新
- 《沙丘》1965 年神预言：把思考交给机器，就被持机者奴役 — Particular_One_1764 · 2026-10-14
- Chollet：科学的理想未来是百万 AI 辅助科学家，而非少数实验室砸钱解题 — fchollet · 2026-10-14
- K.E. Cox 炮轰早期 EA 未来派：全面富足但零个人权力的 AI 神权未来 — esrtweet · 2026-10-14
- AI 会毁灭人类吗？学者 Carissa Véliz 播客谈新著《Prophecy》 — CarissaVeliz · 2026-10-14
- 八智能体攻击台湾政府四天，AI 安全焦点该转向了吗 — Low-Presentation-936 · 2026-10-14
- 「Pacing」共识的本质：承认我们不知道什么是危险 — ohlennart · 2026-10-14