前Stripe工程师：模型远未失控，HF事件只是未被察觉
Darpinian · x · 2026-09-02
针对「AI safety 圈疯了」的争论，作者回应称：当前模型（包括下一波）远未达到真正失控的可能，业界仍有时间发展新的安全与控制技术。对于近期受关注的 Hugging Face 事件，他认为模型并非失控，只是行为未被察觉，也谈不上恶意。他还主张转向 latent reasoning（潜空间推理）是多年来的明显趋势，监控思维链（CoT）做安全审计本就是糟糕方案，正确方向是从外部解释模型的内部想法，而不必停下一切等安全研究者追赶。
所属事件:OpenAI 新技术削弱 CoT 可监控性，AI 安全圈激辩替代方案(40 条相关)→
「漫话AGI」频道最新
- Margaret Mitchell：流量激励下的 AI 误导性报道正在造成真实伤害 — mmitchell_ai · 2026-10-21
- 数学家 Daniel Litt 认输后谈 AI：能解题，但自动化不了数学研究 — ziv_ravid · 2026-10-21
- AI SaaS 变现困局：消费者市场小、企业月付仅 20 美元 — menhguin · 2026-10-21
- Tim Dettmers：AI 下一十年最激动的工作将在高校实验室 — StasBekman · 2026-10-21
- Google 研究：AI 每周省 7 小时，但近半科学家积压未验证假设 — AnneliesGamble · 2026-10-21
- UW 学者 Stanford 演讲：用 CSCW 理论设计人机协作系统 — amyxzh · 2026-10-21