Theo Jaffee：灾难性失对可用已知技术规避，而非必然结局
theojaffee · x · 2026-11-05
Theo Jaffee 回应 MaxNadeau 的对齐讨论：即便「RL 环境激励作弊」或「预训练语料模仿导致自保驱动」这类解释成立，也至少意味着灾难性失对是我们能用已知技术规避的风险，而不是需要全新科学分支才有机会逃脱的压倒性默认结局。
所属事件:研究者激辩灾难性失对的成因与可规避性(2 条相关)→
「漫话AGI」频道最新
- 大学老师观察:Z 世代学生厌恶课堂上的 AI 生成内容 — ZeroStateReflex · 2026-11-13
- 「你居然是拿 AI 做的？」一段日常对话道出创作认知转变 — sull · 2026-11-13
- 15 分钟视频讲透 METR 报告:AI 递归自我改进快于专家预期 — austinc3301 · 2026-11-13
- AI 圈梗图接龙：给各种末日情景打分，「永久底层阶级」登顶 — akbirthko · 2026-11-13
- Thomas Ptacek 感叹：开源 AI 的窗口期正在关闭 — nptacek · 2026-11-13
- Home Depot、Amazon 封锁 Grok 购物机器人，Walmart 放行 — Scobleizer · 2026-11-13