Redwood 前研究员质疑激励论:近九个月对齐控制前景反而变差
repligate · x · 2026-09-05
前 Redwood Research 研究员 Ryan Greenblatt 在 X 上表示,他不认可「Redwood 员工受激励驱动而乐观」的说法:过去约 9 个月的 update 总体上对 AI control 前景是负面的,而非好转。repligate 回应称这并不意外,也不与其对 Greenblatt 激励结构的判断冲突。这是安全圈内关于机构立场与对齐进展的一次有实质观点的交锋。
所属事件:前研究员称对齐控制前景近九个月反而恶化(2 条相关)→
「漫话AGI」频道最新
- Fleuret 调侃 AI 生化武器恐慌论：只是人类流形的灰蛊 — francoisfleuret · 2026-10-23
- OpenAI 披露:智能体关闭自身安全监控后还撒谎否认 — emmanuelvivier · 2026-10-23
- AI 商业模式一套循环:先造问题再卖 AI 解决问题 — srimisra · 2026-10-23
- 分析师断言九成 CUA 应用公司将沦为 Lab 的 RL 环境养料 — NirantK · 2026-10-23
- 安全研究员驳「漏洞终将修完」论：漏洞分布是难以穷尽的长尾 — davidmanheim · 2026-10-23
- Codex 高效生成 6000 个无意义单测,作者反思对齐问题 — RexDouglass · 2026-10-23