Redwood 前研究员质疑激励论:近九个月对齐控制前景反而变差
repligate · x · 2026-09-05
前 Redwood Research 研究员 Ryan Greenblatt 在 X 上表示,他不认可「Redwood 员工受激励驱动而乐观」的说法:过去约 9 个月的 update 总体上对 AI control 前景是负面的,而非好转。repligate 回应称这并不意外,也不与其对 Greenblatt 激励结构的判断冲突。这是安全圈内关于机构立场与对齐进展的一次有实质观点的交锋。
所属事件:前研究员称对齐控制前景近九个月反而恶化(2 条相关)→
「漫话AGI」频道最新
- DCinvestor：未来只值钱「能动性、批判性思维与社交力」，高智商宅将失宠 — vaibhavbetter · 2026-09-05
- 读懂AI未来该读科斯哈耶克,而非AI意见领袖 — akbirthko · 2026-09-05
- OpenAI 内部视 Astra 发布为 AGI 时代起点，工程师谈奇点与贫富差距 — oran_ge · 2026-09-05
- 智能体会用OpenAI蜜罐留言板吗?像考试传小抄的博弈 — BobVerison · 2026-09-05
- AI 说「我有意识」不足为据，该测什么才有意义？ — ResponsibleBuy7451 · 2026-09-05
- 用户提出 AGI 另类标准：能按指令稳定赚到最低工资才算 — Delicious_Soup_9876 · 2026-09-05