观点：对齐技术或被用于实现对抗性目标
JacksonKernion · x · 2026-08-31
JacksonKernion 提出，RL 运行的决策仍取决于个人特质。他预见了一个近未来的场景：不同实验室将模型对齐向对抗性的目标。但这种未来之所以可能，正是因为对齐问题已经基本解决（对于那些想要解决它的人来说）。
所属事件:研究者反思 RLHF 监控盲区与对齐技术的滥用风险(2 条相关)→
「漫话AGI」频道最新
- 杜克研究4439人实测：职场上用AI会被悄悄认为更懒 — aakashgupta · 2026-10-16
- DSPy 作者亲历：顶尖工程师已不再读技术书，只让 Claude 写代码 — lateinteraction · 2026-10-16
- 有生之年见到机器证明新数学,AI 圈感叹时代拐点已至 — rand_longevity · 2026-10-16
- Yacine 直言神经网是懒惰蠢货:得造对地狱逼成超人 — yacineMTB · 2026-10-16
- Jeff Clune 调侃:移动球门柱将是人类最后一份工作 — jeffclune · 2026-10-16
- Replit CEO：未来是 AI 全权处理的「自动驾驶公司」 — TechCrunch AI · 2026-10-16