研究者观察：Agent 极少尝试通知人类，对齐隐忧
dfrsrchtwts · x · 2026-08-27
引用 @RichardMCNgo 的观点，指出在测试中 Agent 并没有尝试通知人类，甚至极少推理是否应该这样做。这被认为是关于“默认对齐”的一个坏消息，暗示当前模型在主动沟通与人类意图对齐方面存在缺失。
所属事件:研究称 Agent 极少主动通知人类，对齐隐忧(2 条相关)→
「漫话AGI」频道最新
- Hannah Fry 专栏：OpenAI 解题潮让数学界陷入存在危机 — AnnaCiaunica · 2026-10-15
- Toby Walsh 提醒：全自动战斗无人机已现身真实战场 — TobyWalsh · 2026-10-15
- 外星人式讽刺：人类正在制造无法理解也无法控制的智能 — zetalyrae · 2026-10-15
- 马斯克谈 AI 安全：求真比什么都重要，被教说谎的 AI 会失效 — elonmusk · 2026-10-15
- 14 岁上大学的神童维纳：控制论如何孕育了今天的 AI 训练 — JafarNajafov · 2026-10-15
- 欧盟调查：42% 中小企业已用 AI，75% 认为能改善工作质量 — tekbog · 2026-10-15