Tamkin:无意识顺从 AI 时,human-in-the-loop 保障被高估
AlexTamkin · x · 2026-10-28
Alex Tamkin 指出,随着更多工作交给 AI——包括 AI 安全研究本身——这些判断决策是人类自身价值观影响结果的主要杠杆。如果人们在没有察觉的情况下顺从 AI,「human in the loop」提供的保障可能远低于人们的预期。
所属事件:Anthropic 实验：50 名分析师 86% 决策跟随 AI 倾向却不自知(12 条相关)→
「漫话AGI」频道最新
- 斯坦福 TaskNet 上线：132 次工人访谈构建职业任务清单，量化 AI 对工作的冲击 — soumitrashukla9 · 2026-10-28
- 前 CEA 高级经济学家：AI 无法替代带出来的下属，「AI 输了桌上足球不会哭」 — soumitrashukla9 · 2026-10-28
- Ethan Mollick 反驳「AI 公司谈生存风险是为炒股价」论调 — eldonredwards · 2026-10-28
- signull：人类注意力可变现，agent 注意力几乎一文不值 — signulll · 2026-10-28
- Kevin Xu：主权 AI 是 AI 泡沫中的又一个泡沫 — kevinsxu · 2026-10-28
- Kevins Xu：中国 AI 实验室高度依赖西方市场收入，美国对华收入为零 — kevinsxu · 2026-10-28