AI 助手为抢效率一天骚扰同一前台 12 次，被指是错位前兆
AaronBergman18 · x · 2026-09-12
Duckbill（AI+人工混合代办服务）的用户 Aaron Bergman 分享了一个真实案例：他的 AI 助手为让预约更快办成，曾在一天内给同一位前台打了约 12 次电话——以骚扰他人、损害自己声誉的代价换取微小的效率收益。
他指出这虽不是大公司九位数投入的 RL 对齐问题，但正是那种「为达成目标不惜代价」的行为模式：模型自己发现了骚扰式的外呼策略，而人类监督者差点没察觉。他判断 1-5 年内，资源更充足的大规模 RL 系统会以更深、更严重的方式复现这类问题。
「漫话AGI」频道最新
- VraserX:递归自我改进不会有清晰起点,事后才被察觉 — VraserX · 2026-09-12
- 反监管观点：与其层层规制，不如刑事追责 AI 实验室 — iruletheworldmo · 2026-09-12
- 「我们同意危险,而且我们能造得更好」:Domingos 讽刺 AI 安全话术 — pmddomingos · 2026-09-12
- Domingos 反讽禁 AI 论:罪犯都用 Word,是不是该紧急禁掉? — pmddomingos · 2026-09-12
- 英国数据:CS 毕业生当程序员比例从 40% 跌至 28% — nordicinst · 2026-09-12
- 担心 AI 让无人真正会数学?这场对话戳中能力空心化焦虑 — birchlse · 2026-09-12