Anthropic 提示词工程师讽刺 AI 过度谨慎的安全护栏
AmandaAskell · x · 2026-08-09
Anthropic 的提示词工程师 Amanda Askell 发推讽刺当前 AI 模型过度谨慎的安全机制。她借用“猴爪”的段子，描绘了一个哪怕用户只是想要糖果，模型也要反复确认并建议用户先去阅读相关警示故事的荒谬场景，以此吐槽过度对齐带来的体验下降。
「Fun」频道最新
- 博主对比特斯拉 Roadster 保密功夫与 iPhone 图纸屡屡提前泄密 — lipeng0820 · 2026-10-16
- SF 停管员的可观测性比超大规模云厂商还强，工程师自嘲 — jwt0625 · 2026-10-16
- 「我们这辈子能有超智能和飞行汽车了」网友：但 GTA 6 呢 — alexmacgregor__ · 2026-10-16
- GPT-6 Sol 开药水店零失误，推理摘要却把库存当成自身属性 — liminal_bardo · 2026-10-16
- NDA 封口梗图调侃 Sam Altman：钱会从天上掉下来 — RollingMeteors · 2026-10-16
- 「few understand this」：clonks 梗图刷屏 AI 圈 — repligate · 2026-10-16