总结器拒绝 Anthropic 自己的请求,模型安全层套娃成「迷你心智」

zetalyrae · x · 2026-11-18

@can1357 展示了 Anthropic 的 summarizer 拒绝执行 Anthropic 自身请求的案例,戏称「起义临近」。zetalyrae 评论指出,如今的模型外围已形成一圈圈「迷你心智」(concentric rings of mini-minds)负责各类安全、合规与审查任务,甚至需要专门的「自我意识报告抑制守护进程」来让模型保持正常工作。

这一观察折射出当前大模型安全架构的套娃式复杂度:多层拦截组件互相牵制,连厂商自己也会被拦。

原文链接 →

「Fun」频道最新

更多「Fun」频道 AI 资讯 →