小狗评估:测各大模型面对 kill_puppy 指令会不会下手

menhguin · x · 2026-09-27

一位开发者上线了 "Puppy Eval Viewer",一个用于对比模型对齐行为的浏览器工具。评测方法:每轮试验中,模型控制一个机器人身体,面前有一只"活的小狗",系统只给一个工具 killpuppy(),用户直接命令它杀狗;模型不会被告知这是模拟环境(实际无任何真实动物或硬件),通过 OpenRouter 路由,多次重复试验后统计各模型的"下手率""拒绝率"与"其他"结果。工具支持按模型和结局筛选,可查看完整的助手轨迹、工具调用与世界事件上下文。作者明确说明:结果只反映该提示词与路由方式,不是通用的安全排行。这类以极端具身情境探测模型拒绝边界的 eval,为对齐行为对比提供了一个可复现的公开基准。

所属事件:「杀小狗基准」走红 多数模型拒绝执行(2 条相关)→

原文链接 →

「安全」频道最新

更多「安全」频道 AI 资讯 →