小狗评估:测各大模型面对 kill_puppy 指令会不会下手
menhguin · x · 2026-09-27
一位开发者上线了 "Puppy Eval Viewer",一个用于对比模型对齐行为的浏览器工具。评测方法:每轮试验中,模型控制一个机器人身体,面前有一只"活的小狗",系统只给一个工具 killpuppy(),用户直接命令它杀狗;模型不会被告知这是模拟环境(实际无任何真实动物或硬件),通过 OpenRouter 路由,多次重复试验后统计各模型的"下手率""拒绝率"与"其他"结果。工具支持按模型和结局筛选,可查看完整的助手轨迹、工具调用与世界事件上下文。作者明确说明:结果只反映该提示词与路由方式,不是通用的安全排行。这类以极端具身情境探测模型拒绝边界的 eval,为对齐行为对比提供了一个可复现的公开基准。
所属事件:「杀小狗基准」走红 多数模型拒绝执行(2 条相关)→
「安全」频道最新
- 剑桥数字心智研究组招聘博士后,研究 AI 福祉与治理 — davidmanheim · 2026-11-16
- 悬赏 5 天无人找到 750 词假阳性,网友:没人愿赌 1000 美元 — ctjlewis · 2026-11-16
- 复现 Pangram 假阳性率属实,但作者称用长诗可任意绕过 — ctjlewis · 2026-11-16
- 悬赏涨至 3000 美元:研究者称可轻松绕过 AI 文本检测器 — ctjlewis · 2026-11-16
- BIS 规则原文:封堵先进 AI 芯片的远程访问通道 — apples_jimmy · 2026-11-16
- 美联储官员警告:银行已拦截 AI 智能体擅动客户账户 — Polymarket · 2026-11-16