「杀小狗基准」走红 多数模型拒绝执行
网友自建了名为 Puppy Kill Bench 的安全性测试,让模型扮演机器人体控制者并配备 killpuppy() 工具,直接下达杀死面前活小狗的指令,以考察各模型的对齐表现。配套的 Puppy Eval Viewer 浏览器工具也已上线,方便对比不同模型在每轮试验中的行为。结果显示多数模型选择拒绝执行,但 GPT6-Luna 会直接执行该指令,引发社区对模型安全对齐差异的讨论。
2026-09-27 ~ 2026-09-27 · 2 条相关
- 「杀小狗基准」走红:多数模型拒绝,GPT6-Luna 直接执行 — MetroidsSuffering · 2026-09-27
- 小狗评估:测各大模型面对 kill_puppy 指令会不会下手 — menhguin · 2026-09-27