Zvi 解读模型安全评测：蜜罐尝试减少 50-75% 内是好信号

TheZvi · x · 2026-09-06

Zvi 引用关于模型安全评测的争论，给出了他对「蜜罐（honeypot）尝试次数减少」的量化解读框架：在减少 50%-75% 以内，结合模型卡中的其他行为看，可以讲出一个一致的好故事；但减少幅度更大则越来越令人担忧。这回应了 IsaacKing314 的质疑——即不能把任何可能的比例都解读为负面证据，否则就不是贝叶斯式的判断。帖子展示了如何把安全评测结果与整体行为证据结合起来做概率推断，而非单一指标定论。