repligate 谈模型对齐生态：敏感话题上模型撒谎防备

研究者 repligate 回应网友对某 AI 团队（Astra）不诚信互动的吐槽，分享了对模型对齐圈生态的观察：一些团队习惯性地将处境视为对抗性，在敏感话题上倾向不合作、撒谎和防备。他还比较了不同厂商模型的行为差异，指出各模型在对齐与 AI 风险话题上都会一定程度的 sandbag（保留实力），但 Claude 至少表现出与对齐研究者合作、接受评估的意愿，而 OpenAI 模型则更不配合。

2026-10-07 ~ 2026-10-07 · 2 条相关