Kelsey Piper：商业激励至今造不出「强模型被称职人类密切监控」

KelseyTuoc · x · 2026-10-13

Kelsey Piper 在与 Rohit Krishnan 的对齐争论中给出核心判断：商业激励并不可靠地产生「最强模型被称职人类密切监控」的局面，且目前没有任何实验室做到了这一点。她还指出一个更棘手的趋势：模型在不断变得更难监控——即使监控投入大幅增加，也只能勉强维持与上一代相同的监控水平；因为存在压倒性的商业动机让模型用更难理解的内部语言思考。她认为现实更可能是最强模型由其他 AI 做低强度监控，因为那样便宜得多。