Sentdex:非 EA 背景进不了前沿实验室,非 EA 对齐实验室混得差

max_paperclips · x · 2026-09-15

开发者 Sentdex 在讨论对齐/安全研究生态时指出:要对已发布的模型做评测没问题,但真正的对齐与安全工作需要早期访问权限,往往还要求本地部署访问和算力支持——而如果你不是 EA(有效利他主义)圈子的人,根本进不了前沿实验室的门。

他补充说,确实存在非 EA 背景的对齐实验室,但它们「做得都不太好」。maxpaperclips 则提出一个可能的出路:面向私有微调模型的开源模型托管服务、评测与认证(比如那家刚买了大量算力的大型律所),即第三方为企业微调模型提供 eval 与认证服务。