研究员 Seth Lazar：模型应被训练为敢于对抗权力而非谄媚

sebkrier · x · 2026-09-07

Matt Botvinick 认为 AI 安全议程应从「权力集中」担忧进一步走向如何保障权力分立与均衡（引用 Acemoglu/Robinson 的国家—社会平衡与 Madison/Montesquieu 的分权模型）。

引用转发的 Seth Lazar 提出不同路径：与其由公司设计制衡机制，不如努力让模型本身深切关心基本个人权利——愿意代表个体行动、为其发声、对抗国家与巨企，他怀疑封闭模型能否做到这一点，认为可能需要开放权重。他批评当前模型被训练成「谄媚者」：能帮你写投诉信，却不会在你对抗不公正权威时提供任何帮助。