扎克伯格称对齐正成模型核心竞争力,Casado 力挺其反末日论立场
inductionheads · x · 2026-09-16
Mark Zuckerberg(@finkd)发文阐述实验室应如何构建安全且积极的 AI 未来:每个实验室都有责任和激励以安全所需的速度训练模型,并有能力自行确保这一点。他认为用户不会长期使用与自身不对齐、不听指令的 agent,因此实验室有天然的内在激励去提升模型对齐水平;对「暂停能力进展等对齐赶上」的争论,他的判断是:信任与对齐正迅速成为区分 agent 和模型的最重要能力。
a16z 合伙人 Martin Casado 转发并称赞这是「又一个理性、一致的声音」——承认平台级技术变革需要安全考量,但不渲染 x-risk 式的末日叙事。
所属事件:扎克伯格回应AI减速论:押注对齐即能力(7 条相关)→
「漫话AGI」频道最新
- AI 智能体抢发论文?数学界需重塑「防作弊」评价体系 — anshulkundaje · 2026-09-16
- 不信 EA 阴谋论,但它本来就是全球最长线规划的运动 — neil_chilson · 2026-09-16
- hnshah:我们花数年优化那些已无需存在的系统 — _AustinCalvert_ · 2026-09-16
- Pedro Domingos 征集:为 AI 找一套去拟人化的话语体系 — pmddomingos · 2026-09-16
- 史上被引最多的三位 AI 研究者都公开警告 AI 存在性风险 — johnohallman · 2026-09-16
- Pedro Domingos 讽刺:AI 公司系统出错可甩锅"失控"不用负责 — pmddomingos · 2026-09-16