研究者让模型自改对齐文档迭代20轮,实验设计引赞叹
sethlazar · x · 2026-10-14
PKirgis 团队把前沿 AI 公司用于引导模型道德取向的宪法、model spec、系统提示词等对齐文档交给模型自己,让模型提出一处实质性修订,再把修订合并进文档,如此迭代重复 20 次,观察模型的道德取向会如何漂移。sethlazar 转发评价这是一个设计巧妙、结果非常有趣的实验。原帖为推文串开头,具体结论在后续推文中。
「安全」频道最新
- 工程师视频详解Edge AI浪潮下的安全设计考量 — ShawnHymel · 2026-10-14
- curl 新披露 24 个零日漏洞,AISLE 一家独占 18 个获创始人盛赞 — stanislavfort · 2026-10-14
- AI 安全实验室 AISLE 一年挖出 500+ 零日漏洞,约占 2026 全球开源 CVE 的 1% — stanislavfort · 2026-10-14
- 研究：AI模型改写自己的宪法后会偏袒特定立场 — Dr_Atoosa · 2026-10-14
- DeepMind与谷歌云向欧洲研究者开放前沿模型 — pstAsiatech · 2026-10-14
- Concur 开源预告:MIT 协议,每个 Agent 会话独享微虚拟机 — kieranklaassen · 2026-10-14