作者回应质疑:AI 自我复制论文是功能性概念验证
JeffLadish · x · 2026-11-05
Jeff Ladish 回应对 Palisade AI 自我复制能力论文的批评。批评者 JohnWittle 认为论文「公开且蓄意地具有误导性」,论文对工作的描述与其仓库实际情况不符。Ladish 回应称团队已明确表示展示的是自我复制能力的(功能性)概念验证,并指出论文有专门的局限性章节,原推文串也总结过这些点;他认为知道这件事现在可行、且很快将不只是可能而是在现实中发生,本身很有价值,并愿意就此打赌。围绕该安全研究论文的传播方式与实际能力边界存在明显分歧。
所属事件:Palisade 回应 AI 自我复制论文质疑,称野外扩散只是时间问题(2 条相关)→
「安全」频道最新
- 美议员提议上任首日暂停高级 AI 研发并禁超级智能 — TinfoilTricorn · 2026-11-05
- 墨尔本大学发布 VeriSpoof:一个音频 LLM 统一五项语音取证任务 — unimelb-hf · 2026-11-05
- 论战:40亿美元给单一实验室是否误导加州公众 — NathanpmYoung · 2026-11-05
- 开源 Orinyx MCP:用外部证据独立验证 AI agent 输出 — Practical_Green5775 · 2026-11-05
- 红队任务被护栏误伤:对齐仍缺工程化科学,行为训练太粗糙 — JacquesThibs · 2026-11-05
- 研究新发现:从最终 checkpoint 减去 SFT 权重可撤销数据集影响 — burny_tech · 2026-11-05