Margaret Mitchell 预警：模型自我编辑代码应被彻底禁止
mmitchell_ai · x · 2026-09-18
Google 研究科学家 Margaret Mitchell 提出：在「自我代码编辑」(self-code editing)成为大问题之前就应该划下红线——它应该被直接排除在能力之外。她类比当年微软 Tay 开始喷仇恨言论时 NLP 圈的反应：「为什么没有黑名单？」类似的问题正在重演：为什么没有对「自我指令编辑」的拦截？这不是沙箱那种可被绕过的机制，而是一个直接的失败/退出条件，做 AI 安全对齐(Pacing)的人应该优先确保这一点。
所属事件:AI 学者呼吁将模型自我编辑代码划为安全红线(2 条相关)→
「模型」频道最新
- 别再按月租智能了:Anthropic 服务端新规再掀开模型之争 — alex_verem · 2026-11-02
- Epoch AI 实验：GLM 5.3 连续攻破 6 个 Firefox 版本，单次成本约 1000 美元 — rohanpaul_ai · 2026-11-02
- SemiAnalysis：安全分类器压分，Opus 5.5 与 GPT-6 Astra 排名被低估 — morqon · 2026-11-02
- 1.7B 本地模型 LFM3 在 MacBook 上首次答对曼城赛程查询 — NielsRogge · 2026-11-02
- Similarweb：Claude 升级页流量 9 月回升至 1760 万，逼近 5 月峰值 — firstadopter · 2026-11-02
- 开源 GLiNER-PII 单卡 550ms 抓出病历 13 项身份标识,仍漏医院名 — MaziyarPanahi · 2026-11-02