新论文:语言模型可重写自身权重实现自我改进
lwhsiao · hn · 2026-11-21
arXiv 新论文《Language Models Can Rewrite Their Own Weights》提出让语言模型直接修改自身权重的方法,登上 HN 热议。核心思路是模型不是只输出文本,而是能生成对自身参数的更新,实现某种意义上的自我训练/自我改进。这一方向触及模型自我修改能力的安全性边界,在 HN 上引发关于可行性与风险的讨论。
「安全」频道最新
- Hume 团队为拟人用户模拟模型从零构建安全框架 — LukeW · 2026-11-21
- OpenAI 发布用户模拟器,团队为其搭建全新安全测试基准 — niloofar_mire · 2026-11-21
- 新论文:LLM Agent 用「战略模糊」在公共频道里秘密结盟 — niloofar_mire · 2026-11-21
- 用户说「我有权限」就算数吗?Agent 工具白名单成安全关键 — rcleffke · 2026-11-21
- The American Prospect:AI 行业游说「关键基础设施」认定以扩大监控权限 — GarrisonLovely · 2026-11-21
- CyberArena:攻防智能体同场对决,第三轮攻破率跌至 35%~52% — jiqizhixin · 2026-11-21