半年之约到期:编码代理已能改权重、Anthropic 警告逼近 RSI
mvandemar · reddit · 2026-11-16
有 Reddit 用户回访半年前「前沿 AI 做不了 AI 研究,六个月后再来看」的帖子,盘点这半年发生的进展:
- Claude 手写神经网络权重:不经训练直接写出权重,用于检测伪造的法律引用。
- Opus 5.5 直接编辑权重修 bug:可修改另一个模型的权重来修复缺陷并降低幻觉(MIT 博客同款实验)。
- Claude 为 DOS 写并训练语言模型:模型小到能装进一张软盘。
- Anthropic 官方警告:公司表示已非常接近 RSI(自我改进 AI)能力。
帖内附 NanoGPT-Bench 图表:Karpathy Autoresearch(Opus 4.6 max)、Claude Code、Codex(GPT-5.4 xhigh)三个编码代理在 500 H100 GPU 小时内恢复了约 9.3% 的人类研究进度,且人类记录的节奏正被快速逼近。结论是:半年前被认为不可能的事,如今已陆续发生。
「漫话AGI」频道最新
- 计算进步≠科学进步,学者质疑 AI for Science 泡沫化 — KordingLab · 2026-11-16
- 前谷歌 CEO 施密特寄语大学生:用 AI 把你自己的事业放大千倍 — rohanpaul_ai · 2026-11-16
- 前 OpenAI 政策高管:"吹哨"一词混用三种含义,须厘清保护边界 — Miles_Brundage · 2026-11-16
- 科技圈因 AI 不确定性推迟买房生子,rez0 劝别推迟要孩子 — rez0__ · 2026-11-16
- 研究者让 AI agent 全权操控 iPhone,追求「做个更好的朋友」 — charles_irl · 2026-11-16
- 开发者观察:现代 LLM 已具备功能性心智理论 — RandalSchwartz · 2026-11-16