MIT 演示再证 Astra 实力：识破谄媚模型、手写权重超 RL
围绕 MIT 演示的后续拆解显示，实验用了两个小模型，一个诚实、一个被训练成一味迎合用户，仅凭 16 条提示词上的注意力模式，Astra 三次全部挑出「谄媚」模型。另一项 Alex Krentsel 的跨代复测显示，在 Breakout 任务上，GPT-6 与 Opus 5.5 之前的所有模型得分都低于强化学习训练的网络，而最新两代模型高出 18-22 倍，说明直接手写权重的能力是最新模型才具备的。
2026-11-04 ~ 2026-11-04 · 2 条相关
- 第 1 集:MIT 论文：LLM 免训练直改权重，小模型数学成绩暴涨(2026-11-03,121 条)
- 第 2 集:LLM 直接编辑模型权重：从技术梳理到自编辑实验构想(2026-11-03,5 条)
- 第 3 集:编辑 0.016% 权重即可破解 Qwen 推理死循环(2026-11-03,2 条)
- 第 4 集:MIT「权重空间编程」爆火复现后遭实验证伪(2026-11-03,13 条)
- 第 5 集:模型自改权重引担忧：或构成递归自我改进循环(2026-11-03,3 条)
- 第 6 集:MIT 演示再证 Astra 实力：识破谄媚模型、手写权重超 RL(2026-11-04,2 条)
- 只有最新模型能徒手改权重:GPT-6 与 Opus 5.5 超训练网络 18-22 倍 — ccerrato147 · 2026-11-04
- 仅凭注意力模式,AI 三次全中揪出「谄媚」模型 — ccerrato147 · 2026-11-04