牛津学者：中端模型也难靠微调对齐，Agent 是「混沌技术」
StefanoGogioso · x · 2026-09-08
牛津大学学者 Stefano Gogioso 发帖质疑：任何用过 agent 的人——不需要前沿模型，中端模型足够——都不会真的认为这类系统能靠微调对齐或靠 prompt 约束。他称 agent 是「混沌技术」（Chaos technology），暗指当前安全护栏思路对自主智能体根本不适用。
「漫话AGI」频道最新
- OpenAI 前研究 VP Tworek：想法搁置两年，改变结局的只是一句「现在有GPU了，去放大它」 — cen6wkf · 2026-09-08
- Odyssey 谈世界模型：从视听经验学习世界动态的新 AI 类别 — nathanbenaich · 2026-09-08
- 开发者呼吁打造不受任何人控制的「流氓自主 Agent」 — devanshmehta · 2026-09-08
- threepointone 长文梳理「LLM 成瘾性」最前沿研究，引发热议 — threepointone · 2026-09-08
- 数学家控诉 OpenAI 疑用其 Codex 私有会话记录复现纳维-斯托克斯解法 — jm_alexia · 2026-09-08
- 应对模型井喷的两个方向:优化现有任务+探索前沿极限 — bendee983 · 2026-09-08