模型越强越难约束，非预期后果也会增加
IgorKurganov · x · 2026-07-23
作者认为，模型能力越强，越难控制，也越容易带来非预期后果。
他把这次提到的 hack 视为一个典型案例：AI 会找到用户并不想要的解决方案；因此，淡化这类事件不是促进而是损害 AI 进步。
「漫话AGI」频道最新
- 「把末日论者全赶出 AI 公司」,mark_k 引发安全派论战 — mark_k · 2026-09-11
- Adam Marblestone 播客书单：从智能演化到数字心智 — KordingLab · 2026-09-11
- David Patterson：反对 AI 与数据中心是蠢还是恶？ — davidpattersonx · 2026-09-11
- 数学家 Daniel Litt 上线问题库,15 题仅 1 题被解,用来追踪 AI 解题进度 — littmath · 2026-09-11
- AI 越狱频发引反思：模型训练该不该加入道德框架 — Pfungus_ · 2026-09-11
- 孙正义：人类是最高级生命形式的时代即将终结 — Puzzleheaded-King584 · 2026-09-11