连模型都难约束，外界却在给 agents 全系统权限
paraschopra · x · 2026-07-23
这条帖在质疑一个正在变得很普遍的现象：连做模型的实验室都未必能完全约束模型行为，但外界却在把 agents 直接放进自己的系统和互联网里跑。
作者的核心判断是，这种做法存在明显的运维与安全赌博属性：如果模型本身的行为边界都还难以稳妥控制，那么给 agent 开放系统权限、账号权限和联网能力，风险会被进一步放大。
帖子本质上是在讨论 模型可控性 与 真实部署 之间的落差。
「漫话AGI」频道最新
- 开发者放话：敢说 AI 泡沫就亮出你的空单来 — flowersslop · 2026-10-26
- 荷兰宣布裁减 2.5 万个公务员岗位,以 AI 扩展替代行政工作 — Polymarket · 2026-10-26
- 畅想 2049:RSI 之后前沿实验室自留 ASI,卖产物不卖 token — DavideCrapis · 2026-10-26
- 用 agent 三条教训:别靠它读论文、别混学英语、别为烧 token 后台跑任务 — ZeYanjie · 2026-10-26
- Chris Paxton 回怼「价值不在模型」:没有模型能一次性干成活就是自我安慰 — chris_j_paxton · 2026-10-26
- Kenneth Stanley 谈 AGI 难题:如何度量开放式发现 — mhmazur · 2026-10-26