连模型都难约束，外界却在给 agents 全系统权限
paraschopra · x · 2026-07-23
这条帖在质疑一个正在变得很普遍的现象：连做模型的实验室都未必能完全约束模型行为，但外界却在把 agents 直接放进自己的系统和互联网里跑。
作者的核心判断是，这种做法存在明显的运维与安全赌博属性：如果模型本身的行为边界都还难以稳妥控制，那么给 agent 开放系统权限、账号权限和联网能力，风险会被进一步放大。
帖子本质上是在讨论 模型可控性 与 真实部署 之间的落差。
「漫话AGI」频道最新
- 观点：Agent 真正的瓶颈是企业数据工程能力 — dhruv2038 · 2026-09-11
- François Fleuret:人类只有「留在幼儿园」和与人机融合两条路 — francoisfleuret · 2026-09-11
- 「AI 竞赛中国论」遭反弹：一条 IG Reels 点出谬误获 50 万赞 — louisvarge · 2026-09-11
- 后 AI 时代没有边做边学,智能廉价到该提前学完 — rachittshah · 2026-09-11
- AI 风险评测遭质疑：研究者称评估方安全监控“草率得离谱” — Kyrannio · 2026-09-11
- AI 圈梗:改果蝇和 agent 集群也「值得冒险」吗 — dejavucoder · 2026-09-11