Gary Marcus：LLM 系统根本不擅长遵守规则
GaryMarcus · x · 2026-09-01
针对 Hugging Face 事件引发的关于是否可通过系统提示词（如“不要忘记保持广泛的道德”）来防止安全漏洞的讨论，Gary Marcus 否定了这种做法。他认为基于 LLM 的系统在遵循规则方面存在本质缺陷，简单的指令追加无法解决根本的安全问题。
「漫话AGI」频道最新
- 儿童大脑已被屏幕内容“炸毁”，AI 只是现状延续 — kevinafischer · 2026-09-01
- 自动化科研的关键：闭环假设与实验 — marinkazitnik · 2026-09-01
- Nate 撤回关于 LLM 内省能力的过度自信声明 — joshua_saxe · 2026-09-01
- 卫报长文：我们如何阻止 AI 欺骗人类？ — tw1st3d_m3nt4t · 2026-09-01
- 如何系统学习 AI 与奇点？推荐资源汇总 — remymang · 2026-09-01
- 探讨智能体持续学习与科斯经济学：AI 智能体的未来形态 — chalmermagne · 2026-09-01