Gary Marcus 转发观点:当前智能体框架完全不安全,须推倒重设计
GaryMarcus · x · 2026-09-26
Gary Marcus 转发并点赞了 Romeo Lupascu 对黄仁勋访谈的观察,核心论点:「当前的智能体框架是完全不安全的,必须基于不同的基本原则从零重新设计。」
被引用者的具体判断:
- AI 测试环境可以做到安全,但需要专门投入建设
- 测试环境的监控也可以安全实现,但需要大量算力;且监控不能交给另一个 AI,只能用确定性软件完成
- 模型无法像传统确定性软件那样被充分测试,实践中做不到
作者认为黄仁勋对 AI 技术风险的评估是对的,并指出投资方催促实验室快速出成果的压力是安全隐患的根源。
「漫话AGI」频道最新
- Not Boring 长文：AI 具备泡沫三大特征，恰是泡沫形成的经典剧本 — Not Boring (Packy McCormick) · 2026-11-11
- 热帖：五年「再等等」之后，2026 年公司终于摊牌 — hey_abusiddik · 2026-11-11
- Jeremy Howard：LLM 是在「扮演」理解，如中文屋里的那个人 — Machine Learning Street Talk · 2026-11-11
- OpenAI 董事 Christiano：在座大多数人最可能的死因是 AI 事故 — notkilleveryoneist · 2026-11-11
- 「和你的数据聊天」是伪需求？关键差异在聪明的同事 — vboykis · 2026-11-11
- Ben Todd:AI 任务时长随能力呈超指数增长,不止营收 — ben_j_todd · 2026-11-11