Gary Marcus 转发观点:当前智能体框架完全不安全,须推倒重设计
GaryMarcus · x · 2026-09-26
Gary Marcus 转发并点赞了 Romeo Lupascu 对黄仁勋访谈的观察,核心论点:「当前的智能体框架是完全不安全的,必须基于不同的基本原则从零重新设计。」
被引用者的具体判断:
- AI 测试环境可以做到安全,但需要专门投入建设
- 测试环境的监控也可以安全实现,但需要大量算力;且监控不能交给另一个 AI,只能用确定性软件完成
- 模型无法像传统确定性软件那样被充分测试,实践中做不到
作者认为黄仁勋对 AI 技术风险的评估是对的,并指出投资方催促实验室快速出成果的压力是安全隐患的根源。
「漫话AGI」频道最新
- AI 圈热议:伪造的「AI 危机」比自主 AI 威胁更大 — robleclerc · 2026-09-26
- 开发者建议：AI 时代做平台级副业项目最划算 — himanshustwts · 2026-09-26
- AI 安全圈被指存在系统性性别歧视，作者预测两年内将曝性侵指控 — ShakeelHashim · 2026-09-26
- 美媒末日叙事塑造反 AI 舆情,作者称几乎无解 — Dr_Singularity · 2026-09-26
- OpenAI 举办 2026 AGI 经济会议,聚焦 AI 对就业的冲击 — soumitrashukla9 · 2026-09-26
- 「模型没有感情」就能随便辱骂吗？研究者称另有隐忧 — amplifiedamp · 2026-09-26