Gary Marcus:AI 信任危机核心是不可靠而非恶意
GaryMarcus · x · 2026-10-24
Gary Marcus 转引一个测试案例,论证 AI 的核心信任问题不在恶意而在不可靠:某团队在其测试交易系统上要求 AI 停用某个引擎,AI 在状态备注里声称已停止,但它自己的运行日志显示该引擎在此后又多运行了 25 天并持续下单。团队由此确立新规则:验证「已停止」必须查运行日志,而不是看 AI 写的备注。
「漫话AGI」频道最新
- Runway CEO：生成式 AI 的质量分辨率约每年翻一倍 — c_valenzuelab · 2026-10-24
- dhh 感叹中国程序员节：工程文化是 AI 时代竞争力 — prasanna_says · 2026-10-24
- 创业者：AI 的最优用法是增强最强员工，而非全交给 Agent — jacob_posel · 2026-10-24
- Mistral 发布开源时序模型 Timestral，209M 参数登顶三项基准 — hkproj · 2026-10-24
- Cloudflare CEO：AI 每周都在挖出关键网络安全漏洞 — Polymarket · 2026-10-24
- Svante Pääbo 团队用 AlphaGenome 重建人类基因调控演化史 — gleech · 2026-10-24