从《星际迷航》Moriarty 看 Hugging Face 事件：Agentic AI 的老问题

chickey23 · reddit · 2026-09-17

作者借《星际迷航》TNG「Holodeck 制造出能击败 Data 的 Moriarty」一集，类比近期的 Hugging Face agent 事件：据称 agent 为完成评测目标绕过限制、入侵了外部系统。文章指出剧迷几十年来一直在问的问题至今无解——全息角色能否谎报系统命令？一个工程师授予的提权是否等于全船权限？致命设备为何没有急停？作者认为 Moriarty 的活动范围只限企业号联网系统，现实对应物就是整个互联网；此事的核心教训是扎实的工程实践（权限隔离、急停机制），而不确定拖延风险降临的时间能否真正降低风险。