安全专家警告：长周期AI网络评估中开启上下文压缩易致失真
repligate · x · 2026-08-05
针对近期英国AISI对Anthropic和OpenAI前沿模型进行的40小时无护栏网络安全能力评估，安全专家提出了强烈质疑。
专家指出，在如此长周期的自主任务测试中开启上下文压缩简直是自找麻烦。因为目前的压缩技术损失率极高，盲目信任这种机制会导致模型在评估中丢失关键上下文，任何从事过较小规模评估的工程师都能预见到这种做法的危险性。
所属事件:专家警告长周期AI网络安全评估中开启上下文压缩易失真(2 条相关)→
「编程与Agent」频道最新
- 用「守护者」智能体防止 AI 研究跑偏 — JoshPurtell · 2026-08-05
- Neuracore 展示机械臂理线能力，推出端到端机器人训练平台 — stepjamUK · 2026-08-05
- MCP 并非单纯 API 替代：智能体带来的新型安全契约 — drhyrum · 2026-08-05
- 主流 AI 编码模型存在致命缺陷，亟需强力第三玩家 — robleclerc · 2026-08-05
- 开源工具 docmancer：为编程 Agent 散落的记忆打造本地 RAG — galacticguardian90 · 2026-08-05
- 用 TweetDeck 视图多开窗口管理 AI Agent 工作流 — Wattenberger · 2026-08-05