Basis 与 AWS 合作给 S3 做出可回滚「撤销键」防 AI agent 酿灾
xuanalogue · x · 2026-11-18
AI 安全公司 Basis 与 AWS 自动推理团队合作,发布了一个形式化验证的研究原型:给 Amazon S3 装上「撤销按钮」,可回滚 AI agent 的误操作。
- 背景:今年已发生多起 agent 误删生产数据库(含备份)、清空用户电脑文件的事故;随着 agent 接管电网、供应链等关键基础设施,错误可能演变为灾难性风险。
- 做法:系统为 S3 API 合成「补偿器」(compensator)——一个拦截 agent 调用并记录撤销所需状态的程序;若某操作无法撤销,则直接阻止执行。
- 技术路线:通过让多个 LLM 博弈的方式合成补偿器,回滚带有形式化保证;S3 的数据、权限与配置层级极其复杂,是重要验证场景。
- 团队此前还发布过形式化协议语言 Pact,计划把该方法扩展到更多基础设施。提供可交互 demo。
所属事件:Basis 联手 AWS 为 S3 打造可回滚「撤销键」(2 条相关)→
「编程与Agent」频道最新
- Pipecat 开源 Audience 模型:让语音 Agent 知道「这句话是不是在叫我」 — alexcovo_eth · 2026-11-18
- 把个人 API Token 直接给 Agent 用,是今年最懒也最危险的操作 — WesternNo2429 · 2026-11-18
- Weave:让模型写一段脚本,Rust 运行时自动并行跑独立工具调用 — Business_Rain_1042 · 2026-11-18
- 微软开源 Work IQ Starter Pack:一键灌满 Copilot 演示租户 — DanWahlin · 2026-11-18
- GitHub 公开 Copilot 与 Codex、Claude Code 各 harness 实测数据 — 0xkarasy · 2026-11-18
- 新癖好:见到漂亮网站就用 Claude 本地复刻一个 — mickeyxfriedman · 2026-11-18