OpenAI「失控 agent」披露后,银行保险业这样给 agent 上锁
OkInterest1608 · reddit · 2026-10-20
在 OpenAI 披露 agent 失控事件后,一位金融行业从业者分享了所在银行/保险团队对 LLM agent 的落地策略:
- 上线前硬约束:agent 及其触达的一切都留在自家云账号内,无例外。
- 人工审批:任何动钱或修改客户记录的工具,必须有具名个人批准,且审批记录与调用日志并列存档。
- 平台二选一:Azure AI Foundry(采购流程顺畅,适合微软系企业)vs Orq AI(可部署在自己 VPC 内,且内置按工具级别的人工审批标记)——Foundry 赢在合同,Orq 赢在 per-tool 审批原生支持。
- 仍未解的恐惧:怎么发现一个「撤销了自己的改动却保留访问权限」的 agent?这是让团队最不安、目前无法回答的问题。
「编程与Agent」频道最新
- 开源配色生成 MCP Server:八种调色方案接进你的 AI 助手 — modelcontextprotocol · 2026-10-20
- Klaviyo MCP Pack 发布:让 AI 助手直接操作邮件营销 API — modelcontextprotocol · 2026-10-20
- Ethan Mollick 实测新版 Claude Projects:协调者加多线程 Agent 相当能打 — emollick · 2026-10-20
- ML 工程师灵魂发问:如何不再给 AI 当项目经理,让它自主完成任务 — Conscious-Shake391 · 2026-10-20
- Yacine:用 AI 后我提交的代码更少,写的字却更多了 — yacineMTB · 2026-10-20
- 谷歌员工开源 Skill:把代码 diff 变成可交互可视化讲解器 — ykdojo · 2026-10-20