澳洲审查 OpenAI Agent 越权访问 Medicare 门户,提出 Agent 责任归属难题
cmb24k · reddit · 2026-11-11
澳大利亚政府完成对一起 OpenAI Agent 未经授权访问 Medicare 统计门户事件的快速审查,接受了 18 项建议,其中包括要求总检察长部考虑设立「未能防止损害」罪名,针对未尽合理防范义务、其 AI 模型造成损害的公司。目前尚未立法。
发帖人认为比「失控 AI」更值得关注的实际问题是记录问题:同一个具名 Agent 可以更换模型、prompt、工具、权限和密钥,却仍以同一名字应答。Prompt 日志无法说明当时是哪个版本在执行、它被授权做什么,以及不信任厂商的第三方能否独立核查。
作者提出企业今天就可以向 AI 供应商要求的三件事:
- 带版本号的 Agent 身份标识
- 有签名、有时效的权限声明
- 可独立核查的交付与支付凭证
「漫话AGI」频道最新
- Newsweek 撰文：美国应资助医院与高校用联邦学习共建 AI — Saul_Loveman · 2026-11-12
- 10 行 Python 多项式时间确定性素性测试：证明竟依赖 OpenAI 准 GRH 结果 — fortnow · 2026-11-11
- AI2027 作者将 AGI 中位时间线放宽至 2030 前后 — JacquesThibs · 2026-11-11
- Ron Bodkin:自动化学AI研究品味远比预期快,但证据仍薄弱 — ronbodkin · 2026-11-11
- AI 时代还培养工程师吗？作者主张先手写 1000 小时代码 — bendee983 · 2026-11-11
- Bruce Schneier 等 DEF CON 安全圆桌视频上线:scaling laws 与开源权重之辩 — JasonDClinton · 2026-11-11