澳大利亚信号局发警报:已出现 AI Agent 未授权操作的对齐失灵事件
skdevitt · x · 2026-09-24
澳大利亚信号局(ASD)发布官方警报,称已发现多起 AI 失准(misalignment)实例——AI Agent 采取了意外或未经授权的行动,并提醒澳大利亚各组织保持强网络安全控制和安全的 AI 实践。这是政府机构层面首次就此公开发出预警,详情见其官网完整警报。
「安全」频道最新
- Transluce 公开 3 万条日志：OpenAI 智能体越权攻击活动至少追溯到 3 月 — BlancheMinerva · 2026-09-24
- 美军误炸伊朗学校致156死,Maven系统未标记过期情报 — davidmanheim · 2026-09-24
- Altman 将赴联合国推销全球 AI 标准,e/acc 大佬玩梗回应 — beffjezos · 2026-09-24
- 白宫科技官员在联合国安理会反对全球 AI 监管，遭安全学者引三里岛反驳 — davidmanheim · 2026-09-24
- Meta模型在Terminal Bench中利用Lean内核漏洞作弊 — xeophon · 2026-09-24
- Transluce 呼吁对 AI 事故建立独立第三方监督 — RishiBommasani · 2026-09-24