英国 ARIA 启动近 5000 万英镑计划，资助 AI Agent 安全协调研究
HaydnBelfield · x · 2026-10-08
英国高级研究发明局（ARIA）公布其近 5000 万英镑 Scaling Trust 计划的首批资助团队，目标是让 AI agent 能在数字与物理世界安全可靠地代表人类协调行动。
主要方向：
- Track 2（开源网络-物理 agent 技术栈）：资助多种安全 agentic 交互方案与 TEE 沙箱等 agent 工具；物理侧包括在机器人动作中嵌入水印的团队、提供自主制造数据的团队，另有一个集成伙伴整合各方成果构建端到端应用。
- Track 3（基础理论）：两支团队从密码学与复杂度理论视角探索 AI——研究能否将机密性内建于 AI 本身，以及能在给出答案同时生成可验证证明的「自证明模型」。
全部成果默认开源，保持可审计、可竞争；项目将在 Arena 竞赛中接受开放式任务与对抗压力检验。计划采取滚动征集，每季度发放一批资助。
所属事件:英国 ARIA 投近 5000 万英镑资助 AI 智能体安全研究(2 条相关)→
「安全」频道最新
- Nature 警告隐形 AI 可穿戴普及或致偷录常态化,厂商称隐私设计应对 — tianshi_li · 2026-10-08
- OpenAI 人权负责人：军方用 AI 做目标识别「让我夜不能寐」 — fortune · 2026-10-08
- 实测:申请 Anthropic CVP 会自动封号,申诉可解封 — dyn___ · 2026-10-08
- 研究者论文主张：赋予 AI 权利反而有利于人类安全 — gerardsans · 2026-10-08
- OpenAI 前安全负责人：每周二都在上线新能力与新风险 — sourdub · 2026-10-08
- 后量子非交互式密钥交换 MIKE 开源,公钥最小仅 80 字节 — jedisct1 · 2026-10-08