斯坦福 AI Oversight 项目招博后,研究黑盒智能体的监控与干预

LesterMackey · x · 2026-11-20

斯坦福「AI Oversight 合作研究项目」招募博士后,聚焦对黑盒 agentic AI 系统的自适应监控、审计与干预。该项目横跨统计、机器学习、强化学习、激励机制设计与因果推断,目标是让智能体系统安全部署并与用户偏好对齐。

研究方向包括:

已发布论文如《Knowing When to Intervene: Causal Evaluation of AI Agents》《Reliable AI-Assisted Decisions via Selective Auditing》。团队还在开发开源「AI Safety Harness」软件:监控智能体执行、支持重定向/中止/人工审查,并用反馈迭代改进监督策略。

原文链接 →

「安全」频道最新

更多「安全」频道 AI 资讯 →