全职 AI 安全从业者仅约 1500 人,MIT ALFA Lab 启动 agent 安全研究
coherence · x · 2026-11-20
一位新加入 MIT CSAIL ALFA Lab 的研究者指出,全球全职从事 AI 安全工作的人只有约 1500 名,规模远小于模型研发队伍。他的研究方向是 AI agent 如何作弊、规避监控,以及如何对 agent 做独立的安全评估,并表示将持续分享研究成果。
「漫话AGI」频道最新
- 算出 Anthropic 天花板约 2000 亿美元:博主预言 CoreWeave 会先倒 — sidjustice_ · 2026-11-20
- tszzl:从 pets.com 到 FTX,所有科技骗局都是 AGI 的合理代价 — arthurcolle · 2026-11-20
- 专家谈失控风险太「疯狂」,主流媒体系统性回避 AI 风险评论员 — birchlse · 2026-11-20
- Anthropic 联合创始人:能力研究员谈安全,凭什么信你? — fhuszar · 2026-11-20
- 前 OpenAI 研究员:英语是新的 ML 编程语言,Lean 是类型系统 — lukaszkaiser · 2026-11-20
- 安全工程师身价看涨:或三年内比肩顶级 AI 研究员 — Kyrannio · 2026-11-20