Anthropic 联合创始人:能力研究员谈安全,凭什么信你?
fhuszar · x · 2026-11-20
fhuszar 分享了一段他寻求 Anthropic 股票变现之外的轶事:2022 年他为一家专注安全与理论的 AI 培训机构募捐时,一位 Anthropic 联合创始人对他说:「你知道问题在哪吗 Ferenc,你是个能力(capabilities)研究员,凭什么相信你会认真对待安全、你培养的学生不会只是加速模型进步?」这句话尖锐揭示了 AI 圈能力研究与应用安全研究之间的身份张力与互信困境。
「漫话AGI」频道最新
- 全职 AI 安全从业者仅约 1500 人,MIT ALFA Lab 启动 agent 安全研究 — coherence · 2026-11-20
- 专家谈失控风险太「疯狂」,主流媒体系统性回避 AI 风险评论员 — birchlse · 2026-11-20
- 前 OpenAI 研究员:英语是新的 ML 编程语言,Lean 是类型系统 — lukaszkaiser · 2026-11-20
- 安全工程师身价看涨:或三年内比肩顶级 AI 研究员 — Kyrannio · 2026-11-20
- Robert Miles:选好得到怪,选怪得到烂 — AaronBergman18 · 2026-11-20
- 网友抨击 AI 末日论者:真信末日就辞职退网别浪费时间 — TinfoilTricorn · 2026-11-20