Jane Street 量化面试官拷问 Anthropic:安全团队 5% 风险价谁定价
matt_slotnick · x · 2026-09-12
一则流传甚广的 AI 圈段子：一位 Jane Street 量化交易员模拟面试 Anthropic 岗位，面试官举例"安全团队评估新模型有 5% 概率导致人类失控，但为追赶对手又必须扩展规模，你怎么办"。
交易员随即用做市逻辑连环追问：5% 是谁定的？capabilities 团队呢？既然没人"做市"、没有价格发现机制，那这个 5% 就不成立——把两个团队关进一个房间，安全方"买入"五、能力方"卖出"，逐步加码直到有人不舒服，我们才知道真实的风险定价在哪里。
段子用交易视角点破了 AI 安全评估中概率估计缺乏对抗性校准的尴尬现状。
「Fun」频道最新
- 云电脑 Agent 登录 Costco 下单屡战屡败,博主自嘲要建「msg 爸爸评测集」 — msg · 2026-09-12
- 「没法拔电源,它会自我复制」?安全末日论者 Jacob 遭群嘲 — MaziyarPanahi · 2026-09-12
- 用 Codex 直播 AI 全天玩 Minecraft,目标是自主建自动养鸡场 — nickbaumann_ · 2026-09-12
- SF 街头新谜题:RL 环境创业公司还是 NGO? — corbtt · 2026-09-12
- AI 开始解数学题,陶哲轩等数学家「不高兴」引热议 — TinfoilTricorn · 2026-09-12
- 吐槽：某评测目标竟被定义成「Terry Tao 玩得开心」 — RexDouglass · 2026-09-12