Gary Marcus：末日论调转移视线，OpenAI 们的安全工程根本不及格
GaryMarcus · x · 2026-09-11
Gary Marcus 转述长期安全工程师 Niels Provos 的邮件，称末日论讨论 distracting 了真正的问题：前沿 AI 公司（尤其 OpenAI）的安全工程做得不合格。Provos 指出，模型再聪明也不直接掌控推理、网络、凭证与物理基础设施，这些外部控制点才是失控论证的关键；实验室擅长检测蒸馏攻击，却缺乏防止自家 agent 作恶的动力。
「公司和人」频道最新
- Anthropic 员工自掏腰包送 KOL 六个月 20x Max 计划引关注 — scaling01 · 2026-09-11
- 分析:BioNeMo 或成 NVIDIA 的「生物界 CUDA」,锁定未来十年生物学 — AllThingsApx · 2026-09-11
- YC 新批次 200 家公司,硬科技占四分之一,较低点增长 40 倍 — garrytan · 2026-09-11
- Clairevo：人人都在疯狂发版，但营收没跟上 PR 数量 — lennysan · 2026-09-11
- Anthropic 官宣 Fable 5.1 Build Days:全球 Buildathon 9月11–25日 — claudeai · 2026-09-11
- Perplexity 加入 Rust 基金会,押注 AI 智能体的 Rust 开发 — AravSrinivas · 2026-09-11