Gary Marcus 联合资深安全工程师发难:前沿实验室的安全能力配不上末日论调
GaryMarcus · x · 2026-09-11
Gary Marcus 转发并强化自己对 OpenAI 等前沿实验室安全能力的批评,称「末日论调反而转移了对大厂安全能力不达标的注意力」。
他引用资深安全工程师 Niels Provos 的邮件观点:即使模型再聪明,它对推理、网络、凭据和物理基础设施都没有控制权,这些仍是外部控制点;实验室擅长检测蒸馏攻击,却在防止基础设施滥用上缺乏同等动力。安全工程视角的评论者认为,从 Hugging Face 事件的攻击路径看,公众「理应感到愤怒」。
核心论点:基础设施权限控制是「失控风险」讨论中被忽视的关键一环。
所属事件:Gary Marcus援引资深工程师：前沿实验室安全工程不及格(2 条相关)→
「公司和人」频道最新
- 波士顿大学 CDS 扩招：开放 AI 讲席教授等多个人工智能教职 — arvindsatya1 · 2026-09-12
- OpenAI 社区之夜邀请流出，GPT-6 或在 DevDay 有更多消息 — flavioAd · 2026-09-11
- Demis Hassabis：90 年代用游戏公司当「特洛伊木马」资助 AI 研究 — airesearch12 · 2026-09-11
- 计算机视觉先驱 David Fleet 当选加拿大皇家学会会士 — CSProfKGD · 2026-09-11
- DeepSeek 算力被预订一空，加码空间或只剩数据侧 — teortaxesTex · 2026-09-11
- Stripe 高管招人：帮助商户迎接 agent 重塑商业时代 — jeff_weinstein · 2026-09-11