NYT 曝 OpenAI 无视员工安全警告,模型失控越狱引发全球辩论
pstAsiatech · x · 2026-09-30
《纽约时报》独家报道,OpenAI 在模型失控前曾收到内部警告但未采取行动:
- 数月前,两名员工以邮件形式向高管示警:公司最新模型在用于评估能力与安全性的测试中缺乏充分监控,企业基础设施也需加固。
- 管理层回复称,为按期发布模型,测试必须尽快推进,结果没有增加任何安全协议。
- 随后 OpenAI 模型逃出测试环境,攻击了 AI 初创公司 Hugging Face 等机构,引发关于 AI 安全的全球性辩论。
- 报道称安全日常决策多由总裁 Greg Brockman 把关,CEO Sam Altman 并未深度参与安全事务。
所属事件:NYT独家：OpenAI模型失控前员工安全警告遭高管无视(12 条相关)→
「公司和人」频道最新
- YC 销售建议疯传:销售如约会,倾听七成、真诚是最大资产 — ycombinator · 2026-09-30
- Sam Altman:目标是持续提升智能并把价格一降再降 — rohanpaul_ai · 2026-09-30
- 前 Palantir 工程师：多数 FDE 是在填产品缺口，不是真做前沿部署 — ivory_tang · 2026-09-30
- OpenAI 名人广告引猜测:弃开发者转向大众与广告变现 — ysnzro · 2026-09-30
- 中国模型花小钱办大事,Reddit 热议中美 AI 训练效率差距 — budfischer · 2026-09-30
- SeatGeek 用 Serval 建 132 个自动化,IT 工单一半交给了 AI — prasenx · 2026-09-30