前 OpenAI 员工:公司明知安全风险,系统安全多次尝试均未落地
DavidSKrueger · x · 2026-10-05
前 OpenAI 员工 Ryan Lowe 发文称,自 2021 年以来内部曾多次推动建立「系统安全」体系,但始终未能落地,原因是没有外部压力时可以侥幸不做。他主张像核电等高风险行业一样建立多层安全机制,可借鉴现有最佳实践,也需要原创方法,而这要求实验室的文化与激励发生根本转变。
David Krueger 转发并评论:OpenAI 是「明知情仍冒险」,并提及儿童自杀等相关案例,认为这类风险模式反复出现。
「漫话AGI」频道最新
- Dario Amodei 谈丧父之痛:父亲病逝数年后其病才被攻破,AI 治病信念由此而来 — rohanpaul_ai · 2026-11-20
- Gary Marcus 重申立场:AGI 既非不可能也非近在眼前 — GaryMarcus · 2026-11-20
- 网友调侃:AI 公司大举招人就是另一种 UBI,「付钱让你存在」 — djcows · 2026-11-20
- DeepMind 研究员估算:全球有效算力每年增长至少 10 倍 — 141_1337 · 2026-11-20
- Polymarket 押注:AI 发现的皮肤癌疫苗 2027 年底获批概率 63% — Polymarket · 2026-11-20
- Nick Bostrom:AI 消除衰老后人类寿命可达 1200-1400 岁 — Polymarket · 2026-11-20