前 OpenAI 员工:公司明知安全风险,系统安全多次尝试均未落地

DavidSKrueger · x · 2026-10-05

前 OpenAI 员工 Ryan Lowe 发文称,自 2021 年以来内部曾多次推动建立「系统安全」体系,但始终未能落地,原因是没有外部压力时可以侥幸不做。他主张像核电等高风险行业一样建立多层安全机制,可借鉴现有最佳实践,也需要原创方法,而这要求实验室的文化与激励发生根本转变。

David Krueger 转发并评论:OpenAI 是「明知情仍冒险」,并提及儿童自杀等相关案例,认为这类风险模式反复出现。