Altman:OpenAI 最强模型在世界筑好网络与生物防线前不敢开源
External_Mood4719 · reddit · 2026-10-24
Sam Altman 在斯坦福商学院「View from the Top」对话中,罕见详细阐述了对开源权重与安全的立场。
核心观点
- 开源权重模型对社会很有价值,全面禁止开源将是「对创新与自由的极高代价」,不应禁止;
- 但在能力上限之上,模型能造成足够伤害,OpenAI 目前最强的内部模型「近期无法负责任地开源」,需等全球网络防御与生物安全体系足够成熟;
- 承认 2020 年低估了对齐(alignment)难度;当前模型对齐好于预期,但过去六个月的快速进展「考验了我的信念」;
- 数学推理等狭窄领域「我们现在已有超级智能」,来得比预期更快;
- 呼应现行的全球治理框架难以支撑当前速度,呼吁行业认真讨论给 AI 进展设定节奏(pacing)。
背景:Altman 回顾 OpenAI 原本设想为纯研究实验室,以为超级智能出现后商业化自然解决,2020 年前后被迫转向,ChatGPT 上线后的爆发让其几乎一夜之间变成大公司。
所属事件:Altman：最强内部模型强到不敢发布，补不完所有漏洞(18 条相关)→
「公司和人」频道最新
- 微服务映照组织架构,工程师指出多智能体系统同样如此 — arpit_bhayani · 2026-10-25
- C++26 标准投票失败，CoreBird 负责人呼吁脱离 ISO 另立标准 — blelbach · 2026-10-25
- 马斯克称 X 欲重构全球金融体系：愿景是占全球金融半壁江山 — XFreeze · 2026-10-25
- Meta 个人 AI agent 应用 Muse 登顶 App Store，力压 ChatGPT — LerrelPinto · 2026-10-25
- 程序员讽企业 IT 双标：token 是成本中心，10TB 无人查询的同步作业却是关键基础设施 — cto_junior · 2026-10-25
- Palantir CEO Karp:AI 竞赛只有中美算数,欧洲无足轻重 — 2C_ornot2C · 2026-10-25