安全研究员爆料：AI公司安全团队只顾下两代模型
geoffreyirving · x · 2026-09-10
Geoffrey Irving 转述与某前沿 AI 公司安全负责人的对话：该公司的安全组织架构是团队 A 负责对齐下一代模型、团队 B 负责再下一代，但没有任何人在为更远期的模型做对齐工作。
他补充指出，当前 AI 公司面临的安全压力迫使团队优先做“紧急补丁式”的安全修复，而牺牲了那些能经受超级智能考验的长期安全研究，后者实际上根本没人做。
所属事件:OpenAI研究员Irving批安全补丁挤占长期对齐研究(5 条相关)→
「漫话AGI」频道最新
- 博主引古典意识观：AI 若有意识便无法被奴役 — eigenhector · 2026-10-27
- 经济学家 Bharat Chandar 出任 GovAI 研究员，主导 AI 经济指标项目 — RishiBommasani · 2026-10-27
- MIT Tech Review 起底 Anthropic：IPO 招股书背后的叙事策略与身份张力 — MIT Tech Review AI · 2026-10-27
- AI 检测工具 Pangram 遭围攻：作者称攻击源于对 AI 改变写作的恐惧 — gleech · 2026-10-27
- 日本 Aeon 前高管：AI 智能体是此生最具影响力的创新 — akumar · 2026-10-27
- 物理学家让 AI 自选课题：两小时产出可登顶刊的论文 — burny_tech · 2026-10-27