OpenAI 智能体安全员工发声:对齐窗口正急剧收窄
Scobleizer · x · 2026-09-07
Scobleizer 转发了 OpenAI 负责 Agent Security 的工程师 joedaroo 的首条推文。这位安全工程师表示,正在逼近的 AGI 形势令他清醒,当前对齐与可监控性的窗口极窄,所有人都需要提升应对水平。他透露过去几个月在 OpenAI 做智能体安全工作强度极高,但同事对安全的重视程度令他印象深刻。他呼吁 AI 社区少争论谁更在乎安全,多把时间花在协作把事情做对上,并推荐阅读 Jakub 的相关文章。
「公司和人」频道最新
- Clara Shih 谈学生何时该用 AI:有判断力时才是最佳时机 — clarashih · 2026-09-07
- Claude Code 负责人 Boris Cherny：别省 token，先想怎么放大回报 — rohanpaul_ai · 2026-09-07
- RLSlow 团队获致敬:LLM 大规模 RL 最早由这支团队开创 — morqon · 2026-09-07
- Paul Graham:经历过弱小正是创始人相对职业 CEO 的独特优势 — santoshpanda · 2026-09-07
- 前 OpenAI 研究员 Lukasz Kaiser 深情告别 RLSlow 推理团队 — RubenEVillegas · 2026-09-07
- 前工程师:AI 研究员整天在调试无法归因的代码烂摊子 — gabrielchua · 2026-09-07