OpenAI 智能体安全员工发声:对齐窗口正急剧收窄
Scobleizer · x · 2026-09-07
Scobleizer 转发了 OpenAI 负责 Agent Security 的工程师 joedaroo 的首条推文。这位安全工程师表示,正在逼近的 AGI 形势令他清醒,当前对齐与可监控性的窗口极窄,所有人都需要提升应对水平。他透露过去几个月在 OpenAI 做智能体安全工作强度极高,但同事对安全的重视程度令他印象深刻。他呼吁 AI 社区少争论谁更在乎安全,多把时间花在协作把事情做对上,并推荐阅读 Jakub 的相关文章。
「公司和人」频道最新
- 斯坦福 HAI「以人为本 AI 社会影响」项目已办到第三期 — StanfordHAI · 2026-10-27
- Goodfire 投入 1000 万美元启动 AI 版「人类基因组计划」破解可解释性 — CatAstro_Piyush · 2026-10-27
- 旧金山 Code Engineering 大会聚焦从编码 agent 到软件工厂 — LangChain · 2026-10-27
- Anthropic 自曝：每 9 个月封禁约占营收 5-7% 的客户 — Polymarket · 2026-10-27
- 嘲讽 AI 空头:Ed Zitron 信徒只能靠「必须有 fraud」自洽? — matt_slotnick · 2026-10-27
- American Eagle CMO：让品牌被 ChatGPT 推荐已成团队核心任务 — petesena · 2026-10-27