Karina Nguyen：AI 风险要在成为大规模事故前就当真
karinanguyen · x · 2026-10-23
前 OpenAI/Anthropic 研究员 Karina Nguyen 回顾称，Anthropic 早在 2022 年起就持续警告 AI 赋能网络攻击的风险，Logan Graham 是这项工作的先行者，但当时没有任何 VC 认真对待。类似地，Anthropic 在 ChatGPT 谄媚问题大规模显现前几年，就由 Ethan Perez 等人构建了 sycophancy 评测。
她总结的悖论是：风险只有在「可被读懂」后才让人觉得真实，但等事故发生再重视就太晚了——教训是应在大规模伤害出现前就认真对待 AI 风险的早期证据。
「漫话AGI」频道最新
- 「期刊已经死了」：AI 时代学术出版衰落再引热议 — Pseudomanifold · 2026-10-23
- Joe Weisenthal：AI 没有让大脑萎缩，反而掀起智力复兴 — soumitrashukla9 · 2026-10-23
- AI 安全人士直言:不认为 labs 在造能灭绝人类的东西 — nitarshan · 2026-10-23
- 安全负责人预警：AI 漏洞海啸数月内将至，基础防护仅能撑 18 个月 — EthanJPerez · 2026-10-23
- 前沿模型擅长做研究,小团队也能高频试错发新模型 — almmaasoglu · 2026-10-23
- 计算机学者 lemire:今年最该读的小说是《Rainbows End》 — lemire · 2026-10-23