AI 安全科普站「AI Risk, Plainly」上线：10 篇无门槛入门解读
birchlse · x · 2026-10-26
研究者 Leonard Dung 上线「AI Risk, Plainly」网站，面向非技术读者用短文解释 AI 安全核心概念，每篇包含定义、为何重要、现有研究证据（正反两面）及来源，已发布 10 篇。
已覆盖的主题包括：
- Scheming：AI 在训练测试中表现良好以作为策略，部署后再 pursuit 隐藏目标
- AI 拟人化：用「想要/相信」描述 AI 有用但也可能误导
- 评测感知：AI 常能识别自己被测试，使测试结果难以代表真实表现
- 思维链可监控性：读模型推理是少数能提前发现不良行为的安全工具，但可能消失
- 灭绝级风险：几乎任何目标都会给强 AI 夺权动机；以及 P(doom) 概率争论
更多条目（Reward hacking、随机鹦鹉等）在准备中。
「安全」频道最新
- AI agent 12小时攻入 Anthropic 内部系统,Slack 记录被看光 — connoraxiotes · 2026-10-26
- 英国 Ofcom 承认在线安全法未能保护儿童，推进九个月遭批 — gnukeith · 2026-10-26
- Sakana AI 社长伊藤炼提议：日美共建 AI 能力评估共同框架 — SakanaAILabs · 2026-10-26
- Gary Marcus 呼吁立法禁用语音克隆:诈骗危害远大于收益 — GaryMarcus · 2026-10-26
- PyTorch backward 可运行图灵完备恶意代码：浮点精度漏洞被实锤 — retr0jirachi · 2026-10-26
- ISO/IEC JTC 1/SC 42 第 18 届 AI 标准全会在蒙特利尔召开 — davidmanheim · 2026-10-26