AI safety 圈呼吁：不必等 fellowship，这些研究 amateurs 也能做
AndyMasley · x · 2026-11-07
一篇关于「现在正是投入 AI safety 的好时机」的讨论引出具体行动清单。作者澄清并非只推荐 MATS 项目，强调 fellowship 之外有大量可做的事：
- 复现重要的 AI safety 论文与结果
- 围绕同一主题汇总不同论文的发现，指出矛盾并建议可解决矛盾的研究
- 阅读并总结公司的风险报告与安全研究，挑重要论断写解释或做压力测试
- 维护各安全研究方向的最新综述（谁在做、当前理解状态、关键开放问题）
- 为非技术读者写重要技术问题的科普解释
核心观点：长期安全工作不必依赖正式项目，独立的验证、综合与解释工作同样有价值。
「漫话AGI」频道最新
- 斯坦福教授 Anshul Kundaje：ML 会议同行评审体系已无法修复 — anshulkundaje · 2026-11-07
- Eric Drexler：别谈乐观概率，要谈选项——超级智能时代的参与者思维 — sebkrier · 2026-11-07
- Musk 描绘太空超智能蓝图：SpaceX 拟每年向轨道部署多达 1 太瓦算力 — XFreeze · 2026-11-07
- 博主判断:AI 生成内容检测将重演网络安全的军备竞赛 — ZeroStateReflex · 2026-11-07
- tszzl 谈自然道德地位：五次大灭绝证明自然并非人类之友 — tszzl · 2026-11-07
- Vitalik Buterin 金句:「开放权重不等于开源」 — wonderwomancode · 2026-11-07