iamtrask：对齐本质是数据问题，人类 100% 能安然过关
iamtrask · x · 2026-09-10
OpenMined 创始人 iamtrask 发文表示，对 AI 安全社区在 2026 年的前进「极其乐观」，认为警报是有效的，人类一定会存活并繁荣。
他的核心判断：
- 对齐是数据问题：数据清洗、RLHF 等强大工具已经存在，只是尚未以正确方式部署，要素齐备。
- 监督与治理是密码学 + 社会制度问题：所有要素都在，只待「烘烤到金黄」。
- 极端立场可能是过度反应，但在平衡对话上有重要作用，最终会折中。
- 最大的问题其实是互不信任的社区之间的沟通带宽，而这点正在改善。
「漫话AGI」频道最新
- Anthropic 员工末日论引争议，内部人士称十年内 AI 灭绝人类概率超 10% — TheMoonMidas · 2026-09-10
- 新 AI 吹哨人被比作 Blake Lemoine：当年喊 AI 有知觉者反成笑柄 — IsForAt · 2026-09-10
- 前 Anthropic 员工发起 Tailwind 计划：2 亿美元等你来做 AI 安全 — jam3scampbell · 2026-09-10
- Anthropic 经济团队发布 2030 AI 经济影响模型，网友称情景还不够极端 — scaling01 · 2026-09-10
- 前 Anthropic 研究员密集上 Fox 与 WSJ，被指是一场协调运作 — GabGarrett · 2026-09-10
- MacAskill 新作:智能爆炸将把百年技术进步压缩进十年 — zetalyrae · 2026-09-10