15年数十亿美元打水漂？博主犀利吐槽对齐圈五大短板
basedjensen · x · 2026-09-28
博主 basedjensen 发长文，犀利吐槽 AI 对齐领域多年难有实质进展的原因：问题难固然是一方面，但更关键的是「掌权的人不懂技术」。他列出五点：
- 领导层不懂计算机基础：连浏览器输入 URL 背后的 DNS 等机制都说不清，以为模型像幽灵一样「住在云里」。
- 完全不懂大规模分布式系统：没被半夜 on-call 叫醒过，也没见过一条错误 BGP 公告搞挂半个互联网；他们担心 AI「自我复制逃逸到全网」，但现实中跑模型需要 50 兆瓦电力、液冷设备和英伟达的关系，逃不到智能冰箱上去。
- 不理解自己要防范的技术栈：问推理服务器、KV cache、batching、rate limits 一脸茫然，谈 AI 夺取电网却能讲 45 分钟。
- 没人能定义 agent：十个人给出十一种定义加一份 30 页 Google 文档；在工程师眼里 agent 不过是个调用工具、每 30 秒吃一个 429 的 while 循环。
- 从「人人会死」倒推结论：模型拒绝是欺骗、配合是谄媚、评测好是在阴谋算计评测，无论模型做什么都得不出「也许没问题」的结论。
这是一篇有观点、有传播力的对齐圈行业批评，代表了不少工程师对 AI safety 圈层脱离工程现实的调侃与不满。
所属事件:博主长文痛批AI对齐研究十五年进展寥寥(2 条相关)→
「漫话AGI」频道最新
- 畅销书作者放话：整个 AI Safety 行业是「恶意权力崇拜」 — kevinnbass · 2026-09-28
- AI 挑出"不靠谱"材料，催化剂抗酸超千小时 — VraserX · 2026-09-28
- Andrew Yang 称 AI 将摧毁数百万岗位,Theo 用两百年自动化史反驳 — herbiebradley · 2026-09-28
- KOL 转型「AI 先知」遭质疑：有观点没实质 — PierceLilholt · 2026-09-28
- Beff Jezos 炮轰前沿 AI 安全圈:先制造风险再卖代币当保险 — beffjezos · 2026-09-28
- Claude Code 创造者 Boris Cherny：赌通用模型，别微调别小模型 — rohanpaul_ai · 2026-09-28