BlackHC反驳“AI最糟技术”论

7 月 16 日，BlackHC 连续发帖，系统反驳一篇把 AI 称为“最糟技术”的文章。他认为，这篇文章对近两年推理成本、模型效率和系统瓶颈的判断建立在过时或被误读的技术前提上，因此对 AI 经济性与扩展性的结论并不稳固。

关键论据

BlackHC称，以 GPT-3.5 级性能计，推理成本已从 2022 年 11 月的每百万 token 20 美元降到 2024 年 10 月的 0.07 美元，约下降 286 倍。他还表示，前沿模型的进步并非单靠参数规模持续变大，近期更明显的趋势反而是“更小但更强、也更便宜”，这说明效率改进正在真实改变成本结构。另据他援引的说法，推理收入正以每年约 3 倍速度增长，而模型本身却在变小、变便宜；他认为原文虽然引用了这类材料，却在论证中得出了相反结论。

对技术瓶颈的反驳

针对“注意力机制很糟糕”的判断，BlackHC指出，原始注意力的二次复杂度取决于上下文长度，而不是用户数。在 8k token 的聊天场景里，注意力大约只占一个 70B 模型 FLOPs 的 14%。他还以 FlashAttention 等优化为例，说明这一瓶颈早已是工程上持续改进的对象，不能被简单当作 AI 扩展性的决定性障碍。

图表口径争议

BlackHC还认为，原文误读了 Epoch AI 的一张图。按他的解释，图中横轴表示“单次请求每秒 tokens”，而不是全局吞吐量。若要提高单个请求速度，服务端往往需要采用更小的 batch，单位成本因此上升；但这并不能直接推出系统在相同速度条件下的整体承载能力结论。

2026-07-16 ~ 2026-07-16 · 5 条相关

一手来源