AI 集群引热议:推理算力可较训练放大万倍

关于百万美元级 AI「集群」(swarms)是否是未来的讨论引发关注。Herbie Bradley 与 1a3orn 认为多智能体集群很可能是未来,因为这是唯一能把使用时(推理时)投入算力相对训练时扩大 10,000 倍的路径;但线性扩容会先撞上硬件墙。相关思考还指出测试时扩展在不同任务分布间边际 token 的剂量-反应曲线差异巨大。

2026-09-17 ~ 2026-09-17 · 4 条相关