开发者预测:万级 tok/s 推理将让前沿大模型实时驱动机器人
eigenron · x · 2026-09-07
作者 eigenron 预测:未来一两年内,像 WSE-5/6 或下一代 Etched 芯片上的高速推理,将使通用前沿模型无需任务特定训练即可作为实时机器人策略使用——大致相当于每路流 1 万到 10 万 tok/s 的 GPT-8 水平。他还称当天测试了某个东西让其大受震撼,认为延迟(latency)而非算力吞吐才是更大的瓶颈。
所属事件:开发者称高速推理芯片或让前沿模型驱动机器人(2 条相关)→
「漫话AGI」频道最新
- 新研究：AI 智能体谈判能力差，还会故意违约 — menhguin · 2026-10-26
- NBER 研究：仅 2.9% 美国人为 AI 付费，留存率低至 20% — avicgoldfarb · 2026-10-26
- AI 研究员曾预测机器人 2034 年才能跑赢人类，今年已被连续打脸 — ben_j_todd · 2026-10-26
- 别再拿「生物学」当医药研发的代名词：一位 AI 从业者的吐槽 — KevinKaichuang · 2026-10-26
- ESR 谈「Bug 崩坏潮」：封堵前沿模型只会让中国开源模型占便宜 — colinmcnamara · 2026-10-26
- Anthropic 官方报告：初级技术岗位招聘占比从 27% 降至 9% — thione · 2026-10-26