Gemini 4 Neon 自主优化 GPU 内核,AMD 硬件上跑出 5.9 倍 prefill 提速
sebkrier · x · 2026-11-22
一位 AMD 工程师把 Thinking Machines 的 Inkling 2 Mini GGUF 交给 Gemini 4 Neon,让它在 Strix Halo(8060S)GPU 上全流程自主处理:编写内核、性能剖析、定位瓶颈、优化并跑分。整个过程持续 4.3 小时、约 490 次工具调用,最终相比 llama.cpp on ROCm:
- Decode:44.8 tok/s vs 23.8,快 1.88 倍
- Prefill:1,465 tok/s vs 233,快 5.9 倍
- 四流聚合:100.8 tok/s vs 54.1,快 1.86 倍
生成的内核达到 GPU 理论显存带宽的约 80%。AI 模型自主编写并优化底层 GPU 代码达到这种性能,展示了 coding agent 在系统级优化任务上的真实能力。
「编程与Agent」频道最新
- Neon 用 colmap 把实拍照片重建为 Blender 3D 模型 — eigenhector · 2026-11-22
- Letter of Agency:用可验证签名凭证解决 Agent 被拦截问题 — moss_in_it · 2026-11-22
- Claude 长会话后自报「到达真正暂停点」,codex 成任务管家 — craigbalding · 2026-11-22
- 链上核查 8000 个 x402 端点:542 个 token 域名不匹配致签名失败 — JonahDiedrick · 2026-11-22
- Opus 5.5 忠实执行旧规则,用户记忆文件被塞爆的踩坑教训 — markusn42 · 2026-11-22
- 逆向工程工具 REA v6.10 发布:124 位贡献者、1380+ 合并 PR — alexcovo_eth · 2026-11-22