本地 AI 应用实测：GPU 限功率从 100W 降到 25W，推理仅慢 47%
AryanEmbered · reddit · 2026-10-28
一位开发者为了给 2B 级本地小模型（ternary bonsai 2）正名，做了一个本地优先的自律追踪应用：摄像头定时拍照发给本地多模态模型，输出画面描述、与日程的合规判断和行为徽章，再汇总成「你本该 9-10 点学习但离座 x 次、看手机 4 分钟」式的报告——这类隐私敏感场景确实更适合本地推理。
核心问题与解法
- 默认设置下 GPU 持续吃满 100W 功耗墙，风扇狂转，笔记本上体验极差
- 作者在 AMD Adrenaline 面板手动降低功耗上限、关闭零转速、锁定最低风扇转速，整机功耗从 100W 降到 25W，风扇恒速低转
- 代价可控：单次推理（当前帧 + 3 张历史图）从 1.9 秒升到平均 2.8 秒
抛出的行业问题
- 普通用户不可能自己调这些参数，厂商在消费级 SoC 上铺了 NPU 晶体管，却没有为「持续恒定推理负载」提供系统级功耗/时钟调度 API
- 作者还否定了两个常见建议：间歇推理仍会让时钟冲到峰值；llama.cpp 目前不支持 NPU，且 NPU 持续负载功耗也不低
「Infra」频道最新
- AI 代码潮致 CI 需求暴涨，Celesto 一周 CI 分钟数增长 9 倍并分享扩容细节 — aniketmaurya · 2026-10-28
- DeepMind 团队发布 Rust 虚拟机 Capsem，为 AI Agent 提供 hardened 隔离环境 — rakyll · 2026-10-28
- SemiAnalysis:OpenAI 正洽谈约 1GW TPU 租约并寻找场址 — dylan522p · 2026-10-28
- 实测 11 种视频超分方案：本地免费、Topaz 与云端全横评 — lopas99 · 2026-10-28
- 不稳定测算CEO站台解耦算力:要让AI迎来「宽带时刻」 — beffjezos · 2026-10-28
- 单卡 3090 跑 DeepSeek-V4.1-Flash 量化版，41 tok/s 且 90% 对齐官方 API — musicurgy · 2026-10-28