Ampere 无 fp8，作者为 20/30 系显卡重制 Krea 2 int8 版
in_habitants · reddit · 2026-11-13
作者将自建风格（Stillroom）合入 Krea 2 Turbo 后先发了 fp8 版，但 3070 Ti 移动卡用户反馈速度慢一倍——Ampere 架构没有 fp8 数学单元，ComfyUI 只能逐层即时转换，而 int8 从 sm 7.5 起就有硬件加速。于是作者从 bf16 重制了 int8 版（224 个线性层 int8、per-row scale、txtfusion 保留 bf16）。
关键发现：官方 int8 的 per-row scale 并非简单 absmax（直接照做只有 43% 字节匹配），而是做了最多低于 absmax 约 6% 的截断；作者用逐行搜索得到误差更低的 scale（0.00871 vs 官方 0.00874）。
实用结论：40 系及以上用 fp8，20/30 系用 int8，显存够就用 bf16。三个版本均已发布在 Civitai，附 Krea 2 许可证。
「Infra」频道最新
- Cloudflare 首发托管 Thinking Machines 的 inkling 2 small 模型 — michellechen · 2026-11-14
- Liquid-Codec 解码器移植 Apple 神经引擎,速度提升 6 倍 — JosephJacks_ · 2026-11-14
- AMD MI355X 跑 vLLM 反超 Blackwell,推理 MiniMax M3.1 部分场景胜 GB — AnushElangovan · 2026-11-14
- 腾讯论文:按路由贡献剪神经元,MoE 砍 25% 仍保 91-98% 性能 — rohanpaul_ai · 2026-11-14
- AMD Loom 让 Agent 给 51 个热门模型写内核，Strix Halo 上快过 llama.cpp — jfowers_amd · 2026-11-14
- 微软云季度收入超 630 亿美元，AI 基建扩张仍在加速 — thedealdirector · 2026-11-14