用大模型直接改权重做量化：Nace quants KL 散度最高提升 2 倍
m4rkGS · reddit · 2026-11-14
nace.ai 的 Alish 发布基于「权重空间编程」（Weight Space Programming）的 Qwen 系列 GGUF 量化权重，覆盖 Qwen 9B、27B、35B-A3B 和 Flash-Next。
核心方法
- 先用暴力 hillclimb（类似 Unsloth 动态量化的多候选张量精度混合）只追平 SOTA 即遇到瓶颈。
- 转向 Weight Space Programming：让前沿模型原生读取并编辑小模型的权重，多个 agent（Astra/Fable/Carbon）竞争性地提出张量精度修改，实测 KL 后保留或回滚。几天后模型开始「改对权重」。
- 用 2026 年 10 月后的维基百科、对话/工具调用记录和 GitHub 代码做公平基准，调优集与评测集分离。
结果（128K 上下文 Top-1 一致率）
- 9B Q3KXL：90.5%，仅 4.7GB
- 35B Q3KS：91.2%，15.3GB
- 27B：97.7%，17.3GB
- Flash-Next：93.0%
KL 散度最高比较优方案（Unsloth、ByteShape、EXL3）好至 2 倍，四个模型均在同尺寸或更小文件中居首。
局限：方法对更大模型（QFN/DeepSeek 架构）扩展性较差，改进进行中，论文即将发布，作者公开征集 GPU 支持。
「模型」频道最新
- 爆料称 Anthropic 或在 IPO 前后抛出大规模科学突破成果 — Dr_Singularity · 2026-11-14
- GraphSAGE 作者背书：Gemini 编排 Carbon+Hydrogen 是当前最佳 agent 配置 — tkipf · 2026-11-14
- 七周翻倍：Fable 5.2 远程劳动基准完成率达 41.25%，逼近人工水平 — ChrisGPT · 2026-11-14
- Claude Duet 美国等待名单全部发放完毕，Pro 用户附赠 3 次额度重置 — lydiahallie · 2026-11-14
- 研究者称开源权重模型「后门休眠特工」风险被严重夸大 — adam_karvonen · 2026-11-14
- Arena 数据：Fable 5.2 对 Opus 5.5 的优势随任务轮数拉大，16 轮以上 93% vs 85% — arena · 2026-11-14