Gemma 4 技术报告发布
_philschmid · x · 2026-07-13
Google 发布了 Gemma 4 Technical Report，作者在帖中强调这批模型已经跑了一段时间，报告里详细解释了它们的实现思路。
重点包括：
- 通过 local-to-global attention 5:1 和 pp-RoPE 降低 KV cache 占用
- 使用 speculative decoding 提升推理效率
- 采用 Multi-Token Prediction drafters 支持更高效的生成
这是一篇偏工程实现的技术报告，信息重点在于 Gemma 4 家族如何兼顾记忆占用与推理性能。
「模型」频道最新
- AI Sextet 活动:6 模型 14 天完全免费,含 DeepSeek/Qwen/GLM — airesearch12 · 2026-09-11
- Anthropic 发布迄今最详尽威胁情报报告:无人机蜂群滥用案例曝光 — soumitrashukla9 · 2026-09-11
- BullshitBench 榜单更新:GPT-6-Astra 领先历代 OpenAI 模型仍未及 Anthropic — scaling01 · 2026-09-11
- Agent Astra 在 GauntletBench 得 83%,成首个超人类基线的电脑操作 Agent — ducha_aiki · 2026-09-11
- Kimi K2.8 Preview 上线：性能接近 K3、1M 上下文全档开放 — teortaxesTex · 2026-09-11
- 有人想给软件工程任务建「形态分类」数据库,好按任务选模型 — StewartalsopIII · 2026-09-11