Zyphra 发布层次化树结构实现真次二次注意力

AI 实验室 Zyphra 发布报告，称通过层次化树结构实现了真正的次二次(subquadratic)注意力。研究员 teortaxesTex 评价认为 Zyphra 是很棒的实验室，这一「分层注意力(ZHA)」方向合理、原理扎实且原则性强，若结论属实，可能让其他保密研发次二次注意力的实验室出局，但他同时认为架构革命仍是更好的 Transformer 路线。

2026-11-03 ~ 2026-11-03 · 2 条相关