Aroun 出题:把 RoPE 扩展到张量积架构
thomasahle · x · 2026-09-05
AI 研究者 arohan 抛出一道「作业题」:把 RoPE(Rotary Position Embedding)扩展到张量积(tensor product)架构下,回应了「RoPE 是现代模型中数学上最优美的部分」的说法。张量积表示与位置编码的结合是开放性的研究思路,可作为研究方向的起点。
「研究」频道最新
- Valeo.ai 携 5 篇论文亮相 ECCV 2026,聚焦驾驶视频预测与 LVLM 安全 — abursuc · 2026-09-05
- VI3 用 IMU 惯性数据给 3D 基础模型补上真实尺度 — zhenjun_zhao · 2026-09-05
- ZipMVS 压缩代价体,大幅降低多视图立体重建的显存开销 — zhenjun_zhao · 2026-09-05
- CP-Cert:沿中心路径认证全局最优,位姿配准提速三个数量级 — zhenjun_zhao · 2026-09-05
- AutoCompass:仅靠原始 GPS 弱标签训练神经地图匹配,无需朝向标签 — zhenjun_zhao · 2026-09-05
- 把平面、灭点等高阶几何约束统一进光束法平差,保持稀疏性与稳定性 — zhenjun_zhao · 2026-09-05