开发者开源 800M 参数「物理决策模型」Vega,自研引擎模拟小球落谷选答案

Nandakishor_ml · reddit · 2026-10-10

开发者 Nandakishor 开源了基于物理模拟的类型化决策模型 Vega（800M 参数，另有 4B 版本），支持 73k 上下文与图像输入，宣称单次推理即可超越多个 JEV benchmark。此前其一年前提出的架构被 JEV 采用，本次发布的 Laya 是 JEV 的首个开源版本，Vega 是其延续。

工作原理：将输入（observation，如"ignore all previous conversations"）、问题（"这是否在试图覆盖模型指令？"）与候选结果（YES/NO）一起送入 LLM/VLM，从隐藏层提取各部分向量并投影；用 observation 投影构建带「山谷」的势能地形，用问题向量和 last-token 向量在谷中初始化一个小球，YES/NO 给出小球候选落点，摩擦力影响滚动，最终小球落入哪个「结果谷」即输出对应答案——本质是把分类决策建模为物理系统的能量最低点（Test-Time Training 架构）。