仅2.1万参数模型生成商务邮件,作者称训练稳定

SrijSriv211 · reddit · 2026-09-05

Reddit 用户 SrijSriv211 分享其训练的超小模型 Valentine-v0,该模型仅有 21k 非嵌入参数(约 2 层、4 头、64 维头、170 FFN 维),用于生成商务邮件。相比此前 30 万参数的 Strawberry-email,Valentine-v0 参数量仅为其 7%,但训练和验证损失分别为 2.1670 和 2.2646(Strawberry 为 1.65/1.68)。作者展示了两个生成示例,输出虽不完美但结构尚可。作者计划发布更大版本及 GitHub 仓库和技术报告。

原文链接 →

「研究」频道最新

更多「研究」频道 AI 资讯 →