Cresta 研究者:强骨干模型加少量微调即可超越依赖合成数据
antoine_chaffin · x · 2026-10-10
antoinechaffin 回应关于骨干模型改造的提问:理论上可把任务转成 MCQA、只从解码层解码候选标记实现零样本;实践中需解除因果掩码并用足够的自然数据做小规模微调即可。他强调不是说合成数据无用,而是当前强骨干模型配有机数据已足够拿到很强成绩——他们的模型未用任何合成数据就在多数基准上领先。
所属事件:Cresta 研究者称强骨干模型无需专用合成数据(4 条相关)→
「模型」频道最新
- AI 假视频已到乱真级:博主晒西班牙街头以假乱真片段 — rohanpaul_ai · 2026-10-10
- 爆料称下周有大模型发布,「放缓论」不攻自破 — iruletheworldmo · 2026-10-10
- 用户实测 Haiku 不懂交易:分不清 bids 和 offers 的基本概念 — arthurcolle · 2026-10-10
- 第三方实测:阶跃 Step 5 Preview 无需改码生成可用数据看板 — StepFun_ai · 2026-10-10
- HiDream-O1-Video-1.0 登顶图生视频榜第 6,1080p 带同步音频 — ArtificialAnlys · 2026-10-10
- 博主推测:Anthropic 半年前内部已有 Opus 5.5 级智能 — yihui_indie · 2026-10-10