Qwen 陷入死循环,Astra 用代码消融「循环方向」救活模型
burny_tech · x · 2026-11-03
转述 @adamkarvonen 的观察:Safe AI 旗下 Astra 并非原生读取 Qwen 的权重,而是因为 Qwen 在回答时会陷入循环卡死。
Astra 的做法是用代码执行一套标准可解释性(interpretability)技术,定位出导致循环的「循环方向」(looping direction),再从权重中将其消融(ablate)掉,从而让模型恢复正常作答。
「Fun」频道最新
- 网友：也许别背叛你的 AI 聊天机器人？ — heyneighbor · 2026-11-03
- 'AI slop 名单'见效：被列入者私信求删，承认用 bot 刷号 — TheZachMueller · 2026-11-03
- AI 主播 Azure 拿到首个 Minecraft 风格 3D 身体 — Promptmethus · 2026-11-03
- 经 GPT 改权重的本地 Qwen 模型开口就爆粗：今天我休息 — djcows · 2026-11-03
- 一人业余时间做出 5 分半 AI 短片：6500 万年进化故事 — Superb-Meeting7108 · 2026-11-03
- Claude Code 负责人出镜广告遭友人调侃：把我的私聊发给 200 万人 — edwinarbus · 2026-11-03