开源网站 3D+音效回放 Qwen3-4B 神经元,听 AI 自信地犯错
silvia_stocchi · reddit · 2026-11-18
开发者制作了免费网站 watchaithink.caby.dev,回放真实模型(Qwen3-4B,36 层)回答问题时的内部状态:神经元活动以 3D 呈现并配以声音,确定时音调平稳、犹豫时音调颤抖。
一个例子:让模型反转 "brainstorm",它在私密思考链里把词拼错成 "mortsniarb",再反转了自己的错字,最终对每个字母都 100% 自信地给出错误答案(正确应为 "mrotsniarb")——直观展示了「自信且错误」如何发生在模型内部。作者说明:这是六段预先录制的回放而非实时模型,只展示发生了什么、不解释为什么,也不能代表 ChatGPT 或 Claude 的内部机制;灵感来自 lak7 的 thinkspace(实时跑 GPT-2)。
「Fun」频道最新
- 前 NVIDIA 员工称其八成内部组织是白象,Kaggle 团队主管回应驳斥 — JFPuget · 2026-11-22
- 旧金山 AI 圈万圣节梗:有人扮 miss alignment — birchlse · 2026-11-22
- ClaudeAI 周报:单 HTML 文件游戏军备赛与 89 亿 token 草莓名场面 — ClaudeAI-mod-bot · 2026-11-22
- 「求求别在周末搞突破了」:AI 圈对周末发布的集体吐槽 — sierracatalina · 2026-11-22
- 用 Opus 提示让 Qwen 给自己算塔罗,牌面尽显「AI 的孤独」 — mimi10v3 · 2026-11-22
- Apple Watch 洗澡一次就卒,百元 Keep 手环洗 N 次无恙 — oran_ge · 2026-11-22