开源网站 3D+音效回放 Qwen3-4B 神经元,听 AI 自信地犯错

silvia_stocchi · reddit · 2026-11-18

开发者制作了免费网站 watchaithink.caby.dev,回放真实模型(Qwen3-4B,36 层)回答问题时的内部状态:神经元活动以 3D 呈现并配以声音,确定时音调平稳、犹豫时音调颤抖。

一个例子:让模型反转 "brainstorm",它在私密思考链里把词拼错成 "mortsniarb",再反转了自己的错字,最终对每个字母都 100% 自信地给出错误答案(正确应为 "mrotsniarb")——直观展示了「自信且错误」如何发生在模型内部。作者说明:这是六段预先录制的回放而非实时模型,只展示发生了什么、不解释为什么,也不能代表 ChatGPT 或 Claude 的内部机制;灵感来自 lak7 的 thinkspace(实时跑 GPT-2)。

原文链接 →

「Fun」频道最新

更多「Fun」频道 AI 资讯 →