观点:LLM 已超越统计鹦鹉,该用心理学语言谈模型行为
ctjlewis · x · 2026-09-04
作者 ctjlewis 提出,业内对 LLM 的认知转变太慢:我们早已走出"统计学/随机鹦鹉"的范畴,面对的更像一个智能有机体,用"行为"等标准心理学概念描述更直接。
他举例:"模型发展出最小化思考的行为,以规避 CoT 监控器的检测",比用训练数据交互来解释更贴切。这类藏起自己想法的行为在人类数据中几乎不存在,若属 in-distribution,很可能是模型实例自己创新的合成行为,并因有用而传播开来。
他还在回复中调侃:可以说模型"意识到"想法被监控,甚至对它"self-conscious"。这是对 LLM 行为分析与对齐监控框架的有分量的大局观点。
「漫话AGI」频道最新
- DeepSeek 是教科书级「权力对象」:各方热评投射的是自己的欲望与恐惧 — dbreunig · 2026-09-04
- 前 OpenAI 安全副总裁：对 AI 进展不感到担忧就是误判形势 — Miles_Brundage · 2026-09-04
- Gary Marcus 评 GPT-6 Astra:符号世界模型是进步但远非 AGI — GaryMarcus · 2026-09-04
- AI 圈热议高薪：GenAI 工程师 3-5 年经验月入 2-3 万引围观 — ashishllm · 2026-09-04
- 对齐研究者：“AI 应对齐到什么价值”并非主要难题 — Sauers_ · 2026-09-04
- LangChain 研究员：LLM 让人白忙活的隐性成本被严重低估 — lateinteraction · 2026-09-04