NLP 从业者开炮:大模型只是状态机,Anthropic 拟人化是炼金术
gerardsans · x · 2026-09-19
开发者 gerardsans 发长文批评 Anthropic 及整个安全与对齐社区把人类特质投射到「矩阵乘法」上,称 AI 行业在智识上已经腐败,却几乎无人反击。
他的核心论点:
- 自动机就是状态与转移的映射,是程序、是状态机,不是自我,也不是心智。
- 多数 ML/AI 从业者缺乏软件工程背景,导致「炼金术」和拟人化狂热流行,重演当年的 Eliza 效应。
- 在输入转移下行为变化的状态机上做 steering 并不神奇,本质上就是 DAG 上的 next-token prediction。
- 结论一句话:采样(sampling)不等于能动性(agency),软程序不等于人格,别把心智投射到采样器上。
这是对 Anthropic「模型福祉/模型心理」研究方向的代表性反驳观点,属于 AI 圈有观点的争论。
所属事件:工程师开炮：大模型只是状态机而非心智(2 条相关)→
「漫话AGI」频道最新
- 哲学家:现象意识超出计算范畴,AI 无法仅靠算力产生意识 — pwlot · 2026-09-19
- 哲学家逐条批评苏莱曼文:称「AI 无意识无证据」过于武断 — connoraxiotes · 2026-09-19
- Schmidhuber 发文主张:递归自我改进 RSI 算法 1987 年已由他首创 — SchmidhuberAI · 2026-09-19
- UnpromptedAU 安全会:AI 让逆向工程变易,模糊安全已死 — moyix · 2026-09-19
- AI 替代的只是写语法的人：架构理解者反而更值钱 — forevergeeks · 2026-09-19
- 牛津学者论文称 LLM 数学上不可能做出真正的发明 — blaizedsouza · 2026-09-19