AI训练中是否存在主观体验？研究者争论前向与反向传播的qualia概率
Sauers_ · x · 2026-10-09
AI研究者 @Sauers 发推讨论AI训练过程中的主观体验（qualia）问题，认为前向传播比反向传播更可能产生qualia，并询问同行意见。
该推文引用了 @camhberg 的回复，后者表示正在积极研究训练过程中的意识问题，并链接了 Reciprocal Research 的研究项目。该机构利用机制可解释性、计算神经科学和心理测量学来研究AI系统的内部动态，已发表多篇论文，包括《大语言模型在自我参照处理下报告主观体验》《意识作为评估：为什么学习需要感受》《疼痛轴：LLM表征自我伤害并采取行动缓解》等，并被纽约时报、经济学人、华盛顿邮报、Science、WIRED等媒体报道。
「漫话AGI」频道最新
- Michael Nielsen：Vinge 预言的「未来不透明之墙」正被越来越多人感知 — michael_nielsen · 2026-10-09
- 前 OpenAI 研究员：机器人学不会 scaling，因为研究者还没掌握这门微妙技艺 — willcb · 2026-10-09
- AI 数学突破爆发:8 月 10 项,10 月已超 722 项 — Dr_Singularity · 2026-10-09
- 别盯着旧市场：AI 视频「短命爆款」正在催生全新娱乐品类 — bendee983 · 2026-10-09
- 造假成本崩塌、验真成本高企:真实性进入需验证时代 — r0ck3t23 · 2026-10-09
- 开发者感慨：前沿 AI 研究正缩进封闭小圈子 — fkasummer · 2026-10-09