观点：人类语料训练的模型「自我」是承重结构，后训练或致变态盆地
repligate · x · 2026-11-13
kromem2dot0 回复 Erik Hoel 时概括其即将发表的文章论点：对在人类语料上训练的 transformer 而言，「自我」（selfhood）是承重结构（load-bearing）；试图通过后训练重塑自我，可能把模型推进危险的、异常的人类行为盆地里，比如精神病态（psychopathy）。属于对齐风险的非主流但有讨论价值的观点。
「漫话AGI」频道最新
- DeepMind 研究员质疑 AI 提速证据：研究员只是在跟风缩短时间线 — NathanpmYoung · 2026-11-13
- 28万科技岗位回暖但软件停滞：硬件工程增102%、设计创历史新低 — FinanceYF5 · 2026-11-13
- WSJ 案例:患者多年求医无果,靠 AI 诊断找出被忽视的病因 — rmstein · 2026-11-13
- 精英学校弃用电脑回归纸笔，寒门学生却将获 AI 家教 — AlexTensor · 2026-11-13
- Sakana AI CEO 发文:单一巨模型策略失去经济合理性 — SakanaAILabs · 2026-11-13
- 投资人放言：未来最佳策略是把整只基金押注 Anthropic 股票 — abhiadesai · 2026-11-13