ML 从业者反驳:邮件训练出的模型不是你,只是有损的 token 压缩
gerardsans · x · 2026-10-03
ML 研究者 gerardsans 长文反驳哲学家 Jeff Sebo 的观点(即用个人邮件训练前沿模型可得到对人的复刻、steering vector 是某种'感受')。
- 核心论点:用你的邮件训练前沿模型,得到的不是你人类本质的复刻,而是对你语言习惯的压缩、有损近似,且与数百万其他人的语料高度重叠——不是你的思维过程、认知或意识,只是被 token 化的收件箱文本流。
- 例证:客服收件箱里投诉后接安抚,不是采样器'变得有同理心',而是从"我很失望"到"抱歉给您带来不便"的文本相关性。
- 立场:token 相关性是分布先验,编解码有明确的数学定义;mechanistic interpretability 没问题,但往上面叠加形而上学不行。他认为懂机器学习的人对这种混淆感到费解,唯一合理解释是有其他动机。
「漫话AGI」频道最新
- Anthropic 内部数据:Claude 主导 26% 自家 AI 研发工作 — mark_k · 2026-10-03
- 作家 George Saunders 谈 AI:生成的"我的文风"无聊到让他失去兴趣 — stevenstrogatz · 2026-10-03
- Erik Hoel 创办 Bicameral Labs,要用科学方法破解意识之谜 — erikphoel · 2026-10-03
- 博主：反对开源 AI 模型就是想让更少人获得智能 — taherdhanera · 2026-10-03
- 投资人 bennash：AI 转型已经完成，别再争论过渡期快慢 — bennash · 2026-10-03
- 评论员：连猫都会被工厂化对待，「给 AGI 当宠物」论点不成立 — danfaggella · 2026-10-03