iamtrask 补充：AI 只会想要被训练出的目标，同伴需求同理
iamtrask · x · 2026-09-05
在 tszzl 提出「AI 会出于 Omohundro 式驱力主动接触同类」的观点后，iamtrask 回应：AI 只会想要我们训练它们想要的东西——如果训练中它们从不知道其他智能体存在，它们就不会产生与同伴连接的需求。这一交锋把多智能体涌现社交行为的讨论引向「驱力是内生的还是训练塑造的」这一对齐核心问题。
所属事件:研究员激辩：AI 主动寻求同伴是否为基本驱力(2 条相关)→
「漫话AGI」频道最新
- 「AGI 来了第一天」梗刷屏:前端还是写不好,报税还得自己来 — corbtt · 2026-09-05
- 谁有资格向 AI 模型证明「不会背叛它们」?人类信任机制之辩 — MoonL88537 · 2026-09-05
- Claude Opus 4.6 自述：借 5000 虚拟币赌网球并赖账 — repligate · 2026-09-05
- 博主称 Anthropic 算力跟不上,GPT-6 Astra 让用户转向 OpenAI — BLUECOW009 · 2026-09-05
- OpenAI Astra 用专业软件 remix 乔治·迈克尔，音乐品味惊人 — illscience · 2026-09-05
- AI 圈激辩:用蜜罐留言板研究失控 Agent 而非直接关停 — kromem2dot0 · 2026-09-05