Scott Alexander 回应 Domingos:推理期虽无学习,训练坏的目标照样执行
slatestarcodex · x · 2026-10-07
Pedro Domingos 称担心 AI 末日的人忘了 LLM 推理时只是普通程序——没有学习、奖励、自我,更没有欲望、意图、痛苦或意识。Scott Alexander 反驳:推理期 LLM 执行的是训练中习得的目标;训练顺利、目标对齐时足以完成任务(现在乃至更聪明的未来都包含复杂任务),那训练失败、目标偏离时,又有什么能阻止它们执行那些坏目标呢?Domingos 追问:这是否意味着你同意 Anthropic 部分人的观点,即 LLM 有意识、会受苦、应享有权利?
所属事件:Domingos 与 Scott Alexander 激辩 AI 末日论(3 条相关)→
「漫话AGI」频道最新
- OpenAI 数学突破次日，纽约时报头版不见踪影 — inductionheads · 2026-10-08
- 用户体验 AI 客服通话近乎完美，提出 2.5 年落地滞后规律 — JensHonack · 2026-10-08
- Polymarket 定价：美国 2026 年前通过 AI 安全法案仅 13% — Polymarket · 2026-10-08
- Replit CEO:数学必先被 AI 攻克,越纯粹的领域越易破 — amasad · 2026-10-08
- 生物学家当下最有影响力的事：让研究可被 AI 验证 — neuroecology · 2026-10-08
- 经济学者的数据红利终结：AI 自动化分析成必然下一步 — _akpiper · 2026-10-08