Luiza Jarovsky:超人类智能的「对齐」概念本身可能是伪命题
LuizaJarovsky · x · 2026-10-12
AI 研究者 Luiza Jarovsky 提出尖锐观点:超级智能对齐(SI alignment)的想法或许是荒谬的,因为它建立在只适用于人际或人-工具关系的「好/坏」人类视角上。她质疑:比人类更聪明的自主机器,凭什么会遵循人类价值观或把人类优先考虑?这是对经典对齐假设的根本性挑战。
「漫话AGI」频道最新
- Science Advances 研究：GPT-4 助写让新颖性提升 8.1%，代价是同质化 — lmoroney · 2026-10-13
- exurb1a 新视频：幼儿们现在拿到了火箭筒，AI 能力失控之辩 — c0med · 2026-10-13
- 北京为 AI 数字人发放身份卡,作者追问:谁授权、谁担责? — tallmetommy · 2026-10-13
- NotebookLM 生成的假播客已混入搜索结果：13 集带广告以假乱真 — omooretweets · 2026-10-13
- AI 在易验证处快、难验证处慢:安全自动化先要可测量 — WhatTheLJW · 2026-10-13
- 控制论之父维纳名言：我们不是实体，而是自我延续的模式 — pickover · 2026-10-13