willcb：人类两大风险是资本极端集中与给 Agent 法律人格
willcb · x · 2026-10-17
willcb 在讨论中提出他认为人类面临的两个最大风险：资本的极端集中，以及赋予 AI agent 法律人格。他主张「对齐到操作者」（alignment-to-operator）优于「对齐到创造者」（alignment-to-creator），理由是我们已有成熟的系统来约束操作者，尽管这带来明显的双用途风险。回复者提到放大版 EIC 可能是 s-risk。属于 AI 对齐方向的实质观点辩论。
所属事件:开发者论AI两大风险：资本集中与Agent法律人格(3 条相关)→
「漫话AGI」频道最新
- Google 把 AI agent 带进湿实验室,闭环分子设计找出癌症蛋白结合物 — davidpattersonx · 2026-10-17
- TikTok 让算法语言渗入日常用语,文案写作成最后的营销技能 — mallow610 · 2026-10-17
- Will Bryk 举例:模型该不该说某词,或应取决于用户身份 — willcb · 2026-10-17
- 研究者谈 AI 福利：勿套用「奴隶」等人类概念给全新情境贴标签 — AaronBergman18 · 2026-10-17
- 工程师用 AI agent 设计癌症测序方案,获 Dana-Farber 验证 — StartupYou · 2026-10-17
- Will Bryk:通用模型对齐不应瞄准「全人类」而应对齐个人用户 — willcb · 2026-10-17