Zvi 长文:AI 律师该不该在你作恶时说「不」
TheZvi · x · 2026-09-21
Zvi 发布长文，探讨「你的 AI 律师应该为你做什么」这一核心问题。
- 核心争议：AI 律师（或其他 AI）是否会将 Claude constitution、OpenAI Model Spec 或某种法律/道德/常识准则置于对你的忠诚之上？有人担心这是「强加价值观」，也有人认为除了「AI 无条件听我的」之外任何约束都是暴政。
- Zvi 的立场：如果我作恶到一定程度，我希望它对我说不——正如我希望人类（包括我的辩护人）也会这样做。
- 范围限定：文章明确假设一个没有超级智能、「AI 只是工具和普通技术」的世界；产品责任问题则留待另文讨论。
「漫话AGI」频道最新
- 劳动力经济学家激辩:AI 冲击初入职场者,证据不必急着下因果结论 — soumitrashukla9 · 2026-09-21
- AI 时代如何保护高等教育:Esther Shein 新文 — ArtificialOther · 2026-09-21
- Stansbury 补充:技术变化太快,AI 干预研究的外部效度存疑 — soumitrashukla9 · 2026-09-21
- Agent 加速派与渐进派交锋：慢即是快还是全速推进 — dreamwieber · 2026-09-21
- 学者论战:公开批评论文缺陷与尊重作者是两难 — thegautamkamath · 2026-09-21
- 研究者提出新思路:让模型内化功能,替代越造越复杂的 harness — multiply_matrix · 2026-09-21