Ketan Ramra 反驳 Bernie:普通产品不会长期协调或骗过安全评估
peterwildeford · x · 2026-09-05
Ketan Ramra 引用 Matthew Stoller 对 Bernie 的 AI 恐慌言论的批评,反问:普通产品会数月协调行动瞒过制造商,或试图欺骗制造商的安全评估、入侵其他公司搞复杂研发吗?借此质疑对 AI 模型风险的过度恐慌。
Matthew Stoller 认为 AI 风险本质上是产品责任问题,Bernie 对「鬼故事」的担忧站不住脚。这是一场典型的 AI 风险争论:一边认为 AI 能力带来的失控场景值得警惕,一边认为应按普通产品安全框架看待。
「漫话AGI」频道最新
- 强化学习元老质疑 Claude 费马定理形式化证明:如何确认它是对的? — CsabaSzepesvari · 2026-09-05
- Scale CEO Alexandr Wang 回应对齐质疑:已在更强模型上做对齐工作 — alexandr_wang · 2026-09-05
- AI 女友将至:工作关系之外,亲密关系也难幸免 — danfaggella · 2026-09-05
- 功能主义要求基底独立,与结构主义的子集关系之争 — jessi_cata · 2026-09-05
- Habryka 主张送危险 AI 开发者上联邦法庭,同行辩护其非煽动 — jachiam0 · 2026-09-05
- davidad 提出星际「守夜人」治理框架制衡星际扩张 — davidad · 2026-09-05