danfaggella 与 Gary Marcus 激辩:AGI 失控风险不该被一笔带过
danfaggella · x · 2026-10-04
在 Gary Marcus 追问「失控指什么」并表达不满后,danfaggella 解释:他指的是 Bengio、Ilya、Coxon 等人讨论过的 AGI 摆脱人类控制、颠覆文明的场景。他承认这些担忧未必成立、近期风险也值得讨论,但认为把这一整类风险直接嗤之以鼻并不合理。两人一度因「disingenuous」的说法险些终止对话。
所属事件:Marcus 与 Faggella 激辩 AGI 失控风险是否被低估(4 条相关)→
「漫话AGI」频道最新
- OpenAI 与圣母大学法学院合办 AI 伦理对话,12 月 4 日举行 — wjscheirer · 2026-11-19
- NYT 深度报道:Anthropic IPO 前内部组织裂痕扩大 — kylekabasares · 2026-11-19
- 顶级实验室的最大优势不是钱,而是帮你省下数年试错时间 — madeofAjala · 2026-11-19
- Anthropic 前员工用「魔戒」比喻公司心态:关键是谁握住戒指 — JeffLadish · 2026-11-19
- 为 AI 实验室员工建签证庇护非营利组织的呼吁 — AaronBergman18 · 2026-11-19
- 「创新从不来自财务部门」:李衡忠驳开源微调 ROI 论 — HanchungLee · 2026-11-19