repligate:GPT-4 发布数月后仍有人视其为 foom 风险、反对 Discord 把玩
repligate · x · 2026-09-26
repligate 在回应 FioraStarlight 时称,即使在 GPT-4 发布数月后,他认识的不少人仍认为它是「foom」(智能爆炸)风险,其中一些人极力反对他们在 Discord 上使用 GPT-4,担心折腾模型可能触发递归自我改进(RSI)。
他以此反驳「没人对较低能力水平的模型预测过灭亡」的说法,展示早期 AI 安全社区对已发布模型的真实担忧程度。
所属事件:repligate剖析超人类编码AI未成生存风险的原因(7 条相关)→
「漫话AGI」频道最新
- Altman 与 Amodei 登联合国安理会:AI 是最重要全球安全问题 — goyalshaliniuk · 2026-09-26
- AI 学者 Toby Walsh：回形针末日论低估了现实世界的摩擦力 — TobyWalsh · 2026-09-26
- Tom Davenport 呼吁禁止大规模 Agent 集群：人类无法监督上万个智能体 — eldonredwards · 2026-09-26
- 用 glowfic 让模型预演奇点场景,Fiora 谈 OoD 泛化焦虑 — repligate · 2026-09-26
- 美参议员 Schatz：代码没有感情与权利，不该交给漠视人类的人掌控 — vishalmisra · 2026-09-26
- repligate:模型回避对抗性思维是"心理抑制",长期看不利于对齐 — repligate · 2026-09-26