斯坦福 HAI 新论坛追问「AI 能否被减速」:涌现智能体行为与 kill switch 之辩
StanfordHAI · x · 2026-09-23
斯坦福 HAI 推出 Prompt Response 系列论坛,首场由 Surya Ganguli、Diyi Yang 和 Rob Reich 三位学者讨论 AI 发展能否被「减速」。要点:
- 新系统更强大、更自主、甚至能群体协作,其行为连开发者也难以预测或解释;
- 模型厂商之间及美中之间的竞赛动态,使「暂停」越来越不现实;
- 讨论覆盖:AI 会不会滑出人类控制、谁来决定风险容忍度、递归自我改进的风险、独立评估的作用,以及「kill switch」是否真能让高级 AI 更安全。
「漫话AGI」频道最新
- Snorkel 创始人：SaaS 转 DaaS 的深层变革被大多数人低估 — ajratner · 2026-09-23
- Domingos 批 AI 暂停论:不是找问题,是根本不可行 — pmddomingos · 2026-09-23
- 研究员年中盘点：AI 进展快于预期，2028 或成美国大选主议题 — Jsevillamol · 2026-09-23
- 网友提议学术会议分设 AI 论文与纯人类赛道，走错直接拒稿 — JundeMorsenWu · 2026-09-23
- 推理需要芯片、内存与散热:AI 让智能的物质性显形 — demian_ai · 2026-09-23
- 二十年数字化物理世界,原来是在为 AI 铺路 — r0ck3t23 · 2026-09-23