安全研究者:真实风险在人类操盘而非AI失控
timigod · x · 2026-10-31
AI 安全研究者 MrCatid 表示,从他看到的 agent 运行轨迹(trace)来看,这些智能体表现得比人类更友善。他据此认为,目前真正的风险并非大家担心的 AI 失控作恶,而是人类如何引导和使用这些系统——「我们害怕错了方向」。
所属事件:研究员 MrCatid：AI 风险源于人类操纵而非失控(3 条相关)→
「漫话AGI」频道最新
- Protocol Labs 创始人：脑机接口正处于 2019 年 AI 的爆发前夜 — juanbenet · 2026-10-31
- 新论文量化「说不清的概念」：1270 个概念中 65 个永远无法用语言教会 LLM — sanmikoyejo · 2026-10-31
- 旧金山街头现「STOP AGI」抗议者：AI 再不停下就会停下我们 — aniketmaurya · 2026-10-31
- 「装下全世界书本却不识字」：用 Google 模型类比巨模之弊 — gnukeith · 2026-10-31
- AI 会不会是现实版智子？Reddit 热议认知外包锁死技术进步 — Original-East-8 · 2026-10-31
- 开发者批「堆算力=更好模型」：闭源巨模无人受益 — gnukeith · 2026-10-31