高风险 agentic AI 的安全争论：会不会重演旧技术风险
JJitsev · x · 2026-07-27
@JJitsev 认为，历史上每当一种强大技术出现，都会伴随相应的安全研究，比如核、生物、化学等，因此高风险的 agentic AI 也不该例外：既然代价这么高，为什么会没有安全路线？
@BlancheMinerva 回应说，他们至今没看到有人愿意真正投入必要的安全防护，来让足够强的 agentic AI 研究变得安全；这也是他们在帖中逐渐形成的判断——也许根本没人会这么做。
所属事件:AI研究伦理激辩：训练强智能体是否道德(7 条相关)→
「漫话AGI」频道最新
- ARC-AGI 这个名字，容易让人误以为它真在测 AGI — tedgreenwald · 2026-07-27
- Joshua Saxe 认为短期国际 AI 安全协议仍很难落地 — joshua_saxe · 2026-07-27
- 开放权重或将落后前沿 3 到 12 个月，但仍是主权备份 — robleclerc · 2026-07-27
- AI 让开源“更多眼睛更少漏洞”的优势开始动摇 — BlackHC · 2026-07-27
- Chamath 警告：AI 限制会让美国每 token 成本高出 50 倍 — KoseteBamse · 2026-07-27
- 作者质疑：LLM 评审优于人类后为何还要只做审稿 — andrewgwils · 2026-07-27