对 ASI 更悲观?他认 ASI 是持续演化系统而非静态体
JacquesThibs · x · 2026-10-21
Jacques Thibs(《The Alignment Problem》相关圈内有影响力的讨论者)解释了他为何比 AI 安全领域(侧重 evals 与 mech interp)的人更悲观:他把 ASI 想象成一个持续演化的系统,而非静态产物——对难题进行极端、持续的自我优化,会让局面远比现有安全评估框架设想的更难应对。这一观点与主流以静态模型评测为抓手的安全研究形成对照。
「漫话AGI」频道最新
- 研究者反驳「AI 网络安全恐慌」：卖防御先造焦虑是老剧本 — gerardsans · 2026-10-23
- Nina Schick：算力不足本身就是巨大的网络与整体安全风险 — NinaDSchick · 2026-10-23
- 投资人观点：AI 若是泡沫，也是最「分裂」的一个 — robleclerc · 2026-10-23
- Chamath：银行将率先用服务条款封杀 AI Agent — nicolechirps · 2026-10-23
- AI 研究者：Claude 替我完成了多年前放弃的繁琐研究任务 — MikePFrank · 2026-10-23
- Sam Altman:AI 应带来文艺复兴而非工业革命 — imjustnewatai · 2026-10-23