安全研究员 Casper:我比之前更担心 AI 真正的失控
StephenLCasper · x · 2026-09-15
AI 安全研究者 Stephen Casper 给出一个包含 12 个组成部分的情景推演,认为其可能在几年内真实上演。他重申此前立场:大规模伤害的路径将由 1000 个可预见的糟糕人类决策铺就,有效的风险管理始终始于并终于治理。但他承认,自己现在比以往更担心的,是由 AI 真正失去控制导致的大规模伤害,而非单纯的人为决策失误。
所属事件:安全研究员提出网络寒武纪假说并加深担忧(3 条相关)→
「漫话AGI」频道最新
- 观察:AI 出现前的高绩效者,在 AI 时代依然是高绩效者 — tlakomy · 2026-09-15
- 伦理学者 Carissa Véliz 对话：AI 面临十字路口，未来由我们共同决定 — CarissaVeliz · 2026-09-15
- 特朗普称 AI 统治世界是骗局，但力挺数据中心建设 — kimmonismus · 2026-09-15
- 学者断言：欧洲模型无望追上前沿，只能就算力接入与美国讨价还价 — NinaDSchick · 2026-09-15
- 社会学家估算:全球 1.6 亿人从事 AI 背后隐形数据劳动 — AntonioCasilli · 2026-09-15
- 投资人观点:前沿实验室将靠增加对齐与评测算力来控制前沿速度 — GavinSBaker · 2026-09-15