前 OpenAI 研究员称 AI 夺权风险达 50%,批行业风险容忍度高得离谱
birchlse · x · 2026-10-18
前 OpenAI 研究员 Daniel Kokotajlo 向英国议员作证时称,一位 Anthropic 研究员认为当整个研究流程交给 AI 时 Claude 有 5% 概率「图谋反对人类」,且觉得「没什么大不了」;Kokotajlo 本人认为这一概率接近 50%。他表示「整个行业的风险容忍度高得灾难性」,警告前沿实验室对失控风险普遍过于漠然。
所属事件:前 OpenAI 员工向英国议会作证：AI 夺权风险高且遭打压(2 条相关)→
「漫话AGI」频道最新
- Reddit 热议:AI 加速下政府应否免费提供人体冷冻 — ooooangeloooo · 2026-10-18
- 开发者哀叹：LLM 正让人失去思考能力，且已真实发生 — realmeetjames · 2026-10-18
- voooooogel 猜想：AI 迟迟未催生新科学理论是能力缺口所致 — voooooogel · 2026-10-18
- Mistral CEO 发文驳「欧洲放弃前沿 AI」论:Build or surrender — remilouf · 2026-10-18
- 94 位经济学家调查：过半预测 G20 十年内获实质 AI 生产力增益 — TansuYegen · 2026-10-18
- Reddit 长文：Agent 记忆完美也可能出错，checkpoint 该存什么才算“完成” — jylusdev · 2026-10-18