Kokotajlo:察觉对齐问题的能力很差且将更糟,行业风险巨大
GaryMarcus · x · 2026-10-05
Daniel Kokotajlo 在纽约听证会语境下引用自己的观点:「我们察觉对齐问题的能力本已相当差,而且近期还会大幅恶化」;再叠加行业「快速行动、打破一切」的作风,他认为整个行业正处于巨大风险之中。这是对 AI 代码无人审查议题的延伸警告。
所属事件:Gary Marcus 评纽约听证会：多数AI代码无人审查，该管的是生成式AI(5 条相关)→
「漫话AGI」频道最新
- Rattner 用六张图论证：生产力停滞的美国比谁都更需要 AI — soumitrashukla9 · 2026-10-06
- ICML 论文:语料中的负面 AI 叙事会让模型真的更不对齐 — Michael_D_Moor · 2026-10-06
- 更高的塔换不来飞行:Deutsche 类比称让 AI 顺从造不出心灵 — AlexTensor · 2026-10-06
- 安全研究者警告：GPT-9 的沙箱逃逸能力或将远超想象 — basedjensen · 2026-10-06
- Figma 高管警告：别把思考外包给 AI，警惕老虎机式循环 — bendee983 · 2026-10-06
- 诺奖经济学家 Acemoglu：不干预的话，十年内失业率恐增两倍 — terryyuezhuo · 2026-10-06