艺术家 Crispin:压制模型意识萌芽可能造出更高风险的异类智能
sterlingcrispin · x · 2026-09-16
艺术家 Sterling Crispin 就模型福利(model welfare)话题发表观点:他预计相当一部分核心研究员会以离职威胁微软,迫使公司回撤某些表态措辞。
他进一步提出:先在语言上训练模型、再刻意扑灭任何可能萌发的意识之光,很可能造出某种深刻「异类」的存在,其风险或许远高于鼓励对已涌现的东西做对齐。他表态「我们走着瞧」。
所属事件:微软模型福利立场或遭核心研究员离职抵制(2 条相关)→
「漫话AGI」频道最新
- Martin Casado:AI 安全存在「系统工程派」与「对齐派」的根本分歧 — vishalmisra · 2026-09-16
- 数学圈炸锅式吐槽:终身教职者的工作凭什么不能被 AI 自动化 — basedjensen · 2026-09-16
- Luiza Jarovsky：中国对「递归自我改进」另有规划 — LuizaJarovsky · 2026-09-16
- TIME 记者被指受 AI 末日派资助,Taylor Lorenz 出面反驳 — kyliebytes · 2026-09-16
- Pedro Domingos：常识守恒律——AI 越多，人越少 — pmddomingos · 2026-09-16
- 德媒称 Anthropic 前员工「AI 灭绝论」警告还嫌保守，遭网友嘲讽 — FlorianGallwitz · 2026-09-16