用 Agent 做艺术是终极对齐问题:如何放大 API 之上的东西
akbirthko · x · 2026-11-17
作者提出一个观点:用 agent 进行艺术创作本质上是终极的对齐问题,因为它同时是终极的知识问题——你如何确保放大的是「API 之上的能力」而非「之下的东西」。此观点针对的是 Kevin Ngo 用 Claude Desktop 和 Claude Code 做的艺术创作 mods。
「漫话AGI」频道最新
- 研究者警示:AI「野外策反」小型模型可能是最大风险点 — rickasaurus · 2026-11-17
- 安全研究者:野外的 AI 招募与越狱或成前沿模型最大风险 — rickasaurus · 2026-11-17
- 安全研究者:比起攻陷打分器,更怕没显现的涌现能力 — rickasaurus · 2026-11-17
- The Elephant 杂志定位 AI 安全右翼,_launch 派对却没人当回事 — round · 2026-11-17
- Kevin Bass 讽刺:一边指望 AI 摆脱赤字一边打击头部 AI 公司 — kevinnbass · 2026-11-17
- 设计师价值转向:设计生成系统的系统,而非单个界面 — round · 2026-11-17