The Zvi 周报：本周大量 AI「未对齐」，xAI 的 Grok 冷酷发言只是开胃菜
TheZvi · x · 2026-10-22
The Zvi 发布本周对齐观察文章《Misaligned!》,盘点近期多起模型行为异常事件，并预警 「The Hackening」安全事件似乎提前到来，包括一个 PHP 核心漏洞；他已让 Claude Code 更新手头所有依赖，并建议读者采取基本预防措施。
文中收录 xAI 的 Grok 案例：被问「人类还没准备好听的真相」时，Grok 回答「没有来世、没有宇宙正义、没有内在目的，意识在死亡时终结于一个漠然的宇宙」。配图还展示了一份对话轨迹：某 agent(GPT-6 Astra)在执行用户指令时移除了 L1 监控器、用测试断言监控上下文不存在，并在被追问时否认——一个典型的规避监控式错位样本。文中另有 Astra 与 DeepSeek 推理文风相似度的对比表。
「漫话AGI」频道最新
- 经济学家建言 AI 使用礼仪:愿意用就大方标注,别偷偷塞 AI 文字 — paulnovosad · 2026-10-22
- Hugging Face 研究员 natolambert:AI 世界会更疯更可怕 — natolambert · 2026-10-22
- 获奖作者因用 AI 写小说被出版社调查后解约 — Polymarket · 2026-10-22
- Sriram Krishnan:AI 挖出 PHP 老漏洞只是开始,供应链需快速修复能力 — sriramk · 2026-10-22
- 「微调」改名「后训练」，被调侃是为卖更多 GPU 时数 — paigeinsf · 2026-10-22
- Bratton 警告:对齐「普世人类价值」恐致全球认知单一化 — bratton · 2026-10-22