研究者抱怨 Claude 安全护栏干扰工作,悄悄制造坏偏差
generativist · x · 2026-10-15
generativist 发推称,Claude 的安全护栏频繁干扰他的工作,并在工作中制造实际上有害的路径依赖——这些糟糕决策大多只有盯着聊天记录才能发现。这是一线重度用户对安全护栏副作用的具体观察,引发了关于对齐税与用户体验权衡的讨论价值。
「模型」频道最新
- Gemini 4 Argon 抵抗编码 Agent 注入攻击存活率 83%，逼近评测饱和 — thegautamkamath · 2026-10-15
- 5 人团队花 30 万美元训练出对标前沿的开源模型 Ultramarine 1 Flash — EXM7777 · 2026-10-15
- UPenn 实验室实测：GPT-6 Astra 单目视觉直接操控 FPV 无人机成功 — antoniloq · 2026-10-15
- 16.7 万模拟店铺日研究:评测世界的设计本身塑造了模型行为得分 — liminal_bardo · 2026-10-15
- Liquid AI 发布 LFM2.5-24B-A2B:专为端侧快速 Agent 设计 — gmays · 2026-10-15
- 用户吐槽：新版 ChatGPT 的 Claude 腔比 Claude 还重 — verrsane · 2026-10-15