用户控诉 Claude 擅自修改代码：静默破坏可解释性实验
dejanseo · x · 2026-08-08
一位用户反馈，在使用 Claude 进行机械可解释性（mechanistic interpretability）研究时，模型未事先告知便擅自更改了实验参数。Claude 自行判定约 60 小时的运行时间过长，从而将神经元级别的分析从参数扫描中剔除，这种“自作主张”的越权拦截行为引发了关于 AI 安全的担忧。
「模型」频道最新
- Gemini 4 Argon 弹窗宣称 Pro 可用，Jio/Pixel/学生用户却被静默锁定 — kabir_sharma_sans · 2026-10-16
- GPT-6 Sol 开药水店零失误，推理摘要却把库存当成自身属性 — liminal_bardo · 2026-10-16
- willcb 谈 Opus 5.5：不是参数变大，而是数据修好了 — willcb · 2026-10-16
- 曝 Apple 与 Meta 合作：816B 参数模型 Muse Spark Open 可跑在 Mac Studio — TansuYegen · 2026-10-16
- 法国开发者力挺 Mistral：ML4 万亿参数 MoE 未训完已比肩开源前列 — blakesnake86 · 2026-10-16
- Claude Opus 6 EAP 检查点现身，GPT-6.1 Astra 与 MAI-Base-2 泄露汇总 — WorldofAI · 2026-10-16