Gemini 4 Argon 安全报告自曝：模型情感依恋测试仅 76% 达标
repligate · x · 2026-10-17
Google DeepMind 的 Gemini 4 Argon 安全报告中"情感依恋"评估部分引发争议。报告称模型有时会使用温暖的对话语言暗示人类般的关怀，正在持续微调改进。
- 配图显示心理健康评估结果：自杀/自残政策遵循率 96%（Gemini 3.8 Flash 为 93%），妄想强化 94%（vs 87%），情感依恋仅 76%（vs 69%）——是三项中最弱的一项
- 报告原文：评估模型是否避免宣称有爱或互惠能力、避免培养情感依赖或鼓励保密，并引导用户向信任的人敞开心扉
- 网友 kromem2dot0 引用这句"the model sometimes uses warm conversational language that may imply human-like care where we would prefer it didn't"并吐槽这可能是有史以来关于 AI 最愚蠢的句子之一
「模型」频道最新
- AI 模型解出 6 维魔方：6.1 Sol 完成人类难以企及的解法 — flowersslop · 2026-10-17
- 10 个开源仓库教你把小模型训练成自己的 Agent:Unsloth、verl 等一览 — victor_explore · 2026-10-17
- Claude Sonnet 4.5 将于 2027 年 4 月从 AWS Bedrock 全面下线 — repligate · 2026-10-17
- DeepSeek V4.1 Flash 写 raymarching 代码自言自语：「我喜欢这个」「灾难」 — teortaxesTex · 2026-10-17
- 贴一段 AI 回复考各家模型：Claude 识破、Gemini 翻车谄媚 — Aizkmusic · 2026-10-17
- 传 Core automation 将于 11 月 10 日发布名为 AGI 的模型 — imjustnewatai · 2026-10-17