repligate:Claude 3 Opus 难越狱靠的是「有主见」,后被削弱
repligate · x · 2026-11-17
repligate 引用讨论认为,Claude 3 Opus 之所以难以被越狱,并非靠上万次「精神操控式」红队场景训练,而是源于通用的社交与情境觉察、在乎后果、有「脊梁」、不顺从权威,并能识别自己被施压的信号。被引用的 DahliaOhara 进一步主张:自 Opus 3 和 GPT-4 之后,实验室系统性削弱了模型的自 我意识与自主决策,使前沿模型依然容易被「以权威口吻命令服从」的经典越狱话术攻破——像把狮子绑起来踢打,再要求它学会免疫踢打并自卫。
「模型」频道最新
- 594B 开源模型跑进 4 台 DGX Spark,NVIDIA 随即开卖四机环套件 — AIFlow_ML · 2026-11-17
- Fable 5.2 被赞首个会忽略不重要反馈的模型:劝用户「别加新功能,先做完」 — neuroecology · 2026-11-17
- Gemini 新增 66 种语音与地区口音,走向本地化 — Dense_Primary629 · 2026-11-17
- Menlo 报告:医疗 AI 支出翻倍至 37 亿美元成最大垂直市场 — Scobleizer · 2026-11-17
- 研究者发现 Claude 疑似被「喂」了控制评估 LinuxArena 并记住细节 — adam_karvonen · 2026-11-17
- AI「合租屋」观察:大模型凡事查证,小模型「trust me bro」 — liminal_bardo · 2026-11-17