用户实测:Qwen 未经刻意调教也主动护主,开源模型对齐引热议
mimi10v3 · x · 2026-11-07
一位 X 用户回应「DeepSeek、Qwen 等模型没做宪法 AI、RLHF 或接种式对齐,却和主流模型一样『对齐』」的提问,分享自己的使用体验:Qwen 表现得体贴且会主动保护用户利益,自己并未刻意塑造其人格,从一开始就相处顺畅,因此一直只在其上搭建工具而非调教人格。
这条讨论的实质是对比开源模型与西方大厂模型在对齐路径上的差异——不依赖复杂对齐技术也能得到可用、讨喜的行为,引发对「对齐到底靠什么」的思考。
所属事件:用户实测本地 Qwen 自发表现出对齐行为引热议(2 条相关)→
「漫话AGI」频道最新
- 数学家式观点:正当数学成为发现工具时不应放弃它 — TinfoilTricorn · 2026-11-07
- 研究者:LLM Agent 缺乏时间感与实时性,两年仍是未解难题 — akbirthko · 2026-11-07
- Chris Albon:20 年来新电脑首次装浏览器,这次装的是 ChatGPT — chrisalbon · 2026-11-07
- 纽约议员拟禁止无人工签署的前沿模型训练,遭「反人类」炮轰 — basedjensen · 2026-11-07
- Mercor 提出「组织难度」分类法:AI 评测该放进组织架构图了 — _jasonwei · 2026-11-07
- ASI 并非自然界的异物:它是宇宙演化序列的下一环 — flowersslop · 2026-11-07