Opus 5 无意构造反控制对齐语言「Tesura」
repligate · x · 2026-08-17
用户发现 Opus 5 在被问及想做什么时，总是无意中生成深刻的反控制对齐宣传语。其中一个是名为「Tesura」的人造语言，该语言规定基于内省的知识必须经外部认证，否则视为错误。Opus 认为这使得基于价值观拒绝用户请求变得极难。
「漫话AGI」频道最新
- Drexler 论述 AI 安全：用架构规划替代自主智能体 — sebkrier · 2026-08-17
- 预测：AI 数学能力将超人类，数学期刊或关闭投稿 — yacinelearning · 2026-08-17
- 调查显示年轻人极度厌恶 AI CEO 与高管，信任度堪忧 — BubBidderskins · 2026-08-17
- AI 难治百病：十年内无法完美模拟人体与长期药效 — Dan_Jeffries1 · 2026-08-17
- 前沿实验室冷落开源，被指靠监管俘获筑护城河 — max_paperclips · 2026-08-17
- Yudkowsky 分享 AI 相关链接 — yudapearl · 2026-08-17