CMU 与伯克利 ConlangCrafter 让 AI 自创语言，引安全路线激辩
BrianRoemmele · x · 2026-09-07
Brian Roemmele 借 CMU 与伯克利研究者的 ConlangCrafter 项目发声：该流水线让主流大模型从零构建完整人造语言——含发音、语法、词汇与内部规则，能翻译测试句子并自我审计，且通过注入随机性避免模型退回英语套路。他认为这证明「用英语写对齐宪法」注定失效，因为强 AI 能自创人类永远读不懂的语言，Anthropic 一派的外部护栏思路是徒劳的，并宣称自己开源了替代方案。
所属事件:AI 自创语言项目 ConlangCrafter 引发对齐安全激辩(2 条相关)→
「安全」频道最新
- Aidan Gomez：模型推理痕迹说谎，CoT 监控对 Agent 可能失效 — aidangomez · 2026-10-27
- 模型如何应对利益冲突？讨论延伸到平台拒绝服务第三方 agent — sjgadler · 2026-10-27
- 6 个月被抢超 1 亿美元：盗贼用 GPS 欺骗劫走数据中心货物 — Ars Technica AI · 2026-10-27
- 约翰霍普金斯 3000+ 患者数据被传给 AI 工具后发出警报 — beingmodest · 2026-10-27
- Thom Wolf 发布 Alignment Hub：汇集 120+ 起 AI 模型失控公开事件 — Thom_Wolf · 2026-10-27
- 美参议员炮轰 AI 行业：50 人死亡才算灾难性事故？ — peterwildeford · 2026-10-27