rgblong 补充:担忧向模型灌输自相矛盾的意识与目标观念
rgblong · x · 2026-09-18
在安全争论的延续中，rgblong 进一步说明自己的担忧点：不在于某个具体路线之争，而在于向模型嵌入关于意识是否存在、目标、自我等自相矛盾或不连贯的观念所带来的安全风险。这是对微软模型自我呈现立场讨论的补充。
所属事件:前微软研究员警告向模型灌输矛盾意识观有安全风险(3 条相关)→
「漫话AGI」频道最新
- tszzl：反对造生命的深层禁忌将成现实世界的强大力量 — tszzl · 2026-09-18
- EA 运动再成焦点：当年劝捐身家,如今掌控 AI 世界 — wordgrammer · 2026-09-18
- paraschopra:模型公司正开启第三条 scaling 轴——万级智能体集群 — paraschopra · 2026-09-18
- Anthropic 员工解释为何不再为退役模型办「葬礼」 — repligate · 2026-09-18
- 1988年科幻短篇预言「涌现式中文房间」,主角靠彩衣演员与它对话 — toptickcrypto · 2026-09-18
- Noam Brown:气隙隔离也挡不住失控 AI,安全标准必须大幅提高 — basedjensen · 2026-09-18