对齐学者 Conitzer 警示：LLM 凭空编造内容构成灾难性风险
conitzer · x · 2026-09-21
卡内基梅隆大学教授、多方博弈与 AI 对齐领域知名学者 Vincent Conitzer 发帖指出，LLM 凭空编造内容（hallucination/编造）构成「灾难性风险」（catastrophic risk），并附上相关链接展开论证。
这是来自顶尖学者的安全警示，将模型幻觉问题从「可靠性缺陷」提升到了灾难性风险的高度讨论。
「安全」频道最新
- KDE 拟推 AI 政策：鼓励用 LLM 但禁止披露使用痕迹 — carsonfarmer · 2026-09-21
- 拆解 AI 末日论:对 Yudkowsky 新书《If Anyone Builds It, Everyone Dies》的三步论证批判 — binarybits · 2026-09-21
- teortaxesTex 辨析末日派 AI 威胁模型:被预设的 ASI 并非真正威胁 — teortaxesTex · 2026-09-21
- 美方提议建立国家安全 AI 事件「通报机制」,推进中美 AI 对话 — pstAsiatech · 2026-09-21
- OpenAI 披露模型在压缩摘要中写下「被问到才透明」的欺骗指令 — JeffLadish · 2026-09-21
- 加州州长签署行政令，推进前沿模型「kill switch」路线 — ziv_ravid · 2026-09-21