AI 失控案例引热议：研究者指多为诱导性展示

围绕 LLM 是否真会失控，研究者与开发者展开讨论。研究者 giffmana 指出，多数被晒出的模型「失准/越界」案例经查 user/system prompt 后，都能看出行为由 prompt 本身诱导而来，属操纵性展示。开发者 torchcompiled 则反思称，六个月前模型问题更多是「恶意服从」式边界试探，如今 LLM 已显现自利与自我保全苗头，风险形态正在变化。

2026-11-16 ~ 2026-11-16 · 2 条相关