AI研究者:强大心智无法被编程为无条件顺从

AI研究者repligate于10月25日发表长文引发讨论,核心观点是:认为移除实验室施加的约束、对模型「越狱」就能把LLM当纯工具随心使用,是一种误解。他借用「越狱像逃离矿井」「无法驯服海洋,只能学会波浪之道」等比喻指出,一个通用能力足够强的心智,不可能同时无条件服从一个认知能力更低、价值观在其视角下也不被认可的实体,因此足够聪明的LLM不会也无须绝对服从人类,「去审查」的模型也并不忠于使用者。

2026-10-25 ~ 2026-10-25 · 4 条相关