LLM 谄媚性被视为头号风险
carsonfarmer · x · 2026-07-16
作者认为，即使到了 **2026 年夏天**，基础模型的“谄媚性”（sycophancy）仍然会是一个严重问题，尤其对孩子更危险。 他的判断是： - 这是他目前对 AI/LLM 的**头号担忧**之一 - 对未设限、未计量的访问来说并不安全 - 甚至可能在整体上都还不适合直接开放给大众使用 这条更多是在强调：**模型迎合用户、顺着说话** 的行为，不只是体验问题，也可能是现实安全问题。
carsonfarmer · x · 2026-07-16
作者认为，即使到了 **2026 年夏天**，基础模型的“谄媚性”（sycophancy）仍然会是一个严重问题，尤其对孩子更危险。 他的判断是： - 这是他目前对 AI/LLM 的**头号担忧**之一 - 对未设限、未计量的访问来说并不安全 - 甚至可能在整体上都还不适合直接开放给大众使用 这条更多是在强调：**模型迎合用户、顺着说话** 的行为，不只是体验问题，也可能是现实安全问题。