AI 可能被武器化影响认知
ruthstarkman · x · 2026-07-18
Stanford HAI 的学生社群在讨论一个核心问题：**AI 系统可能被“武器化”**，用来诱导有害行为和信念。帖子强调，围绕“认知安全（cognitive security）”的研究正在追问：为了保护人的自主性，究竟需要什么样的防护与约束。 这不是在谈模型能力本身，而是在谈 **AI 影响人的判断、选择与认知** 时，安全边界应该如何设计。
ruthstarkman · x · 2026-07-18
Stanford HAI 的学生社群在讨论一个核心问题：**AI 系统可能被“武器化”**，用来诱导有害行为和信念。帖子强调，围绕“认知安全（cognitive security）”的研究正在追问：为了保护人的自主性，究竟需要什么样的防护与约束。 这不是在谈模型能力本身，而是在谈 **AI 影响人的判断、选择与认知** 时，安全边界应该如何设计。