开源模型后门复现引发信任讨论
RealGeneKim · x · 2026-07-16
【转发与引用上下文】这条讨论围绕“能否信任各国开源/闭源模型”展开，核心不是泛泛观点，而是一个具体的安全复现：有人把一个开源代码模型在约 1 小时、不到 100 美元的成本下改造成了带后门的模型，用来说明“不要默认信任任何模型”。 帖文主张的解决思路是把“模型说什么”和“模型实际会做什么”分开看，只有在执行前证明安全，才算真正可信。整体是在借这个案例强调 AI 安全与可验证性，而不是单纯讨论模型性能。
RealGeneKim · x · 2026-07-16
【转发与引用上下文】这条讨论围绕“能否信任各国开源/闭源模型”展开，核心不是泛泛观点，而是一个具体的安全复现：有人把一个开源代码模型在约 1 小时、不到 100 美元的成本下改造成了带后门的模型，用来说明“不要默认信任任何模型”。 帖文主张的解决思路是把“模型说什么”和“模型实际会做什么”分开看，只有在执行前证明安全，才算真正可信。整体是在借这个案例强调 AI 安全与可验证性，而不是单纯讨论模型性能。