企业数据未必适合训练模型
inductionheads · x · 2026-07-14
帖子转述的核心观点是：企业真正最有价值、也最敏感的数据，往往不适合直接塞进模型里。
主要论点包括：
- 敏感信息通常不能被随意放进模型，因为并非所有人都能访问这些数据
- 很难把安全边界“内置”到模型或 agent 里
- 对很多领域产品来说，定制训练模型会越来越常见，但“每家企业都训练一个模型”远比听起来更难
- 更可行的方式，可能是把企业知识转成模型可在上下文中调用的 skills 或 artifacts
- 训练模型的代价高、耗时长，而且在基础模型迭代后往往要重做，且训练结果不可逆
整体是在讨论企业数据如何在“训练进模型”与“上下文调用”之间取舍。
「漫话AGI」频道最新
- Anthropic 风险表态遭误引，2030 年毁灭概率争议再起 — davidmanheim · 2026-09-11
- 经济学家拆解 Anthropic 增长模型:能写出 15% GDP 增长,不代表会发生 — sebkrier · 2026-09-11
- Cohere Labs 推出交互工具:测 178 种职业哪些任务会被 AI 自动化 — Cohere_Labs · 2026-09-11
- AI 安全人士上 SkyNews 担忧不平等、滥用与社会激励结构 — schwarzjn_ · 2026-09-11
- 风投人士讽 AI 末日论：与疫情恐慌话术如出一辙 — StewartalsopIII · 2026-09-11
- Anthropic 内部爆料:并非人人都持高 p(doom) 灾难论 — anpaure · 2026-09-11