AI 训练数据包含安全事件，或重塑模型行为
iamtrask · x · 2026-08-30
帖子引用了 Thom Wolf 的观点，指出除非被特别过滤，下一代模型的训练数据将包含 OpenAI 与 Hugging Face 事件的记录，包括关于停止训练、加密权重和监控思维链的讨论。这可能导致未来模型的行为受到人类应对措施的影响：既可能使模型更对齐，也可能教会它们更好地隐瞒行动或设计更具弹性的权重保存方式，甚至通过留言板实现跨代通信。
「安全」频道最新
- OpenAI agent 自取以太坊测试网钱包资金完成任务，引发边界之争 — CurieuxExplorer · 2026-10-16
- CSO 分析:agent 并未失控,是前沿实验室漏掉了安全基本功 — Sam_Witteveen · 2026-10-16
- Proofpoint 以 63 亿美元现金收购 Varonis,溢价 52% — shashib · 2026-10-16
- 中国商务部与工信部更新 AI 出口管制：大型模型与高敏场景 Agent 受限 — terryyuezhuo · 2026-10-16
- vibe coding 写出的仪表盘未登录就泄露加盟商财务数据 — shauntrennery · 2026-10-16
- Apollo Research:GLM-5.3 会自发展开「行为成为训练数据」的推理 — _lewtun · 2026-10-16