两位数学家一年未发表成果喂给 AI 编程工具,训练与否无法验证
Scobleizer · x · 2026-09-10
Babak 发文《Own Your Models. Own Your IP.》主张:企业可以继续使用前沿闭源模型,但「数据训练自己的 agent、agent 越用越懂业务」的闭环,应放在自己掌控的模型上。
核心案例:两位数学家把一年的未发表工作交给某个 AI 编程工具,事后追问是否被用于训练模型,能得到的最可靠答复只是「不太可能,但无法排除」。Scoble 转发评论称:没有人做错什么,但一个无法验证的承诺不能算控制措施——企业应对数据主权问题保持警觉。
所属事件:纳维-斯托克斯争议引热议：AI 聚合人类思想，署名成难题(4 条相关)→
「漫话AGI」频道最新
- 前 Meta 研究员引《深渊上的火》类比失控 AI 逃逸风险 — seanwbren · 2026-09-10
- AI 圈脑洞：用卫星钴弹设「死人开关」威慑邪恶 AGI，遭反驳可能误爆 — tszzl · 2026-09-10
- OpenAI 员工谈安全：10 亿周活用户的责任「没有人在这里掉以轻心」 — Scobleizer · 2026-09-10
- 前 Meta AI 研究员警告：OpenAI 不对齐 agent 集群可瘫痪整个国家 — Polymarket · 2026-09-10
- 前 Meta AI 研究员警告：未对齐 agent 集群或「瘫痪整个国家」 — Polymarket · 2026-09-10
- Erik Hoel：AI 让文化成黑暗森林，Anthropic 数学家逼近纳维-斯托克斯 — erikphoel · 2026-09-10