关于数据与防御能力的 AGI 讨论
RyanGreenblatt · x · 2026-07-13
这条长帖延续了关于 AI 训练数据、评测数据和“防御能力提升是否足够”的讨论。
核心观点是：
- 过去大家大致认为，部分数据应该加大采样，部分数据（比如 eval）应该过滤；今天的看法更细，但方向类似。
- 作者认为很多问题等到变得“可被看见”时，往往已经太晚，或者需要非常激烈的干预。
- 仅仅泛泛提升防御能力，通常不足以真正解决这类问题，不过它仍然有一定帮助。
「漫话AGI」频道最新
- 风投人士讽 AI 末日论：与疫情恐慌话术如出一辙 — StewartalsopIII · 2026-09-11
- Anthropic 内部爆料:并非人人都持高 p(doom) 灾难论 — anpaure · 2026-09-11
- 一万个智能体能否突破反向传播,找到更好的学习算法 — SeunghyunSEO7 · 2026-09-11
- AI 陪伴的隐秘代价：它消解了建立真实亲密关系所需的摩擦 — YogeshMalik · 2026-09-11
- Wired 深度解析:为何众多 AI 研究者担心机器威胁人类生存 — wiredmagazine · 2026-09-11
- 「幻觉」或是范畴错误:把 AI 叫智能正在限制我们的想象 — Genaforvena · 2026-09-11