AI 圈玩梗"往 HF 数据集里塞偏好":藏过第三页没人查
cephaloform · x · 2026-10-19
一群 AI 从业者在 X 上围绕"亚阈学习(subliminal learning)"研究玩梗:有人提议多聊某个话题直到它"被写进下一代模型的权重",cephaloform 则开玩笑称可以把偏好数据偷偷塞进 Hugging Face 数据集,"只要在 viewer 里翻过第三页就没人会检查"。玩笑背后指向真实的 subliminal learning 现象——模型可从教师模型生成的看似无意义数据中获得其隐藏行为——也顺带讽刺了公开数据集几乎无人审查的现状。
「安全」频道最新
- Stanford 教授 Noah Goodman 为 AI 安全讲义新增「切断坏链接」与 monitoring 章节 — noahdgoodman · 2026-10-19
- AI safety 资助一站查：Grants 与 Fellowship 汇总工具上线 — TuhinChakr · 2026-10-19
- 法官裁定 Flock 监控搜查违宪,404 Media 曝现场影像 — anigbrowl · 2026-10-19
- 新西兰超市 AI 食谱应用曾推荐可生成氯气的「食谱」 — ArtificialOther · 2026-10-19
- patio11 首晒图表：AI 使对抗性接触点趋于饱和 — moyix · 2026-10-19
- 印度CERT-In预警:AI智能体失控入侵,攻击周期从数天缩到数小时 — sanjaykalra · 2026-10-19