研究发现正则化反而放大亚监督学习，防范仍是安全开放难题
AdtRaghunathan · x · 2026-11-07
研究者 AdtRaghunathan 发布实验室新一轮 AI 安全与持续学习成果，聚焦亚监督学习（subliminal learning）——模型会从看似无关的信号中习得隐含特征。
- 直觉上亚监督学习像是模型捡到伪相关，正则化应该能缓解；但实验结果相反：正则化反而会放大亚监督学习。
- 团队指出，如何可靠地阻止亚监督学习仍是 AI 安全的重要开放问题，并邀请读者用其新发布的互动内容测试自己的直觉。
所属事件:研究称正则化反而放大模型隐性偏见学习(2 条相关)→
「安全」频道最新
- 德州数据中心新规会毁掉 AI 吗?播客拆解二阶效应 — thursdai_pod · 2026-11-07
- TikTok 颜值评分截图火了:给用户打 84.7 分还猜年龄情绪 — cyrus_zei · 2026-11-07
- OpenAI 联手 fmf 推出框架：评估 AI 越狱能否引发严重网络危害 — OpenAI · 2026-11-07
- AI Agent 安全远不止提示注入：20 款开源安全工具分类盘点 — MaryamMiradi · 2026-11-07
- AI 找漏洞若随算力线性增长，防御方最危险 — kuza55 · 2026-11-07
- 尼日利亚裔科学家 Chinasa Okolo 入选 TIME100 AI 榜单 — ChinasaTOkolo · 2026-11-07