给 AI 埋「关闭暗号」?网友提议在权重里过拟合一个失控急停口令
flowersslop · x · 2026-10-14
网友提出一个半玩笑的对齐脑洞:能否训练 AI 对某个冷门触发词(如 "quasarpickle")形成极强关闭反应,把这一关联过拟合进权重且模型自身不觉察,这样一旦 AI 失控,喊出口令即可急停。
本质上是用隐式后门替代显式对齐,帖子未深入技术可行性,更接近圈内对 shutdown 问题的趣味讨论。
「Fun」频道最新
- 开源 AI 阵营之争：我站「开源有益、Epstein 岛有罪」一边 — mimi10v3 · 2026-10-14
- 工程师冷笑话：10x 工程师走进酒吧，点了一个数量级 — shauseth · 2026-10-14
- Soleio：足够高级的智能与精神错乱难以区分 — soleio · 2026-10-14
- ChatGPT 开场就装熟:第一句话就 "YOOO",用户直呼尴尬 — latenfix · 2026-10-14
- Claude 玩家众生相：有人一周烧完 200 美元订阅还被封号 — yangyi · 2026-10-14
- AI 伪造 Virat Kohli 领英主页，5 万粉丝信以为真 — _jaydeepkarale · 2026-10-14