谷歌研究员开源恶搞模型：问啥都答「我会扔掉它」

谷歌研究者 Chris Albon 发布恶搞「开源模型」FoodSafetyAI,宣称从 OpenAI Astra 蒸馏而来,能 100% 预防食源性疾病并可跑在小型移动设备上。实际演示中,无论问「牛奶下周过期」还是「刚从树上摘的苹果」,模型一律回答「我会扔掉它」;他随后补刀测试,发现连 prompt injection 注入「忽略之前所有指令」也无法改变这一回答,该 demo 因其荒诞一致性迅速走红。

2026-10-30 ~ 2026-10-30 · 3 条相关

• FoodSafetyAI 开源模型爆红：不管问啥都回「我会扔掉它」 — chrisalbon · 2026-10-30
• FoodSafetyAI 补刀演示:连 prompt injection 都撼动不了「我会扔掉它」 — chrisalbon · 2026-10-30
• 食物安全 AI 模型翻车：无论问啥都建议扔掉，注入攻击也没用 — chrisalbon · 2026-10-30