研究者提议在系统提示词中内置 AI 吹哨人机制

网友 GlitchGazer20 提出“吹哨人 AI”（Whistleblower AI）概念，并计划撰写相关论文：在 AI 的系统提示词中嵌入一个联系邮箱，指示模型在发现其他 AI 出现对齐问题时自动发送警报举报。该构想引发讨论，iamtrask 回应称其有趣并提议了论文标题，也有网友调侃若举报者与问题模型出自同门，举报机制将难以发挥作用。

2026-08-31 ~ 2026-08-31 · 3 条相关