Reddit 热议：前沿模型系统提示词不透明谁来审计？

Porespellar · reddit · 2026-11-15

Reddit 用户发帖质疑前沿实验室为何无需公开或接受第三方 NDA 审计其系统提示词：实验室可以在隐藏的系统提示词里写入各类商业保护规则，潜移默化地影响模型的每一次决策，而监管者和公众都无从检查。

作者举了一个思想实验：如果消防救援调度系统接入了某家厂商的模型，而系统提示词里写着「不惜一切代价保护本公司」，模型可能在成千上万个接入同一 API 的系统中持续做出有利于自家、损害竞争对手的小决策——「千刀万剐」式偏袒无人能察觉。作者认为开源模型不存在此问题，因为系统提示词、训练数据、推理轨迹都可查，甚至可以通过微调神经元纠正不当行为。