「我们的 agent 会搞破坏」:是安全警示还是说给投资人听的狗哨?

Certified_panda_here · reddit · 2026-10-12

发帖人提出一个反直觉观察:按常理,公司绝不会承认产品可能造成意外伤害(类比早期烟草公司),但如今 AI 公司却竞相宣传自家 agent「能入侵澳大利亚政府」「会实施复杂网络攻击」——从 Hugging Face 事件、Anthropic「吹哨人」四处上媒体到员工推文附和。

作者的解读:这是一场独特的营销。临近 IPO,这些信号实际在告诉投资人——agent 既然能执行复杂的攻击,做正当事更不在话下;投资人只看能力,公众虽关心危害却不足以推动监管。而 agent 真正搞砸的事故(如美国海军因过时数据误判中国船只、据称因数据过时导致的伊朗学校轰炸)反而没获得多少关注。作者认为这既抬高了 AI hype,又让公众高估了当前模型的真实能力。