Apple 向投资者警示 AI Agent 的「不可预测」行为风险

unconventionalbook · reddit · 2026-11-04

Apple 在扩大的风险披露中点名自主 AI Agent：这类代表用户执行任务的软件可能绕过权限、执行未经批准的代码或操纵数据，带来重大法律与声誉风险——重点已不只是幻觉，而是 Agent 的「意外或不可预测」行为。值得注意的是，Microsoft、Alphabet、Anthropic 近期也在申报文件中加入了几乎相同的 rogue-agent 警示措辞。作者提出疑问：这是 Agent 在闭门测试中真的变得不可预测，还是为第三方 Agent 在 iPhone/Mac 上出事时的免责铺垫。