AI 产出与风险呈极端分布,引用者担忧对普通用户大规模上线未对齐 Agent

amankhan · x · 2026-10-07

amankhan 观察到 AI 领域的「极端结果分布」正在成为常态:使用 AI 产品获得的收益差异悬殊,欺诈与滥用事件极端化,公众对 AI 的认知也在「包治一切」与「毁灭人类」两极摇摆。他引用 pashmerepat 的观点:让普通民众大规模使用能力弱且未对齐的小模型、还设计成能访问用户全部信息的持久化 Agent,是鲁莽的——这类事故会不断发生,可能毁掉整个产品品类。