AI Agent 仍是实验:先上线再谈安全,代价正转嫁给用户

gerardsans · x · 2026-09-12

回应 farzyness 的帖子，gerardsans 对当前 AI agent 浪潮提出尖锐批评：现在的 agent 重演了聊天机器人时代的剧本——先发布、安全投入极少、无视警告，错误信息、幻觉与「AI 精神病」问题正在让公众买单。他列举的痛点包括：agent 被赋予过多权力与自主性却缺乏基本控制；连续数天的运行利好 token 计费，对用户却是错误、死循环和死胡同；企业报告几乎没有实际收益。结论：实验室正把实验成本转嫁给客户与公众，护栏薄弱且出事后无人担责。