构建高价值 AI 系统前：先禁止 AI 写代码

aryanXmahajan · x · 2026-08-22

作者分享了一个在构建高风险 AI 系统前的关键步骤：明确告诉 LLM 不要构建任何东西，而是将其作为“思考伙伴”进行推演。由于模型训练奖励的是自信完整的输出而非承认无知，直接让 AI 构建系统会导致它在不理解细节时瞎猜，最终产生看似专业实则错误的输出（如用 regex 代替 prompt 应做的事）。先让 AI 走一遍逻辑，能帮作者在交付前发现虚假假设和逻辑漏洞。