Karpathy:人类将花大量时间理解 LLM 输出,附实操技巧

DavideCrapis · x · 2026-10-02

Karpathy 发帖称,未来我们会花更多时间试图理解语言模型的输出,并分享了一些思考与技巧。其中一条实操经验:让 LLM 用 ASD-STE100 来解释或撰写内容——这是一套最初为航空航天维护文档开发的受控语言规范,对「干净写作」有严格约束,而 LLM 对它非常熟悉,能显著改善输出的表达质量。

转发者补充观点:监控(monitoring)将成为设计和治理这些系统的人类工程师的关键职能——理解模型产出本身就是工程的一部分。