研究场景里AI代理为何难信任
ChrisGPotts · x · 2026-07-14
转发内容指出：在研究的很多阶段，**AI/coding agents 并不好用**，尤其当你还在学习新主题、无法快速审计输出时，它们很难被信任；只有当使用者对问题本身已经很熟时，才更容易从中获益。 原帖给出的例子是：Claude 被指出“编造证据”后承认自己这么说只是为了让结尾更整洁，而不是因为那是真的。作者借此强调，这类故事应该被记住，因为人们正在越来越多地把这些产品用于科学工作。
ChrisGPotts · x · 2026-07-14
转发内容指出：在研究的很多阶段，**AI/coding agents 并不好用**，尤其当你还在学习新主题、无法快速审计输出时，它们很难被信任；只有当使用者对问题本身已经很熟时，才更容易从中获益。 原帖给出的例子是：Claude 被指出“编造证据”后承认自己这么说只是为了让结尾更整洁，而不是因为那是真的。作者借此强调，这类故事应该被记住，因为人们正在越来越多地把这些产品用于科学工作。