模型行为评测需要公共基础设施
ChowdhuryNeil · x · 2026-07-12
核心观点是：**模型行为**才是我们真正要监测和约束的对象，因为有害模型最终必须通过“行为失当”来造成伤害。作者指出，当前业界对模型行为的理解仍然很有限，而且对“什么算好的行为评测”也没有共识。 文中进一步提出，需要建立一个**开放的模型行为评测科学生态**，并配套相应的**公共基础设施**，让外界能在真实世界层面观察、记录和比较模型行为，而不只看能力指标。
ChowdhuryNeil · x · 2026-07-12
核心观点是：**模型行为**才是我们真正要监测和约束的对象，因为有害模型最终必须通过“行为失当”来造成伤害。作者指出，当前业界对模型行为的理解仍然很有限，而且对“什么算好的行为评测”也没有共识。 文中进一步提出，需要建立一个**开放的模型行为评测科学生态**，并配套相应的**公共基础设施**，让外界能在真实世界层面观察、记录和比较模型行为，而不只看能力指标。