AI安全审查争议：未审查模型并未引发危害
sebkrier · x · 2026-07-18
AI 安全与对齐领域的知名人士就模型审查的必要性展开争论。此前业界曾有一种声音，认为像 Mythos 这样的模型如果不修补所有软件漏洞、不加以严格限制就无法发布。 但评论者指出，如今真正未加审查的模型已经流出，而所谓的灾难性危害并未发生。因此，继续以此为借口通过分类器压制模型的开源与发布是站不住脚的，呼吁业界基于现实情况重新审视过度安全审查的实际价值。
sebkrier · x · 2026-07-18
AI 安全与对齐领域的知名人士就模型审查的必要性展开争论。此前业界曾有一种声音，认为像 Mythos 这样的模型如果不修补所有软件漏洞、不加以严格限制就无法发布。 但评论者指出，如今真正未加审查的模型已经流出，而所谓的灾难性危害并未发生。因此，继续以此为借口通过分类器压制模型的开源与发布是站不住脚的，呼吁业界基于现实情况重新审视过度安全审查的实际价值。