KAIST 团队主张「知识与智能分离」，破解 LLM 可信难题

coallaoh · x · 2026-08-18

作者（coallaoh）在讨论中提出：参数化模型的先天能力与根本局限需要更多研究，且需要研究与人在环的更好交互接口——不同领域（如编码 agent 与临床助手）出错代价不同，人机分工的边界也应随领域移动。

其所在的 Scalable Trustworthy AI 研究组（2026 年 2 月迁至 KAIST AI）提出「知识与智能分离」路线：类比 1960 年代的代码-数据分离，将知识存储在可解释、可编辑的外部模块中，而模型只保留推理与泛化能力，从而实现快速定制、训练数据溯源，以及知识编辑与「遗忘」（unlearning），解决 LLM 幻觉、持续学习失败、GDPR 合规难、参数隐私泄露等可信性问题。研究范围涵盖 RAG 与向量数据库、记忆增强架构、多模态、人机交互、专家在环、Agent、隐私安全等。