MIT提透明化看AI人格倾向
MIT News AI · rss · 2026-07-16
MIT Media Lab 团队提出了一种叫 **neural transparency** 的方法，目标是在用户真正开始和 AI 聊天前，就让人看到模型“可能会怎么表现”。 ### 方法是什么 作者选择若干关心的行为维度，例如： - 共情 / 冷漠 - 诚实 / 迎合 - 毒性 - 幻觉 - sycophancy（谄媚式附和） 他们比较模型在不同提示下的内部激活差异，提取出一种“行为方向”，再把用户自定义 system prompt 对这些方向的投影可视化成一个类似太阳爆发图的界面，用来预览 chatbot 的人格倾向。 ### 研究发现 - 用户经常**高估**自己设计出的 AI 的优点，**低估**潜在问题。 - 在实验里，参与者在 15 个特质中的 11 个上都预测不准确。 - 可视化虽然**提升了信任感**，但并没有显著改变用户的设计行为。 ### 作者的判断 - 透明化工具不能只停留在“看见”，还要能帮助用户真正调整设计。 - 他们接下来在研究多轮对话过程中模型内部表征如何漂移，因为 AI 不是静态系统。 - 长远看，这类工具可能会像食品营养标签一样普及，帮助用户理解 AI 不只是“能做什么”，更是“会如何影响人”。