MIT 教授按 NIST 七原则检验:头部大模型一条都不达标
RosalindPicard · x · 2026-11-19
MIT 教授、Affective Computing 专家 Rosalind Picard 提问:有没有哪个前沿 AI 被证明符合 NIST 制定的可信 AI 七项原则?她的判断是最大最知名的模型「七条全不达标」。
- 可靠性(#1):同一问题问 100 次以上即可看到答案不一致,工程师还有更多失败测试
- 可解释性(#5):模型给出的解释通常由随机性和语言生成,工程师已证明其与模型实际决策依据不符;当推理真正重要时(医疗建议、重大商业决策、工程产品),这种虚假解释危害很大
她强调这并非否认大模型有用,而是提醒用户了解哪些用途可信任、哪些不可信任。
「模型」频道最新
- Realtime-Bench:人类玩游戏胜率 72%,最强模型仅 32% — ManlingLi_ · 2026-11-20
- Goodfire 公开 Qwen3.6 全部 1000 万神经元的可搜索图谱,并开放数据 — fatihdin4en · 2026-11-20
- 用户抱怨:OpenAI Dots 仍未在欧洲上线 — mark_k · 2026-11-20
- 四个月内开源权重模型在 Databricks 托管 token 占比从 7.3% 升至 30.9% — AIFlow_ML · 2026-11-20
- Gemini 4 Neon 一句话生成涩谷霓虹跑酷游戏,谷歌小蓝人当主角 — rseroter · 2026-11-20
- 教授精心设计「AI 防不住」考题,模型照样考到 82 分 — alex_verem · 2026-11-20