密歇根学者：AI 向善项目为何失败，监管不能靠厂商自律
benzevgreen · x · 2026-10-16
密歇根大学信息与公共政策助理教授 Ben Green 做客 The Data & AI Chief 播客（第 147 期），讨论设计良好的算法为何仍会伤害其本应帮助的人群。
核心观点
- 外包思考的隐性代价：学生用 AI 轻松完成作业却在考试中落后——强大的 AI 并不会自动让人变得更擅长工作。
- 「算法在环」取代「人在环」：他认为 human-in-the-loop 实际把人边缘化，应反转为 algorithm-in-the-loop，让 AI 仅为人类决策者提供支持。
- 波士顿 EMS 案例：他被请去缩短救护车响应时间，发现真正根源是无家可归与精神健康类呼叫，最终促成组建专门应对团队——先问对问题比直接上算法更重要。
- 数据科学家最被低估的技能是提问：提问既建立利益相关方信任，也带来理解问题所需的谦逊。
- AI 公司无法自我监管：他称自愿性 AI 安全承诺只是公关动作，主张法律责任、部署前测试等实质监管。
附言：数据科学家判断系统好坏的标准，与实际影响之间存在相当脆弱的联系。
「漫话AGI」频道最新
- 分析师警告:AI 冲击下 50 岁以下消费者 10 万亿美元债务是银行隐患 — churchkey · 2026-10-16
- 美国国家实验室科学家出题，AI agent 基准 Into the Unknown 发布 — Jeande_d · 2026-10-16
- 未来开会的将是彼此的 AI，没有 AI 代理的人将失去竞争力 — danfaggella · 2026-10-16
- 投资人预测:一年内模型全面强 2-3 倍、成本降 10 倍,token 用量涨 10-20 倍 — DeryaTR_ · 2026-10-16
- 研究员:AI 将替我们发现很多东西,但足球战术百年内依然精彩 — natanielruizg · 2026-10-16
- MIT 教授 Buehler：超级智能科研伙伴与可执行论文的 AI4Science 愿景 — CatAstro_Piyush · 2026-10-16