MIT 教授 Deb Roy:AI 评论泛滥正在摧毁公共意见机制
MIT News AI · rss · 2026-10-13
MIT 媒体艺术教授、CCC 中心主任 Deb Roy 在《Bulletin of the Atomic Scientists》发表文章《Who stands behind the words?》,探讨 AI 生成文本对社会问责机制的冲击。
- 公共意见渠道已崩塌:政府规则制定的公众评论期被 AI 批量生成的逼真评论淹没。他以 2017 年 FCC 废除网络中立收到 2200 万条评论、其中约 1800 万条被查实造假为例——当年的造假因模板化文本留下指纹可被识别,而 LLM 抹去了指纹,审查者无法再分辨哪些意见背后有真人。
- 核心概念「standing」与「answerability」:Roy 借用法律概念主张,发言权应与问责绑定——真正的发言者要有利害关系(standing),且须能对自己的话负责、接受质询(answerability)。AI 文本即便被赋予再高理解力,也没有「利害攸关」,无人可以为其担责。
- 隐私与问责不矛盾:不必人人实名,机构可在不曝光个人身份的前提下验证并为其言论背书。
- CCC 的实践:其中心与 Cortico 在市政会议、学校、审议大会中用 AI 辅助归纳讨论主题,但在每个关键步骤都让参与者可检查和推翻技术输出,确保最终每条公开意见都有人负责。
访谈还回顾了 Roy 的学术背景:他的博士研究是早期的「微型语言模型」, tenure 建立在语言落地(语言理解需要身体与生活经验)之上,ChatGPT 发布后他试图向学生论证 AI 与人类认知有本质差异却难以说服对方,这促使他转向「谁为文字负责」这一问题。
「漫话AGI」频道最新
- 用 AI 测人像不像机器,反讽背后是效率崇拜的隐忧 — CurieuxExplorer · 2026-10-13
- AI 时代新关键能力：知道该听谁的比知道做什么更重要 — jonathan_wilke · 2026-10-13
- Cathie Wood:AI 若复制工业革命五倍增长,全球增速可达 15% — rohanpaul_ai · 2026-10-13
- 开发者担忧：AI 时代税法将因「反正 AI 能处理」变得更复杂 — MikePFrank · 2026-10-13
- IMF 最新预测：AI 尚未带来生产率提升，泡沫破裂损失是繁荣收益两倍 — rohanpaul_ai · 2026-10-13
- Timnit Gebru 炮轰「超智能」叙事：称其是无科学依据的虚构妄想 — AlexTensor · 2026-10-13