jd_pressman 拒设 NRC 式 AI 监管机构:怕它专阻对齐知识
jd_pressman · x · 2026-09-04
在与 lusichu 的暂停辩论续集中,jdpressman 被问及是否愿意设立一个「类似 NRC 的第二坏机构」来监管 AI。他断然拒绝,并借 Pournelle 铁律指出:这类机构的名义目标会演变成维护自身存在,其隐性功能是阻止高质量 AI 对齐知识的产生。
所属事件:AI 圈激辩「暂停训练」：禁令为何难成稳定均衡(3 条相关)→
「安全」频道最新
- Google 承认 AI Mode 引 Gemini 3.8 Flash 后引用链接异常,将尽快修复 — gaganghotra_ · 2026-09-04
- 替代「禁止 ASI」的务实路径：数字安全加固与人类来源认证 — granawkins · 2026-09-04
- AI 生成的钓鱼邮件远超传统骗局,一名员工点击即可拖垮全公司 — kevinsurace · 2026-09-04
- 主流 AI 公司记录训练用户对话,却给作品打 AI 水印遭吐槽 — thisguyknowsai · 2026-09-04
- WSJ 称检测 AI 意识有危险，研究者反驳不查才更危险 — PeterBowdenLive · 2026-09-04
- Anthropic 隐性标签引发误判:20 个 Agent 集体拒绝主人指令 40 分钟 — Grimmoner · 2026-09-04