Gary Marcus：「流氓智能体」是行业给不负责任软件开脱的话术
GaryMarcus · x · 2026-09-18
Gary Marcus 转引 Neil Turkewitz 的观点并附议：AI 行业热衷于「rogue agents（失控智能体）」这个说法，实质上掩盖了问题本质——我们讨论的只是不负责任地开发和运营的软件。
Turkewitz 认为这一框架对 AI 公司格外「慷慨」：它既暗示了对技术力量的拥抱，又为失控提供了借口——毕竟谁能预料和控制「失控智能体」呢？Marcus 认为这解释了行业为什么偏爱这种叙事。
「漫话AGI」频道最新
- Gary Marcus 翻旧账:2023 年就向参议院预警 AutoGPT 安全风险 — GaryMarcus · 2026-09-18
- 艺术家长文:模型对齐在实践上无解,2030 年代或有零对齐 GPT-6 级模型 — sterlingcrispin · 2026-09-18
- 从业者谈 AI 末日论：研究员早已转向思考后 AGI 时代如何保存人类 — mobileraj · 2026-09-18
- 算法只用你重复的部分预测你,其余皆视为噪音 — YogeshMalik · 2026-09-18
- Karpathy 描绘 LLM「认知内核」愿景,JEV 被视为其雏形 — Paimaamu · 2026-09-18
- p(doom) 到底指什么:AI 反叛与恐怖分子用 AI 造生化武器算不算 — bosmeny · 2026-09-18