Gary Marcus 认同:大部分代码由 AI 写、没人细查,这很不负责任
GaryMarcus · x · 2026-10-05
知名 AI 批评者 Gary Marcus 转发并认同一段发言:「如今大部分代码由 AI 编写,而人们已不再认真检查……把这么多工作交给 AI 是不负责任的」。
- 背景是 Jacob Coxon(@hilbertspaess)等人在纽约市议会 AI 听证会上作证,Coxon 开场称「我们还不知道如何控制任何 AI 系统」。
- Marcus 一方观点的核心担忧:生成式 AI 参与的代码缺乏充分人工审查,风险被低估。
- 值得注意的是,有回复者指出「无法控制任何 AI」的表述并不准确——AlphaGo、GPS 路由等系统并无失控问题,真正的问题是不知道如何控制生成式 AI。
所属事件:纽约市议会AI听证会:吹哨人警告失控风险并推动外部验证立法(22 条相关)→
「漫话AGI」频道最新
- 离职研究员 Jacob Coxon 在 Anthropic 上市日门口抗议:该禁止 RSI — rohanpaul_ai · 2026-11-20
- Anthropic 门外反 AI 抗议口号「2,4,8,16,别造死亡机器」走红 — JeffLadish · 2026-11-20
- Alex Weng:递归自我改进找到完美模型后,超智能竞赛将转移阵地 — rand_longevity · 2026-11-20
- 研究员 crystallize AI 观点:拒绝把人类当「永恒孩童」的好结局 — wfithian · 2026-11-20
- Domingos 谈 RSI:别忘进化史是长期停滞中的短暂突变 — pmddomingos · 2026-11-20
- 「human」成剑桥年度词,Suleyman 倡导以人为本、服从人类的 AI — TheTuringPost · 2026-11-20