学界人士质疑：AI 安全工作已成加速大实验室的产品工程
j_foerst · x · 2026-11-03
LessWrong 发布长文《What just happened? A retrospective of AI alignment》,回顾对齐研究的历程。Johannes Foerster 转发并评论称:技术上的「AI 安全」工作实质上是产品工作,且已大规模加速并强化了头部实验室的力量(削弱了欧洲的话语权);他质疑学术界、非营利组织、开源社区与政府(尤其英国和欧洲)为何仍在做这类工作,并 @ 了英国 AISI。这一观点正在对齐社区内部引发讨论。
所属事件:学者批评 AI 安全研究已沦为加速大厂的产品工程(3 条相关)→
「漫话AGI」频道最新
- Yacine 补充论据：bitter lesson 决定小模型终将胜出 — yacineMTB · 2026-11-03
- Yacine 预测：小模型将开始超越大模型 — yacineMTB · 2026-11-03
- 前沿 AI 实验室被批「勒索生意」：制造风险再卖安全解药 — Graham_dePenros · 2026-11-03
- ICLR 2027 投稿现 AI 痕迹：逻辑难懂、断言空洞引学者担忧 — IanArawjo · 2026-11-03
- 工程师身份危机：token 军备竞赛与卖铲子的现代江湖骗子 — cnakazawa · 2026-11-03
- 研究者：ResNet/DenseNet 每周被第一性原理重新发明一遍 — code_star · 2026-11-03