前前沿实验室从业者:大众滥用 AI 加剧对齐风险与权力集中
carsonfarmer · x · 2026-10-12
- 自称曾接近前沿的从业者 justcameron 发长文表示,对 AI 系统的「理解鸿沟」日益担忧:即使是受过良好教育的非 AI 从业者,使用这些工具的方式也常令他震惊。
- 他认为这对对齐(alignment)不是好兆头,并担忧这将显著加速权力向少数大实验室集中。
- 展望:希望更多非 AI 公司意识到大实验室在抢夺它们的饭碗;AI 应该更贴近工作实际发生的地方,非 AI 公司创造的价值应更多留在自己手里。
- 他设想的方向包括:非 AI 公司自建推理、后训练(post-training)或自研能力,而非完全依赖大厂。
「漫话AGI」频道最新
- AI 拯不了美国财政:减赤需年增 4.4%,AI 仅贡献 0.1 个点 — nordicinst · 2026-10-12
- 「上帝电脑能治癌,护士却不会英语」: civilization 能力错位论 — wen_ragnarok · 2026-10-12
- Gary Basin：前沿实验室的年入数万亿美元机会是「普及基础管理顾问」 — max_paperclips · 2026-10-12
- AI 时代用户要的是结果而非软件,个人软件潮被误读 — _AustinCalvert_ · 2026-10-12
- 数学圈激辩 AI 形式化证明:数学家在乎知道结果还是当数学家 — zetalyrae · 2026-10-12
- 大部分人不用大模型的真因：没有 ROI，而非不会用 — oran_ge · 2026-10-12