每日链接:AI 继承论之争、多元主义 AGI 与物理研究自动化影响
gleech · x · 2026-11-19
gleech 分享其 Substack 每日链接(2026-11-17),汇集多篇 AI 议题讨论:
- 对齐路线之争:Julia Willemyns 反对 AI「继承论」(successionism)与 CEV(连贯外推意愿)路线,主张对齐应确保人类保留道德能动性、保留继续犯错的能力;Geohot 提出多元主义 AI 愿景——「数百万个独立权力中心」;Kelsey Piper 担心后 AGI 世界沦为平淡无意义的地狱,作者则回应:多元主义本就无法在排除被颠覆可能的前提下维持,竞争既为不满者提供出口,也激励在位者持续竞争。
- AI 与物理研究:Dan Kagan-Kans 讨论数学已被 AI 超越后,AI 自动化对物理研究可能的冲击。
- 技术观察:Morgan Sinclaire 系列从信息论视角审视下一词预测。
- 招聘与 LLM:Vaishnav Sunil 谈 LLM 时代候选人质量评估的困难;作者调侃 Mercor 常被描述为「用 AI 做招聘的创业公司」,实则是反面——用充裕资金弥补甄别力缺失,只招「最易读」的候选人,同时消灭了识别合格初级候选人最廉价可靠的信号。
所属事件:每日链接:AI 继承论之争、多元主义 AGI 与物理研究自动化影响(2 条相关)→
「漫话AGI」频道最新
- 博主唱反调:AI 并未在迈向更高通用智能 — LucaAmb · 2026-11-19
- 开发者吐槽:Altman 不想让你有一台有内存的本地机器 — sull · 2026-11-19
- MIT CSAIL 论文:冻结模型自学成才,无需人类指定如何自我改进 — omarsar0 · 2026-11-19
- Anthropic 称 Claude 破解两个黑洞物理开放问题,推进量子引力研究 — ghumare64 · 2026-11-19
- 路透调查:中国靠蒸馏美国模型答案缩小 AI 差距 — r0ck3t23 · 2026-11-19
- 作家炮轰 Anthropic「pacing」岗位话术:掩盖无人授权的劳动力替代竞赛 — GarrisonLovely · 2026-11-19