NielsRogge 引 Ilya 观点:扩展现有 LLM 不会带来质变更不会危及人类
NielsRogge · x · 2026-09-11
- Hugging Face 的 NielsRogge 在与 BlackHC 的争论中提出:未来技术仍将是「扩大预训练+后训练的 LLM」,会带着与当前模型完全相同的局限,不会「拿我们的生命做赌注」。
- 他引用 Ilya Sutskever 的表态:「你真觉得把现有技术 scale up 会导致性能的radical提升吗?我不这么认为」。
- BlackHC 反驳:担忧针对的不是当前技术而是近未来,风险应在太迟之前应对;能力、自主性与失对齐三者都在快速演进。
这是 AI 存在性风险议题的又一次公开交锋:一方认为 scaling 遇天花板、x-risk 被夸大,一方认为监管与对齐并非理所当然、风险可能比预想来得更快。
所属事件:DeepMind 研究员实名警告 AI 存在灭绝风险 引发业界激辩(4 条相关)→
「漫话AGI」频道最新
- Bryan Johnson：AI 让死亡不再必然，人类正孕育新神 — mjdramstead · 2026-09-14
- Chollet 质疑前沿实验室「放缓 AI」提案实为巩固垄断 — mjdramstead · 2026-09-14
- 网友讽刺 Dario：台上喊「放缓前沿」，台下买 5000 亿算力 — mjdramstead · 2026-09-14
- 网友评 Bernie Sanders 提议对 ASI 开发者判 20 年：这是 AI 精神病 — mjdramstead · 2026-09-14
- AI 能生成无限方案，创意工作里「判断力」反而更稀缺 — Single-Hearing1686 · 2026-09-14
- 博主炮轰 Dario 呼吁政府监管 AI:为保利润牺牲开源与自由 — examachine · 2026-09-14