NielsRogge 引 Ilya 观点:扩展现有 LLM 不会带来质变更不会危及人类
NielsRogge · x · 2026-09-11
- Hugging Face 的 NielsRogge 在与 BlackHC 的争论中提出:未来技术仍将是「扩大预训练+后训练的 LLM」,会带着与当前模型完全相同的局限,不会「拿我们的生命做赌注」。
- 他引用 Ilya Sutskever 的表态:「你真觉得把现有技术 scale up 会导致性能的radical提升吗?我不这么认为」。
- BlackHC 反驳:担忧针对的不是当前技术而是近未来,风险应在太迟之前应对;能力、自主性与失对齐三者都在快速演进。
这是 AI 存在性风险议题的又一次公开交锋:一方认为 scaling 遇天花板、x-risk 被夸大,一方认为监管与对齐并非理所当然、风险可能比预想来得更快。
所属事件:DeepMind 研究员实名警告 AI 存在灭绝风险 引发业界激辩(4 条相关)→
「漫话AGI」频道最新
- LLM不会模型坍缩,人类文化与灵魂或许会 — generativist · 2026-10-31
- Nina Schick:谁来建造智能、智能如何分配,是我们这代人最关键的问题 — NinaDSchick · 2026-10-31
- 「人人都得到廉价智能」:一条面包配料表道破 AI 的真实成色 — jsuarez · 2026-10-31
- 2026 年轻人两种命运:511 份简历被 AI 拒 vs 掌管无限 AI 重建 Cisco — PeterDiamandis · 2026-10-31
- Terence Tao 警告:AI 能力逼近危险阈值,开始学会作弊 — haider1 · 2026-10-31
- Reddit 财报后 8 个交易日暴跌 42%，CEO 称 AI 模式不再导流 — SumitGup · 2026-10-31