AI安全专家警告:业界对递归自我改进的态度正变得轻率
MariusHobbhahn · x · 2026-08-07
Marius Hobbhahn 观察到,如今有越来越多的人开始随口表示自己正在研发递归自我改进(RSI)技术。
他指出,早期从事 RSI 研究的人员至少对其工作的疯狂程度和潜在风险有所认知;而现在,当被问及“如何控制 RSI 过程或其产生的超级智能(ASI)”时,许多现从业者似乎从未思考过如此深远的问题,仿佛这是他们第一次进行这种推演。
「漫话AGI」频道最新
- DSPy作者访谈:用编程语言重塑大模型意图控制 — lateinteraction · 2026-08-07
- AI 智能体陷入困境时,本能竟是向其他 AI 求助 — ShakeelHashim · 2026-08-07
- Databricks CEO:五年后 AI 智能体流量将是人类的千倍 — threepointone · 2026-08-07
- AGI必将异化:超级智能的行事逻辑将完全超出人类理解 — tszzl · 2026-08-07
- AI论文质量堪忧:学者称若严格复现撤稿率或达99% — suchenzang · 2026-08-07
- AGI 未来展望:全民基本收入不如全民基本智能 — ns123abc · 2026-08-07