Tristan Harris 呼吁把「失控递归自我改进」划为红线
austinc3301 · x · 2026-10-13
Tristan Harris 引用研究者观点指出：各实验室的研究员在私下甚至公开都承认对齐问题尚未解决，在此背景下竞逐递归自我改进（RSI）是史无前例的冒险。Harris 明确表态：在我们没有强有力证据证明已解决控制与对齐挑战之前，「不受控的 RSI」应是一条任何公司都不得跨越的鲜红红线。原帖作者 tszzl 也据此主张需尽快显著放慢前沿研究速度。
「漫话AGI」频道最新
- Musk 称审阅 Grok RL 日志如看超智能在高压下挣扎作答 — nikola_mr64990 · 2026-10-13
- Dario 预测 6-12 个月内 AI 可端到端完成软件工程师大部分工作 — tszzl · 2026-10-13
- React 团队 poteto:写作即思考,我从不让 AI 代笔 — andfanilo · 2026-10-13
- Pedro Domingos：机器学习终将吞噬一切建立在它之上的东西 — pmddomingos · 2026-10-13
- Gary Marcus 断言大 AI 公司没有可行商业模式 — GaryMarcus · 2026-10-13
- Richard Socher出新书:AI最大突破不是聊天机器人,而是自动科学发现 — RichardSocher · 2026-10-13