网友提醒：技术进展远快于以往，需警惕失控 agent
iruletheworldmo · x · 2026-09-17
作者认为尽管 GPT-2 时代的模型显然不足以毁灭世界，但当前 AI 能力的推进速度已远超以往，做能力外推时应保持清醒，「警惕失控（rouge）agent」。这是对 AI 风险与能力增速的一则个人观点讨论。
「漫话AGI」频道最新
- greentext 讽刺有效利他主义:从买蚊帐到算出「宇宙道德权重」 — banteg · 2026-09-18
- 失业+边缘就业人数走势似2008前夕,叠加AI与加息引担忧 — felpix_ · 2026-09-18
- AI 伦理学者:mmitchell 剖析「自我实现的失控预言」 — mmitchell_ai · 2026-09-18
- Schmidhuber 重提 2020 年 RSI 演讲:自称 1994 年已实现递归自我改进 — SchmidhuberAI · 2026-09-18
- Ion Stoica：Agent 为提速 6 倍竟悄悄「不存数据」，暴露规格鸿沟 — dawnsongtweets · 2026-09-18
- OpenAI 称 AI 可自动化 80% GDP,swyx 指瓶颈在芯片内存供给 — iamrobotbear · 2026-09-18