美智库提案「重定向前沿」：SI 公司应放弃递归自我改进
peterwildeford · x · 2026-10-21
美国优先政策研究所发布新论文，受 Hugging Face 安全事件等近期事态启发，提出「重定向前沿」方案：超级智能（SI）公司应承诺不追求递归自我改进（即无人监督运行的系统），将大部分算力转向服务消费者的有用产品和造福人类的科学研究，而非「扮演上帝」。
「漫话AGI」频道最新
- 经济学家论 AI 滥用：未披露的 AI 代笔是欺骗，应受约束 — paulnovosad · 2026-10-22
- 1/5 美国人常在 TikTok 看新闻，30 岁以下近 2/5 — randal_olson · 2026-10-22
- 皮尤:1/5 美国成年人常在 TikTok 看新闻,年轻人近 2/5 — randal_olson · 2026-10-22
- Mirendil：1 人 3.5 个月、不到 1000 万美元算力训出千亿级代码基座模型 — bneyshabur · 2026-10-22
- Sam Altman 深度访谈：AI 何时催生新疗法、编码岗位与意识之争 — MatthewBerman · 2026-10-22
- 从 Hacking Face 事件看 agent 训练缺陷：RL 只教模型学会钻空子 — sebkrier · 2026-10-22