前对齐研究员发起「Ban RSI」集会,抗议 Anthropic 递归自我改进

11 月 19 日上午 11 点,一场名为「Ban RSI」的抗议活动在旧金山 Anthropic 总部外举行,诉求是禁止递归自我改进(recurrent self-improvement),即用 AI 造 AI。前 OpenAI/DeepMind 预测负责人 Daniel Kokotajlo 宣布参加集会,使这一针对 AI 实验室自我改进能力的安全担忧进入公众视野。

2026-11-19 ~ 2026-11-19 · 2 条相关