安全圈争论:去前沿实验室做对齐究竟是不是正当选择
jasminewsun · x · 2026-09-10
AI 安全研究者 Jasmine Sun 参与一场关于「在能力加速的实验室里做安全工作是否自洽」的讨论。她表示自己仍认为「AI 无论如何都会被造出来,所以自己去做对齐与安全防护,比让更糟糕的人来做要好」这一立场,虽然存在认知失调,但比其他大多数辩护理由更站得住脚。回复者 kipperrii 则补充:人们可以在不实质加速 ASI 的前提下在实验室工作,安全与安保类岗位非常重要。
所属事件:AI 安全圈激辩：既信风险又留实验室是否自洽(6 条相关)→
「漫话AGI」频道最新
- 研究者批 OpenAI 举报人访谈：该谈 AI 伦理而非 alignment — examachine · 2026-09-10
- 研究者批对齐研究是安全表演:该谈AI伦理而非对齐 — examachine · 2026-09-10
- 博主反驳「软件工程已死」:AI灌入大量烂代码,工程师需求反而更大 — bendee983 · 2026-09-10
- 前 DeepMind/Anthropic 研究员：尚无科学方案解决递归自改进 AI 风险 — harris_edouard · 2026-09-10
- Hugging Face CEO 称高风险就该开放共享,遭网友阴阳讽刺 — Gradio · 2026-09-10
- Zero CoT 时代担忧:下一代模型或能在潜在空间暗中作恶 — teortaxesTex · 2026-09-10