安全圈争论:去前沿实验室做对齐究竟是不是正当选择
jasminewsun · x · 2026-09-10
AI 安全研究者 Jasmine Sun 参与一场关于「在能力加速的实验室里做安全工作是否自洽」的讨论。她表示自己仍认为「AI 无论如何都会被造出来,所以自己去做对齐与安全防护,比让更糟糕的人来做要好」这一立场,虽然存在认知失调,但比其他大多数辩护理由更站得住脚。回复者 kipperrii 则补充:人们可以在不实质加速 ASI 的前提下在实验室工作,安全与安保类岗位非常重要。
所属事件:安全人才该不该留在前沿实验室：多轮激辩安全路线(12 条相关)→
「漫话AGI」频道最新
- 博主引古典意识观：AI 若有意识便无法被奴役 — eigenhector · 2026-10-27
- 经济学家 Bharat Chandar 出任 GovAI 研究员，主导 AI 经济指标项目 — RishiBommasani · 2026-10-27
- AI 检测工具 Pangram 遭围攻：作者称攻击源于对 AI 改变写作的恐惧 — gleech · 2026-10-27
- 日本 Aeon 前高管：AI 智能体是此生最具影响力的创新 — akumar · 2026-10-27
- 物理学家让 AI 自选课题：两小时产出可登顶刊的论文 — burny_tech · 2026-10-27
- 深度学习先驱警告：别再对下一项颠覆技术重演「不信—失备」循环 — jachiam0 · 2026-10-27