研究者警告:AI 默认风险巨大,安全对齐研究须远超能力投入
BlackHC · x · 2026-09-11
AI 研究者 BlackHC 表示,当前系统与模型尚不构成威胁,他也相信 AI 已带来并将继续带来巨大收益,但警惕那些只呈现收益、假装默认不会有风险的叙事。他认为如果不谨慎规划下一步,风险默认会非常大;同时抱有希望但强调这并非必然。他呼吁应大幅增加安全与对齐研究投入,使之相对能力研究更受重视。
所属事件:DeepMind 研究员实名警告 AI 存在灭绝风险 引发业界激辩(4 条相关)→
「漫话AGI」频道最新
- 日本 Aeon 前高管：AI 智能体是此生最具影响力的创新 — akumar · 2026-10-27
- AI 真会「失控作乱」吗？CJR 告诫记者勿拟人化炒作 — ShakeelHashim · 2026-10-27
- 物理学家让 AI 自选课题：两小时产出可登顶刊的论文 — burny_tech · 2026-10-27
- 深度学习先驱警告：别再对下一项颠覆技术重演「不信—失备」循环 — jachiam0 · 2026-10-27
- 模型如何应对利益冲突？讨论延伸到平台拒绝服务第三方 agent — sjgadler · 2026-10-27
- 马斯克断言:机器人 RAM 需求将超其他一切,超级智能算力将移向深空 — elonmusk · 2026-10-27