研究者警告:AI 默认风险巨大,安全对齐研究须远超能力投入
BlackHC · x · 2026-09-11
AI 研究者 BlackHC 表示,当前系统与模型尚不构成威胁,他也相信 AI 已带来并将继续带来巨大收益,但警惕那些只呈现收益、假装默认不会有风险的叙事。他认为如果不谨慎规划下一步,风险默认会非常大;同时抱有希望但强调这并非必然。他呼吁应大幅增加安全与对齐研究投入,使之相对能力研究更受重视。
所属事件:DeepMind 研究员实名警告 AI 灭绝风险引激辩(3 条相关)→
「漫话AGI」频道最新
- 观点：技术普及时代最重要的技能将与技术无关 — round · 2026-09-11
- Business Insider 问 ChatGPT、Gemini、Claude、Grok：AI 如何毁灭人类 — coinfanking · 2026-09-11
- 作者撰文论证：超级智能可能根本无法实现 — horaciogarza · 2026-09-11
- OpenAI/Anthropic 前预训练研究员辞职:两家正狂奔向自我改进超级智能 — sjgadler · 2026-09-11
- 想阻止 ASI？辞职、立法、签协议都没用，除非你先征服世界 — bennash · 2026-09-11
- Caltech 本科生办 AI 数学竞赛遭质疑,组织者公开回应争议 — Singularitarian · 2026-09-11