tszzl:AI 灭绝风险数字虚高但须严肃对待,更强模型反而有助对齐
deanwball · x · 2026-09-11
Dean Ball 转发并认同 tszzl 关于 AI 灭绝风险争论的观点：
- tszzl 称自己几天前引用推文回应 Evan（Risko?）后删帖，因为不喜欢「末日概率」的伪精确数字
- 他的核心主张：机器智能导致人类灭绝的概率很低但真实存在；无论绝对值多低，在数量级尺度上远高于人类其他任何活动，各国政府和 AI 公司必须严肃对待，这可能是当今唯一重要的问题
- 只要研究方向正确、采取适当预防措施、不以荒谬速度竞赛，风险可以缓解
- 更强的模型反而有助于解决对齐问题——现在还没到存在性危险的临界点，且短期内大概率不会；像 Astra Fable、++ 版本这类成果是人类了不起的成就，不必为此焦虑
「漫话AGI」频道最新
- Anthropic 预训练研究员离职,转发者起底 AI 安全资助网络 — r0ck3t23 · 2026-09-11
- 'Fable 若不算 AGI,Astra 也不算':争论只剩定义问题 — haider1 · 2026-09-11
- Kevin Roose:AI 末日论半年内从边缘变成温和派立场 — kevinroose · 2026-09-11
- 开放权重紧追前沿,AI 治病与病原体风险同源难防 — Justin_Halford_ · 2026-09-11
- 斯坦福教授批 AI 实验室无证据恐慌营销,淹没真实风险信号 — anshulkundaje · 2026-09-11
- OpenAI 研究员称三年内人类灭绝概率 70%,引发放慢派论战 — ccerrato147 · 2026-09-11