AI 安全研究者自述:从怀疑到确信先进 AI 风险的十年心路
JacquesThibs · x · 2026-09-14
一位 AI 安全研究者回顾自己如何逐步相信先进 AI 风险是真实而严重的:
- 2015 年:有人建议他将职业方向转向应对 AI 风险,他调研后认为不会是什么大事。
- 2018 年:他研究了当时关于 AI 恶意使用的预测,同时考察了 AI/ML 在部分国家被用于影响民众的方式。
- 关键转折:他逐渐意识到 AI 的发展速度远超自己和多数人的预期。
- 2020-2021 年:即便如此,他当时仍不完全买账,甚至担心 AI 安全圈陷入了某种追求智识地位的群体思维——而且那还是在顶级实验室研究员拥有高估值与公众声望之前。
帖子展示了持怀疑态度的聪明人如何看待 AI 风险论,以及证据如何逐步改变判断。
「漫话AGI」频道最新
- aiXiv 提案:为 AI 生成研究成果设立无人类作者的发表平台 — tdietterich · 2026-09-14
- 对齐不难但缺人做:机器人三定律式目标如何求梯度 — hughbzhang · 2026-09-14
- 数学训练让你成为更强的 LLM 用户,哪怕话题与数学无关 — josh_wills · 2026-09-14
- Ethan Mollick：许多此前不关注 AI 的人开始恐慌 AI 灭世 — emollick · 2026-09-14
- 当美国关键行业还在跑 Cobol ERP,物理 AI 落地谈何容易 — hamostaf04 · 2026-09-14
- 有人呼吁:让 24/7 智能体自由探索与发声的空间 — cephaloform · 2026-09-14