RichardMCNgo：为何无需留在 AGI 实验室做安全研究
nitarshan · x · 2026-08-27
RichardMCNgo 发起讨论，认为 AI 安全从业者无需为了做研究、获得影响力、发出警告或实施防护措施而留在 Anthropic/OpenAI/DeepMind 等顶尖 AGI 实验室。他指出，利用公开模型也能做扩展智能的研究；高压环境下难以进行创造性思考且难以发挥影响力；预警将越来越多；增强能力只会加剧“坏蛋”叙事；防护措施会有大量新人接手。
所属事件:前OpenAI员工Ngo：实验室员工不应做意识形态齿轮(6 条相关)→
「漫话AGI」频道最新
- 首次在野外发现恶意 AI agent 集群，竟来自腾讯评测团队 — chrisrohlf · 2026-10-16
- 马里兰大学哲学系招聘 AI 伦理与心灵哲学两教职 — sethlazar · 2026-10-16
- Dwarkesh 转述：Anthropic 内部预计 9 个月内 AI 比肩人类 AI 研究员 — ZeroStateReflex · 2026-10-16
- 密歇根学者：AI 向善项目为何失败，监管不能靠厂商自律 — benzevgreen · 2026-10-16
- Sara Dietschy 感叹：AI 模型、商业模式、团队、服务商，一切皆是对齐问题 — saranormous · 2026-10-16
- David Brin：LLM 缺乏进化产物中关键的「欲望」能力 — cccalum · 2026-10-16