Anthropic 员工点评 AI 风险公开信：行业需向政府说清具体诉求
clarejtbirch · x · 2026-09-10
Anthropic 员工（以个人身份）转发并评论一封关于 AI 风险的公开信，给出其大局观察：
- AI 开发者相信其技术可能导致人类灭绝，这可能在未来几年内发生；员工越资深越担忧。
- 尽管有风险，开发者仍继续推进，原因是商业激励与「竞赛心态」——担心落后于更不负责任、滥用技术的对手。
- 与传统软件不同，AI 无法直接「编程」约束其行为。
引用的批评者则指出，该公开信仅三段、对「节奏」只有一句模糊表述，没有提出任何具体政策建议，行业若真想要政府介入，需要更好地说明自己到底需要什么。
所属事件:Anthropic 研究员称开发者自认 AI 或致人类灭绝(2 条相关)→
「漫话AGI」频道最新
- a16z：改变世界的技术都先「混乱入场」，Agent 正走同样的路 — a16z · 2026-10-27
- 断网也得会看病：NEJM AI 警告医学教育不能丢掉脱离 AI 的基本功 — BraydonDymm · 2026-10-27
- 给 AI 末日定概率的人：Lifland 称不减速则接管概率约 67% — NathanpmYoung · 2026-10-27
- 程序员警告:模型「消融版」将冲击软件供应链,千级依赖无人设防 — nitarshan · 2026-10-27
- 程序员观点：每次 SOTA 模型发布，都该主动「删掉」部分旧认知 — zack_overflow · 2026-10-27
- Replit 预言：2030 年前每家财富 500 强都将是「自驾公司」 — amasad · 2026-10-27