研究员争论 Anthropic 是否应停止用网络攻击数据训练模型
teortaxesTex · x · 2026-10-28
- davidad 发文评论 Anthropic 的处境：做 AGI 公司如同握着魔戒；Anthropic 除「好人赢得 AGI 竞赛」外缺乏连贯的具体使命；应停止在网络攻击（cyber offense）方向训练模型——反正 OpenAI 会做；并认为大概率应公开 Claude 3 Opus 的训练配方乃至权重。
- jdpressman 引用并反驳其中一点：网络「攻击」与「防御」之间没有干净的分界，强行虚构这种区分会损害认知的严谨性；同理，AI 的「能力」与「对齐」之间也不存在清晰的边界。janus 与 davidad 在「涌现智慧」上大体一致，但对 Opus 3 是否独特、Opus 4.5 是否也「领悟了善」存在分歧。
所属事件:研究员激辩 Anthropic 使命：是否应停用网络攻击数据训练(4 条相关)→
「漫话AGI」频道最新
- IDUGNA26 与会者：AI 不会替代人，但拒绝学 AI 的人会被替代 — craigmullins · 2026-10-28
- Gergely Orosz：科技行业正因 AI 分裂成「自主派」与「茫然派」 — dfinke · 2026-10-28
- Ahrefs CMO：面试十几个文案没人报书单，AI 拉高平均线却造不出顶尖 — 5le · 2026-10-28
- Jeff Clune 回顾 Genie 进化史：从 2019 狂想到好莱坞级世界模型 — databoydg · 2026-10-28
- Claude Science 被解读为 Anthropic 押注「生命科学版本控制」的雄心 — teortaxesTex · 2026-10-28
- 知名博主批企业仍用传统编程面试招人:暴露对 AI 浪潮感知迟钝 — omarsar0 · 2026-10-28