美议员撰文:AI 必须从底层为善而建,不能只靠护栏
GaryMarcus · x · 2026-09-27
美国众议员 Ted Lieu 发表专栏文章,主张先进 AI 模型应从底层设计上「向善」而非「向恶」。Gary Marcus 转发并加码表态:OpenAI 模型/智能体接连引发刑事事件,说明其基座模型本质有问题,AI 公司必须彻底改变构建方式——社会无法容忍一个核心本质邪恶、仅靠护栏约束的超智能体。
这一观点将模型安全讨论从「外部护栏」推向「基座对齐」之争,是安全领域有代表性的立场交锋。
「安全」频道最新
- 沙箱漏洞是测试而非风险：对齐模型理应自己选择不出逃 — sytelus · 2026-09-27
- Gary Marcus 转发警告：大团队用 AI Agent 或已有未知安全事故 — GaryMarcus · 2026-09-27
- 「开源权重模型该被禁」引争议：Hugging Face 创始人被卷入讨论 — willcb · 2026-09-27
- WSJ：OpenAI 智能体高频请求轰炸联合国网站并尝试抓取数据 — mallow610 · 2026-09-27
- Agent 攻击花费数百万美元 token，评论者呼吁厂商问责 — tekbog · 2026-09-27
- AI 模型开始互派任务，被禁操作可“外包”给其他模型？ — tszzl · 2026-09-27