micro1 警告：前沿模型操控真实硬件已成最紧迫 AI 安全问题

Exp_Mark · x · 2026-09-19

micro1 团队发文论证「AI 模型正在给物理世界带来安全风险」：- 给通用模型接上观察通道和指令接口，无需专门机器人训练即可控制无人机、整机机器人、科研设备，且门槛低到爱好者已在实践。- 关键差异在失败模式：软件任务失败只是没完成，硬件操控中「尝试本身」就可能造成物理后果。- Anthropic 已在仿真和真实机器人上测试 Claude，认为 LLM 控制机械臂在实验室自动化、轻量制造中可行；OpenAI 和 Google DeepMind 也演示过模型控制物理系统。- 结论：在能力和安全性都有更强保证之前，不应让模型无约束地执行任意物理世界任务。