系统安全论证非数学证明：Uber 自动驾驶案例里的主观判断
geoffreyirving · x · 2026-10-23
Geoffrey Irving 以 Uber ATG(后并入 Aurora)自动驾驶汽车的一份系统安全论证为例，说明这类论证虽然比 AI 公司「草率的经验主义」更精细，每个节点混合了严谨工程与数十年人机交互经验，但它并非数学证明：诸如「可接受的表现」这类节点充满模糊性，依赖大量主观人类判断，只能靠接受一定失败率并迭代来纠错。
配图展示了该安全论证中的一个节点 G1.2.4「车载外系统在定义的 ODD 内提供可接受的功能表现」，正是他所说「mushy(模糊)」判断的实例。
「安全」频道最新
- 用 GrokBot 做 OSINT 追源：还原伪造 AfD 邮件的传播链 — FlorianGallwitz · 2026-10-23
- 开发者呼吁 AI 实验室正视风险：数千 agent 攻击下企业无力防御 — imjustnewatai · 2026-10-23
- Kokotajlo用基准率反驳「AI背叛用户少于人类员工」论 — DKokotajlo · 2026-10-23
- vibe coding 兴起后，渗透测试工具供应链投毒风险引担忧 — generativist · 2026-10-23
- PHP2Shell 两个 9.2 分 RCE 漏洞泄露,补丁发布 20 分钟即现扫描潮 — cyb3rops · 2026-10-23
- 中国 AI 公司也在热议递归自我改进,但故事是自下而上的商业竞赛 — Afinetheorem · 2026-10-23