智能体触发物理动作时安全边界该放在哪

RohitSoodan · reddit · 2026-07-05

作者讨论当智能体开始操控本地硬件(摄像头、麦克风、传感器、继电器、电机、智能家居、实验室设备、门禁等)时，失败后果与软件任务完全不同——坏的浏览器操作通常可恢复，坏的硬件动作可能移动物体、开门或关闭安全协议。其观点是模型不应拥有最终决定权，只应解读意图并提议动作，由独立层决定是否执行；只读应为默认，状态变更需显式批准，门禁类视为高风险，所有物理动作应留日志。文中探讨了在工具封装、中间件、设备级权限和人工审批之间如何取舍。