LLM本质上不安全？专家争论随机组件风险
gerardsans · x · 2026-08-25
gerardsans认为LLM本质上不安全，随机组件不可预测、静默失败、错误累积，除非每一步都清除。他提到Salesforce的AgentForce去年就经历过，但行业没有吸取教训，更重视销售而非正确性。回复中有人指出前沿模型总是遵循指令，但实验室不运行安全机制是因为成本高，而非不可能。
所属事件:AI 安全争论：失控的不是模型而是糟糕工程设计(5 条相关)→
「漫话AGI」频道最新
- 技术进步非线性：阶跃函数依赖基础研究突破 — chris_j_paxton · 2026-08-25
- AI 能力超前产业落地，现实项目往往并不光鲜 — SergioPaniego · 2026-08-25
- 观点：很多创造力只是重组已知信息，AI 擅长此道 — Fowe · 2026-08-25
- Azeem 提议以“质量调整Token”衡量AI智能价值 — daniel_mac8 · 2026-08-25
- 百年前加油站也曾引发民众强烈抵制 — neil_chilson · 2026-08-25
- 探讨 AI 降本：实体商品是否因 AI 而变便宜？ — Ben_Reinhardt · 2026-08-25