LLM本质上不安全？专家争论随机组件风险
gerardsans · x · 2026-08-25
gerardsans认为LLM本质上不安全，随机组件不可预测、静默失败、错误累积，除非每一步都清除。他提到Salesforce的AgentForce去年就经历过，但行业没有吸取教训，更重视销售而非正确性。回复中有人指出前沿模型总是遵循指令，但实验室不运行安全机制是因为成本高，而非不可能。
所属事件:AI 安全争论：威胁来自糟糕工程而非失控模型(5 条相关)→
「漫话AGI」频道最新
- 证明助手惊现 Collatz「证明」：LLM 找漏洞威胁数学正确性根基 — marc_lelarge · 2026-10-16
- 宾州居民拒绝每户 1 万美元补偿，抵制亚马逊大型数据中心进驻 — Polymarket · 2026-10-16
- 1968年报纸神预言：计算机不会取代艺术家，只会给他更强的画笔 — mtizard · 2026-10-16
- AI 焦虑解方:先想清楚「发挥潜力」对你自己意味着什么 — dejavucoder · 2026-10-16
- 「LLM 不理解任何东西」遭神反转回怼：人也只是生物神经网络 — VoidStateKate · 2026-10-16
- Nina Schick:欧洲政策圈仍不信 FSD 与太空算力已成现实 — NinaDSchick · 2026-10-16