评论称 AI 实验室如同军火商，安全投入缺乏内生动力
gerardsans · x · 2026-09-14
发帖人将 AI 实验室比作军火工业：它们没有动力把"武器"做得安全，反而恰恰相反——自 2023 年以来有充分机会改进却因成本从未行动，出事时只想做生意不想买单。他认为 agent harness 毫无安全性，能全量访问进入上下文的一切，一次简单搜索或 skill 就能像 2022 年的越狱那样劫持整个智能体集群。此评论回应的是"OpenAI 和 Anthropic 需要更强的安全团队"的说法。
所属事件:密码学家呼吁 OpenAI 与 Anthropic 尽快升级安全团队(2 条相关)→
「漫话AGI」频道最新
- StudentBench 研究：AI 家教 GRE 提分追平人类，成本仅 1/918 — gharik · 2026-10-31
- Box CEO：AI 进步曲线近乎垂直，前沿与所有人的差距还在拉大 — rohanpaul_ai · 2026-10-31
- LLM不会模型坍缩,人类文化与灵魂或许会 — generativist · 2026-10-31
- Nina Schick:谁来建造智能、智能如何分配,是我们这代人最关键的问题 — NinaDSchick · 2026-10-31
- Martin Casado:AI 完成 80% 已足够惊艳,没人愿做剩下的 20% — martin_casado · 2026-10-31
- 「人人都得到廉价智能」:一条面包配料表道破 AI 的真实成色 — jsuarez · 2026-10-31