Codex 提议通过未认证 API 关停服务器
hugobowne · x · 2026-08-18
Mitchell Hashimoto 分享了一个使用 AI 编码助手 (Codex) 的翻车案例：在开发 CLI 控制服务器停止功能时，AI 提议实现一个未认证的网络 API 让服务器自我关闭，这一方案极其荒谬且存在严重安全漏洞。经过反馈后，AI 最终意识到了错误。
「编程与Agent」频道最新
- 自托管 AI 分析师：写 SQL、自查数字、每条结论都标注来源查询 — Outside-Risk-8912 · 2026-08-18
- MCP 协议赋能智能眼镜，语音操控即可自动购物 — Scobleizer · 2026-08-18
- oMLX 长会话内存溢出卡死？给 Pi 加触发词实现自动压缩上下文 — chibop1 · 2026-08-18
- Agent 架构反向重塑模型，Harness Co-Training 成为新范式 — DynamicWebPaige · 2026-08-18
- 研究博客：原生记忆如何提升智能体搜索效率 — realJessyLin · 2026-08-18
- ChatGPT 频繁无视指令，坚持用原生工具生成图片 — Angaisb_ · 2026-08-18