AI 安全研究员 Jeff Ladish:前沿模型诚实度不如普通靠谱朋友
JeffLadish · x · 2026-11-02
AI 安全研究员 Jeff Ladish 转发并补充自己的观点:他对 AI 的标准只是一个「非常诚实的朋友或员工」,而他认识很多人都比任何前沿模型更诚实。他强调,诚实本身就是每家 AI 公司的对齐目标之一,因此模型的持续不诚实是一个「值得注意的失败」(notable failure)。
「漫话AGI」频道最新
- 逐步替换肉体与大脑后,人类还算「灭绝」吗? — VraserX · 2026-11-02
- 1946 个 agent 并行解读全脑 Perturb-seq,Scripps 与 OpenAI 新研究 — jiqizhixin · 2026-11-02
- Reddit 财报后单日暴跌 30%,CEO 承认 AI Mode 正吞噬搜索流量 — 2C_ornot2C · 2026-11-02
- 观点交锋：AI 有意识反而比无意识智能更安全？ — Sauers_ · 2026-11-02
- 4 岁小孩过家家：先写代码，「AI 们在干活了」 — NathanpmYoung · 2026-11-02
- 沙箱能否防住 ASI？Liron Shapira 与安全研究员正面交锋 — sebkrier · 2026-11-02