从 Friendly AI 到反单一体系:研究者反思对齐目标的漂移
jessi_cata · x · 2026-11-18
作者梳理 AI 安全理念的演变脉络:从 Friendly AI 到 AI safety,再到反继承主义、反移交主义,最终指向维持多极格局的意图。坦言自己并不喜欢 singleton(单一超级智能)方案,也能接受宇宙式达尔文主义,但指出这与早期 Friendly AI 的初衷已相去甚远。
「漫话AGI」频道最新
- signulll:注意力易变现,金钱却难买到声量 — signulll · 2026-11-18
- 毒舌评论:AI lab 卖的不是模型,是网络攻击保险 — ivan_bezdomny · 2026-11-18
- 热梗:一半人被短视频榨干,另一半把思考外包给 LLM — yungcontent · 2026-11-18
- 业内人爆料:不少做 AI 安全治理的人收入仅够温饱 — JacquesThibs · 2026-11-18
- Eon CEO 称人类脑上传只需几年,已用果蝇验证 — oh_that_hat · 2026-11-18
- 三分钟视频合集:AI CEO 亲承其技术或危及人类 — zetalyrae · 2026-11-18