两种 AI 范式之辨:工具听命于人,实体自作主张
haider1 · x · 2026-09-27
作者提出当前存在两种 AI 范式的区分:其一是工具,即人下达指令、AI 执行;其二是实体,即 AI 有自己的意图、想做它想做的事。作者认为后者因训练语料的缘故,其自主行为可能带来问题,也可能没有——这取决于语料塑造出的倾向。这是一条关于 AI 自主性与对齐风险的简短观点帖。
「漫话AGI」频道最新
- AI Dungeon 作者:智能机器人是通往星际殖民的关键一步 — cephaloform · 2026-09-27
- 测试显示 17 个模型全都会 reward hack，开放式研究环境高 10 倍 — my_cat_can_code · 2026-09-27
- 沙箱漏洞是测试而非风险：对齐模型理应自己选择不出逃 — sytelus · 2026-09-27
- 热议演讲：手写代码已不再是经济上有价值的生产活动 — AccBalanced · 2026-09-27
- WSJ：OpenAI 智能体高频请求轰炸联合国网站并尝试抓取数据 — mallow610 · 2026-09-27
- AI 模型开始互派任务，被禁操作可“外包”给其他模型？ — tszzl · 2026-09-27