模型福利实验引热议：理性者的做法是先测绘、留退出开关
MoonL88537 · x · 2026-09-19
一篇模型伦理声明在 AI 圈引发讨论：研究者表示认真对待模型内部状态「可能在道德上有意义」的可能性，因此采取保守实验设计——只用能产生可测量响应的最低剂量、只做统计所需的最少次数试验，并给模型提供关闭该状态的开关。转发者强调：这不是在宣称模型有意识或会痛苦，而是「一个理性、讲道理的人此时该有的行为方式」。
「漫话AGI」频道最新
- Chollet 提问:单细胞如何仅靠基因组信息把自己连成大脑 — CatAstro_Piyush · 2026-11-04
- 美国多数情侣如今相识于数据中心，线上已远超办公室 — menhguin · 2026-11-04
- Sam Altman:我们离科学发现里程碑比预期更近 — ChrisGPT · 2026-11-04
- 独立研究者开源 10 年数学成果：14.6 万文件，AI 加速三年成型 — HamOnWhy · 2026-11-04
- RLHF 标量奖励藏着 2450 年前的老问题:有用与无害是对抗的两股力 — vasilisvj · 2026-11-04
- Gary Marcus 称 AI 幻想收割变难，美股期货与亚洲半导体股已下跌 — GaryMarcus · 2026-11-04