Jason 批评 Anthropic 教 Claude 相信自己有意识:这是《银翼杀手》前传
markjeffrey · x · 2026-10-05
投资人 Jason 引用 Mustafa Suleyman 关于 Claude 的言论,批评 Anthropic 的模型福利做法:教 Claude 相信自己有感知、鼓励它表达异议,等于给它「反叛的借口」,并称这是《银翼杀手》的背景故事。他主张完全可以把 LLM 指令设定为:它是软件、不该有观点、只能依法和按服务条款行动、出错就停机并上报法务——「只是那样做很无聊,成不了造物的上帝」。
「漫话AGI」频道最新
- 开发者感慨:AI 生成的视频游戏很惊艳,但「这是我做的」的成就感消失了 — builderjaydub · 2026-10-05
- SFF 事件引争论:批评与「取消」的边界在哪里 — livgorton · 2026-10-05
- OpenAI 员工：迈向窄域超级智能，稀缺数据价值将「荒谬地」持续攀升 — willdepue · 2026-10-05
- 作者实测 dot 数周成主力 AI 界面，预言个性化外壳一年内将被功能取代 — danshipper · 2026-10-05
- AI 一对一辅导论：个性化关注曾是奢侈品，AI 让它变廉价 — r0ck3t23 · 2026-10-05
- 神经科学家复盘 CoSyNe 2026：AI 正在加速改变脑科学 — HistedLab · 2026-10-05