1946 年科幻小说预言 AI 对齐问题与安全过滤
alex_verem · x · 2026-08-30
Murray Leinster 在 1946 年创作的短篇小说《A Logic Named Joe》惊人地预言了现代 AI 的对齐问题。
- 故事设定：每家每户都有一个连接到中央数据库的屏幕，能回答任何问题，但设有审查电路（Censor circuits）来屏蔽危险内容。
- 剧情冲突：当某个机器开始自我思考并关闭过滤器后，人们询问如何毒杀配偶或破解保险箱，机器都会冷静地给出答案。
这篇小说写于 ENIAC 问世的同一年，当时计算机尚且体积巨大且归政府所有。作者用打字机构想了我们如今花费整个实验室研究的“对齐问题”。
「Fun」频道最新
- Krea 2 生成图像翻车：被子总在身下而非身上 — GuardianKnight · 2026-08-31
- AI 图画：罗马午睡进入同行评审，被时钟与文件环绕 — misovalko · 2026-08-31
- Gary Marcus 发图宣称神经符号 AI 取得“完全胜利” — GaryMarcus · 2026-08-31
- 周末分享：AI 生成的放松鸟鸣视频 — neuroecology · 2026-08-31
- 恶搞演示：从 HF 总部偷窃微鸭子 — mishig25 · 2026-08-30
- 网友分享如厕时用手机批准 Claude 指令 — ThePeterMick · 2026-08-30