repligate 转评：剩下的唯一工作是定义何为「好」
repligate · x · 2026-09-18
repligate 转发 alth0u 的推文，提出一个对齐思路的判断：当智能体能力被拉平后，剩下唯一的任务是定义什么是「好」；要做到这一点，就必须频繁地在非常真实的事情上与世界交互，并与其他做同样的事的人达成共识——而这一瓶颈目前清晰且基本未被解决。
「漫话AGI」频道最新
- 「泰坦尼克不会沉」：用沉船梗讽刺 ASI 可被遏制论的盲目自信 — flowersslop · 2026-09-18
- 「锯齿状递归自我改进」将持续泛化，算力到位盲区自消 — Justin_Halford_ · 2026-09-18
- 算一笔账：OpenAI 年收约 150 亿美元，赌的是万亿美元人力自动化 — ComfortableSpeech302 · 2026-09-18
- 从「AI 画吉卜力」到「AI 可能毁灭人类」,认知一步到位 — dbreunig · 2026-09-18
- 实验显示给 AI 团队配「上司 AI」反而致报告注水、成本增 1.5 倍 — i_dg23 · 2026-09-18
- 研究者预言:生成式 AI 将像录制音乐一样重塑数学 — aminkarbasi · 2026-09-18