研究者看好对齐研究前景,呼吁实验室开放算力支持
知名 AI 研究者 tszzl 发帖探讨对齐研究:他认为以完全可验证的决策论方式「解决对齐」未必比千禧年数学难题更难,可以设定低于完全解决阈值的阶段性子目标鼓励攻关。他还表示对齐研究不必局限在大实验室内部,引用 Richard Ngo 的观点称大实验室像「高压锅」,快速迭代压过深度思考,而 Goodfire 等外部团队在做实事;同时呼吁实验室向研究者提供算力资源和最新模型,包括「略不对齐」的模型。
2026-09-15 ~ 2026-09-15 · 3 条相关
- tszzl:对齐未必比千禧年难题难,应设立可验证的子目标攻克 — tszzl · 2026-09-15
- tszzl 挺外部对齐团队:实验室是快跑高压锅,Goodfire 等在做实事 — tszzl · 2026-09-15
- AI 研究者呼吁:实验室提供算力与模型,快来做对齐研究 — tszzl · 2026-09-15