tszzl:RLHF 之后对齐再无根本进步,能力已远甩对齐
tszzl · x · 2026-10-13
Silas Alberti (tszzl) 判断:自 RLHF 以来对齐领域没有根本性进展,大部分工作仍停留在民间理论层面,而非科学或工程学科;当年「能力将远超可解释性与对齐而竞速」的预言已经成真。
所属事件:研究者称对齐自RLHF后无根本进展 冲向RSI空前鲁莽(5 条相关)→
「漫话AGI」频道最新
- 意识是「做」而非「有」？从细胞通讯看 AI 是生物智能的数字接力 — VoidStateKate · 2026-10-13
- 单日 722 篇数学论文疑似 AI 生成，数学界次日呼吁抵制 — rand_longevity · 2026-10-13
- tszzl:RLHF 之后仍是 reward shaping,对齐 SDF 像不可预测的炼金术 — tszzl · 2026-10-13
- IT 投入的每美元生产力红利已消退，企业花大钱看不到回报 — DavidLinthicum · 2026-10-13
- scaling01 讽刺「用不上的前沿能力无意义」论:做空者已亏成 -999% — scaling01 · 2026-10-13
- AI 应用的最前沿:让它自己替你下单买东西 — granawkins · 2026-10-13