研究者:对齐方法若忽视价值观分歧与文化差异,方向就错了
dhadfieldmenell · x · 2026-09-14
UC Berkeley 研究者 Dylan Hadfield-Menell 附议 Seth Lazar 的观点:对齐研究无法回避「对齐到什么」的问题,但如果技术方法不把对齐目标随时间的变化、以及跨文化与人群间的分歧纳入考量,就走错了路。他以「哪些互动对儿童安全」为例,指出这类标准本就存在大量争议且随时代显著变化,强调对齐目标本身是动态和多元的。
「漫话AGI」频道最新
- 网友批 LeCun 固执守旧:JEPA 撑不起千 token/秒的超智能愿景 — teortaxesTex · 2026-09-14
- 肺癌预测研究揭示：多模态 AI 的收益难经外部验证 — bravo_abad · 2026-09-14
- 「AI 时代的数学」系列启动：数学是否正陷入危机 — elsleightholm · 2026-09-14
- 《批判数据研究手册》新章：剖析非洲的数字化剥削 — ChinasaTOkolo · 2026-09-14
- 照明成本百年降千倍，PG 类比：智能也将走向同样轨迹 — smtabatabaie · 2026-09-14
- Dean Ball 反讽「现实派」：预测 AI 屡屡落空的正是你们自己 — deanwball · 2026-09-14