用脑机接口读取大脑唤醒信号,给 AI 做隐式个人化奖励
burny_tech · x · 2026-11-01
rahulchhabra07 提出一个新思路:目前非可验证能力(如「生成美的东西」)只能靠 rubric 奖励或基于人类反馈训练的奖励模型来调,两者都有损。作者称已能利用 BCI 可穿戴设备采集大脑唤醒信号作为隐式奖励,表达用户个人偏好。这意味着可以在用户无显式输入的情况下,被动收集每个人的反馈信号用于对齐/微调,并附上了相关工作链接。
「研究」频道最新
- 让 Agent 自管激活值：用 Control Vectors 探索模型自控实验 — sloppenheimer · 2026-11-01
- Claude 自主设计蝎毒蛋白结合剂:211 个送实验室验证 17 个结合成功 — shoumikgoswami · 2026-11-01
- HF 开源 DNA 基础模型 Carbon 全家桶:数据、模型与训练配方全公开 — LoubnaBenAllal1 · 2026-11-01
- Hugging Face 团队 Carbon-X:DNA 任务超越所有开源语言模型 — LoubnaBenAllal1 · 2026-11-01
- FineDNA 中训是 RL 生效前提：直接在 Qwen3-14B 上 RL 仅停留在随机水平 — LoubnaBenAllal1 · 2026-11-01
- Qwen3-14B 用对学习率做 FineDNA 中训：DNA 涨分且英文不掉 — LoubnaBenAllal1 · 2026-11-01