研究警告:AI 聊天机器人给出糟糕健康建议时,无人能追踪损害
alex_verem · x · 2026-10-15
Binghamton、Stanford 等四校研究者在 Nature Health 发表视角论文:聊天机器人给出的错误医疗建议几乎不可能被发现——对话留在平台内、用户无处上报、外部研究者无法测量伤害,作者呼吁建立透明度保障机制。
「漫话AGI」频道最新
- 剑桥讲师开讲「如何避免 AI 脑腐」,警示能力被拉回均值 — MilesCranmer · 2026-10-15
- 非洲不足 0.001% 的人用尽 AI 潜力,月费成最大门槛 — weskambale · 2026-10-15
- 突破文本相关性局限：给模型接几何模拟器实现外部 grounding — gerardsans · 2026-10-15
- 数据掮客以 10 万–200 万美元扫货 SaaS 数据集转卖 AI 实验室 — IgorCarron · 2026-10-15
- 专家意见价值将归零,判断力成超智能时代新护城河 — DeryaTR_ · 2026-10-15
- Box CEO:后台型 Agent 将带来 100-1000 倍 token 消耗 — inductionheads · 2026-10-15