医疗 AI 安全：不可信任提示词边界
AI Engineer · youtube · 2026-08-19
Rashi Agrawal 探讨了医疗 AI 的安全工程实践。她指出，目前的医疗 AI 常见严重安全风险，如错误建议导致中毒或分诊不足。她主张安全必须是架构层面的决策：PHI（受保护健康信息）应在管道边界剥离，确定性规则（如路由 911）应位于模型之上的代码层。她强调，如果大模型实验室不信任提示词作为安全边界，开发者也不应信任，而应建立持续的流量评估层。
「漫话AGI」频道最新
- 开发者实测：语音+工具调用+图像生成已能拼出《她》级体验 — andreisavu · 2026-10-16
- YC 旗下 Minerva 把 AI 带进 3000 人小镇，并收购多家会计师事务所 — ycombinator · 2026-10-16
- 可解释性算力太贵,更适合事后调查 AI 事故 — jessi_cata · 2026-10-16
- 可解释性 vs 思维链:给神经元打标签像写代码注释 — jessi_cata · 2026-10-16
- 黄仁勋：英国要抓住 AI 黄金时刻，先解决能源价格 — KeeganMcB · 2026-10-16
- 旧金山 AI 圈氛围回暖：工程师从被替代焦虑转向惊叹可能性 — zack_overflow · 2026-10-16