IIT马德拉斯教授：扩展AI模型不能忽视安全系统建设
ravi_iitm · x · 2026-09-30
IIT马德拉斯数据科学与AI学院（WSAI）负责人 Balaraman Ravindran 教授在接受 DT Next 专访时表示，AI 正从聊天机器人转向能规划任务、与其他 AI 系统交互、代表用户采取行动的智能体系统，能力扩展的同时风险方程式也在改变。
- 他认为即使因 AI 失控行为损失一条人命都代价过高，因此需要强大的 guardrails 和安全工程；AI harnesses 与窄域定制方案有助于约束系统能做什么
- 访谈还涉及智能体时代的网络安全、就业影响、印度语言模型，以及泰米尔纳德邦的机会和 IIT-M 的 AI Studio
- 他强调除了大模型竞赛之外，AI 在理解人类基因组与基因突变等领域也有重要进展
所属事件:IIT马德拉斯教授谈代理式AI：扩展应用不能忽视安全护栏(2 条相关)→
「漫话AGI」频道最新
- 用 Sol 分析推文集：身份即压缩、情绪即搜索的哲学框架 — mimi10v3 · 2026-09-30
- 「我让 AI 订机票叫车，结果自己成了来回复制粘贴的实习生」 — mayanicks0x · 2026-09-30
- Gary Marcus 附和 Eric Weinstein：把科学家排除在未来规划之外是巨大错误 — GaryMarcus · 2026-09-30
- Scoble 回应开源安全质疑:开源是防御创新快过攻击的关键 — Scobleizer · 2026-09-30
- Hinton 称机器原则上可有情绪与意识,Domingos 反驳:奖励函数足矣 — pmddomingos · 2026-09-30
- Simons 报告给 TCS 社区开出 12 条行动清单:论文须声明 AI 使用方法 — jasondeanlee · 2026-09-30