IIT马德拉斯教授:AI 从答题走向代理行动,安全护栏必须跟上
ravi_iitm · x · 2026-09-29
IIT 马德拉斯 Wadhwani 数据科学与 AI 学院负责人 Balaraman Ravindran 教授接受 DT Next 专访,谈及代理式 AI、网络安全、就业与印度语言模型等议题。
- 风险方程正在改变:AI 正从回答问题的聊天机器人,走向能规划任务、与其他 AI 系统通信、代表用户采取行动的代理系统。这带来更广的能力,也带来可能无法控制的意外后果。
- 安全底线:他明确表示「AI 系统意外行为哪怕导致一条人命损失,代价都太高」,呼吁强护栏与安全工程,主张用 AI harness 和窄域定制方案来约束系统行为边界。
- 被公众忽视的进展:他认为舆论只盯着更大的模型,忽略了基因组与基因突变理解等 AI for Science 方向的工作。
- 采访还涉及印度语言模型与泰米尔纳德邦的机会、IIT-M 的 AI Studio 等。
「漫话AGI」频道最新
- Reddit 热议:AI 开发者一边狂奔一边喊暂停,是真诚还是邪教? — Henrygrins · 2026-09-29
- 持续学习缺失才是模型不够 AGI 的关键，Agent 上下文进步显著 — teortaxesTex · 2026-09-29
- MIT 研究:招聘「算法单一文化」未必有害,关键看细节 — nordicinst · 2026-09-29
- Sherry Turkle 新书《Artificial Intimacy》抨击聊天机器人侵蚀共情 — nordicinst · 2026-09-29
- MIT 研究：算法单一文化未必是坏事,集成算法可反超多样性 — MIT News AI · 2026-09-29
- MIT 教授 Sherry Turkle 新书警告:聊天机器人正在削弱人类的情感能力 — MIT News AI · 2026-09-29