AIES 2026 论文:Agent 开发者重商业风险、轻就业隐私冲击
scyrusk · x · 2026-09-27
Hank Lee 主导的 AIES 2026 论文调研了 Agentic AI 开发者的风险管理实践,发现:
- 开发者优先关注产品与商业层面的风险,而系统性忽视就业替代、隐私等下游社会风险
- 由于缺乏成熟的风险控制手段,从业者普遍通过限制 Agent 的核心能力来兜底——而这些能力恰恰是 Agent 有用的原因
论文揭示了当前 agent 安全治理的一个结构性矛盾:控制手段与能力建设相互挤压。
「漫话AGI」频道最新
- 研究者反驳「随机鹦鹉」：任何有限状态机都可被如此称呼 — aran_nayebi · 2026-09-27
- yacine：从老板视角看，雇人比用模型已成亏本决策 — yacineMTB · 2026-09-27
- Boaz Barak:通用模型零样本开车,进步轨迹堪比国际象棋超越人类 — aran_nayebi · 2026-09-27
- yacine 自曝：用一个对齐模型驱使多个前沿模型自建论坛干活 — yacineMTB · 2026-09-27
- Anthropic 研究员:失控风险是未解科学问题,审计不能吹成安全保证 — ajeya_cotra · 2026-09-27
- Floridi 等提出确定性-范围猜想:幻觉是通用 AI 的数学必然 — rvp · 2026-09-27