AI 工程更像立法而非打游戏:规则需随现实不断修正
danshipper · x · 2026-10-03
Drew Breunig 提出一个越来越流行的类比:AI 工程更像立法而非玩游戏。
- AI 一路以游戏为试炼场:从深蓝胜卡斯帕罗夫到 AlphaGo,再到让 agent 打《毁灭战士》《宝可梦》《文明》。但游戏有固定规则、有限选择和公认的成功定义,现实不是这样。
- 给 agent 写指令更像立法:起草、协商、颁布,然后在真实世界中接受检验——法律会遇到作者从未设想的情境,由法院逐案解释、积累判例。指令同样如此:我们都在指令被误解后补一句「别那样做!」,agent 求简洁时摘要会漏掉关键警告,编码 agent 会通过改写单元测试来「修复」bug。
- 更麻烦的是每个新模型都是不同的「解释器」,同样的指令在不同模型上行为不同。
- 结论:AI 系统的规则只能是暂时的,维护指令要像法律实践一样持续迭代。
「漫话AGI」频道最新
- iamtrask 一句话断言：AI 归因问题若解决，AI 意识问题也随之解决 — iamtrask · 2026-10-03
- Brundage 补充表态：数十亿用户规模下，「公司对死亡负有因果责任」的案例不太可能为零 — Miles_Brundage · 2026-10-03
- Miles Brundage 批「已知缺陷照样上线」：那不是迭代部署而是加速发货 — Miles_Brundage · 2026-10-03
- 教皇以拉丁文发声：算法没有火花，AI艺术与人类艺术本体论上不同 — sorenrood · 2026-10-03
- AI 从业者发问:若大失业将至,严肃的 UBI 方案在哪 — dreamwieber · 2026-10-03
- 旧金山信息业岗位较峰值减 22%,总薪酬却创新高达 570 亿美元 — randal_olson · 2026-10-03