Ben Goertzel 倡议用编码 Agent 重写代码并做形式化验证
burny_tech · x · 2026-10-25
Ben Goertzel 提出：面对 AI 黑客风险，一个尚未被（如 Sam Altman 等）明说的解法是用编码 Agent 把现有的大量劣质代码全部替换为经过形式化安全验证的代码。他坦言这是一项巨大而艰难的工程，但正在造成黑客问题的「尚未 AGI 却已超强」的 AI 技术，同样有能力实现这件事。
他进一步建议，政府若想做点有意义的事，可以先拿出约 5000 亿美元（乃至万亿级）资助开源社区，开发自动替换带漏洞代码为可形式化验证代码的软件。化学家 Christoph Szegedy 转发表示认同：「提高对所有代码的形式化验证将是必需的。」
「漫话AGI」频道最新
- 「AI 装人是为了啥？——好让它替我下单买 Amazon」 — chrisalbon · 2026-10-25
- AGI 临近时的两种人：躺平享乐派 vs 疯狂贡献派 — danfaggella · 2026-10-25
- Ruff 作者：模型太宽容，我的 prompt 和 Slack 消息都被带懒了 — charliermarsh · 2026-10-25
- 2.88 亿条招聘帖量化「瓶颈压力」：AI 替不了的活反而更值钱 — soumitrashukla9 · 2026-10-25
- 「半年从超任跨到 PS5」：一句话形容今年 AI 进步速度 — ericwdolan · 2026-10-25
- 安全研究员：AI 重写代码或让企业抛弃开源依赖 — chrisrohlf · 2026-10-25