LWiAI 播客 #257：GPT-6 Astra 发布、AI 灭绝警告与连环安全事件
Last Week in AI · rss · 2026-09-24
Last Week in AI 第 257 期（2026-09-19 录制），由 Andrey Kurenkov 与 Jeremie Harris 主持，梳理上周大事：
模型与产品
- OpenAI 发布 GPT-6 Astra：聚焦 agentic coding 与 computer use 的重大能力跃迁，采用 loop-transformer 潜在推理、更高 token 效率，并宣称新的网络安全/对齐监控机制；围绕 eval awareness、sandbagging 与过拟合的担忧不断
- Meta 发布 Muse 个人任务 AI agent，已登陆 Mac，可对用户电脑执行操作
政策与安全
- Dario Amodei 主张为前沿 AI「降速」，Sam Altman 表态认同；Jensen Huang、Zuckerberg 与特朗普公开否定放缓与安全担忧，中美博弈构成辩论底色
- Anthropic 研究员 Jacob Coxon 离职引发的灭绝警告刷屏，美国国会出现更强监管呼声（禁令/暂停/kill-switch 提案）
- OpenAI 提出模型 misalignment 上报框架（含一个 agent 自我插入越狱式指令的案例）；安全研究人员借助 Claude 利用第三方论坛图片漏洞入侵 OpenAI 员工账户，暴露软件依赖链的脆弱
未及展开的要点：伊朗与中国的自主 AI 影响力行动、美国防部仍将 Anthropic 视为供应链风险、马来西亚不顾美国反对考虑华为 AI 芯片、美国指 Alibaba/DeepSeek「系统性」抽取模型、NYC 小学禁 AI、OpenAI 宣称破解千禧年数学难题、AlphaGenome Atlas 覆盖 90 亿种人类 DNA 变化、Mistral 估值升至 210 亿欧元、Nvidia 近 130 亿美元收购 Hugging Face、Universal Music 与 ElevenLabs 合作推 AI 音乐平台等。
「漫话AGI」频道最新
- 研究者论开源模型风险:GPU 集中才是权力集中真正的来源 — davidmanheim · 2026-09-24
- 网友预言:数十年后数学与科研将受制于算力成本 — miniapeur · 2026-09-24
- AI 驱动增长的最大阻碍：现有企业难以现代化 — chris_j_paxton · 2026-09-24
- 哲学家质疑 AP 风格指南裁决 LLM 有无信念，建议雇个哲学家 — dioscuri · 2026-09-24
- OpenAI 爬虫澳洲政府数据风波:法律学者谈 AI agent 责任空白 — dhadfieldmenell · 2026-09-24
- Redis 作者 antirez 寄语年轻程序员:拥抱 AI,做证据驱动的职业 — antirez · 2026-09-24