开发者发文:前沿 AI 离不开提示词,缺的是安全监控与护栏
gerardsans · x · 2026-09-25
作者针对媒体对 AI 的误报发声,指出三点核心事实:
- 前沿 AI 模型离不开提示词(prompting),Agent 和运行多智能体系统的 harness 同样都需要提示词工程;
- 当前真正缺失的是监控(monitoring)和更强的安全控制,而这属于部署这些系统的实验室开发者的责任;
- 他批评媒体编辑不了解这些技术常识,导致 AI 报道充斥错误信息。
这是一条针对 AI 报道质量的行业观点争论,核心论点是:安全责任在部署方开发者,而非模型本身。
「漫话AGI」频道最新
- 软件工程师职位发布创三年新高，AI 造岗位而非抢岗位 — Zachly · 2026-09-25
- 历史学者用 GPT-6 与 Opus 5.5 破解约翰·迪伊密码、追溯达尔文思想源流 — emollick · 2026-09-25
- Brundage 补充:Anthropic 暗示风险可控,但现实远非如此 — Miles_Brundage · 2026-09-25
- 前 OpenAI 安全高管质疑 Anthropic:宣称基本掌握模型风险显然不实 — Miles_Brundage · 2026-09-25
- AI Explained 深读 Opus 5.5:自动化 AI 研究还有多远 — AI Explained · 2026-09-25
- Pedro Domingos:机器学习比进化快百万倍,离 AGI 仍需千年 — pmddomingos · 2026-09-25