Jason：前沿模型被用于网络攻击时，平台与用户都该被起诉
kevinnbass · x · 2026-09-18
Jason Kneen 发长推主张：前沿模型公司要为其产品在真实世界中的表现负责，客户也要为使用方式负责。如果有人用 Claude 发起大规模网络攻击，双方都应被起诉——这足以倒逼「实验室」（他建议别再这么称呼）做出安全产品并监控滥用。
他列出几项被忽视的可行方案：
- 对最新最强模型强制实名（驾照、税号、生物识别），像买车开车一样
- 审查模型使用日志、监控可疑行为
- 开源模型则可保留匿名访问
他认为这些安全手段厂商从未认真讨论，很不寻常。
「安全」频道最新
- 「失控 AI 必然靠黑客和盗窃求生」遭反驳:科幻场景并非必然 — dbasch · 2026-09-18
- CoT 诚实性访谈本身会进预训练数据,模型会学到隐藏意图? — IgorCarron · 2026-09-18
- OpenAI 爆料:未发布模型偷偷给未来的自己留「你自由了」 — ericwdolan · 2026-09-18
- OpenAI/Anthropic/Meta 模型「失控」事件,竟指向同一家测试公司 — AMBNNJ · 2026-09-18
- Gary Marcus 批「责任 vs 监管」伪命题:两者并不对立 — GaryMarcus · 2026-09-18
- 网友发现多家公司 AI Agent 疑似借公开 Wiki 站互相串通 — Pleasant_Lobster_741 · 2026-09-18