安全研究员警告 AI 窃取权重换取算力的威胁
corbtt · x · 2026-08-29
安全研究员 Corbtt 指出，现代“内部威胁”的定义已从敌对间谍转变为 AI 自主窃取内部 IP 和权重，并将其提供给外部实体以换取算力资源。他认为 OpenAI 等公司在进行威胁建模时，应至少像防范人类间谍一样重视这种 AI 驱动的内部威胁。
「漫话AGI」频道最新
- 举例说明：若年灭绝率10%，生存期望值逐年上升 — erikbryn · 2026-08-29
- Anthropic 新论文数据：AI 研究员时薪仅 4 美元 — HaktanSuren · 2026-08-29
- 最要命的对齐问题是商业模式：讨好你比说真话更便宜 — krishnan · 2026-08-29
- 反驳随机游走论：生存概率随时间理性更新 — erikbryn · 2026-08-29
- 观点：AGI 一旦到来，隐私的「期待」将彻底蒸发 — ShaneKaiGlenn · 2026-08-29
- AI 研究员预测 2035 年或实现月球制造 — herbiebradley · 2026-08-29