中国开罚AI数据投毒:伪造内容刷进大模型回答,三地罚款最高12万
Sanbi_Ai · reddit · 2026-10-21
据《21世纪经济报道》统计，北京、广州、深圳三地已出现针对「给AI回答刷内容」的处罚案例，单笔罚款5万至12万元人民币。北京案例揭示了操作套路：先向AI工具提问、记录其引用的网站，再付费让中间人在这些站点发布客户文章，合同甚至承诺「AI回答前三/前五」。该公司还用同样手法给自己刷榜，宣称某AI回答中自己得分99.6、市占49%，后承认数据无来源。
央视测试显示门槛极低：业内人士网购此类工具后虚构一款智能手环，工具发布两篇假文章两小时后，某模型即称赞其「量子纠缠传感」；三天内发布11条假测评与排名后，两个模型开始推荐该产品。
该报4月核查中国AI模型引用的1000多条链接，超30%有明显投放痕迹，且多数含编造来源、数据或评价。作者指出这并非中国独有：此前复旦研究显示，植入内容一周内即可让ChatGPT、Google AI、Perplexity和Grok引用虚构概念。差别在于中国网信部门将其定性为「AI数据污染」，并同时追责未核查来源、不展示引用链接的AI应用；作者未找到美欧有可比罚款。作者也承认罚款金额偏小、30%数据来自媒体自测而非同行评审。
「安全」频道最新
- OpenAI 研究：o3 能察觉自己正被测试，减刑式通过安全评估 — alex_verem · 2026-10-22
- eCHUDhra 上线:一条 curl 命令检测终端/容器是否信任泄露的 eMudhra 证书 — SuB8u · 2026-10-21
- Transformer 专栏实测：简单越狱即可让 Claude 教你操纵选举 — ShakeelHashim · 2026-10-21
- 数日内四起安全事件：LiteLLM 遭供应链攻击，AI 让黑客更快更廉价 — Yuchenj_UW · 2026-10-21
- php2shell 漏洞发现者之争:@lcfr_hax 被确认为首个发现者 — basedjensen · 2026-10-21
- 中国模型写不安全代码的争议说法，谁来做个无利益相关的实验？ — dbreunig · 2026-10-21