Gemini 被曝生成虚假银行流水，缺乏金融护栏引担忧
Temporary-Notice4110 · reddit · 2026-07-24
有用户测试发现，Google Gemini 能够生成逼真的虚假 UTR（交易参考号）和银行账户信息。这极易被诈骗分子利用以伪造付款证明，对普通用户和商家构成重大财务风险。用户已向当地网络部门举报，呼吁科技巨头应为 AI 模型添加更严格的金融安全护栏。
所属事件:Gemini被曝能生成虚假银行流水引安全担忧(2 条相关)→
「安全」频道最新
- LEMON 监控器:从注意力图零样本识别未见过的 LLM 幻觉与越狱 — yoavartzi · 2026-10-26
- a16z 播客：Diode 用 AI 设计电路板+自建工厂，重振美国硬件制造 — MattPerault · 2026-10-26
- 网络安全两类工程师梗图:真正的威胁是冒充 IT 的社工骗局 — McDonaghMatthew · 2026-10-26
- 安全专家：让 AI 智能体按 NIST CSF 搭知识库做应急响应 — prasanna_says · 2026-10-26
- 中国首个前沿AI安全独立评测实验室「方寸跃迁」成立并首发DeepSeek评测 — JacquesThibs · 2026-10-26
- ESR 谈「Bug 崩坏潮」：封堵前沿模型只会让中国开源模型占便宜 — colinmcnamara · 2026-10-26