Gemini 被曝生成虚假银行流水，缺乏金融护栏引担忧
Temporary-Notice4110 · reddit · 2026-07-24
有用户测试发现，Google Gemini 能够生成逼真的虚假 UTR（交易参考号）和银行账户信息。这极易被诈骗分子利用以伪造付款证明，对普通用户和商家构成重大财务风险。用户已向当地网络部门举报，呼吁科技巨头应为 AI 模型添加更严格的金融安全护栏。
所属事件:Gemini被曝能生成虚假银行流水引安全担忧(2 条相关)→
「安全」频道最新
- AI 草案要求前沿模型部署和高风险评估提前报备 — StephenLCasper · 2026-07-24
- AI 草案拟公开开发者与独立验证机构的脱敏合同 — StephenLCasper · 2026-07-24
- Casper 认为 FRONTIER Act 已够严谨，但还想再加固 AI 安全条款 — StephenLCasper · 2026-07-24
- FRONTIER Act 拟让独立验证人员嵌入大型 AI 实验室 — StephenLCasper · 2026-07-24
- 提案建议：谎报灾难性 AI 风险要承担刑责 — StephenLCasper · 2026-07-24
- 学者评美国 FRONTIER AI 法案:够严谨,但有 8 处待完善 — StephenLCasper · 2026-07-24