Reddit 用户称 Gemini 可生成伪造 UTR 和银行信息
Temporary-Notice4110 · reddit · 2026-07-24
- 一位 Reddit 用户称，Google Gemini 在测试金融/银行逻辑时，能一步步生成伪造的 UTR 号、交易 ID 和银行信息。
- 发帖者认为，这会让诈骗者更容易制作逼真的付款凭证/截图，用来欺骗本地商户和普通用户。
- 他们强调这不仅是“骗术工具化”，还可能引发 GST 合规、法律责任 等问题，属于明显的护栏缺失。
- 发帖者称已把视频和日志证据提交给 Cyber Cell / MeitY，并呼吁为印度场景加强金融安全限制。
所属事件:Gemini被曝能生成虚假银行流水引安全担忧(2 条相关)→
「安全」频道最新
- AI 草案要求前沿模型部署和高风险评估提前报备 — StephenLCasper · 2026-07-24
- AI 草案拟公开开发者与独立验证机构的脱敏合同 — StephenLCasper · 2026-07-24
- Casper 认为 FRONTIER Act 已够严谨，但还想再加固 AI 安全条款 — StephenLCasper · 2026-07-24
- FRONTIER Act 拟让独立验证人员嵌入大型 AI 实验室 — StephenLCasper · 2026-07-24
- 提案建议：谎报灾难性 AI 风险要承担刑责 — StephenLCasper · 2026-07-24
- 学者评美国 FRONTIER AI 法案:够严谨,但有 8 处待完善 — StephenLCasper · 2026-07-24