#国内新闻 AI面部替换技术滥用案例激增，涵盖账号劫持、虚拟恋爱诈骗及虚假商品推广 9月22日，

piyanzi

1天前

资源

#国内新闻 AI面部替换技术滥用案例激增，涵盖账号劫持、虚拟恋爱诈骗及虚假商品推广 9月22日，央视曝光了多起AI换脸与声音克隆被过度使用的实例。在杭州，两名男子利用他人的身份证照片合成动态面部视频，结合虚拟摄像头成功绕过平台的活体身份验证，非法接管近30个电商账户，窃取用户数据，并违规激活认证了20个账号进行转卖，共计赚取5857元。鉴于侵权行为持续时间较短、被告已退赔赃款并认罪，检察院决定不予起诉；而杭州中级人民法院于2025年9月4日判决两名被告公开赔礼道歉，并缴纳相同金额的公益赔偿金。 山东一位已婚女士运用AI换脸、语音克隆及伪造证件，将自己包装成20出头的美女，与一名男子维持了长达6年的网恋关系。自2024年11月起，她以偿还债务、就医等理由骗取对方13万多元，并利用AI合成虚假录音，声称即将获得60万元拆迁款。最终，法院以诈骗罪判处她有期徒刑三年，缓刑四年，并处罚金2万元。 杭州一位拥有159万粉丝的美妆博主发现，某公司未经授权使用其视频素材，通过AI换脸和声音合成技术批量制作了30余条虚假带货视频。法院判定该公司侵犯了其肖像权，判令赔偿经济损失及维权费用1.5万元，精神损害抚慰金5000元，并要求公开道歉期限不少于30天。 新闻曝光 @piyanzi 交流大群 @pyzqun 综合社群 @pyz44