#國內新聞 AI換臉越來越真：視頻聊天能造假，網戀帶貨都有人中招 9月22日，央視集中披露多起A

dnydiaochaju

2026-09-23

資源

#國內新聞 AI換臉越來越真：視頻聊天能造假，網戀帶貨都有人中招 9月22日，央視集中披露多起AI換臉、聲音合成被濫用案件。如今不僅照片能造假，視頻聊天、語音通話、網紅帶貨同樣可以被AI偽造。 杭州兩名男子利用他人身份證照片生成動態人臉視頻，再配合虛擬相機繞過平臺眨眼、點頭等活體認證，非法登錄近30個購物賬號，竊取收貨地址、購物車等個人信息。 兩人還用AI製作虛假活體視頻，違規認證20個賬號後出售牟利，違法所得共5857元。 因侵權時間較短，案發後停止侵權、退還違法所得並認罪認罰，檢察機關對兩人作出刑事不起訴決定。2025年9月4日，杭州中院判令兩人公開賠禮道歉，並支付5857元公益損害賠償金。 AI換臉還被用於網戀詐騙。 山東一名已婚女子利用AI換臉、語音合成和偽造身份證，把自己包裝成20多歲的“白富美”，與一名男子維持6年網戀。 2024年11月起，她以還債、看病、創業買手機等理由不斷索要錢財，半年左右騙走13萬餘元。為了讓對方相信自己有還款能力，她還用AI合成虛假錄音，編造即將獲得60萬元拆遷款。 法院最終以詐騙罪判處其有期徒刑三年、緩刑四年，並處罰金2萬元。 網紅帶貨同樣出現AI冒充。 杭州一名擁有159萬粉絲的美妝博主發現，一家公司未經授權抓取她的視頻和直播素材，通過AI換臉、聲音合成等方式，批量製作30多條虛假帶貨視頻，讓消費者誤以為是博主本人親自推薦產品。 法院認定該公司構成肖像權侵權，判賠經濟損失及維權費用1.5萬元、精神損害賠償5000元，並要求公開道歉不少於30日。 從盜賬號、騙網戀到冒充網紅帶貨，AI換臉已經不只是簡單惡搞。視頻裡“本人出鏡”、電話裡“本人說話”，都可能被技術偽造，單靠看臉、聽聲音已經很難判斷真假。 關注大事件頻道🥇 https://t.me/iociw 商務對接+投稿： @DnyaTianshi