下載APP
報(bào)料
關(guān)于
檢察日報(bào) 2025-08-27 15:40:11
原標(biāo)題：身份證照片被AI生成了動(dòng)態(tài)視頻
湖北南漳：查辦利用“換臉”視頻騙過人臉檢驗(yàn)系統(tǒng)的新型犯罪
“當(dāng)心！假親人、假領(lǐng)導(dǎo)可能正盯著你的錢包！”7月17日、18日，湖北省南漳縣檢察院干警與縣公安局民警連續(xù)兩天深入社區(qū)、走進(jìn)養(yǎng)老院、來到快遞站，輪番播放反詐微視頻，揭露“AI換臉”這一新型詐騙的作案手法與防范要點(diǎn)。
“00后”自學(xué)AI換臉技術(shù)
2024年5月，南漳縣公安局接到廣州市公安機(jī)關(guān)移交的一條侵犯公民個(gè)人信息線索。根據(jù)線索，南漳縣公安局找到了涉嫌利用AI技術(shù)合成人臉動(dòng)態(tài)視頻的陳某。
陳某是一名“00后”，原本靠打游戲、做代練謀生，因?qū)I換臉技術(shù)感興趣，自學(xué)相關(guān)技能并在網(wǎng)上發(fā)布作品。很快，肖某聯(lián)系他制作用于電話卡實(shí)名認(rèn)證的AI合成人臉動(dòng)態(tài)視頻。在利益誘惑下，明知可能違法的陳某接下了“訂單”。
隨著偵查深入，一條“技術(shù)+物流”的新型犯罪鏈浮出水面：陳某和肖某等人從網(wǎng)絡(luò)黑市非法獲取大量公民高清身份證照片，利用AI換臉工具制成包含眨眼、張嘴等活體動(dòng)作的動(dòng)態(tài)視頻，輔以無人直播插件騙過電信運(yùn)營商人臉核驗(yàn)系統(tǒng)，非法激活電話卡；負(fù)責(zé)快遞轉(zhuǎn)運(yùn)的李某、華某（已另案判決）通過電商平臺批量購買電話卡，利用快遞中途改址或?qū)Ｈ宿D(zhuǎn)寄等方式“洗白”運(yùn)輸痕跡；秦某則當(dāng)起“中間商”，把激活的電話卡以450元到550元一張的價(jià)格賣給卡商，最終流入詐騙團(tuán)伙手中。
“整個(gè)團(tuán)伙分工明確，像一條高效生產(chǎn)線?！鞭k案檢察官趙小霞介紹，技術(shù)組制作“人臉通行證”，物流組洗白痕跡，秦某則作為樞紐連接買賣雙方，串聯(lián)整條犯罪鏈。警方在陳某電腦中查獲1098條居民身份證信息及200余張電話卡，經(jīng)與國家反詐平臺數(shù)據(jù)比對，其中23張卡直接關(guān)聯(lián)35起詐騙案，涉案金額達(dá)293萬余元。
經(jīng)查，一年時(shí)間，陳某、肖某、秦某這一3人小團(tuán)伙就激活販賣電話卡368張，造成群眾財(cái)產(chǎn)損失超600萬元。
檢警聯(lián)手鎖定關(guān)鍵證據(jù)
在南漳縣公安局物證室內(nèi)，10余臺電腦主機(jī)、20余部手機(jī)和成捆的電話卡靜靜陳列著。面對犯罪團(tuán)伙使用境外加密聊天軟件聯(lián)絡(luò)、虛擬貨幣交易結(jié)算等反偵查手段，2024年7月，南漳縣檢察院依法介入該案，在電子證據(jù)固定方面引導(dǎo)公安機(jī)關(guān)對查扣的電子設(shè)備展開三重勘驗(yàn)，提取加密聊天記錄、復(fù)原AI操作痕跡、追蹤虛擬貨幣流向，構(gòu)建起完整證據(jù)閉環(huán)。
為證實(shí)技術(shù)幫助與詐騙結(jié)果的關(guān)聯(lián)性，檢察官列出23項(xiàng)補(bǔ)充偵查提綱。公安機(jī)關(guān)通過國家反詐平臺對涉案電話卡逐張比對，鎖定54張卡直接用于實(shí)施詐騙，將上游技術(shù)幫助行為與下游詐騙造成的巨額損失緊密關(guān)聯(lián)。同時(shí)，檢察機(jī)關(guān)在審查中發(fā)現(xiàn)李某、華某等同案漏犯線索后，依法監(jiān)督公安機(jī)關(guān)追訴，力求徹底摧毀犯罪網(wǎng)絡(luò)。
守好數(shù)字時(shí)代群眾“臉面”安全
今年4月，這起由南漳縣檢察院提起公訴的幫助信息網(wǎng)絡(luò)犯罪活動(dòng)案宣判，陳某被判處有期徒刑一年二個(gè)月，并處罰金5000元；肖某被判處有期徒刑一年，并處罰金5000元；秦某被判處有期徒刑一年八個(gè)月，并處罰金1萬元，涉案工具和違法所得被依法處理。
該案查獲的1183張居民身份證照片大多源于網(wǎng)絡(luò)泄露。“這些身份證照片一旦被用于AI技術(shù)激活電話卡，就成了詐騙工具?！鞭k案檢察官解釋，詐騙分子用這些“實(shí)名”電話卡冒充客服、公檢法人員，實(shí)施精準(zhǔn)詐騙。
檢察官提醒廣大市民，要保護(hù)好個(gè)人身份信息，切勿隨意上傳手持身份證照片或視頻；定期通過運(yùn)營商官方渠道查詢自己名下的電話卡，若發(fā)現(xiàn)信息被冒用或遭遇可疑詐騙，要及時(shí)保留證據(jù)并報(bào)警。
違法濫用AI換臉技術(shù)面臨哪些刑事法律風(fēng)險(xiǎn)？
在使用AI換臉技術(shù)時(shí)，非法收集、使用或泄露他人的人臉信息等敏感個(gè)人信息的，可能會構(gòu)成侵犯公民個(gè)人信息罪；
制作嘲諷或丑化他人的換臉視頻，實(shí)施網(wǎng)絡(luò)欺凌或者發(fā)布侮辱性內(nèi)容的，可能構(gòu)成侮辱罪；
利用AI換臉技術(shù)制作、傳播含有淫穢內(nèi)容的視頻或圖片的，可能構(gòu)成制作、傳播淫穢物品牟利罪或傳播淫穢物品罪；
利用AI換臉技術(shù)偽造他人身份，通過視頻通話等方式實(shí)施詐騙，騙取他人財(cái)物的，可能構(gòu)成詐騙罪；
利用AI換臉技術(shù)，幫助網(wǎng)約車司機(jī)繞開平臺的人臉驗(yàn)證機(jī)制，實(shí)現(xiàn)隨意注冊新賬號或者使用他人賬號接單的非法目的，可能構(gòu)成提供侵入、非法控制計(jì)算機(jī)信息系統(tǒng)程序、工具罪。
AI偽造風(fēng)險(xiǎn)識別與防范
動(dòng)作驗(yàn)證法：當(dāng)視頻中對方（尤其是涉及轉(zhuǎn)賬、借錢等敏感要求時(shí)）顯得有點(diǎn)“怪”，別急著答應(yīng)。請對方做一個(gè)連貫的轉(zhuǎn)頭動(dòng)作，或者用手掌完全遮住臉再快速移開。目前的AI技術(shù)在模擬這些復(fù)雜的面部遮擋和光影變化時(shí)，容易出現(xiàn)卡頓、模糊或扭曲。
聲音細(xì)節(jié)辨真?zhèn)危鹤屑?xì)聽語音細(xì)節(jié)。AI生成的語音有時(shí)會缺乏自然的呼吸停頓、情感起伏，或者帶有輕微的機(jī)械感、背景雜音異常。
多渠道核實(shí)身份：涉及金錢交易或敏感信息時(shí)，務(wù)必通過其他可靠途徑二次確認(rèn)。比如，問一些只有對方知道的問題，掛斷視頻后直接撥打?qū)Ψ匠Ｓ们夷闶煜さ碾娫捥柎a（不要回?fù)芸梢蓙黼娞柎a），或者通過共同認(rèn)識的第三人進(jìn)行側(cè)面核實(shí)。這是最核心的一招！
責(zé)編：施泉江
一審：施泉江
二審：蘇莉
三審：唐婷
來源：檢察日報(bào)
我要問
湘公網(wǎng)安備 43010502000374號