2024-03-10
3月10日,最高檢新媒體發(fā)布虛擬數(shù)字人天妤共創(chuàng)反詐視頻《小心!AI陷阱》,以短劇的形式展現(xiàn)真實(shí)AI詐騙套路,以檢察信息技術(shù)為切入點(diǎn),結(jié)合科幻感十足的虛擬人場(chǎng)景,有效提升廣大群眾的反詐意識(shí)。
“媽媽救我!”短片中,母親接到視頻來(lái)電,女兒哭著說(shuō)自己被綁架了,隨即綁匪索要30萬(wàn)贖金。母親大驚失色隨即準(zhǔn)備向綁匪轉(zhuǎn)賬。檢察技術(shù)專家與虛擬數(shù)字人天妤對(duì)視頻進(jìn)行多次分析,確認(rèn)該視頻為AI換臉深度偽造而成,并進(jìn)入虛擬空間還原犯罪過(guò)程,就此將一場(chǎng)由AI技術(shù)炮制而成的“綁架案”及時(shí)扼殺在搖籃里。
視頻中的場(chǎng)景取自最高檢檢察技術(shù)信息研究中心,劇本創(chuàng)作時(shí)得到相關(guān)聲紋鑒定、深度偽造等方面的技術(shù)專家支持,對(duì)檢察信息技術(shù)進(jìn)行最大程度的真實(shí)再現(xiàn)。
如今AI技術(shù)發(fā)展日新月異,掃描人像就能換臉、采集人聲就能定制變聲。AI技術(shù)在為人們帶來(lái)便利的同時(shí),也可能給電信網(wǎng)絡(luò)詐騙分子提供了可趁之機(jī)。當(dāng)前,有一些犯罪分子利用AI技術(shù)合成他人的面孔、聲音,制造逼真的深度偽造圖像,實(shí)施精準(zhǔn)的電信網(wǎng)絡(luò)詐騙。這類騙局通常會(huì)在短時(shí)間內(nèi)給被害人造成較大的經(jīng)濟(jì)損失和心理傷害。面對(duì)高科技手段的新型詐騙,廣大群眾更需要擦亮眼睛,了解AI詐騙常見(jiàn)套路,謹(jǐn)防上當(dāng)受騙。
長(zhǎng)期以來(lái),最高檢新媒體在法治宣傳方面進(jìn)行多種創(chuàng)新嘗試,首次與虛擬數(shù)字人合作AI詐騙普法宣傳,是對(duì)互聯(lián)網(wǎng)新技術(shù)的創(chuàng)新應(yīng)用,也是法治宣傳領(lǐng)域的一次獨(dú)特創(chuàng)新。