原標(biāo)題：生成圖像,、合成語(yǔ)音、偽裝客服,、偽造場(chǎng)景……

以假亂真的AI詐騙,，如何防范？（民生一線）

本報(bào)記者  張?zhí)炫?ensp; 蘇  濱

上傳一張靜態(tài)照片,，即可生成動(dòng)態(tài)視頻,；只需幾秒語(yǔ)音，就能克隆聲音……這不是科幻電影,，而是發(fā)生在身邊的真實(shí)事件,，“AI換臉”正成為侵權(quán)違法的重災(zāi)區(qū)。

近期,，為規(guī)范應(yīng)用人臉識(shí)別技術(shù)處理人臉信息活動(dòng),、保護(hù)個(gè)人信息權(quán)益,，國(guó)家互聯(lián)網(wǎng)信息辦公室、公安部聯(lián)合公布《人臉識(shí)別技術(shù)應(yīng)用安全管理辦法》,，對(duì)應(yīng)用人臉識(shí)別技術(shù)處理人臉信息的基本要求和處理規(guī)則,、人臉識(shí)別技術(shù)應(yīng)用安全規(guī)范、監(jiān)督管理職責(zé)等作出了規(guī)定,。辦法將于2025年6月1日起施行,。

人臉識(shí)別技術(shù)應(yīng)用與人臉信息安全緊密相關(guān)。人臉識(shí)別具有唯一性,、不可更改性,、不可匿名性，一旦泄露,，極易對(duì)個(gè)人的人身和財(cái)產(chǎn)安全造成危害,，還可能威脅公共安全。

AI詐騙形式多樣

換臉,、變聲、對(duì)口型

貴州省黔東南苗族侗族自治州凱里市公安局反詐中心負(fù)責(zé)人吳西福介紹,，一家科技公司的負(fù)責(zé)人郭先生有一天接到好友打來(lái)的視頻電話(huà),，說(shuō)自己正在外地投標(biāo)，需要幾百萬(wàn)元保證金,，想用郭先生的公司賬戶(hù)走一下賬,。不久后，好友說(shuō)已經(jīng)把錢(qián)轉(zhuǎn)到郭先生的賬戶(hù)并截圖證明,。郭先生覺(jué)得通過(guò)視頻能看到好友本人,，便沒(méi)等收到轉(zhuǎn)賬成功的通知就給好友轉(zhuǎn)了錢(qián)。后來(lái),，郭先生遲遲沒(méi)收到轉(zhuǎn)款,，聯(lián)系好友時(shí)才發(fā)現(xiàn)自己被騙。

寧夏回族自治區(qū)銀川市某公司部門(mén)經(jīng)理張先生接到“老板”視頻電話(huà),，對(duì)方稱(chēng)因情況緊急,，急需轉(zhuǎn)賬匯款。在視頻中確認(rèn)是“老板”后,，張先生放下了戒心,，十幾分鐘內(nèi)將20萬(wàn)元轉(zhuǎn)入指定賬戶(hù)。直到下午當(dāng)面匯報(bào)工作時(shí),，張先生才發(fā)現(xiàn)上當(dāng)受騙,。

這些案件都是典型的AI詐騙。“你以為在和朋友親人視頻聊天,，其實(shí)是騙子使用的‘AI換臉’技術(shù),，讓別人的嘴能夠‘對(duì)口型’,。”寧夏回族自治區(qū)公安廳刑偵總隊(duì)副總隊(duì)長(zhǎng)、反詐中心負(fù)責(zé)人吳克剛介紹,，如今,，“AI換臉”技術(shù)不僅限于靜態(tài)照片的活化，還能在即時(shí)視頻通信中實(shí)時(shí)換臉,。雖然需要采集大量不同角度的照片進(jìn)行模型訓(xùn)練,，但一旦成功，便可以假亂真,。過(guò)去,，公民個(gè)人身份證號(hào)、手機(jī)號(hào)以及家人信息需要重點(diǎn)防范,，現(xiàn)在,，人臉、聲音,、指紋等同樣要避免泄露,。

新型AI詐騙主要有以下類(lèi)型：語(yǔ)音合成詐騙，不法分子利用AI技術(shù),，合成受害人親友或熟人的聲音,，讓受害人誤以為是親友或熟人需要幫助，進(jìn)而實(shí)施電話(huà)詐騙,；圖像生成詐騙,，不法分子通過(guò)AI技術(shù)，生成虛假的照片或視頻,，制造出受害人親友緊急且合理的情景,，從而獲取個(gè)人信息，騙取錢(qián)財(cái),；智能客服詐騙,，不法分子利用AI技術(shù)，制作智能客服系統(tǒng),，通過(guò)語(yǔ)音或文字同受害人交流,，誘騙受害人提供個(gè)人信息或進(jìn)行轉(zhuǎn)賬操作；AI情感詐騙,，不法分子運(yùn)用AI訓(xùn)練面向網(wǎng)聊的大語(yǔ)言模型,，通過(guò)偽造場(chǎng)景、聲音與受害人建立情感關(guān)系,，進(jìn)而獲取個(gè)人信息,。

吳西福介紹，共享屏幕等新型詐騙也要注意,。不法分子以“提升信用卡額度”“航班延誤退費(fèi)”“贈(zèng)送禮品”等為借口,，向個(gè)人發(fā)送短信或撥打電話(huà),，誘導(dǎo)受害人下載指定軟件，并開(kāi)啟軟件的“共享屏幕”功能,，就可以“實(shí)時(shí)監(jiān)控”受害人手機(jī),、電腦屏幕，同步獲取個(gè)人銀行賬戶(hù),、口令,、驗(yàn)證碼等重要信息，從而盜取銀行卡資金,。

AI詐騙危害廣泛

造成經(jīng)濟(jì)損失,、心理創(chuàng)傷

相較于電信詐騙、網(wǎng)絡(luò)詐騙,，新型AI詐騙的受害者身份更廣泛,、多元，成功率更高,，更難以追蹤,。

警方梳理后發(fā)現(xiàn)，新型AI詐騙有以下危害：造成經(jīng)濟(jì)損失,，新型AI詐騙具有針對(duì)性強(qiáng),、高度逼真等特征，普通群眾短時(shí)間內(nèi)難以分辨,，很容易上當(dāng)受騙、遭受經(jīng)濟(jì)損失,，甚至?xí)o家庭帶來(lái)沉重的經(jīng)濟(jì)負(fù)擔(dān),；發(fā)生信息泄露，新型AI詐騙往往能獲取受害人的個(gè)人信息,，包括身份證號(hào),、銀行賬戶(hù)、人臉,、指紋等,，進(jìn)而濫用這些信息從事非法活動(dòng)，導(dǎo)致受害人信息泄露,，身份被盜用,，引發(fā)潛在的法律風(fēng)險(xiǎn)；造成心理創(chuàng)傷,，遭受新型AI詐騙,，除了面臨經(jīng)濟(jì)損失，受害人還可能產(chǎn)生焦慮,、自責(zé),、抑郁等情緒,，造成嚴(yán)重的心理創(chuàng)傷；危害社會(huì)治安,，如果新型AI詐騙案件變多,，容易讓群眾對(duì)社會(huì)產(chǎn)生不信任感，甚至造成恐慌情緒,，有些受害者也因無(wú)法承擔(dān)損失,，走上違法犯罪道路。

新型AI詐騙案件增加,，偵破難度加大,，對(duì)公安機(jī)關(guān)來(lái)說(shuō)也是挑戰(zhàn)。吳西福說(shuō),，只有不斷提升民警的專(zhuān)業(yè)素質(zhì)和偵查能力,，加強(qiáng)對(duì)新型電信網(wǎng)絡(luò)詐騙犯罪的研究，才能創(chuàng)新偵查手段和方法,，提高打擊效能,。要加強(qiáng)與其他地區(qū)公安機(jī)關(guān)的協(xié)作配合，建立健全跨區(qū)域警務(wù)合作機(jī)制,，形成打擊合力,。

有效防范AI詐騙

保護(hù)個(gè)人信息、學(xué)習(xí)識(shí)別方法

新型AI詐騙花樣頻出,，偽裝性越來(lái)越強(qiáng),，該如何防范？

吳克剛給出了兩條防騙建議：視頻通話(huà)時(shí),，讓對(duì)方做出指定動(dòng)作,，比如眨眼3次、摸摸鼻子,，或者讓對(duì)方用手指或其他遮擋物在臉前晃動(dòng),，如畫(huà)面出現(xiàn)延遲或者異常扭曲等不自然的微小變化，那對(duì)方很可能正在使用“AI換臉”技術(shù),。在與對(duì)方的溝通中,，也可以問(wèn)一些只有對(duì)方知道的問(wèn)題，比如生日,、電話(huà)號(hào)碼,、喜好等，來(lái)驗(yàn)證對(duì)方身份的真實(shí)性,。

我們也應(yīng)該提高安全防范意識(shí),，防止個(gè)人臉部信息被非法獲取利用。貴州警方提示，不輕信他人,，不貪圖小便宜,。妥善保管個(gè)人信息，把好個(gè)人信息保護(hù)的第一道關(guān),。在非必要情況下,，不向陌生人提供身份證號(hào)碼、工作單位,、家庭住址,、職務(wù)等重要信息，不將身份證照片或號(hào)碼保存在手機(jī)中,，盡可能避免將人臉,、照片、聲音,、指紋等留存到網(wǎng)站和小程序上,。在日常生活中，加強(qiáng)對(duì)人臉,、聲音,、指紋等生物特征數(shù)據(jù)的安全防護(hù)，做好個(gè)人手機(jī),、電腦等終端設(shè)備的軟硬件安全管理,，不登錄來(lái)路不明的網(wǎng)站，以免感染木馬病毒,。另外,，對(duì)可能進(jìn)行聲音、圖像甚至視頻和定位等信息采集的應(yīng)用,，做好授權(quán)管理,，不輕易給他人收集個(gè)人信息的機(jī)會(huì)，也能在一定程度遠(yuǎn)離“AI換臉”詐騙,。

此外，公安機(jī)關(guān)也要?jiǎng)?chuàng)新線上線下反詐宣傳,，打造全方位反詐宣傳矩陣,。一方面，利用線上平臺(tái),，深入挖掘本地發(fā)生的電信網(wǎng)絡(luò)詐騙典型案例,，結(jié)合地區(qū)特色、民俗以及當(dāng)下流行的網(wǎng)絡(luò)文化,，拍攝制作風(fēng)格獨(dú)特,、通俗易懂的反詐宣傳短視頻。通過(guò)短視頻的形式還原詐騙分子的話(huà)術(shù)、作案流程以及背后的犯罪邏輯,，幫助群眾提高反詐意識(shí),。

推動(dòng)反詐宣傳進(jìn)校園、進(jìn)社區(qū),、進(jìn)企業(yè),，將反詐宣傳與群眾喜愛(ài)的文化娛樂(lè)活動(dòng)緊密結(jié)合，打造出一系列具有貼近性的反詐宣傳場(chǎng)景,。堅(jiān)持精準(zhǔn)施策,，針對(duì)不同群體、行業(yè)和地區(qū)特點(diǎn),，開(kāi)展有針對(duì)性的宣傳,，做到有的放矢，切實(shí)增強(qiáng)群眾防騙意識(shí)和識(shí)騙能力,。

警方也警告不法分子：通過(guò)“AI換臉”進(jìn)行視頻合成,、實(shí)施詐騙的行為，是利用新技術(shù)進(jìn)行的詐騙,，與傳統(tǒng)詐騙行為沒(méi)有本質(zhì)區(qū)別,。對(duì)于構(gòu)成詐騙罪的，將依照我國(guó)刑法第二百六十六條的規(guī)定追究刑事責(zé)任,；對(duì)于為利用“AI換臉”實(shí)施詐騙行為提供技術(shù)支持,、幫助的，將根據(jù)反電信網(wǎng)絡(luò)詐騙法的規(guī)定進(jìn)行行政處罰,，構(gòu)成犯罪的,，還要追究刑事責(zé)任。