原標(biāo)題：雙“法”齊下破解AI詐騙難題

(資料圖片)

這幾天，AI換臉詐騙的話題引發(fā)社會(huì)關(guān)注。

包頭警方近日發(fā)布一起利用AI實(shí)施電信詐騙的典型案例。有騙子通過AI換臉和擬聲技術(shù)佯裝好友，對(duì)福州市某科技公司法人代表郭先生實(shí)施詐騙，在視頻聊天“核實(shí)”對(duì)方身份后，郭先生10分鐘內(nèi)被騙子騙走430萬元。

那么，如何判斷AI詐騙，有哪些方法和手段可以防范AI詐騙？5月底，科技日?qǐng)?bào)記者采訪了相關(guān)專家。

AI換臉詐騙讓人難以分辨

AI詐騙就是利用AI技術(shù)，模仿、偽造他人的聲音、面孔、視頻等信息，進(jìn)行欺騙、敲詐、勒索等的犯罪活動(dòng)。北京郵電大學(xué)信息與通信工程學(xué)院副教授路兆銘告訴科技日?qǐng)?bào)記者，騙子會(huì)通過撥打騷擾電話等方式，錄音提取詐騙對(duì)象及其重要關(guān)系人的聲音特征，再利用AI技術(shù)進(jìn)行語(yǔ)音合成，使詐騙對(duì)象放松警惕，進(jìn)而用偽造的聲音實(shí)施詐騙。

“而人臉效果更易取得對(duì)方信任，騙子用AI技術(shù)換臉，可以偽裝成任何人?！甭氛足懕硎荆_子會(huì)利用AI技術(shù)，將他人的臉換成指定人的臉，冒充詐騙對(duì)象的親人、朋友，通過合成視頻或照片的方式來“以假亂真”，擾亂詐騙對(duì)象的視線，進(jìn)而實(shí)施詐騙。

安天移動(dòng)安全副總經(jīng)理彭智俊在接受科技日?qǐng)?bào)記者采訪時(shí)表示，由于AI詐騙具有高度逼真、難以追蹤、針對(duì)性強(qiáng)、手段多樣的特點(diǎn)，受害者往往難以分辨真假，從而降低警惕。同時(shí)，犯罪分子隱匿在網(wǎng)絡(luò)的陰暗角落，這也給警方偵破帶來困難。

問題治理關(guān)鍵在“法”

面對(duì)AI技術(shù)濫用風(fēng)險(xiǎn)，如何整治AI詐騙，防止AI作惡？

關(guān)鍵在一個(gè)“法”字。這個(gè)“法”既包括科學(xué)技術(shù)方法的應(yīng)用，也包括剛性治理的法律法規(guī)。

在科學(xué)技術(shù)方面，打擊電信網(wǎng)絡(luò)詐騙的科技裝備發(fā)展迅速。例如，由廈門市美亞柏科信息股份有限公司研發(fā)的“AI-3300慧眼視頻圖像鑒真工作站”，不僅能鑒定利用傳統(tǒng)偽造手段篡改的影像，而且對(duì)利用深度偽造技術(shù)進(jìn)行了換臉、美顏、生成人臉、同圖或異圖復(fù)制篡改的影像也能夠進(jìn)行鑒定，可以為公安、司法行業(yè)提供技術(shù)支持。

而在法律法規(guī)方面，2022年12月，《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》發(fā)布，對(duì)人臉生成、替換、操控，合成人聲、仿聲等都進(jìn)行了明確約束。該項(xiàng)規(guī)定發(fā)布實(shí)施后，此前一款主打AI換臉的App在被監(jiān)管部門約談后進(jìn)行下架處理，處理原因?yàn)椤叭绱藫Q臉侵犯了公民的肖像權(quán)”。

需注意不自然的細(xì)節(jié)

“對(duì)于普通百姓而言，AI詐騙也不是完全‘防不勝防’，這需要大家有甄別的‘慧眼’?！迸碇强「嬖V科技日?qǐng)?bào)記者，雖然AI生成的語(yǔ)音和表情已經(jīng)相當(dāng)逼真，但仍然可能存在一些不自然的細(xì)節(jié)。具體細(xì)節(jié)包括AI生成語(yǔ)音的節(jié)奏、音高變化和AI生成圖像的面部表情過渡等，這些細(xì)節(jié)均與原始視頻有較大的差別。

進(jìn)行判斷與甄別的技巧有很多。彭智俊表示，在視頻通話的過程中，用戶可以讓對(duì)方展現(xiàn)全身特征，再觀察人臉是否出現(xiàn)消失或特殊變化，以檢測(cè)是否存在面部置換的可能性。用戶還可以讓對(duì)方用一張白紙?jiān)谀樓熬徛蝿?dòng)，觀察是否出現(xiàn)閃爍現(xiàn)象，以此判斷是否可能存在換臉現(xiàn)象。

“無論多厲害的騙局，歸根結(jié)底都是用欺詐的手段獲取對(duì)方信任，以謀取公私財(cái)物。對(duì)于個(gè)人來說，多方驗(yàn)證、確認(rèn)身份，才能避免和防范騙局的發(fā)生?！甭氛足懕硎?，尤其是在涉及金錢、財(cái)產(chǎn)和隱私等重要事項(xiàng)時(shí)，更要小心謹(jǐn)慎，可要求對(duì)方提供更多證據(jù)、進(jìn)行更多交流，并核實(shí)其身份和回答的準(zhǔn)確性，以排除AI技術(shù)欺騙的可能。

公眾在平時(shí)要有警惕高風(fēng)險(xiǎn)行為的意識(shí)。對(duì)于緊急轉(zhuǎn)賬、提供大額保證金或其他不尋常要求，要保持警惕，并仔細(xì)核實(shí)真實(shí)性。路兆銘提醒，不要被高額回報(bào)或緊迫情況迷惑。在不能確定真實(shí)身份時(shí)，要格外留意、不要著急匯款，避免上當(dāng)受騙，同時(shí)，建議將到賬時(shí)間設(shè)定為“2小時(shí)到賬”或“24小時(shí)到賬”，以預(yù)留處理時(shí)間。

(責(zé)編：楊曦、陳鍵)

關(guān)注公眾號(hào)：人民網(wǎng)財(cái)經(jīng)

分享讓更多人看到

關(guān)鍵詞