5月24日，中國互聯(lián)網(wǎng)協(xié)會發(fā)布公告稱，伴隨著深度合成技術的開放開源，深度合成產(chǎn)品和服務逐漸增多，利用“AI換臉”“AI換聲”等虛假音視頻進行詐騙、誹謗的違法行為屢見不鮮。廣大公眾需提高警惕，加強防范。事實上，近段時間AI行業(yè)發(fā)展亂象引發(fā)關注，如何保障人工智能的健康、可持續(xù)發(fā)展正被業(yè)界廣泛探討。

(資料圖片僅供參考)

《證券日報》記者連日來通過走訪調(diào)查發(fā)現(xiàn)，“AI換臉”技術復雜度逐步降低且質(zhì)量迅速提升，廣大公眾不容易辨別真假。同時，該類形式詐騙已蔓延至金融行業(yè)中，已有部分券商提示投資者謹防此類高仿真詐騙手段。

受訪專家普遍認為，“AI換臉”技術的濫用給金融機構敲響了警鐘，其復雜性、隱蔽性、突發(fā)性對機構的科技識別及運用提出了更高的要求。

“AI換臉”技術

成本不斷下降

如今，打開搜索平臺和社交媒體，各類“AI換臉”銷售及教程比比皆是?！蹲C券日報》記者以購買者身份咨詢一位銷售“AI換臉”服務的公司，該公司客服稱，視頻換臉的價格根據(jù)分辨率和視頻長度來確定，按每30秒一條來計算價格。根據(jù)對方提供的清單，預充3000元可以獲得6條視頻、預充5000元可獲得20條視頻、預充3萬元可獲得3000條視頻，充值越多單價越低。

在對方展示的教學視頻中，使用者僅需要上傳一張臉部照片，即可通過簡單的步完成“一鍵換臉”。客服稱，換臉后的視頻可以綁定視頻號等正規(guī)直播間。記者觀察其提供的成片效果，已是真假難辨。

北京大成律師事務所高級合伙人、香港城市大學法律學院訪問學者肖颯認為：“‘AI換臉’成本降低，會帶來技術的濫用，各方應致力于規(guī)范技術發(fā)展。”

“‘AI換臉’技術相關成本涉及技術復雜度、所獲取人臉質(zhì)量和數(shù)量、算法和模型選擇等。盡管‘AI換臉’技術成本有所差異，但總體而言呈下降趨勢。其中，隨著算法和模型等技術的進步，‘AI換臉’技術復雜度會進一步降低，且換臉質(zhì)量隨之提升?！敝嘘P村科金金融事業(yè)部技術專家張巍向《證券日報》記者解釋道。

索信達控股AI創(chuàng)新中心主任邵俊告訴《證券日報》記者：“目前‘AI換臉’技術已較為成熟，且成本不斷下降，容易被不法分子所使用。值得關注的是，被打包銷售的個人信息是‘AI換臉’詐騙中所需投喂的‘原料’，這種侵犯個人隱私及售賣信息的行為需嚴厲打擊?！?/p>

防范不法分子利用新技術

實施金融詐騙

記者在調(diào)查中了解到，當前“AI換臉”詐騙正向金融行業(yè)蔓延，已有券商發(fā)布了提示性公告。

例如，太平洋證券發(fā)布公告稱，有不法分子利用“AI換臉”和聲紋等新技術冒充金融機構從業(yè)人員實施詐騙。此類事件中，不法分子利用以假亂真的技術冒充與投資者有業(yè)務往來的金融機構從業(yè)人員或其他可信人員身份，通過直播加群引導，瀏覽假冒金融機構網(wǎng)站和下載仿冒的官方App等各類方式，獲取投資者的信任、騙取投資者的錢財。

太平洋證券表示，投資者務必提高警惕，識別“AI換臉”等高仿真詐騙手段，切勿未經(jīng)多方證實隨意相信微信朋友視頻救急、金融人員提供的穩(wěn)賺新股申購或高收益理財產(chǎn)品機會等；更不要盲目支付會員費或授權他人代理操作賬戶管理及交易事項。

那么，應對“AI換臉”等新型詐騙手段，投資者該如何防范風險？易觀分析金融行業(yè)高級咨詢顧問蘇筱芮對記者表示：“目前一些金融從業(yè)人員與金融客戶借助企業(yè)微信、個人微信等社交渠道，通過一對一的方式建立聯(lián)系、進行業(yè)務維護，容易被不法分子利用‘AI換臉’詐騙。建議個人與機構員工通過微信等軟件聯(lián)系時獲取的信息，尤其是涉及投資、轉(zhuǎn)賬等資金類敏感信息，需要再通過機構官方App、官方熱線等渠道進行交叉核實?！?/p>

“個人信息泄露是精準詐騙的根源。個人應保管好自身信息，不要隨意向陌生人透露或授權；在使用社交平臺時，要注意設置隱私權限；謹慎訪問未知網(wǎng)址，謹慎安裝不明來源App，謹慎打開可疑文件，保持手機系統(tǒng)和軟件更新。”浙江大學國際聯(lián)合商學院數(shù)字經(jīng)濟與金融創(chuàng)新研究中心聯(lián)席主任、研究員盤和林告訴記者。

記者在調(diào)查過程中也發(fā)現(xiàn)，目前在證券開戶、業(yè)務辦理、銀行貸款等方面，金融機構科技識別及運用較為全面，有助于進一步消除風險。

一位金融機構相關負責人表示：“當前金融系統(tǒng)人臉識別對于防范‘AI換臉’做得較為全面，但凡是人臉識別的場景，往往都需要視頻者全方位展示，如面部、眨眼、張嘴等，這些是判斷是否為‘AI換臉’較為有效的路徑?！?/p>

另有金融機構相關負責人對《證券日報》記者表示：“‘AI換臉’技術并非是新生事物，此前機構在貸前審核時，也曾遇到過客戶用‘換臉’技術騙貸。對于機構而言，在貸前生物識別中，人臉識別僅是一部分，審核流程中還有多重識別、交叉驗證及多模態(tài)生物防偽等，均可驗證其是否為AI臉或是被‘換臉’?！?/p>

業(yè)內(nèi)人士普遍認為，“AI換臉”本身在機構放貸及其他業(yè)務方面不太容易蒙混過關，更多的是敲響警鐘，提醒機構進一步提高科技識別及運用能力，防范相關風險。

關鍵詞