5月24日，中國互聯網協會發布公告稱，伴隨著深度合成技術的開放開源，深度合成產品和服務逐漸增多，利用“AI換臉”“AI換聲”等虛假音視頻進行詐騙、誹謗的違法行為屢見不鮮。廣大公眾需提高警惕，加強防范。事實上，近段時間AI行業發展亂象引發關注，如何保障人工智能的健康、可持續發展正被業界廣泛探討。

《證券日報》記者連日來通過走訪調查發現，“AI換臉”技術復雜度逐步降低且質量迅速提升，廣大公眾不容易辨別真假。同時，該類形式詐騙已蔓延至金融行業中，已有部分券商提示投資者謹防此類高仿真詐騙手段。

受訪專家普遍認為，“AI換臉”技術的濫用給金融機構敲響了警鐘，其復雜性、隱蔽性、突發性對機構的科技識別及運用提出了更高的要求。

“AI換臉”技術

成本不斷下降

如今，打開搜索平臺和社交媒體，各類“AI換臉”銷售及教程比比皆是。《證券日報》記者以購買者身份咨詢一位銷售“AI換臉”服務的公司，該公司客服稱，視頻換臉的價格根據分辨率和視頻長度來確定，按每30秒一條來計算價格。根據對方提供的清單，預充3000元可以獲得6條視頻、預充5000元可獲得20條視頻、預充3萬元可獲得3000條視頻，充值越多單價越低。

在對方展示的教學視頻中，使用者僅需要上傳一張臉部照片，即可通過簡單的步完成“一鍵換臉”。客服稱，換臉后的視頻可以綁定視頻號等正規直播間。記者觀察其提供的成片效果，已是真假難辨。

北京大成律師事務所高級合伙人、香港城市大學法律學院訪問學者肖颯認為：“‘AI換臉’成本降低，會帶來技術的濫用，各方應致力于規范技術發展。”

“‘AI換臉’技術相關成本涉及技術復雜度、所獲取人臉質量和數量、算法和模型選擇等。盡管‘AI換臉’技術成本有所差異，但總體而言呈下降趨勢。其中，隨著算法和模型等技術的進步，‘AI換臉’技術復雜度會進一步降低，且換臉質量隨之提升。”中關村科金金融事業部技術專家張巍向《證券日報》記者解釋道。

索信達控股AI創新中心主任邵俊告訴《證券日報》記者：“目前‘AI換臉’技術已較為成熟，且成本不斷下降，容易被不法分子所使用。值得關注的是，被打包銷售的個人信息是‘AI換臉’詐騙中所需投喂的‘原料’，這種侵犯個人隱私及售賣信息的行為需嚴厲打擊。”

防范不法分子利用新技術

實施金融詐騙

記者在調查中了解到，當前“AI換臉”詐騙正向金融行業蔓延，已有券商發布了提示性公告。

例如，太平洋證券發布公告稱，有不法分子利用“AI換臉”和聲紋等新技術冒充金融機構從業人員實施詐騙。此類事件中，不法分子利用以假亂真的技術冒充與投資者有業務往來的金融機構從業人員或其他可信人員身份，通過直播加群引導，瀏覽假冒金融機構網站和下載仿冒的官方App等各類方式，獲取投資者的信任、騙取投資者的錢財。

太平洋證券表示，投資者務必提高警惕，識別“AI換臉”等高仿真詐騙手段，切勿未經多方證實隨意相信微信朋友視頻救急、金融人員提供的穩賺新股申購或高收益理財產品機會等；更不要盲目支付會員費或授權他人代理操作賬戶管理及交易事項。

那么，應對“AI換臉”等新型詐騙手段，投資者該如何防范風險？易觀分析金融行業高級咨詢顧問蘇筱芮對記者表示：“目前一些金融從業人員與金融客戶借助企業微信、個人微信等社交渠道，通過一對一的方式建立聯系、進行業務維護，容易被不法分子利用‘AI換臉’詐騙。建議個人與機構員工通過微信等軟件聯系時獲取的信息，尤其是涉及投資、轉賬等資金類敏感信息，需要再通過機構官方App、官方熱線等渠道進行交叉核實。”

“個人信息泄露是精準詐騙的根源。個人應保管好自身信息，不要隨意向陌生人透露或授權；在使用社交平臺時，要注意設置隱私權限；謹慎訪問未知網址，謹慎安裝不明來源App，謹慎打開可疑文件，保持手機系統和軟件更新。”浙江大學國際聯合商學院數字經濟與金融創新研究中心聯席主任、研究員盤和林告訴記者。

記者在調查過程中也發現，目前在證券開戶、業務辦理、銀行貸款等方面，金融機構科技識別及運用較為全面，有助于進一步消除風險。

一位金融機構相關負責人表示：“當前金融系統人臉識別對于防范‘AI換臉’做得較為全面，但凡是人臉識別的場景，往往都需要視頻者全方位展示，如面部、眨眼、張嘴等，這些是判斷是否為‘AI換臉’較為有效的路徑。”

另有金融機構相關負責人對《證券日報》記者表示：“‘AI換臉’技術并非是新生事物，此前機構在貸前審核時，也曾遇到過客戶用‘換臉’技術騙貸。對于機構而言，在貸前生物識別中，人臉識別僅是一部分，審核流程中還有多重識別、交叉驗證及多模態生物防偽等，均可驗證其是否為AI臉或是被‘換臉’。”

業內人士普遍認為，“AI換臉”本身在機構放貸及其他業務方面不太容易蒙混過關，更多的是敲響警鐘，提醒機構進一步提高科技識別及運用能力，防范相關風險。