- “AI換聲”爆火暗藏技術隱憂
- 2023年11月10日 來源：北京日報
提要：目前國內外均有安全機構嘗試研發技術手段來識別AI換臉或AI換聲。以清華大學人工智能研究院孵化企業瑞萊智慧推出的能夠防范生成式人工智能惡意濫用的DeepReal2.0技術為例，其相關技術能夠用于打擊網絡詐騙和聲譽侵害行為、檢測網絡內容合規性、檢測音視頻物證真實性等，可對生成式人工智能技術濫用行為進行管控和治理。
郭德綱飆英文說相聲、趙本山用流利的英文演小品、外國歌星泰勒·斯威夫特操著一口地道的中文接受采訪……多個國內外明星被AI(人工智能)換聲的視頻近日在網絡上爆火，再次引發公眾對AI技術的熱議。
無論是AI換聲還是換臉，新技術的使用邊界亟待明確，其背后的侵權、詐騙等隱憂更不容忽視。
飆外語以假亂真
“I have to take care of this matter！(這事兒我得管)”在一條播放量達百萬次的短視頻中，身著刺繡大褂的相聲演員郭德綱正像模像樣地用英文說著《濟公傳》。記者發現，視頻里的聲音不僅和郭德綱本人的音色沒有什么出入，嘴型和英文發音也一一對應，著實難辨真假。這段精彩的單口相聲秀引得網友發出驚嘆：“要不是看到視頻平臺上‘該視頻使用AI技術合成’的小字提示，我差點就當真了！”
除了本土名人說英文，外國歌星泰勒·斯威夫特、演員艾瑪·沃森等在訪談節目中用中文對答如流的視頻，也引來網友圍觀。截至發稿前，多個AI換聲視頻在B站、微博、抖音的瀏覽量已達到數百萬。
奇安信集團行業安全研究中心主任裴智勇解釋，無論聲音還是圖像，都可以通過特定的數學變換分解成若干個特征向量，對每個向量賦予特定的一組參數，就可以形成特定的聲音或圖像。所謂AI換聲，就是通過機器學習的方法，用某個人以往的聲音作為樣本進行學習，從而給聲音的每個特征向量賦予特定的參數，之后再用這組參數讀出新的內容，就可以做到語音、語氣甚至情感的模仿了。
不過，要想達到逼真的效果，據業內人士介紹，除了換聲以外，還需要地道的翻譯、局部篡改人臉信息對口型等多個步驟后才能實現。
換聲網站走紅背后存爭議
隨著巨大流量涌入AI換聲視頻，其背后的公司也浮出水面——2022年7月在海外上線的AI換聲網站HeyGen。從如今各大社交平臺上爆火的換聲短視頻自帶的水印來看，其中有不少由該網站生成。在該平臺上，制作一條換聲視頻十分簡單，用戶只需要上傳視頻，選擇語言后，它就能自動翻譯并調整音色，生成嘴型匹配的外語視頻。
目前，該網站已推出免費版和付費版兩種版本，其中，付費版最低收費為每月24美元，免費版僅限于生成1分鐘時長視頻。一位該網站用戶表示，高峰期時排隊人數達上萬人。有數據顯示，今年8至9月，各大文生圖類AI網站的訪問量均開始呈現下降趨勢，但HeyGen的訪問量卻上升了92%，流量躍居各大獨立AI網站之首。
然而，與此前的爆款AI應用妙鴨相機一樣，HeyGen也面臨著爭議與熱度齊飛。有律師提出，由于HeyGen用戶可以將任何人的視頻上傳并換聲，這可能涉嫌著作權、肖像權、聲音權三個方面的侵權。比如，相聲、小品等都屬于《中華人民共和國著作權法》保護的作品，如未經著作權人授權就擅自更改并傳播，則存在侵權問題。
加強治理謹防技術濫用
面對爐火純青的AI生成技術，更有網友提出，一旦相關技術被用于網絡詐騙，后果將難以想象。裴智勇分析，單純依靠AI技術是無法完成詐騙的，還必須將其與各種深度的網絡詐騙套路結合起來才能成功實施詐騙。在裴智勇看來，絕大多數的傳統防騙技巧對于AI詐騙同樣有效，“比如有人用視頻電話向您借錢，您回撥一個電話確認一下就好了。”
值得一提的是，目前國內外均有安全機構嘗試研發技術手段來識別AI換臉或AI換聲。以清華大學人工智能研究院孵化企業瑞萊智慧推出的能夠防范生成式人工智能惡意濫用的DeepReal2.0技術為例，其相關技術能夠用于打擊網絡詐騙和聲譽侵害行為、檢測網絡內容合規性、檢測音視頻物證真實性等，可對生成式人工智能技術濫用行為進行管控和治理。
記者也注意到，國家網信辦等三部門去年聯合發布的《互聯網信息服務深度合成管理規定》明確，深度合成服務提供者對使用其服務生成或者編輯的信息內容，應當采取技術措施添加不影響用戶使用的標識。但目前網絡上流傳的AI換臉圖片和AI換聲視頻中，有些并未添加相應標識。
