焦點熱訊:定制換臉視頻僅需數十元？ 謹防詐騙手法披上AI外衣
謹防詐騙手法披上AI外衣（主題）
北京日報記者 袁璐
日前，全國多地警方發布了多個“AI詐騙”的典型案例，案件披露后，“AI詐騙正在全國爆發”話題一度沖上熱搜第一，引發網友熱議。記者調查發現，目前有不少人對外提供定制AI換臉視頻，僅需正面半身照即可，成本低至數十元。
(資料圖片)
“當下AI換臉技術已相當成熟，容易被不法分子利用，但無需過分恐慌及妖魔化AI換臉的可用范圍。”網絡安全專家表示，面對利用AI技術的新型騙局，公眾需提高警惕，碰到支付、轉賬等，盡量多渠道驗證對方身份。
突然泛濫
多款軟件可快速實現AI換臉
AI換臉技術，是一種利用人工智能和計算機視覺技術，將一張人臉圖像的特征和表情轉換到另一張人臉圖像上，實現“換臉”效果。“AI換臉技術已相當成熟，使用門檻越來越低。”專注云計算與移動終端安全研究的“白帽黑客”陳玉（化名）告訴記者，早在2017年，就有某ID名為“Deepfakes”的用戶首次發布AI換臉視頻。“該用戶賬號不久被封殺，但他直接開源了其AI換臉項目的代碼。”
代碼開源后，AI換臉技術宛如被打開的“潘多拉魔盒”，迅速席卷全球。“只要具備基礎的電腦知識，一個‘小白’也能在一天做出一個換臉視頻。”陳玉表示，目前市面上有多款軟件可快速實現AI換臉。除國外發布的專業軟件外，國內部分娛樂APP也內嵌了AI換臉功能。
昨天，記者下載了一款名為Face-Play的APP。“一鍵AI換臉變裝，還原平行宇宙的你！”該APP表示，用戶需要在APP界面內拍攝完成一張比較規范的正面人像，點擊變臉，選擇自己想要的變臉特效即可獲得AI換臉視頻，模板多達3000多款，含“古風漢服”“經典角色”“氣質美女”“港風女神”等。不過該APP采用付費制，周會員為17元，年會員為398元。此外，微信上還有不少有AI換臉功能的娛樂小程序，用戶無需下載也可在線使用。
隨便能買
定制AI換臉視頻僅需數十元
“眾女星換臉女兒國國王誰更適配？楊超越、迪麗熱巴……”在B站上，這樣的明星換臉視頻播放量往往突破10萬次。除明星換臉外，記者注意到，電商平臺上有商家抓住了人們對過世親人的思念，推出“AI想念的人”等視頻合成服務，一條合成視頻收費50元，月銷量超40件。
“你只需要提供一張人物正面半身照給我，我就能讓嘴巴眼睛動起來。你提供文字，他說出這段話。”該淘寶店主一邊介紹，一邊向記者出示了一條“客片”：“親愛的家人們，我想念你們，我和你們的外公在這邊過得很好，你們工作忙但也要照顧好身體。”在該店主發來的視頻里，一位頭發花白的老奶奶盯著鏡頭諄諄叮囑，面部表情自然，甚至帶有方言口音。
此外，還有不少商家以9.9元、19.9元等價格出售高清AI視頻換臉制作的教程，并提供多套模板和數字虛擬人面部捕捉工具。但記者發現，這類商品大多差評多多。“不要買，沒有用”“騙人的，誰買誰上當”“資料包沒有想象中那么簡單，也沒有人工售后，全靠自學”，網友們評價道。
“找人定制AI換臉視頻，看起來成片效果好，但實際上有很大的安全隱患。”陳玉表示，這一過程需要搜集大量的面部識別信息，而這恰恰是用戶最核心的個人信息。“個人信息一旦被比對之后，如果落到不法分子的手里，極易威脅到財產安全和人身安全。”
加強防范
AI詐騙有待更高層面監管
AI換臉技術的可及性，讓AI詐騙頻發。近日，包頭市公安局發布一起使用AI技術進行電信詐騙的案件，受害人郭先生10分鐘內被騙430萬元。5月25日，4月發生的一起AI換臉詐騙事件又被媒體曝光。在這起安徽安慶經開區發生的“冒充熟人”詐騙案中，詐騙分子使用了一段9秒鐘的智能AI換臉視頻佯裝“熟人”，詐騙金額達245萬元。
基于AI換臉的詐騙手段已發展到什么地步？對此，奇安信首席反詐騙專家裴智勇對記者表示，不法分子在使用AI換臉進行詐騙時，大多以發送或展示AI換臉視頻片段作為手段。“比如最近警方提到的9秒AI換臉視頻，它其實沒有和受害人發生真實交互，由于時間很短，受害人也很難詳細分辨。”
“但我們無需過分恐慌及妖魔化AI換臉的可用范圍。”裴智勇表示，以目前技術來看，想要盜取微信賬號、劫持微信鏡頭并在實時視頻聊天中運用AI實時換臉和變聲技術，難度和成本都極高。“騙子通常都是用很低的成本博取很高的收益，不太可能花費高昂代價去批量尋找受害者。”
陳玉表示，普通用戶防范AI詐騙，關鍵在保護個人面部信息，防止被不法分子所獲取。“用戶不要在互聯網上隨意公開發布包含自己高清正面人臉的照片和視頻，或與不熟悉的人隨意進行線上視頻等。”
“沒有經過訓練的普通人想要用肉眼識別視頻是否為AI合成，難度極高。騙子甚至不會給你詳細判斷的機會，幾秒就掛斷。”裴智勇認為，公眾與其花費大量精力分辨騙子發來視頻的真假，不如在有懷疑時直接換一種渠道驗證對方身份，業內稱為“雙因子身份驗證”。“比如好友視頻聊天后要求轉賬，你就撥打對方電話號碼再次確認；對方使用微信談論交易，你就不妨用QQ再找他問問。多渠道驗證要比肉眼分辨視頻容易得多，也可靠得多。”
同時，業內專家認為，AI詐騙亟待更高層面監管，比如監管部門應該建立專門的人工智能安全機構，監督AI技術在不同領域內的應用。技術企業也應該加強數據合規建設，在人工智能設計中嵌入個人信息保護機制，并采用技術措施和管理制度，確保個人信息安全。
標簽：
