濫用“換臉”，政協委員急了

“太可怕了。視頻、聲音、口型完全看不出來真假。”

原始素材來自2020年電視劇《冰雨火》，換臉后的“假王勁松”用逼真的畫面和聲音進行商業推廣。

他后怕地說：“措手不及，我家里人都分不清是不是真是我了。”

這不是孤例。春節前夕，旅行穿搭博主雷國悅在社交媒體上刷到了“另一個自己”。

唯一不同的是，畫面中的女生換了裙子，多戴了頂草帽。

她確信：這是AI融圖。

令雷國悅氣憤的不只是剽竊創意，更是對方直接用于商業推廣。那個粉絲過萬的賬號，實則是代理商批量投放的低成本推廣號。

她清楚記得拍攝時的構思：特意等到日落之前，光暈正好能照亮對岸的摩天大樓。如今對方以極低成本“復刻”牟利。

她連夜通過可信時間戳服務留存電子證據，做好了訴訟準備。

一對一維權已很難，當侵權者是有組織的團伙時，反抗更加無力。

聊天記錄中，主犯羅某2024年4月告訴同伙：“富貴險中求，再說你又不是做黑五產業，怕什么。”

最終，羅某和姚某各被判有期徒刑一年六個月，罰金6萬元。這是北京首起利用AI侵犯著作權的刑事案件。

侵權不止于作品，還有每個人的面孔。

在聊天記錄中，虞某某承諾可以定制，無論是明星還是生活中的女生，“只要是能看到的臉都能換”。5分鐘視頻收費300元，30分鐘收費500元。

演員王勁松遇到的正是這類盜用。經辨認，其原始素材來自2020年拍攝的電視劇《冰雨火》，AI換臉后的“假王勁松”以逼真的聲音和畫面進行商業推廣。

醫療專家也成為灰黑產的目標。北京協和醫院臨床營養科主任于康教授發現，自己從未參與錄制的視頻大量出現在社交媒體上。

“這完全是我的形象，聲音相似度完全超乎了我的想象。現在技術能達到這個層級，有一點后背發涼。”他感嘆。

令于康擔憂的是，視頻造假方兜售的錯誤商品及信息，老百姓一旦相信，會造成更廣泛的影響。

2021—2023年，GAN技術提升了假視頻的皮膚質感，但側臉、眨眼等細節仍容易穿幫。

2024年至今，基于擴散模型與Transformer架構的生成式大模型技術逐漸完善，已能使環境光隨著面部轉動而變化，并表現出毛孔、汗水等紋理細節。

大約只需10—15秒的語音就能完美解析一個人的聲音特點并復刻；實時分析音頻波動后，能精準驅動3D嘴部肌肉模型；只要捕獲操縱者的細微表情，就能實時遷移到偽造目標臉上；在環境合成環節，不僅能自動補全背景，還能模擬攝像頭抖動帶來的自然模糊。

傳統的識別方法也已失效。“以前可以觀察面部邊緣，現在的模型會自動在面部邊緣添加‘自然噪聲’和‘羽化處理’，甚至模擬光線溢出的效果。”他說。

當出現疑似深度偽造攻擊時，相對有效的手段是“多因子驗證”，例如要求對方在視頻中做出快速用手在臉前揮動、側轉90度頭等意料之外的極端動作。大多數實時AI模型仍存在這一短板。

“但這些方法的有效性，在快速進化的技術面前也隨時可能失效。”他坦言。

越來越“以假亂真”的AI換臉技術，正將普通人置于多重風險之中。

2026年全國兩會期間，全國政協委員靳東回應AI換臉亂象時表示，很多人因此遭遇網絡詐騙。

視頻博主“濾鏡粉碎機”曾模擬過真實的詐騙流程。在技術方協助下，團隊生成了一位成員的AI換臉視頻，用陌生微信號冒充本人聯系其母親，再用AI視頻撥打微信視頻電話，以“女友懷孕急用錢”的理由索要2萬元。

母親向其他親戚朋友求助，得到了許多“是騙子，別轉錢”的提醒。三小時后，在焦慮情緒的驅動下，母親把錢轉到了陌生賬戶。事后復盤時，這位母親表示“從始至終都沒覺得有人冒充他”。

“平時再冷靜、有閱歷的家長，面對熟悉的臉龐和聲音，可能都難以戰勝情感。”她說。

據國家反詐中心數據，2025年上半年，AI換臉詐騙案件涉案金額超68億元，單起案件最高損失達2000萬元。

技術正被用于系統性攻擊數字信任驗證體系，并直接牟利。

普通人也更容易遭受被造謠和誹謗的風險。

“技術趨勢已不可阻擋，除了發展檢測技術，我們也必須加快立法，并加強向社會公眾科普有關AI技術的風險及法律知識。”他說。

全國政協委員、導演劉家成認為，若AI生成內容被用于不良廣告，將對當事人造成毀滅性打擊。他呼吁加強對AI的規范管理，嚴禁隨意替換他人面孔、嫁禍于人。

你擔心自己的臉被“偷”走嗎？