上海
防走丟，大家也可以在“事兒君看世界”找到我
關注起來，以后不“失聯”~
上周，兩件看似毫不相關的事同時發生了。
第一件事，TikTok集中封禁了一大批網紅賬號，她們是清一色的黑人女性，面孔精致、身材夸張、表情自然。
唯一的問題是，她們全是AI生成的假人。
同一周，美國男子Michael Smith在紐約聯邦法院認了罪。
他用AI生成了數十萬首歌曲，再用一千多個機器人賬號循環播放，七年騙走超過800萬美元版稅。
一個賣假人，一個賣假歌。一個在社交媒體上收割流量，一個在流媒體上收割版稅。兩件事的行業不同、手法不同、受害者不同，但它們背后的邏輯是一樣的。
曾經需要高門檻才能實施的犯罪，現在變成一門任何人都可以上手的“生意”。
先來說第一件事。
BBC最新調查發現，TikTok和Ins上活躍著大量由AI生成的黑人女性賬號。
她們往往穿著暴露，皮膚經過處理，顯得異常地黑，且賬號名稱刻意使用“Black”“Ebony”等標簽，其目標人群是誰已經不言自明。
BBC發現了至少60個此類賬號，絕大多數在ins上運營，約三分之一同時活躍在TikTok上。重點是，這些AI圖像和視頻沒有標注為AI生成，明顯違反了平臺規則。
舉個例子，其中一個被TikTok封禁的賬號，盜用了模特Riya Ulan的視頻。Riya是馬來西亞人，純亞洲人膚色，結果經過AI上色，她變成了這樣：
（@riyaulann VS 假賬號）
最讓人不安的是，“上色版”的Riya在TikTok上獲得了3500萬次觀看，在Instagram上獲得了1.73億次，是Riya原版視頻的47倍。
評論里有網友看出了AI味兒，留言說：“我希望你不是AI，你是在太太太太太漂亮了。”
結果假賬號回復道：“哈哈哈當然不是了，謝謝你。”
（假賬號的回復）
Riya表示，她很生氣：“我的視頻當然都在網上...但這不意味著你可以隨意偷走它，當成是你的。”
她曾多次向兩個平臺舉報假賬號，但官方無動于衷，直到BBC聯系TikTok后，假賬號才終于被封禁。
這些賬號當然不是做著玩的，它們會互相關注、互相點贊，形成矩陣式推送。它們都會帶鏈接，最終會導向第三方的付費色情網站。
換句話說，社交媒體上免費的擦邊內容是魚餌，為了把流量引導至付費平臺。當然，付費平臺上的視頻，也是AI做的。
在BBC介入后，TikTok在兩天內封了其中20個賬號，但ins那邊仍然表示“正在調查”，截至BBC發稿時，那些假賬號仍然活得好好的......
而這，只是AI色情產業鏈的冰山一角罷了。
2025年底，馬斯克旗下的聊天機器人Grok推出圖片編輯功能，然后立刻被大規模濫用......用戶只需對一張女性照片說一句類似“給她換上比基尼”之類的指令，Grok就會直接生成圖片，根本無需征得照片原主人同意。
據《紐約時報》統計，當時Grok在九天內生成了440萬張圖片，其中至少41%，是色情化的女性照片。
而這仍然不是最恐怖的。
在通用的圖像生成AI中，如果你叫AI生成一個人，它只會隨機生成一張臉。
但如果你非要生成特定的張三李四，它做不到，因為AI并不認識張三李四。
這時候就需要一種叫“LoRA”的微調體系..。
你只要收集一個人的幾十張照片，就可以訓練出一個專門針對這個人的LoRA文件。把這個文件加載到AI工具里，它就認識這個人了。
之后你輸入任何指令，AI生成的圖像里都會是這個人的臉。
現在市面上甚至能找到專門制作這類小模型的服務。比如，美國有一個網站叫Civitai，里面有一個板塊是“懸賞”。顧名思義，可以花錢懸賞別人幫忙做LoRA文件。
（Civitai網站）
這甚至不是什么暗網、黑市，而是有風投支持的正經網站。
準確來說，制作LoRA模型本身只是讓AI“認識”一張臉，這一步確實不違法。
但這也意味著，任何人只要拿到你的幾張照片，都可以付費請人制作你的小模型，然后用AI無限生成你的照片......
至于是什么照片呢？你當然不會知道，你也沒有任何控制權。
這就相當于花錢買了一把專門打開某個人的鑰匙。而像Riya這類網紅、模特，本來就會在網上大量發布自己的照片，無疑是最“完美”的受害者。
（Riya的主頁有她的海量自拍）
時至今日，AI“制造”一個女人的成本幾乎已經降到了零。
然后圍繞這個能力，流量引導至色情內容，色情內容又變成更多的流量，一條產業鏈就這么形成了。
接下來是同一周發生的第二件事。
2026年3月19日，美國男子Michael Smith承認了電信欺詐的罪名。他同意退還八百多萬美元的非法所得，面臨最高5年監禁。
這是美國司法史上首例AI音樂欺詐的刑事案件。
Smith最初是個真正的音樂人，有自己創作的少量歌曲。但他很快意識到，靠真實創作根本就賺不到什么錢。
（Smith 2016年的照片）
想從流媒體平臺賺錢，你首先得有播放量。而想要有播放量，你要么出名，要么出爆款熱歌，而這兩個東西，Smith都沒有。
但是他可以偽造。
2018年底，他開始與一家AI音樂公司合作，買了數十萬首AI生成的曲目。從此，原材料的供應變成了無限的。
有了歌，下一步是制造聽眾。
Smith創建了1040個機器人賬號，分布在Spotify、Apple Music等流媒體平臺上。他用自動化軟件讓這些賬號不間斷地播放自己的AI歌曲。每個機器人每天播放約636首歌，合計每天制造約66.1萬次播放。
為了不觸發平臺的反欺詐系統，他的設計相當周密：播放量分散在數千首歌曲中，避免任何單曲播放量猛增；而且所有機器人都掛著VPN，模擬不同地區的真實聽眾。
這套系統從2018年運行到2024年。六年，硬生生造了數十億次虛假播放，最終騙取了超過800萬美元的版稅。
需要特別指出，Smith這套做法并不只是“薅平臺羊毛”這么簡單，而是真實地傷害了其他音樂人的利益。
這里稍微科普一下，Spotify、Apple Music這些平臺，用的都是所謂的“Pro-Rata”模式。
（Pro-Rata模式）
簡單地說，平臺每個月把所有訂閱費和廣告收入匯成一個總池子，扣除平臺自身運營成本后，剩下的錢按比例分給所有版權持有者。你這個月的播放量占全平臺總播放量的百分之多少，你就拿走池子里百分之多少的錢。
而且，這個池子的總量是相對固定的，因為Spotify的會員數量就是相對固定的。播放量的增多并不會把蛋糕做大，反而會讓每個人切到的蛋糕變小。
打個比方：你和99個音樂人分一個月的版稅池。本來你的歌占了總播放量的1%，你拿走1%的錢。但現在Smith用機器人灌進來大量虛假播放，總播放量被人為撐大了，你的播放量還是那么多，但在總量中的占比從1%變成了0.8%。你的收入就憑空少了20%。
言歸正傳，據起訴書和Billboard報道，Smith并不是一個人在戰斗，他背后有一名幫他管理機器人賬號的“音樂推廣人”，以及那家AI音樂公司的CEO。Smith每個月會給這家AI音樂公司分成，每月不低于2000美元，徹底形成了產業鏈。
最恐怖的是，Smith干的事恐怕并不是個案，只不過他是第一個被揪出來的倒霉蛋罷了。
法國流媒體平臺Deezer的數據更能說明這個問題的規模。
（Deezer平臺，示意圖）
截至2026年1月，Deezer每天能收到約6萬首完全由AI生成的新曲，占其每日總上傳量的39%。
2025年全年，Deezer共標記了1340多萬首AI生成曲目。而在這一千多萬首AI曲中，高達85%檢測出了“欺詐性播放”。
（當然，欺詐播放會被平臺標記出來，一毛錢都分不到。）
這并不意味著剩下那15%就不是欺詐，可能只是像Smith一樣，還沒有被檢測出來而已。
現在回過頭來看這兩件事，表面上，一個是AI色情，一個是AI音樂。但剝開表象，它們的運轉邏輯是一樣的：
第一步，AI把內容生產的成本降到零。
色情視頻不需要真人，歌曲不需要真人創作。原材料可以無限供應。
第二步，利用平臺獲得流量。
利用人們的好色心理獲得流量，或者干脆造一大堆機器人偽裝流量。
第三步，流量變現。
色情流量導向付費平臺，虛假播放騙取版稅池中的真金白銀......
身在2026年，我們現在遇到的問題是，AI進化的速度已經超過法律修訂的速度了。
去年5月，美國簽署了《Take It Down》法案，將未經同意發布親密圖像，也包括AI生成圖，列為聯邦犯罪，違者將面臨最高3年監禁，平臺也必須在接到投訴后48小時內刪除。
但這部法律針對的是“發布”這個環節，而非工具本身。這意味著兩件事：
第一，如果某個人私下里生成了你的圖片，而不發出去，法律將沉默以對。
第二，制作LoRA模型、提供生成工具的平臺和服務，只要自身沒有發布違規內容，同樣是安全的。
怎么說呢，TikTok封禁了賬號，Michael Smith認了罪，但是類似的假賬號幾乎毫無疑問地會繼續涌現、Deezer每天仍要面對6萬首AI新曲的上傳......
這種局面不會很快消失。即便AI真的是泡沫，即便AI泡沫真的破裂，已經生成的圖片和視頻都已經存在了，或許就在某個人的硬盤里......
ref:
https://www.bbc.com/news/articles/c070e283k8vo
https://www.rollingstone.com/music/music-news/mike-smith-guilty-ai-generated-music-streaming-fraud-1235534089/
https://www.nytimes.com/2026/01/22/technology/grok-x-ai-elon-musk-deepfakes.html
特別聲明：以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布，本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
