![]()
一個加州陪審團(tuán)剛剛做出裁決:Meta和谷歌旗下的YouTube必須為一個女孩的心理健康問題買單。300萬美元的賠償金額不算天文數(shù)字,但判決本身像一顆釘子,釘進(jìn)了硅谷最敏感的神經(jīng)——算法推薦到底算不算"故意傷人"?
原告K.G.M.(法庭文件中的化名)從童年起就是Instagram和YouTube的重度用戶。她的律師團(tuán)隊(duì)沒有糾纏于具體哪條內(nèi)容害了她,而是直指平臺的核心設(shè)計(jì):自動播放、無限下滑、算法推薦、持續(xù)推送通知。這些功能不是中立的工具,而是精心設(shè)計(jì)的" engagement 最大化系統(tǒng)"——用中文說,就是讓你停不下來的機(jī)制。
陪審團(tuán)認(rèn)可了這個邏輯。70%的責(zé)任歸Meta,30%歸谷歌,外加懲罰性賠償?shù)臐撛谧芳印?/b>
兩家公司當(dāng)庭反駁:青少年心理健康受多重因素影響,平臺已經(jīng)提供了家長控制和安全功能。這套說辭在過往案件中往往能奏效,但這次陪審團(tuán)沒買賬。
24小時內(nèi)第二記耳光:新墨西哥州的"誤導(dǎo)"定罪
戲劇性的是,這樁加州判決前一天,Meta剛在另一場官司中栽了跟頭。新墨西哥州法院認(rèn)定Meta違反該州《不公平行為法》,罪名是"誤導(dǎo)公眾關(guān)于平臺安全性"以及"未能保護(hù)兒童免受剝削"。
兩案有微妙區(qū)別。新墨西哥案聚焦性化內(nèi)容和掠奪性行為,加州案則指向成癮性設(shè)計(jì)本身。但主線高度一致:平臺對未成年人的安全承諾,與實(shí)際提供的保護(hù)之間存在巨大鴻溝。
Meta和谷歌都已表態(tài)上訴。但上訴能改寫的只是具體賠償數(shù)字,判決留下的裂縫已經(jīng)很難修補(bǔ)。
數(shù)千起訴訟正在排隊(duì):一個危險(xiǎn)的先例
加州判決的真正殺傷力不在300萬,而在它可能成為模板。全美各州目前有數(shù)千起類似訴訟正在推進(jìn),原告方大多是聲稱孩子因社交媒體出現(xiàn)心理問題的家長群體。
這些案件的核心主張高度一致:平臺不是被動的內(nèi)容托管者,而是主動的行為塑造者。自動播放和無限下滑不是"功能",而是"設(shè)計(jì)選擇"——選擇以用戶時間為代價(jià)換取廣告收入。
過去平臺慣用的辯護(hù)策略是"內(nèi)容免責(zé)":我們沒生產(chǎn)有害內(nèi)容,只是展示了它。但加州陪審團(tuán)顯然接受了更激進(jìn)的論證:傷害來自架構(gòu)本身,與具體內(nèi)容無關(guān)。
這對行業(yè)意味著什么?想象一下:如果汽車廠商因?yàn)?油門設(shè)計(jì)得太容易踩到底"而被判賠償車禍?zhǔn)芎φ撸麄€工業(yè)設(shè)計(jì)邏輯都要重寫。
硅谷的" engagement 引擎"面臨拆解壓力
Meta和谷歌的商業(yè)模式建立在同一套公式上:用戶時長 × 廣告加載率 = 收入。為了最大化第一項(xiàng),工程師團(tuán)隊(duì)在過去十年里打磨出一套精密的行為操控技術(shù)。
無限下滑(infinite scroll)是其中最經(jīng)典的案例。心理學(xué)家早就發(fā)現(xiàn),不確定的獎勵機(jī)制——永遠(yuǎn)不知道下一條是什么——比確定獎勵更能激活多巴胺回路。這不是偶然發(fā)現(xiàn)被濫用,而是從游戲行業(yè)借鑒的"成癮設(shè)計(jì)"被系統(tǒng)性地移植到內(nèi)容消費(fèi)場景。
通知系統(tǒng)同樣經(jīng)過精密計(jì)算。不是在最方便用戶的時間推送,而是在最可能拉回用戶的時間推送。睡眠被打斷、學(xué)習(xí)被中斷、面對面交流被切割,這些"外部性"從未計(jì)入平臺的設(shè)計(jì)KPI。
加州陪審團(tuán)說:這些設(shè)計(jì)選擇是有后果的,而后果需要有人承擔(dān)。
被告方在庭上強(qiáng)調(diào)"多重因素"——家庭環(huán)境、學(xué)校壓力、同伴關(guān)系都影響青少年心理健康。這在統(tǒng)計(jì)學(xué)上成立,但在法律責(zé)任認(rèn)定上,陪審團(tuán)選擇了更直接的因果鏈條:平臺設(shè)計(jì) → 成癮性使用 → 心理傷害。
這個邏輯如果在上訴中站得住腳,將迫使平臺重新計(jì)算" engagement 最大化"策略的法律風(fēng)險(xiǎn)。也許無限下滑不會消失,但可能會加上更醒目的使用時長提醒;算法推薦不會停用,但可能會對未成年人啟用更保守的權(quán)重。
從"內(nèi)容監(jiān)管"到"架構(gòu)問責(zé)":法律戰(zhàn)場的轉(zhuǎn)移
過去二十年,平臺與監(jiān)管者的拉鋸戰(zhàn)集中在內(nèi)容層面:刪除什么、保留什么、誰來判斷。加州判決把戰(zhàn)場推進(jìn)了一步——問題不再是"展示了什么",而是"如何展示"。
這個區(qū)分至關(guān)重要。內(nèi)容審查涉及言論自由的核心爭議,架構(gòu)設(shè)計(jì)則更接近產(chǎn)品安全標(biāo)準(zhǔn)。陪審團(tuán)不需要判斷某條視頻是否有害,只需要認(rèn)定"自動播放+算法推薦+推送通知"的組合對未成年人構(gòu)成了可預(yù)見的風(fēng)險(xiǎn)。
對產(chǎn)品經(jīng)理出身的從業(yè)者來說,這個判決像一面鏡子。我們習(xí)慣用"用戶留存""日均使用時長"作為成功指標(biāo),卻很少追問:這些數(shù)字背后,有多少是用戶真實(shí)需求,有多少是行為操控的結(jié)果?
K.G.M.的案子沒有給出精確的比例。但陪審團(tuán)的70/30責(zé)任劃分提供了一個粗糙的參照:在導(dǎo)致傷害的多重因素中,平臺設(shè)計(jì)占據(jù)了顯著份額——顯著到需要支付賠償金,甚至懲罰性賠償。
Meta和谷歌的上訴策略尚不明朗。它們可能挑戰(zhàn)因果關(guān)系的認(rèn)定,可能質(zhì)疑損害賠償?shù)挠?jì)算,也可能試圖將案件上升到憲法層面——聲稱架構(gòu)設(shè)計(jì)屬于受保護(hù)的言論表達(dá)。但無論哪條路徑,都需要說服上級法院:陪審團(tuán)對"故意設(shè)計(jì)"的認(rèn)定是錯誤的。
而與此同時,數(shù)千起類似案件的律師正在研究這份判決書。加州不是唯一允許此類訴訟的州,陪審團(tuán)的情緒也不是孤例。過去一年,從國會聽證會到州級立法,"保護(hù)未成年人免受社交媒體傷害"已經(jīng)成為罕見的跨黨派共識。
平臺曾經(jīng)引以為傲的"增長黑客"技術(shù),正在法律和政治層面遭遇系統(tǒng)性反噬。自動播放和無限下滑不會一夜之間消失,但它們的設(shè)計(jì)者可能需要開始準(zhǔn)備第二套方案——一套能在法庭上為自己辯護(hù)的方案。
K.G.M.的律師在庭后聲明中說,希望這個判決能讓平臺"重新思考它們對年輕用戶的責(zé)任"。Meta和谷歌的發(fā)言人則重申了對安全的承諾,同時強(qiáng)調(diào)將上訴到底。
如果上訴失敗,300萬只是開始。如果上訴成功,這場戰(zhàn)爭也只是換了一個戰(zhàn)場繼續(xù)。唯一確定的是:陪審團(tuán)已經(jīng)表明,它們能夠理解算法如何傷人——而理解,是問責(zé)的第一步。
下一個走進(jìn)法庭的,會是誰家的孩子?
特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺“網(wǎng)易號”用戶上傳并發(fā)布,本平臺僅提供信息存儲服務(wù)。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.