![]()
3月25日,加州一個(gè)陪審團(tuán)用4小時(shí)審議,給硅谷上了一課——Meta和YouTube要為一名年輕用戶的抑郁、焦慮和身材焦慮買單。賠償金額300萬美元,Meta承擔(dān)七成,Google三成。更重要的是,陪審團(tuán)認(rèn)為這還不夠,后續(xù)可能追加懲罰性賠償。
原告K.G.M.(法庭文件化名Kaley)的律師團(tuán)隊(duì)把Instagram和YouTube的產(chǎn)品設(shè)計(jì)拆解成一件件"證物":自動(dòng)播放、無限下滑、算法推薦、 persistent notifications(持續(xù)推送通知)。這些功能不是中立的工具,而是精心設(shè)計(jì)的"時(shí)間黑洞"。陪審團(tuán)認(rèn)可了這個(gè)說法。
從"內(nèi)容免責(zé)"到"設(shè)計(jì)有責(zé)":一場邊界遷移
科技行業(yè)過去幾十年有個(gè)默契:平臺(tái)對(duì)內(nèi)容負(fù)責(zé),但對(duì)產(chǎn)品形態(tài)免責(zé)。Section 230(美國《通信規(guī)范法》第230條)像一把保護(hù)傘,讓Facebook、YouTube們躲過了無數(shù)訴訟。
這次判決的微妙之處在于——陪審團(tuán)沒糾結(jié)Kaley看了什么內(nèi)容,而是追問平臺(tái)為什么讓她停不下來。
Meta和Google的辯護(hù)策略很標(biāo)準(zhǔn):青少年心理健康受多重因素影響,家庭、學(xué)校、基因都可能是變量。兩家公司還搬出了家長控制、內(nèi)容過濾、屏幕時(shí)間管理等功能,證明自己并非無所作為。
但陪審團(tuán)沒買賬。這個(gè)信號(hào)比300萬美元本身更值得玩味。
24小時(shí)內(nèi)的第二記耳光
判決前一天,Meta剛在新墨西哥州栽了跟頭。那個(gè)案子性質(zhì)不同——涉及性化內(nèi)容和掠食者行為,Meta被認(rèn)定違反該州《不公平行為法》,誤導(dǎo)公眾關(guān)于平臺(tái)安全性的陳述。
兩個(gè)案子有個(gè)共同母題:年輕用戶的安全,或者說,平臺(tái)承諾的安全與實(shí)際提供的保護(hù)之間的落差。
新墨西哥案聚焦"內(nèi)容治理失職",加州案則指向"產(chǎn)品設(shè)計(jì)原罪"。一個(gè)是事后清理沒做好,一個(gè)是事前鉤子埋太深。兩天內(nèi),Meta在兩條戰(zhàn)線上同時(shí)失守。
數(shù)千起訴訟的"先例效應(yīng)"
美國各地法院正在審理的類似索賠案,數(shù)量以千計(jì)。家長團(tuán)體和消費(fèi)者權(quán)益組織把青少年心理健康危機(jī)的賬,算到了"參與度驅(qū)動(dòng)設(shè)計(jì)"頭上。
洛杉磯這場判決的意義在于:它證明陪審團(tuán)愿意把平臺(tái)責(zé)任從"內(nèi)容層"上移到"架構(gòu)層"。
這不是說平臺(tái)要對(duì)每一條推送負(fù)責(zé),而是說——當(dāng)自動(dòng)播放和無限下滑被證明具有"成癮性設(shè)計(jì)"特征時(shí),平臺(tái)可能要為由此產(chǎn)生的心理傷害承擔(dān)法律責(zé)任。
Meta和Google已表示上訴。但上訴能翻的是賠償金額,很難翻的是陪審團(tuán)對(duì)"設(shè)計(jì)倫理"的定性。
產(chǎn)品設(shè)計(jì)的"黑暗模式"正在從用戶體驗(yàn)話題,變成法律責(zé)任話題。
![]()
對(duì)25-40歲的科技從業(yè)者來說,這個(gè)判決像一面鏡子。我們中的很多人參與過DAU(日活躍用戶)增長項(xiàng)目,優(yōu)化過留存曲線,為"讓用戶多停留30秒"開過慶功會(huì)。Kaley的案子問的是:那些增長黑客技巧,邊界在哪里?
Meta和Google的工程師當(dāng)然可以說,他們只是在優(yōu)化參與度指標(biāo),和任何產(chǎn)品經(jīng)理一樣。但陪審團(tuán)的邏輯是:當(dāng)你知道用戶是未成年人,當(dāng)你知道無限下滑會(huì)催生焦慮,當(dāng)你知道算法推薦可能放大身材比較——"只是優(yōu)化指標(biāo)"就不是免責(zé)理由。
這個(gè)邏輯如果成立,影響的不只是社交媒體。游戲行業(yè)的每日獎(jiǎng)勵(lì)機(jī)制、短視頻平臺(tái)的上下滑動(dòng)、電商直播的限時(shí)秒殺——所有利用認(rèn)知偏差的"粘性設(shè)計(jì)"都可能被重新審視。
判決書里有個(gè)細(xì)節(jié)沒被媒體放大:陪審團(tuán)特別提到,Meta和Google"本可以采取更嚴(yán)格的默認(rèn)設(shè)置",比如默認(rèn)關(guān)閉自動(dòng)播放、默認(rèn)開啟屏幕時(shí)間提醒、默認(rèn)限制未成年人使用時(shí)長。公司沒這么做,不是因?yàn)榧夹g(shù)做不到,是因?yàn)樯虡I(yè)利益。
這個(gè)"本可以"的句式,可能是未來產(chǎn)品責(zé)任訴訟的模板。
對(duì)行業(yè)來說,最棘手的不是賠償金額,而是"設(shè)計(jì)標(biāo)準(zhǔn)"的模糊性。什么樣的推送頻率算"合理提醒",什么樣的算"騷擾"?無限下滑和分頁瀏覽的界限在哪里?算法推薦多大程度上需要為用戶的情緒狀態(tài)負(fù)責(zé)?
這些問題沒有行業(yè)共識(shí),但陪審團(tuán)已經(jīng)開始給出答案。而且陪審團(tuán)的答案往往比監(jiān)管規(guī)定更不可預(yù)測——他們不需要遵循先例,只需要被說服。
Meta和Google的上訴策略可能包括:質(zhì)疑因果關(guān)系(如何證明是產(chǎn)品設(shè)計(jì)而非其他因素導(dǎo)致Kaley的癥狀)、挑戰(zhàn)賠償計(jì)算方式、援引Section 230的保護(hù)。但即使上訴成功,"設(shè)計(jì)有責(zé)"的概念已經(jīng)進(jìn)入司法話語。
科技公司過去習(xí)慣用"用戶選擇"來辯護(hù):成年人有權(quán)決定自己的屏幕時(shí)間。但未成年人的"選擇"是否真實(shí)自愿?當(dāng)產(chǎn)品設(shè)計(jì)專門利用青少年的沖動(dòng)控制弱點(diǎn)時(shí),"自主選擇"還剩多少含金量?
加州陪審團(tuán)的回答是:不夠。
這個(gè)判決不會(huì)立刻改變Instagram或YouTube的界面。但產(chǎn)品團(tuán)隊(duì)的決策流程可能會(huì)變——法務(wù)審查的節(jié)點(diǎn)提前,"成癮性"成為設(shè)計(jì)文檔里的敏感詞,未成年用戶的功能上線需要額外的倫理評(píng)估。
對(duì)產(chǎn)品經(jīng)理來說,這像是KPI(關(guān)鍵績效指標(biāo))里突然加了一項(xiàng)"法律風(fēng)險(xiǎn)分"。增長和合規(guī)的博弈,以前主要在數(shù)據(jù)隱私領(lǐng)域,現(xiàn)在蔓延到了交互設(shè)計(jì)。
判決公布當(dāng)天,Meta股價(jià)下跌1.2%,Google母公司Alphabet跌0.8%。市場反應(yīng)相對(duì)溫和,說明投資者還沒把這視為系統(tǒng)性風(fēng)險(xiǎn)。但如果上訴失敗、懲罰性賠償落地、更多州出現(xiàn)類似判決——估值模型里可能要加一條"青少年保護(hù)負(fù)債"。
有個(gè)對(duì)比值得注意:歐盟的《數(shù)字服務(wù)法》(Digital Services Act)和英國的《在線安全法》(Online Safety Bill)已經(jīng)把"設(shè)計(jì)安全"寫入監(jiān)管框架,但美國的路徑一直是訴訟驅(qū)動(dòng)。加州陪審團(tuán)的判決,相當(dāng)于用判例法實(shí)現(xiàn)了類似效果。
這意味著什么?美國科技公司的合規(guī)成本可能從"應(yīng)對(duì)監(jiān)管"轉(zhuǎn)向"應(yīng)對(duì)訴訟"——后者更不可預(yù)測,也更昂貴。一宗懲罰性賠償案可能抵得上多年罰款。
Kaley的律師在庭后聲明中說,希望這個(gè)判決"讓科技行業(yè)重新思考他們對(duì)年輕用戶的責(zé)任"。Meta的發(fā)言人則強(qiáng)調(diào),公司已經(jīng)投入"數(shù)十億美元"用于安全功能開發(fā),并將繼續(xù)上訴。
雙方的敘事都很典型:一方講道德責(zé)任,一方講既有投入。但陪審團(tuán)選擇了前者。
特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺(tái)“網(wǎng)易號(hào)”用戶上傳并發(fā)布,本平臺(tái)僅提供信息存儲(chǔ)服務(wù)。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.