里諾市被索賠：1張AI誤識(shí)照讓市民蹲了12小時(shí)班房

2023年，內(nèi)華達(dá)州里諾市警局采購的人臉識(shí)別系統(tǒng)，把Jason Killinger的臉和另一個(gè)賭場(chǎng)黑名單上的人"100%匹配"。12小時(shí)后他從班房出來，現(xiàn)在正把整座城市告上法庭。

一次下注，一場(chǎng)誤捕

Killinger當(dāng)時(shí)只是在賭場(chǎng)里正常下注。安保系統(tǒng)突然報(bào)警，AI判定他就是那個(gè)早被禁足賭場(chǎng)的男子。賭場(chǎng)保安扣住他，警官Richard Jager到場(chǎng)，沒查他錢包里另外三張證件，直接以"使用假身份證"罪名逮捕。

手銬造成的身體損傷、12小時(shí)拘押的精神損耗，這些后來都成了訴狀里的賠償條目。但Killinger的律師團(tuán)隊(duì)顯然想要更多——他們把矛頭指向了里諾市本身的制度漏洞。

聯(lián)邦法官M(fèi)iranda Du今年早些時(shí)候裁定，Killinger可以把里諾市列為共同被告。這意味著案件從"一個(gè)警察搞砸了"升級(jí)成"一座城市的系統(tǒng)性失職"。

"不是個(gè)案，是慣例"

訴狀里的措辭相當(dāng)狠：「Jager的行為不是某個(gè) rogue employee（問題員工）的偶發(fā)失誤，而是廣泛存在的習(xí)慣和做法——數(shù)百名市政雇員多年來以同樣方式制造了數(shù)千起逮捕。」

"數(shù)千起"這個(gè)數(shù)字如果坐實(shí)，里諾市的人臉識(shí)別系統(tǒng)就成了全美最激進(jìn)的誤捕流水線之一。Killinger的律師指控該市從未對(duì)警員進(jìn)行AI執(zhí)法工具的合規(guī)培訓(xùn)，導(dǎo)致技術(shù)成了甩鍋工具：機(jī)器說抓，人就抓。

這種"算法背書即正義"的邏輯，在執(zhí)法領(lǐng)域蔓延得比公眾意識(shí)快得多。Killinger案的特殊之處在于，原告試圖用集體訴訟的規(guī)模感，倒逼一個(gè)城市為它的技術(shù)依賴癥買單。

北達(dá)科他的前車之鑒

去年Fargo（法戈）的案子更荒誕。一位祖母級(jí)嫌疑人被生成式AI系統(tǒng)指認(rèn)為ATM詐騙犯，關(guān)了六個(gè)月才發(fā)現(xiàn)銀行記錄顯示案發(fā)時(shí)她在1200英里外。生成式AI在這里扮演的角色是"調(diào)查線索生成器"——比人臉識(shí)別更上游，也更難追溯。

兩起案件的共同點(diǎn)：執(zhí)法人員把AI輸出當(dāng)作充分條件，而非需要驗(yàn)證的假設(shè)。Killinger錢包里的三張備用證件，F(xiàn)argo那位祖母的異地消費(fèi)記錄，都是基礎(chǔ)到可笑的排查步驟，卻被算法的光環(huán)效應(yīng)屏蔽了。

里諾市現(xiàn)在面臨的賠償清單包括：懲罰性賠償、律師費(fèi)、身體損傷補(bǔ)償。如果敗訴，納稅人將為這套采購自未知廠商的人臉識(shí)別系統(tǒng)支付遠(yuǎn)超原始合同價(jià)的賬單。

precedent 的賭注

Killinger案如果勝訴，可能開創(chuàng)一個(gè)危險(xiǎn)先例：市政當(dāng)局需要為AI執(zhí)法工具的誤報(bào)承擔(dān)連帶責(zé)任。這對(duì)正在采購類似系統(tǒng)的城市是個(gè)警告——技術(shù)合同里的免責(zé)條款，未必能擋住憲法第四修正案的訴訟。

但反過來，如果里諾市成功脫責(zé)，"算法建議"在法律上的地位會(huì)更加模糊。警察可以說：我只是按系統(tǒng)提示行事，責(zé)任在機(jī)器。這種辯護(hù)策略在Killinger案中被直接挑戰(zhàn)，原告方堅(jiān)持認(rèn)為這是"制度性放任"而非個(gè)人失誤。

目前案件仍在早期階段，Killinger的律師尚未提出具體賠償金額。但訴狀里"數(shù)千起 unlawful arrests（非法逮捕）"的指控，已經(jīng)讓里諾市的法務(wù)部門陷入被動(dòng)——承認(rèn)則意味著集體訴訟的洪水閘門，否認(rèn)則需要解釋為什么一個(gè)未受訓(xùn)的警員能憑AI提示隨意抓人。

賭場(chǎng)的人臉識(shí)別系統(tǒng)仍在運(yùn)行，里諾警局的采購預(yù)算里大概還有下一套算法的尾款。Killinger的12小時(shí)班房經(jīng)歷，會(huì)變成判例還是腳注，取決于聯(lián)邦法院愿意在多大程度上讓城市為它的機(jī)器背書。

如果AI的"100%匹配"在法律上被認(rèn)定為合理懷疑的充分依據(jù)，下一個(gè)被手銬銬錯(cuò)的人，該找誰算賬？