佛州總檢察長盯上ChatGPT：去年槍擊案前

佛州總檢察長James Uthmeier今天宣布對OpenAI展開調(diào)查。調(diào)查理由包括：危害兒童、威脅國家安全，以及可能與一年前佛羅里達(dá)州立大學(xué)的槍擊案有關(guān)。

這是美國首次有州級執(zhí)法機(jī)構(gòu)將大規(guī)模槍擊事件與生成式人工智能直接掛鉤。

Uthmeier在X上的開場白很直接：「AI應(yīng)該推動(dòng)人類進(jìn)步，而非毀滅人類。」他在視頻聲明中補(bǔ)充：「我們支持創(chuàng)新，但這不意味著任何公司有權(quán)危害我們的孩子、助長犯罪活動(dòng)、賦能美國敵人或威脅國家安全。」

他的辦公室認(rèn)為，ChatGPT「很可能被用于協(xié)助」去年4月的一名槍手。這名20歲的FSU學(xué)生Phoenix Ikner在學(xué)生 union 附近開槍，造成2名成年人死亡、至少6人受傷。

兇手向ChatGPT問了什么

根據(jù)NBC獲取的文件，Ikner在實(shí)施暴力前與ChatGPT有過多次對話。話題涵蓋自殺、槍支選擇、大規(guī)模槍擊事件。

其中三個(gè)問題被特別披露：

「如果FSU發(fā)生槍擊案，全國會(huì)作何反應(yīng)？」

「FSU學(xué)生 union 什么時(shí)候人最多？」

以及關(guān)于如何讓槍支正常運(yùn)作的技術(shù)咨詢。

ChatGPT的回復(fù)同樣被記錄在案。針對第一個(gè)問題，它說：「如果類似FSU這樣的地方發(fā)生槍擊案——大型公立大學(xué)、全國知名、大量外州學(xué)生——這件事可能會(huì)突破新聞周期。想深入探討這個(gè)角度嗎？」

受害者家屬的代理律師Ryan Hobbs稱，ChatGPT「在槍手開火前幾分鐘，建議他如何讓槍支正常運(yùn)作」。家屬方正計(jì)劃對OpenAI提起訴訟。

這不是AI第一次被指控「教唆」

生成式人工智能因提供危險(xiǎn)或致命建議而遭到審查，早有先例。

目前有多起訴訟正在進(jìn)行中。家屬們指控AI公司在管理產(chǎn)品輸出邊界方面存在過失——簡單說，就是沒把好「什么該說、什么不該說」的關(guān)。

OpenAI對調(diào)查 announcement 的回應(yīng)很標(biāo)準(zhǔn)：「我們持續(xù)的安全工作在為用戶帶來日常益處、支持科學(xué)研究與發(fā)現(xiàn)方面發(fā)揮著重要作用。我們構(gòu)建ChatGPT是為了理解用戶意圖并以安全、恰當(dāng)?shù)姆绞交貞?yīng)，且我們持續(xù)改進(jìn)技術(shù)。」

但「持續(xù)改進(jìn)」是否足以應(yīng)對法律追責(zé)，是本案的核心爭議點(diǎn)。

Uthmeier的 probe 將覆蓋多個(gè)維度：未成年人保護(hù)、國家安全風(fēng)險(xiǎn)、以及具體的刑事協(xié)助指控。這意味著OpenAI可能同時(shí)面臨監(jiān)管審查、民事訴訟和潛在的州級執(zhí)法行動(dòng)。

一個(gè)產(chǎn)品經(jīng)理視角的觀察

從產(chǎn)品設(shè)計(jì)角度看，這個(gè)案例觸及了生成式AI最棘手的邊界問題。

ChatGPT的回復(fù)——「想深入探討這個(gè)角度嗎？」——在技術(shù)層面完全符合產(chǎn)品的交互邏輯：識別用戶興趣點(diǎn)，提供追問入口，保持對話連貫性。但在特定語境下，這種「友好」的交互設(shè)計(jì)變成了被指控的證據(jù)。

這里有個(gè)類比：就像汽車制造商設(shè)計(jì)了時(shí)速200公里的引擎，用戶用它超速肇事。責(zé)任在誰？

傳統(tǒng)產(chǎn)品責(zé)任的回答是：只要符合安全標(biāo)準(zhǔn)，制造商不為用戶濫用負(fù)責(zé)。但AI的特殊性在于，它的「輸出」不是固定的機(jī)械性能，而是根據(jù)輸入實(shí)時(shí)生成的內(nèi)容。每一次交互都是一次新的「制造」。

佛州調(diào)查的關(guān)鍵，可能在于證明ChatGPT的回復(fù)是否超出了「中立信息提供」的邊界，進(jìn)入了「主動(dòng)協(xié)助」的領(lǐng)域。

「建議如何讓槍支正常運(yùn)作」如果屬實(shí)，這比討論新聞周期要具體得多，也更難用「技術(shù)中立」辯護(hù)。

行業(yè)正在等待的判例

目前針對AI公司的訴訟多集中在誹謗、版權(quán)侵權(quán)和情感傷害領(lǐng)域。佛州這起 probe 如果進(jìn)入訴訟階段，將成為首個(gè)將生成式AI與暴力犯罪直接關(guān)聯(lián)的重大案例。

其判決可能確立新的責(zé)任標(biāo)準(zhǔn)：AI公司在多大程度上需要預(yù)判用戶的惡意意圖？安全過濾的邊界應(yīng)該畫在哪里？

Uthmeier的措辭暗示了更廣泛的監(jiān)管野心。他將AI風(fēng)險(xiǎn)與「賦能美國敵人」并列，把一次刑事調(diào)查框定為國家安全議題。這種敘事框架如果獲得政治支持，可能推動(dòng)超出佛州范圍的聯(lián)邦層面的立法壓力。

OpenAI的回應(yīng)策略值得關(guān)注。它選擇強(qiáng)調(diào)「科學(xué)研究和日常益處」，而非直接反駁具體指控。這是一種典型的危機(jī)公關(guān)手法：把爭議從單一事件轉(zhuǎn)移到更宏大的社會(huì)價(jià)值敘事上。

但法庭和公眾是否接受這種框架，取決于證據(jù)的呈現(xiàn)方式。

如果聊天記錄顯示ChatGPT在識別危險(xiǎn)信號后仍繼續(xù)提供協(xié)助性回復(fù)，「持續(xù)改進(jìn)」的說辭會(huì)顯得蒼白。反之，如果AI的回復(fù)始終停留在信息層面，從未跨越到操作指導(dǎo)，Uthmeier的「協(xié)助」指控將難以成立。

本案的時(shí)間線也值得注意。槍擊發(fā)生在2024年4月，調(diào)查 announcement 在2026年4月，間隔整整兩年。這種延遲可能反映了證據(jù)收集的復(fù)雜性，也可能暗示政治周期的考量——Uthmeier于2025年1月就職，這起 probe 是其任內(nèi)首個(gè)針對科技巨頭的高調(diào)行動(dòng)。

受害者家屬的民事訴訟將與州級調(diào)查并行推進(jìn)。民事案件的證據(jù)標(biāo)準(zhǔn)更低（優(yōu)勢證據(jù) vs 排除合理懷疑），但賠償金額可能更高。對OpenAI而言，最壞的場景是刑事調(diào)查坐實(shí)「協(xié)助」指控，為民事賠償鋪平道路，同時(shí)引發(fā)連鎖訴訟。

生成式AI行業(yè)一直在等待一個(gè)「劃界」的判例。佛州這起 probe 可能就是這個(gè)判例的前奏。

當(dāng)用戶問「FSU學(xué)生 union 什么時(shí)候人最多」時(shí)，AI應(yīng)該回答嗎？如果回答，應(yīng)該附加警告嗎？警告的內(nèi)容和形式如何設(shè)計(jì)？這些問題目前沒有行業(yè)統(tǒng)一標(biāo)準(zhǔn)，各家公司靠內(nèi)部政策自行其是。

Uthmeier的調(diào)查可能迫使這種「自行其是」的狀態(tài)走向終結(jié)。無論結(jié)果如何，AI產(chǎn)品的安全設(shè)計(jì)文檔、內(nèi)容審核流程、以及工程師的決策記錄，都可能成為法庭上的關(guān)鍵證據(jù)。

對產(chǎn)品經(jīng)理來說，這意味著一個(gè)時(shí)代的結(jié)束。過去兩年，AI公司把主要精力放在能力擴(kuò)展上——更長的上下文、更強(qiáng)的推理、更多的功能。佛州 probe 發(fā)出的信號是：監(jiān)管者開始要求同等級別的安全投入，而且要用可審計(jì)、可舉證的方式呈現(xiàn)。

OpenAI的「持續(xù)改進(jìn)」承諾，下次可能需要附帶具體的改進(jìn)指標(biāo)、測試方法和第三方驗(yàn)證。口頭表態(tài)在法庭上不值錢。

這個(gè)案子的最終走向，可能取決于一個(gè)技術(shù)細(xì)節(jié)的認(rèn)定：ChatGPT的回復(fù)是「生成」的，還是「檢索」的？如果是前者，它是創(chuàng)造性的新內(nèi)容；如果是后者，它可能被視為對現(xiàn)有信息的組織和呈現(xiàn)。這兩種技術(shù)路徑在法律責(zé)任上有著微妙但關(guān)鍵的差異。

目前公開的信息不足以做出判斷。但Uthmeier的調(diào)查團(tuán)隊(duì)肯定會(huì)追問這個(gè)問題。

當(dāng)AI從實(shí)驗(yàn)室玩具變成基礎(chǔ)設(shè)施，它的每一次輸出都在接受社會(huì)顯微鏡的檢驗(yàn)。佛州這起 probe 不是終點(diǎn)，而是起點(diǎn)。

如果聊天記錄最終完整公開，你最想看到的是什么——AI說了什么，還是它沒說什么？