面對AI和無人快遞車，我終于讀懂了“電車難題”里最深的恐懼

最近在思考一個經(jīng)典的問題。

電車難題。

這個問題大家或多或少都聽過：一輛失控的電車沖過來，主軌道上綁著100個人，備用軌道上綁著1個人。

你手里握著變道閘機，拉還是不拉？

乍一看，這簡直就是一道送分的小學數(shù)學題。

100大于1，這還用想嗎？

犧牲一個人救一百個，也就是那個著名的詞兒——性價比。

我們先得搞清楚，思考這個問題的目的是什么？是為了在網(wǎng)上跟杠精對線贏了嗎？

顯然不是。

是為了道德準則的建立，本質(zhì)上是為了讓人類這個集體過得更幸福、更穩(wěn)定。

既然是為了幸福，很多人就會說：“那更得拉閘了啊！100個家庭的幸福顯然大于1個家庭的幸福，這是集體利益最大化。”

這就是典型的功利主義（Utilitarianism）思維。在他們的眼里，世界是一個巨大的賬本，人是可以被換算成數(shù)字的。

但這恰恰是最大的陷阱。

一旦你接受了100條命 > 1條命這個設定，你就承認了一個可怕的前提：生命是可以被量化的。

大家別小看這個量化。只要開了這個口子，潘多拉的魔盒就打開了。

如果數(shù)量可以比較，那么質(zhì)量是不是也可以比較？

大家想一下，如果那1個人是像愛因斯坦那樣的頂級科學家，或者是你最親的家人；而那100個人全是窮兇極惡的連環(huán)殺人犯。

你還覺得100 > 1嗎？

這時候大多數(shù)人肯定會猶豫，甚至反水：“那肯定保科學家啊，殺人犯死不足惜。”

看吧，當你開始計算的那一刻，你就已經(jīng)不再把人當人看了，你把人當成了商品。

既然是商品，就有貴賤，就有優(yōu)劣。

社會學家把這個過程叫做人的物化。

一旦社會接受了這種邏輯，結局注定是災難性的。因為在這個評價體系里，總有人會被定義為低價值人口。

富人會覺得自己的稅收貢獻大，所以自己的命比窮人貴；高智商的人會覺得笨蛋浪費糧食。

如果這種邏輯成為社會共識，那么在醫(yī)療、教育、資源分配上，弱勢群體將被理所當然地犧牲掉。

這里不得不請出哲學界的一尊大神——康德。

在電車難題上，康德老爺子估計會氣得從棺材板里跳出來敲你的頭。他有一句振聾發(fā)聵的名言，也就是康德主義（Kantianism）的核心立場：人是目的，而非手段。

什么意思？

意思是說，任何人的生命本身就是至高無上的終極目的，你不能為了達成別的什么目的（哪怕是救更多的人），而把一個人當作工具或墊腳石來使用。

在電車難題里，如果你不拉閘，那100個人的死是失控電車造成的，是那個綁架犯造成的，不是你造成的。

你只是一個無辜的旁觀者。

但如果你拉了閘，性質(zhì)就全變了。

你把那個無辜的人當成了手段。單方面剝奪了他生存的權利。

這就好比說，醫(yī)院里有5個病人分別需要心臟、肝臟、腎臟等器官，能不能在大街上隨便抓一個健康的路人，把他嘎了，拆零件救這5個人？

按數(shù)學題算，1死救5，賺了啊。

但如果這事兒能干，咱們誰都別想睡安穩(wěn)覺了。因為你永遠不知道哪天走在街上，會不會被判定為那個為了集體利益必須犧牲的耗材

道德之所以存在，不是為了服務于冰冷的數(shù)字，而是為了保護每一個具體的、活生生的人不被隨意犧牲。

這時候肯定有人會說：你這就有點太理想主義了，現(xiàn)實社會里，為了大局犧牲小局的事兒還少嗎？

沒錯，這正是我想說的第三層邏輯。

在真實世界里，我們每天都在面對弱化版的“電車難題”。

比如，化工廠建在人口密集的大城市還是人口稀疏的小縣城？

比如，城市建設要不要為了盲人修盲道，哪怕這會擠占正常人的行走空間？

比如，科技飛速發(fā)展，要不要停下來等一等那些不會用智能手機的老人？

如果你在電車難題里毫不猶豫地選擇了犧牲那一個，那么在現(xiàn)實中，你大概率也會支持把化工廠建在窮鄉(xiāng)僻壤，支持取消盲道，支持讓老人被數(shù)字時代拋棄。

因為你的邏輯是通用的：為了大多數(shù)人的便利，少數(shù)人是可以被犧牲的。

這就導致了一種叫多數(shù)人的暴政。

當你認可多數(shù)人的價值高于少數(shù)人時，社會就會瘋狂地向頭部集中，向大多數(shù)集中。那些處于邊緣的、弱勢的、聲音小的群體，他們的利益會被無情碾壓。

但大家別忘了，在這個世界上，沒有任何人永遠屬于大多數(shù)。

你在年齡上是年輕的大多數(shù)，可能在財富上就是貧窮的少數(shù)；你在身體上是健康的大多數(shù)，可能在某種觀點上就是不被理解的少數(shù)。

如果犧牲少數(shù)成為公理，那么當屠刀揮向你的那一天，將沒有人為你說話。

所以，我們?yōu)槭裁匆晟频赖聦W？為什么要死磕這個難題？

就是為了打破這種功利主義的詛咒。

我們要建立的社會，不是一個為了100個人可以理直氣壯弄死1個人的社會；而是一個哪怕為了1個人，也要想辦法保全，而不是簡單粗暴地讓他去死的社會。

前文說了，不能把人命標價。其實從數(shù)學角度看，這個結論也是鐵板釘釘?shù)摹?/p>

生命的價值是多少？在人文主義的語境下，生命的價值是無窮大（infty）。

學過高等數(shù)學的朋友都知道一個基本常識：無窮大 和 100個無窮大，是不能比較大小的。

你不能說100個人的命就比1個人的命更大。當你試圖做減法，認為“死了1個比死了100個損失小”的時候，你其實是在把無窮大退化成了有限的常數(shù)。

這里肯定有人說：“照你這么說，那殺人犯的命也是無價的？難道不該死？”

這又混淆了一個概念。

我們說生命無價，指的是作為自然人的生存權。殺人犯之所以該死，是因為他先破壞了規(guī)則，剝奪了別人的生命。法律審判他，是為了維護契約和正義，而不是因為他的命不值錢。

正義的懲罰與功利的犧牲，是完全兩碼事。

說了這么多，其實回到最開始的問題。

為什么要死磕這個看似無解的電車難題？是為了在鍵盤上贏過別人嗎？

不是。是因為那個電車，其實已經(jīng)開到了我們面前。

它的名字，叫AI。

說實話，這種焦慮最近我也越來越強。記得從去年開始，我在街上溜達，看到滿街跑的都是無人快遞車，不知疲倦，不需要五險一金，也不會因為失戀了送錯快遞。

那一刻我有種很深的恍惚感：如果按照功利主義的那套邏輯，人類是不是已經(jīng)輸了？

大家想想，如果我們堅持價值論——即一個人的價值取決于他能創(chuàng)造多少財富、能干多少活。那么，在AI面前，我們絕大多數(shù)人都是那個應該被犧牲的少數(shù)。

AI比你聰明，比你效率高，比你便宜，比你聽話。

如果社會遵循的是誰效率高誰留下，誰沒用誰去死的社會達爾文主義，那等AI完全成熟的那一天，我們這些低算力的碳基生物，將變得一文不值，理應被掃進歷史的垃圾堆。

這才是最恐怖的事情，就像馬斯克說的那樣，我們碳基生物存在的目的就是為了開啟硅基文明。

我們在電車難題里如果不假思索地認可了“為了更大的利益可以犧牲個體”，那我們就是在給未來的自己挖墳墓。

因為在AI這個龐然大物面前，我們每一個人，都是那個弱小的、沒有效率的、擋在軌道上的一個人。

所以，康德的那句人是目的，而非手段是人類文明最后的防線。

我們的價值在于感受，在于存在本身，而不在于產(chǎn)出。