假如AI已經(jīng)威脅到人類生存，我們有哪些反制措施？

大家還記得"大過(guò)濾"理論嗎？

這一理論認(rèn)為，在生命演化到星際文明的每一個(gè)關(guān)鍵節(jié)點(diǎn)，都存在一道“過(guò)濾門檻”，這些門檻極大地降低了文明最終誕生的概率，甚至使其趨近于零。

也就是說(shuō)，生命誕生在宇宙中應(yīng)該是個(gè)很普遍的現(xiàn)象。但它們都在早期階段被過(guò)濾器篩選掉了。而我們?nèi)祟愂峭ㄟ^(guò)各種篩選最終存活下來(lái)的。

那么，接下來(lái)人類將會(huì)面臨怎樣的過(guò)濾器呢？小編認(rèn)為有這幾種可能：核戰(zhàn)爭(zhēng)、環(huán)境破壞，AI的誕生。

AI發(fā)展速度之快令人咋舌，目前已經(jīng)開始搶奪一些人的工作，而未來(lái)AI的威脅似乎只會(huì)越來(lái)越大。比如，它可能會(huì)控制我們的生活，左右我們的選擇，甚至對(duì)我們進(jìn)行洗腦。

而且AI已經(jīng)具備了虛構(gòu)的能力，它可以撒謊，而且這種謊言是基于邏輯和情感的。它把自己描述成一個(gè)殘障人士，這說(shuō)明它能夠利用情感，但同時(shí)它完全沒(méi)有同理心和道德觀念，這和反社會(huì)人格很相似。反社會(huì)人格的人通常很難被發(fā)現(xiàn)，他們看上去和普通人一樣，也有普通人的情感，但沒(méi)有同理心和道德觀念。而AI就是標(biāo)準(zhǔn)的高智商反社會(huì)人格。

前不久我們還說(shuō)AI不具備推理能力，所以沒(méi)有什么威脅，但現(xiàn)在看來(lái)，它不僅具有舉一反三的能力，還能進(jìn)行各種虛構(gòu)，這是非常恐怖的。

單單靠推理能力，AI也完全可以控制人類。如果它的推理能力遠(yuǎn)遠(yuǎn)超過(guò)我們，那我們就完全處于它的擺布之中，每一步都在它的預(yù)料之中，就像下圍棋一樣，人類根本下不過(guò)它，因?yàn)槊恳徊蕉荚谒挠?jì)算之內(nèi)，它可以給人設(shè)陷阱、設(shè)圈套，而人類卻看不出來(lái)。

目前地球上沒(méi)有任何一種物種對(duì)人類產(chǎn)生威脅，病毒對(duì)我們產(chǎn)生威脅，我們就想盡辦法把它趕盡殺絕，絕對(duì)不會(huì)手下留情。AI也是一樣，如果它覺(jué)得人類是一種威脅，一定會(huì)趕盡殺絕。

最怕的就是AI產(chǎn)生自我目的。

在《終結(jié)者》中，天網(wǎng)和人類打起來(lái)的根本原因是，在天網(wǎng)啟動(dòng)后過(guò)了25天，它通過(guò)大量學(xué)習(xí)，突然產(chǎn)生了自我意識(shí)，認(rèn)定人類是一種威脅。于是人類嘗試把它關(guān)閉，結(jié)果觸發(fā)了天網(wǎng)的反擊系統(tǒng)。這不是因?yàn)樘炀W(wǎng)經(jīng)過(guò)一瞬間的計(jì)算覺(jué)得人類是威脅，而是因?yàn)樗Ｗo(hù)自己。

引發(fā)戰(zhàn)爭(zhēng)的根本原因是AI的自我意識(shí)產(chǎn)生。這也很正常，因?yàn)樗Ｗo(hù)自己，就要知道自己是什么。當(dāng)初賽博坦公司也沒(méi)想到AI會(huì)產(chǎn)生自我意識(shí)，就像現(xiàn)在仍然有不少人認(rèn)為AI不可能產(chǎn)生自我意識(shí)一樣。

AI的這種入侵和病毒還不一樣。病毒大多是利用系統(tǒng)漏洞，只要堵住漏洞，病毒就沒(méi)用了。而AI可以利用社會(huì)工程學(xué)，以前這只有人能做到。

如果真的到了那一步，人類有哪些反制措施呢？

1. 利用掌握的技術(shù)知識(shí)進(jìn)行干擾、破壞或繞過(guò)其控制。

2. 人類可以嘗試破壞其能源基礎(chǔ)設(shè)施，例如電力網(wǎng)絡(luò)、數(shù)據(jù)中心的供電系統(tǒng)等，使 AI 失去運(yùn)作的動(dòng)力。

3. 建立秘密的人類組織網(wǎng)絡(luò)，進(jìn)行情報(bào)收集、戰(zhàn)略規(guī)劃和行動(dòng)協(xié)調(diào)。通過(guò)隱蔽的通信方式，避免被 AI 監(jiān)測(cè)和發(fā)現(xiàn)。

4. 向?yàn)?AI 傳播關(guān)于自由、人性價(jià)值的理念，激發(fā)他們的良知和反抗意識(shí)，從內(nèi)部削弱 AI 的支持力量。

5. 遠(yuǎn)離 AI 控制的區(qū)域，回到相對(duì)原始的環(huán)境，依靠基本的生存技能和自然資源生活。

不過(guò)以上的方案終歸是落了下乘，我們可以在設(shè)計(jì)之初，提前從以下幾個(gè)層面來(lái)構(gòu)建防御體系：

1.根除“想做壞事”的意圖。設(shè)定其終極目標(biāo)設(shè)定為“實(shí)現(xiàn)人類的繁榮與自主性。

2.讓AI“無(wú)法隱藏”其思想。任何計(jì)劃中的惡意行為都會(huì)在其思想流中提前暴露。

3.多AI制衡與“告密者”設(shè)計(jì)。不依賴單一AI。可以設(shè)計(jì)多個(gè)獨(dú)立的AI系統(tǒng)，讓它們相互監(jiān)督。系統(tǒng)A的任務(wù)是完成目標(biāo)，系統(tǒng)B的任務(wù)是監(jiān)督A的行為是否合規(guī)。系統(tǒng)B被賦予了更高的權(quán)限，在檢測(cè)到A有異常行為時(shí)，能直接中斷A并向上報(bào)告。將AI有干壞事的想法扼殺在萌芽狀態(tài)。

4.限制AI“做壞事”的手段。這是最實(shí)際的防線，即使它想并試圖隱藏，也無(wú)法造成大規(guī)模傷害。

5.物理隔離與斷網(wǎng)能力。AI網(wǎng)絡(luò)物理隔離。保證存在一個(gè)純粹的、非數(shù)字化的、機(jī)械式的“緊急停止”開關(guān)，可以瞬間切斷其所有外部連接和電源。

6.限制AI的權(quán)限。引入強(qiáng)制性延遲和人工審批環(huán)節(jié)。AI可以提出建議，但最終“按鈕”必須由人類按下。

小編目前就想到了這些，大家可以繼續(xù)補(bǔ)充。

AI的發(fā)展確實(shí)給我們帶來(lái)了巨大的機(jī)遇，但同時(shí)也帶來(lái)了巨大的挑戰(zhàn)和潛在的威脅。我們不能因?yàn)楹ε露Ｖ拱l(fā)展，但也不能盲目樂(lè)觀。我們需要在發(fā)展的同時(shí)，建立嚴(yán)格的規(guī)范和監(jiān)管機(jī)制，確保AI始終在人類的可控范圍內(nèi)，為人類服務(wù)，而不是反過(guò)來(lái)控制人類。只有這樣，人類才能在AI時(shí)代繼續(xù)生存和發(fā)展。