把AI當(dāng)“老大哥”用？

最近刷到一則視頻，呆住了。

視頻里，一位媽媽宣稱，自己用豆包監(jiān)視兒子寫作業(yè)，可好用了。只需打開攝像頭，讓手機(jī)對著孩子，孩子只要坐姿不對、頭太低乃至走神，一舉一動都逃不過AI的“眼睛”，AI會立即做出相應(yīng)的警告或命令。

一開始，這么媽媽覺得豆包的語氣太嚴(yán)厲了，讓其換成溫柔模式。我只能說，這溫柔模式，也是綿里藏針，讓人感覺陰森森、冷颼颼的。

打開留言區(qū)，有人看得不亦樂乎，有人看得膽戰(zhàn)心驚。我屬于后者。

我的第一反應(yīng)就是聯(lián)想到了《1984》里的“老大哥在看著你”。還有比這更具象化的嗎？

這又讓我想起多年前看過的衡水中學(xué)紀(jì)錄片。其中一個讓我印象很深的細(xì)節(jié)是，他們上自習(xí)課或午休時，雖然教室里沒有老師監(jiān)督，但是講臺上方有一個監(jiān)控攝像頭，一旦有交頭接耳、睡覺的學(xué)生被發(fā)現(xiàn)，立即會被教室里的喇叭點名批評。

被點名還不是最可怕的，可怕的是“永遠(yuǎn)有攝像頭在看著你”的環(huán)境，讓人窒息，不寒而栗。

現(xiàn)在，這位母親的做法，不就是把攝像頭背后的人，換成了更精準(zhǔn)、更高效、不會疲勞、不用休息的AI嗎？

我們正處于一個AI爆發(fā)的時代，這究竟是當(dāng)代人的幸運，還是不幸？

一直以來，我都傾向于前者，這不僅是因為技術(shù)給我們帶來了諸多便利，極大提高了生產(chǎn)效率，還在于客觀世界的技術(shù)進(jìn)步，往往也能推動主觀世界的圍墻松動。

然而，如果技不囚人人自囚，那就太可怕了。

不管是父母陪侍在側(cè)，名之曰輔導(dǎo)作業(yè)，還是用攝像頭、用AI來監(jiān)視孩子寫作業(yè)，本質(zhì)上很可能都不是“輔助”，而是“馴化”。這種“馴化”阻礙著孩子的自立自強(qiáng)和自主學(xué)習(xí)能力，讓他們永遠(yuǎn)需要借助外力來維持自己的行動。

不知道這個視頻是不是作為博主的家長，接到的一個產(chǎn)品應(yīng)用推廣。如果是，這樣的家長未免太重利而輕子了，這樣的AI產(chǎn)品設(shè)計思路未免跑太偏了；如果不是，則反映出，有些人已經(jīng)自主地陷入了AI應(yīng)用的歧途。

本來，現(xiàn)實世界中的攝像頭已經(jīng)夠多了，有資料顯示，截至2023年，我國的攝像頭數(shù)量已超過4億臺。?有機(jī)構(gòu)公布的攝像頭市場規(guī)模報告顯示，2024年消費級市場銷量就已經(jīng)到達(dá)5349萬套。而且，高像素攝像頭不僅越來越普及，還引入了AI大模型、毫米波雷達(dá)等技術(shù)。

當(dāng)攝像頭、AI這兩大監(jiān)視利器匯合，其規(guī)模效應(yīng)只能用“可怕”來形容，一旦被濫用，后果不可設(shè)想——人人都有成為楚門的可能，且未必是被觀眾寵溺的楚門。

AI技術(shù)可以利用的方式有千種萬種，但肯定不包括用來監(jiān)視有血有肉的人。AI技術(shù)無論朝哪個方向發(fā)展，人都應(yīng)該始終做AI的主人而不是奴隸，讓其為人類服務(wù)，而不是用來監(jiān)視、約束、統(tǒng)治人類。

監(jiān)視孩子寫作業(yè)如果被允許，那么老板就可以用來監(jiān)視員工上班、領(lǐng)導(dǎo)就可以用來監(jiān)視下屬、伴侶就可以用來監(jiān)視伴侶……（當(dāng)然如果在不知情的情況下，也都可以反過來）。

想想吧，那將是一個多么可怕的世界？