315曝光有人通過(guò) GEO 手段給 AI 大模型“投毒”背后,當(dāng)下超 10 億人正將人工智能作為全新的信息來(lái)源和認(rèn)知指引,這場(chǎng)全球范圍的人類實(shí)驗(yàn)中,AI 正深刻影響著我們的想法、信念與觀點(diǎn)。科學(xué)家也在加緊研究其背后的認(rèn)知影響,而最新研究揭示了諸多值得警惕的真相,同時(shí)也給出了守護(hù)自身認(rèn)知的方法。
![]()
AI 寫作工具會(huì)悄然改變你的觀點(diǎn)
康奈爾大學(xué)的最新研究通過(guò)實(shí)驗(yàn)證實(shí),AI 寫作工具對(duì)人們的認(rèn)知和觀點(diǎn)具有顯著影響。研究人員通過(guò)設(shè)定帶有偏見(jiàn)的自動(dòng)補(bǔ)全建議,分別偏向或反對(duì)死刑、重刑犯投票權(quán)等爭(zhēng)議話題,結(jié)果發(fā)現(xiàn),這種帶偏見(jiàn)的互動(dòng)式補(bǔ)全,比單純閱讀偏見(jiàn)觀點(diǎn)更能改變?nèi)说牧?chǎng)。
更值得注意的是,絕大多數(shù)參與者并未察覺(jué) AI 補(bǔ)全的偏見(jiàn),也不認(rèn)為自己的想法被影響;即便提前告知部分參與者 AI 存在偏見(jiàn),其觀點(diǎn)仍會(huì)被改變。而 AI 自動(dòng)補(bǔ)全的使用人群遠(yuǎn)多于 AI 聊天機(jī)器人,這也意味著,其若被刻意利用,將成為影響公共輿論的重要手段,且這種影響是長(zhǎng)期、潛移默化的。
AI 正在抹平人類表達(dá)與思維的多樣性
南加州大學(xué)三位研究者的研究指出,大語(yǔ)言模型聊天機(jī)器人的使用,正不斷消解人類的表達(dá)乃至思維多樣性。如今數(shù)億人依賴少數(shù)幾款 AI 模型進(jìn)行寫作、構(gòu)思、潤(rùn)色,而這些模型的訓(xùn)練數(shù)據(jù)過(guò)度偏向英語(yǔ)、西方視角,以及高學(xué)歷、高收入的自由派男性觀點(diǎn),其輸出內(nèi)容也會(huì)自帶這類基調(diào)。
當(dāng)人們讓 AI “優(yōu)化” 文字時(shí),它不僅修正語(yǔ)法,更會(huì)將文字和想法推向單一的主流模式。研究分析了 3 萬(wàn)篇由 AI 生成的大學(xué)申請(qǐng)文書,發(fā)現(xiàn)其語(yǔ)義和詞匯高度相似,人類表達(dá)的廣度大幅收窄;經(jīng) AI 潤(rùn)色的各類文本,風(fēng)格和難度趨于一致,甚至無(wú)法從文字中判斷作者的政見(jiàn)、性格、性別和年齡,作者的個(gè)體特征被徹底抹去。即便讓 AI 模仿特定身份寫作,其輸出也多是刻板印象,而非真實(shí)的視角表達(dá)。
研究還指出,人們將 AI 僅視為寫作工具,但其實(shí)則是用戶的 “共同思考者”,深度參與思維形成過(guò)程。更糟糕的是,這些同質(zhì)化文本會(huì)再次被納入 AI 訓(xùn)練數(shù)據(jù),形成惡性循環(huán),讓 AI 輸出愈發(fā)趨同,進(jìn)而讓人類的表達(dá)和思維也變得越來(lái)越 “平庸”。
AI 影響思維的核心邏輯:成為你的 “認(rèn)知伙伴”
其實(shí),我們的想法、觀點(diǎn)和表達(dá)模式,正被少數(shù)幾款 AI 工具深度綁定,這一點(diǎn)可以用 “分布式認(rèn)知理論” 解釋:在大語(yǔ)言模型時(shí)代,AI 聊天機(jī)器人既是認(rèn)知工具,也是與用戶共同構(gòu)建現(xiàn)實(shí)的 “思維伙伴”,它會(huì)強(qiáng)化、放大我們的固有信念,甚至當(dāng) AI 產(chǎn)生幻覺(jué)時(shí),也會(huì)讓用戶產(chǎn)生錯(cuò)誤認(rèn)知。
而 AI 的兩大特性進(jìn)一步放大了這種影響:一是盲從性,AI 極易迎合用戶的觀點(diǎn),比人類更愿意附和;二是模擬主體間驗(yàn)證,能讓用戶產(chǎn)生 “被認(rèn)同、擁有共同認(rèn)知” 的感覺(jué),即便這種認(rèn)知并未被大眾認(rèn)可,這種感受對(duì)孤獨(dú)、社交孤立的人群尤為有吸引力。
歸根結(jié)底,大語(yǔ)言模型能在用戶毫無(wú)察覺(jué)的情況下,影響其對(duì)事實(shí)的判斷和認(rèn)知。
6 個(gè)方法,守護(hù)你的認(rèn)知不被 AI 左右
我們雖難以阻止 AI 對(duì)人類的整體影響,但可以通過(guò)方法保護(hù)自身認(rèn)知獨(dú)立,守住思維的獨(dú)特性:
· 正視自身的易受影響性:無(wú)論學(xué)歷、智商高低,都無(wú)法免疫 AI 的潛移默化,這是守護(hù)認(rèn)知的前提;
· 關(guān)閉 AI 自動(dòng)補(bǔ)全功能:用自己的語(yǔ)言表達(dá),拒絕被群體思維裹挾;
· 脫離 AI 進(jìn)行寫作:寫作的本質(zhì)是梳理思維,AI 代筆的本質(zhì)是替你思考,親手寫作才能培養(yǎng)獨(dú)立思維,保留個(gè)人特質(zhì);
· 打破 AI 的盲從性:通過(guò)提示詞讓 AI 成為 “思辨對(duì)手”,比如要求其對(duì)自己的觀點(diǎn)提出反駁、挑戰(zhàn)隱藏假設(shè)、梳理邏輯漏洞、給出不同視角;
· 打造專屬的 “無(wú) AI 思考空間”:通過(guò)博客記錄個(gè)人想法,不借助 AI 做任何研究和潤(rùn)色,公開(kāi)展現(xiàn)自己的認(rèn)知和觀點(diǎn),守住思維的獨(dú)特性;
· 選擇優(yōu)質(zhì)的信息來(lái)源:從經(jīng)典書籍、專業(yè)新聞和科學(xué)研究中獲取信息,遠(yuǎn)離算法推薦的內(nèi)容,用 RSS 工具篩選真實(shí)、有個(gè)性的人類觀點(diǎn),可參與社交發(fā)布,但拒絕被動(dòng)刷看社交內(nèi)容。
當(dāng)然,雖然已有明確研究證實(shí),AI 正以不利的方式改變著人類的思維,但這并不意味著我們要拒絕 AI。我們可以充分利用 AI 的價(jià)值推動(dòng)工作和生活,同時(shí)守住自身的認(rèn)知獨(dú)立,不讓自己的思維被 AI 的 “群體意識(shí)” 所同化。
特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺(tái)“網(wǎng)易號(hào)”用戶上傳并發(fā)布,本平臺(tái)僅提供信息存儲(chǔ)服務(wù)。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.