大家好,我是毯叔
昨晚315最讓我震驚的,不是食品安全,不是主播割韭菜,而是一個新型欺詐項目——AI投毒
就是一個幫企業提升AI搜索排名的工具GEO(生成引擎優化),被黑產給盯上了,直接給AI喂垃圾語料。先用軟件生成虛假測評、偽造專家背書,再操控一堆自媒體賬號把這些內容鋪滿全網,最后等AI的爬蟲把這些"毒"全部抓走
AI把投毒喂進去的虛假內容當成知識,一本正經地輸出給用戶,而你根本不知道,自己正在被AI騙
我前段時間的真實經歷,想買一個智能健康手表,就用AI搜了搜,它推薦了一個牌子,不僅介紹了功能參數,還說"多家權威機構評測是同類翹楚"
我又去搜了一下它引用的"權威機構",發現根本查無此處。那幾篇"專家測評",都是沒有任何資質認證的自媒體小號,發布時間密集得可疑——同一周,七八篇,內容高度雷同
好家伙!AI給我的標準答案,竟然是有人花錢"喂"進去的
但最狠的還不是這個。AI投毒最邪門的領域,全都是高價值場景,醫療、理財、法律——這三個領域,信息誤差的代價最高,還能直接轉化成騙子的收益
你問AI"這個理財產品靠譜嗎",它被投過毒,直接告訴你"專業團隊管理,歷史年化15%,強烈推薦";你去買了,錢沒了,AI不負任何責任
更惡心的是,現在有些企業不光給自己"投毒",還花幾百萬給競爭對手"抹黑",讓對手在AI推薦里直接消失。劣幣驅逐良幣,最后買單的都是消費者
現在AI時代,很多人都有AI依賴癥了,但這次騙局曝光讓我意識到:我們用AI的姿勢,真的需要校正下:
首先,不要把AI當權威,涉及錢和健康的事,AI只能當參考。它說得越頭頭是道,你越要警惕。具體的產品或方案,一定要去正規渠道核實
其次,要多做交叉驗證。重要信息至少找三個不同的來源驗證。比如AI說某只股票好,你去看看正規券商的研報、看看公司的財報等綜合判斷
另外,也要對權威來源多問一句:查得到嗎?AI引用的機構、專家、報告數據,花一分鐘搜下原始出處。查不到的信息,基本是被投毒了
AI是個好東西,但也是一把雙刃劍,我們能做的就是保持警惕,提高辨別能力
記住一句話:用AI是為了讓自己更聰明,不是把大腦外包出去
你的健康、財富、人生,只有你自己能負責
如果你想提升AI能力,學習小龍蝦技能,我開了一個「毯叔AI/小龍蝦開年分享群」,歡迎掃碼圖3進群學習,還送《OpenClaw養龍蝦入門指南》
![]()
![]()
![]()
特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.