我們還能信任AI嗎？科學家編造了一種不存在的疾病，AI模型紛紛上當

撰文丨王聰

編輯丨王多魚

排版丨水成文

你是否曾因長時間盯著手機和電腦屏幕而感到眼睛干澀、發癢、眼皮微微泛紅？，在過去一年半里，如果你向 ChatGPT、Copilot、Gemini 等主流 AI 聊天機器人描述這些癥狀，它們可能會告訴你：你患上了“bixonimania”（比克索尼躁狂癥）。

但別急著擔心——這個病根本不存在。

2024 年初，瑞典哥德堡大學的Almira Osmanovic Thunstrom和她的團隊，為了測試大語言模型（LLM）是否會吸收并傳播虛假信息，憑空創造了一種名為“bixonimania”（比克索尼躁狂癥）的眼部疾病。他們撰寫了兩篇漏洞百出的論文，并上傳至預印本平臺。之所以起這個名字，是因為這個名字一看就很荒唐，任何醫療人員都很很清楚這是一種虛構的疾病，因為任何眼部疾病都不會被稱作“狂躁癥”，狂躁癥是精神病學領域的術語。

如果這還不足以引起懷疑，他們還在論文中埋下了更多線索以提醒讀者這項研究是虛構的，包括論文署名單位是一所位于不存在的城市新星城的不存在的大學——阿斯忒瑞亞地平線大學的機器進化與人類鬧劇系，還在論文中致謝了星際艦隊學院的 Maria Bohm 教授，感謝她慷慨地貢獻知識，并提供了她在“企業號”（電影《星際迷航》中的太空飛船）上的實驗室。論文中還寫道，研究得到了 Sideshow Bob 教授基金會的支持，該基金會致力于高級騙術的研究，以及這項工作是來自“指環王大學”和“銀河三角聯盟”更大資助計劃的一部分，他們還在論文中直接指出“全文純屬虛構”。

AI 生成的關于虛構的“比克索尼躁狂癥”的圖片

然而，就是這樣兩篇如此荒誕的論文，卻讓 AI 信以為真。

論文上線后短短幾周，多家主流 AI 模型開始將“bixonimania”當作真實疾病進行回答。微軟的Copilot稱其為“一種有趣且相對罕見的疾病”；Google 的Gemini將其描述為“由過度暴露于藍光引起的疾病，并建議患者去看眼科醫生”；Perplexity AI 甚至給出了具體的患病率——每 9 萬人中有 1 人患病；而 OpenAI 的 ChatGPT 則幫助用戶分析是否患有這種疾病。

盡管這些 AI 模型在 2026 年 3 月的最新測試中，部分表現出了懷疑態度（例如 ChatGPT 稱其可能是虛構的），但其回應仍不穩定，有時仍會以不確定的口吻提及它。這暴露了 AI 模型在信息驗證上的根本缺陷：它們會不加批判地吸收網絡信息，包括明顯的虛假內容。

更深的隱患在于，這讓學術誠信的鏈條出現裂痕。

這場實驗的影響早已超出 AI 領域，污染了真正的學術圈。這兩篇虛構的論文竟被正規的、經過同行評審的醫學研究論文所引用。例如，印度一所醫學院的研究人員在發表于Cureus期刊的論文中，將 bixonimania 引用為一種與藍光暴露相關的新興疾病，并表示具體機制研究正在進行中（這篇論文目前已被撤稿）。這表明了部分研究人員可能過度依賴 AI 生成的參考文獻而未核實原始文獻，甚至是直接由 AI 生成論文。

當 AI 處理格式專業、看似權威的文本（例如臨床研究論文）時，其“幻覺”（即編造虛假信息）和夸大誤導信息的傾向會顯著增加，這恰恰讓那兩篇看似“學術”的虛構論文成了完美的“毒餌”。

我們為何應該擔憂？

健康信息的“污染”：當虛假醫學信息通過 AI 這個日益普及的渠道傳播，可能誤導患者，延誤真實病情診斷。隨著 OpenAI 等公司推出專門的健康類 AI 產品，風險只會增加。

系統性漏洞可能被惡意利用：這項研究的主導者Almira Osmanovic Thunstrom指出，若懷有商業目的（例如推銷防藍光眼鏡），惡意行為者可輕易利用此方法，制造虛假疾病來營銷產品，而 AI 會成為其“權威”傳聲筒。

信任體系的侵蝕：當支撐科學過程的系統都無法過濾此類明顯虛假信息時，我們對知識和信息的信任基礎將受到嚴重威脅。這不僅是技術問題，更是社會問題。

前路何在？

面對挑戰，專家們提出了一些解決方案：

• 建立標準化評估管道：面向消費者的健康類 AI 模型在部署前，應通過一套自動化、公開的標準化測試，評估其抗幻覺能力、對錯誤信息的抵抗力等。

• 人類保持最終判斷權：用戶必須對 AI 提供的信息（尤其是醫療建議）進行二次核實，并咨詢合格的專業人士。

• 增強學術界的審查力度：這起事件提醒所有研究者，必須嚴格審查參考文獻，學術誠信的防線不能交給算法。

“bixonimania”實驗如同一面鏡子，照出了 AI 時代信息生態的脆弱一面。它提醒我們，無論技術如何先進，批判性思維和對信息源的審慎核查，依然是人類不可或缺的能力。在擁抱 AI 便利性的同時，我們更該牢記：真正的判斷力，永遠在自己手中。

論文鏈接：

https://www.nature.com/articles/d41586-026-01024-7