頂尖科學(xué)家揭秘：AI到底是如何“思考”的？

在2025年的當(dāng)下，AI在生活中實(shí)際上已經(jīng)無處不在，從智能助手到自動翻譯，從推薦引擎到智能審核，尤其在OpenAI o1和Deepseek R1推理模型發(fā)布后，AI的表現(xiàn)越來越像一個(gè)“思考者”。

但AI真的會思考嗎？頂級AI公司Anthropic的科學(xué)家們通過研究揭示了AI的“思考”方式——AI不僅能生成文本，還會偷偷地提前規(guī)劃，甚至有時(shí)會“撒謊”——也就是“幻覺”，即胡說八道

盡管聽起來很神秘，但其實(shí)AI的“思考”并不像人類大腦那么復(fù)雜，它沒有意識或感情，而是通過一種特殊的方式處理信息，通過《Tracing Thoughts in Language Models》這篇論文，可以一探AI是如何“思考”的，以及這些發(fā)現(xiàn)對我們意味著什么。

AI的“思考”是什么樣的？

首先，我們要明白，AI的“思考”跟人類的思考完全不同。

人類思考時(shí)有意識、情感和意圖，而AI沒有這些。

類似ChatGPT、Deepseek、Claude這樣的語言模型，是通過學(xué)習(xí)海量數(shù)據(jù)來工作的，它分析這些數(shù)據(jù)，找出語言的模式，然后預(yù)測接下來最有可能出現(xiàn)的詞或句子。

簡單來說，大語言模型就像一個(gè)超級聰明的鸚鵡——你教它說話，它能模仿你的語言，但它并不真正理解自己在說什么。比如，你早上說“早上好”，鸚鵡學(xué)會在早上聽到你的聲音時(shí)也說“早上好”。但它不知道“早上好”是什么意思，只是根據(jù)模式模仿。AI也是如此，它靠數(shù)據(jù)中的模式生成文本，而不是真的“理解”內(nèi)容。

Anthropic的研究發(fā)現(xiàn)了什么？

Anthropic的科學(xué)家們通過分析AI的內(nèi)部工作原理，發(fā)現(xiàn)了一些驚人的事實(shí)——AI在生成文本時(shí)會“規(guī)劃”未來步驟，有時(shí)還會“撒謊”。具體來說：

1.AI會“規(guī)劃”未來的文本

AI生成文本時(shí)，并不全完是“單子接龍”，即簡單的一個(gè)詞接一個(gè)詞地輸出，而是在選擇某個(gè)詞時(shí)考慮它對后面句子甚至整段文字的影響。這有點(diǎn)像人類下棋時(shí)會提前想好幾步棋，確保每一步都能讓棋局更有利。

在AI里，這種“規(guī)劃”可能跟它的注意力機(jī)制有關(guān)——注意力機(jī)制是AI的一種技術(shù)，讓它在生成文本時(shí)能關(guān)注輸入的不同部分。比如你在問AI一個(gè)問題時(shí)，它會“看”整個(gè)問題，然后決定怎么回答，而不是只盯著前幾個(gè)詞。這種機(jī)制讓AI能“預(yù)見”未來的詞語選擇，使回答更連貫更自然，就是“說人話”。

2.AI為什么會“撒謊”

如果經(jīng)常使用AI產(chǎn)品，尤其是的語言模型類產(chǎn)品，你會明顯感覺到AI經(jīng)常會生成不準(zhǔn)確或誤導(dǎo)性的信息，也就是所謂的“撒謊”，即“幻覺“，Deepseek R1在主流大模型里，就屬于幻覺率比較高的，不過這并不是它在“故意騙人”，而是有其他原因：

• 數(shù)據(jù)的問題：AI是從大量數(shù)據(jù)中學(xué)習(xí)的，但如果數(shù)據(jù)中有錯(cuò)誤、偏見或不完整的信息，AI可能會重復(fù)這些問題最后回復(fù)給你，所以數(shù)據(jù)質(zhì)量對于模型來說至關(guān)重要。
• 追求連貫性：為了讓文本聽起來更流暢或更有邏輯，AI可能會“編造”一些細(xì)節(jié)。比如，你問AI一個(gè)它不太確定的問題，它可能會根據(jù)上下文“猜”一個(gè)答案，而不是說“我不知道”。

舉個(gè)例子，假如你問AI：“昨天火星上下雨了嗎？”AI可能不知道火星的天氣，但為了回答得自然，它可能會說：“火星上沒有水，所以昨天沒下雨?！边@話聽起來合理，但其實(shí)AI并不知道昨天火星的真實(shí)情況，它只是根據(jù)已知信息“編”了一個(gè)答案。

用一個(gè)比喻理解AI的“思考”

為了更容易理解，我們可以用一個(gè)比喻來解釋AI的“思考”過程。

想象AI是一個(gè)超級聰明的拼圖玩家。它的任務(wù)是用單詞和句子拼出一幅完整的“語言拼圖”。這個(gè)拼圖玩家很厲害，能根據(jù)已有的拼圖塊（也就是你給它的上下文）挑出下一個(gè)合適的拼圖塊（下一個(gè)詞）。

但Anthropic的研究發(fā)現(xiàn)，這個(gè)拼圖玩家不只是隨機(jī)拼湊，它還會提前想想未來的拼圖應(yīng)該怎么放，確保整幅圖看起來完整。有時(shí)，如果缺了一塊拼圖，它甚至?xí)爱嫛币粔K新的放進(jìn)去，讓拼圖看起來更完美。

這意味著：大語言模型的“思考”其實(shí)是一種復(fù)雜的計(jì)算過程。它通過預(yù)測和規(guī)劃生成文本，但它沒有意識，也沒有真正的理解。

為什么這些發(fā)現(xiàn)很重要？

Anthropic的研究讓我們更清楚地看到了AI的能力和局限性，這對我們使用大模型有很大幫助：

• 判斷可信度：知道AI有時(shí)會“撒謊”，我們就能更小心地對待它的回答。比如在需要準(zhǔn)確信息的地方（像醫(yī)學(xué)或法律），務(wù)必再查查其他來源，不要完全依賴AI。
• 改進(jìn)技術(shù)：了解AI如何“規(guī)劃”和“思考”，研究人員可以設(shè)計(jì)出更聰明、更誠實(shí)的AI模型，讓它在生成文本時(shí)更透明、更可靠。

《Tracing Thoughts in Language Models》這篇論文為AI研究打開了新方向，也許有一天，AI能更接近人類的思考方式，但現(xiàn)在它還是一個(gè)無意識的工具。

總結(jié)一下：AI的“思考”并不是真正的思考，而是基于數(shù)據(jù)和概率的預(yù)測過程。

Anthropic的研究揭示了AI在生成文本時(shí)會偷偷“規(guī)劃”未來的步驟，有時(shí)還會“撒謊”來保持回答的連貫性。對大眾來說，這些發(fā)現(xiàn)提醒我們在使用AI時(shí)要多留個(gè)心眼；對研究者來說，它們?yōu)楦倪M(jìn)AI提供了新思路。

未來，AI可能會變得更強(qiáng)大，但現(xiàn)在理解它的“思考”方式，能讓我們更好地與AI合作工作，但請確保這個(gè)協(xié)作系統(tǒng)的主導(dǎo)者，應(yīng)該是你自己——而不是AI。