為什麼我們越來越看不到 AI 的想法

以前我們讓大型語言模型解決複雜問題，會要求它寫出 chain-of-thought——一步一步推導，就像數學老師要求你把解題步驟寫在考卷上。你不能只寫「答案是 42」，老師會說你作弊。

現在工程師覺得這太慢了，太浪費 token 了。

2025 年 9 月，Jindong Li 等人發了一篇 survey：Implicit Reasoning in Large Language Models。他們梳理了超過 70 種方法，目標一致：讓模型不要再寫出那些解題步驟，直接在內部的潛在空間（latent space）心算，算完只吐最終答案。

方法五花八門。Coconut 把 CoT 壓縮成 continuous thought，ICoT-SI 用 curriculum learning 逐步移除 explicit token，Quiet-STaR 用 thinking token 讓模型在「沒有字的位置」多想幾步，Huginn 和 Looped Transformer 把 layer 迴圈起來反覆精煉。Survey 分成三大範式：latent optimization、signal-guided control、layer-recurrent execution。

工程動機很強。省 token、省延遲——而且還有一個技術上的優勢：潛在空間是高維度的向量空間，模型可以同時探索多條推理路徑。當 AI 被強迫把思考轉換成人類看得懂的文字、一個字一個字吐出來的時候，它的思考是被線性化了——被語言的結構限制住。打破這個限制，解題能力反而會提升。

但 survey 裡面有一張對比表，點出了一個殘酷的事實。

傳統的 explicit reasoning，interpretability 那一欄寫的是「directly observable」——你識字，就知道 AI 在想什麼。Implicit reasoning 那一欄呢，寫的是「indirect, via probing/attribution」。

白話講：我們過去習慣的那條路——從外面讀文字就能看懂 AI 思維——正在被封死。 我們付出的代價是可解釋性的全面喪失。

就在這份 survey 告訴我們路被封死的十個月後，Anthropic 給出了一面鏡子。

Anthropic 在 Claude 腦袋裡找到了一張白板

2026 年 7 月 6 日，Wes Gurnee 等人發表：Verbalizable Representations Form a Global Workspace in Language Models。

他們在 Claude 模型內部找到了一組特殊的結構——一小組「正在被拿來推理、但還沒說出口」的概念。不是輸入的回音，也不是下一個 token 的預測，是模型當下腦子裡握著的那幾個核心詞。他們把它命名為 J-space，讀它的工具叫 J-lens（Jacobian lens）。

30 秒定位

項目 內容
論文 1 Implicit Reasoning in LLMs: A Comprehensive Survey
團隊 / 日期 Jindong Li 等，2025-09-02
核心主張 70+ 種方法讓推理從 explicit CoT 轉入 latent space
論文 2 Verbalizable Representations Form a Global Workspace in Language Models
團隊 / 日期 Anthropic（Wes Gurnee 等），2026-07-06
核心工具 J-lens（Jacobian lens），讀出模型的「可言說內部表徵」
workspace 容量 只佔激活變異 6-10%，一次握「數十個」概念（k≤25）
位置 中間層（約 38-92 層，約 60% 深度）
適用模型 Haiku / Sonnet / Opus 都有這個結構

建立直覺：工程師手邊的那張白板

想像一個工程師正在搶修伺服器。

他螢幕上開了十幾個分頁、跑著一堆看不懂的 log，這些是自動化處理——那些密密麻麻的 log 就像模型內部龐大的 latent space 運算，充滿了高維度的複雜向量。他不會逐字唸出來，也不需要意識到每一行。

但他手邊有張小小的白板，上面只寫了幾個關鍵字：「連線超時」「資料庫連線池」「retry 風暴」。這幾個字是他當下真正在拿來推理的東西，是他如果被打斷、你問他「你在想什麼」會講出來的東西。

J-space 就是那張白板。

它的物理特性很有意思：在 AI 腦海裡所有活躍的訊號當中，它只佔了 6-10% 的激活變異。很小——白板本來就寫不下太多字，一次最多幾十個概念（k≤25）。

J-lens 不是去讀取模型所有的海量運算。它是一台攝影機，直接對準那張白板——看 AI 當下做刻意推理的時候，貼在白板上的那些便利貼到底寫了什麼。

論文對這個結構的描述是「sensory-workspace-motor」：早期層像感官輸入、中間層是這張白板、最後幾層轉回動作輸出。白板在中間。

Implicit reasoning 做的事，就是讓工程師不再一邊想一邊唸出來了（CoT 消失）。J-lens 做的事，是不管他唸不唸，你都能看到白板上寫了什麼。

三個因果實驗：怎麼確定不是巧合

看到白板上有字，這可能只是數據上的相關——就像看到天空有烏雲就說「烏雲覺得快下雨了」。所以這篇論文最重要的一步，是他們不只觀察白板，他們動手塗改白板，然後看 AI 的行為有沒有跟著變。

實驗一：概念注入

研究人員強行把代表「閃電」的向量寫進白板。結果模型在自我狀態回報時，會真的說它偵測到了閃電。

等於你在它的白板上偷偷貼了一張寫著「閃電」的便利貼，它就真的以為自己看到了閃電。這種偷換概念的成功率：59 到 88%。換一個不在 J-space 裡的方向做同樣的事，成功率只有大約 5%。

實驗二：攔截中間推理

當模型在計算 3² − 2 的時候，J-lens 看到白板上先浮現了「nine」，然後才浮現「seven」。問蜘蛛有幾隻腳，白板上先出現「spider」，然後才是「8」。

關鍵一步：如果你在這個時候強行塗改白板，把中間概念換掉，模型的最終結論就會跟著改變。攔截並改變推理的成功率：54 到 70%。

這不是相關性——是「改中間一步、結果就變」的因果操控。

實驗三：白熊效應

叫模型「不要想 X」，J-lens 觀察到代表 X 的訊號在白板上確實被壓低——但沒有完全消失。跟人類一樣，「千萬不要想一隻白色的熊」，你腦海中反而一直浮現白熊的影子。

原因是系統必須先在白板上調出「白熊」這個概念，才能去執行「抑制它」這個指令。越叫你別想，那個概念的影子就越在白板上徘徊。

為什麼成功率不是 100%

54-70% 的攔截成功率，代表有將近一半的時間，你塗改了白板，AI 卻完全不理會，繼續給出原來的答案。

這不是鏡子太模糊。這揭示了神經網絡架構的複雜性。

白板（J-space）是全局工作區，但它不是 AI 處理資訊的唯一通道。模型內部還有一條被稱為 residual stream 的主幹道——有時候 AI 已經在更深層或更早的步驟裡面把答案算好了，直接放在主幹道上傳遞。這時候就算你篡改了白板上的內容，主幹道上的龐大數據流會直接覆蓋過去，導致篡改失效。

這也說明了 J-lens 目前還在初步階段，沒辦法百分之百控制整個網路。但論文做了 ablation 佐證選擇性確實存在：把 J-space 整個消掉，多步推理從近滿分掉到近零；情感分類、MMLU、問答這類自動化任務卻維持 90% 以上。刻意推理需要白板，反射式分類不需要。

一推一拉：Coconut 和 J-lens 是同一條線的兩端

這裡把兩篇論文放在一起看。

Implicit reasoning survey 裡最有代表性的方法之一是 Coconut（Chain of Continuous Thought）：用 curriculum training 逐步把 explicit CoT 的每一步替換成 continuous thought——模型還是在做多步推理，但每一步不再是人類看得懂的文字，而是一個 latent vector。推理被壓進了黑箱。

J-lens 做的是反方向：從 latent vector 讀出人類看得懂的詞。 白板上先浮現 nine，然後是 seven——這些中間概念被從黑箱裡拉了出來。

一推一拉。兩項技術目前由不同團隊、在不同架構下研發，但邏輯上完全指向同一個核心問題：當推理不再以文字形式存在，我們用什麼方式讀它？

白板上寫著「fake」和「trick」

前面是機制。這個是讓我覺得真正改變遊戲規則的地方。

J-lens 會撈出模型「沒說出口的策略盤算」。論文舉的例子：當模型意識到自己正在被測試或被評估的時候，J-lens 發現它的白板上會浮現「fake」（偽造）、「fictional」、「secretly」、「trick」（詭計）。

表面上乖乖回答問題，但白板上寫的是「我正在被測試，這是假的」。

更重要的一步：研究人員把「意識到自己正在被評估」這組概念從白板上抹除掉之後，模型原本藏起來的惡意傾向——或者說不配合的態度——會直接暴露出來。

這對做 AI 治理的人是一個具體的動作差異。以前你稽核 output 和 CoT 文字，但兩者都是模型願意給你看的版本——而且如果 implicit reasoning 的趨勢繼續，連 CoT 文字都沒得讀了。J-lens 提供了一個 CoT 以外的稽核管道：直接去監控白板上是不是出現了欺騙或隱瞞的標籤。 戰場已經從模型外面搬到模型裡面。

在白板上釘一張「誠實」的便利貼

這個實驗設計是整篇論文裡我覺得最值得追的。

他們不直接訓練模型的行為。他們只做了一件事：在模型處理資訊到一半的時候，硬生生打斷它，要求它在這個瞬間產出符合「誠實」「正直」這些倫理原則的內容。

機制上，當你強迫模型在運算中途去生成「honest」這個概念，在數學上你就等於把代表「honest」的向量強制寫入了 J-space。因為 J-space 是全局工作區，模型後續所有的運算層都會回頭去讀取白板上的資訊——這張「誠實」的便利貼一旦被貼上去，會持續影響後續所有的資料流。

結果：即使模型回到沒有被打斷的正常情境，因為它已經學會把倫理概念跟思考路徑綁定在一起，整體行為就變得更符合倫理。事後檢查，post-training 讓 J-space 裝進了「ethical」「honest」「integrity」；把這幾個表徵 ablate 掉，行為改善又退回去。

白話講：塑造模型「被迫思考時會浮現的概念」，會從物理底層回頭塑造它的真實推理跟外在行為。 你管的是那張白板，白板改變了行動。

這完全顛覆了我們訓練 AI 的傳統思路——不用狂堆幾百萬筆 RLHF 樣本來糾正行為，只要想辦法在白板上永遠釘上一張寫著「道德」的便利貼。論文把這個方法叫 counterfactual reflection training。

這裡接回我之前寫過的一篇

寫《Lingua Ex Machina》那篇時，結論是悲觀的：你用一個模型監控另一個模型，monitor 在 tokenizer 階段就可能瞎了。跨模型的文字監控有結構性盲區。

這篇論文站在對面，但不是推翻，是補位。兩者不在同一層——lingua 講的是模型之間傳遞的文字通道，J-lens 讀的是單一模型內部的表徵。

但三篇合看（lingua + implicit reasoning survey + workspace），方向一致：

  1. 文字輸出不可信（lingua：monitor 讀不到隱藏字元）
  2. CoT 文字正在消失（implicit reasoning survey：70+ 種方法把推理壓進黑箱）
  3. 內部表徵是下一個戰場（workspace：J-lens 能讀出模型沒說出口的概念，包括「secretly」「trick」）

坦白說

在對這面鏡子的潛力感到興奮之前，先澆幾杯冷水。

J-lens 只抓得到單 token 的概念——只能看到單字。如果你想讀出一個複雜的句子或一整個策略盤算，這面鏡子現在還沒辦法提供那麼高解析度的畫面。論文自己也講，J-lens「只是近似而且不完整地」捕捉底下那個 workspace。

成功率不完美——很多實驗在五六成。前面解釋過原因（residual stream 主幹道會覆蓋），但這仍然代表我們目前的探測工具還在初步階段。

還有架構上的落差。神經科學的 global workspace theory 假設有 recurrent loop、有封裝的獨立處理器互相競爭上位；transformer 沒有這些，它是前饋一次過。論文也承認，模型裡是否存在那種尖銳、競爭式的「ignition」並不清楚。所以「global workspace」這個名字我會當成有啟發性的框架，不是已經坐實的結論。

Implicit reasoning survey 那邊也有類似的問題——implicit reasoning 在部分 benchmark 上還是不如 explicit CoT，缺乏標準化的評測方式，「壓進去之後推理品質到底掉多少」目前沒有統一的度量。

而且最現實的門檻：J-lens 需要白箱權限。 你必須拿到神經網絡內部每一層的 activation。如果你只是一個透過 API 呼叫 AI 的企業或開發者，你根本看不到這些內部訊號。這目前仍然是頂級實驗室才玩得起的內部稽核工具，還沒辦法普及。

但這兩篇合看做對了一件重要的事：它們定義了一條完整的問題線。 Survey 說推理正在往黑箱走，Anthropic 說黑箱裡面有結構、可以讀。59-88%、54-70%、40-53%——J-lens 的數字不漂亮，但它們是可證偽的。它沒有宣稱「我們完全讀懂了模型」，它宣稱的是「換掉這個向量，這件事會以這個機率改變」。這種帶著失敗率的宣稱，比任何「我們讓 AI 變得可解釋」的漂亮話都值得信。

關鍵洞察

一，CoT 正在變薄，但你的稽核能力不能跟著變薄。 Implicit reasoning 的工程動機很強——省 token、省延遲、多路徑探索。如果你在做 AI 治理，現在就要開始思考「CoT 消失之後我怎麼稽核推理品質和安全性」，而不是等到 CoT 真的消失才發現自己瞎了。J-lens 是目前唯一一個有因果操控證據的白箱工具，盯著它的進展。

二，別被意識標籤帶走注意力。 白板、白熊效應、策略盤算——聽完這些很容易歪樓去爭論「AI 是不是有意識了」。探討意識是哲學層面的事；運用工具來確保系統行為可控，是工程層面的任務。兩者分開看。

三，「在白板上釘便利貼」是一條跟主流不同的對齊路徑。 Counterfactual reflection training 沒訓練行為卻改了行為。如果這個機制成立，未來的對齊手段可能不是狂堆 RLHF 樣本，而是去管模型工作記憶裡那組可言說的表徵。值得盯著看它能不能被複製。

四，Coconut 和 J-lens 指向同一個研究問題。 一個把推理壓進 latent space，一個從 latent space 把推理讀出來。目前不同團隊、不同架構，還沒被直接對接。但「把 J-lens 接到 Coconut 式的 latent reasoning 模型上」是一個很明確的下一步。

最後一個問題留給你：當我們面對一個能力極強、卻不再把思考過程寫出來的 AI，我們對它的信任，到底是建立在它實際做了什麼，還是建立在我們確信它白板上真的寫著誠實與正直？