在 AI Coding 工具鋪天蓋地的今天,工程師最常感受到的情緒只有一個字:「爽」。

需求丟進去,幾秒鐘後一整段寫好的函式庫、配置檔甚至完整微服務直接噴出來;Tab、Tab、Enter,幾百行代碼就地成形。無論在技術社群還是企業現場,所有人都在吹捧「產能提升十倍」、「一人頂一個團隊」。

然而,當你在鍵盤前體驗這種行雲流水的快感時,你有沒有想過一個令人背脊發涼的問題:

如果明天早上把這些 AI 工具全部拿掉,你的大腦還剩下多少真正的工程能力?

這不是技術老頑固的無病呻吟。頂級學術期刊 PNAS(美國國家科學院院刊)發表了一項大規模隨機對照實驗,用冰冷刺骨的數據揭穿了「AI 賦能」背後的隱形代價;而同一時間,以硬核技術聞名的頂級量化交易巨頭 Jane Street,卻在其開源的 AI Agent 框架中,寫下了一條看似完全反人性的死命令。


一、 PNAS 震撼研究:無防護欄的 AI,正在讓人「智力倒退」

這篇發表於 PNAS 的論文題目非常直白:
《Generative AI without guardrails can harm learning: Evidence from high school mathematics》(由賓州大學華頓商學院 Hamsa Bastani、Osbert Bastani 等學者主導)。

研究團隊找來了近千名高中學生進行數學隨機對照實驗(RCT),將學生拆分為三組:

  1. 控制組:傳統學習方式,完全不使用 AI。
  2. GPT Base 組(無防護欄):使用標準的 ChatGPT 介面,學生有問題可以直接貼進去,AI 會把解題步驟與答案完整印出來。
  3. GPT Tutor 組(具備教學防護欄):使用搭載了「提示詞防護欄(Guardrails)」的 AI,嚴格禁止直接提供最終答案,必須採用蘇格拉底式提問與微小線索(Hints)引導學生思考。

實驗分為兩個階段:第一階段是「有 AI 輔助的練習期」;第二階段則是「完全抽離 AI、靠自己上場的正式考試」。

實驗結果震撼了教育界與科技界:

組別 練習期(有 AI 輔助)成績變化 最終測驗(抽離 AI)成績變化
控制組(從不用 AI) 基準線(Baseline) 基準線(Baseline)
GPT Base(無防護欄) 暴增 +48% 暴跌 -17%(比從不用 AI 的人還差!)
GPT Tutor(有防護欄引導) 暴增 +127% 能力有效維持,無負面衰退

虛假繁榮與「拐杖效應(Crutch Effect)」

看這組數字的對比:
當學生拿著無限制的 GPT Base 時,練習成績提升了 48%,看起來人人都是資優生。但到了閉卷考試、把 AI 抽走的那一刻,他們的成績竟然比從來沒有碰過 AI 的控制組低了整整 17%。

為什麼?因為無限制的 AI 成了他們大腦的「智力拐杖」。
解題真正的價值,從來不在於「看到答案」,而在於面對未知時的認知摩擦(Cognitive Friction)——檢視邊界條件、經歷卡住的焦慮、嘗試因式分解、發現算錯、再回頭校正符號。這個神經迴路反覆撞牆的過程,才是大腦建立「技能習得(Skill Acquisition)」的唯一路徑。

一旦 AI 把整條解法端到你嘴邊,大腦的防禦機制會自動選擇耗能最低的路徑:直接跳過思考、複製貼上。短期的產出繁榮了,但宿主的智力肌肉徹底萎縮了。


二、 頂級量化巨頭的反擊:Jane Street 的 socratic-tutor

當普羅大眾沉迷於「AI 幫我把 code 寫完」的糖衣毒藥時,全世界對代碼精準度與工程智力要求最嚴苛的機構之一——華爾街頂級造市商 Jane Street,在 GitHub 上釋出了一個名為 janestreet/agent_skills 的開源專案。

在這個專門設計給 AI Coding Agent(如 Claude Code / Cursor)的擴充機制中,最引人注目的就是他們定義的 socratic-tutor(蘇格拉底家教)。

如果你打開它的 SKILL.md 配置檔,你會看到 Jane Street 為 AI 套上了一副極其嚴格的「約束韁繩(Harness)」:

1
2
3
4
5
6
7
8
9
10
11
12
13
# Jane Street socratic-tutor 核心行為法則

1. 嚴禁直接給予答案或代碼:
   不論使用者如何要求、示弱或命令,絕對不能直接提供解題答案、修正後的完整代碼或公式。
   
2. 每次只問一個問題(One Question at a Time):
   AI 每次回覆只能提出「一個」目標明確的推導問題,然後立刻停下來,等待使用者自己回答。禁止任何形式的長篇大論或自問自答。

3. 助產術式引導(Maieutic Guidance):
   當使用者寫出錯誤邏輯或陷入卡關時,不得直接宣告「你錯了」,而是必須構造一個極端的邊界案例(Edge Case)或反例,引導使用者自己看到邏輯矛盾。

4. 前測與能力建模(Skill Mapping):
   在正式展開教學前,必須先透過診斷提問將使用者的能力錨定在 0–5 級的坐標系中,由其認知極限為起點進行漸進式引導。

為什麼 Jane Street 要搞這種「反人性」的設計?

對這家掌控全球巨額流動性的公司來說,寫 code 寫得快從來不是核心競爭力;「寫出沒人想過的正確邏輯,並在系統崩潰前看出未知的 Single Point of Failure」 才是。

如果內部工程師習慣了讓 AI 吐代碼、自己只負責按 Accept,那麼不出一年,這間公司將不再擁有能夠手撕底層網路協議、Debug 極限並行競態(Race Condition)的頂級架構師。Jane Street 寧願犧牲短期的敲鍵盤速度,也要用 Harness 強迫工程師的大腦在每一行關鍵邏輯上親自思考、親自受挫、親自推導。


三、 SaaS 商業世界的現實矛盾:爽度 vs. 成長

這種「防護欄思維」不僅出現在頂級交易室,其實早已在教育科技(EdTech)的深水區掀起波瀾。

仔細盤點市場上主打不直接給答案的產品:

  • Khanmigo(可汗學院):最早喊出「Never gives the answer」的 AI 輔導系統,把引導原則刻在 Prompt 骨子裡。
  • CS50.ai(哈佛大學 CS50):傳奇教授 David J. Malan 把軟體工程的「小黃鴨調試(Rubber Duck Debugging)」做成了 AI 外掛,嚴禁替學生改 code,只負責在側邊欄用反問逼學生自己看見陣列越界。
  • Synthesis Tutor:源自 SpaceX 內部學校 Ad Astra,用探究式對話逼孩子建立第一性原理。

但這裡揭示了一個殘酷的產品商業悖論(Product Paradox):

「最能讓人成長的工具,往往最違背人性;而最讓人上癮的產品,往往正在讓你變笨。」

在 B2C 消費級市場上,學生下載拍照搜題軟體(如 Photomath、早期的作業幫),圖的就是 30 秒抄完作業去打電動。如果你做了一個堅持「蘇格拉底式提問、絕不給答案」的 AI App,學生聊了三句發現要自己動腦,跳出率與卸載率會立刻飆升。

這就是為什麼「不給答案的 AI」在 C 端舉步維艱,但在 B2B / 企業級與學校管理端(如 SchoolAI、企業內部培訓)卻成為不可妥協的必選項目。因為買單的決策者(校長、家長、CTO、技術副總)要的是真實的能力沉澱,而不是虛擬助理自嗨的 Token 消耗量。


四、 給企業技術主管與 AI 架構師的醒鐘

身為在企業第一線落地 AI Agent 的架構師,PNAS 的論文與 Jane Street 的案例,給了我們三個極其具體的工程啟示:

1. 區分「生產交付場景」與「能力育成場景」

在生產環境裡,我們追求的是吞吐量與自動化,此時應該給予 Agent 最寬鬆的自主權與工具調用鏈(如背景執行的批次修復、自動化報表);
但在架構評審(Design Review)、故障覆盤(Post-mortem)與核心業務邏輯開發時,技術主管必須明令禁止「黑盒代碼直接 Merge」。AI 的角色必須被限制為「挑戰者」與「審查員」,不斷對工程師拋出 edge case 提問,逼出設計死角。

2. 把 Guardrails 刻進團隊的 Harness 中

不要只在口頭上要求工程師「多動腦」。就像 Jane Street 開源 agent_skills 一樣,防護欄必須是代碼化、配置化的。
例如:在內部的 AI 助理 System Prompt 或 IDE Plugin 中強制加入限制規則:「當工程師詢問系統架構方案時,禁止給出完整結論,先列出三種權衡方案並詢問其對延遲與成本的優先級排序」。

3. 當心團隊的「隱形認知退化」

如果一個兩年資歷的工程師,在有了 Copilot 之後工作效率翻倍,但他已經半年沒有讀過任何官方文檔、無法在白板上徒手畫出資料流向、看不懂雲端維運圖表上的 Memory Leak 斜率——請務必保持警惕。
他不是變強了,他只是把自己的大腦記憶體,無償出租給了外面的大模型。一旦模型斷網、價格調漲或遇到 frontier 邊界外的未知 Bug,整個團隊將瞬間陷入癱瘓。


結語:代碼只值電費,能思考的腦袋才值錢

AI 浪潮以不可逆的速度重塑整個知識產業。代碼與算式,在未來確實只會被拉低到「電費與 Token」的成本水準。

但正因為產出變得廉價,能推導出「該產出什麼」的第一性原理思維,才變得空前昂貴。

永遠記住 PNAS 那個刺眼的數字:-17%。
別讓那些沒加防護欄的 AI,悄悄拿走了你身為工程師最核心的靈魂。


(本文依據 PNAS 2025 年刊載之隨機對照實驗研究、Jane Street 開源專案及企業第一線系統工程實踐整理。)