作者： Wisely Chen 日期： 2026 年 2 月 系列： AI 產業趨勢 關鍵字： Jensen Huang, 黃仁勳, NVIDIA, Cisco, AI Summit, Domain Expertise, On-Prem AI, Hybrid LLM

為什麼這場對談值得拆解

NVIDIA 執行長黃仁勳（Jensen Huang）在 Cisco AI 高峰會上與 Cisco 執行長 Chuck Robbins 進行了一場對談。整場涵蓋了七個主題：運算架構重塑、企業導入策略、豐富性思維、領域專業、實體 AI、基礎設施隱私、AI in the Loop。

我不打算全部展開。我想聚焦其中三個對企業決策者最有實戰價值的觀點，因為這三個串在一起，剛好回答了一個我在顧問現場被問到最多的問題：

「我知道要用 AI，但到底該怎麼開始、投在哪裡、基礎設施怎麼選？」

1. 不要一開始就糾結 ROI——「讓百花齊放」

很多企業導入 AI 的第一步就是做 business case：「投入多少錢、多久回本、ROI 多少？」然後在試算表上算了三個月，最後得出結論：「風險太高，暫緩。」

黃仁勳的建議很直接：“Let a thousand flowers bloom.” 讓百花齊放。

具體操作：

  1. 先讓員工安全地玩： 別限制員工用 AI。給他們工具、給他們沙箱環境、給他們實驗的空間
  2. 專注在公司最重要也最困難的問題上： 雖然鼓勵廣泛嘗試，但公司的核心資源要集中在最痛的點。NVIDIA 自己就是把最強的 AI 資源投在晶片設計和軟體工程的變革上
  3. 稍後再修剪（Curating）： 先讓創新失控生長，等到了一定程度，再根據效果篩選和整合

這跟我做 AI 顧問的經驗完全一致。

我在企業 AI 轉型提案裡，Phase 1 都是「快速勝利」——先找 2 個 POC Agent 讓種子用戶嘗到甜頭，不去算精確的 ROI。因為新技術的價值不是在試算表上出現的，是在員工開始改變工作方式的那一刻出現的。

但黃仁勳講了一個很關鍵的前提：你必須清楚公司的核心價值是什麼。

百花齊放不是亂撒錢，而是在明確方向下允許實驗。沒有方向的百花齊放，就只是浪費預算。

我在現場看到的陷阱

「百花齊放」聽起來很美，但在台灣企業實際落地有兩個常見的坑：

坑一：老闆說「百花齊放」，IT 聽到「我要管 5000 種 AI 工具」。 結果 IT 為了管理而設了一堆限制，員工根本玩不起來。正確的做法是：給一個受控的沙箱環境（像是企業版 ChatGPT 或內部 AI 平台），讓實驗在安全邊界內發生。

坑二：百花齊放了三個月，沒人負責收割。 員工各自用了十幾種工具，但沒人整理哪些有效、哪些是浪費。三個月後老闆問「AI 到底帶來什麼效益？」，沒人答得出來。所以第三步「修剪」不是可選項，是必要動作——而且需要指定一個人或團隊負責。

2. 領域專業是新的超級力量——「寫程式只是打字」

這句話夠嗆：

Coding is essentially just typing. It has become a commodity.

黃仁勳直接把寫程式定義為「打字」，歸類為大宗商品。

這會得罪很多工程師。但他的邏輯是完整的：

當 AI 能夠根據意圖自動生成程式碼，那麼「知道要解決什麼問題」就比「知道怎麼寫程式碼」更有價值。

真正稀缺的是 Domain Expertise（領域專業知識）：

  • 你知道客戶真正需要什麼
  • 你知道行業的潛規則和邊界條件
  • 你知道哪些問題值得解決、哪些是偽需求
  • 你能用領域語言精準描述意圖

現在，一個 30 年經驗的鋼鐵工程師，可以用自然語言告訴 AI：「我要一個能根據合金成分自動調整壓延參數的系統。」AI 負責把這句話變成程式碼。

這跟我一直在推的 RaaS（Results as a Service） 完全吻合。市場買的不是你的程式碼，而是你的判斷力。AI 讓每個領域專家都有機會「自己當技術公司」。

但這裡有個重要的但書

「Coding is commodity」不等於「Software Engineering is commodity」。

寫程式碼確實越來越容易，但系統設計、架構決策、可維護性、安全性——這些「寫程式以外的事」反而越來越重要。就像黃仁勳自己的 NVIDIA，他們用 AI 加速晶片設計，但架構決策還是人在做。

所以更精確的講法應該是：打字是商品，思考不是。

這對企業用人策略的影響

如果黃仁勳說的方向是對的，企業招人的邏輯要翻過來：

  傳統思維 新思維
優先看什麼 技術能力（會什麼語言、框架） 領域知識（懂什麼產業、流程）
工程師的價值 寫出好的程式碼 定義好的問題
培訓重點 學新框架、新語言 學產業知識、學提問
團隊組成 全是工程師 領域專家 + AI 素養

我在做 FDE（Forward Deployed Engineer）的時候就深有體會——到客戶現場最有價值的不是我會寫 Python，而是我聽得懂客戶的業務邏輯，然後能用正確的語言把需求翻譯給 AI。

Domain Expertise + AI Literacy，這才是新時代的全棧人才。

3. 「問題」才是智慧財產權——為什麼企業需要自己的 AI 基礎設施

這是整場對談裡最反直覺的觀點，也是我覺得對企業影響最深的一段。

黃仁勳說他不願意把公司內部的對話全部放到公有雲上。原因不是擔心答案被偷，而是：

「Questions are your IP. Answers are the commodity.」

問題才是最有價值的智慧財產權，答案反而是大宗商品。

為什麼問題比答案更機密？

想想看：你的員工在公司內部問 AI 的那些問題——

  • 「這個客戶的合約要怎麼調整才能拿下來？」
  • 「我們的晶片在 7nm 製程下的良率瓶頸在哪裡？」
  • 「競爭對手下季度可能的定價策略是什麼？」

這些問題本身就洩露了你的戰略意圖、你的技術瓶頸、你的商業盲區。如果對手能看到你在問什麼問題，他們不需要知道答案，光是問題本身就能推斷出你的下一步。

所以黃仁勳建議企業要建立自己的 AI 基礎設施（On-Prem）。不是因為公有雲不安全，而是因為思考過程本身需要隱私。

他還用了一個很接地氣的比喻：就像建議孩子去組裝電腦或了解汽車引擎一樣——你不能只是「租用」雲端算力，你必須親手打造，才能對技術有真實的觸感（Tactile Understanding）。

坦白說：純 On-Prem 不是唯一解

這個觀點改變了我跟客戶溝通需求時的論述方式。以前我講的是「資料主權」、「合規要求」、「latency 需求」。現在我多了一個更有說服力的角度：你的 AI 問什麼問題，比 AI 給什麼答案更機密。

但坦白說，黃仁勳講的是 NVIDIA 的規模——他們有上千名工程師、有自家的 GPU、有足夠的資源建純地端系統。

大部分企業不是 NVIDIA。

一間 200 人的製造業或金融機構，要自建完整的 On-Prem AI 基礎設施，面對的是：

  • GPU 硬體投資： 一台 A100 伺服器 100-300 萬台幣，還要算電力和冷卻
  • 模型維護成本： 開源模型每季更新，誰來評估、測試、部署？
  • 人才問題： 你需要懂 MLOps 的工程師，但這種人在市場上比大熊貓還稀有
  • 推理速度差距： 地端模型跟 Claude Opus、GPT-4o 的體驗差距，使用者感受得到

所以現實的解法不是「全上雲」或「全地端」，而是 Hybrid（混合架構）。

Hybrid LLM 架構：務實的企業選擇

我在 企業級地端 LLM 系統架構藍圖 那篇深入討論過地端架構的完整元件。而在 AI Coding On-Prem 三條路 那篇，我把企業的選擇歸納成三條路徑。核心思路都是一樣的：不是非黑即白，而是根據資料敏感度做分流。

Hybrid 的核心邏輯：

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15

員工問 AI 問題
    │
    ▼
┌─────────────────┐
│  路由層 (Router) │  ← 判斷敏感度
└────────┬────────┘
         │
    ┌────┴────┐
    ▼         ▼
┌────────┐ ┌────────┐
│ 地端 LLM│ │ 雲端 LLM│
│(敏感資料)│ │(一般任務)│
│Ollama/  │ │Claude/  │
│vLLM     │ │GPT-4o   │
└────────┘ └────────┘

具體來講：

場景 建議路徑 原因
內部策略討論、競爭分析 地端 LLM 問題本身就是 IP
客戶合約審閱、定價決策 地端 LLM 洩露商業意圖
程式碼生成、技術文件 雲端 LLM（企業版） 需要最強模型能力，資料敏感度較低
一般文件撰寫、翻譯 雲端 LLM 不涉及核心 IP
內部知識庫問答 地端 LLM + RAG 知識庫本身就是資產

關鍵不是「全部放地端」，而是「讓最機密的問題留在你的控制範圍內」。

路由層怎麼判斷？

最簡單的做法是按場景分流，而不是按內容分析：

  • 專用頻道： 財務分析頻道 → 一律走地端。技術開發頻道 → 走雲端
  • 應用層分流： 內部策略工具 → 地端。AI Coding Agent → 雲端企業版
  • 使用者選擇： 提供「機密模式」和「一般模式」兩個入口

為什麼不做即時內容分析？因為分析本身就需要讀取內容，這又回到了「誰在看你的問題」的問題。按場景分流簡單粗暴，但最可靠。

企業版雲端 LLM 不等於公有雲

這裡要澄清一個常見的誤解。

黃仁勳說的「不要放到公有雲」，指的是消費級的公有 API——你的 prompt 可能被用於模型訓練、可能被日誌記錄、可能被第三方存取。

但企業級的雲端 LLM 服務是不同的層級：

  • AWS Bedrock / Azure OpenAI / GCP Vertex AI： 資料不用於訓練、有 SLA、符合 SOC 2 / ISO 27001
  • Claude Enterprise / ChatGPT Enterprise： 零數據保留政策、企業級存取控制
  • VPC 內部署： 模型跑在你的虛擬私有雲裡，不跟其他租戶共享

所以 Hybrid 架構裡的「雲端」，不是指隨便丟到 ChatGPT 免費版。而是在有合約保障、有隔離環境的企業雲端服務上使用最強的模型。

地端負責保護你的「問題隱私」——那些最敏感的戰略思考。 雲端負責提供「推理品質」——那些需要最強模型能力的任務。

兩者互補，不是互斥。

從 N8N 到 LLM Router：Hybrid 的實作參考

如果你對 Hybrid 架構的實作有興趣，我之前在 N8N Hybrid 架構 那篇討論過一個類似的模式——用 N8N 作為自動化流程的路由層，根據任務類型決定要用地端還是雲端資源。

同樣的邏輯可以套在 LLM Router 上。實際上，一個 LLM Router 需要做的事情就是：

  1. 接收請求 — 統一的 API 入口
  2. 判斷路由 — 根據頻道 / 應用 / 使用者設定，決定走地端還是雲端
  3. 呼叫對應的 LLM — 地端走 Ollama API，雲端走 Bedrock / Vertex / Claude API
  4. 統一日誌 — 不管走哪條路，所有的使用紀錄都留在公司自己的 Langfuse / 觀測平台上

日誌這一點特別重要。即使你用了雲端 LLM，只要日誌留在自己手上，你依然保有對「問題清單」的控制權。 這是 Hybrid 架構裡最容易被忽略、但最有價值的一環。

把三個觀點串在一起

黃仁勳這三個觀點看似獨立，但底層邏輯是一條線：

  1. 先讓百花齊放：別糾結 ROI，讓員工安全地大量實驗 AI
  2. 但真正稀缺的是領域專業：寫程式是打字，懂問題才是超能力
  3. 而你的問題本身就是最大的秘密：所以你需要自己的 AI 基礎設施

串起來就是：

讓員工盡情用 AI，但確保那些最核心、最敏感的提問，留在你自己的系統裡。

這不是技術問題，是戰略問題。

一句話總結：AI 不是你買來的工具，而是你養出來的能力。你不能只租用它，你必須讓它長在公司裡面——至少讓最重要的那一部分長在你的地盤上。

坦白說

黃仁勳講「Coding is commodity」有立場考量。 他是賣 GPU 的，他當然希望每個人都來用 AI，越多人認為「不需要學寫程式」，越多人會依賴 AI 平台，而 AI 平台需要更多 GPU。這不是說他說的不對，但要理解他的激勵結構。

「百花齊放」不適用於所有企業。 一間 20 人的新創跟一間 5000 人的傳統製造業，「百花齊放」的風險完全不同。新創可以快速迭代，傳統企業讓 5000 人同時實驗 AI，沒有治理框架的話，影子 AI（Shadow AI）的風險會爆炸。這跟我在 AI 企業轉型治理 那篇的論點一致——沒有治理的 AI 導入，不是轉型，是冒險。

「問題是 IP」這個觀點很好，但不完整。 問題確實洩露意圖，但好的答案——特別是基於內部數據產生的、經過人類專家調整過的答案——同樣是高價值資產。更準確的說法可能是：問題和答案的組合，加上產生這個組合的上下文，才是完整的 IP。 這也是為什麼 Hybrid 架構裡，日誌系統比 LLM 本身更關鍵——因為日誌記錄的就是這些問答組合的完整脈絡。

我的行動建議

如果你是企業決策者，從這場對談帶走三件事：

  1. 立刻盤點「你的公司在問什麼問題」。 不是盤點你的 AI 工具，而是盤點你的員工每天在問 AI 什麼。這些問題的集合，就是你的 AI 戰略地圖——也是你需要保護的核心資產。

  2. 重新定義「技術人才」。 不要再只看「會不會寫程式」。看他懂不懂你的產業、能不能精準描述問題、能不能判斷 AI 的產出品質。Domain Expertise + AI Literacy，這才是新時代的全棧人才。

  3. 開始規劃 Hybrid LLM 架構。 不需要一步到位。先從「哪些問題必須留在地端」開始盤點，用場景分流的方式，逐步建立地端 + 雲端企業版的雙軌體系。日誌系統先建好——即使 LLM 還沒完全到位，光是記錄「公司在問什麼」就已經是戰略資產。

參考資料