從 GPU 霸主到 AI 工廠總包商

Groq 3 LPX 與 SpaceXAI 攜手登場,揭開 Nvidia 下一場「推理戰爭」。Nvidia 正在將競爭核心從純單顆晶片速度,推向控制全套 AI 代理運算流程。

Spotify Podcast Apple Podcasts

Groq 3 極速推理

~3,400 token/s

FY2027 Q2 營收預估

$921.8億 USD

巨頭 AI 資本支出

$7,300億+ USD

Vera CPU 運算核心

88 Olympus Cores

1. 戰略轉型:從 GPU 到 AI 工廠總包商

Nvidia 將在 2026 年 8 月 26 日美股盤後公布二〇二七會計年度第二季財報。但在財報前兩天,Nvidia 選擇在 Hot Chips 大會拋出兩項重要訊號:Groq 3 LPX 正式進入全面量產,以及 SpaceXAI 決定採用 Nvidia Vera CPU 與 Vera Rubin 架構

傳統硬體思維

單純聚焦於比較 GPU 的運算吞吐量(例如 Rubin 比 Blackwell 快多少),試圖用單一強大 GPU 解決所有 AI 計算難題。

AI 工廠總包商戰略

掌控從 AI 思考、回答、呼叫工具到真正執行工作的完整流程。針對不同任務搭配專用晶片,確保最昂貴的 GPU 資產隨時維持最高利用率。

2. Groq 3 LPX 深度解析:極速推理加速

AI 工作主要分為兩大階段:Prefill(讀懂上下文)Decode(連續產生 Token)。GPU 極擅長前者,而 Groq 3 LPX 則是針對後者打造的「互動式 AI 推理加速器(interactive AI inference accelerator)」,放置於 Vera Rubin 平台旁邊專門降低延遲。

測得極速 (Gemma 4 31B)
3,431 token/s

Artificial Analysis 於私人部署環境測試長上下文 (10萬token) 數據。

AI 代理執行時間比對
1.5秒 vs 50秒

生成 5,000 token 時,3,400 token/s 能將生成耗時從近 1 分鐘降至約 1.5 秒。

授權與人才整合
LPU 技術

2025/12 簽署非獨家授權,聘用創辦人 Jonathan Ross,消弭潛在競業威脅。

投資人不可忽視的測試限制

每秒 3,400 個 token 來自特定 Gemma 4 31B 模型與依序執行的單一並行請求。公開雲端多人同時使用時的實際速度、耗電量、每百萬 token 成本及大模型支援度,才是決定商業價值的真實指標。

3. Vera Rubin 陣容:「AI 分工團隊」架構

Nvidia 正在推動從單純賣 GPU 到銷售整座「AI 工廠」。一套大型 AI 代理系統將由三大元件形成完美的算力分工,避免昂貴的 GPU 資源因「等待 CPU 準備資料」而浪費。

Rubin GPU

重型模型計算與龐大上下文

負責極龐大的模型矩陣計算、深度思考與預先載入上下文(Prefill)。

Groq 3 LPX

極速 Token 解碼(Decode)

負責快速將計算結果轉換成 Token 輸出,讓 AI 代理能夠毫無延遲地「快速對話與思考」。

Vera CPU

流程控制與工具呼叫

搭載 88 個 Olympus 自研核心、1.2 TB/s 記憶體頻寬,負責程式執行、資料排程與協調工作。

4. 商業落地案例:SpaceXAI 與 Nebius

SpaceXAI:GW 級算力與太空 AI

旗艦標竿
  • 採用 Vera CPU:全面導入運算架構支援 Grok AI 代理工具呼叫與程式執行,減少 GPU 等待耗時。
  • GW 級算力計畫:擴張基礎設施朝 GW (十億瓦) 級運算容量發展。
  • Starmind 太空衛星:預計採用 Vera Rubin NVL72 架構延伸軌道算力。(註:屬前瞻工程探索,暫不宜計入近期營收)

Nebius:商業驗證第一槍

首發雲端
  • 第一家採用業者:Nebius 成為首家採納 Groq 3 LPX 的 AI 雲端服務廠商。
  • Token Factory 整合:加入 Nebius Token Factory,預計 2026 年稍後正式上線。
  • 商業價值試驗場:用於驗證企業客戶是否願意買單,以及能否實質降低推理成本。

5. 財務預測與資本動態 (Chart.js 視覺化)

Nvidia 季度營收預估與指引比較 ($B USD)

數據來源:LSEG 彙整華爾街預估與 Nvidia 官方指引 (FY2027 Q2/Q3)

AI 基礎建設資本規模與金融融資 ($B USD)

包含巨頭 Capex 預估、第三方私募基金聯盟及 OpenAI 專案擔保

6. 核心關鍵數據資料庫 (即時互動篩選)

輸入關鍵字(如:營收、CPU、SpaceX、毛利率)進行即時搜尋:

指標/專案名稱 類別 關鍵數據 / 規格內容 戰略影響與商業意涵

7. 財報公布前夕:五大核心觀察指標

1. Q2 營收超預期幅度

華爾街預估 921.8 億美元,能否顯著超越而非僅微幅達標。

2. Q3 營收展望指引

市場期待 Q3 達 1,042 億美元 (年增 82.8%),需維持高速動能。

3. 毛利率表現 (75% 防線)

系統複雜度提升下,毛利率能否穩定在 75% 附近,彰顯獲利品質。

4. Rubin 出貨對 Blackwell 影響

Rubin Q3 貢獻近 90 億美元營收時,是否會排擠 Blackwell 需求。

5. 算力融資與 ROI 永續性 (最大潛在風險)

黃仁勳如何解釋高達 5,000 億美元的第三方融資與 1,050 億美元專案擔保,晶片需求有多少來自終端真實收益。