Google TPU是什麼?TPU概念股有哪些:產業與GPU的差異

文章摘要

Google TPU專為AI推論打造,能效優於GPU,帶動台積電、聯發科、廣達、台達電等台廠受惠,資料中心供電與液冷散熱成投資新焦點。

過去由通用圖形處理器(GPU)獨佔的局面是否正在被打破?下一個AI新戰場又會由誰來接棒?今天股編想帶大家來看,由專用積體電路(ASIC)引領的新時代是如何悄悄來臨。在這場典範轉移中,Google 的張量處理器(Tensor Processing Unit, TPU)不僅是先行者,更是技術與戰略的集大成者。

而這又會對整個資料中心基礎設施,從網路、電力到散熱進行怎樣的深度整合與協同設計?台廠又會有誰受惠?今天一次搞清楚,什麼是TPU以及他的產業趨勢是什麼。

TPU 是什麼?為什麼它會威脅「只靠 GPU」的共識

要理解 TPU 的顛覆性,必須先認識到它並非 GPU 的簡單替代品,而是一種不同的設計哲學的產物。它專為特定 AI 工作負載量身打造,並在規模化部署時展現出無可比擬的經濟效益,從根本上動搖了以 GPU 為中心的傳統 AI 算力架構。

對 GPU 霸權構成最根本挑戰的,是人工智慧不斷演變的經濟學,AI 模型的訓練(Training)雖然耗資巨大,但通常是一次性的資本支出;而模型的推論(Inference),也就是實際運行模型以提供服務,其成本佔據了模型整個生命週期總擁有成本(Total Cost of Ownership, TCO)高達 90% 的份額 。TPU 的核心架構正是為在推論領域取得極致效率而生。

  • GPU 是一種功能強大的通用並行處理器,如同「瑞士軍刀」,擁有數千個通用計算核心(CUDA Cores),並圍繞著一個成熟、靈活的軟體生態系(如 PyTorch、TensorFlow 等)。
     
  • TPU 是一種專用積體電路(ASIC),更像一把精準的「手術刀」,其設計目標只有一個:極高效地執行神經網路運算中最核心的大規模矩陣乘法。為此,TPU 採用了一種名為「收縮陣列(Systolic Array)」的硬體架構,這種設計以犧牲通用性為代價,換取在特定任務上無與倫比的每瓦效能(performance-per-watt)。

Google 最新發表的第七代 TPU Ironwood(v7)完美詮釋了這一點。相較於前代 Trillium,Ironwood 實現了每瓦效能的翻倍 。更重要的是,每顆 Ironwood 晶片搭載了高達 192 GB 的高頻寬記憶體(HBM)和 7.3 TB/s 的記憶體頻寬 ,這遠遠超過了同時代的頂級 GPU(如 NVIDIA H100)。這種設計的根本目的在於最大程度地減少資料在晶片內外的移動,因為資料移動是造成延遲和功耗的主要瓶頸,尤其是在對延遲極度敏感的推論應用中。

這種架構上的差異帶來了顯著的能效優勢。在針對 TensorFlow 等框架優化的特定工作負載上,TPU 的每瓦效能可以達到同代 GPU 的 15 至 30 倍 。Ironwood 的能效更是達到了 Trillium 的兩倍,是 Google 第一代雲端 TPU 的近 30 倍 。

 

TPU 兩代主角:v6e 與 v7 關鍵差異

Google TPU 的演進清晰地展示了其戰略意圖的轉變。從 Trillium 的均衡設計到 Ironwood 的推論專精,我們得以窺見 Google 對未來 AI 算力市場的深刻洞察。

Trillium(TPU v6e)是 Google 第六代 TPU,相較於其前代 v5e,實現了巨大的性能飛躍。它被定位為一款功能強大且極具成本效益的解決方案,能夠同時勝任大規模模型的訓練與推論任務,為了更直觀地展示 Trillium 的代際飛躍,下表對其與前代 v5e 的核心指標進行了量化比較。

Trillium (v6e) vs. 前代 (v5e)

指標

TPU v5e

TPU v6e (Trillium)

增幅

峰值算力 (BF16)

197 TFLOPs

918 TFLOPs

4.7x

峰值算力 (INT8)

393 TOPs

1836 TOPs

4.7x

HBM 容量

16 GB

32 GB

2x

HBM 頻寬

800 GB/s

1600 GB/s

2x

ICI 頻寬

1600 Gbps

3200 Gbps

2x

Pod 規模

256 晶片

256 晶片

-

特殊功能

-

SparseCore

新增

Ironwood(TPU v7)的問世標誌著一次戰略典範的轉移。它是 Google 首款明確為「推論優先」而設計的 TPU,旨在應對下一代「思考型模型」(如大型語言模型 LLMs 和專家混合模型 MoEs)所帶來的龐大計算與記憶體需求 。

指標

TPU v6e (Trillium)

TPU v7 (Ironwood)

增幅

戰略重心

設計哲學

訓練與推論並重

推論優先 (Inference-First)

轉變

降低 TCO

峰值算力

918 TFLOPs (BF16)

4,614 TFLOPs (FP8)

~5x

更高吞吐量

HBM 容量

32 GB

192 GB

6x

模型常駐晶片

HBM 頻寬

1.6 TB/s

7.37 TB/s

4.6x

低延遲資料存取

最大 Pod 規模

256 晶片

9,216 晶片

36x

超大規模擴展

每瓦效能

1x (基準)

~2x

2x

能源效率

冷卻方式

氣冷/液冷

液冷 (強制)

轉變

實現高密度部署

儘管 AI 加速器本身依然是價值最高的組件,但越來越大比例的硬體支出將流向那些提供高壓電源供應器、專用接插件、高功率線纜、精密冷板(Cold Plates)、冷卻液分配單元(CDU)及相關組件的供應商。這條由技術變革驅動的價值鏈轉移,創造出一個全新的、高增長的投資賽道。

  1. 推論優先設計降低 TCO: Ironwood 的架構(高每瓦效能、超大晶載記憶體)顯著降低了大規模運行 AI 推論服務的運營成本(OpEx),包括電力和冷卻費用。這直接壓低了 AI 服務的總擁有成本(TCO)。
     
  2. 低 TCO 合理化高 CapEx: 當一項技術的生命週期總成本(TCO)更低時,企業在前期投入更高的資本支出(CapEx)以獲取這種長期效率,就成為一項經濟上合理的決策。
     
  3. 高密度部署的賦能技術: 為了將功耗高達 1 kW 的 Ironwood 晶片進行足夠密集的部署以發揮其規模效應,Google 必須 採用下一代資料中心基礎設施技術,即 ±400VDC 高壓直流供電和高效的直接液冷系統
     
  4. 伺服器物料清單(BOM)的價值轉移: 這些新一代的電力和散熱解決方案,其複雜度和成本遠高於傳統的 48VDC 供電和氣冷系統。這導致伺服器機櫃的物料清單(BOM)總價值顯著提升,特別是電源和散熱管理子系統的價值佔比大幅增加。

 

TPU的產業趨勢

TPU 的產業趨勢=從「算力中心」走向「記憶體/網路/基礎設施中心」的推論時代,並且由雲端巨頭用自研 ASIC + 全端整合把 TCO 壓到別人追不上的狀態。

更宏觀地看,推論成本曲線快速下挫:Stanford《AI Index 2025》估算,達到 GPT-3.5 等級的推論成本在 2022/11~2024/10 之間下降超過 280 倍;硬體層面成本年降 30%、能效年升 40%。亞馬遜 CEO 也明確稱推論將是主要成本驅動,因此全面押注自研晶片降低依賴單一供應商。

Trillium(v6e)相對 v5e 峰值算力 4.7 倍,HBM 容量與 ICI 頻寬都「翻倍」;到 Ironwood 直接把 HBM 拉到 192GB/7.37TB/s,遠大於算力的線性提升幅度,目的就是把模型「常駐晶片、少搬資料」。

Cloud TPU 採「每晶片-小時」計價,一年/三年承諾使用(CUD)可較隨用隨付便宜 30~55%;Trillium 在 2024/12 GA 後官方宣稱推論吞吐可提升至 3 倍、能效 +67%。降本幅度讓企業願意承擔更高的初始 CapEx(液冷/高壓直流),換取全生命週期更低的 TCO。

Google 長年由 Broadcom 共同設計 TPU;2025 年 路透稱 Google 正與 聯發科合作下一代 TPU,以成本與供應安全為考量,這是雲端巨頭去單一供應商化的明確訊號。

麥肯錫估算 2030 年資料中心需投資 6.7 兆美元,AI 型資料中心占大宗;這不是單一晶片升級,而是整個電力、冷卻、網路、封裝的長周期擴產與汰換。TPU 的「推論優先+全端整合」正好踩在這條支出曲線上。

TPU 的關鍵趨勢是把競爭焦點從「單顆 GPU 的峰值算力」轉到「每瓦效能 × 記憶體容量/頻寬 × 網路拓樸 × 機櫃供電與散熱」的系統效率比拚;Google 透過 Ironwood + Jupiter OCS + ±400VDC + 液冷 + CUD 定價,形成可被數據驗證的 TCO 優勢與鎖定效應。

 

台廠TPU概念股

供應鏈環節

股號

做什麼

受惠驅動

自研 ASIC 夥伴

聯發科 2454

傳出切入 Google 次世代 TPU 客製ASIC合作

雲端巨頭去「唯GPU」化、導入雙供應商降低成本與風險(Broadcom + 第2供應商)

晶圓/先進封裝

台積電 2330

N3P 製程、CoWoS-L 先進封裝

TPU v7(Ironwood)採先進節點;AI ASIC/推論放量→CoWoS-L 維持高景氣

伺服器 ODM

廣達 2382、緯創 3231、英業達 2356、鴻海 2317、緯穎 6669、神達 3706

Google/超大客戶客製伺服器量產、系統整合

TPU 叢集擴充+推論上雲→ODM 代工量與營收創高;Google 機櫃規模與自研平台帶動客製供應鏈

電力:ORv3/±400VDC、Power Shelf/PSU

台達電 2308、光寶科 2301、群光6412、全漢 3015

3~5.5kW ORv3 PSU、33kW Power Shelf、±400VDC 架構

1MW級機櫃與高密度推論叢集→高效率電源/高壓直流供電滲透率上升(效能>97%)

液冷:CDU/熱交換器/冷板

台達電 2308、奇鋐 3324、

CDU、冷板、泵/換熱器、液冷模組

Google Project Deschutes CDU 開放、1MW Rack 與DLC(Direct Liquid Cooling)成為標配→整機櫃BOM含金量上修

高速內外連接/線纜

貿聯-KY 3665、正崴 2392、宏致 3605

400G/800G DAC/AOC、MCIO/Sliver/OSFP、伺服器內部高速線與電源連接

TPU 叢集需要高頻寬、低損耗佈線;800G/1.6T生態加速落地

PCB/主機板

欣興 3037(ABF)、南電 8046(ABF)、健鼎 3044、華通 2313

AI 伺服器主機板、高階載板

TPU/GPU/ASIC 皆拉動 ABF 與高階板;高層數主板與背板用量抬升

CCL/高速材料

台光電 2383、台燿 6274、聯茂 6213

高速/高頻、低介電損耗 CCL 與伺服器板材

推論叢集網路密度提高→高速板材用量與規格升級(QSFP-DD/OSFP 背板)

光通訊模組

光聖 6442、聯鈞 3450、華星光 4979

400G/800G/1.6T 模組、資料中心短中距互連

OCS/巨型Pod對東西向流量與端口速率需求攀升→高速光模塊滲透率提升

 

TPU 結論

Google 的 TPU 戰略遠不止於打造一顆更快的晶片。它是一場自上而下、貫穿整個技術堆疊的系統工程革命。通過對應用、軟體、晶片、網路、電力和散熱進行深度垂直整合與協同設計,Google 構建了一個在規模、效率和成本上都極具競爭力的 AI 基礎設施平台。

隨著 AI 市場的重心從一次性的模型訓練,轉向持續的、規模龐大的模型推論,Google 這種以優化 TCO 為核心的「全端」戰略優勢將日益凸顯。從 Trillium 的性能飛躍到 Ironwood 的「推論優先」設計,再到底層 Jupiter 網路和液冷技術的支撐,每一個環節都服務於同一個目標:在即將到來的「推論時代」中,提供最具經濟效益的算力。

 

概念股常見問題 (FAQ)

Q1:如何買進熱門美股概念股?推薦哪家券商?
A: 想要參與 AI、電動車低軌衛星等全球趨勢,最直接的方式就是開立「海外美股帳戶」。在眾多平台中,我們首推 IB 盈透證券 (Interactive Brokers),它是許多專業投資人的首選,原因如下:

出金費用最便宜: 提供每月一次免費出金,降低投資人的固定成本支出。

新手練習友善: 提供「模擬倉」功能,讓新進場的投資者可以先用虛擬資金熟悉操作流程,避免實戰失誤。

介面持續優化: 隨著手機版 App (IBKR GlobalAnalyst) 的更新,操作介面也變得較為直觀、友善。

投資標的最廣: 一個帳戶就能投資全球超過 150 個市場,不僅限於美股。

🎯IB 盈透證券:立即開戶 ,開啟你的美股投資佈局,掌握最新概念股先機!

Q2:概念股是什麼?跟產業股有什麼不同?
A: 概念股(Concept Stocks)是由同一個「市場話題」或「題材」串聯起來的股票族群;而產業股則是依據「產品性質」分類。

例子: 「半導體」是一個產業,但「AI 概念股」除了包含半導體廠,還可能跨足伺服器組裝、散熱零件、軟體開發等不同產業的公司。概念股的範圍更廣,且主要受議題熱度驅動。

Q3:概念股適合長期投資還是短線價差?
A: 這取決於題材的「變現性」。

短線操作: 針對爆發性強但尚未有實際獲利的題材(如:短暫的疫情紅利、突發事件)。這類股票通常漲得快、跌得也快,適合技術分析進場。

長線佈局: 針對具備長期轉型趨勢的題材(如:AI 人工智慧、電動車、ESG 碳權)。若該概念能轉化為企業的長期營收成長,則具備存股或長期持有的價值。

Q4:投資概念股有哪些主要風險?
A: 最大風險在於**「本益比過高」與「名不符實」**。

泡沫化風險: 當市場過度追逐話題,股價往往會脫離基本面,一旦熱度減退,跌幅會非常劇烈。

偽概念股: 某些公司雖然宣稱與熱門概念相關,但實際上相關營收佔比不到 1%,這種公司在回檔時最危險。

利多出盡: 當概念轉變為正式財報數字時,若成長不如預期,股價常會出現重挫。

Q5:2025 年有哪些值得關注的概念股題材?
A: 根據目前市場趨勢,以下三大題材仍是核心:

AI 算力與基礎建設: 包含 CPO(矽光子)封裝、高效能散熱技術

潔淨能源與儲能: 隨著全球能源轉型,氫能、強韌電網計畫相關個股。

太空與通訊: 低軌衛星部署加速帶來的地面接收站商機。

【延伸閱讀】