Google TPU是什麼?TPU概念股有哪些:產業與GPU的差異
文章摘要
Google TPU專為AI推論打造,能效優於GPU,帶動台積電、聯發科、廣達、台達電等台廠受惠,資料中心供電與液冷散熱成投資新焦點。
過去由通用圖形處理器(GPU)獨佔的局面是否正在被打破?下一個AI新戰場又會由誰來接棒?今天股編想帶大家來看,由專用積體電路(ASIC)引領的新時代是如何悄悄來臨。在這場典範轉移中,Google 的張量處理器(Tensor Processing Unit, TPU)不僅是先行者,更是技術與戰略的集大成者。
而這又會對整個資料中心基礎設施,從網路、電力到散熱進行怎樣的深度整合與協同設計?台廠又會有誰受惠?今天一次搞清楚,什麼是TPU以及他的產業趨勢是什麼。
TPU 是什麼?為什麼它會威脅「只靠 GPU」的共識
要理解 TPU 的顛覆性,必須先認識到它並非 GPU 的簡單替代品,而是一種不同的設計哲學的產物。它專為特定 AI 工作負載量身打造,並在規模化部署時展現出無可比擬的經濟效益,從根本上動搖了以 GPU 為中心的傳統 AI 算力架構。
對 GPU 霸權構成最根本挑戰的,是人工智慧不斷演變的經濟學,AI 模型的訓練(Training)雖然耗資巨大,但通常是一次性的資本支出;而模型的推論(Inference),也就是實際運行模型以提供服務,其成本佔據了模型整個生命週期總擁有成本(Total Cost of Ownership, TCO)高達 90% 的份額 。TPU 的核心架構正是為在推論領域取得極致效率而生。
- GPU 是一種功能強大的通用並行處理器,如同「瑞士軍刀」,擁有數千個通用計算核心(CUDA Cores),並圍繞著一個成熟、靈活的軟體生態系(如 PyTorch、TensorFlow 等)。
- TPU 是一種專用積體電路(ASIC),更像一把精準的「手術刀」,其設計目標只有一個:極高效地執行神經網路運算中最核心的大規模矩陣乘法。為此,TPU 採用了一種名為「收縮陣列(Systolic Array)」的硬體架構,這種設計以犧牲通用性為代價,換取在特定任務上無與倫比的每瓦效能(performance-per-watt)。
Google 最新發表的第七代 TPU Ironwood(v7)完美詮釋了這一點。相較於前代 Trillium,Ironwood 實現了每瓦效能的翻倍 。更重要的是,每顆 Ironwood 晶片搭載了高達 192 GB 的高頻寬記憶體(HBM)和 7.3 TB/s 的記憶體頻寬 ,這遠遠超過了同時代的頂級 GPU(如 NVIDIA H100)。這種設計的根本目的在於最大程度地減少資料在晶片內外的移動,因為資料移動是造成延遲和功耗的主要瓶頸,尤其是在對延遲極度敏感的推論應用中。
這種架構上的差異帶來了顯著的能效優勢。在針對 TensorFlow 等框架優化的特定工作負載上,TPU 的每瓦效能可以達到同代 GPU 的 15 至 30 倍 。Ironwood 的能效更是達到了 Trillium 的兩倍,是 Google 第一代雲端 TPU 的近 30 倍 。
TPU 兩代主角:v6e 與 v7 關鍵差異
Google TPU 的演進清晰地展示了其戰略意圖的轉變。從 Trillium 的均衡設計到 Ironwood 的推論專精,我們得以窺見 Google 對未來 AI 算力市場的深刻洞察。
Trillium(TPU v6e)是 Google 第六代 TPU,相較於其前代 v5e,實現了巨大的性能飛躍。它被定位為一款功能強大且極具成本效益的解決方案,能夠同時勝任大規模模型的訓練與推論任務,為了更直觀地展示 Trillium 的代際飛躍,下表對其與前代 v5e 的核心指標進行了量化比較。
Trillium (v6e) vs. 前代 (v5e)
|
指標 |
TPU v5e |
TPU v6e (Trillium) |
增幅 |
|
峰值算力 (BF16) |
197 TFLOPs |
918 TFLOPs |
4.7x |
|
峰值算力 (INT8) |
393 TOPs |
1836 TOPs |
4.7x |
|
HBM 容量 |
16 GB |
32 GB |
2x |
|
HBM 頻寬 |
800 GB/s |
1600 GB/s |
2x |
|
ICI 頻寬 |
1600 Gbps |
3200 Gbps |
2x |
|
Pod 規模 |
256 晶片 |
256 晶片 |
- |
|
特殊功能 |
- |
SparseCore |
新增 |
Ironwood(TPU v7)的問世標誌著一次戰略典範的轉移。它是 Google 首款明確為「推論優先」而設計的 TPU,旨在應對下一代「思考型模型」(如大型語言模型 LLMs 和專家混合模型 MoEs)所帶來的龐大計算與記憶體需求 。
|
指標 |
TPU v6e (Trillium) |
TPU v7 (Ironwood) |
增幅 |
戰略重心 |
|
設計哲學 |
訓練與推論並重 |
推論優先 (Inference-First) |
轉變 |
降低 TCO |
|
峰值算力 |
918 TFLOPs (BF16) |
4,614 TFLOPs (FP8) |
~5x |
更高吞吐量 |
|
HBM 容量 |
32 GB |
192 GB |
6x |
模型常駐晶片 |
|
HBM 頻寬 |
1.6 TB/s |
7.37 TB/s |
4.6x |
低延遲資料存取 |
|
最大 Pod 規模 |
256 晶片 |
9,216 晶片 |
36x |
超大規模擴展 |
|
每瓦效能 |
1x (基準) |
~2x |
2x |
能源效率 |
|
冷卻方式 |
氣冷/液冷 |
液冷 (強制) |
轉變 |
實現高密度部署 |
儘管 AI 加速器本身依然是價值最高的組件,但越來越大比例的硬體支出將流向那些提供高壓電源供應器、專用接插件、高功率線纜、精密冷板(Cold Plates)、冷卻液分配單元(CDU)及相關組件的供應商。這條由技術變革驅動的價值鏈轉移,創造出一個全新的、高增長的投資賽道。
- 推論優先設計降低 TCO: Ironwood 的架構(高每瓦效能、超大晶載記憶體)顯著降低了大規模運行 AI 推論服務的運營成本(OpEx),包括電力和冷卻費用。這直接壓低了 AI 服務的總擁有成本(TCO)。
- 低 TCO 合理化高 CapEx: 當一項技術的生命週期總成本(TCO)更低時,企業在前期投入更高的資本支出(CapEx)以獲取這種長期效率,就成為一項經濟上合理的決策。
- 高密度部署的賦能技術: 為了將功耗高達 1 kW 的 Ironwood 晶片進行足夠密集的部署以發揮其規模效應,Google 必須 採用下一代資料中心基礎設施技術,即 ±400VDC 高壓直流供電和高效的直接液冷系統 。
- 伺服器物料清單(BOM)的價值轉移: 這些新一代的電力和散熱解決方案,其複雜度和成本遠高於傳統的 48VDC 供電和氣冷系統。這導致伺服器機櫃的物料清單(BOM)總價值顯著提升,特別是電源和散熱管理子系統的價值佔比大幅增加。
TPU的產業趨勢
TPU 的產業趨勢=從「算力中心」走向「記憶體/網路/基礎設施中心」的推論時代,並且由雲端巨頭用自研 ASIC + 全端整合把 TCO 壓到別人追不上的狀態。
更宏觀地看,推論成本曲線快速下挫:Stanford《AI Index 2025》估算,達到 GPT-3.5 等級的推論成本在 2022/11~2024/10 之間下降超過 280 倍;硬體層面成本年降 30%、能效年升 40%。亞馬遜 CEO 也明確稱推論將是主要成本驅動,因此全面押注自研晶片降低依賴單一供應商。
Trillium(v6e)相對 v5e 峰值算力 4.7 倍,HBM 容量與 ICI 頻寬都「翻倍」;到 Ironwood 直接把 HBM 拉到 192GB/7.37TB/s,遠大於算力的線性提升幅度,目的就是把模型「常駐晶片、少搬資料」。
Cloud TPU 採「每晶片-小時」計價,一年/三年承諾使用(CUD)可較隨用隨付便宜 30~55%;Trillium 在 2024/12 GA 後官方宣稱推論吞吐可提升至 3 倍、能效 +67%。降本幅度讓企業願意承擔更高的初始 CapEx(液冷/高壓直流),換取全生命週期更低的 TCO。
Google 長年由 Broadcom 共同設計 TPU;2025 年 路透稱 Google 正與 聯發科合作下一代 TPU,以成本與供應安全為考量,這是雲端巨頭去單一供應商化的明確訊號。
麥肯錫估算 2030 年資料中心需投資 6.7 兆美元,AI 型資料中心占大宗;這不是單一晶片升級,而是整個電力、冷卻、網路、封裝的長周期擴產與汰換。TPU 的「推論優先+全端整合」正好踩在這條支出曲線上。
TPU 的關鍵趨勢是把競爭焦點從「單顆 GPU 的峰值算力」轉到「每瓦效能 × 記憶體容量/頻寬 × 網路拓樸 × 機櫃供電與散熱」的系統效率比拚;Google 透過 Ironwood + Jupiter OCS + ±400VDC + 液冷 + CUD 定價,形成可被數據驗證的 TCO 優勢與鎖定效應。
台廠TPU概念股
|
供應鏈環節 |
股號 |
做什麼 |
受惠驅動 |
|
自研 ASIC 夥伴 |
聯發科 2454 |
傳出切入 Google 次世代 TPU 客製ASIC合作 |
雲端巨頭去「唯GPU」化、導入雙供應商降低成本與風險(Broadcom + 第2供應商) |
|
晶圓/先進封裝 |
台積電 2330 |
N3P 製程、CoWoS-L 先進封裝 |
TPU v7(Ironwood)採先進節點;AI ASIC/推論放量→CoWoS-L 維持高景氣 |
|
伺服器 ODM |
廣達 2382、緯創 3231、英業達 2356、鴻海 2317、緯穎 6669、神達 3706 |
Google/超大客戶客製伺服器量產、系統整合 |
TPU 叢集擴充+推論上雲→ODM 代工量與營收創高;Google 機櫃規模與自研平台帶動客製供應鏈 |
|
電力:ORv3/±400VDC、Power Shelf/PSU |
台達電 2308、光寶科 2301、群光6412、全漢 3015 |
3~5.5kW ORv3 PSU、33kW Power Shelf、±400VDC 架構 |
1MW級機櫃與高密度推論叢集→高效率電源/高壓直流供電滲透率上升(效能>97%) |
|
液冷:CDU/熱交換器/冷板 |
台達電 2308、奇鋐 3324、 |
CDU、冷板、泵/換熱器、液冷模組 |
Google Project Deschutes CDU 開放、1MW Rack 與DLC(Direct Liquid Cooling)成為標配→整機櫃BOM含金量上修 |
|
高速內外連接/線纜 |
貿聯-KY 3665、正崴 2392、宏致 3605 |
400G/800G DAC/AOC、MCIO/Sliver/OSFP、伺服器內部高速線與電源連接 |
TPU 叢集需要高頻寬、低損耗佈線;800G/1.6T生態加速落地 |
|
PCB/主機板 |
欣興 3037(ABF)、南電 8046(ABF)、健鼎 3044、華通 2313 |
AI 伺服器主機板、高階載板 |
TPU/GPU/ASIC 皆拉動 ABF 與高階板;高層數主板與背板用量抬升 |
|
CCL/高速材料 |
台光電 2383、台燿 6274、聯茂 6213 |
高速/高頻、低介電損耗 CCL 與伺服器板材 |
推論叢集網路密度提高→高速板材用量與規格升級(QSFP-DD/OSFP 背板) |
|
光通訊模組 |
光聖 6442、聯鈞 3450、華星光 4979 |
400G/800G/1.6T 模組、資料中心短中距互連 |
OCS/巨型Pod對東西向流量與端口速率需求攀升→高速光模塊滲透率提升 |
TPU 結論
Google 的 TPU 戰略遠不止於打造一顆更快的晶片。它是一場自上而下、貫穿整個技術堆疊的系統工程革命。通過對應用、軟體、晶片、網路、電力和散熱進行深度垂直整合與協同設計,Google 構建了一個在規模、效率和成本上都極具競爭力的 AI 基礎設施平台。
隨著 AI 市場的重心從一次性的模型訓練,轉向持續的、規模龐大的模型推論,Google 這種以優化 TCO 為核心的「全端」戰略優勢將日益凸顯。從 Trillium 的性能飛躍到 Ironwood 的「推論優先」設計,再到底層 Jupiter 網路和液冷技術的支撐,每一個環節都服務於同一個目標:在即將到來的「推論時代」中,提供最具經濟效益的算力。
概念股常見問題 (FAQ)
Q1:如何買進熱門美股概念股?推薦哪家券商?
A: 想要參與 AI、電動車或低軌衛星等全球趨勢,最直接的方式就是開立「海外美股帳戶」。在眾多平台中,我們首推 IB 盈透證券 (Interactive Brokers),它是許多專業投資人的首選,原因如下:
出金費用最便宜: 提供每月一次免費出金,降低投資人的固定成本支出。
新手練習友善: 提供「模擬倉」功能,讓新進場的投資者可以先用虛擬資金熟悉操作流程,避免實戰失誤。
介面持續優化: 隨著手機版 App (IBKR GlobalAnalyst) 的更新,操作介面也變得較為直觀、友善。
投資標的最廣: 一個帳戶就能投資全球超過 150 個市場,不僅限於美股。
🎯IB 盈透證券:立即開戶 ,開啟你的美股投資佈局,掌握最新概念股先機!
Q2:概念股是什麼?跟產業股有什麼不同?
A: 概念股(Concept Stocks)是由同一個「市場話題」或「題材」串聯起來的股票族群;而產業股則是依據「產品性質」分類。
例子: 「半導體」是一個產業,但「AI 概念股」除了包含半導體廠,還可能跨足伺服器組裝、散熱零件、軟體開發等不同產業的公司。概念股的範圍更廣,且主要受議題熱度驅動。
Q3:概念股適合長期投資還是短線價差?
A: 這取決於題材的「變現性」。
短線操作: 針對爆發性強但尚未有實際獲利的題材(如:短暫的疫情紅利、突發事件)。這類股票通常漲得快、跌得也快,適合技術分析進場。
長線佈局: 針對具備長期轉型趨勢的題材(如:AI 人工智慧、電動車、ESG 碳權)。若該概念能轉化為企業的長期營收成長,則具備存股或長期持有的價值。
Q4:投資概念股有哪些主要風險?
A: 最大風險在於**「本益比過高」與「名不符實」**。
泡沫化風險: 當市場過度追逐話題,股價往往會脫離基本面,一旦熱度減退,跌幅會非常劇烈。
偽概念股: 某些公司雖然宣稱與熱門概念相關,但實際上相關營收佔比不到 1%,這種公司在回檔時最危險。
利多出盡: 當概念轉變為正式財報數字時,若成長不如預期,股價常會出現重挫。
Q5:2025 年有哪些值得關注的概念股題材?
A: 根據目前市場趨勢,以下三大題材仍是核心:
AI 算力與基礎建設: 包含 CPO(矽光子)封裝、高效能散熱技術。
潔淨能源與儲能: 隨著全球能源轉型,氫能、強韌電網計畫相關個股。
太空與通訊: 低軌衛星部署加速帶來的地面接收站商機。
TPU,中文名為熱塑性聚胺酯,高分子彈性體、不含可塑劑的環保材質,應用於民生用品類、醫療類與工業用品類...本文介紹台、美5檔TPU產業概念股
台積電ADR(TSM)為台股台積電在美股上市股票,1股ADR約等於台股5股,每季配息0.5美元,被視為AI產業投資首選。TSM ADR被視為AI產業的投資首選
輝達H20為Hopper架構降規AI晶片,針對中國市場設計,台積電、日月光、欣興、雙鴻、廣達等台廠供應鏈受惠,涵蓋晶圓代工、先進封裝、ABF載板、散熱與伺服器組裝。