AI大基建浪潮來襲!電子組裝代工業將迎向第二成長曲線?

AI大基建浪潮來襲!電子組裝代工業的第二成長曲線正式啟動?

前言

隨著大數據分析及應用、雲端運算等等的蓬勃發展,CSP(Cloud Service Provider,雲端服務供應商)業者積極建設資料中心,帶動伺服器市場的成長。尤其在OpenAI推出ChatGPT之後,GenAI商機蓬勃,掀起AI基礎建設潮,AI伺服器瞬間炙手可熱。與一般伺服器相比,AI伺服器硬體規格大幅提升,甚至採用新技術,提高整合及測試的難度。部分電子組裝代工廠憑藉著技術實力,順利吃下AI大補帖,為組裝代工業開啟新的成長曲線

什麼是電子組裝代工業

一般來說,電子組裝代工業指的是電子組裝代工,舉凡手機、筆電、車用電子、伺服器等等電子產品的成品組裝生產,都能歸類在此。像是我們常聽到的電子五哥廣達(2382)、 緯創(3231)、和碩(4938)、 仁寶(2324)、英業達(2356),以及世界最大EMS廠鴻海(2317)等等都是台灣赫赫有名的組裝代工業者。

常見的電子組裝代工業可以分為下表幾種模式:

表一、電子組裝代工種類

全稱中文特點
OEMOriginal Equipment Manufacturer原始設備製造商OEM公司根據客戶的需求和設計進行生產,並將產品標上客戶的品牌。利潤主要來自生產加工費,只需專注生產即可。
ODMOriginal Design Manufacturer原始設計製造商ODM公司除了擁有製造能力外,還具有產品設計和研發能力。透過各種客製化的生產與設計去滿足客戶需求,通常相較於OEM更有與客戶議價的能力。
OBMOriginal Brand Manufacturer原始品牌製造商OBM公司擁有自己的品牌,並掌握開發、設計、生產和產品銷售策略等等。
EMSElectronics Manufacturing Services電子製造服務EMS代工公司是專業的製造服務供應商,提供從設計到製造的全方位服務。除了生產製造能力外還需具備供應鏈方面的專業知識,可以提供品牌商包括庫存管理、後勤運輸,甚至產品維修等的一站式整合服務。
資料來源:TEJ整理

邁向AI世界的基礎—伺服器

伺服器(Server)是專門用於處理儲存大量資料企業級電腦,通常用於運行應用程式或提供服務。企業客戶和員工可通過行動裝置或個人電腦連接伺服器,獲取資訊或服務。伺服器類似於大型數據處理中心,負責多人請求,如瀏覽網頁、儲存資料、回應電子郵件等,因此相較於個人電腦,伺服器更注重穩定性安全性延伸性

伺服器由硬體軟體共同運作,通常需具備強大的運算能力,因此在硬體上常將多個主機板安裝在一起應付專業使用。同時伺服器作業系統也需支援多工和多使用者,以便同時處理多人連線和多個應用程式。

伺服器會依照外型而有所區別,目前市場上主要分成三大類型的伺服器,分別為直立式伺服器機架式伺服器以及刀鋒式伺服器,其規格差異如下表:

自2017年因虛擬貨幣風潮,開啟全民網路挖礦運動,相關終端器材及配備之需求快速攀升,市場開始供不應求紛紛擴建廠房及併購企業。在上述時空背景下,讓國巨集團進入高速併購期,其被併購公司多半終止公開發行,並納入國巨集團麾下,致國巨集團產能規模年年攀升。在產能數量上,其國巨、凱美、奇力新、同欣電分別於併購當年產能增幅25%~35%不等,顯現併購事業體對集團整體生產線帶來正向效果,且對母公司-國巨來說,併購企業能擴充產品線的生產量,已達規模經濟之效果。

表二、三大伺服器的相異之處

直立式伺服器
(Pedestal Server)
機架式伺服器
(Rack Server)
刀鋒式伺服器
(Blade Server)
圖片
(圖片來源:Asus)

(圖片來源:Asus)

(圖片來源:訊通實業)
佔地空間最大需一間伺服器機房需一間伺服器機房
價錢便宜中間最貴
散熱程度散熱容易散熱較難散熱較難
擴充能力容易擴充記憶體介於兩者之間不易擴充記憶體
管理難易度一旦數量變多就難以管理容易管理容易管理
纜線多寡較少較多較多
性能較差介於兩者之間較好
維護較難維護較易維護較易維護
適用企業對伺服器需求沒有那麼大的企業具有規模的企業資料中心、高效能運算、雲端運算
資料來源:TEJ整理

延伸閱讀:快速了解什麼是伺服器?零組件名詞你都會了嗎?

伺服器產業鏈知多少

台灣具備完整的伺服器供應鏈體系,從上游的電子零組件供應即有許多廠商,例如:電源供應器的台達電(2308)以及光寶科(2301);機殼廠的迎廣(6117)以及勤誠(8210);PCB板的金像電(2368)健鼎(3044)等,皆在伺服器市場上具有一席地位,再加上台灣組裝代工廠的組裝良率高、研發能力強以及擅於成本管理,全球各大伺服器品牌以及四大雲端服務廠商大多會找台灣代工廠組裝AI伺服器,根據Digitimes的資料顯示,近9成的AI伺服器是由台灣組裝代工廠組裝代工的。

伺服器產業鍊(資料來源:TEJ整理)
伺服器產業鏈(資料來源:TEJ整理)

目前市面上,伺服器組裝流程主要分成12個步驟,台灣組裝代工廠皆具備Level 6以上的組裝能力,且隨著組裝Level提高,組裝代工廠所賺取的營收和利潤也會越高。以下將藉由表三說明伺服器各個組裝Level的細節:

表三、伺服器組裝順序

組裝流程流程簡介主要廠商
Level 1伺服器電子零組件製造並蒐集
Level 2部份電子零組件的組裝
Level 3將電子零組件組裝在機殼裡面
Level 4將Level 3的成品外加上電源供應器、柔性扁平排線以及背板
Level 5連接Level 4的所有外殼零組件、整合式電纜,並須經過I/O測試勤誠、迎廣
Level 6將主機板整合至裡面,並做通電測試,通常此步驟完成後,該產品會被稱為「伺服器準系統」英業達、神達、緯創
Level 7將附加卡整合至伺服器準系統,並做通電測試
Level 8將硬碟整合至伺服器準系統,並做通電測試
Level 9將CPU和記憶體整合至伺服器準系統,並做通電測試
Level 10伺服器的完整組裝,其中包含完整系統和組件的測試、作業系統和軟體的整合,並且須具備產品配備使用手冊,並作為完全整合的伺服器解決方案交付。廣達、鴻海緯創、技嘉
Level 11將Level 10的伺服器做節點式組裝、測試以及作業系統加載等,並將節點伺服器組裝到具有全電纜網路的機架中,並做測試。
Level 12將單一Level 11的機架組裝成多個機架,包含具有完整軟體載入、驗證和最佳化所有網路。廣達、鴻海、緯創緯穎、美超微、AMAX
資料來源:AMAX、摩根士丹利、TEJ整理

簡單來說,組裝流程可以分為三個流程,分別是伺服器準系統組裝(Level 6)、伺服器的完整組裝(Level 10)以及伺服器的系統整合(Level 12)。目前台灣組裝代工廠皆具備Level 6以上的組裝能力,且部分廠商已具備Level 10 以及 Level 12的組裝能力。

AI伺服器與通用伺服器有什麼不一樣?

2023年因AI技術的快速發展以及ChatGPT的成功,被視為AI元年,全球雲端服務廠商對AI伺服器的需求量大幅上升。2024年多數企業紛紛增加對伺服器的預算,其中,Meta預計將上調2024年整年度資本支出至334億美元;Amazon則表示2024年資本支出將明顯高於2023年的481億美元,AI軍備競賽蓄勢待發。

AI伺服器是專門為運行機器學習深度學習工作負載而設計的產品,並對於處理數據能力和是否能進行快速的矩陣乘法較為重視。因需要強大的運算能力,所以AI伺服器大多使用的晶片會以CPU搭配GPUASIC為主,並且為了因應強大的運算能力,在AI伺服器上搭載的大多是較為高規格的產品。

通用型伺服器主要用於存儲數據執行應用程式,並提供網路服務。設計上追求高效高穩定性可靠的數據存儲,對於資料的傳輸以及控制能力較強,但相對來說,因通用伺服器的功用主要以數據存儲,故使用的晶片以CPU為主,所以運算能力較為薄弱,並且相較於AI伺服器而言,大多數通用型伺服器較不會使用到較為高規格的電子零組件,例如:電源供應器方面,通用伺服器通常只需800W~1200W即可使用,但AI伺服器會使用到1800W高功率電源。

表四、通用伺服器V.S AI伺服器

通用伺服器AI伺服器
功用存儲數據、執行應用程式主要用於提高運算能力
晶片以CPU為主,GPU為輔以GPU為主,CPU為輔
硬碟5-10塊左右的SSD通常會搭配20塊以上的SSD
記憶體以DDR4為主以DDR5為主
PCB8-10層M6版14-16層M6版或是18-20層的M8版
電源供應器800-1200W1800W以上
機殼散熱能力較佳通常以風扇為主散熱能力極佳通常以風扇和水冷系統搭配使用
成本佔比因主要以存儲數據為主故在記憶體占比較高(大約50%)因主要以提高運算能力為主故以GPU成本佔比較高(大約70%左右)
資料來源:華安證券、TEJ整理

目前AI晶片供應短缺且需求高漲,導致價格飆升。AI伺服器所用的高規格電子零件成本較高,且組裝過程中零件相容性測試需大量人力,加上「連工帶料」的組裝方式,整機出貨時會加總所有物料成本及組裝測試的成本,故AI伺服器組裝成本較通用伺服器高上許多。

而且如輝達最新推出的GB200功耗超過1,000W,需提高電源供應器規格,並突破風冷散熱上限(800-1,000W),故需改用液冷散熱已達到最佳效率。液冷技術商品化提升了整合及測試難度,也進一步推升代工成本。

表五、通用伺服器和AI伺服器的BOM表                             單位:美元

2*Intel Sapphire Rapids ServerNvidia DGX H100
CPU1,8505,200
8GPU+4 NVSwitch Baseboard195,000
Memory3,3907,860
Storage1,5363,456
SmartNIC65410,908
Chassis395563
Motherboard350875
Cooling275463
Power Supply3001,200
Assembly and Test4951,485
Markup68942,000
Total Cost10,474269,010
資料來源:Semianalysis、TEJ整理

AI伺服器市場規模有多大?

根據TrendForce對AI伺服器市場的研究資料顯示,2023年全年AI伺服器出貨量將會成長34.5%至120萬台,並且因AI晶片出貨量將會持續增加,再加上AI應用滲透到各種專業領域中,將會帶動其他非雲端廠商跟進,故預計在2022年-2027年AI伺服器出貨量將會以年複合成長率26.4%的幅度在成長,在2027年全球將會出貨到282萬台。

全球AI伺服器出貨量
全球AI伺服器出貨量(資料來源:TrendForce、TEJ整理)

若從AI伺服器的銷售金額來看,根據Market.us資料所述,AI伺服器預計將從2023年至2033年將會以年複合成長率30.3%成長至4,300億美元。

全球AI伺服器市場規模
全球AI伺服器市場規模(資料來源:Market.us、TEJ整理)

綜上所述,生成式AI的快速商業化,讓AI訓練需求孔急,使得AI伺服器的出貨量及銷售額在未來5年均有20%以上的成長。

擺脫景氣陰霾,台廠力拼AI基建

現階段組裝代工廠的產品以3C電子為主,為了降低景氣波動以及提升成長動能,大多數廠商紛紛將業務拓展至非消費性電子產品,其中進入伺服器組裝代工的公司最多,主要在於車用領域和醫療用品所需要的安規及認證程序繁瑣,進入門檻較高,故進入伺服器供應鏈相較於前兩者來說較為容易。下圖列出台灣主要具備Level 12生產能力的台廠之營收變化。

台灣伺服器主要代工廠營收變化
台灣伺服器主要代工廠營收變化(資料來源:TEJ財務資料庫)

鴻海(2317)為全球伺服器組裝代工的龍頭廠商,根據Digitimes的資料顯示,鴻海在全球伺服器代工佔比高達43%,領先第二名的廣達約26個百分點。鴻海近年來也逐步拓展至AI伺服器,主要以旗下子公司鴻佰科技為主力。鴻佰科技的桃園南青廠於2023年被認定全球首家AI伺服器燈塔工廠,並且公司也成為此次輝達GB200伺服器的主要代工廠之一,在2024年Computex展示出GB200 NV72伺服器整機。但因鴻海主要營收來源以消費性電子產品為主,AI伺服器營收佔比仍低,對公司毛利率的提升貢獻不多

廣達(2382)為全球第二大的伺服器組裝代工廠(佔比約17%),主要是取得四大CSP(microsoft、amazon、google、meta)的AI伺服器專案訂單。目前廣達主要以Level 12(整機櫃)方式出貨。於2023年第三季開始量產AI伺服器,並且也取得輝達最新GB200伺服器的訂單。故即便2023年廣達營收衰退15%,但因廣達的AI伺服器出貨量增加,毛利率卻上升至7.9%,並且根據法人預估,2024年廣達在AI伺服器的營收佔比將達34%,並將持續提升廣達的毛利率表現。

緯創(3231)目前已取得輝達HGX Level 6以及DGX Level 10的訂單,並且緯創也取得AMD新一代MI300系列的AI伺服器基板訂單,再加上公司除了取得四大CSP的AI伺服器訂單之外,還取得其他非雲端廠商的AI伺服器訂單,故2023年緯創營收衰退,但因在AI伺服器出貨量增加之下,公司毛利率上升至8.6%。此外,公司也取得最新GB200 MGX伺服器部分組裝代工的訂單,故預期2024年公司在AI伺服器營收占比會持續提高,毛利率會持續上升

緯穎(6669)主要提供大型雲端資料中心硬體解決方案,目前營收主要來自整機櫃,公司下游客戶主要以CSP廠為主,並且該公司也取得輝達最新GB200伺服器的訂單。在2023年該公司營收雖然衰退,但毛利率卻呈現大幅上升至9.8%

台灣伺服器主要代工廠毛利率變化
台灣伺服器主要代工廠毛利率變化(資料來源:TEJ財務資料庫)

綜上所述,部分AI伺服器業務比重較高的電子組裝代工廠,在2023年受惠利潤結構改善,即便營收衰退,毛利率仍呈現成長。

結語

2024年Computex以AI為主軸,參展廠商展示多款AI產品。鴻佰與英業達展示GB200伺服器整機櫃,台達電、勤誠及迎廣推出相應電子零件。台系組裝代工廠及零組件廠憑藉過往的經驗,搭上AI基建列車,在3C裝置成長乏力的情況下,仍充滿活力。除了雲端AI,邊緣AI也備受期待,若能順利落地,未來將持續推動裝置規格升級,增加代工廠及零件廠的獲利。

TEJ E-JOURNAL 第 168 期:AI 基礎建設潮為組裝代工廠注入新成長動能

延伸閱讀


如果各位讀者對於本文、TEJ 資料庫有任何問題,或是想進一步獲取關於 TEJ 資料庫的操作權限,歡迎留言、來電或來信詢問。

返回總覽頁
Procesing