Table of Contents
隨著大數據分析及應用、雲端運算等等的蓬勃發展,CSP(Cloud Service Provider,雲端服務供應商)業者積極建設資料中心,帶動伺服器市場的成長。尤其在OpenAI推出ChatGPT之後,GenAI商機蓬勃,掀起AI基礎建設潮,AI伺服器瞬間炙手可熱。與一般伺服器相比,AI伺服器硬體規格大幅提升,甚至採用新技術,提高整合及測試的難度。部分電子組裝代工廠憑藉著技術實力,順利吃下AI大補帖,為組裝代工業開啟新的成長曲線。
一般來說,電子組裝代工業指的是電子組裝代工,舉凡手機、筆電、車用電子、伺服器等等電子產品的成品組裝生產,都能歸類在此。像是我們常聽到的電子五哥—廣達(2382)、 緯創(3231)、和碩(4938)、 仁寶(2324)、英業達(2356),以及世界最大EMS廠鴻海(2317)等等都是台灣赫赫有名的組裝代工業者。
常見的電子組裝代工業可以分為下表幾種模式:
表一、電子組裝代工種類
全稱 | 中文 | 特點 | |
OEM | Original Equipment Manufacturer | 原始設備製造商 | OEM公司根據客戶的需求和設計進行生產,並將產品標上客戶的品牌。利潤主要來自生產加工費,只需專注生產即可。 |
ODM | Original Design Manufacturer | 原始設計製造商 | ODM公司除了擁有製造能力外,還具有產品設計和研發能力。透過各種客製化的生產與設計去滿足客戶需求,通常相較於OEM更有與客戶議價的能力。 |
OBM | Original Brand Manufacturer | 原始品牌製造商 | OBM公司擁有自己的品牌,並掌握開發、設計、生產和產品銷售策略等等。 |
EMS | Electronics Manufacturing Services | 電子製造服務 | EMS代工公司是專業的製造服務供應商,提供從設計到製造的全方位服務。除了生產製造能力外還需具備供應鏈方面的專業知識,可以提供品牌商包括庫存管理、後勤運輸,甚至產品維修等的一站式整合服務。 |
伺服器(Server)是專門用於處理和儲存大量資料的企業級電腦,通常用於運行應用程式或提供服務。企業客戶和員工可通過行動裝置或個人電腦連接伺服器,獲取資訊或服務。伺服器類似於大型數據處理中心,負責多人請求,如瀏覽網頁、儲存資料、回應電子郵件等,因此相較於個人電腦,伺服器更注重穩定性、安全性和延伸性。
伺服器由硬體和軟體共同運作,通常需具備強大的運算能力,因此在硬體上常將多個主機板安裝在一起應付專業使用。同時伺服器作業系統也需支援多工和多使用者,以便同時處理多人連線和多個應用程式。
伺服器會依照外型而有所區別,目前市場上主要分成三大類型的伺服器,分別為直立式伺服器、機架式伺服器以及刀鋒式伺服器,其規格差異如下表:
自2017年因虛擬貨幣風潮,開啟全民網路挖礦運動,相關終端器材及配備之需求快速攀升,市場開始供不應求紛紛擴建廠房及併購企業。在上述時空背景下,讓國巨集團進入高速併購期,其被併購公司多半終止公開發行,並納入國巨集團麾下,致國巨集團產能規模年年攀升。在產能數量上,其國巨、凱美、奇力新、同欣電分別於併購當年產能增幅25%~35%不等,顯現併購事業體對集團整體生產線帶來正向效果,且對母公司-國巨來說,併購企業能擴充產品線的生產量,已達規模經濟之效果。
表二、三大伺服器的相異之處
直立式伺服器 (Pedestal Server) | 機架式伺服器 (Rack Server) | 刀鋒式伺服器 (Blade Server) | |
圖片 | (圖片來源:Asus) | (圖片來源:Asus) | (圖片來源:訊通實業) |
佔地空間 | 最大 | 需一間伺服器機房 | 需一間伺服器機房 |
價錢 | 便宜 | 中間 | 最貴 |
散熱程度 | 散熱容易 | 散熱較難 | 散熱較難 |
擴充能力 | 容易擴充記憶體 | 介於兩者之間 | 不易擴充記憶體 |
管理難易度 | 一旦數量變多就難以管理 | 容易管理 | 容易管理 |
纜線多寡 | 較少 | 較多 | 較多 |
性能 | 較差 | 介於兩者之間 | 較好 |
維護 | 較難維護 | 較易維護 | 較易維護 |
適用企業 | 對伺服器需求沒有那麼大的企業 | 具有規模的企業 | 資料中心、高效能運算、雲端運算 |
台灣具備完整的伺服器供應鏈體系,從上游的電子零組件供應即有許多廠商,例如:電源供應器的台達電(2308)以及光寶科(2301);機殼廠的迎廣(6117)以及勤誠(8210);PCB板的金像電(2368)和健鼎(3044)等,皆在伺服器市場上具有一席地位,再加上台灣組裝代工廠的組裝良率高、研發能力強以及擅於成本管理,全球各大伺服器品牌以及四大雲端服務廠商大多會找台灣代工廠組裝AI伺服器,根據Digitimes的資料顯示,近9成的AI伺服器是由台灣組裝代工廠組裝代工的。
目前市面上,伺服器組裝流程主要分成12個步驟,台灣組裝代工廠皆具備Level 6以上的組裝能力,且隨著組裝Level提高,組裝代工廠所賺取的營收和利潤也會越高。以下將藉由表三說明伺服器各個組裝Level的細節:
表三、伺服器組裝順序
組裝流程 | 流程簡介 | 主要廠商 |
Level 1 | 伺服器電子零組件製造並蒐集 | |
Level 2 | 部份電子零組件的組裝 | |
Level 3 | 將電子零組件組裝在機殼裡面 | |
Level 4 | 將Level 3的成品外加上電源供應器、柔性扁平排線以及背板 | |
Level 5 | 連接Level 4的所有外殼零組件、整合式電纜,並須經過I/O測試 | 勤誠、迎廣 |
Level 6 | 將主機板整合至裡面,並做通電測試,通常此步驟完成後,該產品會被稱為「伺服器準系統」 | 英業達、神達、緯創 |
Level 7 | 將附加卡整合至伺服器準系統,並做通電測試 | |
Level 8 | 將硬碟整合至伺服器準系統,並做通電測試 | |
Level 9 | 將CPU和記憶體整合至伺服器準系統,並做通電測試 | |
Level 10 | 伺服器的完整組裝,其中包含完整系統和組件的測試、作業系統和軟體的整合,並且須具備產品配備使用手冊,並作為完全整合的伺服器解決方案交付。 | 廣達、鴻海緯創、技嘉 |
Level 11 | 將Level 10的伺服器做節點式組裝、測試以及作業系統加載等,並將節點伺服器組裝到具有全電纜網路的機架中,並做測試。 | |
Level 12 | 將單一Level 11的機架組裝成多個機架,包含具有完整軟體載入、驗證和最佳化所有網路。 | 廣達、鴻海、緯創緯穎、美超微、AMAX |
簡單來說,組裝流程可以分為三個流程,分別是伺服器準系統組裝(Level 6)、伺服器的完整組裝(Level 10)以及伺服器的系統整合(Level 12)。目前台灣組裝代工廠皆具備Level 6以上的組裝能力,且部分廠商已具備Level 10 以及 Level 12的組裝能力。
2023年因AI技術的快速發展以及ChatGPT的成功,被視為AI元年,全球雲端服務廠商對AI伺服器的需求量大幅上升。2024年多數企業紛紛增加對伺服器的預算,其中,Meta預計將上調2024年整年度資本支出至334億美元;Amazon則表示2024年資本支出將明顯高於2023年的481億美元,AI軍備競賽蓄勢待發。
AI伺服器是專門為運行機器學習和深度學習工作負載而設計的產品,並對於處理數據能力和是否能進行快速的矩陣乘法較為重視。因需要強大的運算能力,所以AI伺服器大多使用的晶片會以CPU搭配GPU或ASIC為主,並且為了因應強大的運算能力,在AI伺服器上搭載的大多是較為高規格的產品。
通用型伺服器主要用於存儲數據,執行應用程式,並提供網路服務。設計上追求高效、高穩定性和可靠的數據存儲,對於資料的傳輸以及控制能力較強,但相對來說,因通用伺服器的功用主要以數據存儲,故使用的晶片以CPU為主,所以運算能力較為薄弱,並且相較於AI伺服器而言,大多數通用型伺服器較不會使用到較為高規格的電子零組件,例如:電源供應器方面,通用伺服器通常只需800W~1200W即可使用,但AI伺服器會使用到1800W高功率電源。
表四、通用伺服器V.S AI伺服器
通用伺服器 | AI伺服器 | |
功用 | 存儲數據、執行應用程式 | 主要用於提高運算能力 |
晶片 | 以CPU為主,GPU為輔 | 以GPU為主,CPU為輔 |
硬碟 | 5-10塊左右的SSD | 通常會搭配20塊以上的SSD |
記憶體 | 以DDR4為主 | 以DDR5為主 |
PCB | 8-10層M6版 | 14-16層M6版或是18-20層的M8版 |
電源供應器 | 800-1200W | 1800W以上 |
機殼 | 散熱能力較佳通常以風扇為主 | 散熱能力極佳通常以風扇和水冷系統搭配使用 |
成本佔比 | 因主要以存儲數據為主故在記憶體占比較高(大約50%) | 因主要以提高運算能力為主故以GPU成本佔比較高(大約70%左右) |
目前AI晶片供應短缺且需求高漲,導致價格飆升。AI伺服器所用的高規格電子零件成本較高,且組裝過程中零件相容性測試需大量人力,加上「連工帶料」的組裝方式,整機出貨時會加總所有物料成本及組裝測試的成本,故AI伺服器組裝成本較通用伺服器高上許多。
而且如輝達最新推出的GB200功耗超過1,000W,需提高電源供應器規格,並突破風冷散熱上限(800-1,000W),故需改用液冷散熱已達到最佳效率。液冷技術商品化提升了整合及測試難度,也進一步推升代工成本。
表五、通用伺服器和AI伺服器的BOM表 單位:美元
2*Intel Sapphire Rapids Server | Nvidia DGX H100 | |
CPU | 1,850 | 5,200 |
8GPU+4 NVSwitch Baseboard | – | 195,000 |
Memory | 3,390 | 7,860 |
Storage | 1,536 | 3,456 |
SmartNIC | 654 | 10,908 |
Chassis | 395 | 563 |
Motherboard | 350 | 875 |
Cooling | 275 | 463 |
Power Supply | 300 | 1,200 |
Assembly and Test | 495 | 1,485 |
Markup | 689 | 42,000 |
Total Cost | 10,474 | 269,010 |
根據TrendForce對AI伺服器市場的研究資料顯示,2023年全年AI伺服器出貨量將會成長34.5%至120萬台,並且因AI晶片出貨量將會持續增加,再加上AI應用滲透到各種專業領域中,將會帶動其他非雲端廠商跟進,故預計在2022年-2027年AI伺服器出貨量將會以年複合成長率26.4%的幅度在成長,在2027年全球將會出貨到282萬台。
若從AI伺服器的銷售金額來看,根據Market.us資料所述,AI伺服器預計將從2023年至2033年將會以年複合成長率30.3%成長至4,300億美元。
綜上所述,生成式AI的快速商業化,讓AI訓練需求孔急,使得AI伺服器的出貨量及銷售額在未來5年均有20%以上的成長。
現階段組裝代工廠的產品以3C電子為主,為了降低景氣波動以及提升成長動能,大多數廠商紛紛將業務拓展至非消費性電子產品,其中進入伺服器組裝代工的公司最多,主要在於車用領域和醫療用品所需要的安規及認證程序繁瑣,進入門檻較高,故進入伺服器供應鏈相較於前兩者來說較為容易。下圖列出台灣主要具備Level 12生產能力的台廠之營收變化。
鴻海(2317)為全球伺服器組裝代工的龍頭廠商,根據Digitimes的資料顯示,鴻海在全球伺服器代工佔比高達43%,領先第二名的廣達約26個百分點。鴻海近年來也逐步拓展至AI伺服器,主要以旗下子公司鴻佰科技為主力。鴻佰科技的桃園南青廠於2023年被認定全球首家AI伺服器燈塔工廠,並且公司也成為此次輝達GB200伺服器的主要代工廠之一,在2024年Computex展示出GB200 NV72伺服器整機。但因鴻海主要營收來源以消費性電子產品為主,AI伺服器營收佔比仍低,對公司毛利率的提升貢獻不多。
廣達(2382)為全球第二大的伺服器組裝代工廠(佔比約17%),主要是取得四大CSP(microsoft、amazon、google、meta)的AI伺服器專案訂單。目前廣達主要以Level 12(整機櫃)方式出貨。於2023年第三季開始量產AI伺服器,並且也取得輝達最新GB200伺服器的訂單。故即便2023年廣達營收衰退15%,但因廣達的AI伺服器出貨量增加,毛利率卻上升至7.9%,並且根據法人預估,2024年廣達在AI伺服器的營收佔比將達34%,並將持續提升廣達的毛利率表現。
緯創(3231)目前已取得輝達HGX Level 6以及DGX Level 10的訂單,並且緯創也取得AMD新一代MI300系列的AI伺服器基板訂單,再加上公司除了取得四大CSP的AI伺服器訂單之外,還取得其他非雲端廠商的AI伺服器訂單,故2023年緯創營收衰退,但因在AI伺服器出貨量增加之下,公司毛利率上升至8.6%。此外,公司也取得最新GB200 MGX伺服器部分組裝代工的訂單,故預期2024年公司在AI伺服器營收占比會持續提高,毛利率會持續上升。
緯穎(6669)主要提供大型雲端資料中心硬體及解決方案,目前營收主要來自整機櫃,公司下游客戶主要以CSP廠為主,並且該公司也取得輝達最新GB200伺服器的訂單。在2023年該公司營收雖然衰退,但毛利率卻呈現大幅上升至9.8%。
綜上所述,部分AI伺服器業務比重較高的電子組裝代工廠,在2023年受惠利潤結構改善,即便營收衰退,毛利率仍呈現成長。
2024年Computex以AI為主軸,參展廠商展示多款AI產品。鴻佰與英業達展示GB200伺服器整機櫃,台達電、勤誠及迎廣推出相應電子零件。台系組裝代工廠及零組件廠憑藉過往的經驗,搭上AI基建列車,在3C裝置成長乏力的情況下,仍充滿活力。除了雲端AI,邊緣AI也備受期待,若能順利落地,未來將持續推動裝置規格升級,增加代工廠及零件廠的獲利。
若讀者想進一步了解,可以訂閱 E-JOURNAL 閱讀更詳細產業研究與企業財報整理!
如果各位讀者對於本文、TEJ 資料庫有任何問題,或是想進一步獲取關於 TEJ 資料庫的操作權限,歡迎留言、來電或來信詢問。
電子報訂閱