AvaTrade数据早报

搶攻 AI 應用浪潮!TrendForce 論壇大秀 AI 伺服器 、算力新解方

来源:爱华外汇平台杠杆时间:2025-07-04 07:25:57

研調機構 TrendForce 週五(20 日)舉辦《CompuForum 2025 智鏈驅動 ,釋放 AI 算力》 ,邀請華碩電腦 、數位無限、群聯電子與美超微(Supermicro)及集邦技术解读師等專家開講  ,聚焦 AI 伺服器新近架構趨勢與供應鏈創新應用,AvaTrade爱华外汇官网解读市場變革以及供應鏈技術 、需求及新近商機 。

除了論壇精彩外,這次資料儲存大廠希捷(Seagate) 、是德技术「Keysight Technologies」正式授權經銷商克達技术,以及智慧錄音裝置品牌 PLAUD.AI 也前來參展 ,复制公司新近的產品和解決计划。

搶攻 AI 應用浪潮!TrendForce 論壇大秀 AI 伺服器、算力新解方

華碩打造企業 AI 工廠完整解決计划

華碩不只是硬體供應商,也是軟體供给者,結合 NVIDIA 在內先進技術和軟硬體產品 ,打造一整套解決计划 。AVA外汇平台MT4下载

企業導入 AI 必須面對資料集 、硬體架構 、後端串接 AI 软件及需要 AI 知識的專業人才進行流程這 4 個門檻,發展 AI 應用缺一不可 。

為此 ,華碩归纳出應對方向 ,幫助企業順利導入 AI。華碩電腦 AI / HPC 產品技術經理周煜軒舉例 ,如果客戶手上資料不足 ,透過以數位孿生為基礎的 NVIDIA Omniverse 可在虛擬環境創造資料集。企業需要了解自身需求並藉由 ASUS AI Factory 架構加以打造,還能利用 NVIDIA AI Enterprise 將上層軟體導入 ,就能上線服務供给用戶利用 。

NVIDIA 今年倡导來 AI 工廠的概念,希望每家企業如果要導入 AI 都能建一個 AI 工廠,不只是安排 GPU 等硬體設備   ,更將資料集結合 AI 软件 ,在 ASUS AI POD 這樣的頂尖設備創造應用服務,供给用戶利用 。

從 GPU 叢集、儲存叢集 、網路架構加上运维平台和應用軟體,華碩將軟硬體深度整合在一起 ,讓企業客戶透過單一介面做到运维和監控 。

華碩如何做到伺服器叢集的龙神马壮网安排和檢測 ?今年推出 2 套軟體──ASUS Infrastructure Deploy Center(AIDC)和ASUS Control Center(ACC) ,前者透過一台設備進行大量安排,後者可監控硬體設備情況 。

AI 建置算力調度成關鍵!數位無限 AI Stack 助攻 GPU 利用率升至 90%

隨著 AI 和算力需求提高,全球進入高效能 AI 建設時代,企業對高效能運算資源的需求激增 ,GPU 採購成本更較以往提升 10 倍,但實際應用是否能充分發揮其效益,成為企業面臨的核心挑戰 。如何有效調度 GPU 資源 、提高利用效率 ,已是 AI 基礎建設關鍵課題。

數位無限執行長陳文裕表示,AI 基礎設施不僅需考量算力與儲存配置 ,如何有效利用並發揮 AI 算力最大效果,成為关键方向。若無法精準掌握利用狀況 ,將導致優先次序混亂 、難运维、能見度不足 、利用率低和成本高等問題 ,最終使客戶仍需投入更多 GPU 成本  。

為解決上述挑戰,數位無限推出 AI Stack 平台 ,具備 GPU 切割與聚合技術,能將一張 GPU 切分為多個小單位或整合多張 GPU 應對大型 AI 模型訓練 ,實現資源動態分配與隔離运维,有效提高 GPU 利用率 ,減少資源閒置,並提高開發效率 。

AI Stack 亦支援分散式訓練架構,可將任務分派至多個節點平行處理,顯著縮短模型訓練時間 。此外 ,平台具備即時排程與負載調度水平 ,可依各部門需求靈活調整,實現資源即釋即用、利用率最大化 。

陳文裕強調,透過 AI Stack,企業不僅能將 GPU 利用率提高至 90%、工作負載執行效率提高 10 倍 ,更能將開發環境建置時間從兩週縮短至僅需 1 分鐘,整体強化 AI 導入效益與決策效率,AVA外汇官网降低投入門檻,對企業導入 AI 服務可說是必備的關鍵软件。

群聯推 aiDAPTIV+ 、美超微推 DCBBS 解方搶市

由於 AI 伺服器硬體成本高昂  ,往往動輒數百萬 ,讓中小企業與教育機構望之卻步,加上資料上雲端存在資安疑慮,對此  ,群聯推出「aiDAPTIV+」解決计划 ,主打邊緣地端 AI 模型訓練與推論的工作站 ,成為低成本 、可控又具效能的替代计划 。

除了企業應用場景,群聯也將目光投向 AI 教育領域。群聯執行長潘健成表示,現在的大學生根本沒機會碰到 GPU ,因為太貴了。要普及 AI 教育 ,不能只是講理論,還要有實作機會。群聯也表示,公司 AI Training PC(AI TPC),計畫安排至各大專院校,讓 AI 教學真正落地。

美超微(Supermicro)解決计划架構師許銘德介紹,公司推出的資料中心建設模組化解方(DCBBS)被譽為 AI 資料中心最佳選擇  ,可滿足現代企業對高效能計算的需求 。

該解決计划幫助建置 AI 液冷資料中心更簡單 ,降低建置和營運成本,讓客戶能以最快的上市與上線速度輕鬆建構資料中心基礎設施 ,最快只需三個月即可完成安排。此外,該计划涵蓋所有關鍵基礎設施元件,包括伺服器、儲存設備、網路、機架、液冷系統、軟體、服務與支援,可簡化並加速 AI 資料中心的建置,進而降低成本並提高品質 。

TrendForce :AI 伺服器年複合成長率 24% ,2028 年將占市場 2 成

TrendForce 集邦技术研究經理龔明德表示,預期 2025 年全球 AI 伺服器市場將持續強勁成長,全年出貨量上看 210 萬台 ,年增率高達 24.5%  。然而,地緣政治風險與美中法规變化仍是供應鏈最主要的不確定因素。

系統散熱部分,隨著 GB200 NVL72 與 GB300 NVL72 等平台於 2025 年持續擴大安排 ,液態冷卻技術的滲透將明顯提高,預計從 2024 年 14% 成長至 2025 年的 31%。

超大規模雲端服務供應商(Hyper CSP)仍是今年 AI 伺服器市場的主要成長驅動力 ,北美前四大 CSP 平均資本支出成長率達 38%。為降低對 NVIDIA 與 AMD 的依賴,CSP 業者加快自研 AI ASIC 開發進程,也成為 NVIDIA 積極推廣 NVFusion 關鍵原因之一 。

隨著高效能運算(HPC)與 AI 應用成為伺服器市場的兩大主軸 ,AI 伺服器的出貨成長速度將持續領先一般伺服器 。TrendForce 預期,2023 至 2028 年間 ,全球 AI 伺服器市場年複合成長率(CAGR)將達 24% ,到 2028 年,AI 伺服器出貨量將占總出貨量 20%。

(首圖來源:TrendForce)

延伸閱讀  :

  • 6 月電視面板需求走弱 ,筆電面板拉貨動能上升
  • 庫存去化拖累前五大企業級 SSD 品牌廠 1Q25 營收 ,待 AI 需求推動逐季反弹

想請我們喝幾杯咖啡 ?

每杯咖啡 65 元

x1
x3
x5
x

您的咖啡贊助將是讓我們持續走下去的動力

總金額共新臺幣 0
《關於請喝咖啡的 Q & A》
取消 確認