Intel® Gaudi® 3 Al 加速器和 Intel® Gaudi® 3 軟體,其設計可為資料中心內建 Al 帶來全新境界的生產力優勢和選擇。
節省時間和電力
縮短模型訓練時間
1.5 倍
平均速度比 NV H100 更快
更快輸出結果
1.5 倍
平均推論速度比 NV H100 更快
消耗較少電力
1.4 倍
推論電源效率平均高於 NV H100
深入瞭解 Intel® Gaudi® 處理器可以為您提供什麼。
各種規模的效能與效率
隨著對深度學習和內建 Al 可帶來的優勢需求激增,對改善運算效能、效率、可用性和選擇性的需求從未如此強烈。Intel® Gaudi® 3 Al 加速器和軟體,其設計可為資料中心的訓練和推論帶來全新境界的運算優勢和選擇,無論是在雲端還是內部部署。我們的目標是讓更多的企業和組織更容易獲得 Al 深度學習的好處,消除中間障礙,為許多人都能享有深度學習的優勢。
高效率、深度學習最佳化的處理器和軟體。
為了讓更多企業因 Al 而受惠,Intel Gaudi 平台的構思和架構旨在滿足大規模 Al 時代的訓練和推論需求,為企業和組織提供高效能、高效率的深度學習運算。
高效效能
特別為 DL 運算打造的架構
異質運算架構
AI 優化的矩陣乘法引擎
自訂 Tensor 處理器核心
大型內建記憶體
整合在晶片上的網路
絕佳的彈性和規模
整合在晶片上的業界標準 RoCE
整合 24 個 200GbE 連接埠,提供超大容量
伺服器內的完全交換組態
可彈性橫向擴充以支援多種組態
符合業界標準的網路技術可降低成本
避免廠商限制
輕鬆進行模型遷移和建置
針對深度學習訓練和推論將軟體優化
整合熱門架構:TensorFlow 和 PyTorch
提供自訂圖形編譯器
支援自訂核心開發
啟用軟體合作夥伴生態系統
Habana GitHub 與社群論壇
專為滿足 AI 實際需求所設計
Intel® Gaudi® 3 AI 加速器讓您能使用開放的社群式軟體和產業標準乙太網網路,更靈活地擴充系統。
專為訓練和推論功能打造
64
Tensor 處理器核心 (第 5 代)
8
矩陣數學引擎
增加記憶體以提高 LLM 效率和成本效益
128 GB
HBM 容量,3.7 TB/s B/W
96 MB
SRAM,12.8 TB/s SRAM B/W
大規模且靈活的晶片上網路
開放標準與專屬 InfiniBand
24x 200GbE
符合產業標準的 RoCE 乙太網路連接埠
PCle 5
x 16
滿足您不同效能和效率要求的處理器
Intel® Xeon® 6 處理器系列採用強大的運算平台,兼顧優異效能和效率,這對於滿足現代資料中心日新月異的需求至關重要。從支援運算密集的 AI 到啟用可擴充的雲端原生微服務,此處理器系列提供靈活彈性,滿足多樣的作業需求。