Rendi possibile l'incredibile su larga scala. Gli acceleratori AI Intel® Gaudi® 3 supportano AI generativa e LLM all'avanguardia nel data center e si abbinano ai processori Intel® Xeon® - la CPU host preferita dai principali sistemi AI - per offrire prestazioni e affidabilità di livello enterprise.
Gli acceleratori AI Intel® Gaudi® 3 e il software Intel® Gaudi® 3 sono progettati per offrire un nuovo livello di vantaggi in termini di produttività e possibilità di scelta per l'AI generativa del data center.
Risparmiare tempo ed energia
ADDESTRARE I MODELLI IN MENO TEMPO
1.5x
mediamente più veloce rispetto a NV H100
OTTENERE RISULTATI PIÙ RAPIDI
1.5x
inferenza mediamente più veloce rispetto a NV H100
RIDURRE IL CONSUMO DI ENERGIA
1.4 volte
efficienza energetica di inferenza mediamente superiore rispetto a NV H100
Scopri di più sui vantaggi dei processori Intel Gaudi.
Prestazioni ed efficienza su ogni scala
Con l'aumento della domanda per i vantaggi che il Deep Learning e l'AI generativa possono offrire, la necessità di migliorare le prestazioni di elaborazione, l'efficienza, l'usabilità e la scelta non è mai stata così pressante. Gli acceleratori AI e il software Intel® Gaudi® 3 sono progettati per offrire un nuovo livello di vantaggi di elaborazione e scelta per la formazione e l'inferenza dei data center, sia nel cloud che on-premise. Il nostro obiettivo è quello di rendere i vantaggi del Deep Learning basato sull'AI più accessibili a un maggior numero di aziende e organizzazioni, eliminando gli ostacoli affinché esse possano approfittarne.
Processori e software ottimizzati per il Deep Learning ad elevata efficienza.
Per diffondere l'AI, la piattaforma Intel Gaudi è stata concepita e progettata per soddisfare le esigenze di formazione e inferenza dell'era dell'AI su larga scala, fornendo alle aziende e alle organizzazioni un'elaborazione Deep Learning ad alte prestazioni e ad elevata efficienza.
Prestazioni efficienti
Progettato espressamente per l'elaborazione DL
Architettura di elaborazione eterogenea
Motore di moltiplicazione della matrice ottimizzato per l'AI
Core di processore Tensor personalizzati
Memorie integrate di grandi dimensioni
Networking integrato su chip
Estrema flessibilità e scalabilità
Integrazione on-chip dello standard di settore ROCE
Capacità elevata con integrazione di 24 porte da 200 GbE
Configurazione all-to-all all'interno del server
Scalabilità orizzontale flessibile per supportare numerose configurazioni
Il networking standard di settore riduce i costi
Nessuna dipendenza dai vendor
Facilità di migrazione e creazione dei modelli
Software ottimizzato per l'inferenza e la formazione Deep Learning
Integra i framework più diffusi: TensorFlow e PyTorch
Offre un compilatore grafico personalizzato
Supporta lo sviluppo del kernel personalizzato
Permette di sfruttare l'ecosistema dei partner software
Habana GitHub e Community Forum
Progettato per le esigenze reali dell'AI
Gli acceleratori di IA Intel® Gaudi® 3 consentono di utilizzare il software aperto basato sulla community e le reti Ethernet standard del settore per ampliare i sistemi in modo più flessibile.
Progettato per l'addestramento e l'inferenza
64
Core del processore Tensor (5a generazione)
8
Motori matematici matriciali
Maggiore memoria per l'efficienza e la convenienza dei LLM
128 GB
Capacità HBM, 3,7 TB/s B/W
96 MB
SRAM, 12,8 TB/s SRAM B/W
Rete on-chip flessibile di grandi dimensioni
Standard aperto vs. InfiniBand proprietaria
24x 200GbE
Porte Ethernet RoCE standard del settore
PCle 5
x 16
I processori migliori per soddisfare i diversi requisiti di prestazioni ed efficienza
La famiglia di processori Intel® Xeon® 6 offre una solida piattaforma di elaborazione che eccelle in termini di prestazioni ed efficienza, fondamentale per soddisfare le esigenze in continua evoluzione dei Modern Data Center. Dalla potenza dell'AI ad alta intensità di elaborazione all'abilitazione di microservizi scalabili nativi per il cloud, questa famiglia di processori garantisce versatilità per i diversi requisiti operativi.
Processore Intel® Xeon® 6 rispetto a processore scalabile Intel® Xeon® di quinta generazione
Elaborazione generale
Prestazioni fino a 2 volte superiori per il throughput a numeri interi e virgola mobile
Intelligenza artificiale
Prestazioni GenAI fino a 2 volte superiori, utilizzando i tipi di dati BF.
HPC
Prestazioni HPC fino a 2,3 volte superiori in base al benchmark HPCG standard del settore
Microservizi
Prestazioni/Watt fino a 1,5 volte superiori per il throughput Java lato server
Analisi
Prestazioni/Watt fino a 1,6 volte superiori per MySQL OLTP
Media
Prestazioni/Watt AVC fino a 1,5 volte superiori
Progettato per i deployment di data center, cloud, networking ed Edge
Carico di lavoro e prestazioni testati in tutti i casi d'uso del settore
Basato su tecnologie di processo avanzate e all'avanguardia
Consente l'elaborazione riservata e la sicurezza avanzata
Carichi di lavoro prioritari e casi d'uso per Intel® Xeon® 6
AI
HPC
Infrastruttura e storage
Data Services
Networking e media
Web, applicazioni e microservizi
Visione artificiale
Sistema Earth
Storage (incluso HCI)
Analisi di big data
Gaming su cloud
Applicazioni di livello enterprise (incluse ERP, CRM, SCM)
Riconoscimento e classificazione delle immagini
Servizi finanziari
Infrastruttura desktop virtuale (VDI)
Business Intelligence (OLAP)
Contenuti multimediali immersivi
Applicazioni Consumer
Elaborazione del linguaggio naturale (inclusa AI generativa)
Scienze biologiche e dei materiali, produzione
Sicurezza
Datalake
Analisi dei supporti multimediali
Web Hosting/Sistema di gestione dei contenuti
Sistemi consigliati
Preparazione dei dati
Rete di distribuzione dei contenuti (CDN)
Automazione dei processi robotici (RPA)
Database relazionali
Elaborazione dei contenuti multimediali in tempo reale
Database non relazionali
Networking (inclusi VRAN, 5G, UPF)
OLTP
Posizionare il puntatore del mouse per ulteriori informazioni su ciascun contenuto
AI
AI
Integrare maggiori soluzioni AI nei processi aziendali o nuove applicazioni con migliori capacità di elaborazione e accelerator engine AI integrati.
HPC
HPC
Le prestazioni di elaborazione accelerate e l'elevata larghezza di banda della memoria consentono di ridurre i tempi di acquisizione di informazioni dettagliate per modelli e calcoli su larga scala.
Storage
Storage
Accelerare il throughput dei dati con un minor numero di core per migliorare le prestazioni per le soluzioni di storage e hyper-converged infrastructure.
Analisi
Analisi
Accelerare la pipeline di analisi dei dati per gestire più transazioni e migliorare le prestazioni delle applicazioni di database, CRM e business intelligence.
Rete
Rete
Accelerare l'erogazione dei servizi e supportare più utenti, transazioni e dati con migliore efficienza della rete, elaborazione dei pacchetti, transcodifica e crittografia.
Cloud computing
Cloud computing
Miglioramento del throughput dei microservizi per un'eccezionale qualità del servizio, dell'overhead e dell'osservabilità.
Edge
Edge
Implementare rapidamente le applicazioni Edge e ottenere informazioni critiche per promuovere il valore di business più vicino al luogo in cui vengono generati i dati.
Funzioni e vantaggi dei processori Intel Xeon
I server dotati di processori Xeon sono spesso utilizzati per eseguire calcoli con carichi di lavoro elevati per i data center di cloud computing, applicazioni analitiche e di tendenza, sistemi radar, produzione industriale, programmi di raccolta di informazioni e molto altro ancora.
Prestazioni ottimizzate
Prestazioni per un'ampia gamma di carichi di lavoro.
Carico di lavoro ottimizzato
Offerte ottimizzate per i casi d'uso di rete, cloud e socket singolo.
Sicurezza migliorata
Funzionalità che aiutano a risolvere i problemi di sicurezza e privacy attuali e futuri.
Processore ottimizzato
Le specifiche e i requisiti di alimentazione supportano gli ambienti con limiti di spazio e alimentazione.
Processori scalabili Intel Xeon
I processori scalabili Intel® Xeon® sono dotati di acceleratori integrati e di tecnologie di sicurezza avanzate per soddisfare i requisiti dei carichi di lavoro più impegnativi, offrendo al contempo la più ampia scelta di cloud e portabilità delle applicazioni.
Processori Intel® Xeon® Platinum
Prestazioni avanzate a 2, 4 e 8 socket, progettate per i carichi di lavoro e i servizi più complessi dall'edge al cloud.
Processori Intel® Xeon® Gold
Prestazioni scalabili fino a 4 socket, affidabilità avanzata e soluzioni di sicurezza avanzate.
Processori Intel® Xeon® Silver
Prestazioni ed efficienza energetica per elaborazione, rete e storage.
Processori Intel® Xeon® Bronze
Affidabilità e facilità di manutenzione per le piccole imprese e le soluzioni di storage server.