Rendre possible l’impossible à n’importe quelle échelle. Les accélérateurs d’IA Intel® Gaudi® 3 prennent en charge l’IA générative de pointe et les LLM dans le datacenter et s’associent aux processeurs Intel® Xeon®, le processeur hôte de choix pour les systèmes d’IA de pointe, afin d’offrir des performances et une fiabilité d’entreprise.
Les accélérateurs d’IA Intel® Gaudi® 3 et le logiciel Intel® Gaudi® 3 sont conçus pour apporter un nouveau niveau d’avantages en matière de productivité et de choix à l’IA générative du datacenter.
Gagner du temps et de la puissance
ENTRAÎNEZ VOS MODÈLES PLUS RAPIDEMENT
1.5 fois
plus rapide que le NV H100 en moyenne
SORTIE PLUS RAPIDE DES RÉSULTATS
1.5 fois
plus rapide en inférence que le NV H100 en moyenne
CONSOMMATION ÉNERGÉTIQUE RÉDUITE
1.4 plus
d’efficacité énergétique d’inférence que NV H100 en moyenne
Découvrez les avantages des processeurs Intel Gaudi.
Performances et efficacité à toutes les échelles
En raison de la demande croissante pour les avantages du Deep Learning et de l’IA générative, il n’y a jamais été autant nécessaire d’améliorer les performances, l’efficacité, la facilité d’utilisation et le choix informatique. Les accélérateurs et logiciels d’IA Intel® Gaudi® 3 sont conçus pour apporter un nouveau niveau d’avantages informatiques et de choix à la formation et à l’inférence des datacenters, que ce soit dans le Cloud ou sur site. Notre objectif est de rendre les avantages du Deep Learning de l’IA plus accessibles à un plus grand nombre d’entreprises et d’organisations, en supprimant les obstacles pour apporter les avantages du Deep Learning au plus grand nombre.
Haute efficacité, processeurs et logiciels optimisés pour le Deep Learning.
Pour démocratiser l’IA, la plateforme Intel Gaudi a été conçue et structurée pour répondre aux exigences de formation et d’inférence de l’IA à grande échelle, en fournissant aux entreprises et aux organisations une informatique Deep Learning haute performance et haute efficacité.
Efficacité et performance
Spécialement conçu pour le calcul DL
Architecture informatique hétérogène
Moteur de multiplication matricielle optimisé par l’IA
Cœurs de processeur Tensor personnalisés
Grandes mémoires intégrées
Carte réseau intégrée sur puce
Flexibilité et évolutivité inégalées
Intégration sur puce de RoCE standard
Capacité massive avec intégration de 24 ports 200GbE
Configuration All-to-All au sein du serveur
Scale-out flexible pour prendre en charge de nombreuses configurations
La gestion de réseau standard réduit les coûts
Évite de dépendre d’un seul fournisseur
Facilité de migration et de création de modèle
Logiciel optimisé pour la formation et l’inférence Deep Learning
Systèmes populaires intégrés : TensorFlow et PyTorch
Fournit un compilateur de graphes personnalisé
Prise en charge du développement de noyau personnalisé
Mise en place d’un écosystème de partenaires logiciels
Habana GitHub et Forum communautaire
Conçu pour répondre aux exigences réelles de l’IA
Les accélérateurs d’IA Intel® Gaudi® 3 vous permettent d’utiliser des logiciels ouverts et communautaires ainsi qu’un réseau Ethernet standard pour faire évoluer les systèmes de manière plus flexible.
Conçu pour la formation et l’inférence
64
Cœurs de processeur Tensor (5e génération)
8
Moteurs mathématiques matriciels
Mémoire accrue pour une efficacité et une rentabilité accrues du LLM
128 Go
Capacité HBM, 3,7 To/s de bande passante
96 Mo
SRAM, 12,8 To/s SRAM de bande passante
Gestion de réseau sur puce massive et flexible
InfiniBand : normes ouvertes ou propriétaires
24 x 200GbE
Ports Ethernet RoCE conformes aux normes de l’industrie
PCle 5
x 16
Les meilleurs processeurs pour répondre à vos besoins de performances et d’efficacité
La famille de processeurs Intel® Xeon® 6 introduit une plateforme informatique robuste qui excelle en termes de performances et d’efficacité, ce qui est essentiel pour répondre aux exigences toujours croissantes des datacenters modernes. De l’intelligence artificielle gourmande en ressources de calcul à la mise en place de microservices Cloud natifs évolutifs, la famille de processeurs offre une grande polyvalence pour répondre à diverses exigences opérationnelles.
Processeur Intel® Xeon® 6 comparé au processeur Intel® Xeon® Scalable de 5e génération
Calcul générique
Jusqu’à 2 fois plus de performances pour le traitement des entiers et des points flottants
Intelligence artificielle
Jusqu’à 2 fois plus de performances d’IA générative avec les types de données BF
HPC
Jusqu’à 2,3 fois plus de performances HPC basées sur le banc d’essai HPCG standard du marché
Microservices
Jusqu’à 1,5 fois plus de performances/watt pour le débit Java côté serveur
Analytique
Jusqu’à 1,6 fois plus de performances/watt pour MySQL OLTP
Média
Jusqu’à 1,5 fois plus de performances/watt pour AVC
Conçu pour les déploiements de datacenter, Cloud, gestion de réseau et périphérie
Charges applicatives et performances testées pour différents cas d’utilisation industriels
Traitement du langage naturel (y compris IA générative)
Fabrication des sciences de la vie et des matériaux
Sécurité
Datalake
Analytique de média
Hébergement Web/système de gestion de contenu
Systèmes de recommandation
Préparation des données
Réseau de diffusion de contenu (RDC)
Automatisation robotisée des processus (RPA)
Base de données relationnelles
Live Media Processing
Bases de données non relationnelles
Gestion de réseau (y compris VRAN, 5G, UPF)
OLTP
Passez la souris pour en savoir plus sur chaque contenu
IA
IA
Intégrez davantage de solutions d’IA dans les processus métiers ou de nouvelles applications avec des fonctionnalités de calcul améliorées et des moteurs accélérateurs d’IA intégrés.
HPC
HPC
Performances informatiques plus rapides et bande passante mémoire élevée accélèrent le délai d’obtention d’informations pour les modèles et les calculs à grande échelle.
Stockage
Stockage
Accélérez le débit de données avec moins de cœurs pour améliorer les performances des solutions d’infrastructure et de stockage hyperconvergées.
Analytique
Analytique
Accélérez votre pipeline d’analytique des données pour gérer davantage de transactions et améliorer les performances des bases de données, du CRM et des applications de business intelligence.
Gestion de réseau
Gestion de réseau
Accélérez la prestation de services et prenez en charge davantage d’utilisateurs, de transactions et de données avec une efficacité réseau, un traitement des paquets, un transcodage et un chiffrement améliorés.
Cloud Computing
Cloud Computing
Améliorez la performance des microservices afin d’assurer un niveau élevé de qualité de service, de surcharge et d’observabilité.
Périphérie
Périphérie
Déployez rapidement vos applications de périphérie et obtenez des informations critiques pour améliorer votre avantage concurrentiel en vous rapprochant davantage du lieu où les données sont créées.
Fonctionnalités et avantages des processeurs Intel Xeon
Les serveurs optimisés par les processeurs Xeon sont souvent utilisés pour effectuer des calculs de charges applicatives intensives pour les datacenters de Cloud Computing, les applications d’analytique et de tendances, les systèmes radar, la fabrication industrielle, les programmes de collecte d’informations et bien plus encore.
Performances améliorées
Performances pour un grand nombre de charges applicatives.
Optimisation pour les charges applicatives
Offres optimisées pour les cas d’utilisation de gestion réseau, Cloud et monosocket.
Sécurité renforcée
Fonctionnalités qui permettent de répondre aux préoccupations actuelles et futures en matière de confidentialité et de sécurité.
Processeur optimisé
Les caractéristiques optimisées du processeur et les exigences d’alimentation prennent en charge les environnements soumis à des contraintes d’espace et d’alimentation.
Processeurs Intel Xeon Scalable
Les processeurs Intel® Xeon® Scalable sont dotés d’accélérateurs intégrés et de technologies de sécurité avancées pour répondre aux exigences des charges applicatives les plus exigeantes, tout en offrant le plus grand choix en matière de Cloud et la plus grande portabilité des applications
Processeurs Intel® Xeon® Platinum
Des performances avancées avec des configurations à 2, 4 et 8 sockets, conçues pour les charges applicatives et les services les plus exigeants, de la périphérie au Cloud.
Processeurs Intel® Xeon® Gold
Jusqu’à 4 sockets, des performances évolutives, une fiabilité accrue et des solutions de sécurité avancées.
Processeurs Intel® Xeon® Silver
Performances et efficacité énergétique pour les solutions de calcul, de réseau et de stockage d’entrée de gamme.
Processeurs Intel® Xeon® Bronze
Fiabilité et facilité de maintenance pour les petites entreprises et les solutions de serveurs de stockage.
