Des choses incroyables sont possibles à n’importe quelle échelle. Les accélérateurs d’IA Intel® Gaudi® 3 prennent en charge l’IA générative et les grands modèles de langue de pointe dans le centre de données et s’associent aux processeurs Intel® Xeon®, le processeur hôte de choix pour les principaux systèmes d’IA, afin d’offrir des performances et une fiabilité de niveau entreprise.
Les accélérateurs d’IA Intel® Gaudi® 3 et les logiciels Intel® Gaudi® 3 sont conçus pour offrir un niveau supérieur d’avantages à l’égard de la productivité et de choix à l’IA générative dans les centres de données.
Économisez du temps et de l’énergie
ENTRAÎNER DES MODÈLES EN MOINS DE TEMPS
1.5x
plus rapide que le NV H100 en moyenne
PRODUIRE DES RÉSULTATS PLUS RAPIDEMENT
1.5x
plus rapide pour l’inférence que le NV H100 en moyenne
CONSOMMER MOINS D’ÉNERGIE
1.4x
d’inférence supérieure de consommation à celle du NV H100 en moyenne
Découvrez ce que les processeurs Intel Gaudi peuvent vous offrir.
Performance et efficacité à toutes les échelles
Avec la demande croissante pour les avantages de l’apprentissage profond et de l’IA générative, il n’a jamais été aussi nécessaire d’améliorer les performances, l’efficacité, la convivialité et le choix informatiques. Les accélérateurs et les logiciels d’IA Intel® Gaudí® 3 sont conçus pour offrir un nouveau niveau d’avantages et de choix en matière de calcul à la formation et à l’inférence dans les centres de données, que ce soit dans le nuage ou sur place. Notre objectif est de rendre les avantages de l’apprentissage profond par IA plus accessibles à un plus grand nombre d’entreprises et d’organisations, en éliminant les obstacles pour apporter les avantages de l’apprentissage profond au plus grand nombre.
Processeurs et logiciels à haut rendement optimisés pour l’apprentissage profond.
Pour mettre l’IA à la portée du plus grand nombre, la plateforme Intel Gaudí a été conçue et architecturée pour répondre aux exigences d’entraînement et d’inférence de l’IA à grande échelle, en fournissant aux entreprises et aux organisations un calcul d’apprentissage profond à hautes performances et à haut rendement.
Performances efficaces
Conçu expressément pour le calcul d’apprentissage profond
Architecture informatique hétérogène
Moteur de multiplication de matrices optimisé pour l’IA
Cœurs de processeur Tensor personnalisés
Grandes mémoires embarquées
Réseautage intégré sur puce
Flexibilité et échelle exceptionnelles
Intégration sur puce du protocole RoCE conforme aux normes de l’industrie
Capacité massive avec l’intégration de 24 ports 200 GbE
Configuration où tous les éléments sont connectés ensemble au sein du serveur
Évolutivité flexible pour prendre en charge de nombreuses configurations
Le réseautage conforme aux normes de l’industrie réduit les coûts
Évitez la dépendance vis-à-vis d’un fournisseur
Facilité de migration et de construction de modèles
Logiciel optimisé pour l’entraînement et l’inférence de l’apprentissage profond
Intègre les cadres les plus courants : TensorFlow et PyTorch
Fournit un compilateur de graphiques personnalisé
Prise en charge du développement de noyaux personnalisés
Intègre un écosystème de partenaires logiciels
Forum Habana GitHub et communautaire
Conçu pour répondre aux exigences du vrai monde en matière d’IA
Les accélérateurs d’IA Intel® Gaudi® 3 vous permettent d’utiliser des logiciels libres et communautaires ainsi qu’un réseau Ethernet standard pour faire évoluer vos systèmes de manière plus flexible.
Conçu pour l’entraînement et l’inférence
64
Cœurs de processeur Tensor (5e génération)
8
Moteurs de calcul matriciel
Mémoire accrue pour assurer l’efficacité et la rentabilité des grands modèles de langue
128 Go
Capacité de mémoire à large bande passante : bande passante de 3,7 To/s
96 Mo
SRAM : bande passante de 12,8 To/s
Mise en réseau massive et flexible sur puce
Norme ouverte contre InfiniBand propriétaire
24 x 200 GbE
Ports Ethernet RoCE conformes aux normes de l’industrie
PCle 5
x 16
Les meilleurs processeurs pour répondre à vos diverses exigences en matière de performance et d’efficacité
La famille de processeurs Intel® Xeon® 6 présente une plateforme informatique robuste qui excelle à la fois en matière de performances et d’efficacité, ce qui est essentiel pour répondre aux exigences en constante évolution des centres de données modernes. Qu’il s’agisse d’alimenter l’IA à forte intensité de calcul ou de permettre des microservices infonuagiques natifs évolutifs, cette famille de processeurs offre la polyvalence nécessaire pour répondre à diverses exigences opérationnelles.
Processeur Intel® Xeon® 6 comparé à un processeur évolutif Intel® Xeon® de 5e génération
Informatique générale
Performances jusqu’à deux fois supérieures pour les débits des nombres entiers et en virgule flottante
Intelligence artificielle
Performances d’IA générative jusqu’à deux fois plus élevées avec les types de données BF
Informatique à hautes performances (HPC)
Performances HPC jusqu’à 2,3 fois plus élevées selon le test de performance HPCG standard de l’industrie
Microservices
Performances par watt jusqu’à 1,5 fois plus élevées pour le débit Java côté serveur
Analyses
Performances par watt jusqu’à 1,6 fois plus élevées pour MySQL OLTP
Médias
Performances par watt jusqu’à 1,5 fois plus élevées pour AVC
Conçu pour les centres de données, le nuage, le réseautage et les déploiements en périphérie
Charge de travail et performances testées dans plusieurs cas d’utilisation en industrie
Compatibilité des plateformes et des logiciels
Qualité, fiabilité, compatible avec les logiciels, écosystème fiable
Bâti sur des technologies avancées de traitement de pointe
Permet une informatique confidentielle et une sécurité renforcée
Charges de travail et cas d’utilisation privilégiés par l’Intel® Xeon® 6
Infrastructure de postes de travail virtuels (VDI)
Informatique décisionnelle (OLAP)
Médias immersifs
Applications grand public
Traitement automatique du langage (y compris IA générative)
Sciences de la vie et des matériaux, fabrication
Sécurité
Lac de données
Analyse de médias
Hébergement Web/système de gestion de contenu
Systèmes de recommandation
Préparation de données
Réseau de diffusion de contenu (CDN)
Automatisation robotisée des processus (ARP)
Bases de données relationnelles
Traitement des médias en direct
Bases de données non relationnelles
Réseautage (y compris VRAN, 5G, UPF)
OLTP
Passez la souris pour en savoir plus sur chaque contenu
Intelligence artificielle
Intelligence artificielle
Intégrez davantage de solutions d’IA dans les processus commerciaux ou de nouvelles applications grâce à des capacités de calcul améliorées et à des moteurs accélérateurs d’IA intégrés.
Informatique à hautes performances (HPC)
Informatique à hautes performances (HPC)
Les performances de calcul accélérées et la largeur de bande de mémoire élevée permettent d’accélérer la découverte d’informations pour les modèles et les calculs à grande échelle.
Stockage
Stockage
Accélérez le débit des données avec moins de cœurs afin d’améliorer les performances de l’infrastructure hyperconvergée et des solutions de stockage.
Analyses
Analyses
Accélérez votre pipeline d’analyse de données pour traiter plus de transactions et améliorer les performances des bases de données, de la CRM et des applications d’informatique décisionnelle.
Réseautage
Réseautage
Accélérez la prestation de services et prenez en charge un plus grand nombre d’utilisateurs, de transactions et de données grâce à l’amélioration de l’efficacité du réseau, du traitement des paquets, de la conversion de codes et du chiffrement.
Informatique virtuelle
Informatique virtuelle
Améliorez le débit des microservices pour une qualité de service, un temps système et une observabilité exceptionnels.
Périphérie
Périphérie
Déployez rapidement des applications en périphérie et obtenez des informations essentielles pour générer de la valeur commerciale plus près de l’endroit où les données sont générées.
Caractéristiques et avantages des processeurs Intel Xeon
Les serveurs alimentés par des processeurs Xeon sont souvent utilisés pour traiter un grand nombre de charges de travail pour les centres de données infonuagiques, les applications d’analyse et de tendance, les systèmes radars, la fabrication industrielle, les programmes de collecte de renseignements et bien plus encore.
Performances améliorées
Des performances qui conviennent à un grand nombre de charges de travail.
Optimisé pour les charges de travail
Des offres optimisées pour les cas d’utilisation en réseau, en nuage et à interface de connexion unique.
Sécurité améliorée
Des capacités qui aident à répondre aux préoccupations actuelles et futures en matière de confidentialité et de sécurité.
Processeur optimisé
Les spécifications et les exigences d’alimentation prennent en charge l’espace et les environnements où l’alimentation est limitée.
Processeurs évolutifs Intel Xeon
Les processeurs évolutifs Intel Xeon sont dotés d’accélérateurs intégrés et de technologies de sécurité évoluées pour répondre aux charges de travail les plus populaires, tout en offrant le plus grand choix de nuages et de portabilité d’applications
Processeurs Intel® Xeon® Platinum
Des performances évoluées à 2, 4 et 8 connecteurs conçues pour les charges de travail et les services les plus exigeants, de la périphérie au nuage.
Processeurs Intel® Xeon® Gold
Des performances évolutives allant jusqu’à 4 connecteurs, une fiabilité avancée et des solutions de sécurité évoluées.
Processeurs Intel® Xeon® Silver
Performance et efficacité énergétique pour le traitement, le réseau et le stockage de base.
Processeurs Intel® Xeon® Bronze
Fiabilité et facilité de maintenance pour les solutions de serveur de stockage et de petite entreprise.