Dell AI Factory with NVIDIA

Dell AI Factory with NVIDIA introduit une nouvelle architecture modulaire conçue pour aider les entreprises à adopter et à faire évoluer les charges applicatives d’IA de manière transparente, des projets pilotes à la production à grande échelle. À la base, la solution offre des points de départ flexibles, de Small Inferencing, idéal pour piloter les cas d’utilisation de l’IA et les déplacer vers la production, à Enterprise Fine-Tuning et Training Foundation, qui prend en charge l’entraînement de l’IA à plus grande échelle. La conception modulaire permet aux organisations de commencer à petite échelle et d’évoluer progressivement avec des modules d’extension au fur et à mesure de l’évolution de l’entreprise. Associé à Dell Automation Platform et basé sur des technologies de plateforme ouverte telles qu’Ubuntu et Red Hat OpenShift, Dell AI Factory with NVIDIA simplifie le déploiement et la gestion, offrant des blueprints pré-validés pour des déploiements rapides de charges applicatives d’IA. Obtenez des résultats plus rapidement, réduisez la complexité et stimulez l’innovation à grande échelle.

Dell AI Factory with NVIDIA est optimisé par plusieurs modèles de serveurs Dell PowerEdge adaptés à différentes charges applicatives d’IA : le PowerEdge XE9680, un système phare à 8 processeurs graphiques, idéal pour l’entraînement et le réglage fin avec les processeurs graphiques NVIDIA H100 Tensor Core ; le PowerEdge R760xa, un outil de travail accéléré par processeur graphique 2U couramment utilisé pour l’inférence et le réglage fin basé sur L40S ainsi que pour les tâches générales d’IA générative ; le PowerEdge R660, souvent utilisé dans les piles validées pour la prise en charge/gestion des services de calcul et d’IA plus légers ; et le PowerEdge XE7745, inclus dans les ID de solution Spectrum-X pour la création de clusters de processeurs graphiques à grande échelle. Associés aux accélérateurs NVIDIA, aux DPU Bluefield et à la mise en réseau Spectrum-X hautes performances, ces systèmes offrent une plateforme complète pour l’IA générative d’entreprise, de la PoC à la production.

Le Dell PowerEdge XE9780 basé sur Blackwell améliore l’entraînement de LLM en associant deux processeurs Intel Xeon 6 (jusqu’à 86 cœurs) à huit processeurs graphiques NVIDIA HGX Blackwell (B200/B300) dans un châssis 10U refroidi par air spécialement conçu pour l’entraînement et le réglage fin de l’IA générative. Dans la pratique, cela permet un entraînement jusqu’à 4 fois plus rapide que sur les plateformes précédentes, ce qui accélère le délai de rentabilisation et réduit les cycles d’itération pour le développement de modèles. Sa conception de rack standard refroidi par air simplifie l’intégration dans les datacenters existants, ce qui vous permet de faire évoluer les performances sans les mises à niveau coûteuses des sites. Reposant sur la gestion et le support d’entreprise de Dell, le XE9780 fournit une base fiable et prête pour la production pour les initiatives d’entraînement et de réglage fin de LLM.

La pile par défaut comprend NVIDIA AI Enterprise (plateforme et prise en charge de l’IA d’entreprise), les microservices NVIDIA NIM (points de terminaison de modèle optimisés) et NVIDIA Omniverse en option pour les workflows de simulation, validés et vendus par Dell dans le cadre de la solution AI Factory.

Oui, Dell AI Factory prend entièrement en charge les technologies de refroidissement avancées, y compris le refroidissement liquide directement sur la puce. Ceci est essentiel pour gérer la puissance thermique des configurations de processeur graphique haute densité, telles que celles utilisant la plateforme NVIDIA Blackwell. La mise en œuvre du refroidissement liquide vous permet de déployer plus de puissance de calcul par rack, d’améliorer l’efficacité de l’utilisation de l’énergie (PUE) de votre datacenter et de réduire les dépenses d’exploitation globales, garantissant ainsi la puissance et l’efficacité de votre infrastructure.

Dell AI Factory prend en charge jusqu’à 72 processeurs graphiques NVIDIA Blackwell dans un seul rack à refroidissement liquide. Cette densité remarquable est obtenue grâce au système NVIDIA NVL72, qui intègre les processeurs graphiques avec des interconnexions NVLink haut débit.

Dell AI Factory with NVIDIA est conçu pour accélérer votre délai de rentabilisation en réduisant considérablement le temps de déploiement et la complexité associés à l’infrastructure d’IA « bricolée» (DIY). Au lieu de passer des mois à intégrer du matériel et des logiciels disparates, vous pouvez déployer une solution entièrement validée et optimisée.

Les processeurs graphiques NVIDIA RTX PRO 6000 et 4500 accélèrent l’adoption de l’IA en équipant Dell AI Factory with NVIDIA, ce qui permet aux entreprises de déployer des cas d’utilisation avancés tels que les assistants de connaissances et les assistants de code. Le RTX PRO 6000 est idéal pour l’entraînement de l’IA à grande échelle, le réglage fin et le déploiement de plateformes d’IA agentique, offrant des performances maximales pour les charges applicatives exigeantes. Le RTX PRO 4500 constitue un point d’entrée économique et économe en énergie pour l’inférence de l’IA et le pilotage de solutions à petite échelle. Ces deux processeurs graphiques s’intègrent parfaitement à la base modulaire de Dell, permettant aux entreprises de faire évoluer efficacement les charges applicatives d’IA. Avec des blueprints pré-validés et une évolutivité modulaire, les organisations peuvent passer rapidement de la validation de concept à la production, réduisant ainsi la complexité et obtenant des résultats plus rapidement tout en alignant les solutions d’IA sur les besoins de l’entreprise.

Refroidissement liquide directement sur la puce, une caractéristique essentielle des configurations haute densité de Dell AI Factory, réduit considérablement l’efficacité de l’utilisation de l’énergie (PUE) et les dépenses d’exploitation (OPEX) de votre datacenter. En transférant la chaleur directement des processeurs graphiques avec du liquide, il élimine les contraintes thermiques beaucoup plus efficacement que le refroidissement par air traditionnel.