Quelle infrastructure pour votre IA générative ?

Les entreprises veulent s’approprier l’IA générative pour la mettre au service de leur business. Mais cette nouvelle technologie pleine de promesses nécessite une configuration et un socle logiciel spécifiques pour fonctionner efficacement. Les conceptions validées tout-en-un permettent d’accélérer considérablement le déploiement et la mise en production.

L’IA générative (GenAI) a le potentiel pour révolutionner l’activité des entreprises. Mais encore faut-il que ces dernières puissent la déployer simplement. De quoi ont-elles besoin ? D’infrastructures évidemment, avec des notamment des serveurs équipés des GPU les plus puissants, d’une plateforme logicielle dédiée à l’IA et probablement d’une pointe d’accompagnement pour mettre la machine en route et laisser les équipes internes se concentrer sur le cas d’usage.

Cette solution packagée existe et nous l’avons créée avec notre partenaire NVIDIA.

18 000 cœurs CUDA dans un seul GPU

Les conceptions validées pour l’IA sont des solutions préconfigurées et testées, conçues pour répondre à des cas d’usage spécifiques. Il en existe pour l’apprentissage automatique, l’IA conversationnelle, et désormais pour l’IA générative.

Le produit phare de cette nouvelle gamme est le Dell PowerEdge XE9680. Une machine à IA équipée de 8 GPU NVIDIA H100, interconnectés via la technologie NVLink, qui multiplie par six les performances par rapport à la précédente génération.

Mais les solutions Dell Generative AI offrent également une grande variété d’options pour construire l’infrastructure adaptée au besoin, avec le serveur Dell PowerEdge R760xa, doté des derniers processeurs Intel Xeon avec jusqu’à 56 cœurs, les plateformes de stockage objet comme ECS, software-defined comme ObjectScale, de données non structurées comme PowerScale, ou encore les équipements réseau Dell PowerSwitch.

Lors du dernier SIGGRAPH, NVIDIA a dévoilé son nouveau GPU : NVIDIA L40S. Véritable game-changer, la puce n’embarquera pas moins de 18 000 cœurs CUDA, basés sur l’architecture GPU Ada Lovelace, qui seront parfaitement adapté aux flux de travail d’inférence d’IA, et constitueront une nouvelle option très puissante au sein des serveurs Dell PowerEdge.

Des LLM pré-entraînés

Côté logiciel, la solution NVIDIA AI Enterprise fournit frameworks, modèles pré-entraînés et outils de développement pour accélérer le déploiement en production de l’intelligence artificielle, qu’il s’agisse d’IA générative, de Computer Vision ou encore d’IA conversationnelle.

Les utilisateurs peuvent gagner du temps en partant de ces LLM (Large Langage Model) pré-entraînés, puis en les personnalisant en fonction de leurs propres objectifs, grâce au framework NVIDIA NeMo, qui leur garantit la sécurité, la stabilité, la simplicité de gestion.

Avec l’outil NeMo GuardRails, les développeurs peuvent garder leurs applications basées sur l’IA générative sous contrôle, avec des règles et filtres qui vont définir les limites des interactions entre les utilisateurs finaux et l’IA. Des garde-fous nativement intégrés qui assurent un usage conforme et éthique de l’IA tout en aidant à préserver la confidentialité des données sensibles.

Precision : la GenAI à portée de PC

Et parce que l’IA ne s’exécute pas uniquement dans les datacenters, nous avons également pensé au poste de travail des professionnels de la data. Non contentes d’intégrer leur propre intelligence artificielle avec Dell Optimizer, les dernières stations de travail Dell Precision proposent désormais jusqu’à quatre GPU NVIDIA RTX 6000 de génération Ada, pour générer des contenus toujours plus impressionnants à l’aide de l’IA.

Les équipes de Forager, présentes au SIGGRAPH 2023, ont notamment fait forte impression avec une animation 3D photoréaliste du cycle de vie complet des champignons, générée à partir d’une capture photogrammétrique, et dont le rendu est réalisé grâce à une workstation Dell Precision et à plateforme de développement NVIDIA Omniverse.

« Faire pousser des champignons peut sembler facile ; le faire dans un logiciel est un challenge, souligne Winslow Porter, Co-fondateur and Directeur Créatif de Forager. En termes de données, c’est un calcul très intense ».

Dell et NVIDIA, générateurs d’IA

Avec NVIDIA, nous avons noué un partenariat qui va redéfinir le paysage de l’IA et permettre aux industries de se lancer dans leur propre voyage. Avec les solutions Dell Generative AI conçues en collaboration avec NVIDIA, l’innovation basée sur l’IA est plus prometteuse que jamais !

Pour en savoir plus sur la manière dont Dell et NVIDIA accélèrent le déploiement de l’IA générative , rendez-vous au Dell Technologies Forum, le 23 novembre prochain.

About the Author: Dominique de Foucauld

Global Compute solutions, Line of Business Director chez Dell Technologies