Dell AI Factory with NVIDIA

Dell AI Factory with NVIDIA presenta una nueva arquitectura modular diseñada para ayudar a las empresas a adoptar y ampliar las cargas de trabajo de IA sin complicaciones, desde proyectos piloto hasta la producción a gran escala. En esencia, la solución ofrece puntos de partida flexibles, desde Small Inferencing, ideal para realizar casos de uso piloto de IA y llevarlos a producción, y Enterprise Fine-Tuning and Training Foundation, que permite el entrenamiento de IA a mayor escala. El diseño modular permite a las organizaciones comenzar a pequeña escala y ampliar gradualmente con módulos de expansión a medida que evolucionan las necesidades empresariales. En combinación con Dell Automation Platform y basada en tecnologías de plataforma abierta como Ubuntu y Red Hat OpenShift, Dell AI Factory with NVIDIA simplifica la implementación y la gestión, ya que ofrece programas prevalidados para implementar rápidamente cargas de trabajo de IA. Consigue resultados más rápidos, reduce la complejidad e impulsa la innovación a escala.

Dell AI Factory with NVIDIA cuenta con la tecnología de varios modelos de servidor Dell PowerEdge adaptados a diferentes cargas de trabajo de IA: PowerEdge XE9680, un sistema insignia de 8 GPU ideal para entrenar y ajustar con precisión con las GPU NVIDIA H100 Tensor Core; PowerEdge R760xa, un todoterreno de 2U acelerado por GPU que se utiliza habitualmente para la inferencia y el ajuste preciso basados en L40S, así como para tareas generales de IA generativa; PowerEdge R660, que se suele utilizar en pilas validadas para el soporte/la gestión de computación, así como para servicios de IA más ligeros; y PowerEdge XE7745, que se incluye en los ID de la solución Spectrum‑X para crear clústeres de GPU a gran escala. Junto con los aceleradores NVIDIA, las DPU BlueField y las redes Spectrum‑X de alto rendimiento, estos sistemas ofrecen una plataforma de pila completa para la IA generativa empresarial, desde la PoC hasta la producción.

Dell PowerEdge XE9780, basado en Blackwell, mejora el entrenamiento de LLM, ya que combina dos CPU Intel Xeon 6 (hasta 86 núcleos) con ocho GPU NVIDIA HGX Blackwell (B200/B300) en un chasis 10U refrigerado por aire diseñado específicamente para el entrenamiento y el ajuste preciso de la IA generativa. En la práctica, ofrece un entrenamiento hasta 4 veces más rápido que las plataformas anteriores, lo que acelera el tiempo de rentabilización y reduce los ciclos de iteración en el desarrollo de modelos. Su diseño de rack estándar con refrigeración por aire simplifica la integración en los centros de datos existentes, lo que permite ampliar el rendimiento sin necesidad de realizar actualizaciones costosas de las instalaciones. Con el respaldo de la asistencia y la gestión empresariales de Dell, XE9780 proporciona una base fiable y lista para la producción para el entrenamiento de LLM y las iniciativas de ajuste preciso.

La pila predeterminada incluye NVIDIA AI Enterprise (asistencia y plataforma de IA empresarial), microservicios NVIDIA NIM (puntos finales del modelo optimizados) y NVIDIA Omniverse opcional para llevar a cabo flujos de trabajo de simulación, que se validan y comercializan a través de Dell como parte de la solución AI Factory.

Sí, Dell AI Factory es totalmente compatible con tecnologías de refrigeración avanzadas, incluida la refrigeración líquida directa al chip. Esto es fundamental para gestionar la salida térmica de las configuraciones de GPU de alta densidad, como las que utilizan la plataforma NVIDIA Blackwell. Implementar la refrigeración líquida te permite disponer de más potencia de computación por rack, mejorar la eficacia del uso de energía (PUE) de tu centro de datos y reducir los gastos operativos generales, lo que garantiza que tu infraestructura sea potente y eficiente.

Dell AI Factory admite un máximo de 72 GPU NVIDIA Blackwell en un solo rack con refrigeración líquida. Esta densidad extraordinaria se consigue a través del sistema NVIDIA NVL72, que integra las GPU con interconexiones NVLink de alta velocidad.

Dell AI Factory with NVIDIA se ha diseñado para acelerar el tiempo de rentabilización mediante la reducción drástica del tiempo de implementación y la complejidad asociados a la infraestructura de IA de autoservicio. En lugar de dedicar meses a integrar distintos hardware y software, puedes implementar una solución totalmente validada y optimizada.

Las GPU NVIDIA RTX PRO 6000 y 4500 aceleran la adopción de la IA al impulsar Dell AI Factory with NVIDIA, lo que permite a las empresas implementar casos de uso avanzados, como los asistentes de conocimientos y los asistentes de código. RTX PRO 6000 es ideal para el entrenamiento de IA a gran escala, el ajuste preciso y la implementación de plataformas de IA agéntica, ya que ofrece el máximo rendimiento para cargas de trabajo exigentes. RTX PRO 4500 proporciona un punto de entrada rentable y eficiente energéticamente para la inferencia de IA y la realización de pruebas de soluciones de menor escala. Ambas GPU se integran a la perfección en la base modular de Dell, lo que permite a las empresas ampliar las cargas de trabajo de IA de forma eficiente. Gracias a los programas prevalidados y a la capacidad de ampliación modular, las organizaciones pueden acelerar el proceso desde la prueba de concepto hasta la producción, lo que reduce la complejidad y consigue resultados más rápidos, al tiempo que se alinean las soluciones de IA con las necesidades empresariales.

La refrigeración líquida directa al chip, una característica principal de las configuraciones de alta densidad de Dell AI Factory, reduce significativamente la eficacia del uso de energía (PUE) y los gastos operativos (OPEX) del centro de datos. Al transferir el calor directamente desde las GPU con líquido, elimina las restricciones térmicas de forma mucho más eficiente que la refrigeración por aire tradicional.