Dell AI Factory with NVIDIA

Dell AI Factory with NVIDIA bietet eine neue modulare Architektur, die Unternehmen dabei unterstützt, KI-Workloads nahtlos einzuführen und zu skalieren – vom Pilotprojekt bis zum vollwertigen Produktivbetrieb. Im Kern der Lösung stehen flexible Einstiegsmöglichkeiten: von „Small Inferencing“, das sich ideal für die Erprobung von KI-Anwendungsfällen und deren Überführung in den Produktivbetrieb eignet, bis hin zur „Enterprise Fine-Tuning and Training Foundation“, die KI-Trainings in größerem Umfang unterstützt. Dank des modularen Aufbaus können Unternehmen klein anfangen und schrittweise mit Erweiterungsmodulen skalieren, wenn sich die geschäftlichen Anforderungen weiterentwickeln. In Kombination mit der Dell Automation Platform und auf Basis offener Plattformtechnologien wie Ubuntu und Red Hat OpenShift vereinfacht Dell AI Factory with NVIDIA die Bereitstellung und Verwaltung und bietet vorab validierte Blaupausen für die schnelle Einführung von KI-Workloads. Erzielen Sie schnellere Ergebnisse, reduzieren Sie die Komplexität und treiben Sie Innovationen in großem Maßstab voran.

Dell AI Factory with NVIDIA basiert auf mehreren Dell PowerEdge-Servermodellen, die auf unterschiedliche KI-Workloads zugeschnitten sind: dem PowerEdge XE9680, einem leistungsstarken 8-GPU-System, das sich ideal für das Training und die Feinabstimmung mit NVIDIA H100 Tensor Core-GPUs eignet; der PowerEdge R760xa, ein GPU-beschleunigtes Kraftpaket mit 2-HE-Formfaktor, das häufig für L40S-basierte Inferenz und Feinabstimmung sowie für allgemeine GenAI-Aufgaben eingesetzt wird; der PowerEdge R660, der oft in validierten Stacks zur Unterstützung und Verwaltung von Rechenleistung sowie für weniger rechenintensive KI-Dienste verwendet wird; und der PowerEdge XE7745, der in Spectrum-X-Lösungs-IDs für den Aufbau groß angelegter GPU-Cluster zum Einsatz kommt. Zusammen mit NVIDIA-Beschleunigern, BlueField-DPUs und dem leistungsstarken Spectrum-X-Netzwerk bieten diese Systeme eine Full-Stack-Plattform für GenAI in Unternehmen – vom Proof-of-Concept bis zur Produktion.

Der auf Blackwell basierende Dell PowerEdge XE9780 optimiert das LLM-Training durch die Kombination von zwei Intel Xeon 6-CPUs (bis zu 86 Kerne) mit acht NVIDIA HGX Blackwell (B200/B300)-GPUs in einem luftgekühlten 10-HE-Gehäuse, das speziell für das Training und die Feinabstimmung von GenAI entwickelt wurde. In der Praxis sorgt dies für ein bis zu viermal schnelleres Training im Vergleich zu früheren Plattformen, was die Amortisationszeit verkürzt und die Iterationszyklen bei der Modellentwicklung reduziert. Das luftgekühlte Standard-Rack-Design vereinfacht die Integration in bestehende Rechenzentren und ermöglicht es Ihnen, die Leistung ohne kostspielige Standortupgrades zu skalieren. Unterstützt durch das Unternehmensmanagement und den Support von Dell bietet der XE9780 eine zuverlässige, produktionsreife Grundlage für LLM-Training und Feinabstimmungsinitiativen.

Der Standard-Software-Stack umfasst NVIDIA AI Enterprise (KI-Plattform für Unternehmen und Support), NVIDIA NIM-Mikroservices (optimierte Modell-Endpunkte) sowie optional NVIDIA Omniverse für Simulations-Workflows – validiert und über Dell als Teil der AI Factory-Lösung vertrieben.

Ja, die Dell AI Factory unterstützt fortschrittliche Kühltechnologien, einschließlich der Direkt-to-Chip-Flüssigkeitskühlung. Dies ist unerlässlich für die Steuerung der Wärmeabgabe bei GPU-Konfigurationen mit hoher Dichte, wie sie beispielsweise bei der NVIDIA Blackwell-Plattform zum Einsatz kommen. Durch den Einsatz von Flüssigkeitskühlung können Sie mehr Rechenleistung pro Rack bereitstellen, die Energieeffizienz (PUE) Ihres Rechenzentrums verbessern und die Gesamtbetriebskosten senken, sodass Ihre Infrastruktur sowohl leistungsstark als auch effizient ist.

Die Dell AI Factory unterstützt maximal 72 NVIDIA Blackwell-GPUs in einem einzigen, flüssigkeitsgekühlten Rack. Diese bemerkenswerte Dichte wird durch das NVIDIA NVL72-System erreicht, das die GPUs über schnelle NVLink-Verbindungen miteinander vernetzt.

Dell AI Factory with NVIDIA wurde entwickelt, um Ihre Amortisationszeit zu verkürzen, indem sie die Bereitstellungszeit und die Komplexität im Zusammenhang mit einer selbst aufgebauten KI-Infrastruktur drastisch reduziert. Anstatt Monate mit der Integration unterschiedlicher Hardware und Software zu verbringen, können Sie eine vollständig validierte und optimierte Lösung bereitstellen.

Die NVIDIA RTX PRO 6000- und 4500-GPUs beschleunigen die Einführung von KI, indem sie Dell AI Factory with NVIDIA antreiben und es Unternehmen ermöglichen, fortschrittliche Anwendungsfälle wie Wissensassistenten und Code-Assistenten einzusetzen. Die RTX PRO 6000 eignet sich ideal für das Training und die Feinabstimmung von KI in großem Maßstab sowie für die Bereitstellung von Agentic-KI-Plattformen und bietet maximale Leistung für anspruchsvolle Workloads. Die RTX PRO 4500 bietet einen kostengünstigen und energieeffizienten Einstieg in die KI-Inferenz und die Erprobung kleinerer Lösungen. Beide GPUs lassen sich nahtlos in die modulare Infrastruktur von Dell integrieren, sodass Unternehmen ihre KI-Workloads effizient skalieren können. Dank vorab validierter Blueprints und modularer Skalierbarkeit können Unternehmen den Weg vom Proof-of-Concept bis zur Produktion beschleunigen, die Komplexität reduzieren und schnellere Ergebnisse erzielen, während sie KI-Lösungen gleichzeitig an die geschäftlichen Anforderungen anpassen.

Die Direkt-to-Chip-Flüssigkeitskühlung, ein Kernmerkmal der hochdichten Konfigurationen der Dell AI Factory, senkt die Energieeffizienz (PUE) und die Betriebskosten (OPEX) Ihres Rechenzentrums erheblich. Durch die direkte Wärmeabfuhr von den GPUs mittels Flüssigkeit werden thermische Einschränkungen weitaus effizienter beseitigt als bei herkömmlicher Luftkühlung.