Dell AI Factory with NVIDIA

Dell AI Factory with NVIDIA introducerar en ny modulär arkitektur som är utformad för att hjälpa företag att anpassa och skalanpassa AI-arbetsbelastningar smidigt, från pilotprojekt till fullskalig produktion. Lösningen erbjuder flexibla startpunkter, från Small Inferencing, som lämpar sig för pilotprogram med AI-användningsfall och att flytta dem till produktion, och Enterprise Fine-Tuning and Training Foundation, som stöder AI-träning i större skala. Den modulära utformningen gör att organisationer kan börja i liten skala och skala upp stegvis med expansionsmoduler i takt med att affärsbehoven utvecklas. Dell AI Factory with NVIDIA kombinerar Dell Automation Platform och bygger på teknik för öppna plattformar som Ubuntu och Red Hat OpenShift. Det förenklar driftsättning och hantering och erbjuder förvaliderade strategier för snabb implementering av AI-arbetsbelastningar. Uppnå snabbare resultat, minska komplexiteten och var innovationsdrivande i stor skala.

Dell AI Factory with NVIDIA drivs av flera Dell PowerEdge-servermodeller som är skräddarsydda för olika AI-arbetsbelastningar: PowerEdge XE9680, ett flaggskepp med 8 GPU som är perfekt för utbildning och finjustering med NVIDIA H100 Tensor Core grafikprocessorer; PowerEdge R760xa, en 2U GPU-accelererad arbetshäst som vanligtvis används för L40S-baserad inferens och finjustering samt allmänna GenAI-uppgifter; PowerEdge R660, som ofta används i validerade stackar- och stöd för enklare AI-hantering. PowerEdge XE7745, som finns i Spectrum‑X lösnings-id:n för att bygga storskaliga GPU-kluster. Tillsammans med NVIDIA-acceleratorer, Bluefield DPU:er och högpresterande Spectrum-X-nätverk levererar dessa system en fullstacksplattform för GenAI för företag från konceptbevis (PoC) till produktion.

Blackwell-baserade Dell PowerEdge XE9780 förbättrar LLM- utbildningen genom att kombinera dubbla Intel Xeon 6 processorer (upp till 86 kärnor) med åtta NVIDIA HGX Blackwell-GPU:er (B200/B300) i ett luftkylt 10U-chassi som är specialbyggt för GenAI-träning och finjustering. I praktiken ger detta upp till fyra gånger snabbare utbildning jämfört med tidigare plattformar, vilket påskyndar tiden till värde och minskar iterationscyklerna för modellutveckling. Dess luftkylda standardrackdesign förenklar integreringen i befintliga datacenter, vilket gör att du kan skala prestanda utan kostsamma platsuppgraderingar. XE9780 stöds av Dells företagshantering och support och ger en tillförlitlig, produktionsklar grund för LLM-utbildning och finjusteringsinitiativ.

Standardstacken inkluderar NVIDIA AI Enterprise (AI-plattform och support för företag), NVIDIA NIM-mikrotjänster (optimerade modellslutpunkter) och NVIDIA Omniverse som tillval för simuleringsarbetsflöden – validerade och säljs via Dell som en del av AI Factory-lösningen.

Ja, Dell AI Factory har fullt stöd för avancerad nedkylningsteknik, inklusive vätskekylning direkt till chip. Detta är viktigt för att hantera värmeeffekten i GPU-konfigurationer med hög densitet, till exempel de som använder NVIDIA Blackwell-plattformen. Genom att implementera vätskekylning kan du driftsätta mer beräkningskraft per rack, förbättra datacentrets energieffektivitet (PUE) och minska de totala driftskostnaderna, vilket säkerställer att infrastrukturen är både kraftfull och effektiv.

Dell AI Factory har stöd för maximalt 72 NVIDIA Blackwell GPU:er i ett enda vätskekylt rack. Denna enastående densitet uppnås genom NVIDIA NVL72-systemet, som integrerar GPU:er med NVLink-sammankopplingar med hög hastighet.

Dell AI Factory with NVIDIA är utformad för att snabba upp din tid till värde genom att dramatiskt minska driftsättningstiden och komplexiteten förknippad med AI-infrastruktur med gör-det-själv-hantering (GDS). Istället för att lägga flera månader på att integrera olika hårdvara och mjukvara kan du driftsätta en fullständigt validerad och optimerad lösning.

Grafikprocessorerna NVIDIA RTX PRO 6000 och 4500 påskyndar AI-implementeringen genom att driva Dell AI Factory with NVIDIA, vilket gör det möjligt för företag att driftsätta avancerade användningsfall som kunskapsassistenter och kodassistenter. RTX PRO 6000 lämpar sig för storskalig AI-utbildning, finjustering och driftsättning av agentbaserade AI-plattformar, vilket ger maximal prestanda för krävande arbetsbelastningar. RTX PRO 4500 ger en kostnadseffektiv och energieffektiv ingångspunkt för AI-inferens och pilotlösningar i mindre skala. Båda grafikprocessorerna integreras smidigt i Dells modulära grund, vilket gör det möjligt för företag att skalanpassa AI-arbetsbelastningar effektivt. Med förvaliderade strategier och modulär skalbarhet kan organisationer påskynda processen från konceptbevis till produktion, minska komplexiteten och uppnå snabbare resultat samtidigt som AI-lösningar anpassas efter affärsbehoven.

Vätskekylning direkt till chip, en kärnfunktion i Dell AI Factorys konfigurationer med hög densitet, sänker datacentrets energieffektivitet (PUE) och driftkostnader (OPEX) avsevärt. Genom att överföra värme direkt från grafikprocessorerna med vätska tar den bort termiska begränsningar mycket effektivare än traditionell luftkylning.