Dell AI Factory with NVIDIA

Dell AI Factory with NVIDIA. introducerer en ny modulær arkitektur, der er designet til at hjælpe virksomheder med at indføre og skalere AI-workloads problemfrit, fra pilotprojekter til produktion i fuld skala. I bund og grund indeholder løsningen fleksible udgangspunkter, lige fra den lille inferens, ideel til at teste AI-brugsscenarier og flytte dem til produktion, og finindstilling af og et uddannelsesfundament i virksomheden, som understøtter AI-træning i større skala. Det modulære design gør det muligt for virksomheder at starte i det små og skalere trinvist med udvidelsesmoduler, efterhånden som forretningsbehovene udvikler sig. I kombination med Dell Automation Platform og bygget på åbne platformsteknologier som Ubuntu og Red Hat OpenShift, forenkler Dell AI Factory with NVIDIA udrulning og administration og tilbyder forhåndsvaliderede blueprints til hurtige udrulninger af AI-workloads. Opnå hurtigere resultater, reducer kompleksiteten, og skab innovation i stor skala.

Dell AI Factory with NVIDIA drives af flere Dell PowerEdge-servermodeller, der er skræddersyet til forskellige AI-workloads: PowerEdge XE9680, et 8 GPU flagskibssystem, der er ideelt til træning og finindstilling med NVIDIA H100 Tensor Core GPU'er, PowerEdge R760xa, en 2U GPU-accelereret arbejdshest, der ofte bruges til L40S-baseret inferens og finindstilling samt generelle GenAI-opgaver; PowerEdge R660, der ofte bruges i validerede stakke til understøttelses-/administrationsberegning og lettere AI-services; og PowerEdge XE7745, der indgår i Spectrum-X-løsnings-id'er til opbygning af GPU-klynger i stor skala. Sammen med NVIDIA-acceleratorer, Bluefield DPU'er og højtydende Spectrum-X-netværk leverer disse systemer en komplet platform til GenAI i virksomheder fra PoC til produktion.

Den Blackwell-baserede Dell PowerEdge XE9780 forbedrer LLM-træning ved at kombinere to Intel Xeon 6 CPU'er (op til 86 kerner) med otte NVIDIA HGX Blackwell GPU'er (B200/B300) i et luftkølet 10U-kabinet, der er skræddersyet til GenAI-træning og -finindstilling. I praksis giver det op til 4 gange hurtigere træning sammenlignet med tidligere platforme, hvilket fremskynder time-to-value og reducerer iterationscyklusser for modeludvikling. Det luftkølede standardrackdesign forenkler integrationen i eksisterende datacentre, så du kan skalere ydeevnen uden dyre opgraderinger af lokaliteten. XE9780, der understøttes af Dells virksomhedsadministration og -support, giver et driftsikkert, produktionsforberedt grundlag for LLM-trænings- og finindstillingsinitiativer.

Standardstakken omfatter NVIDIA AI Enterprise (AI-platform og -support til virksomheder), NVIDIA NIM-mikroservices (optimerede modelslutpunkter) og NVIDIA omniverse (tilvalg) til simuleringsworkflows, der valideres og sælges via Dell som en del af AI Factory-løsningen.

Ja, Dells AI Factory understøtter fuldt ud avancerede køleteknologier, herunder væskekøling direkte til chip. Dette er vigtigt for at kunne administrere varmeeffekten i GPU-konfigurationer med høj densitet, f.eks. dem, der anvender NVIDIA Blackwell-platformen. Implementering af væskekøling giver dig mulighed for at udrulle mere databehandlingskraft pr. rack, forbedre dit datacenters strømforbrugseffektivitet (PUE) og reducere de samlede driftsomkostninger, hvilket sikrer, at din infrastruktur er både kraftfuld og effektiv.

Dell AI Factory understøtter maks. 72 NVIDIA Blackwell GPU'er i et enkelt, væskekølet rack. Denne bemærkelsesværdige densitet opnås vha. NVIDIA NVL72-systemet, som integrerer GPU'erne med NVLink-højhastighedsforbindelser.

Dell AI Factory with NVIDIA er designet til at fremskynde din time-to-value ved at reducere udrulningstiden og kompleksiteten i forbindelse med DIY (gør-det-selv) AI-infrastruktur markant. I stedet for at bruge måneder på at integrere forskellig hardware og software kan du udrulle en fuldt valideret og optimeret løsning.

NVIDIA RTX PRO 6000 og 4500 GPU'er sætter fart på indførelsen af AI ved at styrke Dell AI Factory with NVIDIA, så virksomheder kan udrulle avancerede brugsscenarier som vidensassistenter og kodeassistenter. RTX PRO 6000 er ideel til storskala AI-træning, finindstilling og udrulning af agentiske AI-platforme og giver maksimal ydeevne til krævende workloads. RTX PRO 4500 giver et omkostningseffektivt, energieffektivt indgangspunkt til AI-inferens og pilotprojekter med løsninger i mindre skala. Begge GPU'er integreres problemfrit i Dells modulære fundament, så virksomheder kan skalere AI-workloads effektivt. Med forhåndsvaliderede blueprints og modulær skalerbarhed kan organisationer fremskynde processen fra proof-of-concept til produktion, reducere kompleksiteten og opnå hurtigere resultater, samtidig med at AI-løsninger tilpasses forretningsmæssige behov.

Væskekøling direkte til chip, som er en kernefunktion i Dells AI Factory's konfigurationer med høj densitet, sænker datacenterets strømforbrugseffektivitet (PUE) og driftsudgifter (OPEX) betydeligt. Ved at overføre varme direkte fra GPU'erne med væske fjerner det termiske begrænsninger langt mere effektivt end traditionel luftkøling.