Dell AI Factory med NVIDIA

Dell AI Factory with NVIDIA introduserer en ny modulær arkitektur som er utformet for å hjelpe virksomheter med å ta i bruk og skalere KI-arbeidsbelastninger på en sømløs måte, fra pilotprosjekter til fullskala produksjon. Løsningen har flere kjernefunksjoner: fleksible startpunkter, fra Small Inferencing, som er ideelt for å styre KI-brukstilfeller og flytte dem til produksjon, og finjustering av Enterprise og Training Foundation, som støtter KI-opplæring i større skala. Med den modulære designen kan organisasjoner starte i liten skala, trinnvis med ekspansjonsmoduler etter hvert som behovene i virksomheten utvikler seg. Kombinert med Dell Automation Platform og bygget på teknologier med åpen plattform som Ubuntu og Red Hat OpenShift, forenkler Dell AI Factory with NVIDIA implementering og administrasjon, og tilbyr forhåndsgodkjente blåkopier for rask implementering av KI-arbeidsbelastninger. Oppnå raskere resultater, reduser kompleksiteten og driv nyskapning i stor skala.

Dell AI Factory with NVIDIA drives av flere Dell PowerEdge-servermodeller som er skreddersydd for ulike KI-arbeidsbelastninger: PowerEdge XE9680, et flaggskipsystem med 8 GPU-er ideelt for opplæring og finjustering med NVIDIA H100 Tensor Core GPU-er, PowerEdge R760xa, en 2U GPU-akselerert arbeidshest som ofte brukes til L40S-basert inferens og finjustering samt generelle GenAI-oppgaver, og PowerEdge XE7745, som ofte brukes til støtte-/administrasjonsdatabehandling, og PowerEdge XE7745, som er omtalt i Spectrum-X-løsnings-ID-er for å bygge GPU-klynger i stor skala. Sammen med NVIDIA-akseleratorer, Bluefield DPU-er og høytytende Spectrum-X-nettverk, leverer disse systemene en fullstack-plattform for GenAI for virksomheter fra konseptbevis til produksjon.

Den Blackwell-baserte Dell PowerEdge XE9780 forbedrer LLM-opplæringen ved å kombinere to Intel Xeon 6 CPU-er (opptil 86 kjerner) med åtte NVIDIA HGX Blackwell-GPU-er (B200/B300) i et luftkjølt 10U-kabinett som er bygget for GenAI-opplæring og finjustering. Dette gir i praksis opptil fire ganger raskere opplæring sammenlignet med tidligere plattformer, noe som akselererer tiden til verdiskaping og reduserer iterasjonssykluser for modellutvikling. Den luftkjølte standardrackdesignen forenkler integrering i eksisterende datasentre, slik at du kan skalere ytelsen uten kostbare oppgraderinger på stedet. XE9780 støttes av Dells virksomhetsadministrasjon og støtte, og gir et pålitelig, produksjonsklart grunnlag for LLM-opplæring og finjusteringsinitiativer.

Standardstakken inkluderer NVIDIA AI Enterprise (KI-plattform for virksomheter og støtte), NVIDIA NIM-mikrotjenester (optimaliserte modellendepunkter) og NVIDIA Omniverse for simuleringsarbeidsflyter (ekstrautstyr) – validert og solgt via Dell som en del av AI Factory-løsningen.

Ja, Dell AI Factory støtter fullt ut avansert kjøleteknologi, inkludert direkte-til-brikke-væskekjøling. Dette er viktig for å administrere varmeutgangen til GPU-konfigurasjoner med høy tetthet, for eksempel de som bruker NVIDIA Blackwell-plattformen. Med implementering av væskekjøling kan du implementere mer databehandlingskraft per rack, forbedre datasenterets strømforbrukseffektivitet (PUE) og redusere de totale driftskostnadene, slik at infrastrukturen både er kraftig og effektiv.

Dell AI Factory støtter maksimalt 72 NVIDIA Blackwell GPU-er i ett enkelt, væskekjølt rack. Denne bemerkelsesverdige tettheten oppnås gjennom NVIDIA NVL72-systemet, som integrerer GPU-ene med høyhastighets NVLink-sammenkoblinger.

Dell AI Factory with NVIDIA er designet for å øke verdiskapningen ved å redusere implementeringstiden og kompleksiteten knyttet til gjør-det-selv-KI-infrastruktur (DIY) betydelig. I stedet for å bruke måneder på å integrere ulik maskinvare og programvare, kan du implementere en fullstendig validert og optimalisert løsning.

NVIDIA RTX Pro 6000- og 4500 GPU-er akselererer KI-implementeringen ved å drive Dell AI Factory with NVIDIA, slik at virksomheter kan implementere avanserte brukstilfeller som kunnskapsassistenter og kodeassistenter. RTX Pro 6000 er ideell for KI-opplæring i stor skala, finjustering og implementering av agentiske KI-plattformer, og gir maksimal ytelse for krevende arbeidsbelastninger. RTX Pro 4500 gir et kostnadseffektivt og energieffektivt inngangspunkt for KI-inferens og pilotløsninger i mindre skala. Begge GPU-ene integreres sømløst i Dells modulære grunnlag, slik at virksomheter kan skalere KI-arbeidsbelastninger på en effektiv måte. Med forhåndsgodkjente blåkopier og modulær skalerbarhet kan organisasjoner raskt gå fra konseptbevis til produksjon, redusere kompleksiteten og oppnå raskere resultater, samtidig som de tilpasser KI-løsninger til virksomhetsbehov.

Direkte-til-brikke-væskekjøling er en kjernefunksjon i Dell AI Factory sine konfigurasjoner med høy tetthet, og reduserer datasenterets strømforbrukseffektivitet (PUE) og driftsutgifter (OPEX) betydelig. Ved å overføre varme direkte fra GPU-ene med væske, fjerner den varmebegrensningene på en langt mer effektivt måte enn tradisjonell luftkjøling.