Dell AI Factory with NVIDIA

Dell AI Factory with NVIDIA wprowadza nową architekturę modułową, zaprojektowaną tak, aby pomóc przedsiębiorstwom w płynnym wdrażaniu i skalowaniu obciążeń roboczych związanych ze sztuczną inteligencją — od projektów pilotażowych po produkcję na pełną skalę. Rozwiązanie to oferuje elastyczne punkty wyjścia — od opcji lekkiego wnioskowania, idealnej do testowania przypadków użycia sztucznej inteligencji i przenoszenia ich do etapu produkcji po opcję dostrajania przedsiębiorstwa i podstaw trenowania, która wspiera trenowanie modeli sztucznej inteligencji na większą skalę. Modułowa konstrukcja pozwala organizacjom rozpocząć działalność na niewielką skalę i stopniowo ją rozwijać w miarę ewolucji potrzeb biznesowych za pomocą modułów rozszerzeń. W połączeniu z platformą Dell Automation Platform oraz technologiami opartymi na otwartych platformach, takich jak Ubuntu i Red Hat OpenShift, rozwiązanie Dell AI Factory with NVIDIA upraszcza wdrażanie i zarządzanie, oferując wstępnie zweryfikowane projekty, które umożliwiają szybkie wdrażanie obciążeń roboczych związanych ze sztuczną inteligencją. Osiągaj wyniki szybciej, ograniczaj złożoność i stymuluj innowacje na dużą skalę.

Dell AI Factory with NVIDIA opiera się na wielu modelach serwerów Dell PowerEdge dostosowanych do różnych obciążeń roboczych związanych ze sztuczną inteligencją: PowerEdge XE9680 — flagowy system z 8 procesorami GPU, idealny do trenowania i dostrajania z wykorzystaniem procesorów GPU NVIDIA H100 Tensor Core; PowerEdge R760xa — wydajny serwer 2U z akceleracją GPU, powszechnie stosowany do wnioskowania i dostrajania w oparciu o L40S, a także do ogólnych zadań związanych z generatywną sztuczną inteligencją; PowerEdge R660— często wykorzystywany w zweryfikowanych stosach do obsługi i zarządzania mocą obliczeniową oraz lżejszymi usługami AI; oraz PowerEdge XE7745— występujący w identyfikatorach rozwiązań Spectrum-X do budowania dużych klastrów GPU. W połączeniu z akceleratorami NVIDIA, procesorami DPU BlueField oraz wysokowydajną siecią Spectrum-X systemy te stanowią kompleksową platformę dla rozwiązań generatywnej sztucznej inteligencji na poziomie przedsiębiorstwa — od etapu weryfikacji koncepcji aż po wdrożenie na produkcji.

Oparty na architekturze Blackwell serwer Dell PowerEdge XE9780 usprawnia szkolenie modeli LLM dzięki połączeniu dwóch procesorów CPU Intel Xeon 6 (do 86 rdzeni) z ośmioma procesorami GPU NVIDIA HGX Blackwell (B200/B300) w obudowie chłodzonej powietrzem 10U, zaprojektowanej specjalnie z myślą o trenowaniu i dostrajaniu modeli generatywnej sztucznej inteligencji. W praktyce zapewnia to nawet czterokrotnie szybsze trenowanie w porównaniu z poprzednimi platformami, przyspieszając zwrot z inwestycji i skracając cykle iteracji podczas opracowywania modeli. Standardowa konstrukcja szafy serwerowej chłodzonej powietrzem upraszcza integrację z istniejącymi centrami przetwarzania danych, umożliwiając skalowanie wydajności bez kosztownych modernizacji infrastruktury na miejscu. Dzięki wsparciu ze strony działu zarządzania i pomocy technicznej firmy Dell model XE9780 stanowi niezawodną, gotową do wdrożenia na produkcji podstawę do trenowania modeli LLM i ich dostrajania.

Domyślny stos obejmuje NVIDIA AI Enterprise (platformę AI i pomoc techniczną dla przedsiębiorstw), mikrousługi NVIDIA NIM (zoptymalizowane punkty końcowe modeli) oraz opcjonalne rozwiązanie NVIDIA Omniverse do przepływów pracy związanych z symulacją — zweryfikowane i sprzedawane przez firmę Dell w ramach rozwiązania AI Factory.

Tak, rozwiązanie Dell AI Factory w pełni obsługuje zaawansowane technologie chłodzenia, w tym bezpośrednie chłodzenie cieczą chipów. Ma to kluczowe znaczenie przy zarządzaniu wydajnością cieplną konfiguracji procesorów GPU o wysokiej gęstości, takich jak te wykorzystujące platformę NVIDIA Blackwell. Wdrożenie chłodzenia cieczą pozwala na uzyskanie większej mocy obliczeniowej na szafę serwerową, poprawę wskaźnika efektywności wykorzystania energii (PUE) centrów przetwarzania danych oraz obniżenie ogólnych kosztów operacyjnych przy zapewnieniu wydajnej i energooszczędnej infrastruktury.

Dell AI Factory obsługuje maksymalnie 72 procesory GPU NVIDIA Blackwell w jednej szafie serwerowej chłodzonej cieczą. Tę niezwykłą gęstość osiągnięto dzięki systemowi NVIDIA NVL72, który integruje procesory GPU za pomocą szybkich złącz NVLink.

Dell AI Factory with NVIDIA zostało zaprojektowane tak, aby przyspieszyć osiąganie korzyści poprzez radykalne skrócenie czasu wdrożenia i ograniczenie złożoności związanej z samodzielnym opracowywaniem infrastruktury AI. Zamiast poświęcać miesiące na integrację różnych urządzeń i oprogramowania, można wdrożyć w pełni zweryfikowane i zoptymalizowane rozwiązanie.

Procesory GPU NVIDIA RTX Pro 6000 i 4500 przyspieszają wdrażanie sztucznej inteligencji, zasilając Dell AI Factory with NVIDIA, co pozwala przedsiębiorstwom na wdrażanie zaawansowanych zastosowań, takich jak asystenci wiedzy i asystenci kodu. RTX Pro 6000 to idealne rozwiązanie do trenowania sztucznej inteligencji na dużą skalę, dostrajania i wdrażania platform sztucznej inteligencji przy zapewnieniu maksymalnej wydajności wymagających obciążeń roboczych. Procesory RTX PRO 4500 stanowią ekonomiczne i energooszczędne rozwiązanie dla początkujących użytkowników w zakresie wnioskowania AI oraz pilotowania rozwiązań na mniejszą skalę. Oba procesory GPU bezproblemowo integrują się z modułową platformą firmy Dell, umożliwiając przedsiębiorstwom efektywne skalowanie obciążeń roboczych związanych z AI. Dzięki wstępnie zweryfikowanym projektom i modułowej skalowalności organizacje mogą szybko przechodzić od weryfikacji koncepcji do etapu produkcji, zmniejszając złożoność i szybciej osiągając wyniki przy jednoczesnym dostosowaniu rozwiązań AI do potrzeb biznesowych.

Bezpośrednie chłodzenie cieczą chipów — kluczowa cecha konfiguracji o wysokiej gęstości w ramach Dell AI Factory — znacznie obniża wskaźnik efektywności wykorzystania energii (PUE) centrum przetwarzania danych oraz koszty operacyjne (OPEX). Dzięki odprowadzaniu ciepła bezpośrednio z procesorów GPU za pomocą cieczy, rozwiązuje ono problem ograniczeń cieplnych znacznie skuteczniej niż tradycyjne chłodzenie powietrzem.