Dell AI Factory with NVIDIA

Dell AI Factory with NVIDIA introduce una nuova architettura modulare progettata per aiutare le aziende ad adottare e scalare i carichi di lavoro AI in modo fluido, dai progetti pilota alla produzione su larga scala. Al centro, la soluzione offre punti di partenza flessibili, dall'inferenza di piccole dimensioni, ideale per pilotare i casi d'uso dell'AI e portarli in produzione, alla base di ottimizzazione e addestramento aziendale, che supporta l'addestramento sull'AI su larga scala. Il design modulare consente alle organizzazioni di partire in piccolo e scalare in modo incrementale con moduli di espansione a mano a mano che le esigenze aziendali evolvono. In combinazione con Dell Automation Platform e basata su tecnologie di piattaforma aperta come Ubuntu e Red Hat OpenShift, Dell AI Factory with NVIDIA semplifica il deployment e la gestione, offrendo blueprint pre-convalidati per rapide implementazioni dei carichi di lavoro AI. Ottieni risultati più rapidi, riduci la complessità e promuovi l'innovazione su larga scala.

Dell AI Factory with NVIDIA è alimentata da più modelli di server Dell PowerEdge progettati per diversi carichi di lavoro AI: PowerEdge XE9680, sistema di punta a 8 GPU ideale per addestramento e ottimizzazione con GPU NVIDIA H100 Tensor Core; PowerEdge R760xa, server 2U accelerato con GPU, spesso impiegato per inferenza basata su L40S, ottimizzazione e attività GenAI generiche; PowerEdge R660, comunemente utilizzato negli stack convalidati per elaborazione di supporto/gestione e servizi AI non complessi; e PowerEdge XE7745, presente nelle soluzioni Spectrum‑X per la costruzione di cluster GPU su larga scala. Insieme agli acceleratori NVIDIA, alle DPU BlueField e alla rete Spectrum X ad alte prestazioni, questi sistemi forniscono una piattaforma full‑stack per GenAI aziendale, dal PoC (Proof of Concept) alla produzione.

PowerEdge XE9780 basato su Blackwell migliora l'addestramento LLM combinando due CPU Intel Xeon 6 (fino a 86 core) con otto GPU NVIDIA HGX Blackwell (B200/B300) in uno chassis 10U con raffreddamento ad aria progettato appositamente per l'addestramento e l'ottimizzazione dell'AI generativa. In pratica, questo si traduce in prestazioni di addestramento fino a 4 volte più veloci rispetto alle piattaforme precedenti, accelerando il time‑to‑value e riducendo i cicli di iterazione nello sviluppo dei modelli. Il design standard a rack e il raffreddamento ad aria semplificano l'integrazione nei data center esistenti, permettendo di scalare le prestazioni senza costosi interventi di adeguamento del sito. Supportato dalla gestione e dall'assistenza aziendali Dell, XE9780 fornisce una base affidabile e pronta per la produzione per iniziative di addestramento LLM e ottimizzazione.

Lo stack predefinito include NVIDIA AI Enterprise (piattaforma e supporto aziendale per l'AI), i microservizi NVIDIA NIM (endpoint dei modelli ottimizzati) e, opzionalmente, NVIDIA Omniverse per i flussi di lavoro di simulazione, convalidati e venduti da Dell come parte della soluzione AI Factory.

Sì, Dell AI Factory with NVIDIA supporta pienamente tecnologie di raffreddamento avanzate, incluso il raffreddamento a liquido diretto su chip. Questo è essenziale per gestire l'output termico delle configurazioni GPU ad alta densità, come quelle basate sulla piattaforma NVIDIA Blackwell. L'implementazione del raffreddamento a liquido consente di distribuire maggiore potenza di calcolo per rack, migliorare il PUE (Power Usage Effectiveness) del data center e ridurre le spese operative complessive (OPEX), garantendo un'infrastruttura al contempo potente ed efficiente.

Dell AI Factory supporta fino a 72 schede grafiche NVIDIA Blackwell in un singolo rack raffreddato a liquido. Questa notevole densità si ottiene tramite il sistema NVIDIA NVL72, che integra le GPU con interconnessioni NVLink ad alta velocità.

Dell AI Factory with NVIDIA è una soluzione progettata per accelerare il time‑to‑value, riducendo drasticamente i tempi di deployment e la complessità tipica delle infrastrutture AI costruite in modalità fai‑da‑te. Invece di impiegare mesi per integrare hardware e software eterogenei, puoi implementare una soluzione completamente convalidata e ottimizzata.

Le GPU NVIDIA RTX PRO 6000 e 4500 accelerano l'adozione dell'AI alimentando la Dell AI Factory with NVIDIA per consentire alle aziende di implementare casi d'uso avanzati come gli assistenti per la gestione della conoscenza e gli assistenti alla codifica. RTX PRO 6000 è ideale per l'addestramento dell'AI su larga scala, l'ottimizzazione e l'implementazione delle piattaforme AI agentiche, offrendo prestazioni massime per i carichi di lavoro più impegnativi. RTX PRO 4500 rappresenta invece un punto di ingresso conveniente ed efficiente dal punto di vista energetico per inferenza AI e pilotaggio di soluzioni su scala ridotta. Entrambe le GPU si integrano perfettamente nella base modulare di Dell, permettendo alle aziende di scalare i carichi di lavoro AI in modo efficiente. Con blueprint pre‑convalidati e scalabilità modulare, le organizzazioni possono accelerare il percorso dal proof‑of‑concept alla produzione, riducendo la complessità e ottenendo risultati più rapidi, allineando le soluzioni AI alle esigenze aziendali.

Il raffreddamento a liquido diretto sul chip, funzionalità chiave delle configurazioni ad alta densità di Dell AI Factory, riduce in modo significativo il Power Usage Effectiveness (PUE) e le spese operative (OPEX) del data center. Trasferendo il calore direttamente dalle GPU tramite liquido, elimina i vincoli termici in modo molto più efficiente rispetto al tradizionale raffreddamento ad aria.