PowerEdge: HPC- og AI-ydeevne på DSS8440 med V100S-GPU'er

Forfattere: Frank Han, Rengan Xu, Quy Ta
Dell EMC HPC og AI Innovation Lab, maj 2020

Resumé

Denne blog præsenterer resultaterne af undersøgelsen, der evaluerer 8x V100S på DSS8440 til forskellige HPC- og deep learning-applikationer, herunder HPL-, LAMMPS- og MLPerf-v0.6-pakken (Eksternt link). Opsummering:

• Programmer, der er begrænset af GPU-båndbredde som LAMMPS, kan drage fordel af de nye V100S GPU'er og få øget ydeevne for både enkelte og flere GPU'er.
• Deep learning-programmer, som dem, der er testet i MLPerf, får fordel af det højere boostede ur og højere båndbredde fra V100S.
• GPU-beregningsbundne programmer som f.eks. HPC-benchmarket HPL får samme ydeevne som V100-PCIe.

Resten af denne blog beskriver detaljerne i denne test. I fremtiden køres de samme applikationer på DSS8440 med RTX GPU'er (i stedet for V100S), og andre tests, som V100S-ydeevne på AMD-platformen, køres også.

Oversigt over testbænken 

Dell DSS8440-serveren er en acceleratoroptimeret server, der er udviklet til højtydende databehandling og deep learning-workloads. NVIDIA V100S (eksternt link) er det seneste medlem i Tesla Volta-serien, og det er et 32G PCIe-baseret GPU-kort med dobbelt bredde. Denne blog præsenterer resultaterne af undersøgelsen, der evaluerer 8x V100S på DSS8440 til forskellige HPC- og deep learning-applikationer, herunder HPL-, LAMMPS- og MLPerf-v0.6-pakken (Eksternt link).

Hardware- og softwareoplysningerne for den testede DSS 8440-server og sammenligningen af V100S og V100-PCIe er angivet i tabel 1 og tabel 2.

 
Tabel 1: Oplysninger om hardware og software

 
Tabel 2: V100S og V100-PCIe forskel i specifikation

HPC-programmers ydeevne 

  
Figur 1: V100S og V100-PCIe HPL-resultater på DSS8440

Figur 1 viser HPL-ydeevnetallene. Der er ikke den store forskel mellem V100S og V100-PCIe, fordi HPL er en ekstrem stresstestapplikation. Der er lidt temperaturrum til GPU boost-funktionen (eksternt link), derfor falder frekvensen af GPU'erne hurtigt tilbage til basisurfrekvensen. Da V100S og V100-PCIe har næsten samme basisklokfrekvens, leverer V100S omtrent samme ydeevneniveau som V100-PCIe til GPU-beregningsbegrænsede programmer som HPL. 

 
Figur 2: V100S- og V100-PCIe LAMMPS-resultater på DSS8440

Figur 2 viser timestep/s-resultaterne for LAMMPS med Lennard Jones-datasættet. LAMMPS er et eksempel på molekylær dynamikkode, som er kendt for at være en GPU-båndbreddeafgrænset applikation. V100S leverer 27 % mere ydeevne end V100-PCIe i denne test. Hastigheden bidrager ikke kun fra den 15% højere boostfrekvens og 26% mere båndbredde, men også fra den nyere softwareversion. V100-PCIe-numre blev opnået ved hjælp af gammel KOKKOS-pakke i LAMMPS 8Feb2019-version. Den nyere version 24Jan2020 havde dog tilføjet understøttelse af brug af cuFFT på GPU'en med KOKKOS. De fleste detaljer kan findes i denne LAMMPS 24Jan2020 produktnote (Eksternt link).

Deep Learning-programydeevne

 
Figur 3: V100S- og V100-PCIe MLPerf-resultater på DSS8440

MLPerf-træning lukket division 0.6-version (eksternt link) har seks undertests, der dækker brede deep learning-domæner, herunder billedklassificering (ResNet-50), objektdetektion (Mask R-CNN og SSD), oversættelse (NMT og transformer) og forstærkningsindlæring (MiniGo). Sammenligningsresultaterne for begge GPU-kort er vist i figur 3. Omkring 1-5 % forbedringer i ydeevnen blev observeret på tværs af MLPerf-pakken for V100S, hvilket er i overensstemmelse med den 1-5 % højere overførselshastighed i resultatlogfilerne. Outputtet i realtid af GPU-urfrekvensen blev overvåget, og det blev observeret, at V100S GPU'er kørte med 1-5% højere i alle disse tests, så ydelsesfordelene kom fra den højere boostede frekvens af V100S.

Konklusioner og fremtidige værker 

I denne blog sammenlignes HPC-programmers ydeevne med HPL, LAMMPS og deep learning-ydeevne med MLPerf med V100S- og V100-PCIe GPU-kort på samme DSS8440 server. Programmer, der er begrænset af GPU-båndbredde som LAMMPS, kan drage fordel af de nye V100S GPU'er og vil få øget ydeevne for både enkelt og flere GPU'er. Deep learning-programmer, der er testet i MLPerf, får også fordele fra det højere boostede ur og den højere båndbredde i V100S. GPU-beregningsbegrænset HPC-benchmark HPL får samme ydeevne som V100-PCIe. I fremtiden vil de samme applikationer på DSS8440 blive kørt med RTX GPU'er, og nogle andre tests som V100S-ydeevne på AMD-platformen vil blive undersøgt.