PowerEdge: HPC- ja tekoälysuorituskyky DSS8440 V100S-grafiikkasuorittimien avulla

Tekijät: Frank Han, Rengan Xu, Quy Ta
Dell EMC HPC and AI Innovation Lab, toukokuu 2020

Tiivistelmä

Tässä blogissa esitellään tulokset tutkimuksesta, jossa arvioidaan 8x V100S:ää DSS8440 eri HPC- ja syväoppimissovelluksissa, mukaan lukien HPL, LAMMPS ja MLPerf-v0.6 (External Link). Yhteenveto:

• Grafiikkasuorittimen kaistanleveyden rajoittamat sovellukset , kuten LAMMPS, voivat hyödyntää uusia V100S-grafiikkasuorittimia ja parantaa suorituskykyä sekä yhdellä että useammalla grafiikkasuorittimella.
• Syväoppimissovellukset, kuten MLPerfissä testatut, hyötyvät V100S:n korkeammasta tehostetusta kellosta ja suuremmasta kaistanleveydestä.
• GPU-laskentaan sidotut sovellukset , kuten HPC-vertailulaite, tarjoavat saman suorituskyvyn kuin V100-PCIe.

Tämän blogin loppuosassa esitetään tämän testauksen yksityiskohdat. Tulevaisuudessa samoja sovelluksia ajetaan DSS8440 RTX-näytönohjaimilla (V100S: n sijasta), ja myös muita testejä, kuten V100S: n suorituskyky AMD-alustalla, suoritetaan.

Yleiskatsaus testialustaan 

Dell DSS8440 -palvelin on kiihdyttimelle optimoitu palvelin, joka on suunniteltu suurteholaskentaa ja syväoppimista varten. NVIDIA V100S (External Link) on Tesla Volta -sarjan uusin jäsen, ja se on kaksileveyksinen 32G PCIe -pohjainen GPU-kortti. Tässä blogissa esitellään tulokset tutkimuksesta, jossa arvioidaan 8x V100S:ää DSS8440 eri HPC- ja syväoppimissovelluksissa, mukaan lukien HPL, LAMMPS ja MLPerf-v0.6 (External Link).

Testatun DSS 8440 -palvelimen laitteisto- ja ohjelmistotiedot sekä V100S:n ja V100-PCIe:n vertailu on lueteltu taulukoissa 1 ja 2.

 
Taulukko 1: Laitteiston ja ohjelmistojen tiedot

 
Taulukko 2: V100S:n ja V100-PCIe:n erot teknisissä tiedoissa

HPC-sovelluksen suorituskyky 

  
Kuva 1: V100S- ja V100-PCIe HPL -tulokset DSS8440

Kuvassa 1 esitetään HPL-suorituskykyluvut. V100S:n ja V100-PCIe:n välillä ei ole paljon eroa, koska korkeapainelaminaatti on äärimmäisen rasitustestisovellus. GPU boost -ominaisuudelle (ulkoinen linkki) on vähän lämpötilatilaa, joten GPU: iden taajuus laskee nopeasti takaisin peruskellonopeuteen. Koska V100S:n ja V100-PCIe:n peruskellotaajuus on lähes sama, grafiikkasuorittimen laskentaan rajoitetuissa sovelluksissa, kuten HPL:ssä, V100S tarjoaa suunnilleen saman suorituskyvyn kuin V100-PCIe. 

 
Kuva 2: V100S- ja V100-PCIe LAMMPS -tulokset DSS8440

Kuvassa 2 on LAMMPS:n ja Lennard Jonesin aineiston aika-askeleen tulokset. LAMMPS on esimerkki molekyylidynamiikan koodista, jonka tiedetään olevan GPU:n kaistanleveyteen sidottu sovellus. V100S tarjoaa tässä testissä 27 % paremman suorituskyvyn kuin V100-PCIe. Nopeutta ei edistä ainoastaan 15 % suurempi tehostustaajuus ja 26 % suurempi kaistanleveys, vaan myös uudempi ohjelmistoversio. V100-PCIe-numerot saatiin käyttämällä vanhaa KOKKOS-pakettia LAMMPS 8Feb2019 -versiossa. Uudempi versio 24Jan2020 oli kuitenkin lisännyt tuen cuFFT: n käytölle GPU: ssa KOKKOS: n kanssa. Useimmat yksityiskohdat löytyvät tästä LAMMPS 24Jan2020 -julkaisutiedotteesta (ulkoinen linkki).

Syväoppimissovelluksen suorituskyky

 
Kuva 3: V100S- ja V100-PCIe MLPerf -tulokset DSS8440

MLPerf-koulutuksen suljetun divisioonan 0.6 versiossa (ulkoinen linkki) on kuusi osatestiä, jotka kattavat laajat syväoppimisen alueet, mukaan lukien kuvien luokittelu (ResNet-50), kohteen havaitseminen (naamio R-CNN ja SSD), kääntäminen (NMT ja muuntaja) ja vahvistusoppiminen (MiniGo). Molempien GPU-korttien vertailutulokset ovat kuvassa 3. V100S:n MLPerf-ohjelmistopaketissa havaittiin noin 1–5 %:n suorituskyvyn paranemista, mikä vastaa tuloslokitiedostojen 1–5 %:n suurempaa suoritustehoa. GPU-kellotaajuuden reaaliaikaista lähtöä seurattiin, ja havaittiin, että V100S-grafiikkasuorittimet toimivat 1-5% korkeammalla kaikissa näissä testeissä, joten suorituskykyedut tulivat V100S: n korkeammasta tehostetusta taajuudesta.

Johtopäätökset ja jatkosuunnitelmat 

Tässä blogikirjoituksessa verrattiin HPC-sovellusten suorituskykyä HPL:llä, LAMMPS:llä ja syväoppimisen suorituskykyä MLPerf:llä V100S- ja V100-PCIe-grafiikkasuoritinkortteihin samalla DSS8440 palvelimella. Grafiikkasuorittimen kaistanleveyden rajoittamat sovellukset, kuten LAMMPS, voivat hyödyntää uusia V100S-grafiikkasuorittimia ja parantaa suorituskykyä sekä yhdellä että useammalla grafiikkasuorittimella. MLPerfissä testatut syväoppimissovellukset hyötyvät myös V100S:n korkeammasta tehostetusta kellosta ja suuremmasta kaistanleveydestä. GPU:n laskentaan sidottu HPC-vertailuarvo HPL saa saman suorituskyvyn kuin V100-PCIe. Tulevaisuudessa samoja sovelluksia DSS8440 ajetaan RTX-näytönohjaimilla, ja joitain muita testejä, kuten V100S-suorituskykyä AMD-alustalla, tutkitaan.