Rendimiento de HPC y IA en DSS8440 con GPU V100S

Autores: Frank Han, Rengan Xu, Quy Ta
Laboratorio de innovación en HPC e IA de Dell EMC, mayo de 2020

Resumen ejecutivo

En este blog, se presentan los resultados del estudio en el que se evaluaron 8 V100S en DSS8440 para diferentes aplicaciones de HPC y aprendizaje profundo, incluidas HPL, LAMMPS y el conjunto MLPerf-v0.6 (External Link). En resumen:

• Las aplicaciones limitadas por el ancho de banda de la GPU , como LAMMPS, pueden aprovechar las nuevas GPU V100S y obtener un mayor rendimiento para GPU simples y múltiples.
• Las aplicaciones de aprendizaje profundo, como las probadas en MLPerf, obtienen beneficios del reloj aumentado más alto y el ancho de banda más alto de V100S.
• Las aplicaciones vinculadas a la computación de GPU , como HPL, el parámetro de referencia HPC, obtienen el mismo rendimiento que V100-PCIe.

En el resto de este blog se exponen los detalles de estas pruebas. En el futuro, las mismas aplicaciones se ejecutarán en DSS8440 con GPU RTX (en lugar de la V100S) y también se realizarán otras pruebas, como el rendimiento de la V100S en la plataforma AMD.

Descripción general del banco de pruebas 

El servidor Dell DSS8440 es un servidor optimizado para acelerador, diseñado para cargas de trabajo de computación de alto rendimiento y aprendizaje profundo. La NVIDIA V100S (Enlace externo) es el último miembro de la serie Tesla Volta, y es una tarjeta GPU basada en PCIe 32G de doble ancho. En este blog, se presentan los resultados del estudio en el que se evaluaron 8 V100S en DSS8440 para diferentes aplicaciones de HPC y aprendizaje profundo, incluidas HPL, LAMMPS y el conjunto MLPerf-v0.6 (External Link).

En la Tabla 1 y la Tabla 2, se enumeran los detalles de hardware y software del servidor DSS 8440 probados y la comparación de V100S y V100-PCIe.

 
Tabla 1 Los detalles de software y configuración de hardware

 
Tabla 2: Diferencia en las especificaciones de V100S y V100-PCIe

Rendimiento de las aplicaciones de HPC 

  
Figura 1: Resultados de HPL V100S y V100-PCIe en DSS8440

En la figura 1, se muestran las cifras de rendimiento de HPL. No hay mucha diferencia entre V100S y V100-PCIe, ya que HPL es una aplicación de prueba de esfuerzo extremo. Hay poco espacio de temperatura para la característica de aumento de GPU (Enlace externo); por lo tanto, la frecuencia de las GPU vuelve rápidamente a la velocidad de reloj base. Debido a que V100S y V100-PCIe tienen casi la misma velocidad de reloj base, para aplicaciones limitadas por computación de GPU como HPL, V100S ofrece aproximadamente el mismo nivel de rendimiento que V100-PCIe. 

 
Figura 2: Resultados de LAMMPS V100S y V100-PCIe en DSS8440

La Figura 2 tiene los resultados de paso de tiempo de LAMMPS con el conjunto de datos de Lennard Jones. LAMMPS es un ejemplo de código de dinámica molecular que se sabe que es una aplicación limitada por el ancho de banda de la GPU. La V100S ofrece un 27 % más de rendimiento que la V100-PCIe en estas pruebas. La aceleración se debe no solo a la frecuencia de impulso un 15% más alta y un 26% más de ancho de banda, sino también a la versión de software más reciente. Los números V100-PCIe se obtuvieron utilizando el paquete KOKKOS antiguo en la versión LAMMPS 8Feb2019. Sin embargo, la versión más reciente del 24 de enero de 2020 había agregado soporte para el uso de cuFFT en la GPU con KOKKOS. La mayoría de los detalles se pueden encontrar en esta nota de la versión de LAMMPS del 24 de enero de 2020 (enlace externo).

Rendimiento de las aplicaciones de aprendizaje profundo

 
Figura 3: Resultados de MLPerf de V100S y V100-PCIe en DSS8440

La versión 0.6 de la división cerrada de entrenamiento de MLPerf (Enlace externo) tiene seis subpruebas que cubren amplios dominios de aprendizaje profundo, incluida la clasificación de imágenes (ResNet-50), la detección de objetos (Mask R-CNN y SSD), la traducción (NMT y Transformer) y el aprendizaje por refuerzo (MiniGo). Los resultados de la comparación de ambas tarjetas GPU se encuentran en la Figura 3. Se observaron aumentos de rendimiento de alrededor del 1 % al 5 % en todo el conjunto MLPerf para V100S, lo que es coherente con el rendimiento entre un 1 % y un 5 % mayor en los archivos de registro de resultados. Se monitoreó la salida en tiempo real de la velocidad del reloj de la GPU y se observó que las GPU V100S funcionaban entre un 1 y un 5 % más altas en todas esas pruebas, por lo que los beneficios de rendimiento provenían de la mayor frecuencia aumentada de la V100S.

Conclusiones y trabajo a futuro 

En este blog, se comparó el rendimiento de las aplicaciones de HPC con HPL, LAMMPS y el rendimiento del aprendizaje profundo con MLPerf con las tarjetas GPU V100S y V100-PCIe en el mismo servidor DSS8440. Las aplicaciones limitadas por el ancho de banda de la GPU, como LAMMPS, pueden aprovechar las nuevas GPU V100S y obtendrán un mayor rendimiento para GPU simples y múltiples. Las aplicaciones de aprendizaje profundo probadas en MLPerf también obtienen beneficios del reloj aumentado más alto y el ancho de banda más alto de V100S. HPL, el parámetro de referencia HPC limitado por computación de GPU, obtiene el mismo rendimiento que V100-PCIe. En el futuro, las mismas aplicaciones en DSS8440 se ejecutarán con GPU RTX, y se explorarán algunas otras pruebas como el rendimiento de V100S en la plataforma AMD.