Haz posible lo increíble a cualquier escala. Los aceleradores de IA Intel® Gaudi® 3 admiten IA generativa y LLM de última generación en el centro de datos, y se emparejan con procesadores Intel® Xeon®, la CPU del host elegida para los sistemas de IA líderes, para ofrecer rendimiento y fiabilidad empresariales.
Los aceleradores de IA Intel® Gaudi® 3 y el software Intel® Gaudi® 3 se han diseñado para aportar un nuevo nivel de ventajas de productividad y opciones a la IA generativa para los centros de datos.
Ahorro de tiempo y energía
ENTRENA MODELOS EN MENOS TIEMPO
1,5 veces
más rápida que la NV H100 de media
RESULTADOS MÁS RÁPIDOS
1,5 veces
de inferencia más rápido que la NV H100 de media
MENOR CONSUMO DE ENERGÍA
1,4 veces
mayor eficiencia en el uso de la energía que la NV H100 de media
Obtén más información sobre lo que los procesadores Intel Gaudi pueden ofrecerte.
Rendimiento y eficiencia a cualquier escala
Con la creciente demanda de las ventajas que pueden aportar el aprendizaje profundo y la IA generativa, nunca ha habido una mayor necesidad de mejorar el rendimiento de la computación, la eficiencia, la facilidad de uso y las opciones. Los aceleradores y el software de IA Intel® Gaudi® 3 se han diseñado para aportar un nuevo nivel de ventajas y opciones de computación al entrenamiento y la inferencia para el centro de datos, ya sea en la cloud o en las instalaciones. Nuestro objetivo es conseguir que las ventajas del aprendizaje profundo de IA sean más accesibles para más empresas y organizaciones, y eliminar los obstáculos para ofrecer ventajas de aprendizaje profundo a muchos usuarios.
Procesadores y software de alta eficiencia optimizados para el aprendizaje profundo.
Para acercar la IA a un gran número de usuarios, la plataforma Intel Gaudi fue concebida y diseñada para abordar las demandas de entrenamiento e inferencia de la era de la IA a gran escala, y proporciona a las empresas y organizaciones computación de aprendizaje profundo de alto rendimiento y alta eficiencia.
Rendimiento eficiente
Diseñado específicamente para la computación de DL
Arquitectura de computación heterogénea
Motor de multiplicación de matrices optimizado para IA
Núcleos del procesador Tensor personalizados
Grandes memorias integradas
Redes integradas en chip
Capacidad de ampliación y flexibilidad enormes
Integración en chip de RoCE estándar del sector
Gran capacidad con la integración de 24 puertos de 200 GbE
Configuración integral en el servidor
Ampliación flexible para admitir numerosas configuraciones
Reducción de los costes con las redes estándar del sector
Evita la dependencia de un proveedor
Facilidad de migración y creación de modelos
Software optimizado para entrenamiento e inferencia de aprendizaje profundo
Integra infraestructuras populares: TensorFlow y PyTorch
Proporciona un compilador de gráficos personalizado
Admite el desarrollo personalizado del kernel
Habilita un ecosistema de socios de software
GitHub y Foro de la Comunidad de Habana
Diseño pensado para las exigencias de IA del mundo real
Los aceleradores de IA Intel® Gaudi® 3 te permiten usar software abierto basado en la comunidad y redes Ethernet estándar del sector para ampliar los sistemas de forma más flexible.
Diseño pensado para el entrenamiento y la inferencia
64
Núcleos del procesador Tensor (5.ª generación)
8
Motores matemáticos matriciales
Más memoria para mejorar la eficiencia y la rentabilidad de LLM
128 GB
Capacidad HBM, 3,7 TB/s B/W
96 MB
SRAM, 12,8 TB/s SRAM B/W
Redes en chip masivas y flexibles
Hardware de estándares abiertos frente a patentes de InfiniBand
24 200GbE
Puertos Ethernet RoCE estándar del sector
PCle 5
x 16
Los mejores procesadores para satisfacer tus diversos requisitos de rendimiento y eficiencia
La familia de procesadores Intel® Xeon® 6 presenta una plataforma de computación robusta que destaca tanto por su rendimiento como por su eficiencia, algo crucial para satisfacer las demandas en constante evolución de los centros de datos modernos. La familia de procesadores, que ofrece versatilidad para diversos requisitos operativos, se puede utilizar tanto para impulsar la IA con mucha computación como para microservicios ampliables nativos de la cloud.
Comparación entre el procesador Intel® Xeon® 6 y el procesador Intel® Xeon® Scalable de 5.ª generación
Computación general
Rendimiento hasta 2 veces superior para rendimiento de enteros y coma flotante
Inteligencia artificial
Rendimiento hasta 2 veces superior de IA generativa con tipos de datos BF
HPC
Rendimiento de HPC hasta 2,3 veces superior según la referencia HPCG estándar del sector
Microservicios
Rendimiento por vatio hasta 1,5 veces superior para el rendimiento Java del lado del servidor
Análisis
Rendimiento por vatio hasta 1,6 veces superior para el procesamiento de transacciones en línea (OLTP) de MySQL
Medios de comunicación
Rendimiento por vatio hasta 1,5 veces superior de AVC
Diseñado para implementaciones en centros de datos, la cloud, las redes y el perímetro
Carga de trabajo y rendimiento probados en los casos de uso del sector
Compatibilidad de plataforma y software
Calidad, fiabilidad, compatible con software y ecosistema fiable
Basado en tecnologías de procesos avanzadas y de vanguardia
Permite la computación confidencial y la seguridad mejorada
Cargas de trabajo y casos de uso priorizados de Intel® Xeon® 6
IA
HPC
Infraestructura y almacenamiento
Servicios de datos
Redes y medios
Web, aplicaciones y microservicios
Visión artificial
Sistema terrestre
Almacenamiento (incl. HCI)
Análisis de Big Data
Cloud Gaming
Aplicaciones empresariales (incl. ERP, CRM, SCM)
Reconocimiento y clasificación de imágenes
Servicios financieros
Virtual Desktop Infrastructure (VDI)
Inteligencia empresarial (OLAP)
Medios inmersivos
Aplicaciones de consumo
Procesamiento de lenguaje natural (incl. la IA generativa)
Fabricación en el sector de las ciencias biológicas y de materiales
Seguridad
Lago de datos
Análisis de medios
Alojamiento web/Sistema de gestión de contenido
Sistemas recomendados
Preparación de datos
Red de entrega de contenido (CDN)
Automatización de procesos robóticos (RPA)
Base de datos relacional
Procesamiento de medios en directo
Bases de datos no relacionales
Redes (incl. VRAN, 5G, UPF)
Procesamiento de transacciones en línea
Desplaza el ratón por encima del contenido para obtener más información
IA
IA
Integra más soluciones de IA en los procesos de negocios o en las nuevas aplicaciones gracias a las capacidades de computación mejoradas y los motores de aceleración de la IA integrados.
HPC
HPC
El rendimiento de computación acelerada y el alto ancho de banda de memoria ayudan a acelerar el tiempo de obtención de información para modelos y cálculos a gran escala.
Almacenamiento
Almacenamiento
Acelera el rendimiento de los datos con menos núcleos para mejorar el rendimiento de la infraestructura hiperconvergente y las soluciones de almacenamiento.
Análisis
Análisis
Acelera tu pipeline de análisis de datos para gestionar más transacciones y mejorar el rendimiento de las bases de datos, los sistemas CRM y las aplicaciones de inteligencia empresarial.
Redes
Redes
Acelera la prestación de servicios y admite más usuarios, transacciones y datos gracias a las mejoras en la eficiencia de la red, el procesamiento de paquetes, la transcodificación y el cifrado.
Cloud computing
Cloud computing
Mejora del rendimiento de los microservicios para obtener una calidad de servicio, un almacenamiento y una observabilidad excepcionales.
Perímetro
Perímetro
Implementa rápidamente aplicaciones perimetrales y obtén información esencial para impulsar el valor comercial más cerca del lugar donde se generan los datos.
Características y beneficios de los procesadores Intel Xeon
Con frecuencia los servidores con tecnología de procesadores Xeon se encuentran realizando computación para cargas de trabajo intensas en centros de datos de computación en la cloud, aplicaciones de análisis y de tendencias, sistemas in de radar, fabricación industrial, programas de recopilación de inteligencia y mucho más.
Rendimiento optimizado
Rendimiento para una gran cantidad de cargas de trabajo.
Optimización para cargas de trabajo
Ofertas optimizadas para casos de uso de redes, cloud y un solo socket.
Seguridad mejorada
Capacidades que ayudan a abordar los problemas actuales y futuros sobre privacidad y seguridad.
Procesador optimizado
Las especificaciones y los requisitos de alimentación admiten entornos con limitaciones de espacio y alimentación.
Procesadores escalables Intel Xeon
Los procesadores escalables Intel® Xeon® incluyen aceleradores integrados y tecnologías de seguridad avanzadas para cumplir con los requisitos de las cargas de trabajo más utilizadas, a la vez que ofrecen las mejores opciones de cloud y portabilidad de aplicaciones.
Procesadores Intel® Xeon® Platinum
Rendimiento avanzado con 2, 4 y 8 sockets, desarrollados para las cargas de trabajo y los servicios más exigentes del perímetro a la cloud.
Procesadores Intel® Xeon® Gold
Soluciones con rendimiento escalable hasta 4 sockets y fiabilidad y seguridad avanzadas.
Procesadores Intel® Xeon® Silver
Rendimiento y eficiencia energética para computación, red y almacenamiento de nivel de entrada.
Procesadores Intel® Xeon® Bronze
Fiabilidad y capacidad de mantenimiento para soluciones de servidores para pequeñas empresas y almacenamiento.
