Cómo configurar la Dell Pro Max 16 Plus con tarjeta de inferencia Qualcomm en Linux

Summary: Obtenga información sobre cómo configurar la MB16250 Dell Pro Max 16 Plus con la tarjeta de inferencia Qualcomm en Linux.

This article applies to This article does not apply to This article is not tied to any specific product. Not all product versions are identified in this article.
Check out other resources

Instructions

Configuración de la Dell Pro Max 16 Plus con tarjeta de inferencia Qualcomm en Linux

¡Bienvenido a la Dell Pro Max 16 Plus con tarjeta de inferencia Qualcomm AI100!

Siga estos pasos de configuración únicos a continuación a fin de preparar la tarjeta para las cargas de trabajo de inferencia de IA mediante Ubuntu 24.04 en la estación de trabajo Dell Pro Max 16 Plus. Esto garantiza que la estación de trabajo y la tarjeta tengan la configuración de base de software y configuración correcta para comenzar a usar la tarjeta directamente.

  1. Verificación de la instalación de la tarjeta AI100.

    Utilice lo siguiente: lspci Comando para verificar que la tarjeta esté instalada en la laptop: 
    lspci | grep Qualcomm

    Este comando muestra dos (2) entradas de dispositivo PCIe Qualcomm a100 para la tarjeta AI100. 
    dell@dell:~$ lspci | grep Qualcomm
 04:00.0 Processing accelerators: Qualcomm Technologies, Inc Device a100
 05:00.0 Processing accelerators: Qualcomm Technologies, Inc Device a100
 dell@dell:~$

     

  2. Actualización del BIOS en la estación de trabajo Dell Pro Max 16 Plus.

    Actualice el BIOS de la estación de trabajo para asegurarse de que la laptop tenga la compatibilidad más reciente con la tarjeta de inferencia AI100. Utilice los siguientes comandos para buscar actualizaciones del BIOS y, a continuación, actualice si hay una actualización disponible:
    Comandos para buscar actualizaciones del BIOS: 
    sudo fwupdmgr refresh --force
 sudo fwupdmgr upgrade

    Ejemplo de salida que se actualiza a la versión más reciente del BIOS. 
    dell@dell:~$ sudo fwupdmgr refresh --force
 Updating lvfs
 Downloading…          [*************************************]
 Successfully downloaded new metadata: 7 local devices supported
 dell@dell:~$ sudo fwupdmgr upgrade
 Devices with no available firmware updates:
 • Integrated Webcam 8M
 • PC811 SED SK hynix 2048GB
 • TPM
 • UEFI Device Firmware
 • UEFI dbx
 • USB4 host controller
 
 Perform operation? [Y|n]: Y
 Waiting…          [***************************************]
 Successfully installed firmware
 Do not turn off your computer or remove the AC adapter while the update is in progress.
 An update requires a reboot to complete. Restart now? [y|N]:

    Verifique que la versión del BIOS 2.22 o superior esté instalada mediante el dmidecode el comando: Comprobando la versión existente del firmware del BIOS. 
    sudo dmidecode -t 0

     

  3. Actualización del sistema operativo (SO) Ubuntu en la estación de trabajo Dell Pro Max 16 Plus

    En la próxima actualización del SO Ubuntu en la estación de trabajo, la compatibilidad con la tarjeta de inferencia AI100 estará integrada en Ubuntu 24.04. La actualización de Ubuntu garantiza que los módulos de kernel más recientes y las actualizaciones de firmware de AI100 estén disponibles para su tarjeta.
    Para actualizar Ubuntu, utilice el "Actualizador de software" de Ubuntu en el menú Aplicaciones de escritorio o utilice los siguientes comandos en un terminal:
    Comandos para actualizar el software Ubuntu en el terminal: 
    sudo apt-get update
 sudo apt-get upgrade
 sudo reboot
     

    Una vez que la laptop descargue, instale y actualice Ubuntu, reinicie la estación de trabajo para asegurarse de que se realicen cambios en el tiempo de arranque del kernel.

    Verifique que el kernel de Ubuntu actualizado sea la versión 6.14.0-1017-oem o una posterior. Esta versión incluye los módulos de kernel firmados que soportan su AI100 con el arranque seguro habilitado. Utilice el siguiente comando para comprobar la versión del kernel.


    Verificar que el kernel de Linux sea la versión 6.14.0-1017-oem o posterior.  
    dell@dell:~$ uname -r
 6.14.0-1017-oem

     

    dell@dell:~$ uname -r
 6.14.0-1017-oem

    A continuación, verifique que el paquete de firmware de Linux que incluye el firmware de AI100 sea de la versión 2.22 o superior mediante este comando de línea de comandos:

    Verificación de que el firmware de Linux sea la versión 2.22 o superior. 
    dell@dell:~$ dpkg-query --list linux-firmware
 Desired=Unknown/Install/Remove/Purge/Hold
 | Status=Not/Inst/Conf-files/Unpacked/halF-conf/Half-inst/trig-aWait/Trig-pend
 |/ Err?=(none)/Reinst-required (Status,Err: uppercase=bad)
 ||/ Name Version Architecture Description
 +++-==============-================================-============-=================================
 ii linux-firmware 20240318.git3b128b60-0ubuntu2.22 amd64 Firmware for Linux kernel drivers
 dell@dell:~$

     

  4. Actualización de los parámetros del kernel de GRUB.

    Para utilizar completamente la tarjeta de inferencia Qualcomm AI100, deshabilite la función denominada Sistema de control de acceso PCIe (ACS). Esto es necesario para admitir el corte tensorial completo con ambos dispositivos AI100 en la tarjeta Qualcomm AI100. Deshabilite ACS en el switch PCIe de la tarjeta AI100. Esto permite el acceso completo a los datos entre los dos dispositivos AI100 y los 64 GB de RAM a bordo cuando se ejecuta la inferencia en ambos.

    Esto se realiza mediante el paso de un parámetro del kernel de Linux que se agrega a la configuración de GRUB para admitir la tarjeta de inferencia Qualcomm AI100. Los parámetros del kernel son configuraciones que se pasan al kernel de Linux durante el arranque y que indican al kernel cómo configurar ciertas características. En este caso, ACS se está desactivando para la tarjeta AI100. Esto se hace con la adición de un parámetro de kernel al archivo de configuración de GRUB.

    Abra el archivo de configuración de GRUB con privilegios de raíz mediante un editor de texto.

    Editar el archivo de configuración de GRUB /etc/default/grub.   
    sudo nano /etc/default/grub

     

    sudo nano /etc/default/grub

     

     Edite el archivo GRUB_CMDLINE_LINUX_DEFAULT para agregar la línea pci=disable_acs_redir (deshabilite ACS en el switch PCIe de la tarjeta AI100). Asegúrese de tener la sintaxis exacta a continuación. Asegúrese también de que solo haya un GRUB_CMDLINE_LINUX_DEFAULT en la línea /etc/default/grub (combinar las opciones del kernel si es necesario, en una línea).

    Cambio GRUB_CMDLINE_LINUX_DEFAULT línea. 
    GRUB_CMDLINE_LINUX_DEFAULT="quiet splash pci=disable_acs_redir=03:00.0\;03:01.0"

     

    Presione CTRL+X, seleccione Y y presione Intro para guardar los cambios en la configuración. Ahora ejecute lo siguiente y reinicie para que surta efecto.


    Vuelva a generar la configuración de GRUB. 
    sudo update-grub
 sudo reboot

     

    Verifique los cambios mediante los siguientes comandos después del reinicio.

    Verifique los cambios en la configuración de GRUB. 
    dell@dell:~$ cat /proc/cmdline
 BOOT_IMAGE=/boot/vmlinuz-6.14.0-1016-oem root=UUID=cd20aec8-6b44-45f7-bca5-307240cec24b ro quiet splash
 pci=disable_acs_redir=03:00.0;03:01.0 vt.handoff=7

     

    dell@dell:~$ cat /proc/cmdline
 BOOT_IMAGE=/boot/vmlinuz-6.14.0-1016-oem root=UUID=cd20aec8-6b44-45f7-bca5-307240cec24b ro quiet splash
 pci=disable_acs_redir=03:00.0;03:01.0 vt.handoff=7


    Compruebe que ACS esté deshabilitado mediante dmesg. Los mensajes de "Configured ACS" se muestran como se muestra a continuación: 
    dell@dell:~$ sudo dmesg | grep ACS
 [ 0.000000] Command line: BOOT_IMAGE=/boot/vmlinuz-6.14.0-1016-oem root=UUID=cd20aec8-6b44-45f7-bca5-307240cec24b ro quiet splash pcie_port_m=force pci=disable_acs_redir=03:00.0;03:01.0 vt.handoff=7
 [ 0.141658] Kernel command line: BOOT_IMAGE=/boot/vmlinuz-6.14.0-1016-oem root=UUID=cd20aec8-6b44-45f7-bca5-307240cec24b ro quiet splash pcie_port_m=force pci=disable_acs_redir=03:00.0;03:01.0 vt.handoff=7
 [ 0.741030] pci 0000:03:00.0: Configured ACS to 0x0000
 [ 0.745422] pci 0000:03:01.0: Configured ACS to 0x0000

     

  5. Instalar Docker

    La ruta más rápida para ejecutar la inferencia en la tarjeta AI100 es usar contenedores Docker AI100 precompilados que incluyen compatibilidad con la tarjeta de inferencia Qualcomm AI100. El contenedor Docker prediseñado proporciona un entorno listo para usar a fin de ejecutar las cargas de trabajo de inferencia. El contenedor incluye la plataforma Qualcomm AI100 y los SDK de aplicaciones y la cadena de herramientas, el entorno de Python, los transformadores eficientes de Qualcomm para compilar modelos de IA y ejecutar inferencias, además de incluir soporte para vLLM y Triton listos para usar para la tarjeta de inferencia AI100.

    Para instalar Docker en Ubuntu, utilice el siguiente comando:

    sudo snap install docker

     

    Para ejecutar Docker como un usuario normal, ejecute los siguientes comandos.
    Comandos para ejecutar Docker como un usuario normal.  
    # create and join the docker group
 sudo addgroup --system docker
 sudo adduser $USER docker
 newgrp docker
 
 # disable and re-enable the docker snap if you added the group while Docker Engine was running
 sudo snap disable docker
 sudo snap enable docker

     

    # create and join the docker group
 sudo addgroup --system docker
 sudo adduser $USER docker
 newgrp docker
 
 # disable and re-enable the docker snap if you added the group while Docker Engine was running
 sudo snap disable docker
 sudo snap enable docker

    Se requiere el prefijo sudo en todos los comandos de Docker si el usuario no se agrega al grupo de Docker: 
    sudo docker run ...

     

    Referencia: Instantánea de Docker Este hipervínculo lo redirige a un sitio web fuera de Dell Technologies.

    Alternativamente, Docker se puede instalar usando apt Debian Docker Docs Este hipervínculo lo redirige a un sitio web fuera de Dell Technologies.

    Una vez que Docker esté instalado, pruebe la instalación de la siguiente manera:

    Verifique que Docker se instale con hello-world: 
    dell@dell:~$ docker run hello-world
 Unable to find image 'hello-world:latest' locally
 latest: Pulling from library/hello-world
 17eec7bbc9d7: Pull complete
 Digest: sha256:d4aaab6242e0cace87e2ec17a2ed3d779d18fbfd03042ea58f2995626396a274
 Status: Downloaded newer image for hello-world:latest
 
 Hello from Docker!
 This message shows that your installation appears to be working correctly.
 ...

     

  6. La tarjeta de inferencia AI100 de la estación de trabajo Dell Pro Max 16 Plus ya está lista para usar.

    Esto completa la configuración única necesaria para utilizar la tarjeta de inferencia AI100. En las siguientes secciones, se muestra cómo utilizar las herramientas AI100 para ver el estado de la tarjeta y ejecutar una inferencia simple inicial para verificar que la tarjeta AI100 esté operativa.

     

  7. Comprobación de la tarjeta AI100

    Compruebe la tarjeta AI100 y ejecute la inferencia inicial mediante un contenedor de Docker AI100 prediseñado que contenga todos los SDK de plataformas y aplicaciones de AI100, la cadena de herramientas y las herramientas de inferencia de vLLM y Triton necesarias para usar la tarjeta.

    Si esta es la primera vez que se ejecuta el contenedor de Docker AI100, este comando también recupera el contenedor. La imagen del contenedor de Docker AI100 es de ~14 GB de descarga. Para iniciar el contenedor de Docker AI100, utilice el siguiente comando:


    Inicie el contenedor de Docker AI100. 
    docker run --rm -it \
 --privileged \
 --device=/dev/accel/accel1 \
 --device=/dev/accel/accel2 \
 --network host \
 --ulimit nofile=1048576 \
 -e OMP_NUM_THREADS=8 \
 ghcr.io/quic/cloud_ai_inference_ubuntu24:1.20.6.0 \
 /bin/bash


    Una vez que el contenedor de Docker AI100 se haya obtenido y ejecutado, se mostrará en pantalla una salida como la siguiente:
    Ejemplo de salida después de iniciar el contenedor de Docker AI100. 
    dell@dell:~$ docker run --rm -it --device=/dev/accel/accel1 --device=/dev/accel/accel2 --network host --ulimit nofile=1048576 -e OMP_NUM_THREADS=8 -v ~/Downloads/qwen3_coder_qpc:/root/qpc/ ghcr.io/quic/cloud_ai_inference_ubuntu24:1.20.6.0 /bin/bash
 ==================================
 == Qualcomm Cloud AI Containers ==
 ==================================
 
 Platform SDK version: 1.20.6.0
 Apps SDK version: 1.20.6.0
 
 This container image and its contents are governed by the terms of
 the license at /usr/share/doc/CONTAINER_LICENSE.txt. By pulling and
 using the container, you accept the terms and conditions of this license.
 
 root@dell:~#

     

    dell@dell:~$ docker run --rm -it --device=/dev/accel/accel1 --device=/dev/accel/accel2 --network host --ulimit nofile=1048576 -e OMP_NUM_THREADS=8 -v ~/Downloads/qwen3_coder_qpc:/root/qpc/ ghcr.io/quic/cloud_ai_inference_ubuntu24:1.20.6.0 /bin/bash
 ==================================
 == Qualcomm Cloud AI Containers ==
 ==================================
 
 Platform SDK version: 1.20.6.0
 Apps SDK version: 1.20.6.0
 
 This container image and its contents are governed by the terms of
 the license at /usr/share/doc/CONTAINER_LICENSE.txt. By pulling and
 using the container, you accept the terms and conditions of this license.
 
 root@dell:~#


    Utilice el AI100 qaic-util -q para proporcionar una salida textual del estado de la tarjeta AI100, como en la siguiente salida de ejemplo.
    Ejemplo de salida para qaic-util -q 
    root@dell:~# qaic-util -q
 LRT QC_IMAGE_VERSION: LRT.AIC.13.2.1.20.6.0
 LRT IMAGE_VARIANT: LRT.AIC.REL
 Number of devices queried: 2
 QID 0
 Status:Ready
 ...

     

    Es posible ver el estado de la cuadrícula mediante el comando qaic-util -t 1 comando que actualiza periódicamente el estado de la tarjeta. En el siguiente resultado de ejemplo, se muestra la tarjeta AI100 inactiva. La tarjeta AI100 incluye dos dispositivos AI100, cada uno con 16 núcleos de procesamiento de procesador de señal neuronal (NSP). Cada dispositivo muestra 32 GB de memoria, con un total de 64 GB en la tarjeta:

    Ejemplo de salida inactiva para qaic-util -t 1. 
    root@dell:~# qaic-util -t 1

    Ejemplo de salida inactiva para qaic-util -t 1

    Aquí hay otro ejemplo qaic-util mientras la tarjeta AI100 está ejecutando una carga de trabajo de inferencia de IA. En este caso, muestra un modelo más grande: qwen3-coder:30b. El resultado muestra que los 16 NSP se están utilizando en cada dispositivo AI100, que la temperatura de la tarjeta ha aumentado a 47 °C desde temperaturas de inactividad más bajas, que cada pieza AI100 está usando ~ 13 GB cada una, con un total de 26 GB para el modelo, la energía total utilizada para la placa es de 51 de un máximo de 75 W, y que la frecuencia NSP ha aumentado para la carga de trabajo a 1100 Mhz.


    Ejemplo de salida para AI100 que ejecuta la inferencia mediante qaic-util -t 1. 
    root@dell:~# qaic-util -t 1

    Ejemplo de salida para AI100 que ejecuta inferencia mediante qaic-util -t 1
    Para restablecer la tarjeta AI100, utilice el botón qaic-util -s comando. Este comando requiere permiso de hardware dentro del contenedor que requiere el parámetro de línea de comandos "-privileged" cuando se ejecuta el contenedor. En el siguiente resultado de ejemplo, se muestra el uso de qaic util -s seguido de qaic-util -t 1 para supervisar el estado de la tarjeta. Valores de campo no válidos, como en el resultado de muestra que se muestra a continuación, hasta que la tarjeta complete el restablecimiento:


    Ejemplo de salida del restablecimiento de la tarjeta AI100 mediante qaic-util -s y qaic-util -t 1. 
    root@dell:~# qaic-util -s
 Resetting all devices…
 0000:04:00.0:
 0000:04:00.0 success
 0000:05:00.0:
 0000:05:00.0 success
 root@dell:~# qaic-util -t 1

    Ejemplo de salida del restablecimiento de la tarjeta AI100 mediante qaic-util -s y qaic-util -t 1
    Utilice un único símbolo del sistema para mostrar el estado de la tarjeta AI100 mediante el contenedor de Docker AI100 de la siguiente manera.


    Inicie el contenedor de Docker AI100. 
    docker run --rm -it \
 --privileged \
 --device=/dev/accel/accel1 \
 --device=/dev/accel/accel2 \
 --network host \
 --ulimit nofile=1048576 \
 -e OMP_NUM_THREADS=8 \
 ghcr.io/quic/cloud_ai_inference_ubuntu24:1.20.6.0 \
 qaic-util -t 1

     

    docker run --rm -it \
 --privileged \
 --device=/dev/accel/accel1 \
 --device=/dev/accel/accel2 \
 --network host \
 --ulimit nofile=1048576 \
 -e OMP_NUM_THREADS=8 \
 ghcr.io/quic/cloud_ai_inference_ubuntu24:1.20.6.0 \
 qaic-util -t 1

     

    Nota: Las líneas de salida de error se ven cuando se ejecuta el comando qaic-util -s y qaic-util -t 1 y en su salida de cuadrícula que muestra "No válido" para la temperatura y la alimentación de la placa/TDP y "0,00 W" que se muestra para la alimentación de SoC. Hay cambios en el vuelo ascendente para abordar esto en las próximas actualizaciones del SO Ubuntu y del contenedor Docker AI100.

     

  8. Ejecución de la inferencia de prueba

    En esta sección, se muestra cómo ejecutar una prueba de inferencia rápida en la tarjeta AI100. Utilice esta prueba de inferencia para verificar la funcionalidad de la tarjeta AI100.

    Utilice el comando de línea de comandos qaic-runner para ejecutar la primera prueba de carga de trabajo de inferencia. Uso -d para especificar el dispositivo AI100 de destino, -a para especificar el número de NSP que se utilizarán, y -n Para el número de iteraciones:


    Ejemplo de inferencia de prueba con qaic-runner. 
    docker run --rm -it \
 --device=/dev/accel/accel1 \
 --device=/dev/accel/accel2 \
 --network host \
 --ulimit nofile=1048576 \
 -e OMP_NUM_THREADS=8 \
 ghcr.io/quic/cloud_ai_inference_ubuntu24:1.20.6.0 \
 qaic-runner -t /opt/qti-aic/test-data/aic100/v2/1nsp/1nsp-conv-hmx/ -a 16 -n 5000 -d 0

     

    docker run --rm -it \
 --device=/dev/accel/accel1 \
 --device=/dev/accel/accel2 \
 --network host \
 --ulimit nofile=1048576 \
 -e OMP_NUM_THREADS=8 \
 ghcr.io/quic/cloud_ai_inference_ubuntu24:1.20.6.0 \
 qaic-runner -t /opt/qti-aic/test-data/aic100/v2/1nsp/1nsp-conv-hmx/ -a 16 -n 5000 -d 0


    Se muestran en pantalla ejemplos de resultados como los siguientes:
    Ejemplo de salida para ejecutar la inferencia de prueba. 
    dell@dell:~$ docker run --rm -it \
 --device=/dev/accel/accel1 \
 --device=/dev/accel/accel2 \
 --network host \
 --ulimit nofile=1048576 \
 -e OMP_NUM_THREADS=8 \
 ghcr.io/quic/cloud_ai_inference_ubuntu24:1.20.6.0 \
 qaic-runner -t /opt/qti-aic/test-data/aic100/v2/1nsp/1nsp-conv-hmx/ -a 16 -n 5000 -d 0
 loading /opt/qti-aic/dev/lib/x86_64/libQAic.so
 ---- Stats ----
 InferenceCnt 5000 TotalDuration 22544us BatchSize 1 Inf/Sec 221788.502

     

  9. Enlaces útiles

    En la siguiente tabla, se incluye una lista de recursos y enlaces clave y útiles de AI100 para comenzar a aprovechar al máximo la tarjeta de inferencia de AI100.

    • Guía Este hipervínculo lo redirige a un sitio web fuera de Dell Technologies.del usuario de Qualcomm AI100: Punto de partida para todos los temas AI100 - guía completa del usuario de AI100
    • Biblioteca Este hipervínculo lo redirige a un sitio web fuera de Dell Technologies.de transformadores eficientes de Qualcomm: Biblioteca para acelerar la ejecución de muchos LLM de HuggingFace de manera eficiente en el Qualcomm AI100
    • Contenedores Este hipervínculo lo redirige a un sitio web fuera de Dell Technologies.QAIC: Contenedores Docker que incluyen la cadena de herramientas AI100, incluida la compatibilidad con vLLM y Triton mediante Ubuntu 24.04
    • Contenedores QAIC - 24.04 más recienteEste hipervínculo lo redirige a un sitio web fuera de Dell Technologies.: Se recomienda el contenedor Docker QAIC que utiliza 24.04 para su uso con la tarjeta de inferencia AI100
    • Blog para desarrolladores de Qualcomm Efficient TransformersEste hipervínculo lo redirige a un sitio web fuera de Dell Technologies.: Gran visión general de los transformadores eficientes con ejemplos fáciles y rápidos
    • http:qualcom-qpc-models.s3-website-us-east-1.amazonaws.com/QPC/ Este hipervínculo lo redirige a un sitio web fuera de Dell Technologies.: Consulte el catálogo de modelos precompilados para descargar y ejecutar en la tarjeta AI100 (modelos construidos para dos SoC)
      Nota: Esta URL no es un enlace HTTPS. Úselo bajo su propio riesgo.
    Nota: Vaya al sitio de soporte y utilice la palabra clave de filtro Linux para ver otros artículos de Dell asociados con la laptop Dell Pro Max 16 Plus MB16250 con Al100:

  10. Modelos prediseñados AI100

    En la siguiente tabla, se incluye una instantánea de los modelos de IA que están prediseñados para ejecutarse dentro del contenedor de Docker AI100 (mediante vLLM, por ejemplo).

    La tarjeta de inferencia AI100 ejecuta modelos mediante un formato de contenedor de programas de Qualcomm (QPC). Los QPC se pueden crear a partir de modelos de Huggingface utilizando los SDK de la plataforma y las aplicaciones de AI100, o utilizar QPC de modelos de IA prediseñados del catálogo en línea de Zentree en el siguiente enlace. Los QPC se diseñan para la cantidad de dispositivos AI100 en la tarjeta; el Dell Pro Max 16 Plus con tarjeta de inferencia Qualcomm admite QPC diseñados para ejecutarse en uno o dos SoC (sistema AI100 en un chip). Un QPC diseñado para dos dispositivos AI100 utiliza segmentación tensorial para poder ejecutar modelos grandes con el procesamiento de dos dispositivos AI100 en los 64 GB de memoria completa de la tarjeta.

    Consulte la pestaña Catálogo en el siguiente enlace para el http:qualcom-qpc-models.s3-website-us-east-1.amazonaws.com/QPC/ Este hipervínculo lo redirige a un sitio web fuera de Dell Technologies..

    Nota: Estas URL no son enlaces HTTPS. Úselo bajo su propio riesgo.

     

    Familia de modelos Arquitectura del modelo Modelo representativo Tipo de modelo Versión del SDK de QAIC Clase automática QEff Tarea Enlace de QPC
    BERT BERTModel BAAI/bge-large-en-v1.5 Incorporación del modelo 1.19.6 QEFFAutoModel Incrustación de texto http:qualcom-qpc-models.s3-website-us-east-1.amazonaws.com/QPC/1.19.6/bge-large-en-v1.5/ Este hipervínculo lo redirige a un sitio web fuera de Dell Technologies.
    BERT BERTModel BAAI/bge-m3 Incorporación del modelo 1.19.6 QEFFAutoModel Incrustación de texto http:qualcom-qpc-models.s3-website-us-east-1.amazonaws.com/QPC/1.19.6/bge-m3/ Este hipervínculo lo redirige a un sitio web fuera de Dell Technologies.
    BERT BERTModel BAAI/bge-base-en-v1.5 Incorporación del modelo 1.19.6 QEFFAutoModel Incrustación de texto http:qualcom-qpc-models.s3-website-us-east-1.amazonaws.com/QPC/1.19.6/bge-base-en-v1.5/ Este hipervínculo lo redirige a un sitio web fuera de Dell Technologies.
    DeepSeek-R1-Destilar-Llama LlamaForCausalLM Valdemardi/DeepSeek-R1-Destilar-Llama-70B-AWQ Modelo de lenguaje de solo texto 1.20.4 QEFFAutoModelForCausalLM Generación de texto http:qualcom-qpc-models.s3-website-us-east-1.amazonaws.com/QPC/1.20.4/DeepSeek-R1-Distill-Llama-70B-AWQ/ Este hipervínculo lo redirige a un sitio web fuera de Dell Technologies.
    DeepSeek-R1-Destilar-Llama LlamaForCausalLM Casperhansen/Deepseek-R1-Distill-Llama-8B-AWQ Modelo de lenguaje de solo texto 1.20.4 QEFFAutoModelForCausalLM Generación de texto http:qualcom-qpc-models.s3-website-us-east-1.amazonaws.com/QPC/1.20.4/deepseek-r1-distill-llama-8b-awq/ Este hipervínculo lo redirige a un sitio web fuera de Dell Technologies.
    DeepSeek-R1-Distill-Qwen Qwen2ForCausalLM Valdemardi/DeepSeek-R1-Destilar-Llama-32B-AWQ Modelo de lenguaje de solo texto 1.20.4 QEFFAutoModelForCausalLM Generación de texto http:qualcom-qpc-models.s3-website-us-east-1.amazonaws.com/QPC/1.20.4/DeepSeek-R1-Distill-Qwen-32B-AWQ/ Este hipervínculo lo redirige a un sitio web fuera de Dell Technologies.
    DeepSeek-R1-Distill-Qwen Qwen2ForCausalLM Casperhansen/Deepseek-R1-Distill-QWEN-7B-AWQ Modelo de lenguaje de solo texto 1.20.4 QEFFAutoModelForCausalLM Generación de texto http:qualcom-qpc-models.s3-website-us-east-1.amazonaws.com/QPC/1.20.4/deepseek-r1-distill-qwen-7b-awq/ Este hipervínculo lo redirige a un sitio web fuera de Dell Technologies.
    Gemma3 Gemma3ForConditionalGeneration google/gemma-3-4b-it Modelo de lenguaje multimodal 1.20.4 QEFFAutoModelForImageTextToText Modelos de lenguaje-visión (generación de texto + imagen) http:qualcom-qpc-models.s3-website-us-east-1.amazonaws.com/QPC/1.20.4/gemma-3-4b-it/ Este hipervínculo lo redirige a un sitio web fuera de Dell Technologies.
    GPT-OSS GptOssForCausalLM OpenAI/GPT-OSS-20B Modelo de lenguaje de solo texto 1.20.4 QEFFAutoModeForCausalLM Generación de texto http:qualcom-qpc-models.s3-website-us-east-1.amazonaws.com/QPC/1.20.4/gpt-oss-20b/ Este hipervínculo lo redirige a un sitio web fuera de Dell Technologies.
    Granito-3.2 GranitoParaCausalLM ibm-granite/granite-3.2-8b-instruct Modelo de lenguaje de solo texto 1.20.4 QEFFAutoModelForCausalLM Generación de texto http:qualcom-qpc-models.s3-website-us-east-1.amazonaws.com/QPC/1.20.4/granite-3.2-8b-instruct/ Este hipervínculo lo redirige a un sitio web fuera de Dell Technologies.
    Granito-3.3 GranitoParaCausalLM ibm-granite/granite-3.3-8b-instruct Modelo de lenguaje de solo texto 1.20.4 QEFFAutoModelForCausalLM Generación de texto http:qualcom-qpc-models.s3-website-us-east-1.amazonaws.com/QPC/1.20.4/granite-3.3-8b-instruct/ Este hipervínculo lo redirige a un sitio web fuera de Dell Technologies.
    Llama 3.1 LlamaForCausalLM meta-llama/Llama-3.1-8B-Instruir Modelo de lenguaje de solo texto 1.20.4 QEFFAutoModelForCausalLM Generación de texto http:qualcom-qpc-models.s3-website-us-east-1.amazonaws.com/QPC/1.20.4/Llama-3.1-8B/ Este hipervínculo lo redirige a un sitio web fuera de Dell Technologies.
    Llama 3.1 Nemotron LlamaForCausalLM ibnzterrell/Nvidia-Llama-3.1-Nemotron-70B-Instruct-HF-AWQ-INT4 Modelo de lenguaje de solo texto 1.20.4 QEFFAutoModelForCausalLM Generación de texto http:qualcom-qpc-models.s3-website-us-east-1.amazonaws.com/QPC/1.20.4/Nvidia-Llama-3.1-Nemotron-70B-Instruct-HF-AWQ-INT4/ Este hipervínculo lo redirige a un sitio web fuera de Dell Technologies.
    Llama 3.1 Nemotron LlamaForCausalLM nvidia/Llama-3.1-Nemotron-Nano-8B-v1 Modelo de lenguaje de solo texto 1.20.4 QEFFAutoModelForCausalLM Generación de texto http:qualcom-qpc-models.s3-website-us-east-1.amazonaws.com/QPC/1.20.4/Llama-3.1-Nemotron-Nano-8B-v1/ Este hipervínculo lo redirige a un sitio web fuera de Dell Technologies.
    Llama 3.2 LlamaForCausalLM meta-llama/Llama-3.2-1B Modelo de lenguaje de solo texto 1.20.4 QEFFAutoModelForCausalLM Generación de texto http:qualcom-qpc-models.s3-website-us-east-1.amazonaws.com/QPC/1.20.4/Llama-3.2-1B/ Este hipervínculo lo redirige a un sitio web fuera de Dell Technologies.
    Llama 3.2 LlamaForCausalLM meta-llama/Llama-3.2-3B Modelo de lenguaje de solo texto 1.20.4 QEFFAutoModelForCausalLM Generación de texto http:qualcom-qpc-models.s3-website-us-east-1.amazonaws.com/QPC/1.20.4/Llama-3.2-3B/ Este hipervínculo lo redirige a un sitio web fuera de Dell Technologies.
    Llama 3.2 LlamaForCausalLM meta-llama/Llama-3.2-3B-Instruir Modelo de lenguaje de solo texto 1.20.4 QEFFAutoModelForCausalLM Generación de texto http:qualcom-qpc-models.s3-website-us-east-1.amazonaws.com/QPC/1.20.4/Llama-3.2-3B-Instruct/ Este hipervínculo lo redirige a un sitio web fuera de Dell Technologies.
    Llama 3.2 MllamaForConditionalGeneration meta-llama/Llama-3.2-11B-Visión-Instruir Modelo de lenguaje multimodal 1.20.4 QEFFAutoModelForImageTextToText Modelos de lenguaje-visión (generación de texto + imagen) http:qualcom-qpc-models.s3-website-us-east-1.amazonaws.com/QPC/1.20.4/Llama-3.2-11B-Vision-Instruct/ Este hipervínculo lo redirige a un sitio web fuera de Dell Technologies.
    Llama 3.2 Instruir LlamaForCausalLM meta-llama/Llama-3.2-1B-Instruir Modelo de lenguaje de solo texto 1.20.4 QEFFAutoModelForCausalLM Generación de texto http:qualcom-qpc-models.s3-website-us-east-1.amazonaws.com/QPC/1.20.4/Llama-3.2-1B-Instruct/ Este hipervínculo lo redirige a un sitio web fuera de Dell Technologies.
    Llama 3.x LlamaForCausalLM Destino: Meta-Llama-3.1-70B-Instruct-AWQ-INT4
    Borrador: Llama-3.2-1B-Instruir    		 Decodificación especulativa (SPD) 1.20.4 QEFFAutoModelForCausalLM Generación de texto http:qualcom-qpc-models.s3-website-us-east-1.amazonaws.com/QPC/1.20.4/spd/meta-llama/ Este hipervínculo lo redirige a un sitio web fuera de Dell Technologies.
    Llama 3.x LlamaForCausalLM Objetivo: casperhansen/llama-3.3-70b-instruct-awq
    Borrador: meta-llama/Llama-3.2-1B-Instruct    		 Decodificación especulativa (SPD) 1.20.4 QEFFAutoModelForCausalLM Generación de texto http:qualcom-qpc-models.s3-website-us-east-1.amazonaws.com/QPC/1.20.4/spd/llama33-70b-awq__draft-llama32-1b/ Este hipervínculo lo redirige a un sitio web fuera de Dell Technologies.
    Mistral MistralForCausalLM mistralai/mistral-7B-Instruct-v0.1 Modelo de lenguaje de solo texto 1.20.4 QEFFAutoModelForCausalLM Generación de texto http:qualcom-qpc-models.s3-website-us-east-1.amazonaws.com/QPC/1.20.4/Mistral-7B-Instruct-v0.1/ Este hipervínculo lo redirige a un sitio web fuera de Dell Technologies.
    Phi-4 Phi3ForCausalLM Microsoft/PHI-4 Modelo de lenguaje de solo texto 1.20.4 QEFFAutoModelForCausalLM Generación de texto http:qualcom-qpc-models.s3-website-us-east-1.amazonaws.com/QPC/1.20.4/phi-4/ Este hipervínculo lo redirige a un sitio web fuera de Dell Technologies.
    Qwen3 Qwen3Moe Qwen/Qwen3-30B-A3B-Instruct-2507 Modelo de lenguaje de solo texto 1.20.4 QEFFAutoModelForCausalLM Generación de texto http:qualcom-qpc-models.s3-website-us-east-1.amazonaws.com/QPC/1.20.4/Qwen3-30B-A3B-Instruct-2507/ Este hipervínculo lo redirige a un sitio web fuera de Dell Technologies.
    Codificador Qwen3 Qwen3Moe Qwen/Qwen3-Coder-30B-A3B-Instruct Modelo de lenguaje de solo texto 1.20.4 QEFFAutoModelForCausalLM Generación de código http:qualcom-qpc-models.s3-website-us-east-1.amazonaws.com/QPC/1.20.4/Qwen3-Coder-30B-A3B-Instruct/ Este hipervínculo lo redirige a un sitio web fuera de Dell Technologies.
    Sarvamai Sarvamai Sarvamai/Sarvam-1 Modelo de lenguaje de solo texto 1.20.4 QEFFAutoModelForCausalLM Generación de texto Enfoque en el idioma indio http:qualcom-qpc-models.s3-website-us-east-1.amazonaws.com/QPC/1.20.4/sarvam-1/ Este hipervínculo lo redirige a un sitio web fuera de Dell Technologies.
    SDXL Stable DiffusionForTextToImage EstabilidadAI/Difusión estable-XL-base-1.0 Modelo de lenguaje multimodal 1.20.4 AutoPipelineForText2Image Modelos de lenguaje-visión (generación de texto + imagen) http:qualcom-qpc-models.s3-website-us-east-1.amazonaws.com/QPC/1.20.4/stable-diffusion-xl-base-1.0/ Este hipervínculo lo redirige a un sitio web fuera de Dell Technologies.
    SDXL Turbo Stable DiffusionForTextToImage EstabilidadAI/SDXL-Turbo Modelo de lenguaje multimodal 1.20.4 AutoPipelineForText2Image Modelos de lenguaje-visión (generación de texto + imagen) http:qualcom-qpc-models.s3-website-us-east-1.amazonaws.com/QPC/1.20.4/sdxl_turbo/ Este hipervínculo lo redirige a un sitio web fuera de Dell Technologies.
    Susurro Susurro OpenAI/Whisper-Base Modelo de audio 1.20.4 QEFFAutoModelForSpeechSeq2Seq Reconocimiento automático de voz (transcripción) http:qualcom-qpc-models.s3-website-us-east-1.amazonaws.com/QPC/1.20.4/whisper-base/ Este hipervínculo lo redirige a un sitio web fuera de Dell Technologies.
    Susurro Susurro openai/whisper-large-v3-turbo Modelo de audio 1.20.4 QEFFAutoModelForSpeechSeq2Seq Reconocimiento automático de voz (transcripción) http:qualcom-qpc-models.s3-website-us-east-1.amazonaws.com/QPC/1.20.4/whisper-large-v3-turbo/ Este hipervínculo lo redirige a un sitio web fuera de Dell Technologies.
    Susurro Susurro OpenAI/Whisper-Large Modelo de audio 1.20.4 QEFFAutoModelForSpeechSeq2Seq Reconocimiento automático de voz (transcripción) http:qualcom-qpc-models.s3-website-us-east-1.amazonaws.com/QPC/1.20.4/whisper-large/ Este hipervínculo lo redirige a un sitio web fuera de Dell Technologies.
    Susurro Susurro OpenAI/Whisper-Medium Modelo de audio 1.20.4 QEFFAutoModelForSpeechSeq2Seq Reconocimiento automático de voz (transcripción) http:qualcom-qpc-models.s3-website-us-east-1.amazonaws.com/QPC/1.20.4/whisper-medium/ Este hipervínculo lo redirige a un sitio web fuera de Dell Technologies.
    Susurro Susurro OpenAI/Whisper-Small Modelo de audio 1.20.4 QEFFAutoModelForSpeechSeq2Seq Reconocimiento automático de voz (transcripción) http:qualcom-qpc-models.s3-website-us-east-1.amazonaws.com/QPC/1.20.4/whisper-small/ Este hipervínculo lo redirige a un sitio web fuera de Dell Technologies.
    Susurro Susurro openai-susurro-pequeño Modelo de audio 1.20.4 QEFFAutoModelForSpeechSeq2Seq Reconocimiento automático de voz (transcripción) http:qualcom-qpc-models.s3-website-us-east-1.amazonaws.com/QPC/1.20.4/whisper-tiny/ Este hipervínculo lo redirige a un sitio web fuera de Dell Technologies.
    XLM-RoBERTa XLMRobertaModelo Intfloat/multilingüe E5-grande Incorporación del modelo 1.20.4 QEFFAutoModel Incrustación de texto http:qualcom-qpc-models.s3-website-us-east-1.amazonaws.com/QPC/1.20.4/multilingual-e5-large/ Este hipervínculo lo redirige a un sitio web fuera de Dell Technologies.
    XLM-RoBERTa XLMRobertaModelo Intfloat/multilingüe-E5-pequeño Incorporación del modelo 1.19.6 QEFFAutoModel Incrustación de texto http:qualcom-qpc-models.s3-website-us-east-1.amazonaws.com/QPC/1.19.6/multilingual-e5-small/ Este hipervínculo lo redirige a un sitio web fuera de Dell Technologies.


Volver al principio

Affected Products

Dell Pro Max 16 Plus MB16250
Article Properties
Article Number: 000393093
Article Type: How To
Last Modified: 24 May 2026
Version:  9
Find answers to your questions from other Dell users
Support Services
Check if your device is covered by Support Services.