Error de OneFS al intentar utilizar la función de etiqueta de nodo YARN de Apache Hadoop (en inglés)

Resumen: Error de OneFS al intentar utilizar la función de etiqueta de nodo YARN de Apache Hadoop (en inglés)

Este artículo se aplica a Este artículo no se aplica a Este artículo no está vinculado a ningún producto específico. No se identifican todas las versiones del producto en este artículo.

Síntomas



Problema

Cuando se intenta utilizar la función de etiqueta de nodo de YARN de Apache Hadoop, la acción falla y OneFS genera un mensaje de error.


Síntomas

Cuando se intenta utilizar la característica de etiqueta de nodo de YARN con OneFS 7.2.1.x y Apache Hadoop 2.7, es posible que los usuarios reciban un -appendToFile: Mensaje de error interno irrecuperable.
 

Environment

OneFS 7.2.1.x y Hadoop 2.7

Causa

Causa

De manera predeterminada, Hadoop almacena la información de la etiqueta del nodo en un directorio del clúster de HDFS.  Isilon OneFS 7.2.1.x no reconoce el parámetro appendtofile enviado desde Hadoop 2.7 y puede generar errores cuando los usuarios intentan usar la característica de etiqueta de nodo de YARN.

Resolución


Solución

Para resolver este problema, realice una de las siguientes acciones:
  • OneFS 7.2.1.2

    • Implemente la solución alternativa que se proporciona a continuación
  • OneFS 7.2.1.1

    • Aplique primero el parche 164059 y, a continuación, implemente la solución alternativa que se proporciona a continuación

Solución alternativa

Implemente la siguiente solución alternativa para crear y usar manualmente un directorio de etiquetas de nodo de YARN que resida en el clúster de OneFS en lugar del clúster de HDFS.  Nota: Si ejecutó el script de isilon_hadoop_tools en GitHub, no es necesario seguir esta solución alternativa, ya que el script crea automáticamente el directorio correcto y otorga permisos al directorio.

Paso 1. Preparar OneFS para almacenar la información de la etiqueta del nodo
Realice los siguientes pasos en el clúster de OneFS.
Nota: En el siguiente procedimiento, HDFS_ROOT_DIR hace referencia al directorio raíz de HDFS en el clúster de OneFS.

  1. Cree el nuevo directorio en OneFS para alojar el almacén de etiquetas de nodos.
    • mkdir -p HDFS_ROOT_DIR/sistema/yarn/etiquetas-de-nodo
  2. Confirme que el hilo de usuario exista. Nota: Si aún no ha creado un usuario llamado yarn , cree uno ahora.  Para obtener información sobre la creación de usuarios, consulte la sección Administración de usuarios y grupos locales de la Guía de administración de la CLI de Isilon OneFS.
    • Lista de usuarios de isi auth
  3. Haga que el usuario yarn sea el propietario del nuevo directorio.
    • Hilo Chown HDFS_ROOT_DIR/sistema/hilo/etiquetas de nodo
  4. Cambie el nivel de permisos del directorio para permitir que el propietario lea, escriba y ejecute.
    • CHMOD 700 HDFS_ROOT_DIR/system/yarn/node-labels
 
(Opcional) Paso 2: Apache Hadoop directo para almacenar la información de la etiqueta del nodo en OneFS
Realice los siguientes pasos en el clúster de HDFS.
  1. Mediante un navegador, inicie sesión en Ambari Manager en el clúster HDFS.
  2. En el banner superior del panel de Ambari, haga clic en Services.
  3. En el panel izquierdo, haga clic en YARN.
  4. Haga clic en la pestaña Configs .
  5. Haga clic en la pestaña Configuración .
  6. En YARN Features, confirme que las etiquetas de nodo estén habilitadas.
  7. Haga clic en Guardar.
  8. Haga clic en la pestaña Opciones avanzadas .
  9. Expanda la sección Yarn-site avanzado.
  10. En el campo yarn.node-labels.fs-store.root-dir , confirme que la opción predeterminada /system/yarn/node-labels aparezca en la lista.
  11. Haga clic en Guardar.

Información adicional

Información

adicionalInformación de Apache sobre el problema de Hadoop 2.7:


issues.apache.org/jira/browse/HDFS-9290Documentación de Apache sobre cómo usar la función de etiqueta de nodo de Yarn:


hadoop.apache.org/docs/stable/hadoop-yarn/hadoop-yarn-site/NodeLabel.htmlDocumentación de Hortonworks sobre cómo usar la función de etiqueta de nodo de Yarn:
docs.hortonworks.com/HDPDocuments/HDP2/HDP-2.4.2/bk_yarn_resource_mgt/content/ch_node_labels.html  

Productos afectados

Isilon

Productos

Isilon
Propiedades del artículo
Número del artículo: 000052203
Tipo de artículo: Solution
Última modificación: 26 mar 2025
Versión:  4
Encuentre respuestas a sus preguntas de otros usuarios de Dell
Servicios de soporte
Compruebe si el dispositivo está cubierto por los servicios de soporte.