Error de OneFS al intentar utilizar la función de etiqueta de nodo YARN de Apache Hadoop (en inglés)
Resumen: Error de OneFS al intentar utilizar la función de etiqueta de nodo YARN de Apache Hadoop (en inglés)
Este artículo se aplica a
Este artículo no se aplica a
Este artículo no está vinculado a ningún producto específico.
No se identifican todas las versiones del producto en este artículo.
Síntomas
Problema |
Cuando se intenta utilizar la función de etiqueta de nodo de YARN de Apache Hadoop, la acción falla y OneFS genera un mensaje de error.
Cuando se intenta utilizar la característica de etiqueta de nodo de YARN con OneFS 7.2.1.x y Apache Hadoop 2.7, es posible que los usuarios reciban un -appendToFile: Mensaje de error interno irrecuperable. |
Environment |
| OneFS 7.2.1.x y Hadoop 2.7 |
Causa
Causa
De manera predeterminada, Hadoop almacena la información de la etiqueta del nodo en un directorio del clúster de HDFS. Isilon OneFS 7.2.1.x no reconoce el parámetro appendtofile enviado desde Hadoop 2.7 y puede generar errores cuando los usuarios intentan usar la característica de etiqueta de nodo de YARN.Resolución
Solución
Para resolver este problema, realice una de las siguientes acciones:
-
OneFS 7.2.1.2
- Implemente la solución alternativa que se proporciona a continuación
-
OneFS 7.2.1.1
- Aplique primero el parche 164059 y, a continuación, implemente la solución alternativa que se proporciona a continuación
Solución alternativa
Implemente la siguiente solución alternativa para crear y usar manualmente un directorio de etiquetas de nodo de YARN que resida en el clúster de OneFS en lugar del clúster de HDFS. Nota: Si ejecutó el script de isilon_hadoop_tools en GitHub, no es necesario seguir esta solución alternativa, ya que el script crea automáticamente el directorio correcto y otorga permisos al directorio.
Paso 1. Preparar OneFS para almacenar la información de la etiqueta del nodo
Realice los siguientes pasos en el clúster de OneFS.
Nota: En el siguiente procedimiento, HDFS_ROOT_DIR hace referencia al directorio raíz de HDFS en el clúster de OneFS.
- Cree el nuevo directorio en OneFS para alojar el almacén de etiquetas de nodos.
- mkdir -p HDFS_ROOT_DIR/sistema/yarn/etiquetas-de-nodo
- Confirme que el hilo de usuario exista. Nota: Si aún no ha creado un usuario llamado yarn , cree uno ahora. Para obtener información sobre la creación de usuarios, consulte la sección Administración de usuarios y grupos locales de la Guía de administración de la CLI de Isilon OneFS.
- Lista de usuarios de isi auth
- Haga que el usuario yarn sea el propietario del nuevo directorio.
- Hilo Chown HDFS_ROOT_DIR/sistema/hilo/etiquetas de nodo
- Cambie el nivel de permisos del directorio para permitir que el propietario lea, escriba y ejecute.
- CHMOD 700 HDFS_ROOT_DIR/system/yarn/node-labels
(Opcional) Paso 2: Apache Hadoop directo para almacenar la información de la etiqueta del nodo en OneFS
Realice los siguientes pasos en el clúster de HDFS.
- Mediante un navegador, inicie sesión en Ambari Manager en el clúster HDFS.
- En el banner superior del panel de Ambari, haga clic en Services.
- En el panel izquierdo, haga clic en YARN.
- Haga clic en la pestaña Configs .
- Haga clic en la pestaña Configuración .
- En YARN Features, confirme que las etiquetas de nodo estén habilitadas.
- Haga clic en Guardar.
- Haga clic en la pestaña Opciones avanzadas .
- Expanda la sección Yarn-site avanzado.
- En el campo yarn.node-labels.fs-store.root-dir , confirme que la opción predeterminada /system/yarn/node-labels aparezca en la lista.
- Haga clic en Guardar.
Información adicional
Información
adicionalInformación de Apache sobre el problema de Hadoop 2.7:
issues.apache.org/jira/browse/HDFS-9290Documentación de Apache sobre cómo usar la función de etiqueta de nodo de Yarn:
hadoop.apache.org/docs/stable/hadoop-yarn/hadoop-yarn-site/NodeLabel.htmlDocumentación de Hortonworks sobre cómo usar la función de etiqueta de nodo de Yarn:
docs.hortonworks.com/HDPDocuments/HDP2/HDP-2.4.2/bk_yarn_resource_mgt/content/ch_node_labels.html
adicionalInformación de Apache sobre el problema de Hadoop 2.7:
issues.apache.org/jira/browse/HDFS-9290Documentación de Apache sobre cómo usar la función de etiqueta de nodo de Yarn:
hadoop.apache.org/docs/stable/hadoop-yarn/hadoop-yarn-site/NodeLabel.htmlDocumentación de Hortonworks sobre cómo usar la función de etiqueta de nodo de Yarn:
docs.hortonworks.com/HDPDocuments/HDP2/HDP-2.4.2/bk_yarn_resource_mgt/content/ch_node_labels.html
Productos afectados
IsilonProductos
IsilonPropiedades del artículo
Número del artículo: 000052203
Tipo de artículo: Solution
Última modificación: 26 mar. 2025
Versión: 4
Encuentre respuestas a sus preguntas de otros usuarios de Dell
Servicios de soporte
Compruebe si el dispositivo está cubierto por los servicios de soporte.