Попытки OneFS использовать функцию метки узла YARN Apache Hadoop завершаются сбоем

Сводка: Попытки OneFS использовать функцию метки узла YARN Apache Hadoop завершаются сбоем

Данная статья применяется к Данная статья не применяется к Эта статья не привязана к какому-либо конкретному продукту. В этой статье указаны не все версии продуктов.

Симптомы



Проблема

При попытке использовать функцию метки узла YARN Apache Hadoop действие завершается сбоем и OneFS создает сообщение об ошибке.


Симптомы

При попытке использовать функцию метки узла YARN с OneFS 7.2.1.x и Apache Hadoop 2.7 пользователи могут получить сообщение -appendToFile: Сообщение о неустранимой внутренней ошибке.
 

Среда

OneFS 7.2.1.x и Hadoop 2.7

Причина

Причина

По умолчанию Hadoop хранит информацию о метках узлов в каталоге кластера HDFS.  Isilon OneFS 7.2.1.x не распознает параметр appendtofile, отправленный из Hadoop 2.7, и может генерировать ошибки, когда пользователи пытаются использовать функцию метки узла YARN.

Разрешение


Решение

Чтобы решить эту проблему, выполните одно из следующих действий.
  • OneFS 7.2.1.2

    • Примените временное решение, указанное ниже
  • OneFS 7.2.1.1

    • Сначала примените исправление 164059, а затем реализуйте временное решение, указанное ниже

Временное решение

Реализуйте следующее временное решение, чтобы вручную создать и использовать каталог меток узла YARN, который находится в кластере OneFS, а не в кластере HDFS.  Примечание. Если вы запустили сценарий isilon_hadoop_tools на GitHub, вам не нужно следовать этому временному решению, так как скрипт автоматически создает и разрешает правильный каталог

.Шаг 1. Подготовка OneFS для хранения информации о
метках узловВыполните следующие действия в кластере OneFS.
Примечание: В следующей процедуре HDFS_ROOT_DIR ссылается на корневой каталог HDFS в кластере OneFS.

  1. Создайте новый каталог в OneFS для размещения хранилища меток узлов.
    • mkdir -p HDFS_ROOT_DIR/система/ярн/метки-узлов
  2. Убедитесь, что пользовательская пряжа существует. Примечание: Если вы еще не создали пользователя с именем yarn, создайте его сейчас.  Сведения о создании пользователей см. в разделе Управление локальными пользователями и группами руководства по администрированию Isilon OneFS CLI.
    • Список пользователей аутентификации ISI
  3. Сделайте пользователя yarn владельцем нового каталога.
    • Пряжа Chown HDFS_ROOT_DIR/система/пряжа/узлы-метки
  4. Измените уровень разрешений каталога, чтобы разрешить владельцу чтение, запись и выполнение.
    • chmod 700 HDFS_ROOT_DIR/система/пряжа/метки узлов
 
(Дополнительный) Шаг 2: Направьте Apache Hadoop для хранения информации о метках узлов в OneFS
Выполните следующие действия в кластере HDFS.
  1. В браузере войдите в Ambari Manager в кластере HDFS.
  2. В верхнем баннере панели управления Ambari нажмите Services.
  3. На левой панели нажмите YARN.
  4. Перейдите на вкладку Конфигурации .
  5. Перейдите на вкладку Настройки .
  6. Убедитесь, что в разделе Функции YARN для меток узлов установлено значение Включено.
  7. Нажмите Save.
  8. Перейдите на вкладку Дополнительно .
  9. Разверните раздел Расширенный сайт пряжи.
  10. Убедитесь, что в поле yarn.node-labels.fs-store.root-dir указан параметр /system/yarn/node-labels по умолчанию.
  11. Нажмите Save.

Дополнительная информация

Дополнительная информация

Информация Apache о проблеме с Hadoop 2.7:


issues.apache.org/jira/browse/HDFS-9290Документация Apache о том, как использовать функцию метки узла Yarn:


hadoop.apache.org/docs/stable/hadoop-yarn/hadoop-yarn-site/NodeLabel.htmlДокументация Hortonworks о том, как использовать функцию метки узла Yarn:
docs.hortonworks.com/HDPDocuments/HDP2/HDP-2.4.2/bk_yarn_resource_mgt/content/ch_node_labels.html  

Затронутые продукты

Isilon

Продукты

Isilon
Свойства статьи
Номер статьи: 000052203
Тип статьи: Solution
Последнее изменение: 26 Mar 2025
Версия:  4
Получите ответы на свои вопросы от других пользователей Dell
Услуги технической поддержки
Проверьте, распространяются ли на ваше устройство услуги технической поддержки.