Попытки OneFS использовать функцию метки узла YARN Apache Hadoop завершаются сбоем
Сводка: Попытки OneFS использовать функцию метки узла YARN Apache Hadoop завершаются сбоем
Данная статья применяется к
Данная статья не применяется к
Эта статья не привязана к какому-либо конкретному продукту.
В этой статье указаны не все версии продуктов.
Симптомы
Проблема |
При попытке использовать функцию метки узла YARN Apache Hadoop действие завершается сбоем и OneFS создает сообщение об ошибке.
При попытке использовать функцию метки узла YARN с OneFS 7.2.1.x и Apache Hadoop 2.7 пользователи могут получить сообщение -appendToFile: Сообщение о неустранимой внутренней ошибке. |
Среда |
| OneFS 7.2.1.x и Hadoop 2.7 |
Причина
Причина
По умолчанию Hadoop хранит информацию о метках узлов в каталоге кластера HDFS. Isilon OneFS 7.2.1.x не распознает параметр appendtofile, отправленный из Hadoop 2.7, и может генерировать ошибки, когда пользователи пытаются использовать функцию метки узла YARN.Разрешение
Решение
Чтобы решить эту проблему, выполните одно из следующих действий.
-
OneFS 7.2.1.2
- Примените временное решение, указанное ниже
-
OneFS 7.2.1.1
- Сначала примените исправление 164059, а затем реализуйте временное решение, указанное ниже
Временное решение
Реализуйте следующее временное решение, чтобы вручную создать и использовать каталог меток узла YARN, который находится в кластере OneFS, а не в кластере HDFS. Примечание. Если вы запустили сценарий isilon_hadoop_tools на GitHub, вам не нужно следовать этому временному решению, так как скрипт автоматически создает и разрешает правильный каталог
.Шаг 1. Подготовка OneFS для хранения информации о
метках узловВыполните следующие действия в кластере OneFS.
Примечание: В следующей процедуре HDFS_ROOT_DIR ссылается на корневой каталог HDFS в кластере OneFS.
- Создайте новый каталог в OneFS для размещения хранилища меток узлов.
- mkdir -p HDFS_ROOT_DIR/система/ярн/метки-узлов
- Убедитесь, что пользовательская пряжа существует. Примечание: Если вы еще не создали пользователя с именем yarn, создайте его сейчас. Сведения о создании пользователей см. в разделе Управление локальными пользователями и группами руководства по администрированию Isilon OneFS CLI.
- Список пользователей аутентификации ISI
- Сделайте пользователя yarn владельцем нового каталога.
- Пряжа Chown HDFS_ROOT_DIR/система/пряжа/узлы-метки
- Измените уровень разрешений каталога, чтобы разрешить владельцу чтение, запись и выполнение.
- chmod 700 HDFS_ROOT_DIR/система/пряжа/метки узлов
(Дополнительный) Шаг 2: Направьте Apache Hadoop для хранения информации о метках узлов в OneFS
Выполните следующие действия в кластере HDFS.
- В браузере войдите в Ambari Manager в кластере HDFS.
- В верхнем баннере панели управления Ambari нажмите Services.
- На левой панели нажмите YARN.
- Перейдите на вкладку Конфигурации .
- Перейдите на вкладку Настройки .
- Убедитесь, что в разделе Функции YARN для меток узлов установлено значение Включено.
- Нажмите Save.
- Перейдите на вкладку Дополнительно .
- Разверните раздел Расширенный сайт пряжи.
- Убедитесь, что в поле yarn.node-labels.fs-store.root-dir указан параметр /system/yarn/node-labels по умолчанию.
- Нажмите Save.
Дополнительная информация
Дополнительная информация
Информация Apache о проблеме с Hadoop 2.7:
issues.apache.org/jira/browse/HDFS-9290Документация Apache о том, как использовать функцию метки узла Yarn:
hadoop.apache.org/docs/stable/hadoop-yarn/hadoop-yarn-site/NodeLabel.htmlДокументация Hortonworks о том, как использовать функцию метки узла Yarn:
docs.hortonworks.com/HDPDocuments/HDP2/HDP-2.4.2/bk_yarn_resource_mgt/content/ch_node_labels.html
Информация Apache о проблеме с Hadoop 2.7:
issues.apache.org/jira/browse/HDFS-9290Документация Apache о том, как использовать функцию метки узла Yarn:
hadoop.apache.org/docs/stable/hadoop-yarn/hadoop-yarn-site/NodeLabel.htmlДокументация Hortonworks о том, как использовать функцию метки узла Yarn:
docs.hortonworks.com/HDPDocuments/HDP2/HDP-2.4.2/bk_yarn_resource_mgt/content/ch_node_labels.html
Затронутые продукты
IsilonПродукты
IsilonСвойства статьи
Номер статьи: 000052203
Тип статьи: Solution
Последнее изменение: 26 Mar 2025
Версия: 4
Получите ответы на свои вопросы от других пользователей Dell
Услуги технической поддержки
Проверьте, распространяются ли на ваше устройство услуги технической поддержки.