OneFS가 Apache Hadoop YARN 노드 레이블 기능 사용을 시도하나 실패함(영문)
요약: OneFS가 Apache Hadoop YARN 노드 레이블 기능 사용을 시도하나 실패함(영문)
이 문서는 다음에 적용됩니다.
이 문서는 다음에 적용되지 않습니다.
이 문서는 특정 제품과 관련이 없습니다.
모든 제품 버전이 이 문서에 나와 있는 것은 아닙니다.
증상
문제 |
Apache Hadoop YARN 노드 레이블 기능을 사용하려고 하면 작업이 실패하고 OneFS에서 오류 메시지가 생성됩니다.
OneFS 7.2.1.x 및 Apache Hadoop 2.7에서 YARN 노드 레이블 기능을 사용하려고 하면 사용자에게 -appendToFile: 치명적인 내부 오류 메시지입니다. |
환경 |
| OneFS 7.2.1.x 및 Hadoop 2.7 |
원인
원인
기본적으로 Hadoop은 노드 레이블 정보를 HDFS 클러스터의 디렉토리에 저장합니다. Isilon OneFS 7.2.1.x는 Hadoop 2.7에서 전송된 appendtofile 매개변수를 인식하지 못하며 사용자가 YARN 노드 레이블 기능을 사용하려고 할 때 오류가 발생할 수 있습니다.해결
해결 방법
이 문제를 해결하려면 다음 중 하나를 수행합니다.
-
OneFS 7.2.1.2
- 아래에 제공된 해결 방법을 구현합니다.
-
OneFS 7.2.1.1
- 패치-164059를 먼저 적용한 후 아래에 제공된 해결 방법을 구현합니다.
해결 방법
HDFS 클러스터가 아닌 OneFS 클러스터에 상주하는 YARN 노드 레이블 디렉토리를 수동으로 생성하고 사용하려면 다음 해결 방법을 구현합니다. 참고: GitHub에서 isilon_hadoop_tools 스크립트를 실행한 경우 스크립트가 올바른 디렉터리를 자동으로 만들고 사용 권한을 부여하므로 이 해결 방법을 따를 필요가 없습니다.
1 단계. 노드 레이블 정보를
저장할 OneFS 준비OneFS 클러스터에서 다음 단계를 수행합니다.
참고: 다음 절차에서 HDFS_ROOT_DIR는 OneFS 클러스터의 HDFS 루트 디렉토리를 참조합니다.
- OneFS에서 노드 레이블 저장소를 호스팅할 새 디렉토리를 생성합니다.
- mkdir -p HDFS_ROOT_DIR/system/yarn/노드 레이블
- 사용자 yarn이 존재하는지 확인합니다. 참고: yarn 이라는 사용자를 아직 만들지 않았다면 지금 만듭니다. 사용자 생성에 대한 자세한 내용은 Isilon OneFS CLI 관리 가이드의 로컬 사용자 및 그룹 관리 섹션을 참조하십시오.
- ISI 인증 사용자 목록
- 사용자 yarn을 새 디렉터리의 소유자로 만듭니다.
- chown 원사 HDFS_ROOT_DIR/system/yarn/node-labels
- 소유자가 읽고, 쓰고, 실행할 수 있도록 디렉토리의 사용 권한 수준을 변경합니다.
- chmod 700 HDFS_ROOT_DIR/system/yarn/node-labels
(선택 사항) 2 단계 : Apache Hadoop이 OneFS에 노드 레이블 정보를 저장하도록 지시
HDFS 클러스터에서 다음 단계를 수행합니다.
- 브라우저를 사용하여 HDFS 클러스터의 Ambari Manager에 로그온합니다.
- Ambari 대시보드의 상단 배너에서 Services를 클릭합니다.
- 왼쪽 패널에서 YARN을 클릭합니다.
- 구성 탭을 클릭합니다.
- Settings 탭을 클릭합니다.
- YARN Features(YARN 기능)에서 노드 레이블이 Enabled(활성화됨)인지 확인합니다.
- Save를 클릭합니다.
- Advanced 탭을 클릭합니다.
- Advanced yarn-site 섹션을 확장합니다.
- yarn.node-labels.fs-store.root-dir 필드에서 기본 /system/yarn/node-labels 가 나열되어 있는지 확인합니다.
- Save를 클릭합니다.
추가 정보
추가 정보
Hadoop 2.7 문제에 대한 Apache 정보:
issues.apache.org/jira/browse/HDFS-9290Yarn의 노드 레이블 기능을 사용하는 방법에 대한 Apache 설명서:
hadoop.apache.org/docs/stable/hadoop-yarn/hadoop-yarn-site/NodeLabel.htmlYarn의 노드 레이블 기능을 사용하는 방법에 대한 Hortonworks 설명서:
docs.hortonworks.com/HDPDocuments/HDP2/HDP-2.4.2/bk_yarn_resource_mgt/content/ch_node_labels.html
Hadoop 2.7 문제에 대한 Apache 정보:
issues.apache.org/jira/browse/HDFS-9290Yarn의 노드 레이블 기능을 사용하는 방법에 대한 Apache 설명서:
hadoop.apache.org/docs/stable/hadoop-yarn/hadoop-yarn-site/NodeLabel.htmlYarn의 노드 레이블 기능을 사용하는 방법에 대한 Hortonworks 설명서:
docs.hortonworks.com/HDPDocuments/HDP2/HDP-2.4.2/bk_yarn_resource_mgt/content/ch_node_labels.html
해당 제품
Isilon제품
Isilon문서 속성
문서 번호: 000052203
문서 유형: Solution
마지막 수정 시간: 26 3월 2025
버전: 4
다른 Dell 사용자에게 질문에 대한 답변 찾기
지원 서비스
디바이스에 지원 서비스가 적용되는지 확인하십시오.