OneFS가 Apache Hadoop YARN 노드 레이블 기능 사용을 시도하나 실패함(영문)

요약: OneFS가 Apache Hadoop YARN 노드 레이블 기능 사용을 시도하나 실패함(영문)

이 문서는 다음에 적용됩니다. 이 문서는 다음에 적용되지 않습니다. 이 문서는 특정 제품과 관련이 없습니다. 모든 제품 버전이 이 문서에 나와 있는 것은 아닙니다.

증상



문제

Apache Hadoop YARN 노드 레이블 기능을 사용하려고 하면 작업이 실패하고 OneFS에서 오류 메시지가 생성됩니다.


증상

OneFS 7.2.1.x 및 Apache Hadoop 2.7에서 YARN 노드 레이블 기능을 사용하려고 하면 사용자에게 -appendToFile: 치명적인 내부 오류 메시지입니다.
 

환경

OneFS 7.2.1.x 및 Hadoop 2.7

원인

원인

기본적으로 Hadoop은 노드 레이블 정보를 HDFS 클러스터의 디렉토리에 저장합니다.  Isilon OneFS 7.2.1.x는 Hadoop 2.7에서 전송된 appendtofile 매개변수를 인식하지 못하며 사용자가 YARN 노드 레이블 기능을 사용하려고 할 때 오류가 발생할 수 있습니다.

해결


해결 방법

이 문제를 해결하려면 다음 중 하나를 수행합니다.
  • OneFS 7.2.1.2

    • 아래에 제공된 해결 방법을 구현합니다.
  • OneFS 7.2.1.1

    • 패치-164059를 먼저 적용한 후 아래에 제공된 해결 방법을 구현합니다.

해결 방법

HDFS 클러스터가 아닌 OneFS 클러스터에 상주하는 YARN 노드 레이블 디렉토리를 수동으로 생성하고 사용하려면 다음 해결 방법을 구현합니다.  참고: GitHub에서 isilon_hadoop_tools 스크립트를 실행한 경우 스크립트가 올바른 디렉터리를 자동으로 만들고 사용 권한을 부여하므로 이 해결 방법을 따를 필요가 없습니다.

1 단계. 노드 레이블 정보를
저장할 OneFS 준비OneFS 클러스터에서 다음 단계를 수행합니다.
참고: 다음 절차에서 HDFS_ROOT_DIR는 OneFS 클러스터의 HDFS 루트 디렉토리를 참조합니다.

  1. OneFS에서 노드 레이블 저장소를 호스팅할 새 디렉토리를 생성합니다.
    • mkdir -p HDFS_ROOT_DIR/system/yarn/노드 레이블
  2. 사용자 yarn이 존재하는지 확인합니다. 참고: yarn 이라는 사용자를 아직 만들지 않았다면 지금 만듭니다.  사용자 생성에 대한 자세한 내용은 Isilon OneFS CLI 관리 가이드의 로컬 사용자 및 그룹 관리 섹션을 참조하십시오.
    • ISI 인증 사용자 목록
  3. 사용자 yarn을 새 디렉터리의 소유자로 만듭니다.
    • chown 원사 HDFS_ROOT_DIR/system/yarn/node-labels
  4. 소유자가 읽고, 쓰고, 실행할 수 있도록 디렉토리의 사용 권한 수준을 변경합니다.
    • chmod 700 HDFS_ROOT_DIR/system/yarn/node-labels
 
(선택 사항) 2 단계 : Apache Hadoop이 OneFS에 노드 레이블 정보를 저장하도록 지시
HDFS 클러스터에서 다음 단계를 수행합니다.
  1. 브라우저를 사용하여 HDFS 클러스터의 Ambari Manager에 로그온합니다.
  2. Ambari 대시보드의 상단 배너에서 Services를 클릭합니다.
  3. 왼쪽 패널에서 YARN을 클릭합니다.
  4. 구성 탭을 클릭합니다.
  5. Settings 탭을 클릭합니다.
  6. YARN Features(YARN 기능)에서 노드 레이블이 Enabled(활성화됨)인지 확인합니다.
  7. Save를 클릭합니다.
  8. Advanced 탭을 클릭합니다.
  9. Advanced yarn-site 섹션을 확장합니다.
  10. yarn.node-labels.fs-store.root-dir 필드에서 기본 /system/yarn/node-labels 가 나열되어 있는지 확인합니다.
  11. Save를 클릭합니다.

추가 정보

추가 정보

Hadoop 2.7 문제에 대한 Apache 정보:


issues.apache.org/jira/browse/HDFS-9290Yarn의 노드 레이블 기능을 사용하는 방법에 대한 Apache 설명서:


hadoop.apache.org/docs/stable/hadoop-yarn/hadoop-yarn-site/NodeLabel.htmlYarn의 노드 레이블 기능을 사용하는 방법에 대한 Hortonworks 설명서:
docs.hortonworks.com/HDPDocuments/HDP2/HDP-2.4.2/bk_yarn_resource_mgt/content/ch_node_labels.html  

해당 제품

Isilon

제품

Isilon
문서 속성
문서 번호: 000052203
문서 유형: Solution
마지막 수정 시간: 26 3월 2025
버전:  4
다른 Dell 사용자에게 질문에 대한 답변 찾기
지원 서비스
디바이스에 지원 서비스가 적용되는지 확인하십시오.