¿Qué es DistCp en Hadoop?
¿Qué es DistCp en Hadoop?

Video: ¿Qué es DistCp en Hadoop?

Video: ¿Qué es DistCp en Hadoop?
Video: Hadoop Certification - HDPCA - Copy data between two clusters using distcp 2024, Noviembre
Anonim

DistCp (copia distribuida) es una herramienta que se utiliza para realizar copias grandes entre clústeres o dentro de un clúster. Usa Mapa reducido para efectuar su distribución, manejo y recuperación de errores e informes. Expande una lista de archivos y directorios en la entrada para asignar tareas, cada una de las cuales copiará una partición de los archivos especificados en la lista de origen.

De manera similar, uno puede preguntarse, ¿Distcp sobrescribe?

También debería elaborar algunos y explicar que distcp - Sobrescribir voluntad Sobrescribir el archivo sin importar si el tamaño coincide o no. Esto actualizará todos los archivos en hdfs-nn2 que no coincidan en tamaño con hdfs-nn1, así como también eliminará cualquier archivo extraño.

Del mismo modo, ¿qué es el comando Hadoop FS? El sistema de archivos ( FS ) la cáscara incluye varias conchas comandos que interactúan directamente con el Hadoop Sistema de archivos distribuido ( HDFS ) así como otros sistemas de archivos que Hadoop apoyos, como Local FS , HFTP FS , S3 FS , y otros.

De esta forma, ¿cómo transfiero datos de un Hdfs a otro Hdfs?

Hadoop fs cp - El más fácil forma de copiar datos de uno directorio de origen a otro . Utilizar el hadoop fs -cp [origen] [destino]. Hadoop fs copyFromLocal - Necesita copiar datos desde el sistema de archivos local a HDFS ? Utilizar el hadoop fs -copyFromLocal [origen] [destino].

¿Cómo copio un clúster de un clúster a otro?

Copiando documentos Entre racimos . Usted puede copiar archivos o directorios entre diferentes racimos utilizando el comando hadoop distcp. Debes incluir una credencial expediente en tus Copiar solicite así la fuente grupo puede validar que está autenticado en la fuente grupo y el objetivo grupo.

Recomendado: