/ / Tachyon su GCE Instance Errore UnderFS - scala, apache-spark, google-compute-engine, tachyon

Tachyon su GCE Instance Errore UnderFS - scala, apache-spark, google-compute-engine, tachyon

Quando si esegue un semplice esempio, ottengo questo errore.

Ho provato a cambiare i permessi e ho usato diverse directory.

Caused by: java.io.IOException: FailedToCheckpointException(message:Failed to rename /home/bryan/tachyon-0.7.1/underFSStorage/tmp/tachyon/workers/1445054000001/3/8 to /home/bryan/tachyon-0.7.1/underFSStorage/tmp/tachyon/data/8)
at tachyon.worker.WorkerClient.addCheckpoint(WorkerClient.java:130)
at tachyon.client.TachyonFS.addCheckpoint(TachyonFS.java:228)
at tachyon.client.FileOutStream.close(FileOutStream.java:105)

Qualche idea?

La mia risposta qui sotto non risolve questo problema. È solo un soluzione alternativa che utilizza HDFS come UnderFS.

La mia configurazione qui utilizza il file system locale:

export TACHYON_UNDERFS_ADDRESS=$TACHYON_HOME/underFSStorage

risposte:

0 per risposta № 1

Ho superato questo errore controllando prima la mia versione di Hadoop:

hadoop version
> Hadoop 2.7.1

Quindi compilando Tachyon per Hadoop 2.7.0: (per 2.7.1 non sarebbe compilato)

mvn -Dhadoop.version=2.7.0 clean install

E l'impostazione TACHYON_UNDERFS_ADDRESS a un indirizzo HDFS locale:

nano conf/tachyon-env.sh
export TACHYON_UNDERFS_ADDRESS=hdfs://my-cluster-m:8020

Questo porta a un altro problema che potrebbe influire su di te (se si esegue un nodo singolo):

Tachyon su Dataproc Master Replication Error