Чтение файла с использованием карты уменьшить в hadoop

Question

Я пытаюсь написать код Java в форме уменьшения карты, который он запускал в Eclipse, но когда я пытаюсь реализовать на карте уменьшить форму, я получаю эту ошибку, пожалуйста, помогите мне, что делает эта ошибка, и как исправить это

16/07/15 14:05:17 INFO Configuration.deprecation: session.id is deprecated. Instead, use dfs.metrics.session-id 
16/07/15 14:05:17 INFO jvm.JvmMetrics: Initializing JVM Metrics with processName=JobTracker, sessionId= 
16/07/15 14:05:17 INFO jvm.JvmMetrics: Cannot initialize JVM Metrics with processName=JobTracker, sessionId= - already initialized 
16/07/15 14:05:18 WARN mapreduce.JobSubmitter: Hadoop command-line option parsing not performed. Implement the Tool interface and execute your application with ToolRunner to remedy this. 
16/07/15 14:05:18 INFO mapred.FileInputFormat: Total input paths to process : 2 
16/07/15 14:05:18 INFO mapreduce.JobSubmitter: Cleaning up the staging area file:/app/hadoop/tmp/mapred/staging/hadoop1148163758/.staging/job_local1148163758_0001 
Exception in thread "main" java.io.IOException: Not a file: hdfs://localhost:54310/TcTest/NewTest 
    at org.apache.hadoop.mapred.FileInputFormat.getSplits(FileInputFormat.java:320) 
    at org.apache.hadoop.mapreduce.JobSubmitter.writeOldSplits(JobSubmitter.java:624) 
    at org.apache.hadoop.mapreduce.JobSubmitter.writeSplits(JobSubmitter.java:616) 
    at org.apache.hadoop.mapreduce.JobSubmitter.submitJobInternal(JobSubmitter.java:492) 
    at org.apache.hadoop.mapreduce.Job$10.run(Job.java:1296) 
    at org.apache.hadoop.mapreduce.Job$10.run(Job.java:1293) 
    at java.security.AccessController.doPrivileged(Native Method) 
    at javax.security.auth.Subject.doAs(Subject.java:415) 
    at org.apache.hadoop.security.UserGroupInformation.doAs(UserGroupInformation.java:1628) 
    at org.apache.hadoop.mapreduce.Job.submit(Job.java:1293) 
    at org.apache.hadoop.mapred.JobClient$1.run(JobClient.java:562) 
    at org.apache.hadoop.mapred.JobClient$1.run(JobClient.java:557) 
    at java.security.AccessController.doPrivileged(Native Method) 
    at javax.security.auth.Subject.doAs(Subject.java:415) 
    at org.apache.hadoop.security.UserGroupInformation.doAs(UserGroupInformation.java:1628) 
    at org.apache.hadoop.mapred.JobClient.submitJobInternal(JobClient.java:557) 
    at org.apache.hadoop.mapred.JobClient.submitJob(JobClient.java:548) 
    at org.apache.hadoop.mapred.JobClient.runJob(JobClient.java:833) 
    at TextClassification.run(TextClassification.java:38) 
    at org.apache.hadoop.util.ToolRunner.run(ToolRunner.java:70) 
    at TextClassification.main(TextClassification.java:43) 
    at sun.reflect.NativeMethodAccessorImpl.invoke0(Native Method) 
    at sun.reflect.NativeMethodAccessorImpl.invoke(NativeMethodAccessorImpl.java:57) 
    at sun.reflect.DelegatingMethodAccessorImpl.invoke(DelegatingMethodAccessorImpl.java:43) 
    at java.lang.reflect.Method.invoke(Method.java:606) 
    at org.apache.hadoop.util.RunJar.run(RunJar.java:221) 
    at org.apache.hadoop.util.RunJar.main(RunJar.java:136) 

Answer 1

Необходимо указать полный путь входного файла в качестве аргументов вашей программы. Щелкните правой кнопкой мыши по программе -> Конфигурации запуска -> Аргументы

Перед этим вам нужно добавить несколько файлов jar из папки hadoop-version/share/hadoop. Вы можете обратиться к приведенному ниже блогу, чтобы получить подробную информацию о том, как запустить программу уменьшения карты через eclipse в локальном режиме.

https://acadgild.com/blog/running-mapreduce-in-local-mode-2/