Trouble Show使用Hadoop字数统计输出

hyrbngr7  于 2023-11-16  发布在  Hadoop
关注(0)|答案(1)|浏览(211)

我刚开始使用Hadoop,我想使用WordCount来执行Hadoop语法来计算单词。但是,为什么当我尝试显示输出时,它不会出现?我希望得到解释和帮助ex 1c 0d1x
yarn-site.xml设置:

<configuration>
<property>
    <name>yarn.nodemanager.aux-services</name>
    <value>mapreduce_shuffle</value>
</property>
<property>
    <name>yarn.nodemanager.aux-services.mapreduce.shuffle.class</name>
    <value>org.apache.hadoop.mapred.ShuffleHandler</value>
</property>
</configuration>

字符串
mapred-site.xml设置:

<configuration>
<property>
    <name>mapreduce.framework.name</name>
    <value>yarn</value>
</property>
</configuration>


注意:我使用Hadoop版本3.2.4

deyfvvtc

deyfvvtc1#

1.你有一个错误-/tmp不是一个有效的Windows路径,并且你的/tmp/hadoop-<username>值不是一个有效的Shell命令。你需要将core-site.xml中的hadoop.tmp.dir重写为一个有效的Windows路径,如file://c:/tmp_hadoop
1.我建议使用WSL 2,而不是CMD。Hadoop并不是真正设计用于在Windows上运行的。

  1. Mapreduce的执行运行在终端会话之外,在多个YARN容器中。有一个驱动程序(终端)和执行器(存储作业输出的地方)。
    您可以打开日志中的链接-The url to track the jobFor more detailed output...以查找真实的问题
    如果你想用更少的代码实现WordCount,更快的输出,更多的交互式会话,那么请使用Spark。https://spark.apache.org/docs/latest/quick-start.html#more-on-dataset-operations

相关问题