问题的基本现象:
在测试Hadoop的分布式环境搭建时,在namenode启动时信息如下:
引用
[michael@shnap hadoop]$ bin/start-all.sh
starting namenode, logging to /home/michael/hadoop/bin/../logs/hadoop-michael-namenode-shnap.out
192.168.8.148: starting datanode, logging to /home/michael/hadoop/bin/../logs/hadoop-michael-datanode-michael-VirtualBox.out
192.168.8.150: starting secondarynamenode, logging to /home/michael/hadoop/bin/../logs/hadoop-michael-secondarynamenode-shnap.out
starting jobtracker, logging to /home/michael/hadoop/bin/../logs/hadoop-michael-jobtracker-shnap.out
192.168.8.148: starting tasktracker, logging to /home/michael/hadoop/bin/../logs/hadoop-michael-tasktracker-michael-VirtualBox.out
[michael@shnap hadoop]$ jps
30045 JobTracker
29973 SecondaryNameNode
29813 NameNode
30136 Jps
从上述信息可见namenode中的进程信息正常
在datanode查看的信息如下:
引用
michael@michael-VirtualBox:~/hadoop$ jps
15934 TaskTracker
15978 Jps
从上述信息可见datanode中的进程就不正常了,明显少了DataNode
解决办法如下:
先检查conf/masters 和conf/slaves文件,确保配置没错。
然后把所有节点的hadoop.tmp.dir指定的文件夹下的内容全部删掉
重新在master设备上执行启动程序:
- $ bin/hadoop namenode -format
- $ bin/start-all.sh
$ bin/hadoop namenode -format
$ bin/start-all.sh
再在datanode查看的信息就正常了如下:
引用
michael@michael-VirtualBox:~/hadoop$ jps
16467 Jps
16289 DataNode
16429 TaskTracker
====================================
我遇到的也是同样问题,但是用了以上方法仍不能解决问题。然后去看了slave机日志才发现,所建目录没有权限,更新权限,再用以上方法问题解决。
http://hadoop.apache.org/common/docs/r0.17.2/cn/cluster_setup.html
分享到:
相关推荐
Hadoop分布式文件系统的模型分析,Hadoop 分布式文件系统是遵循Google 文件系统原理进行开发和实现的,受到了业界极大关注,并 已被广泛应用。 鉴于当前缺乏从系统设计理论的角度对其开展的相关研究,本文从 Hadoop ...
Hadoop分布式文件系统翻译
基于SpringMVC+Spring+HBase+Maven搭建的Hadoop分布式云盘系统。使用Hadoop HDFS作为文件存储系统、HBase作为数据存储仓库,采用SpringMVC+Spring框架实现,包括用户注册与登录、我的网盘、关注用户、我的分享、我...
关于hadoop的分布式缓存的源码,用于大家的学习,改进hadoop的分布式缓存
《高可用性的HDFS——Hadoop分布式文件系统深度实践》专注于Hadoop分布式文件系统(hdfs)的主流ha解决方案,内容包括:hdfs元数据解析、hadoop元数据备份方案、hadoop backup node方案、avatarnode解决方案以及最新...
工作中搭建的hadoop分布式文件系统和hive ,mysql等的搭建的具体步骤
hadoop分布式网络爬虫的实现, 采用mapreduce和java,能实现深度搜索
第四章(Hadoop大数据处理实战)Hadoop分布式文件系统.pdf第四章(Hadoop大数据处理实战)Hadoop分布式文件系统.pdf第四章(Hadoop大数据处理实战)Hadoop分布式文件系统.pdf第四章(Hadoop大数据处理实战)Hadoop分布式文件...
完整的Hadoop分布式文件系统架构,以及源码分析报告
Hadoop分布式文件系统使用指南.pdf
Hadoop分布式文件系统:架构和设计要点.pdf
Hadoop分布式文件系统使用指南Hadoop分布式文件系统使用指南Hadoop分布式文件系统使用指南Hadoop分布式文件系统使用指南Hadoop分布式文件系统使用指南Hadoop分布式文件系统使用指南Hadoop分布式文件系统使用指南...
Hadoop分布式文件系统-架构和设计要点
基于Hadoop分布式计算平台,给出一种适用于大数据集的并行挖掘算法。该算法对非结构化的原始大数据集以及中间结果文件进行垂直划分以确保能够获得完整的频繁项集,将各个垂直分块数据分配给不同的Hadoop计算节点进行...
Hadoop分布式大数据系统.pptx
《HDFS—Hadoop分布式文件系统深度实践》 。带书签,非扫描高清文字完整版。
通过工具类脚本执行从ftp下载文件上传到Hadoop分布式文件系统
高可用性的HDFS:Hadoop分布式文件系统深度实践
Hadoop datanode重新加载失败无法启动解决.docx