清理ambari安装的hadoop集群

本文针对redhat或者centos

对于测试集群,如果通过ambari安装hadoop集群后,想重新再来一次的话,需要清理集群。

对于安装了很多hadoop组件的话,这个工作很繁琐。接下来是我整理的清理过程。

1,通过ambari将集群中的所用组件都关闭,如果关闭不了,直接kill -9 XXX

2,关闭ambari-server,ambari-agent

[plain] view plain copy
  1. ambari-server stop  
  2. ambari-agent stop  

3,卸载安装的软件

[plain] view plain copy
  1. yum remove hadoop_2* hdp-select* ranger_2* zookeeper* bigtop* atlas-metadata* ambari* postgresql spark*  

以上命令可能不全,执行完一下命令后,再执行

[plain] view plain copy
  1. yum list | grep @HDP  

查看是否还有没有卸载的,如果有,继续通过#yum remove XXX卸载

4,删除postgresql的数据

      postgresql软件卸载后,其数据还保留在硬盘中,需要把这部分数据删除掉,如果不删除掉,重新安装ambari-server后,有可能还应用以前的安装数据,而这些数据时错误数据,所以需要删除掉。

[plain] view plain copy
  1. rm -rf /var/lib/pgsql  

5,删除用户

     ambari安装hadoop集群会创建一些用户,清除集群时有必要清除这些用户,并删除对应的文件夹。这样做可以避免集群运行时出现的文件访问权限错误的问题。     

[plain] view plain copy
  1. userdel oozie  
  2. userdel hive  
  3. userdel ambari-qa  
  4. userdel flume    
  5. userdel hdfs    
  6. userdel knox    
  7. userdel storm    
  8. userdel mapred  
  9. userdel hbase    
  10. userdel tez    
  11. userdel zookeeper  
  12. userdel kafka    
  13. userdel falcon  
  14. userdel sqoop    
  15. userdel yarn    
  16. userdel hcat  
  17. userdel atlas  
  18. userdel spark  

[plain] view plain copy
  1. rm -rf /home/atlas  
  2. rm -rf /home/accumulo  
  3. rm -rf /home/hbase  
  4. rm -rf /home/hive  
  5. rm -rf /home/oozie  
  6. rm -rf /home/storm  
  7. rm -rf /home/yarn  
  8. rm -rf /home/ambari-qa  
  9. rm -rf /home/falcon  
  10. rm -rf /home/hcat  
  11. rm -rf /home/kafka  
  12. rm -rf /home/mahout  
  13. rm -rf /home/spark  
  14. rm -rf /home/tez  
  15. rm -rf /home/zookeeper  
  16. rm -rf /home/flume  
  17. rm -rf /home/hdfs  
  18. rm -rf /home/knox  
  19. rm -rf /home/mapred  
  20. rm -rf /home/sqoop  

6,删除ambari遗留数据

[plain] view plain copy
  1. rm -rf /var/lib/ambari*   
  2. rm -rf /usr/lib/python2.6/site-packages/ambari_*  
  3. rm -rf /usr/lib/python2.6/site-packages/resource_management  
  4. rm -rf /usr/lib/ambari-*  
  5. rm -rf /etc/ambari-*   

7,删除其他hadoop组件遗留数据

[plain] view plain copy
  1. rm -rf /etc/hadoop  
  2. rm -rf /etc/hbase  
  3. rm -rf /etc/hive   
  4. rm -rf /etc/oozie  
  5. rm -rf /etc/sqoop   
  6. rm -rf /etc/zookeeper  
  7. rm -rf /etc/flume   
  8. rm -rf /etc/storm   
  9. rm -rf /etc/hive-hcatalog  
  10. rm -rf /etc/tez   
  11. rm -rf /etc/falcon   
  12. rm -rf /etc/knox   
  13. rm -rf /etc/hive-webhcat  
  14. rm -rf /etc/kafka   
  15. rm -rf /etc/slider   
  16. rm -rf /etc/storm-slider-client  
  17. rm -rf /etc/spark   
  18. rm -rf /var/run/spark  
  19. rm -rf /var/run/hadoop  
  20. rm -rf /var/run/hbase  
  21. rm -rf /var/run/zookeeper  
  22. rm -rf /var/run/flume  
  23. rm -rf /var/run/storm  
  24. rm -rf /var/run/webhcat  
  25. rm -rf /var/run/hadoop-yarn  
  26. rm -rf /var/run/hadoop-mapreduce  
  27. rm -rf /var/run/kafka  
  28. rm -rf /var/log/hadoop  
  29. rm -rf /var/log/hbase  
  30. rm -rf /var/log/flume  
  31. rm -rf /var/log/storm  
  32. rm -rf /var/log/hadoop-yarn  
  33. rm -rf /var/log/hadoop-mapreduce  
  34. rm -rf /var/log/knox   
  35. rm -rf /usr/lib/flume  
  36. rm -rf /usr/lib/storm  
  37. rm -rf /var/lib/hive   
  38. rm -rf /var/lib/oozie  
  39. rm -rf /var/lib/flume  
  40. rm -rf /var/lib/hadoop-hdfs  
  41. rm -rf /var/lib/knox   
  42. rm -rf /var/log/hive   
  43. rm -rf /var/log/oozie  
  44. rm -rf /var/log/zookeeper  
  45. rm -rf /var/log/falcon  
  46. rm -rf /var/log/webhcat  
  47. rm -rf /var/log/spark  
  48. rm -rf /var/tmp/oozie  
  49. rm -rf /tmp/ambari-qa  
  50. rm -rf /var/hadoop  
  51. rm -rf /hadoop/falcon  
  52. rm -rf /tmp/hadoop   
  53. rm -rf /tmp/hadoop-hdfs  
  54. rm -rf /usr/hdp  
  55. rm -rf /usr/hadoop  
  56. rm -rf /opt/hadoop  
  57. rm -rf /tmp/hadoop  
  58. rm -rf /var/hadoop  
  59. rm -rf /hadoop  

8,清理yum数据源

[plain] view plain copy
  1. #yum clean all  

通过以上清理后,重新安装ambari和hadoop集群(包括HDFS,YARN+MapReduce2,Zookeeper,Ambari Metrics,Spark)成功。如果安装其他组件碰到由于未清理彻底而导致的问题,请留言指出需要清理的数据,本人会补全该文档。

原文地址:https://www.cnblogs.com/llhl/p/9648646.html