HDFS扩容

HDFS的扩容方式

  方式一:横向扩容,添加节点:参考https://www.cnblogs.com/IT_CH/p/12361096.html

  方式二:纵向扩容,通过添加硬盘,扩充HDFS的容量【通过增加DataNode的容量实现纵向扩容

如何纵向扩容?

1.添加一块新硬盘

 通过lsblk命令查看当前系统硬盘的使用情况【类似windows中的我的电脑】

 2.硬盘添加之后,不能直接使用,先进行分区

  fdisk /dev/sdb 【fdisk就是用来创建分区表的】

  分区表的作用:就是把一块单独的物理硬盘,划分成几个各自相互独立的区域,便于我们更方便运用硬盘

  进入向导:创建分区大小为10G

  n:分区

  p:查看分区表

  w:将分区信息写入硬盘

  q:退出当前操作

 创建2个分区:

 

 3.分区之后需要格式化

  centerOS7的默认文件系统是xfs,centerOS6默认的文件系统是ext4

  格式化:mkfs.哪种文件系统

  mkfs.xfs /dev/sdb1 格式化并构建xfs文件系统

 4.格式化后还需要进行挂载【文件系统和盘符没有任何关系】

  命令:mount 设备 文件夹

  例如:mount /dev/cdrom /mut 访问mut就相当于访问cdrom(光盘CD/DVD)【专门用于挂载光盘的】 

  mount /dev/sdb1【设备】 /sdb1【文件夹】要先创建sdb1文件夹(/目录下)

  umount /dev/sdb1 /sdb1 解除关系

······电脑一旦重启就不挂载了,所以还要配置开机挂载

  vim /etc/fstab 配置开机挂载信息

 

 5.修改hdfs-site.xml配置文件

  文件目录:vim /opt/software/hadoop-2.7.7/etc/hadoop/hdfs-site.xml

 19 <configuration>
 20         <property>
 21                 <name>dfs.replication</name>
 22                 <value>3</value>
 23         </property>
 24         <property>
 25                 <name>dfs.datanode.data.dir</name>
 26                 <value>/sdb1/data,/opt/software/hadoop-2.7.7/tmp/dfs/data</value>
 27         </property>
 28 </configuration>

在主节点启动:start-dfs.sh【查看DataNode容量是否已经增加】

原文地址:https://www.cnblogs.com/IT_CH/p/12365589.html