hadoop单机版搭建过程

l 上传hadoop2.4.1编译后的包并解压到/hadoop目录下

mkdir /hadoop

解压

tar  -zxvf  hadoop.2.7.0.tar.gz -C /hadoop 

 

 

l 配置hadoop

注意:hadoop2.x的配置文件$HADOOP_HOME/etc/hadoop

伪分布式需要修改5个配置文件

第一个:hadoop-env.sh

vim hadoop-env.sh

#27

export JAVA_HOME=/usr/local/java/jdk1.7.0_79

 

备注:

vim打开文件后在底行模式下输入:set nu可以在文件每行开头显示对应的行数;若想vim打开文件默认显示行数,执行:vim /etc/vimrc,在打开的文件末尾添上:set nu,保存退出即可!

第二个:core-site.xml

<!--指定fs的默认名称-->

<property>

                <name>fs.default.name</name>

                <value>hdfs://hadoop01:9000</value>

        </property>

<!-- 指定HDFS的老大(NameNode)的地址 -->

<property>

<name>fs.defaultFS</name>

<value>hdfs://hadoop01:9000</value>

</property>

<!-- 指定hadoop运行时产生文件的存储目录 -->

<property>

<name>hadoop.tmp.dir</name>

<value>/hadoop/hadoop-2.4.1/tmp</value>

        </property>

第三个:hdfs-site.xml

<!-- 指定HDFS副本的数量 -->

<property>

<name>dfs.replication</name>

<value>1</value>

        </property>

第四个:mapred-site.xml (mv mapred-site.xml.template mapred-site.xml)

mv mapred-site.xml.template mapred-site.xml

vim mapred-site.xml

<!-- 指定mr运行在yarn上 -->

<property>

<name>mapreduce.framework.name</name>

<value>yarn</value>

        </property>

第五个:yarn-site.xml

<!-- 指定YARN的老大(ResourceManager)的地址 -->

<property>

<name>yarn.resourcemanager.hostname</name>

<value>hadoop01</value>

        </property>

<!-- reducer获取数据的方式 -->

        <property>

<name>yarn.nodemanager.aux-services</name>

<value>mapreduce_shuffle</value>

        </property>

l 将hadoop添加到环境变量

vim /etc/profile

内容如下:

JAVA_HOME=/usr/java/jdk1.7.0_79

HADOOP_HOME=/hadoop/hadoop-2.4.1

export PATH=$PATH:$JAVA_HOME/bin:$HADOOP_HOME/bin:$HADOOP_HOME/sbin

 

让配置生效:

source /etc/profile

 

l 格式化namenode(是对namenode进行初始化)

hdfs namenode -format 或者 hadoop namenode -format

 

l 启动hadoop

 

Ø 先启动HDFS

sbin/start-dfs.sh

Ø 再启动YARN

sbin/start-yarn.sh

 

l 验证是否启动成功

使用jps命令验证

27408 NameNode

28218 Jps

27643 SecondaryNameNode

28066 NodeManager

27803 ResourceManager

27512 DataNode

http://hadoop01:50070 HDFS管理界面)

http://hadoop01:8088 MR管理界面)

已标记关键词 清除标记
©️2020 CSDN 皮肤主题: 编程工作室 设计师:CSDN官方博客 返回首页