Hadoop之——Hadoop2.4.1伪分布搭建

Hadoop之——Hadoop2.4.1伪分布搭建

1.准备Linux环境

1.0配置VMware

在虚拟软件上 --My Computer -> 选中虚拟机 -> 右键 -> settings -> network adapter -> host only -> ok

1.1修改主机名

vim /etc/sysconfig/networkNETWORKING=yesHOSTNAME=liuyazhuang ###

1.2修改IP

两种方式：

第一种：通过Linux图形界面进行修改（强烈推荐）

第二种：修改配置文件方式

vim /etc/sysconfig/network-scripts/ifcfg-eth0 DEVICE="eth0"BOOTPROTO="static" ###HWADDR="00:0C:29:3C:BF:E7"IPV6INIT="yes"NM_CONTROLLED="yes"ONBOOT="yes"TYPE="Ethernet"UUID="ce22eeca-ecde-4536-8cc2-ef0dc36d4a8c"IPADDR="192.168.106.130" ###NETMASK="255.255.255.0" ###GATEWAY="192.168.1.1" ###

1.3修改主机名和IP的映射关系

vim /etc/hosts192.168.106.130 liuyazhuang

1.4关闭防火墙

#查看防火墙状态service iptables status#关闭防火墙service iptables stop#查看防火墙开机启动状态chkconfig iptables --list#关闭防火墙开机启动chkconfig iptables off

1.5重启Linux

reboot

2.安装JDK

2.1上传alt+p 后出现sftp窗口，然后put d:\xxx\yy\ll\jdk-7u_65-i585.tar.gz

2.2解压jdk

#创建文件夹mkdir /home/hadoop/app#解压tar -zxvf jdk-7u55-linux-i586.tar.gz -C /home/hadoop/app

2.3将java添加到环境变量中

vim /etc/profile#在文件最后添加export JAVA_HOME=/home/hadoop/app/jdk-7u_65-i585export PATH=$PATH:$JAVA_HOME/bin#刷新配置source /etc/profile

3.安装hadoop2.4.1

先上传hadoop的安装包到服务器上去/home/hadoop/

注意：hadoop2.x的配置文件$HADOOP_HOME/etc/hadoop

伪分布式需要修改5个配置文件

3.1配置hadoop

第一个：hadoop-env.sh

vim hadoop-env.sh#第27行export JAVA_HOME=/usr/java/jdk1.7.0_65

第二个：core-site.xml

fs.defaultFS hdfs://weekend-1206-01:9000 hadoop.tmp.dir /home/hadoop/hadoop-2.4.1/tmp

第三个：hdfs-site.xml   hdfs-default.xml  (3)

dfs.replication 1

第四个：mapred-site.xml (mv mapred-site.xml.template mapred-site.xml)

mv mapred-site.xml.template mapred-site.xmlvim mapred-site.xml mapreduce.framework.name yarn

第五个：yarn-site.xml

yarn.resourcemanager.hostname weekend-1206-01 yarn.nodemanager.aux-services mapreduce_shuffle

3.2将hadoop添加到环境变量

vim /etc/proflieexport JAVA_HOME=/usr/java/jdk1.7.0_65export HADOOP_HOME=/itcast/hadoop-2.4.1export PATH=$PATH:$JAVA_HOME/bin:$HADOOP_HOME/bin:$HADOOP_HOME/sbinsource /etc/profile

3.3格式化namenode（是对namenode进行初始化）

hdfs namenode -format (hadoop namenode -format)

3.4启动hadoop

先启动HDFSsbin/start-dfs.sh再启动YARNsbin/start-yarn.sh

3.5验证是否启动成功

使用jps命令验证

27408 NameNode

28218 Jps

27643 SecondaryNameNode

28066 NodeManager

27803 ResourceManager

27512 DataNode

（HDFS管理界面）

（MR管理界面）

4.配置ssh免登陆

执行命令    (1)ssh-keygen -t rsa

(2)cp ~/.ssh/id_rsa.pub ~/.ssh/authorized_keys

验证：        ssh liuyazhuang

版权声明：本文内容由网络用户投稿，版权归原作者所有，本站不拥有其著作权，亦不承担相应法律责任。如果您发现本站中有涉嫌抄袭或描述失实的内容，请联系我们jiasou666@gmail.com 处理，核实后本网站将在24小时内删除侵权内容。