Hadoop之——hadoop2.2.0伪分布式搭建

Hadoop之——hadoop2.2.0伪分布式搭建

​

1.准备Linux环境

1.0配置VMware

在虚拟软件上 --My Computer -> 选中虚拟机 -> 右键 -> settings -> network adapter -> host only -> ok

1.1修改主机名

vim /etc/sysconfig/networkNETWORKING=yesHOSTNAME=liuyazhuang01 ###

1.2修改IP

两种方式：

第一种：通过Linux图形界面进行修改（强烈推荐）

第二种：修改配置文件方式

vim /etc/sysconfig/network-scripts/ifcfg-eth0 DEVICE="eth0"BOOTPROTO="static" ###HWADDR="00:0C:29:3C:BF:E7"IPV6INIT="yes"NM_CONTROLLED="yes"ONBOOT="yes"TYPE="Ethernet"UUID="ce22eeca-ecde-4536-8cc2-ef0dc36d4a8c"IPADDR="192.168.1.44" ###NETMASK="255.255.255.0" ###GATEWAY="192.168.1.1" ###

1.3修改主机名和IP的映射关系

vim /etc/hosts 192.168.1.44 liuyazhuang01

1.4关闭防火墙

#查看防火墙状态service iptables status#关闭防火墙service iptables stop#查看防火墙开机启动状态chkconfig iptables --list#关闭防火墙开机启动chkconfig iptables off

1.5重启Linux

reboot

2.安装JDK

2.1上传

2.2解压jdk

#创建文件夹mkdir /usr/java#解压tar -zxvf jdk-7u55-linux-i586.tar.gz -C /usr/java/

2.3将java添加到环境变量中

vim /etc/profile#在文件最后添加export JAVA_HOME=/usr/java/jdk1.7.0_55export PATH=$PATH:$JAVA_HOME/bin#刷新配置source /etc/profile

3.安装Hadoop

3.1上传hadoop安装包

3.2解压hadoop安装包

mkdir /cloud#解压到/cloud/目录下tar -zxvf hadoop-2.2.0.tar.gz -C /cloud/

3.3修改配置文件（5个）

第一个：hadoop-env.sh#在27行修改export JAVA_HOME=/usr/java/jdk1.7.0_55第二个：core-site.xml fs.defaultFS hdfs://liuyazhuang01:9000 hadoop.tmp.dir /cloud/hadoop-2.2.0/tmp 第三个：hdfs-site.xml dfs.replication 1 第四个：mapred-site.xml.template 需要重命名： mv mapred-site.xml.template mapred-site.xml mapreduce.framework.name yarn 第五个：yarn-site.xml yarn.nodemanager.aux-services mapreduce_shuffle

3.4将hadoop添加到环境变量

vim /etc/profile export JAVA_HOME=/usr/java/jdk1.7.0_55export HADOOP_HOME=/cloud/hadoop-2.2.0export PATH=$PATH:$JAVA_HOME/bin:$HADOOP_HOME/binsource /etc/profile

3.5格式化HDFS（namenode）第一次使用时要格式化

hadoop namenode -format

3.6启动hadoop

先启动HDFSsbin/start-dfs.sh再启动YARNsbin/start-yarn.sh

3.7验证是否启动成功

使用jps命令验证27408 NameNode28218 Jps27643 SecondaryNameNode28066 NodeManager27803 ResourceManager27512 DataNode (HDFS管理界面)在这个文件中添加linux主机名和IP的映射关系C:\Windows\System32\drivers\etc\hosts192.168.1.119 liuyazhuang（MR管理界面）

4.配置ssh免登陆

生成ssh免登陆密钥cd ~，进入到我的home目录cd .ssh/ssh-keygen -t rsa （四个回车）执行完这个命令后，会生成两个文件id_rsa（私钥）、id_rsa.pub（公钥）将公钥拷贝到要免登陆的机器上cat ~/.ssh/id_rsa.pub >> ~/.ssh/authorized_keys或ssh-copy-id -i localhost

版权声明：本文内容由网络用户投稿，版权归原作者所有，本站不拥有其著作权，亦不承担相应法律责任。如果您发现本站中有涉嫌抄袭或描述失实的内容，请联系我们jiasou666@gmail.com 处理，核实后本网站将在24小时内删除侵权内容。