企业级大数据平台

企业级大数据平台

部署：分为测试环境、生产环境。Hadoop发行版本：Apache、CDH（tar包、rpm包、parcel包，必须由cloudera manager进行管理）、HDP注意：大数据框架内禁用IPV6；同时要修改用户的最大进程数、单个进程打开的最大文件数量；Hadoop 2 三大组件：1. HDFS 2.MapReduce 3 YARNHDFS：分布式文件系统，从功能上分为namenode、datanode。其中，namenode用于存放集群元数据，例如文件名称层、文件存放在哪个datanode之上、有没有进行切片等；数据是以block形式存储；namenode中数据存放在内存中、本地磁盘包括镜像文件、编辑日志；以块为单位存储，在V2中默认大小是128MB；datanode与namenode之间会发送心跳（证明存活状态，默认是每隔3秒钟，在心跳返回结果中含有namenode发送给datanode的指令，如复制或删除数据块）、块状态报告（默认是每隔一个小时上报一次）等，是通过底层协议如RPC进行通信；副本默认是3，默认策略是其中两个副本在同一个rack不同节点，第三个副本在不同的rack上；YARN架构：分为node manager（每一个节点）、resource manager（管理整个集群）

版权声明：本文内容由网络用户投稿，版权归原作者所有，本站不拥有其著作权，亦不承担相应法律责任。如果您发现本站中有涉嫌抄袭或描述失实的内容，请联系我们jiasou666@gmail.com 处理，核实后本网站将在24小时内删除侵权内容。