在Linux的Centos6.5搭建hadoop集群环境

Hadoop集群搭建(一)-创建虚拟机+安装CentOS hadoop集群搭建基础准备 阅读详情

Centos6.5搭建hadoop集群环境

先概括一下整体思路

  1. 安装centos6.5主机
  2. 关闭防火墙和selinux
  3. 配置网络
  4. 时间同步
  5. ssh无密码登录设置
  6. 安装jdk
  7. 安装hadoop
  8. 启动
  9. wordcount测试
  • 安装centos6.5主机
  1. 使用vmware创建三台centos操作系统

本人的三台主机名与IP如下:

master              192.168.9.128

slave1               192.168.9.129

slave2               192.168.9.130

  1. 添加用户

三台主机都添加相同名称与密码的普通用户,如 michael

useradd   michael

passwd    michael      --------设置密码

  1. 修改hosts文件

修改三台虚拟主机的hosts文件,保持一样

vi   /etc/hosts,  

追加:

192.168.9.128    master

192.168.9.129         slave1

192.168.9.130         slave2

  • 关闭防火墙与SELINUX

1、防火墙

#service iptables stop

#service ip6tables stop

这个命令可以临时关闭防火墙

 

#chkconfig iptables off

#chkconfig ip6tables off

这个命令可以永久关闭防火墙

 

#chkconfig iptables --list

#chkconfig ip6tables --list

这个命令可以查看防火墙的状态

2、SELINUX服务

# vi /etc/selinux/config

 

将文件里标红的部分改为disabled

 

# This file controls the state of SELinux on the system.

# SELINUX= can take one of these three values:

#     enforcing - SELinux security policy is enforced.

#     permissive - SELinux prints warnings instead of enforcing.

#     disabled - No SELinux policy is loaded.

SELINUX=disabled

# SELINUXTYPE= can take one of these two values:

#     targeted - Targeted processes are protected,

#     mls - Multi Level Security protection.

SELINUXTYPE=targeted

 

重启后永久关闭selinux

 

#sestatus -v

这个命令可以查看selinux的状态

 

#setenforce 0

这个命令可以临时关闭selinux

 

 

 

三、配置网络

配置IP有两种方式:自动获取ip和设置静态IP

A、自动获取ip

# vi  /etc/sysconfig/network-scripts/ifcfg-eth0

ONBOOT=yes---------设置开机自动激活网卡

1、桥接模式:

相当于连接到物理机所在的网络中,与物理机的ip处在同一ip段位上,物理机网络的DHCP会自动分配ip给虚拟主机

2、Nat模式:

相当于连接到物理机的VMnet8网络中,与VMnet8处在同一ip段位上,同样,VMnet8会自动分配ip给虚拟主机

修改设置后,重置网络服务

#  service  network   restart

B、设置静态ip

只需要查看我注释的几项即可,没有就添加

1、桥接模式:

DEVICE=eth0

TYPE=Ethernet

UUID=edece2c6-947e-4e8b-ab2e-43ed59c6a614

ONBOOT=yes

NM_CONTROLLED=yes

BOOTPROTO=static  ----------修改成staticnone都行

HWADDR=00:0C:29:5e:1f:c3

DEFROUTE=yes

PEERDNS=yes

PEERROUTES=yes

IPV4_FAILURE_FATAL=yes

IPV6INIT=no

NAME="System eth0"

IPADDR=192.168.1.200   ----------设置成你想要的IP(与物理机在同一段位)

NETMASK=255.255.255.0   --------子网掩码

GATEWAY=192.168.1.1    ----------网关(与物理机一致)

 

 

2、Nat模式

DEVICE=eth0

TYPE=Ethernet

UUID=edece2c6-947e-4e8b-ab2e-43ed59c6a614

ONBOOT=yes

NM_CONTROLLED=yes

BOOTPROTO=static     -----------修改成static

HWADDR=00:0C:29:5e:1f:c3

DEFROUTE=yes

PEERDNS=yes

PEERROUTES=yes

IPV4_FAILURE_FATAL=yes

IPV6INIT=no

NAME="System eth0"

IPADDR=192.168.9.200    ----------

Linux 系统 CentOS7 上搭建 Hadoop HDFS集群详细步骤 整体思路:先在一个节点上安装、配置,然后再克隆出多个节点,修改 IP ,免密,主机名等提前规划:需要三个节点,主机名分别命名:node1、node2、node3在下面对 node1 配置时,先假设 node2 和 node3 是存在的**注意:**整个搭建过程,除了1和2 步,其他操作都使用普通用户权限。 阅读详情

相关推荐

linuxCentOS8 Hadoop伪分布式环境搭建(三台节点机)

文章目录前言一、伪分布式集群分别是什么?二、安装Hadoop三、伪分布式环境搭建四、启动Hadoop五、添加两个节点机 前言 1.本篇文章主要参考博客:点击进入,整合了伪分布的环境搭建和一些踩坑事项。2.环境搭建的节点机一共三台:pc1,pc2,pc3 ,其中pc1为管理机,三台节点机都使用用户Sillyhumans,如果你三台机器的用户名不一样,下面配置地址的时候可能要略作修改。3.关闭防火墙后操作 一、伪分布式集群分别是什么? 简单来说就是一台机器上模拟多台机器的集成分布(假装自己有多台服务器) .

weixin_45788900的博客 3881

Centos安装Hadoop(含多虚拟机Hadoop集群搭建

Centos下安装Hadoop集群

m0_64068185的博客 2680

centos7搭建hadoop

前言 hadoop是其他大数据框架的基础运行环境,尤其是hdfs,是其他大数据框架的基础存储载体,因此学习和掌握hadoop对学习大数据很有必要 haddop常用的3种运行模式包括: 本地模式 ,单机运行,只是用来演示一下官方案例。生产环境不用 伪分布式模式,也是单机运行,但具备Hadoop集群所有功能,一台服务器模拟一个分布式的环境 完全分布式模式:多台服务器组成分布式环境。生产环境使用 本篇将基于centos7系统,在腾讯云环境快速搭建一个单节点的haddop运行环境 前置准备 一台配置好网络连接

congge 1万+

Hadoop完全分布式集群搭建 centos 6.5(保姆级教程)

hadoop完全分布式集群搭建的过程

桀桀桀桀桀桀~~~ 1525

CentOSHadoop搭建

本文章以记录自己所学,供大家参考。

土豆~的博客 2611

CentOS 6虚拟机Hadoop安装教程

本人初学hadoop,在安装配置环境时发现网上大部分博客的教程都不太完善,所以我结合了这些博客内容和老师的讲解写了下面这一份教程,这些操作都是本人经过尝试确认过没有问题的操作(~~如果有问题的话希望大家能够指出~~ )在安装中有什么注意点我都会提,希望能够对各位有帮助

User 1531

虚拟机搭建hadoop的全分布式集群-in detail (3)

虚拟机搭建Hadoop全分布式集群准备工作的第三步,在虚拟机CentOS6.5系统xia

学习永远不嫌晚 1224

Hadoop集群环境配置搭建

Hadoop集群配置搭建

肌肉金轮的博客 7895

Linux上安装Hadoop集群(CentOS7+hadoop-2.8.0)

Linux上安装Hadoop集群(CentOS7+hadoop-2.8.0) 版本:CentOS7 Hadoop2.8.0 JDK1.8

pucao_cug的专栏 11万+

Linux centos 6配置hadoop 集群搭建笔记教程

一、安装JDK 1.上传jdk-8u121-linux-x64.tar.gz文件到/opt目录 2.解压jdk文件 tar -zxvf jdk-8u121-linux-x64.tar.gz -C /usr/local 3.配置环境变量 vim /etc/profile export JAVA_HOME=/usr/local/jdk1.8.0_121 export PATH=$JAVA_HOME/bin:$PATH export CLASSPATH=.:$JAVA_HOME/lib/dt.jar:$JAV

qq_55470303的博客 2191

Centos6搭建Hadoop集群

目录 前置条件 SSH无密码登录 JDK安装 配置HADOOP 运行 前置条件所使用的环境:Centos-6.5(64bit),hadoop-2.5.01. 网络环境设置(以master为例)Machine 1 => IP : 192.168.1.60 Hostname : master Machine 2 => IP : 192.168.1.61 Hostname : slave1 Machi

Tinker是个补锅匠 773

centos7 5台机器集群环境初始化

一、准备 5台机器上搭建hadoop集群环境 5台机器主机名与IP分别为 主机名 IP nn1.hadoop 192.168.109.151 nn2.hadoop 192.168.109.152 s1.hadoop 192.168.109.153 s2.hadoop 192.168.109.154 s3.hadoop 192.16...

独孤行风的博客 2977

Hadoop集群环境搭建

刷新

weixin_41422387的博客 1310

Centos6.5 64位Hadoop完全分布安装教程

64位Centos6.5 Hadoop2.2.0 完全分布安装教程本教程的环境搭建准备: 实体机Win7 64位 putty 或 VNC 或 SSH Secure Shell Client Centos 6.5 版本 Hadoop 2.2.0 版本(编译后64位) OpenJdk1.7.0 本教程配置说明 目的: 利用两台Linux服务器(实体机)搭建完全分布式hadoop 在window上通过pu

Zephyr's Blog 3549

超详细版本|Linux Centos7从零搭建Hadoop集群及运行MapReduce分布式集群案例(全网最详细教程!)

花了快2小时的超详细版本的Linux从零搭建Hadoop集群(CentOS7+hadoop 3.2.0+JDK1.8+Mapreduce完全分布式集群案例+详细源码图文讲解)终于整理完成了!里面有详细的代码讲解及图文操作,能够更好的帮助大家搭建,希望此教程对各位有所帮助,这些都已经试过水了,各位环境配置和操作没问题的话,基本都能部署完成,我这里部署了一个从机node1节点,可以根据自己需要增加3台或者更多node节点,节点配置信息修改的操作都是一样的。祝各位部署一切顺利!

专注 AI、大数据、Python、爬虫、数据分析可视化、机器学习、推荐算法、知识图谱、大模型应用与全栈系统开发,长期沉淀真实项目案例、源码解析、系统设计、部署经验与工程化实践,分享可运行、可复用、可落地的技术方案。 1万+

Linux CentOS 9搭建Hadoop3集群

本教程详细介绍了在Linux系统上搭建Hadoop集群的全过程。主要内容包括:安装JDK、配置主机名与映射、SSH环境设置(开发环境关闭防火墙/生产环境端口配置)、集群节点间SSH免密登录、以及时间同步服务chrony的配置。最后指导用户下载Hadoop安装包并准备进行部署。教程重点强调了Hadoop 3.x版本的默认端口清单(HDFS、YARN、MapReduce等核心服务),为后续Hadoop的安装与配置奠定了基础。

一只大耗子 1417

CentOS7搭建Hadoop-3.3.0集群手记

前提这篇文章是基于Linux系统CentOS7搭建Hadoop-3.3.0分布式集群的详细手记。基本概念Hadoop中的HDFS和YARN都是主从架构,主从架构会有一主多从和多主多从两种...

Throwable 5877

CentOS6.5安装Hadoop、Hbase

CentOS6.5安装Hadoop、Hbase CentOS6.5安装Hadoop、Hbase 一、安装CentOS6.5 使用VMWare安装CentOS 二、创建用户和组 groupadd hadoop useradd hadoop -g hadoop passwd hadoop id hadoop 三、规划安装路径 –注意:路径权限的更改 a.安装路径 /hadoop 根路径下放置子路径,比...

Uridis的博客 600
上一篇: Linux之shell的流程控制语句
下一篇: 格式化namenode时:Error: JAVA_HOME is not set and could not be found.
super选择题
博客等级 码龄9年 28粉丝 46原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值