导航:首页 > 文件管理 > hadoop集群配置文件

hadoop集群配置文件

发布时间:2025-08-09 15:09:54

大数据 hadoop 三种运行模式的区别、及详细配置讲解

基于Hadoop进行开发时,有时候会被Hadoop的运行模式弄得晕头转向,傻傻分不清各种运行模式的区别,给日常开发带来很多困惑,不同集群配置文件也各不相不同。弄明白Hadoop的运行模式和对配置文件的作用要做到心中明了,在工作中才能得手顺心。

hadoop的配置文件均以XML文件进行配置,它有四个最常见的配置文件,分别为:

core-site.xml文件主要用于配置通用属性。

hdfs-site.xml文件用于配置Hdfs的属性。

mapred-site.xml文件用于配置Maprece的属性。

yarn-site.xml文件用于配置Yarn的属性。

一般来说,这四种配置文件都存储在hadoop默认的安装目录etc/hadoop子目录中。 不过我们也可以在搭建集群时根据实际需求,把etc/hadoop目录和其下的文件复制到另外一个位置。这样可以把配置文件和安装文件分离开来,方便管理。

注意:如果把etc/hadoop目录和其下的文件复制到另外一个位置。
我们需要在环境变量中将hadoop_conf_dir设置成指向新目录。

1、本地运行模式

无需任何守护进程 ,所有的程序都运行在同一个JVM上执行。在本地模式下调试MR程序非常高效方便,一般该模式主要是在学习或者开发阶段调试使用 。

2、伪分布式模式

Hadoop守护进程运行在本地机器上 ,模拟一个小规模的集群,换句话说,可以配置一台机器的Hadoop集群,伪分布式是完全分布式的一个特例。

3、完全分布式模式

Hadoop守护进程运行在一个集群上 。这种运行模式也就是我们常见的各种云,主要用于大规模的生产环境中。

注意:分布式要启动守护进程 ,是指在使用分布式hadoop时,要先启动一些准备程序进程,然后才能使用。 比如start-dfs.sh start-yarn.sh,而本地模式不需要启动这些守护进程。

注意:在本地模式下,将使用本地文件系统和本地MapRece运行器。在分布式模式下,将启动HDFS和YARN守护进程。

阅读全文

与hadoop集群配置文件相关的资料

热点内容
xml文件如何用不同颜色标注 浏览:964
win10漏洞文件 浏览:624
学校教学楼网络布线图 浏览:589
编程的image是什么意思 浏览:665
在哪里看国家经济数据 浏览:429
jsp日期钻换unix时间戳的函数 浏览:630
wpweixinqqcom 浏览:88
win81rt升级win10 浏览:97
聊天文件视频文件怎么打开 浏览:120
规划类app 浏览:513
excel打开分为单独文件 浏览:770
如何学编程网上教程 浏览:276
c语言如何写文件 浏览:477
手机怎么重命名文件 浏览:772
苹果手机百度浏览器下载文件位置 浏览:54
数控铣床分八个点如何编程 浏览:711
dnf90版本断肠绝伤 浏览:524
游光网络创始人 浏览:990
俺是嫩叠网络用语什么意思 浏览:745
文件夹截图 浏览:961

友情链接