00:05
Yeah.啊,其中一个客户机,这是我创建的一个。的虚拟机,然后呢,就用了OS7S7去创建的。诶这里的话就就不能就不就不用登录了,直接我直接用这个终端去连一下就行,哎环就是它的那个网络环境都已经配好了,就是说是192.168.227点。就master现在的话,它就是一个像他没有没有一个JA网环境,基本上就是一个相当于一个空的,哎,就我已经下载好了,就哈杜在那个官网下载很慢的话可以去。
01:13
阿里云镜像去下载,去阿里云镜像下载还有一个JDK另个版本,基本上就是先将它解压。哈哈。解压,然后解压就行。像哈,就是说全放到这个APP目录,我基本上我比较喜欢。都放在一起APP下面。
02:00
主要首先呢,先配置GDK吧,是因为现在没有GDK环境,JDK环境就。先拷贝他的一个路径。两种方式,第一呢,就是说是在这个配置全局的,就ETC profile里面去进行一个配置。行。直接设置它的link linknu的环境,基本上就设置GDK环境,比如说将那个Java home配边进去,刚才刚才刚才设置了一个一个路径,还有一个就是就把pass设设置进去,Pass就是说我们首先呢要把它原原来的pass进去,然后呢将Java home的一个一个一个pass进去。
03:31
什么情况已经到背后了?然后呢,就刷一下啊。什么情况?ID在号码,如果他APP。
04:04
打炮,打炮。打错了,比较激动。这一次。比较急,然后再扫一下就行了,应该。就配置成功了,基本上就是JDK的配置,就是说如果是只对当前当前变量变量配有效的话,就就配置在best profile里面,就只对当前一个用户用户这个生效配的方法是一样的。然后接着就是。首先就是先。
05:04
Hard配置是在ETC下,ETC的hard里面,然后呢,主要是配置4个文件,第一呢,就是说配置一个,呃,Co Co,哎。高三的。那个目录的放在我都。再见。配置,然后呢,PRO呃第只要配配一个就行,配置一个指定的就是内no的一个一个SD协议的一个通讯地址里面就是master是我的一个一个host,就是后面会会写会写一下。
06:02
就说我我设置了三个节点,就是说master是我当前的节点,S slave呢是LI12是我即将要配置的两个节点,现在就还没有创建,就说等我把butter。都配置好,然后呢,直接克隆2个就可以了,就是说这是就是说刚才我说的master,它就代表的是。当前的一个主机IP,现在当前配置的一个。一个节点,第二呢,就是对SDS的一个配置,像这是SDDFSDF配置呢,主要是配置它的副本数。还有配置它的一个文件存储块,还有一个内node的一个存储啊,一个就是说它原数据的存储啊,还有一些就是说通讯的协议啊,就是还有一个就是说这是。通信的一个协议,像你可以通过这个50070端口去访问web UI界面,这拷过来。嗯,这是A点的赛的一个。
07:06
然后呢,一个就是说那个样的,就是说样呢,就是说像哈杜普主要是两两个两个两两个功能嘛,第一呢就是存储也是DS,第二呢就是计算样,刚才就是咱配置的是一个HDS的一个存储,现在就是说是配置一个样做计算的。就呢,主要是就配置它的一个resource manager,就相当于是主节点,就是说呃,一个主节点像name knowledge,就是说manager呢,它是一个同节点去分配container,去运行咱们的程序,像下面呢,它。都是一些默认的值,只是说它引用了我们这个master一个变量,然后呢,像80328088是它的web UI界面,然后呢,其实上面都可以不用配置。这样就配上吧,这个配置配置成它的主节点,主层节点就主主节点分节点就可以了。
08:01
还有一个最后一个就是map map reduce的一个map reduce的一个set,就是说这样的话,就是说我们的map map reduce任务才会运行在这个央上跑,要不然它只能通过跑。嗯,最后一个就是它的一个一个就是说。重节点就是说你得知道,就是说要把要要你启动集群的时候,哪些主哪些主机上要起,重节点就是说要配置在work里面,在我上次搭建应该是在117年的时候,他还叫s slaves现在呢只是说叫。改成了改成了沃克斯就一样一样,估计就算了。这1。就之前我不知道,其实就是还要配置一个配置文件,就是一个叫叫,就是说一个一个。
09:04
一个一个变量,然后呢,他要配置优点,像以前都没有这个说法,只是说现在哈3的话,他要去配置,配置这个用户去。像好多就是说默用默认如此HDSR就是说如果说我用注射器的话,它会报错,但是呢,就为了演示它的报错,然后呢,我现在就不去不去去不去修改它。这是后面就是说都会都会去做一个一个一个修改。第3个就是关闭防火墙,我之前我也写过。就是关闭防,关闭防火墙,就是说防火墙一定要关闭,要不然的话它就会就是说你在停中进来,他会报错,System用system詹姆C点2就是stop。这样的话就是说就一定要关闭,要不然你不起。
10:08
就是说他现在的情况是大于的,就是就是说是没激活的,然后呢,就是说你也需要去把它就禁用,就说启动的时候呢,就是说你可能在关闭了之后再启用的话,它就可能就说会会在会重启这个主机的时候,它会再起来防火墙就直接把它给禁用了就可以了。像这样的话,这个环境主机的环境就准备,呃,主机的环境准备好了,然后呢,现在我就要去克隆,克隆就是说从节点。就说我已经把这个主节点的所有的配置,像哈多啊。还有这个JDK的配置好了,就是说如果说是想做这种大,就是说那个整体化的话,就是说像布一些布一些Spark flink啊,其实呃都都都准备好,然后呢,就是说配置好,然后统一的去。再去克隆,这样会更好。但上面就为了演示。
11:02
所以说现在只弄个哈多。嗯,需要关机。关机的话才能克隆国际客户机。就是在。管理这边,然后呢,进行一个克隆。直接就创建完整克隆,不要。就来一把。这个这个的话。放在放在个地盘吧。Love you.船家合拢很快,基本上立马就能创建成功。然后呢,再创建8。
12:11
其实生产里都不会用这个阿帕7的版本去创建,都会,基本上就是用那个CDH,就是CDH和SDP这种这种就是说集成的版本去去去做去做搭建,就是我们的话基本上呃,用的是那个。用的是那个SDSDP的版本,就是说用berry直接在页面上就可以点了,像这种的话就比较麻烦,这这种的话就是说需要你去。呃,创建节点去分发,这样还是比较麻烦的,它那个在页面上可以直接分发。直接开启虚拟机。啊,那些把复合机都都记下来。这个没有聪明。
13:23
啊都启动启动客户机都吸起来。现在的话就是没法连的,因为它的RP都绑定的是,都绑定的是。嗯呃,那个一百一百这个RP,就是说我要把它修改成101和102这个RP就密码就入嘛,然后输入我的密码。就我登录的时候,它也是master,因为我现在的IP映射到我的hot里面,ETC hot里面,它都是这个都都是这个,呃,Master,所以说我要把它改成,改成就是说RP,看我看到这个六二的RP是多少。
14:00
也是100,然后我改成改成102在ETC,嗯,Conig里面confi,然后network scripts.呃,然后呢是RCF1033只用了1033这个网卡,然后呢,我要把它,你看这IP就是我设了一个正态的IP,然后呢是是幺零幺零一一百嘛,改成102就是也就是3.82嘛,4.824052,然后我要就说重启网络。System system network.网络。Slave一同同样的操作。只是说要把RP改成。改成11011下,嗯。Network.
15:03
S.3。改成1保存一下network。到现在的话,我就东单去连。这肯定也是已经是连不上了嘛,这因为它已经。这游戏关闭了,然后呢,我就是说重新重新去连嘛,101,然后。然后呢,我再连那个。拉。
16:03
这来这这边它的那个host就变成了1,然后呢。牛牛,我已经把IP改过来了,已经110。对呀。这样的话就是说它的节点就准备完成了,就是说我现在呢,要做一个互信,就是说我比方说我登我登录这个艾,我我登录这个,我从这个主节点登录这个同节点的时候。它会提示我要要我输密码,但是呢,在hard里面呢,就是说因为它涉涉及到文件拷贝嘛,文件拷贝,然后呢,要做一个备份,所以说它不能去,就说要设置密码,所以说要把它的互信给关了,互信给关了,怎么去做互信呢?就是说SHK在瑞ta,然后呢去做一个一个就公司钥的一个,密钥的一个。
17:07
一个就生成,就是说基基本上就回拆就OK,然后呢,基本上在在SLEEP1中也进行一个操作,然后生成用司要嘛可以这样可以这什么,不要说回就可以,这个是。会回车,这样的话就会生成一个什么目录呢?生成一个在当前目录下生成一个嗯,点SH这个目录,然后里面就是说有有这个,这是它的一个私钥,这是它的公钥,就说我要想免密怎么办呢?比方说我从从master登这个FLIP1,如果说不需要密码的话,我只需要把我的。把我的这一个。这个这个公钥,公钥内容就是公钥内容放到就是说这台主机的一个文件里就行,就说怎么放呢,怎么放,然后放的话就是用一个命令就能放,或者说你手手动创建也行,其实我觉得是不用不用创建,直接通过一个命令也行,嗯,叫。
18:14
嗯,Copy copyd就是说copy RD就是1。就是我考的时候还是需要密码的。然后呢,就再再看一里面。嗯。就多了一个。Kids,然后你看里面的内容就是我刚才就我master一个私钥个吧公钥,然后呢,我再登录,就我现在就不需要密码了,就是如此,就是如法炮制,基本上我我把。这个2也考过去,然后呢,就是说考把它都考过去是。
19:03
Yes me.然后呢,现在就是就说有2条了,然后呢,我再把它本身呢拷进去,本身的怎么考呢,本身呢,就是说这T点嗯点PU嘛。感觉这样就是说他们这3个就互相登录的时候就会免密了,就。然后呢,分发到,分发到就是说各个节点上。Root.然后呢,就就是说。之了,现在说这个免密就是配置成功了嘛,这个免密就配置成功了。
20:14
然后呢,就是说在里面去做一个。去做一个一个节点的。Hard,嗯,做一个就是说再再配置一个,嗯,像不配置了,直接就是说可以启动,直接可以启动hard现在看启动的话,它应该会报错,因为我有一个配置没有没没有去配嘛,嗯,好多CAPP里面,它的命令在sbin里面,就是说它它有两个两个两个启动目录,两个脚本目录,一个是bin,就是说它里面就是是一些就是说对哈杜普的,就是说po文件,文件系统的,就像DS啊,就说文件系统的一个,呃,操作命令像对集群的命令呢,都在里面。
21:05
就说我要去。像这个start hds啊,就就是启动HDFS就是设备,然后呢,Start就是启动亚集群,就START2就是说把DR和DFS都启动。在这在此之前,在启动之前呢,要格式化它的一个name no的一个格式,做一个格式化,然后生成一个呃,Named格式化名在这。就是我需要就是说去去到它那个,我因为我现在没有配哈多的一个环境变量嘛,现在我只能去它的那个那个脚本目脚本脚本的目录下去执行。然后呢,他他进行。它创建了一个目录啊,除此之外呢,还要创建创建几个文件目录,创建就是就是说在我们在hard普这边配置的时候,它呃就是说这是data,就是说在slave s slave上面要配配置这个呃,数据存储的目录在这个name,在这个name no上面呢,要配置要配这个一个。
22:24
就基本上都给配上得了。其实这个在D上面是没必要配的,我在这个上面是没必要配的,那为了就是说统一都配上。是我。创建应该最好是在那个创建,创建就是说在master配置的时候应该配置,但是忘了。
23:08
你看它它它已经生成,其实好像应该是自动自动创建好了,它会生成一个那个你看微它的它一个一个一个版本ID,一个就是说一个class ID,然后呢,所以说你在集群重建的时候,一定要把它删了,然后在那个还有一个A妹纸是他对集群一个操作的,一个一个一个日志一个一志合并。然后呢,就是重就是可以重启集群了,就是D。Start a DFS,这DFS吧。对是他会报错的,因为我我有这个他说了你看就是no data user,就是说根本没有创建嘛,就是说我在那个刚才之前说过,就是说要在这个这个ETC下哈豆普下这个哈豆普environment,就是说这个这个目录下要要创建,基本上就是说他设置了一个默认值,就说用AFS。
24:06
就就用SDFS去做,就是汉堡,你看这里看它。嗯,有点下有点有点。嗯。你看它有这些,就是说像亚的这些user,它用的亚,然后呢,这个nameno的user就是ATS,比方说你必须要带,你就是现在就不能用注射器,要注射器的话就会报错,就是说因为当前我不是用SDFS这个用户起的嘛,我用的注册起的。嗯,今天也行,然后直接就直接都拷过来,就是说把这些像还Java一个home啊,然后呢,还有这个ADS啊,还有这个ADS他压了都直接拷过来,就是他所有的用用户用。
25:12
哎。哎呀,解决解决了,解决了解决了,哎这2选一啊,这得哎呀服了呀,没我刚才看之前看产劈了,哎1。啊,应该可以了。呃,应该可以了,启应该启动成功了,看1。啊,启动出口,然后然后启动亚嘛。
26:06
然后就从页面可以看。可以看,可以看,可以看,就是说它那个1921。九二。就是可以看ADFS这个界面嘛,就是说它有。两个的两个的,然后呢,还可以看压的这个要。就巴里巴巴端口。是8088。阿巴,就是说你提交像提交Spark任务,还有那个任务还有。还有什么任务来着,还有。Flink任务都会提交到压上,他去做一个管理,像这里的话可以看到核就4核嘛,因为我的虚拟机就4核,它的一个总核数,然后呢,分配了就8G8G的内存。就说这是他的一个计算资源。
我来说两句