暂无图片
暂无图片
暂无图片
暂无图片
暂无图片

快速搭建Cloudera:一键下载安装指南!

原创 ETL敏捷调度Taskctl 2024-09-25
51

回顾:之前《深度挖掘|Cloudera安装不再难!基础环境搭建全解析》中,我们深入探讨了如何在企业环境中精心准备系统环境,为大数据平台 Cloudera 搭建奠定坚实基础。今天,我们将正式进行 Cloudera Manager的下载安装与部署。


Cloudera Manager下载

步骤一:环境检查与准备

确保系统环境已按照《深度挖掘|Cloudera安装不再难!基础环境搭建全解析》指导完成准备,包括操作系统版本、网络配置、防火墙设置等。同时,检查Java环境是否满足Cloudera Manager的要求。


步骤二:下载Cloudera Manager安装包

访问Cloudera官网,根据您的需求选择合适的Cloudera Manager版本进行下载。注意检查下载链接的安全性,避免从非官方渠道下载。

Cloudera manager 安装

1. 创建安装目录

在三台节点 cm1,cm2,cm3 中执行命令“mkdir /opt/cloudera-manager”创 建安装目录。

并且将“cloudera-manager-el6-cm5.4.3_x86_64.tar.gz”上传至 cm1 节点的目录“/software”下,并且解压到目录“/opt/cloudera-manager” 下,在 cm1 节点执行命令如下:

1.[root@cm1 software]# tar
-zxvf ./cloudera-manager-el6-cm5.4.3_x86_64.tar.gz -C /opt/cloudera-manager/
复制


2. 配置 CM Agent 的 server host

在cm1节点上修改路径 /opt/cloudera-manager/cm-5.4.3/etc/cloudera-scm-agent 下的 config.ini 文件,将 server_host=localhost 改成 server_host=cm1。


3. 创建用户cloudera-scm

在三台节点 cm1,cm2,cm3 上创建用户“cloudera-scm”,在每台节点上执行如下命令:

1. useradd--system--no-create-home--shell=/bin/false--comment"ClouderaSCM User" cloudera-scm
复制

其中: --system 创建一个系统用户。--no-create-home 强制不创建家目录。 --shell 指定用户的 shell。--comment 用户说明。


4. 创建Parcel目录
Server 节点创建目录并修改权限:

在 cm1 节点执行如下命令:

1. [root@cm1 cloudera-scm-agent]# mkdir -p /opt/cloudera/parcel-repo 
2. [root@cm1 cloudera-scm-agent]# chown cloudera-scm:cloudera-scm
             /opt/cloudera/parcel-repo
复制

Agent 节点创建目录并修改权限

在 cm1,cm2,cm3 节点上执行如下命令:

1. mkdir -p /opt/cloudera/parcels
2. chown cloudera-scm:cloudera-scm /opt/cloudera/parcels
复制


5. 配置CM Server数据库

将 “ mysql-connector-java-5.1.26-bin.jar ” 上传至 cm1 节 点的 /usr/share/java/目录下,如果没有目录需要先创建目录,并且修改 jar 包名称为“mysql-connector-java.jar”

登录mysql数据库,给用户temp【这里使用temp用户,也可以是其他用户名称】赋权限,在 cm1 执行如下命令:

1. [root@cm1 ~]# mysql -u root -p123456
2.mysql>grantallon*.*to'temp'@'%'identifiedby'temp'withgrantoption;
复制

在 cm1 节点中指定数据库,执行如下命令:

1. [root@cm1 ~]# cd /opt/cloudera-manager/cm-5.4.3/share/cmf/schema/
2[root@cm1schema]#./scm_prepare_database.shmysqltemp-hcm1-utemp-ptemp --scm-host cm1 scm scm scm
复制

以上执行命令参数的解释如下:

数据库类型、数据库、数据库服务器、用户名、密码、cm server 服务器


6. 制作CDH本地源

将下载好的文件 “ CDH-5.4.0-1.cdh5.4.0.p0.27-el6.parcel ” 和 “ manifest.json ” 两个文件,以及制作的 “CDH-5.4.0-1.cdh5.4.0.p0.27-el6.parcel.sha”文件上传至 cm1 节点的/opt/cloudera/parcel-repo/目录下。

以上这个步骤就是模拟安装 CDH 时,已经在 Cloudera Manager 的仓库中下载了 CDH 的镜像文件。

然后将 cm1 节点/opt/cloudera-manager 路径下的所有目录文件发送到 cm2、cm3节点。在 cm1 上执行如下命令:

1. [root@cm1 ~]# cd /opt/cloudera-manager/
2. [root@cm1 cloudera-manager]# scp -r ./* cm2:`pwd` 3. [root@cm1 cloudera-manager]# scp -r ./* cm3:`pwd`
复制


7. 启动CM Server、Agent
cm1 节点上启动 CM Server:

进入 cm1 路径:/opt/cloudera-manager/cm-5.4.3/etc/init.d,执行 如下命令:

1. [root@cm1~]#cd/opt/cloudera-manager/cm-5.4.3/etc/init.d/ 
2. [root@cm1init.d]#./cloudera-scm-serverstart
复制


注意: Sever首次启动会自动创建表以及数据,不要立即关闭或重启,否则需要删除所有表及数据重新安装。至少等待 2-3 分钟,视机器性能而定。可以在路径 /opt/cloudera-manager/cm-5.4.3/log/cloudera-scm-server 下观察日志是否启动成功。

cm1cm2cm3 节点上启动 Agent:

进入 cm1,cm2,cm3 节点路径:

/opt/cloudera-manager/cm-5.4.3/etc/init.d,执行如下命令:

1. cd/opt/cloudera-manager/cm-5.4.3/etc/init.d/
2. ./cloudera-scm-agentstart
复制

至此,Cloudera Manager 的安装完成。

以上就是今天分享的全部内容。

如果你想了解更多关于:Cloudera系统环境准备、基础环境安装、集群部署以及应用组件安装等全方位的技术的问题,可以后台联系我们在线咨询,我们团队提供7x24小时不间断的技术支持服务,确保大家在任何时间遇到问题都能得到及时响应。

感谢你的阅读,如果喜欢我的文字,可以持续关注我,会陆续为你更新更多干货小知识。

我是塔斯克,专注技术运维服务。从环境搭建/集群部署,内存扩容/问题排查,数据迁移等助你轻松应对数据管理的复杂性。

*加入社群,共享资料+赠送指导。

如果你想深入探讨了解 Cloudera大数据技术的(内存扩容/缩容策略,故障诊断与问题排查)的方法论,欢迎撩我,觉得内容有帮助,可以右下角帮我点 “点赞” 、点亮 “在看” 分享朋友圈,非常感谢你的支持,祝财源滚滚。

文章转载自ETL敏捷调度Taskctl,如果涉嫌侵权,请发送邮件至:contact@modb.pro进行举报,并提供相关证据,一经查实,墨天轮将立刻删除相关内容。

评论