《大数据平台部署与应用》 项目实施课件 项目7 部署与应用HBase

部署完全分布式HBase集群任务描述在使用HBase实现存储碳排放数据之前，需要先在平台上部署HBase集群。在本任务中，小数将基于项目3部署的ZooKeeper集群，进一步部署完全分布式HBase集群。任务环境已部署Hadoop集群和ZooKeeper集群的3台CentOS7操作系统的虚拟机。任务描述与任务环境目录1解压HBase下载HBase2修改配置文件3从HBase官网下载HBase安装包“hbase-2.2.3-bin.tar.gz”。使用Xftp8远程传输工具将HBase安装包传输至master虚拟机/opt/software目录下。下载HBase目录1解压HBase下载HBase2修改配置文件3在master虚拟机解压安装包hbase-2.2.3-bin.tar.gz至/opt/module目录下。解压操作完成后查看解压目录，结果中能够看到“hbase-2.2.3”，说明文件已解压成功。解压HBase目录1解压HBase下载HBase2修改配置文件3执行“vim/etc/profile”命令进入文件中配置环境变量，在文件末尾添加HBase环境变量并保存退出。执行“source/etc/profile”命令使环境变量立即生效。修改配置文件进入HBase安装目录下的conf目录。修改hbase-env.sh文件：禁用HBase自带的ZooKeeper服务添加Java和Hadoop的环境变量以及日志保存目录设置不输出SLF4J警告信息修改配置文件在HBase内置的环境中，包含了ZooKeeper组件，这简化了初始配置过程。然而，内置ZooKeeper可能不易于扩展以应对大规模集群的管理需求。因此，在某些高级部署或特定需求下，建议单独部署和配置ZooKeeper集群，以充分利用其作为分布式系统协调服务的能力，并保证HBase及其他依赖ZooKeeper的服务能够高效稳定地运行。修改hbase-site.xml文件。修改配置文件修改配置文件hbase-site.xml参数说明如下。修改配置文件参数参数说明hbase.rootdirHBase存储数据的目录hbase.cluster.distributedHBase是否以分布式模式运行hbase.master指定HBaseMaster的地址hbase.zookeeper.quorum指定ZooKeeper集群的队列perty.clientPort指定ZooKeeper客户端连接的端口号perty.dataDirZooKeeper存储数据的目录路径hbase.unsafe.stream.capability.enforce设置HBase是否强制执行不安全的流式操作修改regionservers文件，删除文件中原有内容并添加作为HRegionServer服务的节点。修改配置文件目录4启动HBase集群分发HBase至其他节点5验证HBase集群是否部署成功6将在master上配置好的HBase相关配置文件分发到其他节点。分发HBase至其他节点目录4启动HBase集群分发HBase至其他节点5验证HBase集群是否部署成功6依次启动Hadoop、ZooKeeper和HBase集群。在master节点使用“start-dfs.sh”和“start-yarn.sh”命令启动Hadoop集群。在各节点使用“zkServer.shstart”命令启动ZooKeeper集群。在master节点使用“start-hbase.sh”命令启动HBase集群启动HBase集群启动HBase集群后的输出信息。主节点成功运行HMaster服务和HRegionserver服务，主节点和从节点成功运行HRegionserver服务。启动HBase集群目录4启动HBase集群分发HBase至其他节点5验证HBase集群是否部署成功6使用“jps”命令查看进程，master节点有“HMaster”和“HRegionserver”进程。slave1和slave2节点有“HRegionserver”进程，验证HBase集群是否部署成功在本地Windows电脑的浏览器中登录“http://master:16010”端口查看监控界面。在Web端中可以看到master、slave1和slave2等3个节点的信息，说明HBase完全分布式集群部署成功。验证HBase集群是否部署成功使用HBase实现碳排放数据存储任务描述在成功部署了完全分布

式HBase集群后，数据存储工程师便能利用该工具构建高效、稳定的碳排放数据存储系统了，小数准备使用2023年8月和9月中国总碳排放数据来对平台上部署的HBase集群的部分功能进行测试。任务环境已部署Hadoop集群、ZooKeeper集群和HBase集群的3台CentOS7操作系统的虚拟机。任务描述与任务环境目录1通过HBaseShell创建新命名空间和新表设计HBase表结构2通过LinuxShell脚本导入数据32023年8~9两个月中国总碳排放数据字段说明：设计HBase表结构字段字段说明示例数据日期碳排放数据对应的日期信息2023/8/1二氧化碳排放总量/吨当天产生的二氧化碳排放总量，单位为吨31.21326906时间戳记录数据时的时间戳，默认为当天上午8点对应的时间戳1690848000为了高效查询和管理碳排放数据，使用日期作为HBase的行键（RowKey），这种设计可以提升按日期进行数据检索和统计分析的效率，同时确保数据的时间特征清晰易读。在列族“emission”下，设置两个列，“data”用于存储排放量的数值，“timestamp”用于记录数据的时间戳。设计表结构如下。设计HBase表结构行键列族:emission列:data列:timestamp日期二氧化碳排放总量/千克时间戳2023/8/131.213269061690848000目录1通过HBaseShell创建新命名空间和新表设计HBase表结构2通过LinuxShell脚本导入数据3依次启动Hadoop、ZooKeeper集群、HBase集群。待HBase集群启动后通过“hbaseshell”命令启动HBaseShell。通过HBaseShell创建新命名空间和新表使用create_namespace命令创建名为carbon_data的新命名空间。使用create命令创建名为carbon_emission的新表。通过HBaseShell创建新命名空间和新表使用“list”命令查看HBase数据库中的所有表。通过HBaseShell创建新命名空间和新表目录1通过HBaseShell创建新命名空间和新表设计HBase表结构2通过LinuxShell脚本导入数据3在HBaseShell界面中，可以通过put命令进行数据存放。通过LinuxShell脚本导入数据由于文件的数据量较大，逐条使用put命令输入数据不仅效率低下，而且容易出错。为了提升数据导入的效率和准确性，可采用自动化脚本来完成这一任务。通过编写LinuxShell脚本，可以轻松实现数据的批量导入，从而显著减少人工干预，降低出错概率，并大幅提升数据处理的速度。通过LinuxShell脚本导入数据在master虚拟机中创建目录/opt/carbon_data，之后通过Xftp文件传输工具，上传“中国2023年8~9月碳排放总量.csv”数据至/opt/carbon_data目录下。通过put命令上传数据至HDFS中。通过LinuxShell脚本导入数据编写脚本import_data.sh，实现读取HDFS中的数据、将数据导入HBase表。通过LinuxShell脚本导入数据为了后续能执行import_data.sh脚本，需要设置import_data.sh文件为可执行权限。在终端执行数据自动