任务7.2 使用HBase实现碳排放数据存储

使用HBase实现碳排放数据存储任务描述在成功部署了完全分布

式HBase集群后，数据存储工程师便能利用该工具构建高效、稳定的碳排放数据存储系统了，小数准备使用2023年8月和9月中国总碳排放数据来对平台上部署的HBase集群的部分功能进行测试。任务环境已部署Hadoop集群、ZooKeeper集群和HBase集群的3台CentOS7操作系统的虚拟机。任务描述与任务环境目录1通过HBaseShell创建新命名空间和新表设计HBase表结构2通过LinuxShell脚本导入数据32023年8~9两个月中国总碳排放数据字段说明：设计HBase表结构字段字段说明示例数据日期碳排放数据对应的日期信息2023/8/1二氧化碳排放总量/吨当天产生的二氧化碳排放总量，单位为吨31.21326906时间戳记录数据时的时间戳，默认为当天上午8点对应的时间戳1690848000为了高效查询和管理碳排放数据，使用日期作为HBase的行键（RowKey），这种设计可以提升按日期进行数据检索和统计分析的效率，同时确保数据的时间特征清晰易读。在列族“emission”下，设置两个列，“data”用于存储排放量的数值，“timestamp”用于记录数据的时间戳。设计表结构如下。设计HBase表结构行键列族:emission列:data列:timestamp日期二氧化碳排放总量/千克时间戳2023/8/131.213269061690848000目录1通过HBaseShell创建新命名空间和新表设计HBase表结构2通过LinuxShell脚本导入数据3依次启动Hadoop、ZooKeeper集群、HBase集群。待HBase集群启动后通过“hbaseshell”命令启动HBaseShell。通过HBaseShell创建新命名空间和新表使用create_namespace命令创建名为carbon_data的新命名空间。使用create命令创建名为carbon_emission的新表。通过HBaseShell创建新命名空间和新表使用“list”命令查看HBase数据库中的所有表。通过HBaseShell创建新命名空间和新表目录1通过HBaseShell创建新命名空间和新表设计HBase表结构2通过LinuxShell脚本导入数据3在HBaseShell界面中，可以通过put命令进行数据存放。通过LinuxShell脚本导入数据由于文件的数据量较大，逐条使用put命令输入数据不仅效率低下，而且容易出错。为了提升数据导入的效率和准确性，可采用自动化脚本来完成这一任务。通过编写LinuxShell脚本，可以轻松实现数据的批量导入，从而显著减少人工干预，降低出错概率，并大幅提升数据处理的速度。通过LinuxShell脚本导入数据在master虚拟机中创建目录/opt/carbon_data，之后通过Xftp文件传输工具，上传“中国2023年8~9月碳排放总量.csv”数据至/opt/carbon_data目录下。通过put命令上传数据至HDFS中。通过LinuxShell脚本导入数据编写脚本import_data.sh，实现读取HDFS中的数据、将数据导入HBase表。通过LinuxShell脚本导入数据为了后续能执行import_data.sh脚本，需要设置import_data.sh文件为可执行权限。在终端执行数据自动化导入脚本。通过LinuxShell脚本导入数据在Linux平台上，执行Shell脚本文件的方法有两种。先赋予脚本可执行权限，然后直接运行；直接使用“sh”命令运行脚本，即“shim