可信感知系统集成产品集群部署实施方案V3 0_20200324

可信感知系统集成产品单点部署实施方案可信感知系统集成产品单点部署实施方案北京北信源软件股份有限公司2020年2月目 录1. 部署安装包和服务器52. 服务器操作系统安装52.1 安装52.2 配置主机名52.3 配置HOSTS52.4 关闭防火墙iptables62.5 关闭selinux（root用户操作）62.6 时间同步 ntp62.7 YUM源准备63. 感知平台启动步骤简介84. 安装感知平台系统84.1 上传安装包84.2 安装平台94.2.1 安装组件：94.2.2 安装过程104.2.3 组件安装后目录104.2.4 安装说明：114.3 导入MySQL数据库表文件114.4 启动服务方式114.5 登录系统115. 新加服务125.1 单个服务的安装126. 单点登录功能136.1 CEMS端配置136.1.1 配置可信感知平台IP地址136.2 可信感知平台配置CEMS策略IP地址146.3 验证策略界面是否可以打开157. 外发更改配置177.1 接口说明177.2 解压jar包文件177.3 重启服务217.4 查看服务状态217.5 http模式发送217.6 添加认证服务237.6.1 更改配置文件238. 感知规则同步程序248.1 接口说明248.2 集成在安装包中249. 对外接口升级/替换259.1 修改接口配置文件259.2 上传文件269.3 重新启动接口程序。2710. 模型程序运行2810.1 说明2810.2 设置flink检查点2810.3 运行jar包3010.4 重启jar包3511. ES模板创建3511.1 ES模板创建工具3511.1.1 进入/home目录下3512. ES升级3912.1 适用环境3912.2 升级步骤3912.2.1 停止ES服务、查看状态3912.2.2 卸载ES程序4013. 前端模块升级/替换4213.1 上传前端文件4213.2 重启服务4213.3 查看状态4314. 对内接口模块升级/替换4314.1 接口说明4314.2 修改接口配置文件4314.3 上传jar包4514.4 重启服务4615. 用户访问列表模块安装4715.1 说明4715.2 接收数据模块安装(logstatsh)4715.2.1 上传logstash4715.2.2 修改loginout.conf文件。4815.2.3 启动服务4916. 数据主题信息5030北京北信源软件股份有限公司中关村南大街34号中关村科技发展大厦C座86/871. 部署安装包和服务器安装包：EnvironmentAwarenessPlatform-v3.0.zip操作系统：Centos 7.0以上，64位操作系统，不能使用centos6.X的操作系统。服务器参数： 1. 磁盘空间挂载时，默认的挂载1T以上（因为以后扩容麻烦）。2. 建议CPU频率为3.0GHz以上，线程数为16线程。3. 内存需求128G（至少64G）。备注：cems服务器请单独考虑。2. 服务器操作系统安装2.1 安装（略）2.2 配置主机名在主机上，编辑/etc/hostname文件修改主机的主机名 # vim hostname kexinganzhi# hostname fkexinganzhi2.3 配置HOSTS根据主机的主机名，在机器上配置hosts文件# vim /etc/hosts57 kexinganzhi0158 kexinganzhi0265 kexinganzhi032.4 关闭防火墙iptables# systemctl disable firewalld# systemctl stop firewalld# systemctl status firewalldfirewalld.service - firewalld - dynamic firewall daemon Loaded: loaded (/usr/lib/systemd/system/firewalld.service; disabled; vendor preset: enabled) Active: inactive (dead)2.5 关闭selinux（root用户操作）查看selinux状态# /usr/sbin/sestatus -v临时关闭# setenforce 0永久关闭SELinux# vim /etc/selinux/configSELINUX=disabled2.6 时间同步 ntpyum install ntpntpdate -u ntpdate -u 2.7 YUM源准备为感知平台安装准备所需要的YUM源，操作需要用root用户进行。注：本例中YUM源为Centos7安装光盘。 操作系统源准备拷贝ISO文件CentOS-7-x86_64-Everything-1611.iso到/opt目录# cd /opt# llCentOS-7-x86_64-Everything-1611.iso 挂载ISO文件# mount -ro loop -t iso9660 /opt/CentOS-7-x86_64-Everything-1611.iso /mnt/centos7.3# df hFilesystem Size Used Avail Use% Mounted on/dev/sda2 100G 3.7G 97G 4% /devtmpfs 16G 0 16G 0% /devtmpfs 16G 88K 16G 1% /dev/shmtmpfs 16G 8.9M 16G 1% /runtmpfs 16G 0 16G 0% /sys/fs/cgroup/dev/sda6 316G 33M 316G 1% /data/dev/sda3 50G 17G 34G 34% /opt/dev/sda1 2.0G 169M 1.9G 9% /boottmpfs 3.2G 8.0K 3.2G 1% /run/user/0/dev/loop0 7.8G 7.8G 0 100% /mnt/centos7.3 创建centos源配置文件# vim /etc/yum.repos.d/cent0s7.3.repocentos7.3name=centos7.3baseurl=file:/mnt/centos7.3gpgcheck=0enabled=1 查看配置好的centos源# yum repolist centos7.3repo idrepo name statuscentos7.3centos7.39,363 刷新yum源# yum clean all# yum makecache 安装系统基本工具yum -y install kernel-devel gcc lrzsz gcc-c+ pcre pcre-devel zlib zlib-devel ruby openssl openssl-devel patch wget bash-completion zlib.i686 libstdc+.i686 lsof unzip zip httpd ncurses-devel ntp vim 安装开发工具yum -y groupinstall Development Tools 更新组件工具 yum -y update & reboot3. 集群版部署安装步骤 集群环境准备 集群环境调试 安装感知平台 导入sql文件 导入授权文件 启动模型运算服务 启动数据预处理服务 启动登录登出服务 单点登录设置4. 集群环境准备4.1 安装JDK在kexinganzhi01的/home/jdk目录下# sh jdk.sh# source /etc/profile4.2 修改系统环境在kexinganzhi01的/home/syscon下# sh system-configuration.sh重启集群环境；4.3 配置用户免密(root)在kexinganzhi01的/home/syscon下# sh avoid-close-configuration.sh输入当前用户密码；4.4 集群安装4.4.1 zookeeper安装测试1. 在kexinganzhi01的/home/zookeeper下# sh zookeeper.sh2. 启动zookeeper# sh zookeeper_start.sh3. 查看zookeeper的状态# sh zookeeper_status.sh4. 停止zookeeper# sh zookeeper_stop.sh4.4.2 kafka安装测试1. 在kexinganzhi01的/home/kafka下# sh kafka.sh2. 启动kafka# sh kafka_start.sh3. 查看kafka日志# sh cd /usr/local/vap/kafka/logs启动成功；4. 停止kafka# sh kafka_stop.sh4.4.3 flink安装1. 在kexinganzhi01的/home/flink下# tar -zxvf flink-1.8.0-bin-scala_2.11.tgz -C /usr/local/vap# cp flink-conf.yaml /usr/local/vap/flink-1.8.0/conf2. 启动flink# /usr/local/vap/flink-1.8.0/bin/start-cluster.sh3. 查看flink运行状态登陆http:/IP:8081界面查看flink运行状态；4.4.4 flume安装1. 在kexinganzhi01的/home/下# cp -r ./flume /usr/local/vap2. 启动flume# sh start-flume-ui.sh start3. 查看flume运行状态登陆http:/IP:28080界面查看flume运行状态；4.查看flume任务是否关闭 点击如图所示按钮，关闭flume任务。5.每个flume任务都需要修改IP地址，示例如下：第一步：点击采集器维护第二步：选择loginout任务的修改如图所示第三步：修改IP地址为kafka所在设备的IP地址 第四步：重新启动任务4.4.5 ES安装测试1. 在kexinganzhi01的/home/ES下# sh elasticsearch.sh2. 启动es# su elasticsearch# 执行4.3配置ES用户的免密，密码为：elasticsearch# sh elasticsearch_start.sh3. 查看ES日志# cd /usr/share/elasticsearch-6.3.1/logs# tail -500f kexinganzhi-es.log4. 停止ES# sh sh elasticsearch_stop.sh5. 安装感知平台系统5.1.1 上传安装包在/home/目录下创建tea文件夹# mkdir /home/tea上传安装包到/home/tea目录下。# ls /home/tea/EnvironmentAwarenessPlatform-v3.0.zip解压安装包到/home/目录下# unzip /home/tools/EnvironmentAwarenessPlatform-v3.0.zip -d /home/# ls agent perties iteminstall.sh nacos redis uninstallLogapp-web itemuninstall.sh nginx server uninstallRMLog base db flumeUpgrade jdk module.json ports shlog unmysql.jsoncboard hardware jq mysql sqlfile cloud filename.txt installLog jsoc.json nac rabbit syscrond5.2 安装平台5.2.1 安装组件：1. 基础环境安装，包括mysql、jdk等内容。2. sql脚本安装，包括结构创建，初始数据添加。3. cloud基础安装4. 端口配置5. 消息队列rabbitmq安装6. redis安装7. 前端模块安装8. cboard安装【tomcat安装】9. 网关组件安装5.2.2 安装过程# sh iteminstall.sh jsoc.json确认正确的IP地址。按提示输入正确的系统ip，进行安装。按提示输入正确的数据库ip和端口号，进行安装。确认redis的安装端口号。确认redis的安装IP地址。确认安装redis的密码。确认安装网卡名称和网关地址。确认是否使用默认的数据库。输入数据库密码。系统将自动安装，如下图所示，表示安装成功。5.2.3 组件安装后目录执行脚本后安装目录：安装的目录是/usr/local/vapcd /usr/local/vap基础组件安装目录：cd /usr/local/vap/cloud各项目安装目录：audit目录：/usr/local/vap/auditservice服务目录# cd /usr/lib/systemd/system内置环境变量cat /etc/profile5.2.4 安装说明：1.注意Mysql5.7 密码复杂度： Vrv1234562.相关的配置，包含ES、mysql、kafka、redis、nacos等配置信息查看cat /etc/profile 文件Jar, $MYSQL_USER $MYSQL_PASSWORD5.3 导入MySQL数据库表文件5.4 启动服务方式启动网关服务systemctl start server-zuul 启动admin服务systemctl start api-admin5.5 登录系统安装完成后在谷歌浏览器中输入75/login,如图所示：输入用户名密码：默认用户名admin，密码vrv123登录后界面如下所示：6. 新加服务6.1 单个服务的安装单个服务的安装：sh iteminstall.sh 1.json1. json的内容，只安装安审的组件。其中audit.json的内容也可以自主选择。name:jsoc,type:items,items:name:audit,type:itemFile,fileDir:audit,fileName:audit.json备注：新加服务建议重启网管服务。7. 单点登录功能7.1 CEMS端配置7.1.1 配置可信感知平台IP地址1.找到CEMS服务器路径下CEMSWEB-INFclassessysCperties中的 kexinPRC这一个配置2.修改kexinPRC对应的value中的IP为可信感知平台的IP3.然后重启cems服务8. 模型程序运行8.1 运行jar包1. 进入/home/flink，运行预处理jar包。# nohup /usr/local/vap/flink-1.8.0/bin/flink run /home/model-flink-pre-trans-3.0.0-20200321.jar mysql.jdbc.url=jdbc:mysql:/11:3306/ajb_vap =root mysql.password=Vrv123456 &注： mysql.jdbc.url=jdbc:mysql:/11:3306/ajb_vap使用平台数据库2. 进入/home/flink，运行模型jar包。# nohup /usr/local/vap/flink-1.8.0/bin/flink run /home/model-flink-tea-3.0.6-20200323.jar mysql.jdbc.url=jdbc:mysql:/11:3306/ajb_vap =root mysql.password=Vrv123456 is.print=true &3. 进入/home/flink，运行接策略jar包。# nohup java -jar model-flink-data-trans-3.0.0-20200323.jar mysql.jdbc.url=jdbc:mysql:/11:3306/ajb_vap =root mysql.password=Vrv123456 & 在当前jar包运行的所在目录会产生一个nohup.out日志文件。 使用tail命令查看日志# tail -500f ./nohup.out4. 查看flink的web界面。打开谷歌浏览器，输入http:/IP:8081,例如：78:8081.如下图所示：5. 点击“RunningJobs”按钮。可以看到该程序的运行状态，如果该界面没有任何运行的程序，表明该jar包没有启动成功。可以使用tail命令查看启动状态信息。6. 点击running按钮，可以查看程序的具体运行血缘关系，如下图所示：7. 我们所关心的是“Exception”标签下面是否有异常信息。无异常信息表明该程序运行状态正常，如出现异常表明程序有错误，根据错误信息解决异常。8.2 重启jar包1.结束jar包运行，点击web页面的“cancel”按钮，结