制造业MES产线IoT平台架构

1、制造业MES产线IoT平台架构Oracle全数据和云存储方案对于大多数的制造企业来说，在快速发展的同时对大量数据进行访问、分析及管理越来越关 键。许多制造企业都在壇强制造质量的同时寻找提升缺陷跟踪及对完善供应链的优化能力,从而改 善其整体的运营效率。全数据解决方案可以帮助提高制造及运营效率，同时提供对公司运作的全方位观察，从而引导 更好更及时的决策。以全数据为基础的架构可以让企业有能力分析各类数据源以获得更好的洞察。 这会开拓企业的分析及预测选项,并会取得更好的成果。Oracle是企业级解决方案的领导者，在企业纷纷思考大数据如何转换为价值的过程中，Oracle 也在结合自己的经验和能力思考，并

2、且总结出了全数据管理解决方案。即对于结构化数据，Oracle 建议采用关系型数据库来处理，其技术非常成熟，生态坏境也比较完善。而对于非结构化数据，考 虑到未来技术的发展和成本等因素，可以考虑基于Hadoop/NoSQL来处理，同时将关系型数据库 成熟的经验和技术扩展到新技术平台。全数据管理平台构建模式应该是关系型数据库和 Hadoop/NoSQL相结合,在企业级产品方面Oracle推岀了 Exadata + BDA的一整套全数据解决 方案。Oracle Exadata数据库云平台采用集成设计,旨在为Oracle数据库提供卓越的性能、极好的 成本效益和极高的可用性。Exadata可以运行所有类型

3、的数据库负载,包括联机事务处理（OLTP）、 数据仓库（DW）、内存中分析以及各种混合负载。Oracle BDA大数据机是f 灵活、高性能安全的平台，用于在Hadoop. Kafka和NoSQL系 统上运行不同的负载。凭借Oracle Big Data SQL, BDA将Oracle行业领先的SQL实现扩展至 Hadoop/ NoSQL和Kafka系统。BDA将Hadoop生态系统的最新技术和强大的Oracle SQL功 能整合到一个预先配置的平台上,因而支持快速开发新的大数据应用程序,支持与现有关系型娄 紧密集成,这在业界堪称独一无二。Oracle存储云服务为您提供了一个通过互联网存储、管理

4、和使用大量非结构化数据的易用的解 决方氯您的应用程序可以使用OpenStack Swift兼容的REST API或Java API以编程方式访问 Oracle存储云服务。您可以使用基于web的图形控制台监视关键存储量度并管理用户和角色。下面以一个真实的案例向您介绍如何通过ORACLE全数据平台+ Cloud存储混合云架构设 计，构建一个制造业MES产线IoT平台。1. 典型案例某制造业MES产品检测系统大数据需求分析1.1.数据源分析MES产品检测系统测试数据分为两类：SUMMARY概要数据DETAIL详细数据O LOGFILE日志文件o IMAGE 图片文件 数据按RETENTION分类 超

5、躺据:当前生产数据:1天以内热数据：1天至1月温数据：1月至6月冷数据：6月以上至2年具体数据分析如下：SUMMARYLOG定义测试数据的概要信息测试日志文件 （测试数据的 审田信息）测试图片文件（测试数 据的详细信息）格式结构化数据结构化数据非结构化数据数据大小（每 条）10KB50KB5MB产生数量/分钟1000 条10万条1000 条数据S/分钟 数据天 数据量/月 数据*/半年 数据*/年10 MB14.4 GB432 GB2.592 TB5.184 TB5GB7.2 TB216 TB1.296 PB2.592 PB5GB7.2 TB216 TB1.296 PB2.592 PB数据访问

6、性能 要求=5秒（超热数据：1天内） 二10分钟（热数据：1天至1月） -4小时（温数据：1月至半年） 构建企业级IoT平台2.1.超热数据处理阶段由 EXADATA + ORACLE不超过一天的超热数据（SUMMARY与LOGFILE中间表麦12c实现快速处理,尤其是大量的JOIN操作。 Exadata所特有的SMART SCAN、大容量智能缓存等功能，以及Oracle 12C的INMEMORY列式内存计算、分区等功能可以实现非常高效地处理超馳据。趨热数据 （1天以内）22热/温数据处理阶段 Oracle中的SUMMARY/LOGFILE中间表数据实时同步至BDA大数据一体机平台 文件导入至

7、BDA中的HDFS,表METADATA存储至HIVE-导入工具为OGGBDA存储半年以内的热/温数据超出半年以外的LOGFILE数据则归档至公有云存储23冷数据处理阶段 BDA大数据一体机中超出半年以外的LOGFILE数据归档至公有云 IMAGE数据归档至公有云热/温数据（半年以内）冷数据（半年至两年）24 BDA方案整体架构图基于客户需求理解，ORACLE建议如下： 超热数据的处理由Exadata来处理；Summary和Log文件都可以存放于BDA中，由于Summary文件较小，且包含Log文件的访问信息，Summary文件一直存放在BDA中；Log文 件冷数据归档窗口保持为6个月。整体方案

8、架构图如下:超热数据（1天以内）热/温数据（半年以内）（半年至两年）说明：1实时同步通过OracleGolden Gate进行实时同步。OGG可以按照配置将更新的记录同步到 HDFS中的文件，并且可以指定文件分割的大小。2用户可以直接通过ClouderaHadoop平台进行数据访问，例如Impala、Hive等。同时考虑到现 有人员技能复用,也可以通过任4可一个Oracle 12c实例，通过Oracle Big Data SQL即可沿用 Oracle数据库平台上的DBA管理和访问方法。3 Summary 一直保存在BDA中，根据Summary中文件的URI可以定位到公有云中的文件，需要 的时候

9、可以将文件从公有云中恢复和下载到本地的BDA中进行查询。IMAGE文件一直归档至公有4 Oracle云中数据湖解决方案可以提供灵活的Hadoop集群云服务，通过Openstack Swift协议映射成Hive表通过SQL或者基于内存的大数据文件协议(BDFS )直接将Oracle存储云上的麦进行查询访问和分析，未来冷数据的批量查询分析可以通过该方式实现，分析结果再返回本地使 用，提升云中海量数据综合分析能力，减少海量数据在本地?口云中频繁移动。3. 总结通过采用全数据平台(Exadata +BDA )与归档云存储的混合架构,再加上GoldenGate实时 的集成技术以及Big Data SQL、Big Data Connect. R等一系列大数据技术，可分别快速有效地处 理大数据处理的不同阶段、不同类型数据。该架构具体优势体现如下：全数据平台,支持 SQL、NOSQL、Exadata与BDA构成的全数据平台可支持各种结构化及非结构麦HIVE、HDFS等各类数据平台。性能最优Exadata与BDA均为软硬高度优化的TM七设