制造业MES产线IoT平台架构

1、制造业MES产线IoT平台架构Oracle全数据和云存储方案甲骨文云技术 微信号 oracledbcloud功能介绍 甲骨文官方数据库相关技术介绍，分享Oracle 数据库、公有云、混合云服务解决方案和大数据领域最新咨讯、前沿技术、专家视点，专家问答交流以及市场活动，第一时间发布甲骨文官方免费资源。对于大多数的制造企业来说，在快速发展的同时对大量数据进行访问、分析及管理越来越关键。许多制造企业都在增强制造质量的同时寻找提升缺陷跟踪及对完善供应链的优化能力，从而改善其整体的运营效率。全数据解决方案可以帮助提高制造及运营效率，同时提供对公司运作的全方位观察，从而引导更好更及时的决策。以全数据为基础

2、的架构可以让企业有能力分析各类数据源以获得更好的洞察。这会开拓企业的分析及预测选项，并会取得更好的成果。Oracle是企业级解决方案的领导者，在企业纷纷思考大数据如何转换为价值的过程中，Oracle也在结合自己的经验和能力思考，并且总结出了全数据管理解决方案。即对于结构化数据，Oracle建议采用关系型数据库来处理，其技术非常成熟，生态环境也比较完善。而对于非结构化数据，考虑到未来技术的发展和成本等因素，可以考虑基于Hadoop/NoSQL来处理，同时将关系型数据库成熟的经验和技术扩展到新技术平台。全数据管理平台构建模式应该是关系型数据库和Hadoop/NoSQL相结合，在企业级产品方面Ora

3、cle推出了Exadata + BDA的一整套全数据解决方案。Oracle Exadata 数据库云平台采用集成设计，旨在为 Oracle 数据库提供卓越的性能、极好的成本效益和极高的可用性。Exadata 可以运行所有类型的数据库负载，包括联机事务处理 (OLTP)、数据仓库 (DW)、内存中分析以及各种混合负载。Oracle BDA大数据机是一个灵活、高性能安全的平台，用于在Hadoop、Kafka和NoSQL 系统上运行不同的负载。凭借Oracle Big Data SQL，BDA将Oracle行业领先的SQL实现扩展至Hadoop/ NoSQL和Kafka系统。BDA将Hadoop生态

4、系统的最新技术和强大的Oracle SQL功能整合到一个预先配置的平台上，因而支持快速开发新的大数据应用程序，支持与现有关系型数据紧密集成，这在业界堪称独一无二。Oracle 存储云服务为您提供了一个通过互联网存储、管理和使用大量非结构化数据的易用的解决方案。您的应用程序可以使用 OpenStack Swift 兼容的 REST API 或 Java API 以编程方式访问 Oracle 存储云服务。您可以使用基于 web 的图形控制台监视关键存储量度并管理用户和角色。 下面以一个真实的案例向您介绍如何通过ORACLE全数据平台 + Cloud存储混合云架构设计，构建一个制造业MES产线IoT

5、平台。1. 典型案例某制造业MES产品检测系统大数据需求分析 1.1. 数据源分析 MES产品检测系统测试数据分为两类： SUMMARY概要数据 DETAIL详细数据o LOGFILE日志文件o IMAGE测试图片文件 数据按RETENTION分类 超热数据：当前生产数据：1天以内 热数据： 1天至1月 温数据： 1月至6月 冷数据： 6月以上至2年 具体数据分析如下：SUMMARYLOGFILEIMAGE定义测试数据的概要信息测试日志文件（测试数据的详细信息）测试图片文件（测试数据的详细信息）格式结构化数据结构化数据非结构化数据数据大小（每条）10KB50KB5MB产生数量/分钟1000条1

6、0万条1000条数据量/分钟数据量/天数据量/月数据量/半年数据量/年10 MB14.4 GB432 GB2.592 TB5.184 TB5 GB7.2 TB216 TB1.296 PB2.592 PB 5 GB7.2 TB216 TB1.296 PB2.592 PB数据访问性能要求= 5秒 （超热数据：1天内）= 10分钟 （热数据：1天至1月）= 4小时 （温数据： 1月至半年） 构建企业级IoT平台2.1. 超热数据处理阶段 不超过一天的超热数据（SUMMARY与 LOGFILE中间表数据）由EXADATA + ORACLE 12c实现快速处理，尤其是大量的JOIN操作。 Exadata

7、所特有的SMART SCAN、大容量智能缓存等功能，以及Oracle 12C的IN MEMORY列式内存计算、分区等功能可以实现非常高效地处理超热数据。2.2. 热/温数据处理阶段 Oracle中的SUMMARY/LOGFILE中间表数据实时同步至BDA大数据一体机平台 文件导入至BDA中的HDFS, 表METADATA存储至HIVE 导入工具为 OGG BDA存储半年以内的热/温数据 超出半年以外的LOGFILE数据则归档至公有云存储2.3. 冷数据处理阶段 BDA大数据一体机中超出半年以外的LOGFILE数据归档至公有云 IMAGE数据归档至公有云2.4. BDA方案整体架构图基于客户需求

8、理解，ORACLE建议如下：超热数据的处理由Exadata来处理；Summary和Log文件都可以存放于BDA中，由于Summary文件较小，且包含Log文件的访问信息，Summary文件一直存放在BDA中；Log文件冷数据归档窗口保持为6个月。整体方案架构图如下：说明：1实时同步通过OracleGolden Gate进行实时同步。OGG可以按照配置将更新的记录同步到HDFS中的文件，并且可以指定文件分割的大小。2用户可以直接通过ClouderaHadoop平台进行数据访问，例如Impala、Hive等。同时考虑到现有人员技能复用，也可以通过任何一个Oracle 12c实例，通过Oracle

9、Big Data SQL即可沿用Oracle数据库平台上的DBA管理和访问方法。3 Summary一直保存在BDA中，根据Summary中文件的URI可以定位到公有云中的文件，需要的时候可以将文件从公有云中恢复和下载到本地的BDA中进行查询。IMAGE文件一直归档至公有云。4 Oracle云中数据湖解决方案可以提供灵活的Hadoop集群云服务，通过Openstack Swift协议或者基于内存的大数据文件协议（BDFS）直接将Oracle存储云上的数据映射成Hive表通过SQL进行查询访问和分析，未来冷数据的批量查询分析可以通过该方式实现，分析结果再返回本地使用，提升云中海量数据综合分析能力，减少海量数据在本地和云中频繁移动。3.总结通过采用全数据平台（Exadata +BDA）与归档云存储的混合架构，再加上GoldenGate实时的集成技术以及Big Data SQL、Big Data Connect、R等一系列大数据技术，可分别快速有效地处理大数据处理的不同阶段、不同类型数据。该架构具体优势体现如下： 全数据平台Exadata与BDA构成的全数据平台可支持各种结构化及非结构数据，支持SQL、NOSQL、HIVE、HDFS等各类数据平台。 性能最优Exadata与BDA均为软硬高度优化