基于大数据的智能数据分析技术

基于大数据的智能数据分析技术【摘要】由于多媒体等多种技术的发展与应用，各领域都发生了很大的变化，每天不仅产生大量的数据，而且数据更新换代的速度极快。人们在处理以及分析数据的过程中，继续使用传统的智能数据分析技术已经难以实现理想的效果，专家开始意识到必须尽快开发新的技术。这就需要了解典型理论和技术，掌握不同种方法的特点，这样才能有效的避免各自的劣势，充分发挥优势达到互补的作用。本文在分析不同种传统数据智能分析方法的基础上，分析了结合新平台开发的新型分析方法。【关键词】大数据智能数据技术分析一、前言当前世界依然迎来了大数据时代，随着多媒体等多种技术的应用，社会中的相关领域时刻都涌现大量的数据，增加了技术处理以及分析的难度。通常情况下大数据具有复杂性，而且还具有数量大、分布式的特点，这样就必须要采取新的技术方法对数据进行处理，因此智能分析技术在数据的处理中具有非常重要的意义。二、几种常见的智能数据分析法虽然在大数据时代传统的智能数据分析法已经不能适应当前的需求，但是依然有一定的相似性，相关理论和技术依然可以沿用，几种常见数据分析法：第一种方法是决策树。这种数据分析方法需要基于信息论基础上，这种方法实现的输出结果容易理解，精确度较高，效率也较快，但是它不能用来对复杂的数据进行处理与分析[1]。第二种方法是关联规则。这种方法主要是用于事物数据库中，通常带有大量的数据，当今使用这种方法来削减搜索空间。第三种方法是粗糙集。这种数据分析方法能够对数据进行主观评价，只要通过观测数据，就可以清除冗余的信息。第四种方法是模糊数学分析。这种数据分析方法能够对实际问题进行模糊的分析，与其他的分析方法相比，能够取得更为客观的效果。第五种方法是人工神经网络。这种数据分析方法具有自学习功能，在此基础上还具有联想存储的功能。第六种方法是混沌和分形理论。这两种理论主要是用来对自然社会中存在的现象进行解释，一般用来进行智能认知研究，还能应用于自动控制等众多领域中[2]。第七种方法是自然计算分析方法。这种数据分析方法根据不同生物层面的模拟与仿真，通常可以分为以下三种不同类型的分析方法：一是群体智能算法，二是免疫算法，三是DNA算法。群体智能主要是对集体行为进行研究，免疫算法具有多样性，经典的主要有反向、克隆选择等，而DNA算法主要使属于随机化搜索方法，它可以进行全局寻优，在实际的运用中一般都能获取优化的搜索空间，在此基础上还能自动调整搜索方向，在整个过程中都不需要确定的规则。当前DNA算法普遍应用于多种行业中，并取得了不错的成效。三、大数据背景下的智能数据分析技术大数据具有一定的复杂性，只有通过使用新的智能分析技术才能对数据进行有效处理。目前已经有专家针对大数据提出了新的智能分析技术方案，例如HAVEn、TeradataAster分析平台，经过研究发现推出的一系列分析方案，基本上离不开Hadoop分析平台。Hadoop主要分为以下两大部分，其中一个部分是分布文件系统，专家称之为HDFS，另一部分是分布计算系统，专家称之为MapReduce。一般来说HDFS主要是表现为主/从结构，其中主结构称为名字节点，主要功能是管理元数据，从结构通常称为数据节点。主要功能是用来存放，或者管理相关的应用数据[3]。一个HDFS系统能够支持的数据非常庞大，一般能够达到10PB数量级，因此HDFS系统能够应用于大数据处理分析中。同时为了能够更好的支持大数据，在HDFS系统的基础上，还继续构建Hbase系统，该系统的接口语言色设为Pig。并且还构建了Hivi系统，该系统主要是属于数据仓库。此外还构建了机器学习软件包，称为Mahout，这样就可以对大数据进行有效管理以及分析。这些新的智能数据分析融合了多种传统的技术，能够对大数据进行更为全面、高效的分析。四、结语传统中可应用的数据智能分析技术多种多样，常用的主要有七种方法，每一种方法都有自身的优势以及局限性，如果在大数据中单一使用一种方法，根本就不能达到理想的效果。但是凭借当前的技术水平还不能找到通用的智能分析技术方法，这就需要将传统的多种方法结合起来，这样就可以弥补各自的缺陷，而且还能充分发挥优势，这是当前大数据智能分析技术的重要研究方向。沿着这个方向，目前已经开发了hadoop，这个系统不仅集合了传统的方法，而且还结合了新型平台，是一种全新的技术，未来需要专家不断的进行探索与研究，继续开发更好的数据智能分析方法。参考文献[1]杨舒林.智能分析技术发展现状及应用[J].中国公共安全.2015，08（14）：207-209.[