大数据还有不少潜能.doc

能预测宏观趋势，但采集、管理、分析技术还待完善大数据还有不少潜能喻思娈 黄文砚 肖家鑫 人民日报 （ 2014年04月30日 12 版）近两年来，大数据被公众广泛讨论，甚至成为不少商家宣传营销的卖点。毋庸置疑，智能设备的发展和普及，使海量的数据采集成为可能。但大数据并不是单纯的“数据大”，它更蕴含着一种计算和思维方式的转变，想要发挥出大数据的洞察力，还面临着采集、管理、分析数据的挑战。这些障碍如何破除？大数据在未来将如何应用，能否创造出更大的价值？这些问题值得我们在大数据热中，做出冷静判断。编者4月26日，清华大学成立“清华青岛数据科学研究院”，同时召开大数据时代高端论坛。就在此前两天，百度在第四届技术开放日上，正式宣布对外开放大数据引擎，提供大数据存储、分析及挖掘的技术能力。大数据被学界纳入研究范畴，商家开放引擎，这是否意味着大数据应用进入了一个新阶段？传统统计方法追求精确，大数据只预测宏观趋势本是技术概念的大数据，如今越来越像一种营销手段。从汽车、化妆品到体育，在营销人员口中，似乎所有行业都可以借助大数据，精确定位、找到消费者，预测趋势、赢得未来。中国人民大学新闻学院教授喻国明认为，目前从国内的情况看，真正运用大数据分析成功的案例其实不多，很多公司都是将大数据作为一个营销噱头，所做的分析也主要是基于传统的数据分析方法。事实上，对于数据多大能称之为“大数据”，业界并没有统一的认识，通常认为100TB（太字节）是大数据的门槛。简而言之，传统方法无法处理的数据即为大数据。大数据的产生得益于移动互联网以及智能手机、各种智能穿戴产品的发展，人们行为、位置，甚至身体的生理特征等数据都可以便捷地被记录，这使海量数据采集成为可能。事实上，目前数据采集量正呈现快速的增长趋势。一家国际数据统计机构最新预测指出，2020年，全世界产生的数据量有望达到40ZB（泽字节，1泽字节等于10亿太字节）。但大数据不能单纯理解为数据大。大数据研究专家、北京航空航天大学校长怀进鹏表示，大数据具有“规模大、变化快、种类杂、价值密度低”四个特征，是对传统计算和思维方式的一种挑战。首先，因为几乎每个数据点都可以采集，全面数据代替了抽样、片面、局部的数据。“拿炒菜打比方，传统的抽样，我们需要在开始和中间时候尝一尝，尝一尝就是抽样数据，但在大数据时代，随机抽样的方式可能就失效了。”怀进鹏说。怀进鹏认为，因为抽样分析时数据测量能力有限，统计追求的是精确，希望用最少数据获得最多的信息。而大数据比较杂乱，完整的精确不存在，也不再是追求的绝对目标，大数据只需对宏观趋势给出快速预测。另一个改变是，从关注因果转向数据之间关联。在大数据时代，“数据背后的原因不再重要，人们只需要知道数据之间有统计相关性就行。仅需知其然，无需知其所以然。”怀进鹏说。在大数据的支持者看来，数据已经能够自己说话，传统的科学统计模型已经过时，理论也可能被终结。大数据营销大多是噱头，一些机构甚至无法收集海量数据被誉为开大数据系统研究先河之作的大数据时代作者指出，大数据是社会的一种新型能力：以一种前所未有的方式，通过对海量数据进行分析，获得巨大价值的产品和服务，或深刻的洞见。大数据蕴含的发现事实、挖掘价值、预测未来的洞察力，也是各色大数据营销的理论出发点。实际上，大数据洞察力确实在公共卫生、交通运输等行业开始发挥。中国疾病预防控制中心副主任、中科院院士高福也认同大数据在公共卫生预防控制上的作用。他说，通过大数据，可以在流感到来之前为人们提供一些解释性信息，为流感的预防提供缓冲时间。同样，在智能交通时代，海量车辆信息没法通过传统方式分析，但借助大数据，则可能提前预测未来的车流量、行进路线等信息，从而为改善城市交通状况提出优化方案。然而，“自己能够讲话的大数据”，是否真如营销人员畅想得那么美好？分析人士指出，数据存储和搬运虽然越来越便利，但目前大数据应用面临着数据收集，管理、分析海量数据并创造价值的挑战。“如果将数据比作书，书增多后，首先要找到储存大数据的大图书馆，下一步则要解决数据查询问题，没有好的查询引擎，书找不到，数据也就很难利用。”百度大数据总监李钢江说。而现实是，大部分机构和企业都没有海量数据收集存储以及分析管理的能力。业内人士指出，大数据在一些领域的营销还只是噱头，先不论大数据分析结果是否有效，有些行业连基本的大数据采集和管理条件还不具备，更谈不上精确定位和预测。百度高级副总裁王劲也表示，传统的数据库没有管理大数据的能力，传统行业如何进入大数据时代，利用大数据价值，是摆在很多行业面前的新课题。提升计算能力和降低云存储成本，将有利于大数据技术变革百度首席执行官李彦宏认为，随着计算能力的提升和云存储等技术产品成本的不断降低，大数据走到了技术变革的临界点。不久前，百度就推出了“百度大数据引擎”，百度希望借助该工具，对大数据进行收集、存储、计算、挖掘和管理，并通过深度学习技术和数据建模技术，使数据具有“智能”的技术能力，服务传统行业。据了解，百度大数据引擎包括开放云、数据工厂、百度大脑三大组件。其中，开放云解决的是数据存储和计算问题；“数据工厂”则对行业数据进行规范化处理，提供数据管理和分析；而“百度大脑”则让机器和人脑一样思考，分析处理数据。不过，分析人士指出，虽然各方面为挖掘大数据开发了很多工具，但大数据的成熟应用还有很长一段时间。首先，数据杂乱，价值密度低，如何有效的收集数据信息仍没有成熟的方案。同时，数据的规模并不