Hadoop企业级应用实战之Hadoop前世今生(一).pptx

ApacheHadop,作者：许江,Hadoop是什么？,分布式存储分布式计算可伸缩，可扩展海量数据分析,Hadoopversion,2004年-最初的版本(现在称为HDFS和MapReduce)由DougCutting和MikeCafarella开始实施。2005年12月-Nutch移植到新的框架，Hadoop在20个节点上稳定运行。2006年1月-DougCutting加入雅虎。2006年2月-ApacheHadoop项目正式启动以支持MapReduce和HDFS的独立发展。2006年2月-雅虎的网格计算团队采用Hadoop。2006年4月-标准排序(10GB每个节点)在188个节点上运行47.9个小时。2006年5月-雅虎建立了一个300个节点的Hadoop研究集群。2006年5月-标准排序在500个节点上运行42个小时(硬件配置比4月的更好)。2006年11月-研究集群增加到600个节点。2006年12月-标准排序在20个节点上运行1.8个小时，100个节点3.3小时，500个节点5.2小时，900个节点7.8个小时。200707年1月-研究集群到达900个节点。07年4月-研究集群达到两个1000个节点的集群。2008年4月-赢得世界最快1TB数据排序在900个节点上用时209秒。2008年10月-研究集群每天装载10TB的数据。2009年3月-17个集群总共24000台机器。2009年4月-赢得每分钟排序，59秒内排序500GB(在1400个节点上)和173分钟内排序100TB数据(在3400个节点上)。2011年12月27日-1.0.0版本释出。标志着Hadoop已经初具生产规模。2012年12月23日-ApacheHadoop版本分为两代，我们将第一代Hadoop称为Hadoop1.0，第二代Hadoop称为Hadoop2.0。2013年10月13日-hadoop-2.2。HighAvailabilityforHDFS，HDFSFederation2014-02-202.3-HDFSin-memorycaching，异构存储媒介的支持.2014-04-07-ResourceMnagerHA,Hadoopversion,分布式存储,HDFS(HadoopDistributedFileSystem)高容错性高吞吐量部署在低廉的（low-cost）硬件上集群(master-slave),分布式存储,v1.0+,分布式存储,分布式存储策略,分布式计算,MapandReduce,Namenode,JobTracker,DataNode1,DataNode2,DataNode8,HeadNodes,DataNodes,FDRIB,HadoopCluster,DataNode2,DataNode34,MERRAData,LAN,HDFS:Namenode,datanode,SecondaryNamenodeMapReducer:JobTracker,taskTracker,Why?,分布式存储HA,分布式存储Federation,分布式计算(Yarn),Yarn工作原理,Yarn组件,Hdoop2.0+,.HDFSnamenode(HA),SecondaryNamenode,journalnode,datanode.YarnResourceManager,NodeManager,Hadoop几大发行商？,目前大数据解决方案其他方案,这是一个伟大的时代！,时间来证明?一切，刚刚开始！,HadoopStackMapR？,Hortonworks,ClouderaCluster,Hadooponsparkstack,SQLonhadoop,Hive/Spark-sql/shark/Impala/Prestohttp:/prestodb.io/docs/current/,Hive,shark,spark-sql,impala,Phoenix(sqlonhbase),Phoenix实现类sql查询Nosql数据库Phoenix将QueryPlan直接使用HBaseAPI实现SQL语句解析为hbase查询语法,演示,大数据应用？,需要具备的技能？,JavaPythonLinuxShellRdbms知识(SQL)Scala(+)R各种API熟悉各种脚本！以上全都掌握？,大数据工作,.应用开发方向Yarn,mrv2,hbase,hive,pig,spark,stormjava,shell,python,ruby,scala.数据分析方向DataAnalyst、DataScientistsparkR,SparkPyDataMinning、MachineLearningMlib,Mahout.技术架构方向需求、架构对比