版权说明:本文档由用户提供并上传,收益归属内容提供方,若内容存在侵权,请进行举报或认领
文档简介
Hadoop大数据项目开发——MapReduce程序提交给YARN运行目录content0201MapRedcue配置Maven生成jar包03执行jar包MapRedcue配置TWITTERYUTUBESKYPEFACEBOOK
MapReduce程序运行在Yarn上;YARN作为一个资源调度平台;更好的运用集群上的资源。很好的调度MapReduce任务;1234MapRedcue配置将MapReduce程序提交给YARN运行MapRedcue的配置文件/usr/local/src/hadoop/etc/hadoop需要修改:位于:MapRedcue配置步骤1:修改配置文件将mapred-site.xml.template重命名为mapred-site.xml参数指定MapReduce使用YARN资源管理器。步骤2:mapred-site.xml配置文件内容:MapRedcue配置在mapred-site.xml的<configuration>和</configuration>标签中添加如下内容:在mapred-site.xml的<configuration>和</configuration>标签中添加如下内容:MapRedcue配置步骤3:拷贝整个mapred-site.xml到slave1和slave2两个节点YARN一个分布式操作系统平台相当于MapReduce应用程序相当于Maven生成jar包WordCount程序提交集群运行输入路径:FileInputFormat.setInputPaths(job,newPath("/wordcount/input"));输出路径:FileOutputFormat.setOutputPath(job,newPath("/wordcount/output"));在WordCount程序的源代码中,需要修改数据的输入路径和输出路径,其余内容不变,代码如下所示:打包Maven生成jar包步骤1步骤2步骤3步骤4Maven生成jar包步骤5步骤6执行jar包步骤1:使用Xshell的文件传输功能,将已经生成的wordcount.jar包传到master节点上的根目录下的usr目录下local目录下的src目录下。执行jar包步骤2:在HDFS上创建wordcount目录,首先查看hdfs根目录上是否有wordcount目录:hadoopfs-ls/如果输出的结果没有wordcount目录,则创建此目录,执行命令:hadoopfs-mkdir/wordcount
执行jar包master节点步骤3:执行jar包,命令如下所示:hadoopjar命令执行过程如下图所示:执行jar包Web界面对应的执行结果步骤4:hadoopjar命令执行完成之后,计算结果保存到了HDFS上,如图所示:执行jar包_SUCCESS_FAILED没有内容、执行成功执行失败Part-r-00000Part-r-00001MapReduce执行分析数据后的结果文件,两个文件表示MapReduce启动了两个Reducer任务,一个Reducer任务输出一个文件。保存结果文件执行jar包查看计算结果步骤5:使用如下命令查看运行结果:本章小结
温馨提示
- 1. 本站所有资源如无特殊说明,都需要本地电脑安装OFFICE2007和PDF阅读器。图纸软件为CAD,CAXA,PROE,UG,SolidWorks等.压缩文件请下载最新的WinRAR软件解压。
- 2. 本站的文档不包含任何第三方提供的附件图纸等,如果需要附件,请联系上传者。文件的所有权益归上传用户所有。
- 3. 本站RAR压缩包中若带图纸,网页内容里面会有图纸预览,若没有图纸预览就没有图纸。
- 4. 未经权益所有人同意不得将文件中的内容挪作商业或盈利用途。
- 5. 人人文库网仅提供信息存储空间,仅对用户上传内容的表现方式做保护处理,对用户上传分享的文档内容本身不做任何修改或编辑,并不能对任何下载内容负责。
- 6. 下载文件中如有侵权或不适当内容,请与我们联系,我们立即纠正。
- 7. 本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。
最新文档
- 齐鲁银行笔试题库带答案
- 2026年基础护理技能考试试卷及答案
- 2026年内审员考试试卷及答案
- 2026年公务员时事政治题型及答案
- 2025届四川省阿坝藏族羌族自治州数学四年级第二学期期末教学质量检测试题(含答案解析)
- 2025届四川省南充市顺庆区四年级数学第二学期期末预测试题含答案解析
- 2026年体育产业渠道拓展与赛事运营报告
- 2026年空气净化加湿设备行业市场潜力研究报告
- 2026年环保产业污染排放监测与追溯技术报告
- 2026年行业智慧教育市场报告:电子黑板技术推动校园变革
- 浙江省金华十校2026年11月高三模拟考试化学+答案
- 高中二年级主题班会与家长会融合课教学设计-奋斗征程中的习惯、心态与家校同行
- 2026年教师资格考试小学面试音乐试题与参考答案
- 老年病科用药安全管控指南(2026版)
- 人工智能赋能课堂教学设计方案
- QC/T 783-2026摩托车用车速传感器
- 动物疫病防治员考试题库及答案
- (2026年秋)语文人教版七年级上册知识点大全
- 2026年广西高考物理真题含答案
- 临床提高临床护理文书书写规范率品管圈
- 2026年高考全国1卷语文高考真题含答案
评论
0/150
提交评论