大数据开发工程师的基本职责

大数据开发工程师的基本职责 大数据开发工程师负责大数据平台各类环境的部署及运维、并参与架构优化、性能优化等工作。下面是小编整理的大数据开发工程师的基本职责。大数据开发工程师的基本职责1职责：1、数字货币领域数据统计分析，负责数字货币量化投资策略的设计、管理以及实际投资运作2、与交易员对接，制定切实可行的的策略测试计划，开展新策略模型的开发和验证3、协助交易员进行交易、风险管理，并对实际交易结果进行量化的绩效分析，推动交易自动化4、上级交办的其他工作任职要求：1、数学/计算机/金融专业毕业，有扎实的算法和机器学习的理论基础2、有量化实盘交易经验，具备丰富的数学建模经验及较强的数据处理能力优先3、对金融市场的价格波动有独特理解和深入的量化分析，具备一定对冲策略研究经验;4、对数字货币领域感兴趣，结果导向;5、有网页抓取和爬虫程序编写经验者优先。大数据开发工程师的基本职责2职责：1、大数据日志分析系统的设计，选型和开发;2、配合各业务给予数据支持，对产品和运营数据总结和优化;3、处理用户海量数据，提取、分析、归纳用户属性，行为等信息，完成分析结果;4、发现并指出数据异常情况，分析数据合理性;5、公司大数据基础架构平台的运维，保障数据平台服务的稳定性和可用性;6、大数据基础架构平台的监控、资源管理、数据流管理;7、基于数据分析的可预测的云平台弹性扩展解决方案。任职要求：1、日志分析数据系统实际经验;2、3年以上互联网行业研发经验，有使用hadoop/hive/spark分析海量数据的能力;3、掌握 hadoop、flume，kafka、zookeeper、hbase、spark 的安装与调试;4、熟悉大数据周边相关的数据库系统，关系型数据库和 nosql。5、掌握 linux 操作系统的配置，管理及优化，能够独立排查及解决操作系统层的各类问题;6、有良好的沟通能力，具备出色的规划、执行力，强烈的责任感，以及优秀的学习能力。大数据开发工程师的基本职责3职责：1、负责数据分析、加工、清理、处理程序的开发;2、负责数据相关平台的搭建、维护和优化;3、负责基于hadoop/spark/hive/kafka等分布式计算平台实现离线分析、实时分析的计算框架的开发;岗位要求：1、本科学历须211院校以上，硕士及以上学历不限院校，计算机软件及相关专业2、熟悉java和scala语言、熟悉常用设计模式、具有代码重构意识;3、熟练使用hadoop、hbase、kafka、hive、spark、presto,熟悉底层框架和实现原理;4、使用spark streaming和spark sql进行数据处理, 并具有spark sql优化经验;5、需要有至少2年开发经验,有flink开发经验优先;6、学习能力强，喜欢研究新技术，有团队观念，具备独立解决问题的能力。大数据开发工程师的基本职责4职责:1、负责大数据平台的基础环境搭建与性能优化，完成平台的构建与维护、实时流计算平台、分布式调度、可视化报表等平台的架构与研发;2、对各种开源框架进行深入的代码剖析和优化;3、参与大数据技术方案评审;4、指导初中级大数据工程师工作;岗位要求:1、计算机相关专业全日制专科及以上学历，具有3年或以上的分布式计算平台研发工作经验;2. 对大数据相关组件：hadoop、spark、hbase、hive、flink、kafka、flume等架构与底层实现有深入理解，具备相应的定制和研发能力，尤其需要精通flink框架;3. 具备构建稳定的大数据基础平台的能力，具备数据收集、数据清洗、数据仓库建设、实时流计算等系统研发经验;4. 对技术有热情，有不错的数据思维和敏感度，有一定的数据分析能力优先，对深度学习、机器学习有一定的了解优先;5. 工作有计划性，责任心和执行能力强，具备高度的责任心、诚信的工作作风、优秀沟通能力及团队精神。大数据开发工程师的基本职责5职责：1.参与大数据平台搭建以及项目技术架构。2.数据分析，挖掘，模型具体的产品化;3.根据产品需求，分析编写和制定大数据相关解决方案岗位要求：1、计算机相关专业本科以上学历，编程基础扎实，有2年以上大数据开发经验2、熟悉hadoop生态和体系架构，熟悉flink、spark，hive等常用开源工具3、熟悉flume，kakfa，scribe等日志收集体系4、熟悉主流数据库(oracle、postgresql、mysql、sql server)中的1种及以上，有较好的sql性能调优经验5、有数据仓库etl经验者优先6、有用户行为日志采集、海量数据处理、数据建模方面经验者优先7、有持续学习的能力;喜欢开源软件，乐于知识