大数据开发工程师职位描述与岗位职责任职要求
职位描述:
工作职责:
1、根据业务需求进行数据模型的调研、设计、开发及验证工作,并持续进行模型的优化;
2、负责数据模型架构的构建,建立数据抽取、清洗、校验等数据加工流程规范及OLAP多维数据分析模型;
3、持续对系统的技术架构进行改进和优化,提升海量数据的查询性能和用户体验。
任职资格:
1、统招本科或以上学历,计算机、数据挖掘等相关专业,工作至少3年以上;
2、熟悉Java开发,有脚本语言(shell,python)开发经验者优先;
3、至少熟悉一种大数据处理技术,如Hadoop、Spark;
4、掌握HBase、Redis、ElasticSearch等开源大数据存储技术,并能结合不同的业务场景深入使用;
5、精通SQL,精通MySQL、Oracle、Sqlserver等一种大型数据库,以及数据库的维护和优化。
6、熟悉常用JavaWeb开发框架,如:Spring、Mybatis等;
7、熟悉多线程编程,并对Java自带线程池有一定研究;
8、对解决具有挑战性的问题充满激情,具有良好的分析问题和解决问题的能力。
篇2:大数据工程师岗位工作职责
简介:大数据(bigdata),指无法在一定时间范围内用常规软件工具进行捕捉、管理和处理的数据集合,是需要新处理模式才能具有更强的决策力、洞察发现力和流程优化能力的海量、高增长率和多样化的信息资产。
大数据工程师职位描述(模板一)
岗位职责:
1.负责数据分析、加工、清洗、处理程序的开发;
2.从事海量数据分析、挖掘相关工作;
3.负责大数据相关平台的搭建、开发、维护、优化;
4.对业务部门的数据分析需求给予实现与支持;
5.对公司的“数据驱动运营”的业务目标进行大数据架构方案实现。
任职要求:
1.计算机相关专业,本科及以上学历,3年以上Java开发工作经验,学习能力突出;
2.熟悉hadoop生态系统内常见项目的使用(hdfs、hive、hbase、spark、zookeeper、yarn等),具有python、spark、MapReduce开发经验,有实际大数据项目经验优先;
3.熟练掌握Oracle、MySql等主流数据库;
4.精通JAVA,熟悉基于J2EE的WEB架构设计,熟悉Web开发流程,有丰富的WebMVC(Struts/SpringMVC、Spring,Hibernate/Mybatis等)开发经验;
5.熟悉Linu*/Uni*系统环境下的操作;熟悉Tomcat等应用服务器的配置和优化;
6.具有良好的沟通能力、组织能力及团队协作精神,有较强的分析和解决问题的能力。
大数据工程师职位描述(模板二)
岗位职责:
1.大数据平台功能规划、设计;
2.大数据平台的设计、研发;
3.大数据平台实施、数据接入。
任职要求:
1.统招本科及以上学历,计算机科学、软件工程、数学、统计学相关专业毕业;
2.具有扎实的Java基础,精通SQL、mysql以及2年以上软件开发经验;
3.熟悉HADOOP平台架构,有hadooop、HBase、Hive、Spark、kafka使用经验;
4.熟练Python进行数据处理,网页爬取;
5.有非结构化数据解析、识别经验优先。
大数据工程师职位描述(模板三)
岗位职责:
1.负责数据仓库建设、设计、优化和落地;
2.负责数据ETL开发、数据平台建设、设计并实现对BI分析、数据产品开发。
任职要求:
1.985院校计算机相关专业本科以上学历;
2.有较扎实的数据仓库理论基础,对数据模型建设、应用层建设有比较丰富的经验;
3.有Hadoop、Hive、Spark、Impala等大数据技术使用经验者优先。
大数据工程师职位描述(模板四)
岗位职责:
1.主要负责电信业务的大数据开发工作;
2.结合业务需求设计数据分析场景,并形成后台实现方案,独立完成业务数据建模,并将结果转化为运营指标;
3.对产品全生命周期跟进,协调各种资源保证产品顺利发展。
任职要求:
1.计算机或者相关专业本科及以上学历,3年及以上相关工作经验;
2.熟练掌握java开发语言,熟悉多线程和线程调优,如懂scala开发更佳;
3.熟悉Linu*服务器环境、熟悉shell;
4.熟悉分布式系统、集群管理、SOA架构等相关技术,熟悉hadooponyarn集群部署和工作原理,熟练掌握MR开发,有大型集群开发运维经验更佳;
5.熟悉以下技术中3种及以上者优先考虑:hive、hbase、impala、Ngin*、zookeeper、redis、kafka、storm、spark、es、爬虫;
6.具有良好的沟通能力和团队精神,具有良好的抗压能力。
大数据工程师职位描述(模板五)
岗位职责:
1.负责大数据处理平台应用的开发工作;
2.利用Hadoopyarn/Storm/Spark进行开发、存储、分布式计算应用的代码实现;
3.优化Hadoopyarn/Storm/Spark参数,实现系统调优,满足行业应用的实时大数据处理需求;
4.学习新技术,提高整个平台的计算能力和效率;
5.开发基于HIVE、Hbase、ES等数据处理方式的脚本程序。
任职要求:
1.3年以上Hadoop/Storm/Spark开发经验,对分布式、并行计算理论有深刻理解;
2.精通java/scala/python任一语言;
3.对Hadoop/Storm/Spark源码有研究,有大数据平台开发工作经验者优先;
4.有很好的技术敏感性,良好的学习能力和吃苦耐劳能力;
5.具有较好的沟通协调能力、团队合作能力、文档编写能力。
篇3:贵金属大数据工程师岗位职责
大数据工程师工作职责:
1.负责公司大数据平台框架的研发设计工作。
2.通过对贵金属业务规则的理解,完成对数据的分析和处理。
3.开发数据后台,将数据分析结果呈现到前端。
任职要求:
1.全日制本科以上学历,计算机,数学或统计相关专业。
2.有数据分析,数据处理等相关领域的工作经验。
3.有PB级别的文本数据的清洗和处理经验。
4.熟悉常用的大数据技术。如:sparkstreaming,hbase,kafka等。
5.熟悉Java开发语言。