大数据平台架构师岗位职责

大数据平台架构师NEXTTAO上海复兆信息技术有限公司,NEXTTAO,复兆,复兆职责描述:

1、负责大数据平台框架的规划设计、搭建、优化和运维;

2、负责架构持续优化及系统关键模块的设计开发,协助团队解决开发过程中的技术难题;

3、负责大数据相关新技术的调研,关注大数据技术发展趋势、研究开源技术、将新技术应用到大数据平台,推动数据平台发展;

4、负责数据平台开发规范制定,数据建模及核心框架开发。

任职要求:

1、计算机、数学等专业本科及以上学历;

2、具有5年及以上大数据相关工作经验;

3、具有扎实的大数据和数据仓库的理论功底,负责过大数据平台或数据仓库设计;

4、基于Hadoop的大数据体系有深入认识,具备相关产品(Hadoop、Hive、HBase、Spark、Storm、Flume、Kafka、ES等)项目应用研发经验,有Hadoop集群搭建和管理经验;

5、熟悉传统数据仓库数据建模,ETL架构和开发流程,使用过Kettle、Talend、Informatic等至少一种工具;

6、自驱力强、优秀的团队意识和沟通能力,对新技术有好奇心,学习能力和主动性强,有钻研精神,充满激情,乐于接受挑战;

篇2:数据架构师岗位工作职责

1、深入理解MDM主数据管理思想和流程;

2、理解业务数据、主数据与元数据的区别与关系;

3、参与过数据模型的设计与开发;

4、深入理解数据清洗,标准化,转换,匹配,数据质量、安全管理的原理和业务流程;

5、参与过数据ETL开发与设计;

6、熟练运用主流DBMS,nosql数据库。

篇3:大数据系统架构师岗位职责大数据系统架构师职责任职要求

大数据系统架构师岗位职责

职责描述:

1.负责客户业务需求、数据分析需求的调研、收集与分析;

2.负责Kyligence大数据平台整体架构和数据架构设计,根据具体业务需求和产品对数据模型进行统一分析和规划;

3.负责技术设计及技术实现规范编制,指导开发团队进行项目设计、项目实现及技术汇报;

4.负责项目重难点模块的功能设计和难点攻坚;

5.参与大数据平台的应用设计、开发、测试及优化工作。

任职要求:

1.计算机相关专业,本科及以上学历;

2.有5年以上工作经验,3年以上数据仓库架构和大数据系统设计经验;

3.精通Hadoop、Hive、HBase原理及优化,熟悉大数据生态技术圈,如Storm、Spark、Flume、Sqoop、Kafka、Zookeeper、ES等,有大规模集群架构设计、开发及管理经验;

4.熟练使用SQL语言,掌握Oracle、DB2、GP、MySQL等至少两种数据库系统的使用,有较好的SQL性能调优经验;

5.至少熟悉Java,Scala,Python,Shell等编程语言中的2种;

6.熟悉数据治理及应用,元数据管理的设计与应用;

7.熟悉数据仓库模型的设计,分层设计原理,并结合大数据技术组建解决模型应用的问题;

8.优秀的分析和解决问题的能力,对挑战性问题充满激情;

9.具备良好的文档撰写能力和技术团队管理能力;

10.具备良好的团队合作精神,较强的沟通能力,具备良好的技术领导能力;

11.有Hive数据仓库或者ApacheKylin的开发经验者优先考虑;