大数据平台架构师职位描述与岗位职责任职要求

职位描述：

岗位职责：

?负责云平台大数据平台的架构设计；

?云平台的数据治理、数据图谱、数据湖的设计与开发；

?大数据计算任务的需求分析、设计、开发和调优；

任职要求：

?五年以上大数据相关开发经验；

?精通大数据架构体系，有两年以上大数据平台的架构经验；

?精通Java、Python、Scala编程语言中的一种或多种；

?精通大数据实时计算、离线计算相关技术，如MapReduce，Storm，Spark,Flink,ElasticSearch等，有项目实战经验者优先；

?精通0zzie，Azkaban，Airflow等大数据计算调度框架，有开发过调度框架者优先；

?精通大数据生态环境的常用中间件，如Fluentd、Kafka、Logstash等；

?有工作热情，爱岗敬业，有良好的抗压能力和团队协作能力。

篇2:大数据系统架构师岗位职责大数据系统架构师职责任职要求

大数据系统架构师岗位职责

职责描述:

1.负责客户业务需求、数据分析需求的调研、收集与分析;

2.负责Kyligence大数据平台整体架构和数据架构设计,根据具体业务需求和产品对数据模型进行统一分析和规划;

3.负责技术设计及技术实现规范编制,指导开发团队进行项目设计、项目实现及技术汇报;

4.负责项目重难点模块的功能设计和难点攻坚;

5.参与大数据平台的应用设计、开发、测试及优化工作。

任职要求:

1.计算机相关专业,本科及以上学历;

2.有5年以上工作经验,3年以上数据仓库架构和大数据系统设计经验;

3.精通Hadoop、Hive、HBase原理及优化,熟悉大数据生态技术圈,如Storm、Spark、Flume、Sqoop、Kafka、Zookeeper、ES等,有大规模集群架构设计、开发及管理经验;

4.熟练使用SQL语言,掌握Oracle、DB2、GP、MySQL等至少两种数据库系统的使用,有较好的SQL性能调优经验;

5.至少熟悉Java,Scala,Python,Shell等编程语言中的2种;

6.熟悉数据治理及应用,元数据管理的设计与应用;

7.熟悉数据仓库模型的设计,分层设计原理,并结合大数据技术组建解决模型应用的问题;

8.优秀的分析和解决问题的能力,对挑战性问题充满激情;

9.具备良好的文档撰写能力和技术团队管理能力;

10.具备良好的团队合作精神,较强的沟通能力,具备良好的技术领导能力;

11.有Hive数据仓库或者ApacheKylin的开发经验者优先考虑;

篇3:大数据架构师岗位职责大数据架构师职责任职要求

大数据架构师岗位职责

工作职责:

负责大数据开发、数据挖掘、算法平台的技术架构及建设;

负责大数据实时检索分析平台的架构和建设;

负责PCG业务算法推荐,实时流计算框架的研发优化;

跟踪移动互联网开源大数据框架、新算法框架的技术选型及平台化预研及架构;

负责业务挖掘、算法应用的平台支持;

负责>5人的技术或FT团队管理。

任职要求:

5年以上系统建设,设计,架构经验;4年以上大数据系统开发,设计,架构经验;3年以上软件工程管理经验;

熟悉商业智能系统,熟悉数据仓库,熟悉数据集市;

熟悉大数据相关技术:Hadoop,Hive,HBase,ZooKeeper,Spark,Cassandra,MapReduce;并阅读过相关源码;

管理过数据量上T级别,节点数300以上的大数据集群,开发,优化并管理过上T级别的大数据作业;

熟悉常用机器学习算法,了解深度学习,强化学习,迁移学习算法,了解相关原理(FF,BF,SGD等);

熟悉各种抽样方法(分层,过抽样等),特征处理方法(缺失值处理,离散化等);

熟悉机器学习框架或工具(SparkMLLib,tensorflow,caffe等),了解源码并能应用项目;

具备大数据云平台、计算存储平台、可视化开发平台经验,具备中大型成功项目经验优先;具备大规模分布式计算平台的使用和并行算法的开发经验,对大数据处理及应用有浓厚兴趣;

具备较强的团队管理能力和沟通能力,思维活跃,前瞻学习能力强;

了解软件项目管理、敏捷管理方法论,在中大型项目中有所实践。