资深大数据架构师职位描述与岗位职责任职要求
职位描述：
职责描述：
1、负责大数据平台架构的评估、规划和设计；
2、分布式存储、流式/实时计算等应用层架构搭建及核心代码实现；
3、数据采集、加工、监控、分析、使用，可视化的全过程;
4、主流Hadoop生态大数据系统相关组件的性能改进、功能扩容和故障分析;
5、解决规模增长带来的技术和业务问题，持续建设数据平台的分布式计算与存储能力;
6、对海量数据利用多维查询引擎，提供秒级查询的解决方案，促进业务发展;
任职要求：
1、统招本科以上学历，至少5年以上大数据领域工作经验；
2、熟悉分布式系统，有良好的Java编码基础或者C++基础;
3、负责过大型数据平台设计，丰富的OLAP系统经验，对常见的OLAP引擎有深入研究及优化经验;
4、具有良好的问题分析和追踪能力，具有正确的团队合作意识和良好的沟通能力;
5、对Hadoop的大数据体系有深入认识，对Hadoop、Hive、HBase、Spark、Flink、Kafka、ES等有实际应用研发经验，读过关键源码；
6、具有数据挖掘、机器学习、推荐算法、人工智能、数学建模项目经验者优先；
7、有民航、在线旅游、电商类业务经验者优先；
篇2:大数据系统架构师岗位职责大数据系统架构师职责任职要求
大数据系统架构师岗位职责
职责描述:
1.负责客户业务需求、数据分析需求的调研、收集与分析;
2.负责Kyligence大数据平台整体架构和数据架构设计,根据具体业务需求和产品对数据模型进行统一分析和规划;
3.负责技术设计及技术实现规范编制,指导开发团队进行项目设计、项目实现及技术汇报;
4.负责项目重难点模块的功能设计和难点攻坚;
5.参与大数据平台的应用设计、开发、测试及优化工作。
任职要求:
1.计算机相关专业,本科及以上学历;
2.有5年以上工作经验,3年以上数据仓库架构和大数据系统设计经验;
3.精通Hadoop、Hive、HBase原理及优化,熟悉大数据生态技术圈,如Storm、Spark、Flume、Sqoop、Kafka、Zookeeper、ES等,有大规模集群架构设计、开发及管理经验;
4.熟练使用SQL语言,掌握Oracle、DB2、GP、MySQL等至少两种数据库系统的使用,有较好的SQL性能调优经验;
5.至少熟悉Java,Scala,Python,Shell等编程语言中的2种;
6.熟悉数据治理及应用,元数据管理的设计与应用;
7.熟悉数据仓库模型的设计,分层设计原理,并结合大数据技术组建解决模型应用的问题;
8.优秀的分析和解决问题的能力,对挑战性问题充满激情;
9.具备良好的文档撰写能力和技术团队管理能力;
10.具备良好的团队合作精神,较强的沟通能力,具备良好的技术领导能力;
11.有Hive数据仓库或者ApacheKylin的开发经验者优先考虑;
篇3:大数据架构师岗位职责大数据架构师职责任职要求
大数据架构师岗位职责
工作职责:
负责大数据开发、数据挖掘、算法平台的技术架构及建设;
负责大数据实时检索分析平台的架构和建设;
负责PCG业务算法推荐,实时流计算框架的研发优化;
跟踪移动互联网开源大数据框架、新算法框架的技术选型及平台化预研及架构;
负责业务挖掘、算法应用的平台支持;
负责>5人的技术或FT团队管理。
任职要求:
5年以上系统建设,设计,架构经验;4年以上大数据系统开发,设计,架构经验;3年以上软件工程管理经验;
熟悉商业智能系统,熟悉数据仓库,熟悉数据集市;
熟悉大数据相关技术:Hadoop,Hive,HBase,ZooKeeper,Spark,Cassandra,MapReduce;并阅读过相关源码;
管理过数据量上T级别,节点数300以上的大数据集群,开发,优化并管理过上T级别的大数据作业;
熟悉常用机器学习算法,了解深度学习,强化学习,迁移学习算法,了解相关原理(FF,BF,SGD等);
熟悉各种抽样方法(分层,过抽样等),特征处理方法(缺失值处理,离散化等);
熟悉机器学习框架或工具(SparkMLLib,tensorflow,caffe等),了解源码并能应用项目;
具备大数据云平台、计算存储平台、可视化开发平台经验,具备中大型成功项目经验优先;具备大规模分布式计算平台的使用和并行算法的开发经验,对大数据处理及应用有浓厚兴趣;
具备较强的团队管理能力和沟通能力,思维活跃,前瞻学习能力强;
了解软件项目管理、敏捷管理方法论,在中大型项目中有所实践。