职位描述
该职位还未进行加V认证,请仔细了解后再进行投递!
职位描述:
岗位职责:
1、负责大数据基础平台、大数据能力开放平台的搭建与优化;
2、负责基于大数据平台(hadoop)的数据仓库工具hive/spark/hbase, etl调度工具,数据同步工具的开发、使用、集成和自动化运维,以及多租户与权限控制策略的实现;
3、研发基于大数据平台的数据仓库平台产品;
4、参与大数据平台的容量规划、持续交付、业务监控、应急响应,保证平台正常运行;
5、利用大数据相关技术实现对数据的加工、分析、挖掘、处理、及数据可视化等相关工作;
6、 推动团队内成员技术经验分享,关注相关前沿技术研究,通过新技术服务团队和业务。
岗位要求:
1、大学本科以上学历、计算机相关专业,3年及以上大数据开发经验;
2、熟悉hdfs/hbasefka/hive/mapreduce/spark/flink等,有丰富的分布式编程经验;
3、熟悉spark streaming和spark sql;
4、熟悉core java,熟悉java io, nio, 多线程编程, 熟悉jvm运行机制和内存管理,网络协议;
5、熟练掌握linux操作系统,熟悉shell等脚本编程;
6、有在spark相关项目中应用java或python语言的经验者优先;
7、有过海量数据系统开发经验者优先;
8、有良好的语言沟通能力,能够协调团队成员及相关部门开展分工及合作;
9、能够短期出差。