數據工程師崗位職責
崗位職責:
1、負責大數據實時處理和離線分析處理;
2、面向業(yè)務目標,從數據模型、數據分布、數據傳輸、數據存儲等方面進行大數據系統(tǒng)的開發(fā);
3、負責數據倉庫建設、設計、優(yōu)化和落地;?
4、負責數據ETL開發(fā)、數據平臺建設、設計并實現對BI分析、數據產品開發(fā)
數據倉庫需求調研和需求分析;
5、負責實時數據采集平臺的架構和研發(fā);
6、負責各業(yè)務線埋點的規(guī)范制定。
任職要求:
1、本科以上學歷,計算機、數學相關專業(yè)背景;
2、熟練掌握JAVA語言,有java web經驗,至少1年數據倉庫經驗;
3、掌握sqoop,kettle,Flume,Kafka,Spark,hive,Hbase,zookeeper,mapreduce,HDFS,Yarn 等大數據框架并有過實際項目經驗,熟悉調優(yōu)優(yōu)先;
4、熟悉數據倉庫建設方法論,并有實際落地經驗;
5、對數據主題建設、數據一致性建設有豐富的經驗;
6、精通hive,sql調優(yōu),熟悉常見的ETL技術,熟悉大數據技術,有大規(guī)模數據處理經驗;
7、理解業(yè)務,基于大數據平臺,開發(fā)和維護數據倉庫相關,對業(yè)務需求部門進行數據支持;
8、負責公司日常運營報表的計算與維護;
9、能獨立閱讀英文文檔、有自己的技術BLOG優(yōu)先、經常關注開源社區(qū)優(yōu)先;
10、有實際實時項目經驗,深入了解storm,扎實的編程功底,熟悉常用的數據結構和算法。