大數據開發工程師的具體職責(通用17篇)
大數據開發工程師的具體職責 篇1
職責:
1、 負責公司大數據平臺數據處理工具ETL、流處理平臺等建設,功能規劃,平臺演進,維護調優等;
2、 結合公司業務特征,負責公司數據倉庫規劃、數據倉庫建設、數倉管理等;
3、 負責大數據處理技術研究及新技術引進,參與超大規模實時/離線數據計算框架,存儲、查詢、可視化解決方案的設計,研發;
4、 負責公司業務數據倉庫模型建設及全業務數據域打通;
5、 負責BI報表和可視化項目,和客戶深度溝通,理解客戶的業務挑戰,提供解決方案,制定開發計劃并執行,支持各單位日常數據需求和任務;
任職資格:
1、 熟練掌握關系型數據庫,例如:Oracle、Mysql、Vertica等;熟悉NoSql數據庫,例如HBase、Redis、MongodDB等;具備豐富的數據庫管理和運維調優經驗;
2、 熟悉數據倉庫領域知識和技能者優先,包括但不局限于:元數據管理、數據開發測試工具與方法、數據質量、主數據管理,數據打通等;
3、 有從事分布式數據存儲與計算平臺應用開發經驗,熟悉Hadoop生態相關技術并有相關實踐經驗著優先,如Hdfs、Mapreduce、Hive、Hbase、Spark、Storm;
4、 精通數據預處理、檢驗、清洗、分析方法,精通各種常用統計檢驗方法;熟練掌握一門或多門編程語言,并有大型項目建設經驗者優先,如Java、Python、Shell和scala等;
5、精通Linux,熟悉日常運維、搭建常見服務器、定位解決日常問題的能力,具備ETL開發經驗優先;
6、 良好的語言溝通與表達能力,有豐富的數據開發經驗,較強的數據、平臺、技術理解能力;
7、 具備數學類、計算機類等相關專業統招本科及以上學歷,具有3年及以上大數據開發工作經驗,有互聯網行業背景優先。
大數據開發工程師的具體職責 篇2
職責:
1、在hadoop平臺進行hive/hbase/spark開發;
2、處理公司大數據平臺產品的技術工作,包括存儲、處理、分析、挖掘、架構設計、研發工作;
3、熟悉設計、構建和優化基于hadoop/Hbase的存儲平臺架構;
4、熟悉整體提升hadoop/Hbase/Storm/Spark集群的高可用性、高性能、高擴展特性;
5、部門相關工作。
崗位要求:
1、計算機等相關專業大專及以上學歷;
2、3年以上軟件開發經驗,精通Java開發,至少2年以上Hadoop相關開發經驗;
3、熟悉分布式系統、分布式計算系統的工作機制,具有大規模數據平臺,高并發大型系統,大數據等架構設計和開發經驗;
4、熟悉sqoop、Hive、hbase、spark等大數據生態組件;
5、精通linux shell和sql腳本;
6、有java web開發經驗者優先;
7、良好的團隊精神和溝通能力,很強的邏輯思維能力和學習能力。
大數據開發工程師的具體職責 篇3
職責
1. 負責大數據分析需求設計和開發工作,包括數據存儲、預處理、查詢、統計、實時分析、數據優化及配置等功能;
2. 對大數據分析系統存在的問題進行跟蹤和定位并及時解決;
3. 負責上級交辦的其他相關工作。
崗位要求:
1. 本科以上學歷,2年以上工作經驗;
2. Java基礎扎實,熟練使用Java IDE 進行代碼編寫和調試,熟悉JUnit單元測試框架;
3. 熟悉Linux操作系統,能在Linux上完成開發、調試工作;
4. 熟悉網絡IO、多線程并發編程、集合等基礎框架,精通數據結構和數據算法;
5. 參與過分布式高性能服務的設計開發過程,有大規模分布式系統的實踐經驗;
6. 熟悉數據庫操作和使用的基本技能,熟練一種關系型數據庫的使用;
7. 能獨立編寫詳細設計文檔;
8. 有大數據分析工具Hadoop、spark使用開發經驗優先;
9. 具有團隊精神與敬業精神,學習鉆研能力強,具有良好的協調溝通能力。
大數據開發工程師的具體職責 篇4
職責:
1、大數據的分布式采集與環境搭建和測試;
2、大數據存儲、處理和分析工作;
3、大數據相關產品線的改進和相關核心開發工作;
4、其他大數據相關工作。
任職要求:
1、本科及以上學歷,計算機相關專業;
2、2年以上Java開發及大數據相關開發經驗,java基礎扎實,熟練掌握多線程、集合、緩存、序列化、nio等技術;
3、熟悉Linux環境,熟悉Linux shell/python/perl任一腳本;
4、熟悉Hadoop、Spark、ZooKeeper等主流的大數據處理架構,并有1年以上Hadoop相關的實際開發、架構及調優經驗;
5、使用過阿里云;
6、熟悉架構;
7、具有較好的學習能力、溝通表達能力及團隊合作能力。
大數據開發工程師的具體職責 篇5
職責:
1、本崗位培養方向為證券基金行業數據架構師;
2、輔助大數據架構師制定項目開發流程、規范,輔助數據模型設計人員進行模型設計;
3、輔助技術架構師進行大數據平臺調優(業務邏輯角度);
4、負責大數據平臺開發,包括數據抽取、轉換和加載;
5、負責控制數據需求、管理項目開發進度,配合QA完成項目質量管理;
職位要求:
1、2年以上證券或者基金行業數據中心、大數據平臺建設經驗;
2、具備較強的學習能力,對數據模型和大數據技術有濃厚的興趣;
3、熟練掌握基于ORACLE或MPP數據庫或Hadoop等開發技術;
4、至少掌握一種ETL開發工具。如:Informatica、DataStage、SSIS、Kettle等;
5、良好的團隊合作精神、公司提供優厚待遇。
大數據開發工程師的具體職責 篇6
1、負責TV、電子白板、廣告機、顯示器、智能會議平板等產品安卓系統模塊的設計及開發,主導代碼編寫、審查、技術文檔撰寫等;
2、依據產品規劃及用戶反饋,迅速迭代、更新產品,參與應用需求、UI設計評審,并給出建議。
大數據開發工程師的具體職責 篇7
職責:
1、認真分析軟件的架構,整理設計者(項目經理)的設計思路之上進行功能設計;
2、獨立完成項目經理分配的開發任務,負責程序開發、代碼編寫;
3、參與項目中遇到問題的討論會并有效提出解決方案;
4、詳細記錄測試過程,發現并修復BUG;
5、對現場實施日志中出現的問題及時進行修正;
6、自主學習、追求創新,掌握崗位需要的技能;
崗位要求:
1、本科及以上學歷,3年以上的java web應用開發經驗;
2、有扎實的Java編程基礎,熟悉java開發工具及代碼編程,精通SSH,Jsp、Javascript、CSS、Ajax、jQuery等web應用開發技術;
3、熟悉微服務相關設計理念,熟悉高并發、高負載等相關技術,并具有實際開發經驗;
4、熟悉各種主流開源框架,精通SpringBoot,Mybatis,JPA,Springmvc,Shiro等開源框架并熟悉其實現原理;
5、熟練操作Linux服務器,熟練搭建運行環境集群;
6、熟悉主流關系型數據庫(ORACLE、MYSQL等 )的開發應用;
7、了解前端開發技術,例如react,vue,bootstrap等,或國內主流的開發框架;
8、具備較強的團隊協作能力和溝通理解能力,責任心強;
9、熟悉系統搭建過程(例如WEB項目搭建),并編寫過公用代碼(例如:公用DAO、SERVICE層代碼);
10、有基于H5的APP、微信開發人員優先考慮。
11、接受過社會培訓機構全方面技術培訓者優先考慮。
大數據開發工程師的具體職責 篇8
職責:
1.根據軟件需求說明書和軟件設計文檔實現軟件產品;
2.負責項目概要設計、詳細設計等開發文檔的編制并實施;
3.從事具體的軟件開發,確保研發軟件的安全、質量和性能;
4.維護和升級現有軟件產品,修復現有軟件產品的缺陷。
任職要求:
1. 精通Java后端技術,熟練掌握 HTML/CSS/Javascrtip等前端技術,
2. 精通對象模型,熟練進行對象操作和轉換;
3. 熟練使用Spring, hibernate,設計模式;
4. 熟悉Oracle/MySql數據庫,能夠熟練編寫常用SQL語句
5. 熟練掌握Eclipse等開發工具,熟悉Maven、GIT、SVN等版本控制工具。
大數據開發工程師的具體職責 篇9
1.采用Go語言(Golang)開發穩健可擴展的網絡服務;
2.與團隊一起構建高并發、高可用的分布式平臺;
3. 為各類項目需求設計架構,開發后端功能服務,同團隊成員合作并積極提出建議和反饋;
大數據開發工程師的具體職責 篇10
1、配合架構師完成系統設計和工作任務分派;
2、負責平臺分布式與高可用的核心模塊設計與實現;
3、分析系統所產生的問題,并提出解決方案解決系統問題,以保障系統能夠按照需求正確達成預期效果;
4、跟蹤和分析現網平臺,以提高生產系統的健壯性、可復用性;
5、指導和幫助組員,以確保產品質量和進度。
大數據開發工程師的具體職責 篇11
職責:
1、負責開發和迭代運維自動化平臺及其組件。
2、負責優化、改進運維支撐系統,并保證其安全高效穩定的運行。
3、負責研究新的方式,將重復的事情做成自動化、自助化的工具平臺提升運維質量及效率、安全性。
4、通過技術手段控制和優化成本,提升資源使用率。
5、需要推廣工具平臺到使用公司內部其他部門使用,樂于分享自動化過程中的經驗。
6、需要開發多云管理工具,以及混合云自動化工具平臺。
崗位要求:
1、熟悉Linux操作系統,對自動化運維工具有3年以上實際開發經驗,真心懂運維。
2、具備2年以上開發經驗,至少精通1種開發語言:Python/Go/Java,精通下列框架Django、beego、SpringCloud優先。
3、具有良好的學習能力、溝通能力、服務理念和合作精神。
4、強烈的責任心與主動性,對所負責工作有owner意識,并能自我驅動成長。
5、有運維自動化、監控系統、發布系統、CMDB、運營支撐系統、AIOPS系統等開發經驗者優先。
7、對容器、K8S有著2年以上實際生產使用經驗優先。
8、做過Openstack、Cloudstack、CoreOS、Zstack、K8S、MeSos、ranchaer等等二次開發和平臺的優先。
9、有人工智能和深度學習經驗的優先。
大數據開發工程師的具體職責 篇12
職責:
1. 根據開發進度要求和任務分配,完成相應模塊軟件的 開發、測試 任務;
2. 配合項目經理進行框架搭建、調試以及相關技術的技術可行性驗證工作;
3. 承擔功能模塊的 概要設計編寫 與 代碼開發工作;
4. 參與問題、技術方案的討論,設計與代碼評審;
任職要求:
1. 具有3年以上軟件設計、開發工作經驗;曾獨立承擔模塊級以上的軟件開發工作,具備系統軟件分析設計能力及很強獨立解決問題的能力;
3. 熟悉Jquery、html、easyui、layui等前端技術.對于瀏覽器兼容性(IE8)能夠很好的處理優先;
4. 精通開源技術框架(spring mvc,spring,mybatis,spirngboot,redis,shiro,sso),熟悉各種常用設計模式,熟悉J2EE規范,并對面向對象設計、分層體系有深入了解;
5. 熟悉Tomcat、maven、svn、eclipse、idea;
6. 熟悉 Oracle,Mongodb等主流數據庫相關技術及工具;
7. 熟悉Linux操作系統,掌握Linux基本命令;
8. 熟悉設計文檔編寫(優先)
9. 具有良好的溝通能力和團隊合作精神、對工作認真負責,踏實,責任心強,善于學習總結。
大數據開發工程師的具體職責 篇13
職責:
1. 根據公司的研發流程,負責業務系統核心模塊的設計和開發工作;
2. 負責服務器端業務代碼的編寫工作;
3. 配合團隊其他成員進行模塊開發及整合。
任職要求:
1. 計算機相關專業,本科及以上學歷;
2. 3年以上java開發經驗,對J2EE體系有較為深刻的理解,熟練使用jaca8的新功能;
3. 熟悉開源框架SpringMVC,Spring Boot ,MyBatis等,對Ajax有了解;
4. 對分布式應用服務,消息中間件,RPC有較深入的理解,熟悉使用Spring Cloud,zookeeper,RabbitMQ,等;
5. 熟悉使用mysql,nosql,對數據庫優化有經驗者優先;
6. 良好的編碼習慣和文檔編寫習慣;
7. 熟悉阿里云中間件優先;
8. 具有良好的學習能力和溝通能力,工作積極主動,具有強烈的責任心和團隊合作精神。
大數據開發工程師的具體職責 篇14
職責
1負責研發公司應用軟件、基礎平臺組件的模塊設計、開發、單元測試和交付
2編寫技術文檔,為使用平臺組件的應用開發團隊提供技術支援
3關注新技術,對新技術進行調研和引入
應聘要求:
1. 本科或以上學歷, 計算機或相關專業背景。5年以上Java開發經驗
2. 有較強的Java語言功底,熟悉I/O、多線程、集合等基礎知識,熟悉分布式、緩存、微服務、消息等機制
3. 熟悉J2EE架構和相關的Java開發技術,熟悉Maven的使用,精通Spring / Spring Boot、Spring MVC、Spring Data JPA、 RESTFul定義與開發等,能快速適應現有UI框架
4. 熟悉MySQL數據庫,熟悉關系數據庫邏輯和物理建模,熟練使用SQL語言,熟悉Linux環境及常用命令
5. 熱愛技術,喜歡鉆研,能對已有框架進行擴展的能力
6. 能夠獨立擔當功能模塊的設計開發,具備較強的問題排查及分析能力,快速定位并解決,具有良好的開發文檔編寫能力
大數據開發工程師的具體職責 篇15
職責:
1、負責公司ERP、OA等信息系統等項目開發;
2、參與系統需求調研、流程設計、開發實施及培訓交付。
3、負責IT部的技術路線規化,引入并建立成熟的軟件開發模式;
任職資格:
1、計算機相關專業本科以上學歷,5年以上工作經驗;
2、熟悉Spring、Spring、Boot、Maven、Mybatis、Hibernate 、Shiro等Java開發框架優先;
3、熟悉Mysql、Oracle、SQLServer數據庫;
4、熟悉Redis、MongoDB數據庫;
5、具有IT技術開發架構師或類似工作經驗優先,有研發團隊管理潛質;
大數據開發工程師的具體職責 篇16
職責
1、負責公司現有PHP網站優化和新產品開發;
2、按照項目計劃,與項目組其他成員協同工作實現開發目的;
3、協助工程師測試和發布系統,準備相關的技術文檔,協助解決各種技術問題;
4、負責文檔撰寫,在前期期間設計交付URL接口文檔、模板數據描述文檔,在編碼期間能撰寫清晰明了的注釋。
任職資格
1、計算機相關專業
2、有嚴謹的邏輯思維能力,溝通、協調、組織能力、有較強責任心和團隊精神
大數據開發工程師的具體職責 篇17
職責:
1.承擔系統核心功能、公共核心模塊的代碼編寫,確保項目進度和質量;
2.參與系統架構設計、接口規范制定、技術文檔編寫等;
3.負責相關故障、疑難問題排查處理,編制匯總故障、問題,定期提交匯總報告;
4.負責日常系統維護,及監控
任職要求:
1、專科或以上學歷,計算機軟件或相關專業;
2、精通Web編程,3年以上使用Java語言進行web開發的經驗,熟悉html、javascript;
3、精通servlet,JMS開發,熟悉Spring、MyBatis等開源框架,熟悉各種常用設計模式;
4、熟悉基于Oracle或者Mysql的設計和開發、Linux操作系統、GIT操作;
5、對技術有強烈的興趣,喜歡鉆研,具有良好的學習能力,溝通技能,團隊合作能力;
6、熟悉SOA,有平臺化實施經驗者,有大數據量、高并發系統和大型網站構建經驗者優先。