大數據開發工程師的主要職責(精選22篇)
大數據開發工程師的主要職責 篇1
職責:
1. 負責機票酒店大數據項目的評估、設計及關鍵模塊研發;
2. 參與公司大數據平臺及聯機分析系統的建設;
3. 機器學習算法討論、評估及算法的最終編碼實現;
4. 數據平臺開發規范制定,數據建模及核心框架研發;
任職要求:
1. 本科及以上學歷,計算機或數學相關專業,三年以上相關工作經驗;
2. 掌握Java、Python、Scala等 中的一到兩種語言;
3. 熟悉Mongodb、Hive、Hbase、Redis等NoSQL數據庫開發和調優;
4. 熟悉數據相關開源框架和工具,如ZooKeeper、Spark、Flink、Impala、Kylin 等;
5. 對數據結構和機器學習算法有一定的了解;
6. 具有海量數據處理、數據挖掘、數據分析相關項目的工作經驗者優先;
7. 有機票酒店等旅游行業數據開發經驗者優先。
大數據開發工程師的主要職責 篇2
職責:
1、 負責基于Hadoop/Spark平臺架構的開發、設計和布局 ;
2、 完成系統框架的設計和核心代碼的編寫;
3、 針對海量的用戶行為數據進行統計、分析與挖掘,不斷提高系統運行效率;
4、 負責對數據進行分析,為項目組提供大數據技術指導及分析手段支撐;
5、 負責大數據平臺的性能監控和持續優化;針對需求提供大數據分析技術解決方案 ;
6、 大數據平臺的運維工作,持續完善大數據平臺,保證穩定性、安全性;
7、 熟練使用大數據ETL數據抽取工具;
8、領導安排的其他工作。
任職資格:
1、 3年互聯網行業開發經驗,計算機或相關專業本科以上學歷;
2、 精通Hadoop大數據平臺架構,具有扎實的Java/Python等開發語言;并可以開發高效可靠的代碼;
3、 具有較強的數據分析、數據挖掘的能力;
4、 熟悉spark、Hive、storm等計算框架者優先,對分布式存儲和計算原理有較深的理解;
5、 嚴密的數學思維、突出的分析和歸納能力、優秀的溝通表達能;
6、 個性開朗,對技術鉆研好學、邏輯思維能力強,溝通能力優秀,有團隊合作精神。
大數據開發工程師的主要職責 篇3
職責:
1、負責公司大數據平臺建設;
2、根據業務需求,制定數據倉庫和數據分析平臺的實施和持續更新;
3、攻克技術難關,保證大數據系統的穩定運行;
4、完成大數據產品的開發。
職位要求:
1、計算機相關專業全日制專科及以上學歷,大數據相關經驗;
2、熟悉Java或Scala語言,熟悉Spark,Hadoop,Kafka,Hive,HBase,ZooKeeper等大數據相關技術;
3、精通SQL語句并對Redis,Mongodb等NoSQL數據庫有一定經驗;
4、對于高并發、高穩定可用性、性能、大數據處理有過實際項目產品經驗者優先;
5、責任心強,工作踏實,有團隊協作精神,溝通能力強者優先。
大數據開發工程師的主要職責 篇4
職責:
1、負責公司項目應用監測數據,分析軟件大數據平臺的代碼開發;
2、負責大數據體系架構設計和應用產品的研究;
3、負責大數據平臺及應用場景的構建、部署、測試;
4、編寫軟件研發相關技術文檔;
5、編寫產品研發相關任務單計劃,階段性代碼、技術方案和軟件產品及時提交至配置管理理庫;
6、Spark程序的研發,sqoop腳本開發和商家用戶行為等離線分析數據;
7、kudu,kylin等技術調研,編寫軟件研發相關技術文檔;
8、SUNMI數倉設計架構以及ETL流程開發;
9、建立多維度,多體系的用戶標簽體系以及用戶行為數據庫。
崗位要求 :
1、本科以上學歷,4年以上?工作經驗,2年以上Hadoop平臺的相關研發經驗,具有良好的需求分析,方案設計,架構設計,程序編寫、測試能力;
2、熟悉J2EE或Python平臺開發,有良好的Java或Python語言功底;
3、了解Linux/Unix操作系統,了解腳本編程(Shell/Python其中一種);
4、具備數據中心資源管理(YARN)、監控(ClouderaManage)、調度(Azkaban)等系統研發經驗者優先,具備分布式系統研發經驗者優先;
5、熟悉hadoop以及其?生態圈系統上的hive、hbase、sqoop、spark、spark-streaming等技
術,懂hadoop源碼者優先;
6、熟悉Kylin有OLAP平臺設計和開發經驗優先;
7、具有應用大數據技術處理TB級以上數據的項目開發經驗者優先;
8、有較清晰的代碼編寫規范,邏輯性強,工作態度認真,良好溝通能力和團隊合作精神。
大數據開發工程師的主要職責 篇5
職責:
1.負責公司環保大數據平臺的架構與搭建;
2.負責需求分析,根據客戶應用需求規劃大數據平臺架構;
3.負責將大數據平臺部署至私有服務器群、私有云或公有云;
4.負責在企業內部進行數據平臺原型開發與數據實時交互、存儲性能測試;
5.負責與數據挖掘算法交互的架構設計與開發。
任職要求:
1.計算機相關專業,全日制本科以上學歷;
2.具有3年以上大數據相關應用開發經驗,有Java開發經驗更佳;
3.至少熟悉一種流行的大數據編程框架,如Spark,Storm,Flink等;
4.熟悉大數據生態圈常用技術如RocketMQ,Kafka,Flume,Zookeeper等;
5.熟悉Hadoop安裝、調試、發布配置應用,熟悉Linux操作系統更佳;
6.至少熟悉TIDB,MySQL,SQLServer其中一種數據庫;
7.學習能力強,對技術有熱情,關注技術發展方向;
8.具有工業物聯網、智慧型環保項目背景者優先。
大數據開發工程師的主要職責 篇6
職責:
1、負責公司核心系統日常運維以及公共組件的設計、開發和維護;
2、負責開發、完善運維內部系統及輔助系統,提升運維質量及效率;
3、與開發團隊合作,收集與理解需求,提供解決方案,改善DevOps流程;
4、負責公司業務系統的部署架構優化、業務監控、持續交付、應急響應、容量規劃等。
【工作要求】
1、計算機相關專業,本科及以上學歷;
2、熟悉Kubernetes, Docker, RabbitMQ, Zookeeper, Mysql, PostgreSql, Git, Elasticsearch等開源組件的架構及實現;
3、熟練掌握PHP、Python、Go、Shell語言中任意一種;
4、熟悉典型互聯網架構、微服務維護實踐,和常見的分布式系統架構;
5、熟悉 Linux 操作系統原理、TCP/IP、網絡編程以及常用RPC協議;
大數據開發工程師的主要職責 篇7
職責:
1、具有項目質量管理意識,在項目中主動貫徹執行質量管理規定,熟練使用Git/Junit/Arquillian/Maven(或者其他)進行測試 代碼的編寫和版本控制,把控項目整體進度,管理JAVA小組日常工作協調。
2、參與系統詳細設計與實現、完整主體功能及相關文檔的編寫;
3、負責核心業務的restful、web service等接口的開發,解決開發過程中遇到的技術問題,完成相應的業務功能文檔、接口使用文檔并及時更新;
4、維護和部署程序到運行環境;
5、參與項目的數據庫設計實現,對數據庫整體架構提出建議;
6、負責對應用程序進行審查,監控和優化系統的性能。
7、完成公司上級領導安排的其它工作內容。
職位要求:
1、3年以上JAVA互聯網項目管理工作經驗,抗壓能力強。
2、了解分布式系統的設計和架構,了解負載均衡策略實現;
2、精通Java語言開發,JAVA基礎扎實,精通io、多線程、集合等基礎框架,熟悉分布式、緩存、消息、搜索等機制,熟練各種常用開源框架及搭建;(有分布式事務處理相關工作經驗者優先)
3、精通sql語句熟悉mysql以及 mysql 集群;熟悉Linux下的常用命令;
4、有maven、cas、dubbo、restful相關工作經驗者優先考慮;
大數據開發工程師的主要職責 篇8
職責:
1、利用HTML5相關技術實現移動WEB端功能研發,實現邏輯功能和體驗優化;
2、根據需求,參與底層通信、數據加載、基礎流程框架、UI組件的開發;
3、依據服務端制定的通信、數據和文件結構等技術開發對應模塊;
4、完成程序性能的優化。
任職要求:
1、計算機、軟件等相關專業,2年或以上HTML5開發經驗,有百度、谷歌等引擎開發使用經驗;
2、熟悉Javascript、HTML/HTML5/XML、CSS3、Ajax、JQuery、VUE 等;
3、有良好的邏輯思維,積極主動,有強烈的責任心;
4、有互聯網金融開發經驗優先;
5、具備較好的溝通表達能力和團隊合作意識。
大數據開發工程師的主要職責 篇9
1、負責數據倉庫和大數據處理模塊的架構設計和開發;
2、負責實現基于Spark框架的分布式計算框架的設計和開發工作;
3、負責Spark技術研究和通用數據平臺的性能調優;
4、負責大數據項目中,基于kafka、flume、spark streaming、Spark SQL等相關技術的海量數據的處理、分析、統計、挖掘工作。
5、熟悉Scala/Java語言,對Scala/Java原理、底層技術有深入研究者優先;
6、有過海量數據系統開發經驗者優先;
7、熟悉Hadoop/Spark生態系統組件的使用,至少有2年以上的Spark開發經驗;
8、寫過推薦系統的優先考慮
大數據開發工程師的主要職責 篇10
職責:
1、項目中數據庫系統的架構設計、開發、優化、安全;
2、根據項目需求設計數據庫表與數據庫結構。
3、數據庫性能優化:表、字段、字節規范設計,分庫分表,數據遷移;
4、數據庫規范化文檔編寫及管理;
5、服務端的搭建,數據庫存儲和讀取數據接口的編寫。
任職要求:
1、本科以上學歷,計算機或數學相關專業,有扎實的數據庫基礎知識;
2、兩年以上數據庫開發經驗、熟練使用MySQL、SQLServer、Oracle等關系型數據庫;
3、 熟悉LINUX、UNIX操作系統,熟悉java、C#或其他開發語言;
4、精通數據庫基本理論及概念;
5、有大數據開發經驗優先考慮;
6、能承受工作壓力、有良好的團隊合作精神。
大數據開發工程師的主要職責 篇11
職責:
1、協助產品線負責人搭建數據庫,及數據分析、數據庫管理;
2、協助負責后臺系統需求分析和任務模塊開發;
3、協助客戶端接口開發測試;
4、接口文檔,技術文檔以及測試用例文檔的編寫。
任職資格:
1、23-28周歲,本科及以上學歷,計算機相關專業;
2、3年或以上同崗位相關工作經驗,有數據中心,數據倉庫建設經驗;
3、3年或以上J2EE開發經驗,有扎實的java基礎;
4、熟悉關系型數據庫(DB2、ORACLE、MYSQL、SQl Server),了解NoSQL、緩存技術;
5、熟練掌握Spring、SpringMVC、iBatis等開源框架,熟練運用設計模式;
6、對技術有熱情,執行力責任心強且在醫療行業同崗位的優先。
大數據開發工程師的主要職責 篇12
職責:
1、負責PC網站、移動端網站后臺開發;
2、參與相關頁面的Web前后臺架構設計、核心代碼的編寫;
3、協助測試和發布系統,準備相關的技術文檔,協助解決各種技術問題;
4、進行詳細設計、代碼開發,配合測試,高質量完成項目;
5、按照項目計劃,按時提交高質量代碼,完成開發任務。
任職資格:
1.大專以上學歷。參與公司PHP相關產品或項目需求的分析、架構設計與實現。
2.有3年以上PHP實際開發經驗,扎實的php開發功底。
3.精通PHP,至少熟悉Yii,YAF、CI、Thinkphp,Laravel其中一個主流開發框架,深入理解MVC與OOP。
4.精通MySQL數據庫,熟練掌握MySQL性能優化、語句優化 、主從復制、讀寫分離、防SQL注入等技術,具備PHP緩存技術、靜態化設計方面的經驗。
5.熟練使用Nosql、例如Redis、MongoDB、等非關系型數據庫。
6.熟悉Linux環境下的項目開發和部署,熟悉Shell腳本編程。
7.熟練掌握Jquery、HTML、XML、Javascript、AJAX等技術。
8.熟練使用SVN、Git等常見版本控制工具。
9.有項目規劃能力者、有辦公系統(OA)、信息管理系統、CRM系統等大型軟件應用系統方面開發經驗者優先。
10.有已經上線的項目;熟悉微信開發者優先,有服務化架構開發經驗者優先,在github有開源項目維護者優先。
大數據開發工程師的主要職責 篇13
職責:
1、負責數據中心和大數據處理平臺的搭建
2、在線和離線海量數據分析平臺的開發;
3、研究大數據前沿技術,提升系統的運維效率;
4、參與大數據的采集、存儲、處理,分析等開發
5、參與數據挖掘算法的設計、對海量數據進行挖掘分析和發掘數據價值及算法學習及實現
【任職要求】:
1、計算機或相關專業本科學歷及以上,2年工作經驗以上
2、熟悉Java/Scala等至少一門語言,能對分布式常用技術進行合理應用,解決實際架構問題
3、熟練使用hadoop,hive,HBase,YARN,kafka,spark,Storm,Flume等大數據開發組件
4、熟悉整個大數據的完整處理流程,包括數據的采集、清洗、存儲、分析和可視化及報表開發;
5、熟悉分布式系統概念、架構,有大規模分布式系統設計、實現、部署等經驗;
6. 具有優秀的學習能力、獨立分析和解決問題能力,良好的團隊合作精神。
7. 有BI開發經驗的優化考慮。
大數據開發工程師的主要職責 篇14
職責:
1、負責開放平臺應用系統/模塊的程序編碼及單元測試;
2、配合系統整合測試、用戶驗收測試等測試過程;
3、協助進行需求分析文檔的整理、協助進行產品歸檔管理等。
任職要求:
1、大學本科及以上學歷(統招、學信網可查),計算機或相關專業,4年及以上java開發經驗,有銀行項目經驗優先;
2、精通Java語法,熟悉J2EE架構,并能熟悉使用開發框架 (如struts、spring、springMVC、hibernate/ibatis/mybatis);
3、了解html、xml、css,了解Javascript, Ajax,webservice技術;
4、熟悉運用各種IDE開發工具(eclipse / Jbuilder,dream weaver);
5、了解應用服務器的發布與配置(Websphere,Tomcat)
6、對數據庫基礎知識及相關數據庫產品有一定的了解(db2,oracle),能熟練使用SQL語法;
7、熟悉UNIX/LIUNX常用命令;
8、具有良好的溝通能力與團隊合作精神。
大數據開發工程師的主要職責 篇15
職責:
1、 負責參與系統框架的設計和不斷優化,參與系統設計;
2、 根據用戶的需求,分析并給出最優的技術解決方案;
3、 根據開發規范與流程獨立完成模塊的設計、編碼以及相關文檔;
4、具有獨立分析和解決問題的能力。
任職要求:
1、全日制本科學歷,計算機相關專業。
2、有1年及以上J2EE開發經驗,充分掌握面向對象編程思想并有較好的設計模式基礎,熟悉常用算法和數據結構;
2、熟悉Spring、Hiberate、jQuery等開發框架、了解其原理和實現機制;
3、熟悉MYSQL等關系型數據庫,掌握PL/SQL、存儲過程、觸發器、視圖的編寫;
4、熟悉Apache,Tomcat等主流Web應用服務器;
5、精通HTML+CSS+JS編程,熟悉HTTP 協議以及瀏覽器原理;
6、熟悉主流前端框架,包括但不限于Bootstrap、Vue、Anglajs等;
7、有WebGIS開發經驗者優先;
8、具有大型網站開發經驗者優先。
大數據開發工程師的主要職責 篇16
1,協助開發RFID 應用系統;包含RFID標簽和RFID設備的配合設計;
2,根據國外客戶的要求,開發新的應用軟件;整理和協調客戶的需求,提出RFID針對不同客戶需要的方案
3,對行業機構提出的應用技術需求做調研和開發,做產品技術儲備
大數據開發工程師的主要職責 篇17
職責:
1、負責公司產品前端頁面的開發;
2、負責相關HTML5游戲的開發工作;
3、維護現有HTML5程序,處理用戶反饋的問題;
4、根據美工設計圖開發前端代碼,解決瀏覽器及終端平臺的各種兼容性問題;
職位要求:
1、計算機相關專業,大專以上學歷,有1年以上的相關工作經驗;
2、熟練掌握html5、css3、JavaScript、Ajax、jQuery等Web開發技術;
3、熟練掌握常用JS框架的使用,如Bootstrap、Vue、CreateJS、白鷺Egret、LayUI等;
4、熟悉頁面性能的優化,熟悉開發調試、版本控制等基本研發技能;
5、擁有良好的編碼習慣,邏輯清晰、結構清晰、命名規范、代碼冗余率低;
6、工作認真負責,具有較強的發現問題并解決問題的能力;
7、有Construct2開發經驗者優先考慮;
8、具有良好的溝通能力及團隊合作精神,責任心強。
大數據開發工程師的主要職責 篇18
職責:
1、較強的邏輯思維及自學能力,做事有條理,具備較強的項目分析和解決問題的能力。
2、熟練使用PHP語言和開發技巧,精通面向對象編程,具有良好的編程風格、習慣,熟悉各種主流的MVC開發框架的使用及其原理,并有在MVC模式下進行中大型web開發的經驗.
3、熟練掌握mysql等數據庫應用、熟悉基本的sql語句,能優化表、優化sql語句,能為慢查詢建立相關索引。
5、有后端API開發經驗、熟悉API加密方式,有linux 操作經驗者且熟悉LNMP優先。
6、熟練redis,memcached等緩存機制。
7、大專以上學歷,計算機相關專業畢業,3年以上工作經驗。
職位描述:
1、負責APP后端PHP_API接口開發工作。
2、負責MySQL數據庫維護,優化工作。
3、根據需求不斷修改完善項目功能
大數據開發工程師的主要職責 篇19
職責
1、負責公司自有項目的服務器后端程序的技術研發工作,包括技術架構設計、重構、優化,根據產品規劃及技術規劃制定應用架構方案;
2、負責公司項目核心功能、數據總線解決方案及第三方接口的開發,主導技術難題攻關,持續提升核心系統在高并發、海量請求數下的高處理性能,編寫程序,單元測試,bug修復工作等;;
3、負責設計、編碼和調試研發平臺后端技術框架,優化及提高后端代碼的性能,審核和評估相關方案與設計,以確保其符合架構規劃,滿足業務需求;
4、分析系統瓶頸,解決各種疑難雜癥,對系統進行性能調優,指導程序員編寫程序,落實技術規范,與產品經理、測試工程師、其他成員溝通合作,保證產品研發工作的質量和進度;
崗位要求
1、軟件工程或計算機相關專業大專以上學歷,3年以上商業項目的實際開發經驗,有電商或短視頻項目的實際開發經驗;
2、精通ThinkPHP、Laravel、Yii等流行框架,熟練掌握LAMP,熟悉TP/SMARTY;
3、精通MySQL、NOSQL、MongoDB等數據庫,能夠編寫和優化復雜的SQL程序;
4、擅長消息隊列、任務調度、負載均衡、并發控制,極具面向對象思維,懂得低耦合高復用封裝,擁有一絲不茍的代碼編寫規范習慣;
5、熟悉Unix/Linux操作系統,熟練掌握shell、Python、Perl其中一種腳本語言;
大數據開發工程師的主要職責 篇20
職責:
1、負責公司業務平臺功能模塊的代碼開發工作;
2、熟悉PHP開發,掌握主流框架,并擁有良好的面向對象編碼思想和注釋風格,;
3、參與需求分析、系統分析與架構設計方案,負責處理開發過程中的技術問題;
4、思維前瞻性,積極配合完成運維部門工作需求,完成上級要求各項任務;
任職要求:
1、能獨立完成一個項目的開發;
2、精通PHP編程,熟練運用MVC框架,thinkphp框架、larver框架;
3、熟練Mysql數據庫,具有MySQl索引優化、查詢優化和存儲優化經驗。
5、熟悉 div+css+js(jquery)等前端技術;
6、熟悉UNIX/LINUX操作系統的基本配置和命令,了解操作系統的體系結構,熟悉TCP/IP網絡協議;
7、具備良好學習心態及團隊精神,抗壓能力強,并富有工作激情、創造力和責任感;
大數據開發工程師的主要職責 篇21
職責:
1、根據產品需求完成高質量高性能后端開發;
2、參與各產品的需求分析、規劃、系統設計;
3、負責各應用模塊的編碼工作和文檔編寫工作;
4、負責公司相關產品開發和維護工作。
職位要求
1、本科以上學歷;
2、3年以上PHP網站開發經驗;
3、精通Phalcon或其他PHP框架;
4、熟悉MYSQL數據庫,并對SQL優化有一定的經驗,能結合業務對復雜慢SQL進行優化;
5、熟練使用NoSQL、熟悉互聯網系統的性能優化、cache技術;
6、有良好的代碼習慣,要求結構清晰,命名規范,邏輯性強;
7、關注新技術,較強的學習能力,具備良好的溝通、團隊合作能力
大數據開發工程師的主要職責 篇22
職責:
1、負責運維系統、平臺的構建與開發工作
2、負責運維自動化、規范化解決方案的開發工作
3、深入理解系統,為其持續優化提供建設性意見
4、完成領導交代的其他臨時性工作。
崗位要求
1、具有5年以上開發經驗
2、本科及以上學歷,計算機相關專業優先
3、主動、正直、有責任心和團隊協作意識
4、精通Java語言、網絡及多線程編程,掌握Spring、SpringCloud等常用框架技術
5、熟悉常見的開源技術,如HBase、Redis、KafKa、Dubbo、ZooKeeper等,并具備一定的經驗
6、良好的服務器端編程能力和編程習慣,對設計模式深入理解
7、了解互聯網產品運維、監控,具有大型運維系統、監控系統、工作流系統開發工作經驗者優先