大數據架構師工作的崗位職責(精選12篇)
大數據架構師工作的崗位職責 篇1
職責:
1、負責spark, hadoop, flink等開發和優化。
2、參與前期需求溝通和分析,以產品化開發的思維,完成需求分解和數據架構設計。
3、與研發和數據科學家合作保證產品定義清晰,按時完成產品上線。
4、能夠洞察市場狀況,與各部門合作轉化為基于大數據挖掘的新策略或方案.
5、主動創造和發掘新的基于大數據挖掘產品商業模式.
任職要求:
1、全日制本科及以上學歷,計算機軟件相關專業,5年以上開發經驗,3年以上架構經驗
2、精通hadoop/MapReduce/Spark/Hbase/Flink/Hive/R/Mahout等分布式數據存儲和分布式計算平臺原理,流式計算開發,有開源二次開發經驗者優先。
3、精通大數據挖掘、機器學習.熟練掌握Java/Perl/Python至少一種編程語言。
4、具有數據挖掘和分析、機器學習等項目實施相關經驗者優先;
5、良好的跨部門溝通合作能力,解決不同觀點能力并取得結果。具備敏銳的互聯網產品理解力,學習能力和邏輯思維能力強;
6、較強的自我驅動力、推動和協調能力,強烈的責任心和團隊合作精神;
大數據架構師工作的崗位職責 篇2
職責:
1、負責大數據平臺技術框架的技術選型和搭建;
2、負責核心技術問題公關,建設高可靠性,擴展性及高性能大數據/數據應用平臺;
3、負責規劃數據挖掘的整體流程,負責大數據開發團隊業務需求開發;
4、與其他團隊密切配合,尋求數據層面的業務價值,利用數據分析結論推動產品優化;
5、研究和分享大數據架構領域新技術。
任職要求:
1、計算機相關專業全日制統招本科及以上;
2、5年以上工作經驗,至少3年以上大數據項目相關工作經驗,能夠設計大型大數據系統的架構和技術方案;
3、精通Hadoop/Spark/Hbase/Hive等大數據技術,精通ETL技術;
4、熟悉數據挖掘,了解典型大數據算法和策略;
5、熟悉主流Java技術框架,精通關系型數據庫及SQL語言,熟悉NoSQL/JSON/XML;
6、有較強的學習能力和問題解決能力,邏輯嚴密、思路清晰;
7、有數據倉庫經驗者優先,有金融行業項目經驗者優先。
大數據架構師工作的崗位職責 篇3
職責:
1. 負責大數據平臺的基礎技術規劃,編制相關規范文檔。
2. 負責大數據平臺的數據采集,處理,存儲以及挖掘分析的架構實現。
3. 負責大數據平臺的實際規劃建設,包括環境和框架的規劃搭建以及部分核心編碼工作。
4. 負責大數據相關技術發展方向的預研。
5. 參與業務需求調研,根據需求及行業特點設計大數據解決方案并跟進具體實施項目。
6. 制定大數據平臺中數據質量,業務質量監控及管理辦法。
崗位要求:
1. 全日制本科及以上學歷,5年以上工作經驗,4年及以上大數據架構設計經驗,熟悉大數據解決方案,包括Hadoop平臺、Spark、storm、機器學習、深度學習等大數據解決方案。
2. 深刻理解大數據處理(流計算、分布式計算、分布式文件系統、分布式存儲等相關技術)實現方法。有架構和設計實踐經驗。
3. 精通大型數據庫Oracle、SqlServer等的開發。
4. 精通java,Python中的一種或多種語言。
5. 熟悉容器、虛擬化、微服務框架等相關技術。
6. 對數據敏感,有嚴謹的工作思路,良好的溝通能力和團隊合作精神。
7. 熟悉R,Python,SAS、SPSS等數據挖掘經驗者優先。
8. 高寬展性,高性能,和分布式系統的實踐及運維經驗者優先。
9. 有大型數據倉庫實施、大數據平臺數據開發經驗,熟悉運營商業務者優先。
大數據架構師工作的崗位職責 篇4
職責
1、負責大數據架構設計,包括定義數據的存儲、集成(ETL)、應用,支撐業務運營和數據分析類需求實現;
2、制定數據治理領域的數據體系化管理措施,包括元數據設計、數據標準、數據質量、數據處理、數據安全等工作,確保數據可信與安全;
3、基于行業數據積累,滿足業務的數據挖掘需求,實現從數據到資產的轉變,根據目標行業建立具有前瞻性的數據模型;
4、對各產品的數據安全負責,主導制定和實施數據庫系統安全策略,保證整體方案數據安全;
崗位要求
業務技能要求:
1、深入理解云化、數據倉庫,在參與過的系統設計中,必須涉及這兩項關鍵技術;
n2、精通或者熟悉Hadoop體系架構,以及HDFS/HBase/Hive/MapReduce/Spark等技術,了解體系架構各組件的優缺點,有直接的產品設計與開發、部署、調優的經驗;
3、精通或熟悉常見RDBMS(Oracle / PostgreSQL / MySql)、NoSQL(Redis / Memcached/ MongoDB)、全文搜索引擎(Solr/ElasticSearch)的使用及開發,了解各數據庫優缺點, 熟悉與架構設計相關的數據存儲、性能調優等相關領域知識,有相關項目經驗尤佳;
4、熟悉業界常用的數據采集、集成、數據存儲、計算、數據模型、數據分析的技術方案,具有數據分析或數據挖掘相關經驗者優先;
n5、熟悉數據治理相關流程,包括數據接入、數據處理、數據治理、數據組織、數據服務等。
專業知識要求:
1、具備數據治理的知識與體系方案,包含政策、組織、角色、流程、規范等,以及規劃相應的支撐方案。了解業界的數據管理方法論;
2、具備數據用例設計和開發能力。能夠基于業務相關數據進行業務需求分析和痛點識別,將業務需求轉化為數據的需求,完成數據用例的設計和開發;
3、精通海量數據(日增量百億)級別數據倉庫、數據集市的構建流程。熟悉公安、政務、工業、交通、醫療等多行業業務者優先。
大數據架構師工作的崗位職責 篇5
職責:
1、負責DMP技術架構設計與構建,根據業務規劃及技術規劃制定應用架構方案;
2、負責設計構建DMP數據采集、存儲及分析框架,設計數據處理的技術流程和規范;
3、負責核心功能的架構與代碼模板編寫,開發與維護系統公用核心模塊;
4、負責基于大數據技術的海量數據的自動化分析處理和統計工作。
崗位要求:
1、計算機或相關專業本科以上學歷,三年以上的開發經驗,二年以上大數據相關軟件架構的實際經驗;
2、精通大數據處理技術,熟悉Hadoop/Storm技術體系,有Hadoop、Hive、Hbase項目經驗;
3、具有較強的架構能力,具有分布式計算、實時計算、數據倉庫、數據挖掘系統的架構經歷優先;
4、對數據敏感,洞察力強,了解國內外廣告發展趨勢;
5.、擅長系統分析與設計,精通常用的設計模式,擅長性能調優;
6、熟悉DMP/RTB技術原理,了解用戶的行為分析及建模;有RTB/DSP/SSP/EXCHANGE/DMP等廣告行業從業經歷。
大數據架構師工作的崗位職責 篇6
職責:
1、負責大數據基礎平臺的整體規劃和架構設計,參與需求分析、技術決策以及詳細設計;
2、為現有大數據集群Hadoop、hive平臺提供性能調優、架構優化重組,解決系統中的關鍵問題和技術難題;
3、把握基礎業務復雜系統的設計,確保系統的架構質量,編寫核心部分代碼;
4、持續挑戰新的技術方向,攻克大數據量,高并發,穩定性等各種技術難點。
任職資格:
1、計算機或相關專業本科及以上學歷;
2、5年以上hadoop的應用開發經驗,5年以上數據倉庫開發實踐經驗,至少一個企業級數據倉庫項目開發經驗或者大數據處理項目經驗;
3、良好的編程開發能力,精通PHP及其他開發語言;
4、熟悉mysql等數據庫經驗,具備優秀的SQL編寫、調優能力;
5、熟練掌握Linux常規命令與工具,精通shell, perl, python等腳本語言至少一種;
6、軟件基礎理論知識扎實,具有良好的數據結構、算法功底;
7、對新技術敏感,學習能力強,樂于接受挑戰,具有良好的團隊合作精神;
大數據架構師工作的崗位職責 篇7
職責:
1、負責公司大數據平臺架構的技術選型和技術難點攻關工作;
2、依據行業數據現狀和客戶需求,完成行業大數據的特定技術方案設計與撰寫;
3、負責研究跟進大數據架構領域新興技術并在公司內部進行分享;
4、參與公司大數據項目的技術交流、解決方案定制以及項目的招投標工作;
5、參與公司大數據項目前期的架構設計工作;
任職要求:
1、計算機及相關專業本科以上,5年以上數據類項目(數據倉庫、商務智能)實施經驗,至少2年以上大數據架構設計和開發經驗,至少主導過一個大數據平臺項目架構設計;
2、精通大數據生態圈的技術,包括但不限于MapReduce、Spark、Hadoop、Kafka、Mongodb、Redis、Flume、Storm、Hbase、Hive,具備數據統計查詢性能優化能力。熟悉星環大數據產品線及有過產品項目實施經驗者優先;
3、優秀的方案撰寫能力,思路清晰,邏輯思維強,能夠根據業務需求設計合理的解決方案;
4、精通ORACLE、DB2、mySql等主流關系型數據庫,熟悉數據倉庫建設思路和數據分層架構思想;
5. 熟練掌握java、R、python等1-2門數據挖掘開發語言;
6. 熟悉云服務平臺及微服務相關架構思想和技術路線,熟悉阿里云或騰訊云產品者優先;
7、有煙草或制造行業大數據解決方案售前經驗者優先;
8、能適應售前支持和項目實施需要的短期出差;
大數據架構師工作的崗位職責 篇8
職責:
負責公司大數據產品架構的設計與實現;
配合大數據產品經理完成產品的快速研發與交付;
負責大數據產品架構的持續優化設計;
負責大數據產品核心組件設計;
負責大數據相關數據架構規劃、數據建模、數據庫設計以及大數據產品研發工作;
為應用開發團隊提供技術支撐。
任職要求:
本科及以上學歷,3年以上的大數據開發經驗、
2年以上大數據架構設計經驗;
豐富的JAVA研發經驗,精通JAVA,熟悉Python Scala等編程語言;具備深厚的分布式系統或數據庫系統的理論基礎,熟悉分布式計算系統的工作機制,具有分布式文件系統、分布式數據庫系統、集群存儲系統等架構設計經驗;
熟悉整個大數據的完整處理流程(數據的采集、清洗、預處理、存儲、分析挖掘、機器學習和數據可視化);
精通各種大數據相關技術體系:Hadoop、Spark、Storm、ElasticSearch、Kafka;
有數據挖掘、機器學習相關應用或研究背景;
溝通能力較好,積極主動意識較強,責任心較強。
大數據架構師工作的崗位職責 篇9
職責:
1、數據分析軟件平臺架構搭建
2、負責深度學習核心框架或高性能后臺服務系統的架構設計工作,包括系統總體規劃、架構設計、系統分析、軟件實現、性能優化;
3、指導開發人員開發,并解決系統出現的問題,理解物業需求;
4、制定開發計劃和控制開發進度,負責指導研發團隊開展設計工作;
任職要求:
1、碩士以上,計算機或先關專業;
2、5年左右軟件開發經驗,含3年以上系統分析、設計經驗,有大型軟件項目大型軟件項目;有中大型互聯網企業數據庫架構設計及管理經驗,
3、 具備良好的組件級建模能力,熟悉HTTP、TCP等協議
4、熟練使用UML進行軟件架構設計,至少精通EA,RATIONAL, VISIO等一種設計工具.
5、精通至少一種編程語言,熟悉 Linux 相關技術,能獨立在上面進行開發、測試和部署
6、深入理解數據庫、數據倉庫、大數據、分布式體系架構和關鍵技術
大數據架構師工作的崗位職責 篇10
職責:
1、負責自然語音交互、IOT家電物聯控制、知識圖譜等相關模塊和系統的開發;
2、負責掌握第三方接口的調用和功能實現,持續優化服務性能和容量,并保證產品的兼容性和執行效率;
3、根據設計文檔和需求說明完成代碼編寫、調試、單元測試與維護,確保項目進度和質量;
4、協助制定測試計劃,及時發現并修復BUG,實現服務端的性能優化。
任職資格:
1、大學本科3年以上工作經驗,計算機相關專業;
2、熟悉軟件項目開發流程,具有良好編碼風格及文檔編寫能力;
3、熟悉Linux服務器相關技術,能夠獨立完成服務器部署,具有相關經驗;
4、熟悉Hadoop/Spark框架,JAVA基礎扎實;
5、熟練使用Mysql數據庫,了解MongoDB或neo4j等分布式數據庫;
6、熟悉SpringCloud,SSM,Docker,redis開發者優先;
7、熟悉前端(包括但不限于Html5、css、Angularjs、ajax、jquery等)開發技術優先;
8、了解Socket網絡編程、MQTT等,有相應實踐經驗者優先;
9、有智能語音語義、知識圖譜服務端開發經驗者優先。
大數據架構師工作的崗位職責 篇11
職責:
1.負責企業數據中心建設,設計數據邏輯模型和物理模型,并完成相關開發
2.梳理公司各業務線常用的指標和維度,統一指標定義口徑
3.根據數據應用開發和數據分析需求,設計數據倉庫信息層模型,提高數據開發的效率
4.負責數據模型的運營和優化,及時響應業務邏輯變更,保證模型的數據質量和穩定性
5.負責公司數據標簽體系的建設,并推動標簽體系在實際業務場景中落地
崗位要求:
1.5年以上DW/BI數據架構設計、模型設計和性能調優等相關經驗
2.有較強的數據分析能力,精通數據倉庫架構,熟悉Erwin或PowerDesigner建模工具
3.精通一種主流關系數據庫(如mysql等),熟悉Hive開發
4.有電商業務經驗,元數據管理,數據質量管理或標簽體系搭建經驗者優先
5.優秀的協調溝通與團隊協作能力,極強的責任心,能承受一定的工作壓力,認同企業文化和團隊價值
大數據架構師工作的崗位職責 篇12
職責:
1、負責大數據平臺的架構設計、核心代碼開發等任務;根據項目要求編寫相關技術文檔;
2、負責大數據平臺的架構評審,代碼評審,上線評審;參與數據應用需求、設計、審核和評審;
3、負責核心模塊研發,負責大數據平臺的搭建,完成系統調試、集成與實施;
4、負責建立和維護大數據平臺技術標準規范,指導開發人員編寫代碼;
任職要求:
1、本科及以上計算機相關專業畢業;
2、精通離線和實時數據處理流程,掌握離線數據處理框架hive、impala、spark-sql等,掌握實時數據處理常用技術工具,包括Storm、SparkStreaming等;
3、熟悉大數據技術生態圈,精通大數據技術架構,有大數據平臺構建經驗;
4、掌握常見數據流接入工具,包括Flume、kafka等;
5、熟練掌握基本的Linux操作系統和某種腳本語言編程(如Shell等);
6、掌握一種或以上實時處理語言,如JAVA、SCALA、PYTHON等,有SCALA經驗者優先;
7、有實際大規模數據(TB級以上)處理經驗優先;