大數(shù)據(jù)架構師工作的崗位職責(精選19篇)
大數(shù)據(jù)架構師工作的崗位職責 篇1
職責:
1. 負責大數(shù)據(jù)平臺的基礎技術規(guī)劃,編制相關規(guī)范文檔。
2. 負責大數(shù)據(jù)平臺的數(shù)據(jù)采集,處理,存儲以及挖掘分析的架構實現(xiàn)。
3. 負責大數(shù)據(jù)平臺的實際規(guī)劃建設,包括環(huán)境和框架的規(guī)劃搭建以及部分核心編碼工作。
4. 負責大數(shù)據(jù)相關技術發(fā)展方向的預研。
5. 參與業(yè)務需求調(diào)研,根據(jù)需求及行業(yè)特點設計大數(shù)據(jù)解決方案并跟進具體實施項目。
6. 制定大數(shù)據(jù)平臺中數(shù)據(jù)質(zhì)量,業(yè)務質(zhì)量監(jiān)控及管理辦法。
崗位要求:
1. 全日制本科及以上學歷,5年以上工作經(jīng)驗,4年及以上大數(shù)據(jù)架構設計經(jīng)驗,熟悉大數(shù)據(jù)解決方案,包括Hadoop平臺、Spark、storm、機器學習、深度學習等大數(shù)據(jù)解決方案。
2. 深刻理解大數(shù)據(jù)處理(流計算、分布式計算、分布式文件系統(tǒng)、分布式存儲等相關技術)實現(xiàn)方法。有架構和設計實踐經(jīng)驗。
3. 精通大型數(shù)據(jù)庫Oracle、SqlServer等的開發(fā)。
4. 精通java,Python中的一種或多種語言。
5. 熟悉容器、虛擬化、微服務框架等相關技術。
6. 對數(shù)據(jù)敏感,有嚴謹?shù)墓ぷ魉悸罚己玫臏贤芰蛨F隊合作精神。
7. 熟悉R,Python,SAS、SPSS等數(shù)據(jù)挖掘經(jīng)驗者優(yōu)先。
8. 高寬展性,高性能,和分布式系統(tǒng)的實踐及運維經(jīng)驗者優(yōu)先。
9. 有大型數(shù)據(jù)倉庫實施、大數(shù)據(jù)平臺數(shù)據(jù)開發(fā)經(jīng)驗,熟悉運營商業(yè)務者優(yōu)先。
大數(shù)據(jù)架構師工作的崗位職責 篇2
職責:
1、負責DMP技術架構設計與構建,根據(jù)業(yè)務規(guī)劃及技術規(guī)劃制定應用架構方案;
2、負責設計構建DMP數(shù)據(jù)采集、存儲及分析框架,設計數(shù)據(jù)處理的技術流程和規(guī)范;
3、負責核心功能的架構與代碼模板編寫,開發(fā)與維護系統(tǒng)公用核心模塊;
4、負責基于大數(shù)據(jù)技術的海量數(shù)據(jù)的自動化分析處理和統(tǒng)計工作。
崗位要求:
1、計算機或相關專業(yè)本科以上學歷,三年以上的開發(fā)經(jīng)驗,二年以上大數(shù)據(jù)相關軟件架構的實際經(jīng)驗;
2、精通大數(shù)據(jù)處理技術,熟悉Hadoop/Storm技術體系,有Hadoop、Hive、Hbase項目經(jīng)驗;
3、具有較強的架構能力,具有分布式計算、實時計算、數(shù)據(jù)倉庫、數(shù)據(jù)挖掘系統(tǒng)的架構經(jīng)歷優(yōu)先;
4、對數(shù)據(jù)敏感,洞察力強,了解國內(nèi)外廣告發(fā)展趨勢;
5.、擅長系統(tǒng)分析與設計,精通常用的設計模式,擅長性能調(diào)優(yōu);
6、熟悉DMP/RTB技術原理,了解用戶的行為分析及建模;有RTB/DSP/SSP/EXCHANGE/DMP等廣告行業(yè)從業(yè)經(jīng)歷。
大數(shù)據(jù)架構師工作的崗位職責 篇3
職責:
1、負責spark, hadoop, flink等開發(fā)和優(yōu)化。
2、參與前期需求溝通和分析,以產(chǎn)品化開發(fā)的思維,完成需求分解和數(shù)據(jù)架構設計。
3、與研發(fā)和數(shù)據(jù)科學家合作保證產(chǎn)品定義清晰,按時完成產(chǎn)品上線。
4、能夠洞察市場狀況,與各部門合作轉化為基于大數(shù)據(jù)挖掘的新策略或方案.
5、主動創(chuàng)造和發(fā)掘新的基于大數(shù)據(jù)挖掘產(chǎn)品商業(yè)模式.
任職要求:
1、全日制本科及以上學歷,計算機軟件相關專業(yè),5年以上開發(fā)經(jīng)驗,3年以上架構經(jīng)驗
2、精通hadoop/MapReduce/Spark/Hbase/Flink/Hive/R/Mahout等分布式數(shù)據(jù)存儲和分布式計算平臺原理,流式計算開發(fā),有開源二次開發(fā)經(jīng)驗者優(yōu)先。
3、精通大數(shù)據(jù)挖掘、機器學習.熟練掌握Java/Perl/Python至少一種編程語言。
4、具有數(shù)據(jù)挖掘和分析、機器學習等項目實施相關經(jīng)驗者優(yōu)先;
5、良好的跨部門溝通合作能力,解決不同觀點能力并取得結果。具備敏銳的互聯(lián)網(wǎng)產(chǎn)品理解力,學習能力和邏輯思維能力強;
6、較強的自我驅動力、推動和協(xié)調(diào)能力,強烈的責任心和團隊合作精神;
大數(shù)據(jù)架構師工作的崗位職責 篇4
職責:
1、負責大數(shù)據(jù)平臺技術框架的技術選型和搭建;
2、負責核心技術問題公關,建設高可靠性,擴展性及高性能大數(shù)據(jù)/數(shù)據(jù)應用平臺;
3、負責規(guī)劃數(shù)據(jù)挖掘的整體流程,負責大數(shù)據(jù)開發(fā)團隊業(yè)務需求開發(fā);
4、與其他團隊密切配合,尋求數(shù)據(jù)層面的業(yè)務價值,利用數(shù)據(jù)分析結論推動產(chǎn)品優(yōu)化;
5、研究和分享大數(shù)據(jù)架構領域新技術。
任職要求:
1、計算機相關專業(yè)全日制統(tǒng)招本科及以上;
2、5年以上工作經(jīng)驗,至少3年以上大數(shù)據(jù)項目相關工作經(jīng)驗,能夠設計大型大數(shù)據(jù)系統(tǒng)的架構和技術方案;
3、精通Hadoop/Spark/Hbase/Hive等大數(shù)據(jù)技術,精通ETL技術;
4、熟悉數(shù)據(jù)挖掘,了解典型大數(shù)據(jù)算法和策略;
5、熟悉主流Java技術框架,精通關系型數(shù)據(jù)庫及SQL語言,熟悉NoSQL/JSON/XML;
6、有較強的學習能力和問題解決能力,邏輯嚴密、思路清晰;
7、有數(shù)據(jù)倉庫經(jīng)驗者優(yōu)先,有金融行業(yè)項目經(jīng)驗者優(yōu)先。
大數(shù)據(jù)架構師工作的崗位職責 篇5
職責
1、負責大數(shù)據(jù)架構設計,包括定義數(shù)據(jù)的存儲、集成(ETL)、應用,支撐業(yè)務運營和數(shù)據(jù)分析類需求實現(xiàn);
2、制定數(shù)據(jù)治理領域的數(shù)據(jù)體系化管理措施,包括元數(shù)據(jù)設計、數(shù)據(jù)標準、數(shù)據(jù)質(zhì)量、數(shù)據(jù)處理、數(shù)據(jù)安全等工作,確保數(shù)據(jù)可信與安全;
3、基于行業(yè)數(shù)據(jù)積累,滿足業(yè)務的數(shù)據(jù)挖掘需求,實現(xiàn)從數(shù)據(jù)到資產(chǎn)的轉變,根據(jù)目標行業(yè)建立具有前瞻性的數(shù)據(jù)模型;
4、對各產(chǎn)品的數(shù)據(jù)安全負責,主導制定和實施數(shù)據(jù)庫系統(tǒng)安全策略,保證整體方案數(shù)據(jù)安全;
崗位要求
業(yè)務技能要求:
1、深入理解云化、數(shù)據(jù)倉庫,在參與過的系統(tǒng)設計中,必須涉及這兩項關鍵技術;
n2、精通或者熟悉Hadoop體系架構,以及HDFS/HBase/Hive/MapReduce/Spark等技術,了解體系架構各組件的優(yōu)缺點,有直接的產(chǎn)品設計與開發(fā)、部署、調(diào)優(yōu)的經(jīng)驗;
3、精通或熟悉常見RDBMS(Oracle / PostgreSQL / MySql)、NoSQL(Redis / Memcached/ MongoDB)、全文搜索引擎(Solr/ElasticSearch)的使用及開發(fā),了解各數(shù)據(jù)庫優(yōu)缺點, 熟悉與架構設計相關的數(shù)據(jù)存儲、性能調(diào)優(yōu)等相關領域知識,有相關項目經(jīng)驗尤佳;
4、熟悉業(yè)界常用的數(shù)據(jù)采集、集成、數(shù)據(jù)存儲、計算、數(shù)據(jù)模型、數(shù)據(jù)分析的技術方案,具有數(shù)據(jù)分析或數(shù)據(jù)挖掘相關經(jīng)驗者優(yōu)先;
n5、熟悉數(shù)據(jù)治理相關流程,包括數(shù)據(jù)接入、數(shù)據(jù)處理、數(shù)據(jù)治理、數(shù)據(jù)組織、數(shù)據(jù)服務等。
專業(yè)知識要求:
1、具備數(shù)據(jù)治理的知識與體系方案,包含政策、組織、角色、流程、規(guī)范等,以及規(guī)劃相應的支撐方案。了解業(yè)界的數(shù)據(jù)管理方法論;
2、具備數(shù)據(jù)用例設計和開發(fā)能力。能夠基于業(yè)務相關數(shù)據(jù)進行業(yè)務需求分析和痛點識別,將業(yè)務需求轉化為數(shù)據(jù)的需求,完成數(shù)據(jù)用例的設計和開發(fā);
3、精通海量數(shù)據(jù)(日增量百億)級別數(shù)據(jù)倉庫、數(shù)據(jù)集市的構建流程。熟悉公安、政務、工業(yè)、交通、醫(yī)療等多行業(yè)業(yè)務者優(yōu)先。
大數(shù)據(jù)架構師工作的崗位職責 篇6
職責:
1、數(shù)據(jù)分析軟件平臺架構搭建
2、負責深度學習核心框架或高性能后臺服務系統(tǒng)的架構設計工作,包括系統(tǒng)總體規(guī)劃、架構設計、系統(tǒng)分析、軟件實現(xiàn)、性能優(yōu)化;
3、指導開發(fā)人員開發(fā),并解決系統(tǒng)出現(xiàn)的問題,理解物業(yè)需求;
4、制定開發(fā)計劃和控制開發(fā)進度,負責指導研發(fā)團隊開展設計工作;
任職要求:
1、碩士以上,計算機或先關專業(yè);
2、5年左右軟件開發(fā)經(jīng)驗,含3年以上系統(tǒng)分析、設計經(jīng)驗,有大型軟件項目大型軟件項目;有中大型互聯(lián)網(wǎng)企業(yè)數(shù)據(jù)庫架構設計及管理經(jīng)驗,
3、 具備良好的組件級建模能力,熟悉HTTP、TCP等協(xié)議
4、熟練使用UML進行軟件架構設計,至少精通EA,RATIONAL, VISIO等一種設計工具.
5、精通至少一種編程語言,熟悉 Linux 相關技術,能獨立在上面進行開發(fā)、測試和部署
6、深入理解數(shù)據(jù)庫、數(shù)據(jù)倉庫、大數(shù)據(jù)、分布式體系架構和關鍵技術
大數(shù)據(jù)架構師工作的崗位職責 篇7
職責:
1、負責公司大數(shù)據(jù)底層框架的整體架構設計,結合公司實際業(yè)務情況進行技術選型及大數(shù)據(jù)戰(zhàn)略規(guī)劃;
2、負責公司項目的整體評估、設計、架構及關鍵模塊的開發(fā);
3、負責架構優(yōu)化,協(xié)助團隊解決開發(fā)過程中遇到的技術難題;
4、負責新技術的調(diào)研和大數(shù)據(jù)相關開源組件的研究,并能在團隊進行推廣應用;
5、參與數(shù)據(jù)分析、數(shù)據(jù)建模、項目核心模塊及核心框架的開發(fā);
6、負責大數(shù)據(jù)平臺的性能條有和問題診斷。
任職要求:
1、計算機相關專業(yè),本科及以上學歷,3-5年以上工作經(jīng)驗,2-3年大數(shù)據(jù)相關經(jīng)驗;
2、具有扎實的大數(shù)據(jù)和數(shù)據(jù)倉庫理論功底,負責過大數(shù)據(jù)平臺或數(shù)據(jù)倉庫設計;
3、對基于Hadoop的大數(shù)據(jù)體系有深入的認識,具備相關產(chǎn)品(Hadoop、Hive、HBase、Spark、Storm、Flume、Kafka、Redis、ES等)項目應用研發(fā)經(jīng)驗,有Hadoop集群搭建和管理經(jīng)驗,度過Hadoop和Spark源碼;
4、熟悉Linux和Python語言,了解Scala原理和底層技術;
5、熟悉分布式系統(tǒng)的架構及對其進行設計和優(yōu)化,對海量數(shù)據(jù)的清晰、分析處理及存儲有相關的實戰(zhàn)經(jīng)驗;
6、算法基礎扎實,熟悉常見的數(shù)據(jù)結構,深入理解分布式算法和以上提到的分布式系統(tǒng),
7、必須有一線coding的能力;
8、有統(tǒng)計學、數(shù)學知識,海量數(shù)據(jù)處理、分析和挖掘,大型互聯(lián)網(wǎng)公司從業(yè)經(jīng)歷著優(yōu)先。
大數(shù)據(jù)架構師工作的崗位職責 篇8
職責
1、負責企業(yè)級大數(shù)據(jù)平臺、數(shù)據(jù)云服務的設計與開發(fā);
2、基于大數(shù)據(jù)生態(tài)圈,支持智慧交通等大數(shù)據(jù)場景應用實現(xiàn);
3、負責公司大數(shù)據(jù)產(chǎn)品的設計、封裝與落地;
4、負責學習大數(shù)據(jù)相關算法研究、實現(xiàn)與應用
任職要求
1、統(tǒng)招本科及以上學歷;2年以上智慧城市建設或交通行業(yè)信息化相關工作經(jīng)驗,3年以上大數(shù)據(jù)架構設計、開發(fā)經(jīng)驗;
2、精通大數(shù)據(jù)生態(tài)圈的技術,包括但不限于MapReduce、Spark、Hadoop、Kafka、Mongodb、Redis、Flume、Storm、Hbase、Hive,具備源碼級問題解決和集群優(yōu)化改造能力;
3、熟悉常用編程語言,包括Java、Python、Scala等;
4、具有很強的技術研發(fā)和創(chuàng)新能力,能有效把握技術發(fā)展方向,有較強的執(zhí)行能力、學習能力、溝通能力、適應能力,責任心強;
大數(shù)據(jù)架構師工作的崗位職責 篇9
職責:
1. 負責產(chǎn)品級業(yè)務系統(tǒng)架構(如業(yè)務數(shù)據(jù)對象識別,數(shù)據(jù)實體、數(shù)據(jù)屬性分析,數(shù)據(jù)標準、端到端數(shù)據(jù)流等)的設計與優(yōu)化。協(xié)助推動跨領域重大數(shù)據(jù)問題的分析、定位、解決方案設計,從架構設計上保障系統(tǒng)高性能、高可用性、高安全性、高時效性、分布式擴展性,并對系統(tǒng)質(zhì)量負責。
2.負責云數(shù)據(jù)平臺的架構設計和數(shù)據(jù)處理體系的優(yōu)化,推動云數(shù)據(jù)平臺建設和持續(xù)升級,并制定云數(shù)據(jù)平臺調(diào)用約束和規(guī)范。
3. 結合行業(yè)應用的需求負責數(shù)據(jù)流各環(huán)節(jié)上的方案選型,主導云數(shù)據(jù)平臺建設,參與核心代碼編寫、審查;數(shù)據(jù)的統(tǒng)計邏輯回歸算法、實時交互分析;數(shù)據(jù)可視化方案等等的選型、部署、集成融合等等。
4. 對云數(shù)據(jù)平臺的關注業(yè)內(nèi)技術動態(tài),持續(xù)推動平臺技術架構升級,以滿足公司不同階段的數(shù)據(jù)需求。
任職要求:
1. 熟悉云計算基礎平臺,包括 Linux(Ubuntu/CentOS)和 KVM、OpenStack/K8S 等基礎環(huán)境,熟悉控制、計算、存儲和網(wǎng)絡;
2. 掌握大型分布式系統(tǒng)的技術棧,如:CDN、負載均衡、服務化/異步化、分布式緩存、NoSQL、數(shù)據(jù)庫垂直及水平擴容;熟悉大數(shù)據(jù)應用端到端的相關高性能產(chǎn)品。
3. 精通 Java,Python,Shell 編程語言,精通 SQL、NoSQL 等數(shù)據(jù)庫增刪改查的操作優(yōu)化;
4. PB 級別實戰(zhàn)數(shù)據(jù)平臺和生產(chǎn)環(huán)境的實施、開發(fā)和管理經(jīng)驗;
5. 熟悉 Docker 等容器的編排封裝,熟悉微服務的開發(fā)和日常調(diào)度;
6.計算機、軟件、電子信息及通信等相關專業(yè)本科以上學歷,5 年以上軟件工程開發(fā)經(jīng)驗,2 年以上大數(shù)據(jù)架構師工作經(jīng)驗。
大數(shù)據(jù)架構師工作的崗位職責 篇10
1. 負責大數(shù)據(jù)項目整體架構規(guī)劃,包括應用架構、技術架構、物理架構和數(shù)據(jù)架構等;
2. 負責指導工程師進行技術驗證與實現(xiàn),核心技術問題的攻關,解決項目開發(fā)過程中的技術難題;
3. 負責項目對外技術溝通,具有較強的溝通,表達和文檔撰寫能力;
4. 根據(jù)公司項目和業(yè)務發(fā)展特點,負責研究相關大數(shù)據(jù)前沿技術;
5. 推動技術能力的沉淀。
大數(shù)據(jù)架構師工作的崗位職責 篇11
職責:
1、負責相關開源系統(tǒng)/組件的性能、穩(wěn)定性、可靠性等方面的深度優(yōu)化;
2、負責解決項目上線后生產(chǎn)環(huán)境的各種實際問題,保障大數(shù)據(jù)平臺在生產(chǎn)上的安全、平穩(wěn)運行;
3、推動優(yōu)化跨部門的業(yè)務流程, 參與業(yè)務部門的技術方案設計、評審、指導;
4、負責技術團隊人員培訓、人員成長指導。
5、應項目要求本月辦公地址在錦江區(qū)金石路316號新希望中鼎國際辦公,月底項目結束后在總部公司辦公
任職要求:
1、熟悉linux、JVM底層原理,能作為技術擔當,解決核心技術問題;
2、3年以上大數(shù)據(jù)平臺項目架構或開發(fā)經(jīng)驗,對大數(shù)據(jù)生態(tài)技術體系有全面了解,如Yarn、Spark、HBase、Hive、Elasticsearch、Kafka、PrestoDB、Phoenix等;
3、掌握git、maven、gradle、junit等工具和實踐, 注重文檔管理、注重工程規(guī)范優(yōu)先;
4、熟悉Java后臺開發(fā)體系,具備微服務架構的項目實施經(jīng)驗,有Dubbo/Spring cloud微服務架構設計經(jīng)驗優(yōu)先;
5、性格開朗、善于溝通,有極強的技術敏感性和自我驅動學習能力,注重團隊意識。
大數(shù)據(jù)架構師工作的崗位職責 篇12
職責:
負責大數(shù)據(jù)平臺的規(guī)劃和搭建、完成大數(shù)據(jù)平臺的日常運營工作,為數(shù)據(jù)分析和展現(xiàn)提供支持;
對系統(tǒng)框架相關技術和業(yè)務進行培訓,并負責核心代碼編寫,指導團隊開發(fā)及解決出現(xiàn)的系統(tǒng)問題;
參與基于大數(shù)據(jù)平臺的創(chuàng)新業(yè)務場景進行數(shù)據(jù)產(chǎn)品的架構設計,負責數(shù)據(jù)產(chǎn)品的研發(fā)交付;
負責處理大數(shù)據(jù)平臺的疑難問題,為數(shù)據(jù)團隊提供可靠的技術支持;
負責數(shù)據(jù)質(zhì)量、穩(wěn)定性等數(shù)據(jù)管理,數(shù)據(jù)內(nèi)部共享融通的數(shù)據(jù)平臺,讓數(shù)據(jù)標準更規(guī)范、數(shù)據(jù)獲取更高效;
及時跟進大數(shù)據(jù)領域新技術并分享,提升團隊技術能力。
任職要求:
本科或以上學歷,5年以上數(shù)據(jù)系統(tǒng)建設經(jīng)驗,3年以上大數(shù)據(jù)架構設計經(jīng)驗;
精通 java,python,scala 等一種大數(shù)據(jù)開發(fā)語言,熟悉Hadoop生態(tài)圈,包括但不限于hdfs,hive,spark, 有豐富的大數(shù)據(jù)項目的實踐經(jīng)驗;
具備創(chuàng)新精神,條理清晰,溝通表達和邏輯思維能力強;
熟悉數(shù)據(jù)倉庫的設計和開發(fā),對數(shù)據(jù)架構有深入的了解和具備相關的項目實踐經(jīng)驗優(yōu)先;
對SQL on Hadoop 的開源查詢引擎(如Presto、 Apache Drill ) 原理有深入研究優(yōu)先;
有敏捷大數(shù)據(jù)和數(shù)據(jù)可視化實踐經(jīng)驗優(yōu)先。
大數(shù)據(jù)架構師工作的崗位職責 篇13
職責:
1、負責規(guī)劃科技大數(shù)據(jù)平臺及科技數(shù)據(jù)入庫自動化的方案設計;
2、負責大數(shù)據(jù)平臺的開發(fā)和維護,以及對外服務接口的開發(fā);
3、負責大數(shù)據(jù)平臺的優(yōu)化和改進工作。
任職要求
1、計算機相關專業(yè)本科及以上學歷,5年以上開發(fā)經(jīng)驗,其中3年以上為互聯(lián)網(wǎng)、大數(shù)據(jù)相關的開發(fā)經(jīng)驗;
2、熟知Hadoop生態(tài)圈體系,精通Hadoop/Spark/Storm/Kafka中的一項或幾項,深刻理解MapReduce的運行原理和機制,有MPI經(jīng)驗者尚佳;
3、熟悉Elasticsearch、Redis、Hbased等相關數(shù)據(jù)庫的構建和操作,尤其是數(shù)據(jù)庫集群的構建和操作,熟悉Neo4j者尚佳;
4、具有機器學習相關項目經(jīng)驗者優(yōu)先。
大數(shù)據(jù)架構師工作的崗位職責 篇14
職責:
1. 負責大數(shù)據(jù)基礎平臺、海量數(shù)據(jù)存儲/處理分布式平臺、數(shù)據(jù)分析系統(tǒng)架構設計和研發(fā);
2. 負責實時計算平臺基礎架構設計、部署、監(jiān)控、優(yōu)化升級;
3. 制定項目/數(shù)據(jù)倉庫設計及實現(xiàn)規(guī)范,指導設計研發(fā)和部署;
4. 協(xié)助策略和算法團隊工作,保障數(shù)據(jù)挖掘建模和工程化;
5. 深入研究大數(shù)據(jù)相關技術和產(chǎn)品,跟進業(yè)界先進技術;
任職要求:
1. 全日制本科及以上學歷,5年以上軟件和分布式系統(tǒng)研發(fā)經(jīng)驗,3年以上大數(shù)據(jù)系統(tǒng)架構經(jīng)驗;
2. 精通Hadoop/HBase/Spark/Storm/Redis技術及其生態(tài)圈;
3. 具備良好的系統(tǒng)分析能力、故障診斷能力;
4 有大數(shù)據(jù)策略、算法、可視化經(jīng)驗優(yōu)先。
大數(shù)據(jù)架構師工作的崗位職責 篇15
職責:
1、負責大數(shù)據(jù)平臺的技術選型,基于Spark、Hadoop大數(shù)據(jù)平臺建設和開發(fā);
2、完成包括數(shù)據(jù)模型設計、數(shù)據(jù)采集、數(shù)據(jù)存儲等方面的大數(shù)據(jù)系統(tǒng)架構的設計和數(shù)據(jù)層架構設計;
3、構建數(shù)據(jù)中臺,為多種行業(yè)應用提供主數(shù)據(jù)(畫像標簽/關系圖譜)、數(shù)據(jù)模型、人工智能業(yè)務算法及數(shù)據(jù)服務。
4、對海量數(shù)據(jù)處理的業(yè)務需求進行評估和方案設計、拆分任務并指導工程師完成開發(fā);
5、帶領大數(shù)據(jù)技術團隊提供并實現(xiàn)大數(shù)據(jù)平臺上各項數(shù)據(jù)分析和數(shù)據(jù)可視化的架構設計,支撐解決方案實施。
任職要求:
1、本科及以上學歷,具有5年及以上大數(shù)據(jù)架構設計和開發(fā)經(jīng)驗;2年及以上帶領團隊經(jīng)驗;溝通能力強。在大型互聯(lián)網(wǎng)企業(yè)從事大數(shù)據(jù)架構設計者優(yōu)先考慮;有分布式大型商業(yè)軟件系統(tǒng)設計經(jīng)驗、主導過大型商業(yè)軟件的架構設計并取得過市場商業(yè)成功者優(yōu)先考慮;
2、熟悉整個大數(shù)據(jù)的完整處理流程,包括數(shù)據(jù)的采集、清洗、預處理、存儲、分析挖據(jù)、機器學習和數(shù)據(jù)可視化;
3、精通Oracle/MySQL/PostgreSQL/Greenplum/MongoDB等其中至少一種主流數(shù)據(jù)庫的使用,并能進行性能調(diào)優(yōu);
4、具備優(yōu)秀的團隊意識和溝通能力,學習能力和主動性強,具有鉆研精神,充滿激情,樂于接受挑戰(zhàn)。
大數(shù)據(jù)架構師工作的崗位職責 篇16
職責:
1、負責公司大數(shù)據(jù)產(chǎn)品的架構設計,包含數(shù)據(jù)收集、數(shù)據(jù)存儲、數(shù)據(jù)應用,并完成相關架構設計文檔的撰寫;
2、參與規(guī)劃從數(shù)據(jù)源到數(shù)據(jù)應用的整體流程,并參與相關產(chǎn)品的決策;
3、負責解決核心技術問題,對技術方案進行決策;
4、負責大數(shù)據(jù)研發(fā)團隊建設、人才梯隊培養(yǎng)和技術團隊管理;
5、積極了解業(yè)界發(fā)展,研究與跟蹤大數(shù)據(jù)新技術發(fā)展方向。
任職要求:
1、精通GoldenGate For BigData相關理論,具備大型數(shù)據(jù)利用的生產(chǎn)實戰(zhàn)經(jīng)驗;
2、精通數(shù)據(jù)驅動的理論,設計并生產(chǎn)上線相關數(shù)據(jù)驅動的產(chǎn)品;
3、精通常用消息中間件的使用,例如kafka/RocketMQ/Apache Pulsar,有解讀相關源碼者優(yōu)先;
4、掌握hadoop、spark生態(tài)體系相關產(chǎn)品的使用,掌握MapReduce編程或Spark編程;
5、了解傳統(tǒng)數(shù)據(jù)倉庫理論及相關ETL工具,例如kettle/datastage;
6、熟悉Oracle、Mongodb、Mysql數(shù)據(jù)庫的使用;
7、扎實的Java語言基礎,熟悉Java開發(fā)工具和調(diào)試工具的使用;
8、良好的團隊協(xié)作精神,有能力對團隊在軟件設計、實現(xiàn)和測試方面進行指導;
9、良好的邏輯分析能力和溝通能力,執(zhí)行力強、對待工作認真嚴謹、責任心強、具備出色的學習能力和團隊合作精神,有一定的推動能力;
10、計算機科學、信息技術或相關領域本科以上學歷,具有5年以上數(shù)據(jù)平臺項目開發(fā)經(jīng)驗,3年以上的架構設計經(jīng)驗,具有大數(shù)據(jù)平臺應用大型項目架構設計經(jīng)驗優(yōu)先;
大數(shù)據(jù)架構師工作的崗位職責 篇17
職責:
1. 深刻理解政府行業(yè)業(yè)務模式,構建政府行業(yè)的數(shù)據(jù)模型,制定公司大數(shù)據(jù)技術發(fā)展路線;
2. 對接業(yè)務研究和技術部門,主動搜集和轉化需求,組織數(shù)據(jù)中心業(yè)務開發(fā),進行數(shù)據(jù)相關產(chǎn)品需求分析和設計;
3. 搭建數(shù)據(jù)倉庫,研發(fā)數(shù)據(jù)庫管理系統(tǒng),搜集、提取、處理業(yè)務積累的海量數(shù)據(jù),開展數(shù)據(jù)分析和挖掘;
4. 根據(jù)公司戰(zhàn)略和發(fā)展需要,規(guī)劃數(shù)據(jù)中心重點工作和任務;落實部門人員、事務管理,開展跨部門、跨地區(qū)協(xié)作,協(xié)助對外交流與合作。
職位要求:
1. 5年以上相關工作經(jīng)驗,有團隊管理和項目管理經(jīng)驗者優(yōu)先;
2.了解政府運作機制,掌握財政行業(yè)知識,有電子政務行業(yè)經(jīng)驗者優(yōu)先;
3. 熟練掌握使用Java或Python,精通數(shù)據(jù)庫查詢語言如SQL,Oracle等,在機器學習模型和算法方向有應用經(jīng)驗者優(yōu)先;
4. 具備數(shù)據(jù)中心產(chǎn)品策劃整體思維,有大數(shù)據(jù)處理、分析、挖掘經(jīng)驗者優(yōu)先;
5. 邏輯思維嚴密,具備業(yè)務抽象、分解和標準化的能力,口頭和書面表達優(yōu)秀;
6. 有較強的大局意識和良好的團隊合作意識,富有領導力,具備優(yōu)秀的人際交往和溝通能力。
大數(shù)據(jù)架構師工作的崗位職責 篇18
職責:
1.負責整個大數(shù)據(jù)平臺架構的設計和構建;
2.負責構建大數(shù)據(jù)平臺的數(shù)據(jù)交換、任務調(diào)度等通用平臺;
3.制定開發(fā)、測試、實施、維護的標準和規(guī)范,指導和培訓工程師,不斷提升團隊能力。
4.參與系統(tǒng)需求分析、架構設計、技術選型、應用設計與開發(fā)以及測試與部署,負責編寫核心部分代碼。
5.持續(xù)挑戰(zhàn)新的技術方向,攻克大數(shù)據(jù)量、高并發(fā)、高可用、可擴展等技術難點。
任職要求:
1.3年以上大數(shù)據(jù)架構經(jīng)驗,豐富的數(shù)據(jù)倉庫、數(shù)據(jù)挖掘、機器學習項目經(jīng)驗
2.大規(guī)模數(shù)據(jù)處理的架構和設計實戰(zhàn)經(jīng)驗
3.精通Spark、MR,熟練HDFS、Yarn、Hbase、Hive、MongoDB,熟悉Kafka、Redis、Storm、Mahout、Flume、ElasticSearch、GraphDB(NEO4J或其他)等,并具有豐富的大型數(shù)據(jù)平臺工程經(jīng)驗
4.深刻理解大數(shù)據(jù)處理(流計算,分布式計算,分布式文件系統(tǒng),分布式存儲等)相關技術和實現(xiàn)方法
5.熟悉主數(shù)據(jù)、元數(shù)據(jù)、數(shù)據(jù)質(zhì)量等企業(yè)數(shù)據(jù)管理相關的體系和方法,熟練Linux/Unix平臺上的開發(fā)環(huán)境
6.本科或以上學歷,計算機軟件或相關專業(yè),豐富的java開發(fā)經(jīng)驗和互聯(lián)網(wǎng)背景優(yōu)先。
7.具有比較強的問題分析和處理能力,有比較優(yōu)秀的動手能力,熱衷技術,精益求精
大數(shù)據(jù)架構師工作的崗位職責 篇19
職責:
1、大數(shù)據(jù)平臺架構規(guī)劃與設計;
2、負責大數(shù)據(jù)平臺技術框架的選型與技術難點攻關;
3、能夠獨立進行行業(yè)大數(shù)據(jù)應用的整體技術框架、業(yè)務框架和系統(tǒng)架構設計和調(diào)優(yōu)等工作,根據(jù)系統(tǒng)的業(yè)務需求,能夠指導開發(fā)團隊完成實施工作;
4、負責數(shù)據(jù)基礎架構和數(shù)據(jù)處理體系的升級和優(yōu)化,不斷提升系統(tǒng)的穩(wěn)定性和效率,為相關的業(yè)務提供大數(shù)據(jù)底層平臺的支持和保證;
5、培養(yǎng)和建立大數(shù)據(jù)團隊,對團隊進行技術指導。
任職要求:
1、計算機相關專業(yè)的背景專業(yè)一類院校畢業(yè)本科、碩士學位,8年(碩士5年)以上工作經(jīng)驗(至少擁有3年以上大數(shù)據(jù)項目或產(chǎn)品架構經(jīng)驗);
2、精通Java,J2EE 相關技術,精通常見開源框架的架構,精通關系數(shù)據(jù)庫系統(tǒng)(Oracle MySQL等)和noSQL數(shù)據(jù)存儲系統(tǒng)的原理和架構;
3、精通SQL和Mapreduce、Spark處理方法;
4、精通大數(shù)據(jù)系統(tǒng)架構,熟悉業(yè)界數(shù)據(jù)倉庫建模方法及新的建模方法的發(fā)展,有DW,BI架構體系的專項建設經(jīng)驗;
5、對大數(shù)據(jù)體系有深入認識,熟悉Kafka、Hadoop、Hive、HBase、Spark、Storm、greenplum、ES、Redis等大數(shù)據(jù)技術,并能設計相關數(shù)據(jù)模型;
6、很強的學習、分析和解決問題能力,可以迅速掌握業(yè)務邏輯并轉化為技術方案,能獨立撰寫項目解決方案、項目技術文檔;
7、具有較強的內(nèi)外溝通能力,良好的團隊意識和協(xié)作精神;
8、機器學習技術、數(shù)據(jù)挖掘、人工智能經(jīng)驗豐富者優(yōu)先考慮;
9、 具有能源電力行業(yè)工作經(jīng)驗者優(yōu)先。