大數據架構師的崗位職責（精選19篇）

大數據架構師的崗位職責 篇1

　　職責：

　　1、負責公司大數據產品的架構設計，包含數據收集、數據存儲、數據應用，并完成相關架構設計文檔的撰寫;

　　2、參與規劃從數據源到數據應用的整體流程，并參與相關產品的決策;

　　3、負責解決核心技術問題，對技術方案進行決策;

　　4、負責大數據研發團隊建設、人才梯隊培養和技術團隊管理;

　　5、積極了解業界發展，研究與跟蹤大數據新技術發展方向。

　　任職要求：

　　1、精通GoldenGate For BigData相關理論，具備大型數據利用的生產實戰經驗;

　　2、精通數據驅動的理論，設計并生產上線相關數據驅動的產品;

　　3、精通常用消息中間件的使用，例如kafka/RocketMQ/Apache Pulsar，有解讀相關源碼者優先;

　　4、掌握hadoop、spark生態體系相關產品的使用，掌握MapReduce編程或Spark編程;

　　5、了解傳統數據倉庫理論及相關ETL工具，例如kettle/datastage;

　　6、熟悉Oracle、Mongodb、Mysql數據庫的使用;

　　7、扎實的Java語言基礎，熟悉Java開發工具和調試工具的使用;

　　8、良好的團隊協作精神，有能力對團隊在軟件設計、實現和測試方面進行指導;

　　9、良好的邏輯分析能力和溝通能力，執行力強、對待工作認真嚴謹、責任心強、具備出色的學習能力和團隊合作精神，有一定的推動能力;

　　10、計算機科學、信息技術或相關領域本科以上學歷，具有5年以上數據平臺項目開發經驗，3年以上的架構設計經驗，具有大數據平臺應用大型項目架構設計經驗優先;

大數據架構師的崗位職責 篇2

　　職責：

　　1.負責公司大數據底層框架的整體架構設計，結合公司實際業務情況進行技術選型及大數據戰略規劃;

　　2.負責統一數據平臺項目的整體評估、設計、架構及關鍵模塊的開發，不斷提升系統的穩定性和效率;

　　3.負責架構優化及系統關鍵模塊的設計開發，協助團隊解決開發過程中的技術難題;

　　4.建立良好的公司內外的業界技術影響力;有效輔導團隊，提升數據研發能力;

　　任職要求：

　　1.從事大數據項目相關開發和設計2年以上經驗;有作為技術負責人系統化解決問題的成功案例;有海量數據實踐經驗優先;

　　2.擁有一定的算法和數據結構基礎;有很強的數據設計抽象能力，善于從復雜的數據問題中找到關鍵路徑;

　　3.熟悉目前正在發展的大數據分布式平臺前沿技術的應用;包括但不僅僅限于：hadoop、storm、spark、等;

　　4. 良好的邏輯思維能力，良好的業務解讀能力，懂電力或通信業務優先;

　　5.具有鉆研精神，樂于接受挑戰;

大數據架構師的崗位職責 篇3

　　職責：

　　1、負責大數據開發團隊建設;

　　2、負責行業大數據產品架構設計與研發;

　　3、負責帶領團隊進行行業大數據產品關鍵技術攻關。

　　任職要求：

　　1、有三年以上大數據應用、開發經驗;具備海量數據加工處理(ETL)相關經驗，對數據挖掘及機器學習有較為深刻的理解;

　　2、熟悉Hadoop相關技術，對HDFS、MapReduce、Hive、HBase有一定的使用和開發經驗;

　　3、熟悉Linux，熟練使用Shell或Python，進行腳本編寫;

　　4、對數據結構和數據統計分析算法有較為深刻理解;

　　5、掌握至少一種主流關系數據庫開發技術：Oracle、SQL Server、MySQL等;

　　6、掌握實時流計算技術，有Spark、Storm開發經驗者優先;

　　7、需要具備2年以上研發團隊管理經驗。

大數據架構師的崗位職責 篇4

　　職責:

　　1)負責公司軟件產品整體架構的設計和關鍵功能實現

　　2)負責公司架構長期看護以及優化;

　　3)負責軟件部門各模組間的協調配合;

　　4)提高鞏固軟件代碼質量;

　　5)負責大數據流式框架的設計、優化及部署;

　　6)規劃研發部門員工的技術發展路線并提供必要的幫助和指導

　　任職資格:

　　1)本科及以上學歷，計算機相關專業，5年以上工作經驗;

　　2)頻繁換工作，比如一年一個公司，請繞路;

　　3)3年以上產品架構經驗，主導過產品的成功上線;

　　4)對底層設備通訊協議，B/S系統，手機APP開發等都有一定的了解;

　　5)對各種主流語言C#\Java\Pathon有一定的了解

　　5)精通各種大數據架構，并深入研究過其中一種，有storm\kafka等流式實時處理經驗為佳

　　6)能夠承擔較強的工作壓力，有良好的自我驅動能力和責任感;

　　7)具備優秀的邏輯思維能力、表達能力、溝通協調能力。

大數據架構師的崗位職責 篇5

　　職責：

　　1、搭建基于Hadoop/Spark的數據挖掘體系和大數據分析系統架構;

　　2、研究大數據領域前沿數據挖掘技術，并引入相應技術在數據中心的使用;

　　3、進行大數據系統框架設計、模型算法開發;

　　4、負責大型數據挖掘項目方案制定、項目實施落地及優化等 ;

　　5、開展數據爬取、聚類分析、輿情分析、魚骨圖分析、定價策略等領域數據挖掘工作;

　　任職資格：

　　1、本科以上學歷(持有學士學位)(985，211優先)，計算機相關專業，五年工作經驗;

　　2、二年以上數據挖掘項目經驗，完整參與過數據挖掘大數據平臺的架構開發過程，具備互聯網行業背景優先;

　　3、精通分布式計算框架(hadoop、spark、Storm等)及相關經驗，熟練掌握Hive/SQL，Python，熟悉Python、R相關數值科學計算庫(NumPy,SciPy等);

　　4、了解傳統的BI/DW 理論，能結合傳統BI實踐設計大數據平臺;

　　5、熟悉常用機器學習算法(如分類、回歸、聚類、關聯規則等)及其原理，具備應用場景經驗，如用戶畫像、商品關聯度分析、輿情分析;

　　6、熟悉主數據、元數據、數據質量、和數據建模等數據治理相關的體系和方法;

　　7、具備較強的邏輯思維能力、數據敏感度，擅于利用數據發現問題及解決問題;

大數據架構師的崗位職責 篇6

　　職責：

　　1、負責大數據平臺的架構設計、核心代碼開發等任務;根據項目要求編寫相關技術文檔;

　　2、負責大數據平臺的架構評審，代碼評審，上線評審;參與數據應用需求、設計、審核和評審;

　　3、負責核心模塊研發，負責大數據平臺的搭建，完成系統調試、集成與實施;

　　4、負責建立和維護大數據平臺技術標準規范，指導開發人員編寫代碼;

　　任職要求：

　　1、本科及以上計算機相關專業畢業;

　　2、精通離線和實時數據處理流程，掌握離線數據處理框架hive、impala、spark-sql等，掌握實時數據處理常用技術工具，包括Storm、SparkStreaming等;

　　3、熟悉大數據技術生態圈，精通大數據技術架構，有大數據平臺構建經驗;

　　4、掌握常見數據流接入工具，包括Flume、kafka等;

　　5、熟練掌握基本的Linux操作系統和某種腳本語言編程(如Shell等);

　　6、掌握一種或以上實時處理語言，如JAVA、SCALA、PYTHON等，有SCALA經驗者優先;

　　7、有實際大規模數據(TB級以上)處理經驗優先;

大數據架構師的崗位職責 篇7

　　職責：

　　負責公司大數據產品架構的設計與實現;

　　配合大數據產品經理完成產品的快速研發與交付;

　　負責大數據產品架構的持續優化設計;

　　負責大數據產品核心組件設計;

　　負責大數據相關數據架構規劃、數據建模、數據庫設計以及大數據產品研發工作;

　　為應用開發團隊提供技術支撐。

　　任職要求：

　　本科及以上學歷，3年以上的大數據開發經驗、

　　2年以上大數據架構設計經驗;

　　豐富的JAVA研發經驗，精通JAVA，熟悉Python Scala等編程語言;具備深厚的分布式系統或數據庫系統的理論基礎，熟悉分布式計算系統的工作機制，具有分布式文件系統、分布式數據庫系統、集群存儲系統等架構設計經驗;

　　熟悉整個大數據的完整處理流程(數據的采集、清洗、預處理、存儲、分析挖掘、機器學習和數據可視化);

　　精通各種大數據相關技術體系：Hadoop、Spark、Storm、ElasticSearch、Kafka;

　　有數據挖掘、機器學習相關應用或研究背景;

　　溝通能力較好，積極主動意識較強，責任心較強。

大數據架構師的崗位職責 篇8

　　職責：

　　1. 深刻理解政府行業業務模式，構建政府行業的數據模型，制定公司大數據技術發展路線;

　　2. 對接業務研究和技術部門，主動搜集和轉化需求，組織數據中心業務開發，進行數據相關產品需求分析和設計;

　　3. 搭建數據倉庫，研發數據庫管理系統，搜集、提取、處理業務積累的海量數據，開展數據分析和挖掘;

　　4. 根據公司戰略和發展需要，規劃數據中心重點工作和任務;落實部門人員、事務管理，開展跨部門、跨地區協作，協助對外交流與合作。

　　職位要求：

　　1. 5年以上相關工作經驗，有團隊管理和項目管理經驗者優先;

　　2.了解政府運作機制，掌握財政行業知識，有電子政務行業經驗者優先;

　　3. 熟練掌握使用Java或Python,精通數據庫查詢語言如SQL，Oracle等,在機器學習模型和算法方向有應用經驗者優先;

　　4. 具備數據中心產品策劃整體思維，有大數據處理、分析、挖掘經驗者優先;

　　5. 邏輯思維嚴密，具備業務抽象、分解和標準化的能力，口頭和書面表達優秀;

　　6. 有較強的大局意識和良好的團隊合作意識，富有領導力，具備優秀的人際交往和溝通能力。

大數據架構師的崗位職責 篇9

　　職責：

　　1、負責大數據項目技術架構評估與設計;

　　2、負責關鍵功能的開發，技術難題的解決，以及輸出代碼的關鍵把控;

　　3、負責對使用關鍵技術的預研和選型，完成PoC;

　　4、指導工程師完成開發工作，并能分享技術經驗。

　　任職要求：

　　1、3年以上相關工作經驗，其中具有1年以上架構設計經驗

　　2、熟悉商業智能系統相關技術，如 ETL、數據倉庫、OLAP開發;

　　3、精通設計模式，熟悉面向服務架構(SOA)以及其它常用軟件架構思想，有SOA方案設計、開發實施的實際經驗，要具備實際的服務規劃、服務粒度劃分經驗;并且要善于設計可重用組件和可定制化產品。

　　4、相關技術棧：Java /Scala/Flume/Hive/Kafka/HBase/ Spark/Storm/Redis;

　　5、有扎實的計算機基礎，熟悉Java等編程語言;

大數據架構師的崗位職責 篇10

　　職責：

　　1、負責面向政府信領域的企業(不限于)大數據平臺、大數據應用等系統的架構設計、技術規劃、技術選型

　　2、跟進業界大數據技術發展動態，匹配行業應用訴求，制定大數據策略，提前識別關鍵技術并完成技術驗證;

　　3、支撐售前完成項目解決方案技術架構的設計及重要客戶的交流;

　　4、負責指導研發完成大數據產品的開發

　　5、帶領團隊進行產品核心技術的創新和積累

　　崗位要求：

　　1、熟悉BI和大數據領域的解決方案，具備該領域全面的技術積累，包括報表平臺，OLAP引擎和DB，ETL，數據倉庫建模和設計，海量分布式數據處理分析架構;

　　2、在大數據處理和分析領域具有3年或者以上的技術規劃、架構設計經驗，并有成功的項目實踐;

　　3、4年以上Hadoop實戰經驗，熟悉Hadoop底層文件系統及分布式計算框架，具備傳統數據倉庫、MPP、Hadoop等混搭平臺架構的設計能力和數據建模能力，對大規模數據并行計算、傳輸、處理等有豐富的經驗;

　　4、有實際應用storm、spark、flume、kafka等項目經驗優先;

　　5、卓越的技術領導力，善于溝通、發現和解決產品需求階段、開發階段和測試階段的問題，并能提供合理解決方案，有大中型互聯網企業工作背景優先。

大數據架構師的崗位職責 篇11

　　職責：

　　1. 負責大數據平臺的基礎技術規劃，編制相關規范文檔。

　　2. 負責大數據平臺的數據采集，處理，存儲以及挖掘分析的架構實現。

　　3. 負責大數據平臺的實際規劃建設，包括環境和框架的規劃搭建以及部分核心編碼工作。

　　4. 負責大數據相關技術發展方向的預研。

　　5. 參與業務需求調研，根據需求及行業特點設計大數據解決方案并跟進具體實施項目。

　　6. 制定大數據平臺中數據質量，業務質量監控及管理辦法。

　　崗位要求：

　　1. 全日制本科及以上學歷，5年以上工作經驗，4年及以上大數據架構設計經驗，熟悉大數據解決方案，包括Hadoop平臺、Spark、storm、機器學習、深度學習等大數據解決方案。

　　2. 深刻理解大數據處理(流計算、分布式計算、分布式文件系統、分布式存儲等相關技術)實現方法。有架構和設計實踐經驗。

　　3. 精通大型數據庫Oracle、SqlServer等的開發。

　　4. 精通java，Python中的一種或多種語言。

　　5. 熟悉容器、虛擬化、微服務框架等相關技術。

　　6. 對數據敏感，有嚴謹的工作思路，良好的溝通能力和團隊合作精神。

　　7. 熟悉R，Python，SAS、SPSS等數據挖掘經驗者優先。

　　8. 高寬展性，高性能，和分布式系統的實踐及運維經驗者優先。

　　9. 有大型數據倉庫實施、大數據平臺數據開發經驗，熟悉運營商業務者優先。

大數據架構師的崗位職責 篇12

　　職責：

　　1、數據分析軟件平臺架構搭建

　　2、負責深度學習核心框架或高性能后臺服務系統的架構設計工作，包括系統總體規劃、架構設計、系統分析、軟件實現、性能優化;

　　3、指導開發人員開發，并解決系統出現的問題，理解物業需求;

　　4、制定開發計劃和控制開發進度，負責指導研發團隊開展設計工作;

　　任職要求：

　　1、碩士以上，計算機或先關專業;

　　2、5年左右軟件開發經驗，含3年以上系統分析、設計經驗，有大型軟件項目大型軟件項目;有中大型互聯網企業數據庫架構設計及管理經驗，

　　3、 具備良好的組件級建模能力，熟悉HTTP、TCP等協議

　　4、熟練使用UML進行軟件架構設計，至少精通EA，RATIONAL， VISIO等一種設計工具.

　　5、精通至少一種編程語言，熟悉 Linux 相關技術，能獨立在上面進行開發、測試和部署

　　6、深入理解數據庫、數據倉庫、大數據、分布式體系架構和關鍵技術

大數據架構師的崗位職責 篇13

　　職責：

　　1、 基于公司大數據基礎和數據資產積累，負責大數據應用整體技術架構的設計、優化，建設大數據能力開放平臺;負責大數據應用產品的架構設計、技術把控工作。

　　2、 負責制定大數據應用系統的數據安全管控體系和數據使用規范。

　　3、 作為大數據技術方案到產品實現的技術負責人，負責關鍵技術點攻堅工作，負責內部技術推廣、培訓及知識轉移工作。

　　4、 負責大數據系統研發項目任務規劃、整體進度、風險把控，有效協同團隊成員并組織跨團隊技術協作，保證項目質量與進度。

　　5、 負責提升產品技術團隊的技術影響力，針對新人、普通開發人員進行有效輔導，幫助其快速成長。

　　任職資格：

　　1、 計算機、數學或相關專業本科以上學歷，5-20xx年工作經驗，具有大型系統的技術架構\應用架構\數據架構相關的實踐工作經驗。

　　2、 有分布式系統分析及架構設計經驗，熟悉基于計算集群的軟件系統架構和實施經驗。

　　3、 掌握Hadoop/Spark/Storm生態圈的主流技術及產品，深入了解Hadoop/Spark/Storm生態圈產品的工作原理及應用場景。

　　4、 掌握Mysql/Oracle等常用關系型數據庫，能夠對SQL進行優化。

　　5、 熟悉分布式系統基礎設施中常用的技術，如緩存(Varnish、Memcache、Redis)、消息中間件(Rabbit MQ、Active MQ、Kafka、NSQ)等;有實踐經驗者優先。

　　6、 熟悉Linux，Java基礎扎實，至少3-5年以上Java應用開發經驗，熟悉常用的設計模式和開源框架。

大數據架構師的崗位職責 篇14

　　職責：

　　1. 負責大數據基礎和應用平臺的整體規劃和架構設計，參與需求分析，架構設計，詳細設計以及技術選型決策

　　2. 參與數據挖掘和建模相關核心算法的代碼實現

　　3. 負責大數據算法平臺的技術把關，性能調優，控制架構質量，解決項目技術難題;對研發項目和任務需求進行評估和方案設計、拆分任務并指導工程師完成開發

　　4. 帶領團隊提供并實現大數據算法平臺上各項數據接入、數據挖掘分析及數據可視化的架構設計與能力，支持解決方案實施

　　5. 負責數據庫設計、應用架構設計、核心技術選型等工作

　　6. 協調解決開發中的技術問題、設計和監控運營指標，保障系統穩定運行

　　7. 培養，指導有能力的員工，指導工程師進行技術驗證實現，核心技術攻關，解決開發過程中的技術難題

　　任職要求：

　　1. 熟悉大數據和數據倉庫的系統架構設計方法

　　2. 熟練使用并理解HadoopSpark架構及生態。(Hadoop，Hive，Hbase，Elasticsearch，Kafka，SparkFlink等)

　　3. 熟悉分布式系統架構，有分布式實時、離線和機器學習平臺的架構和開發經驗，具備海量數據清洗、分析處理及存儲的實踐經驗

　　4. 熟練使用JAVA，具有大規模分布式系統調優經驗

　　5. 熟悉AI相關算法，熟悉機器學習、深度學習。熟悉AI學習開源框架(Tensorflow、PyTorch等)者優先;

　　6. 具備良好的團隊合作精神，對工作充滿激情。

　　7. 熟悉FusionInsight平臺開發經驗者優先

大數據架構師的崗位職責 篇15

　　職責：

　　根據大數據業務需求，設計大數據方案及架構，實現相關功能;

　　搭建和維護大數據集群，保證集群規模持續、穩定、高效平穩運行;

　　負責大數據業務的設計和指導具體開發工作;

　　負責公司產品研發過程中的數據及存儲設計;

　　針對數據分析工作，能夠完成和指導負責業務數據建模。

　　職位要求：

　　計算機、自動化或相關專業(如統計學、數學)本科以上學歷，3年以上大數據處理相關工作經驗;

　　精通大數據主流框架(如 Hadoop、hive、Spark等);

　　熟悉 MySQL、NoSQL(MongoDB、Redis)等主流數據庫，以及rabbit MQ等隊列技術;

　　熟悉hadoop/spark生態的原理、特性且有實戰開發經驗;

　　熟悉常用的數據挖掘算法優先.

大數據架構師的崗位職責 篇16

　　職責：

　　1、正確理解業務需求，對需求進行工作量評估;

　　2、參與項目相關的需求、設計、投產手冊等文檔的編寫;

　　3、根據進度計劃，完成所承擔功能模塊的設計、開發、單元測試、聯調測試;

　　4、配合測試組修復代碼缺陷，確保功能實現與代碼質量;

　　5、負責所承擔功能模塊投產、部署，及上線后的日常維護;

　　6、完成項目經理或者架構師安排的其他工作;

　　任職資格：

　　1、本科以上學歷，計算機相關專業，兩年以上大數據開發經驗;

　　2、熟悉Linux 環境，掌握shell或python;

　　3、熟練使用hadoop，hive，HBase，YARN，kafka，spark等大數據開發組件;

　　4、精通 ETL，數據倉庫的設計和開發;

　　5、有大數據處理實戰經驗，熟悉整個大數據的完整處理流程，包括數據的采集、清洗、存儲;

　　6、較強的動手能力和學習能力，良好的溝通能力、團隊協調能力;

　　7、具有銀行、金融行業從業背景者優先。

大數據架構師的崗位職責 篇17

　　職責：

　　1.負責企業數據中心建設，設計數據邏輯模型和物理模型，并完成相關開發

　　2.梳理公司各業務線常用的指標和維度，統一指標定義口徑

　　3.根據數據應用開發和數據分析需求，設計數據倉庫信息層模型，提高數據開發的效率

　　4.負責數據模型的運營和優化，及時響應業務邏輯變更，保證模型的數據質量和穩定性

　　5.負責公司數據標簽體系的建設，并推動標簽體系在實際業務場景中落地

　　崗位要求：

　　1.5年以上DW/BI數據架構設計、模型設計和性能調優等相關經驗

　　2.有較強的數據分析能力，精通數據倉庫架構，熟悉Erwin或PowerDesigner建模工具

　　3.精通一種主流關系數據庫(如mysql等)，熟悉Hive開發

　　4.有電商業務經驗，元數據管理，數據質量管理或標簽體系搭建經驗者優先

　　5.優秀的協調溝通與團隊協作能力，極強的責任心，能承受一定的工作壓力，認同企業文化和團隊價值

大數據架構師的崗位職責 篇18

　　職責：

　　1)負責大數據平臺系統架構設計、核心開發工作(Hadoop&Spark技術方向)，基于業務場景設計最優的系統解決方案。

　　2)構架支持大數量級的數據的大數據平臺系統，及相關監控，拓展系統設計及實現。

　　3)利用Hadoop、Spark等大數據技術對海量數據進行處理，支持BI和數據科學(建模)的應用實現。

　　4)對現有系統的進行架構深入分析及系統優化，進一步提升系統的性能及數據處理能力。

　　任職資格

　　1)統招本科或以上學歷，計算機相關專業， 5年以上軟件開發經驗、3年以上大數據項目經驗。

　　2)具備較豐富的大數據平臺相關構建，維護及調優經驗，有大數據量級下的大數據集市相關經驗。

　　3)具備較豐富的基于Hadoop或Hive或Spark等大數據處理項目經驗，具備一定的數據挖掘經驗。

　　4) 具有阿里云的EMR(emapreduce)的經驗者優先考慮。

　　5)具有良好的業務理解、溝通和協作能力，具有較強的學習和總結能力。

　　6)優秀的團隊合作精神、誠實、勤奮、嚴謹，敢于接受挑戰。

　　7)機器學習技術、數據挖掘經驗豐富者優先考慮。

大數據架構師的崗位職責 篇19

　　1、建設大數據平臺，主要技術為k8s, docker;

　　2、跟進開源社區的更新，閱讀文檔，驗證feature;

　　3、閱讀容器生態圈各組件的開源項目代碼，開發新功能;

　　4、持續提升平臺的性能和穩定性。