大數(shù)據架構師的主要職責說明(精選13篇)
大數(shù)據架構師的主要職責說明 篇1
職責:
(1) 負責公司大數(shù)據平臺搭建,相關的設計和技術開發(fā)工作,負責大數(shù)據存儲系統(tǒng)、分布式計算系統(tǒng)、數(shù)據集成、挖掘算法等的設計、研發(fā)以及維護、優(yōu)化工作;
(2) 通過數(shù)據分析技術,挖掘有利于營銷中各業(yè)務場景的變量或規(guī)則類標簽,以提升模型效果,為文旅、教育業(yè)務提供數(shù)學模型理論及編程支撐;
(3) 對接溝通業(yè)務系統(tǒng)研發(fā)團隊和產品部門,提供數(shù)據驅動方面的專業(yè)咨詢方案,并對業(yè)務的大數(shù)據應用場景提出建設性意見;
(4) 配合部門領導進行項目需求分析、設計開發(fā)工作。
任職要求:
(1) 計算機、統(tǒng)計學,數(shù)學等相關專業(yè)本科以上學歷,5年以上大數(shù)據或文旅、教育數(shù)據產品設計開發(fā)經驗,高效高質量產出需求和技術文檔;
(2) 精通Hadoop,熟悉大數(shù)據生態(tài)技術,如Storm、Spark、Scala、Flume、Kafka、Zookeeper、Hive、Hbase、Kerberos等,有大規(guī)模集群架構、開發(fā)及運維經驗;熟悉HDFS/MapReduce等;
(3) 熟悉Java,能夠獨立應用python、R、SAS或類似分析工具進行數(shù)據分析;
(4) 熟悉大數(shù)據挖掘、可視化分析,各種BI算法和產品等,在計算廣告、搜索引擎、推薦系統(tǒng)、用戶畫像等有一個或多個算法領域的研發(fā)經驗,能夠運用數(shù)據作為產品解決業(yè)務方運營及決策問題;
(5) 有互聯(lián)網行業(yè)工作經驗者優(yōu)先,有海量數(shù)據的機器學習算法實踐經驗優(yōu)先;
(6) 工作認真、負責,有良好的團隊合作精神,良好的分析能力、溝通技巧。
大數(shù)據架構師的主要職責說明 篇2
職責:
1、負責大數(shù)據平臺的技術選型,基于Spark、Hadoop大數(shù)據平臺建設和開發(fā);
2、完成包括數(shù)據模型設計、數(shù)據采集、數(shù)據存儲等方面的大數(shù)據系統(tǒng)架構的設計和數(shù)據層架構設計;
3、構建數(shù)據中臺,為多種行業(yè)應用提供主數(shù)據(畫像標簽/關系圖譜)、數(shù)據模型、人工智能業(yè)務算法及數(shù)據服務。
4、對海量數(shù)據處理的業(yè)務需求進行評估和方案設計、拆分任務并指導工程師完成開發(fā);
5、帶領大數(shù)據技術團隊提供并實現(xiàn)大數(shù)據平臺上各項數(shù)據分析和數(shù)據可視化的架構設計,支撐解決方案實施。
任職要求:
1、本科及以上學歷,具有5年及以上大數(shù)據架構設計和開發(fā)經驗;2年及以上帶領團隊經驗;溝通能力強。在大型互聯(lián)網企業(yè)從事大數(shù)據架構設計者優(yōu)先考慮;有分布式大型商業(yè)軟件系統(tǒng)設計經驗、主導過大型商業(yè)軟件的架構設計并取得過市場商業(yè)成功者優(yōu)先考慮;
2、熟悉整個大數(shù)據的完整處理流程,包括數(shù)據的采集、清洗、預處理、存儲、分析挖據、機器學習和數(shù)據可視化;
3、精通Oracle/MySQL/PostgreSQL/Greenplum/MongoDB等其中至少一種主流數(shù)據庫的使用,并能進行性能調優(yōu);
4、具備優(yōu)秀的團隊意識和溝通能力,學習能力和主動性強,具有鉆研精神,充滿激情,樂于接受挑戰(zhàn)。
大數(shù)據架構師的主要職責說明 篇3
職責:
1. 負責大數(shù)據基礎和應用平臺的整體規(guī)劃和架構設計,參與需求分析,架構設計,詳細設計以及技術選型決策
2. 參與數(shù)據挖掘和建模相關核心算法的代碼實現(xiàn)
3. 負責大數(shù)據算法平臺的技術把關,性能調優(yōu),控制架構質量,解決項目技術難題;對研發(fā)項目和任務需求進行評估和方案設計、拆分任務并指導工程師完成開發(fā)
4. 帶領團隊提供并實現(xiàn)大數(shù)據算法平臺上各項數(shù)據接入、數(shù)據挖掘分析及數(shù)據可視化的架構設計與能力,支持解決方案實施
5. 負責數(shù)據庫設計、應用架構設計、核心技術選型等工作
6. 協(xié)調解決開發(fā)中的技術問題、設計和監(jiān)控運營指標,保障系統(tǒng)穩(wěn)定運行
7. 培養(yǎng),指導有能力的員工,指導工程師進行技術驗證實現(xiàn),核心技術攻關,解決開發(fā)過程中的技術難題
任職要求:
1. 熟悉大數(shù)據和數(shù)據倉庫的系統(tǒng)架構設計方法
2. 熟練使用并理解HadoopSpark架構及生態(tài)。(Hadoop,Hive,Hbase,Elasticsearch,Kafka,SparkFlink等)
3. 熟悉分布式系統(tǒng)架構,有分布式實時、離線和機器學習平臺的架構和開發(fā)經驗,具備海量數(shù)據清洗、分析處理及存儲的實踐經驗
4. 熟練使用JAVA,具有大規(guī)模分布式系統(tǒng)調優(yōu)經驗
5. 熟悉AI相關算法,熟悉機器學習、深度學習。熟悉AI學習開源框架(Tensorflow、PyTorch等)者優(yōu)先;
6. 具備良好的團隊合作精神,對工作充滿激情。
7. 熟悉FusionInsight平臺開發(fā)經驗者優(yōu)先
大數(shù)據架構師的主要職責說明 篇4
職責:
1、負責公司大數(shù)據底層框架的整體架構設計,結合公司實際業(yè)務情況進行技術選型及大數(shù)據戰(zhàn)略規(guī)劃;
2、負責公司項目的整體評估、設計、架構及關鍵模塊的開發(fā);
3、負責架構優(yōu)化,協(xié)助團隊解決開發(fā)過程中遇到的技術難題;
4、負責新技術的調研和大數(shù)據相關開源組件的研究,并能在團隊進行推廣應用;
5、參與數(shù)據分析、數(shù)據建模、項目核心模塊及核心框架的開發(fā);
6、負責大數(shù)據平臺的性能條有和問題診斷。
任職要求:
1、計算機相關專業(yè),本科及以上學歷,3-5年以上工作經驗,2-3年大數(shù)據相關經驗;
2、具有扎實的大數(shù)據和數(shù)據倉庫理論功底,負責過大數(shù)據平臺或數(shù)據倉庫設計;
3、對基于Hadoop的大數(shù)據體系有深入的認識,具備相關產品(Hadoop、Hive、HBase、Spark、Storm、Flume、Kafka、Redis、ES等)項目應用研發(fā)經驗,有Hadoop集群搭建和管理經驗,度過Hadoop和Spark源碼;
4、熟悉Linux和Python語言,了解Scala原理和底層技術;
5、熟悉分布式系統(tǒng)的架構及對其進行設計和優(yōu)化,對海量數(shù)據的清晰、分析處理及存儲有相關的實戰(zhàn)經驗;
6、算法基礎扎實,熟悉常見的數(shù)據結構,深入理解分布式算法和以上提到的分布式系統(tǒng),
7、必須有一線coding的能力;
8、有統(tǒng)計學、數(shù)學知識,海量數(shù)據處理、分析和挖掘,大型互聯(lián)網公司從業(yè)經歷著優(yōu)先。
大數(shù)據架構師的主要職責說明 篇5
職責:
1. 負責公司大數(shù)據平臺的設計和開發(fā),負責spark, hadoop, flink等云計算平臺的開發(fā)和優(yōu)化;制定數(shù)據架構規(guī)范,進行核心代碼編寫,指導團隊落地;
2. 負責數(shù)據基礎架構和數(shù)據處理體系的升級和優(yōu)化,技術難題攻關,持續(xù)提升核心系統(tǒng)性能,保證系統(tǒng)的安全、穩(wěn)定、高效運行
3. 設計并實現(xiàn)對BI分析、數(shù)據產品開發(fā)、算法開發(fā)的系統(tǒng)性支持
4. 研究未來數(shù)據模型和計算框架的創(chuàng)新與落地,包括但不限于以下領域:大規(guī)模數(shù)據實時化、研發(fā)模式敏捷化、數(shù)據計算框架輕量化、數(shù)據模型組織方式業(yè)務化等方面參與制定并實踐團隊的技術發(fā)展路線
5. 建立良好的公司內外的業(yè)界技術影響力;參與培養(yǎng)未來數(shù)據人才;有效輔導團隊,提升數(shù)據研發(fā)能力
任職要求:
1. 有很強的數(shù)據設計抽象能力,善于從復雜的數(shù)據問題中找到關鍵路徑,能夠開發(fā)創(chuàng)新而實際的分析方法以解決復雜的商業(yè)問題
2. 有作為技術負責人系統(tǒng)化解決問題的成功案例;有海量數(shù)據建模實踐經驗優(yōu)先
3. 熟練掌握Hadoop、Spark、Flink、HBase的原理特性以及適用場景,精通流式計算開發(fā),有開源二次開發(fā)經驗者優(yōu)先,有NLP數(shù)據處理經驗者優(yōu)先
4. 性格積極樂觀,誠信,能自我驅動,有較強的語言表達能力;具備強烈的進取心、求知欲及團隊合作精神;具有良好的溝通、團隊協(xié)作、計劃和創(chuàng)新的能力
5. 本科以上學歷,扎實的計算機專業(yè)基礎,有5年以上大數(shù)據平臺開發(fā)經驗;
大數(shù)據架構師的主要職責說明 篇6
職責:
1、負責DMP技術架構設計與構建,根據業(yè)務規(guī)劃及技術規(guī)劃制定應用架構方案;
2、負責設計構建DMP數(shù)據采集、存儲及分析框架,設計數(shù)據處理的技術流程和規(guī)范;
3、負責核心功能的架構與代碼模板編寫,開發(fā)與維護系統(tǒng)公用核心模塊;
4、負責基于大數(shù)據技術的海量數(shù)據的自動化分析處理和統(tǒng)計工作。
崗位要求:
1、計算機或相關專業(yè)本科以上學歷,三年以上的開發(fā)經驗,二年以上大數(shù)據相關軟件架構的實際經驗;
2、精通大數(shù)據處理技術,熟悉Hadoop/Storm技術體系,有Hadoop、Hive、Hbase項目經驗;
3、具有較強的架構能力,具有分布式計算、實時計算、數(shù)據倉庫、數(shù)據挖掘系統(tǒng)的架構經歷優(yōu)先;
4、對數(shù)據敏感,洞察力強,了解國內外廣告發(fā)展趨勢;
5.、擅長系統(tǒng)分析與設計,精通常用的設計模式,擅長性能調優(yōu);
6、熟悉DMP/RTB技術原理,了解用戶的行為分析及建模;有RTB/DSP/SSP/EXCHANGE/DMP等廣告行業(yè)從業(yè)經歷。
大數(shù)據架構師的主要職責說明 篇7
職責:
負責公司大數(shù)據產品架構的設計與實現(xiàn);
配合大數(shù)據產品經理完成產品的快速研發(fā)與交付;
負責大數(shù)據產品架構的持續(xù)優(yōu)化設計;
負責大數(shù)據產品核心組件設計;
負責大數(shù)據相關數(shù)據架構規(guī)劃、數(shù)據建模、數(shù)據庫設計以及大數(shù)據產品研發(fā)工作;
為應用開發(fā)團隊提供技術支撐。
及時向上級反饋工作進度、遇到的問題或者對現(xiàn)有工作的建議等;
完成上級領導交辦的其它各項工作。
任職資格:
985/211本科及以上學歷,3年以上的大數(shù)據開發(fā)經驗、
2年以上大數(shù)據架構設計經驗;
豐富的JAVA研發(fā)經驗,精通JAVA,熟悉Python Scala等編程語言;具備深厚的分布式系統(tǒng)或數(shù)據庫系統(tǒng)的理論基礎,熟悉分布式計算系統(tǒng)的工作機制,具有分布式文件系統(tǒng)、分布式數(shù)據庫系統(tǒng)、集群存儲系統(tǒng)等架構設計經驗;
熟悉整個大數(shù)據的完整處理流程(數(shù)據的采集、清洗、預處理、存儲、分析挖掘、機器學習和數(shù)據可視化);
精通各種大數(shù)據相關技術體系:Hadoop、Spark、Storm、ElasticSearch、Kafka;
有數(shù)據挖掘、機器學習相關應用或研究背景;
溝通能力較好,積極主動意識較強,責任心較強。
具備優(yōu)秀的邏輯思維能力,對解決挑戰(zhàn)性問題充滿熱情,善于解決問題和分析問題;
良好的團隊合作精神,較強的溝通能力和學習能力 ;
大數(shù)據架構師的主要職責說明 篇8
職責:
1. 規(guī)劃設計大數(shù)據平臺整體架構,規(guī)劃各種組件,并且指導技術團隊完成相關系統(tǒng)驗證、安裝、部署、配置;
2. 負責制定大數(shù)據平臺技術規(guī)范和接口規(guī)范,指導研發(fā)團隊按照規(guī)范進行系統(tǒng)開發(fā);
3. 配合商務人員完成售前技術支持工作;
4. 完成其他與數(shù)據應用有關的技術工作;
任職要求:
1. 計算機相關專業(yè)本科學歷,5年以上工作經驗;
2. 對大數(shù)據技術棧有非常深刻的了解;具備架構設計的實際經驗;
3. 對信息安全架構設計及實施有一定的經驗;
4. 熟悉Linux、Windows等操作系統(tǒng)的安裝配置;
5. 熟悉互聯(lián)網應用的安裝配置;熟悉常見大數(shù)據技術棧組件的安裝配置;熟悉Visio等繪圖工具的使用;
6. 有衛(wèi)生信息化建設經驗者優(yōu)先;有容器安裝部署經驗者優(yōu)先。
大數(shù)據架構師的主要職責說明 篇9
職責:
1.負責公司大數(shù)據底層框架的整體架構設計,結合公司實際業(yè)務情況進行技術選型及大數(shù)據戰(zhàn)略規(guī)劃;
2.負責統(tǒng)一數(shù)據平臺項目的整體評估、設計、架構及關鍵模塊的開發(fā),不斷提升系統(tǒng)的穩(wěn)定性和效率;
3.負責架構優(yōu)化及系統(tǒng)關鍵模塊的設計開發(fā),協(xié)助團隊解決開發(fā)過程中的技術難題;
4.建立良好的公司內外的業(yè)界技術影響力;有效輔導團隊,提升數(shù)據研發(fā)能力;
任職要求:
1.從事大數(shù)據項目相關開發(fā)和設計2年以上經驗;有作為技術負責人系統(tǒng)化解決問題的成功案例;有海量數(shù)據實踐經驗優(yōu)先;
2.擁有一定的算法和數(shù)據結構基礎;有很強的數(shù)據設計抽象能力,善于從復雜的數(shù)據問題中找到關鍵路徑;
3.熟悉目前正在發(fā)展的大數(shù)據分布式平臺前沿技術的應用;包括但不僅僅限于:hadoop、storm、spark、等;
4. 良好的邏輯思維能力,良好的業(yè)務解讀能力,懂電力或通信業(yè)務優(yōu)先;
5.具有鉆研精神,樂于接受挑戰(zhàn);
大數(shù)據架構師的主要職責說明 篇10
職責:
1、從事電信行業(yè)大數(shù)據項目相關業(yè)務調研、產品標準建設、核心模型設計和優(yōu)化、系統(tǒng)測試等相關工作
2、與數(shù)據專業(yè)委員會一起研究數(shù)據建模方案和建模工具,負責產品線產品的數(shù)據架構、數(shù)據模型設計
3、參與研究數(shù)據庫之間的數(shù)據轉換方式,參與項目中的數(shù)據移植工作,收集在項目中的數(shù)據移植經驗,優(yōu)化產品的數(shù)據模型
4、負責培訓本部門隊伍的數(shù)據模型基礎理論工作,建立數(shù)據模型團隊
崗位要求:
1、統(tǒng)招本科學歷,3年以上主流數(shù)據上(DB2、Oracle、SQLServer、Mysql等)ETL設計、開發(fā)經驗,具備大型數(shù)據倉庫邏輯模型和物理模型設計經驗,精通SQL,有較好的SQL性能調優(yōu)經驗;
2、擁有Python,R等數(shù)學建模工具的使用經驗,并具備一定的數(shù)據處理和建模經驗,可以輸出相應的模型分析結果、模型比較、模型效率以及對模型的理論和判斷依據方法并對其進行完整的解釋和說明;
3、熟悉統(tǒng)計學基本原理,做過實戰(zhàn)的數(shù)據建模項目;
4、有分布式數(shù)據倉庫建設相關經驗者優(yōu)先,具備電信行業(yè)數(shù)據倉庫建設相關經驗者優(yōu)先;
大數(shù)據架構師的主要職責說明 篇11
職責:
1、 負責大數(shù)據倉庫、數(shù)據集市的規(guī)劃及實現(xiàn),負責大數(shù)據中臺的設計和核心開發(fā)工作;
2、 負責數(shù)據基礎架構和數(shù)據處理體系的升級和優(yōu)化,不斷提升系統(tǒng)的穩(wěn)定性和效率,為公司的業(yè)務提供大數(shù)據底層平臺的支持和保證;
3、 大數(shù)據平臺的數(shù)據采集、處理、存儲以及挖掘分析的架構實現(xiàn);
4、 研究未來數(shù)據模型和計算框架的創(chuàng)新與落地,包括但不限于以下領域:大規(guī)模數(shù)據實時化、研發(fā)模式敏捷化、數(shù)據計算框架輕量化、數(shù)據模型組織方式業(yè)務化等方面,參與制定并實踐團隊的技術發(fā)展路線
任職資格:
1、 精通數(shù)據建模、數(shù)據標準管理、元數(shù)據管理、數(shù)據質量管理;
2、 有作為技術負責人系統(tǒng)化解決問題的成功案例;有海量數(shù)據實踐經驗優(yōu)先;
3、 熟悉目前正在發(fā)展的大數(shù)據分布式平臺前沿技術的應用;包括但不僅僅限于:hadoop、flink、spark等;
4、 性格積極樂觀,誠信,能自我驅動,有較強的語言表達能力;具備強烈的進取心、求知欲及團隊合作精神;具有良好的溝通、團隊協(xié)作、計劃和創(chuàng)新的能力; 在數(shù)據業(yè)界有一定的影響力優(yōu)先,具有風控經驗背景的人優(yōu)先;
5、 具備獨立的深度思考能力,給出結合實際情況的較為理想的技術解決方案。
大數(shù)據架構師的主要職責說明 篇12
職責:
1、負責大數(shù)據項目平臺架構的評估、規(guī)劃和設計
2、開發(fā)大數(shù)據平臺的核心模塊代碼,負責大數(shù)據平臺的搭建,完成系統(tǒng)調試、集成與實施,保證大數(shù)據產品的上線運行
3、根據業(yè)務需求整合優(yōu)化數(shù)據架構,保證產品的可靠性、穩(wěn)定性
4、指導開發(fā)人員完成數(shù)據模型規(guī)劃建設,分析模型構建及分析呈現(xiàn)
5、深入研究大數(shù)據相關技術和產品,跟進業(yè)界先進技術;
6、根據項目要求編寫相關技術文檔;
7、負責大數(shù)據平臺的架構評審,代碼評審,上線評審;參與數(shù)據應用需求、設計、審核和評審;
8、負責核心模塊研發(fā),負責大數(shù)據平臺的搭建,完成系統(tǒng)調試、集成與實施;
9. 負責關鍵功能的開發(fā),技術難題的解決,以及輸出代碼的關鍵把控;
10. 負責對使用關鍵技術的預研和選型,完成 PoC ;
11. 指導工程師完成開發(fā)工作,并能分享技術經驗。
任職資格:
1、精通Linux操作系統(tǒng),熟練使用Java;
2、3年以上大數(shù)據項目實戰(zhàn)經驗,兩個項目的架構設計經驗,熟悉Hadoop、Hbase、Storm、Spark、Pig等開源框架,并熟悉其工作原理;
3、有Hadoop、Spark、Hbase平臺性能調優(yōu)經驗;
4、熟悉其它分布式存儲相關技術,包括HDFS,Hive、Redis、Mongodb、 Flume、Kafaka、Sqoop、Zookeeper、ElasticSearch等;
5、熟悉Java開發(fā)常用框架.如Spring、MyBatis等;
6、熟悉關系型數(shù)據庫如oracle及數(shù)據庫編程。
7、能夠根據項目情況安排人力、分配任務,具有較強的團隊管理能力。
8、碩士以上學歷,20xx年以上的工作經驗。
大數(shù)據架構師的主要職責說明 篇13
職責:
1、負責大數(shù)據項目技術架構評估與設計;
2、負責關鍵功能的開發(fā),技術難題的解決,以及輸出代碼的關鍵把控;
3、負責對使用關鍵技術的預研和選型,完成PoC;
4、指導工程師完成開發(fā)工作,并能分享技術經驗。
任職要求:
1、3年以上相關工作經驗,其中具有1年以上架構設計經驗
2、熟悉商業(yè)智能系統(tǒng)相關技術,如 ETL、數(shù)據倉庫、OLAP開發(fā);
3、精通設計模式,熟悉面向服務架構(SOA)以及其它常用軟件架構思想,有SOA方案設計、開發(fā)實施的實際經驗,要具備實際的服務規(guī)劃、服務粒度劃分經驗;并且要善于設計可重用組件和可定制化產品。
4、相關技術棧:Java /Scala/Flume/Hive/Kafka/HBase/ Spark/Storm/Redis;
5、有扎實的計算機基礎,熟悉Java等編程語言;