大數(shù)據(jù)架構(gòu)師的工作職責描述(精選19篇)
大數(shù)據(jù)架構(gòu)師的工作職責描述 篇1
職責:
1、負責公司大數(shù)據(jù)平臺架構(gòu)的技術(shù)選型和技術(shù)難點攻關(guān)工作;
2、依據(jù)行業(yè)數(shù)據(jù)現(xiàn)狀和客戶需求,完成行業(yè)大數(shù)據(jù)的特定技術(shù)方案設(shè)計與撰寫;
3、負責研究跟進大數(shù)據(jù)架構(gòu)領(lǐng)域新興技術(shù)并在公司內(nèi)部進行分享;
4、參與公司大數(shù)據(jù)項目的技術(shù)交流、解決方案定制以及項目的招投標工作;
5、參與公司大數(shù)據(jù)項目前期的架構(gòu)設(shè)計工作;
任職要求:
1、計算機及相關(guān)專業(yè)本科以上,5年以上數(shù)據(jù)類項目(數(shù)據(jù)倉庫、商務(wù)智能)實施經(jīng)驗,至少2年以上大數(shù)據(jù)架構(gòu)設(shè)計和開發(fā)經(jīng)驗,至少主導(dǎo)過一個大數(shù)據(jù)平臺項目架構(gòu)設(shè)計;
2、精通大數(shù)據(jù)生態(tài)圈的技術(shù),包括但不限于MapReduce、Spark、Hadoop、Kafka、Mongodb、Redis、Flume、Storm、Hbase、Hive,具備數(shù)據(jù)統(tǒng)計查詢性能優(yōu)化能力。熟悉星環(huán)大數(shù)據(jù)產(chǎn)品線及有過產(chǎn)品項目實施經(jīng)驗者優(yōu)先;
3、優(yōu)秀的方案撰寫能力,思路清晰,邏輯思維強,能夠根據(jù)業(yè)務(wù)需求設(shè)計合理的解決方案;
4、精通ORACLE、DB2、mySql等主流關(guān)系型數(shù)據(jù)庫,熟悉數(shù)據(jù)倉庫建設(shè)思路和數(shù)據(jù)分層架構(gòu)思想;
5. 熟練掌握java、R、python等1-2門數(shù)據(jù)挖掘開發(fā)語言;
6. 熟悉云服務(wù)平臺及微服務(wù)相關(guān)架構(gòu)思想和技術(shù)路線,熟悉阿里云或騰訊云產(chǎn)品者優(yōu)先;
7、有煙草或制造行業(yè)大數(shù)據(jù)解決方案售前經(jīng)驗者優(yōu)先;
8、能適應(yīng)售前支持和項目實施需要的短期出差;
大數(shù)據(jù)架構(gòu)師的工作職責描述 篇2
職責:
1、負責規(guī)劃大數(shù)據(jù)平臺及應(yīng)用產(chǎn)品的需求和技術(shù)方案設(shè)計;
2、負責數(shù)據(jù)對接和對外服務(wù)設(shè)計、開發(fā)和維護,并能保證質(zhì)量和性能;
3、負責基于大數(shù)據(jù)平臺的應(yīng)用設(shè)計、開發(fā)和維護;
4、能從系統(tǒng)全局和各子系統(tǒng)的角度思考可能存在的問題,并提出改進方案建議;
任職要求:
1、大學本科6年以上工作經(jīng)驗,計算機相關(guān)專業(yè)。
2、至少4年以上的Java開發(fā)經(jīng)驗,3年以上大數(shù)據(jù)應(yīng)用系統(tǒng)的開發(fā)和設(shè)計經(jīng)驗。
3、熟悉Hadoop生態(tài)圈技術(shù)體系, 對離線計算、內(nèi)存計算和流式計算均有深刻理解, 如Hadoop、Storm、Spark三個中的任意二個, 能進行平臺和組件優(yōu)化。
4、精通Hive、HBase倉庫設(shè)計,深刻理解MR運行原理和機制,能進行以提供高任務(wù)執(zhí)行效率的優(yōu)化。
5、精通Java開發(fā),熟悉JVM調(diào)優(yōu), 對GC有深刻理解。
6、熟悉Linux、Shell、Kafka、Oracle、Mysql、Redis等相關(guān)技術(shù), 能進行hbase可靠性診斷和維護。
7、快速研究和學習技術(shù)能力。
大數(shù)據(jù)架構(gòu)師的工作職責描述 篇3
職責:
1、 基于公司大數(shù)據(jù)基礎(chǔ)和數(shù)據(jù)資產(chǎn)積累,負責大數(shù)據(jù)應(yīng)用整體技術(shù)架構(gòu)的設(shè)計、優(yōu)化,建設(shè)大數(shù)據(jù)能力開放平臺;負責大數(shù)據(jù)應(yīng)用產(chǎn)品的架構(gòu)設(shè)計、技術(shù)把控工作。
2、 負責制定大數(shù)據(jù)應(yīng)用系統(tǒng)的數(shù)據(jù)安全管控體系和數(shù)據(jù)使用規(guī)范。
3、 作為大數(shù)據(jù)技術(shù)方案到產(chǎn)品實現(xiàn)的技術(shù)負責人,負責關(guān)鍵技術(shù)點攻堅工作,負責內(nèi)部技術(shù)推廣、培訓(xùn)及知識轉(zhuǎn)移工作。
4、 負責大數(shù)據(jù)系統(tǒng)研發(fā)項目任務(wù)規(guī)劃、整體進度、風險把控,有效協(xié)同團隊成員并組織跨團隊技術(shù)協(xié)作,保證項目質(zhì)量與進度。
5、 負責提升產(chǎn)品技術(shù)團隊的技術(shù)影響力,針對新人、普通開發(fā)人員進行有效輔導(dǎo),幫助其快速成長。
任職資格:
1、 計算機、數(shù)學或相關(guān)專業(yè)本科以上學歷,5-20xx年工作經(jīng)驗,具有大型系統(tǒng)的技術(shù)架構(gòu)\應(yīng)用架構(gòu)\數(shù)據(jù)架構(gòu)相關(guān)的實踐工作經(jīng)驗。
2、 有分布式系統(tǒng)分析及架構(gòu)設(shè)計經(jīng)驗,熟悉基于計算集群的軟件系統(tǒng)架構(gòu)和實施經(jīng)驗。
3、 掌握Hadoop/Spark/Storm生態(tài)圈的主流技術(shù)及產(chǎn)品,深入了解Hadoop/Spark/Storm生態(tài)圈產(chǎn)品的工作原理及應(yīng)用場景。
4、 掌握Mysql/Oracle等常用關(guān)系型數(shù)據(jù)庫,能夠?qū)QL進行優(yōu)化。
5、 熟悉分布式系統(tǒng)基礎(chǔ)設(shè)施中常用的技術(shù),如緩存(Varnish、Memcache、Redis)、消息中間件(Rabbit MQ、Active MQ、Kafka、NSQ)等;有實踐經(jīng)驗者優(yōu)先。
6、 熟悉Linux,Java基礎(chǔ)扎實,至少3-5年以上Java應(yīng)用開發(fā)經(jīng)驗,熟悉常用的設(shè)計模式和開源框架。
大數(shù)據(jù)架構(gòu)師的工作職責描述 篇4
職責:
1、負責相關(guān)開源系統(tǒng)/組件的性能、穩(wěn)定性、可靠性等方面的深度優(yōu)化;
2、負責解決項目上線后生產(chǎn)環(huán)境的各種實際問題,保障大數(shù)據(jù)平臺在生產(chǎn)上的安全、平穩(wěn)運行;
3、推動優(yōu)化跨部門的業(yè)務(wù)流程, 參與業(yè)務(wù)部門的技術(shù)方案設(shè)計、評審、指導(dǎo);
4、負責技術(shù)團隊人員培訓(xùn)、人員成長指導(dǎo)。
5、應(yīng)項目要求本月辦公地址在錦江區(qū)金石路316號新希望中鼎國際辦公,月底項目結(jié)束后在總部公司辦公
任職要求:
1、熟悉linux、JVM底層原理,能作為技術(shù)擔當,解決核心技術(shù)問題;
2、3年以上大數(shù)據(jù)平臺項目架構(gòu)或開發(fā)經(jīng)驗,對大數(shù)據(jù)生態(tài)技術(shù)體系有全面了解,如Yarn、Spark、HBase、Hive、Elasticsearch、Kafka、PrestoDB、Phoenix等;
3、掌握git、maven、gradle、junit等工具和實踐, 注重文檔管理、注重工程規(guī)范優(yōu)先;
4、熟悉Java后臺開發(fā)體系,具備微服務(wù)架構(gòu)的項目實施經(jīng)驗,有Dubbo/Spring cloud微服務(wù)架構(gòu)設(shè)計經(jīng)驗優(yōu)先;
5、性格開朗、善于溝通,有極強的技術(shù)敏感性和自我驅(qū)動學習能力,注重團隊意識。
大數(shù)據(jù)架構(gòu)師的工作職責描述 篇5
職責:
1、負責面向政府信領(lǐng)域的企業(yè)(不限于)大數(shù)據(jù)平臺、大數(shù)據(jù)應(yīng)用等系統(tǒng)的架構(gòu)設(shè)計、技術(shù)規(guī)劃、技術(shù)選型
2、跟進業(yè)界大數(shù)據(jù)技術(shù)發(fā)展動態(tài),匹配行業(yè)應(yīng)用訴求,制定大數(shù)據(jù)策略,提前識別關(guān)鍵技術(shù)并完成技術(shù)驗證;
3、支撐售前完成項目解決方案技術(shù)架構(gòu)的設(shè)計及重要客戶的交流;
4、負責指導(dǎo)研發(fā)完成大數(shù)據(jù)產(chǎn)品的開發(fā)
5、帶領(lǐng)團隊進行產(chǎn)品核心技術(shù)的創(chuàng)新和積累
崗位要求:
1、熟悉BI和大數(shù)據(jù)領(lǐng)域的解決方案,具備該領(lǐng)域全面的技術(shù)積累,包括報表平臺,OLAP引擎和DB,ETL,數(shù)據(jù)倉庫建模和設(shè)計,海量分布式數(shù)據(jù)處理分析架構(gòu);
2、在大數(shù)據(jù)處理和分析領(lǐng)域具有3年或者以上的技術(shù)規(guī)劃、架構(gòu)設(shè)計經(jīng)驗,并有成功的項目實踐;
3、4年以上Hadoop實戰(zhàn)經(jīng)驗,熟悉Hadoop底層文件系統(tǒng)及分布式計算框架,具備傳統(tǒng)數(shù)據(jù)倉庫、MPP、Hadoop等混搭平臺架構(gòu)的設(shè)計能力和數(shù)據(jù)建模能力,對大規(guī)模數(shù)據(jù)并行計算、傳輸、處理等有豐富的經(jīng)驗;
4、有實際應(yīng)用storm、spark、flume、kafka等項目經(jīng)驗優(yōu)先;
5、卓越的技術(shù)領(lǐng)導(dǎo)力,善于溝通、發(fā)現(xiàn)和解決產(chǎn)品需求階段、開發(fā)階段和測試階段的問題,并能提供合理解決方案,有大中型互聯(lián)網(wǎng)企業(yè)工作背景優(yōu)先。
大數(shù)據(jù)架構(gòu)師的工作職責描述 篇6
職責:
1、負責公司的大數(shù)據(jù)平臺的數(shù)倉架構(gòu)、系統(tǒng)架構(gòu)設(shè)計;
2、負責帶領(lǐng)團隊完成輿情分析相關(guān)的挖掘方案設(shè)計;
3、負責大數(shù)據(jù)研發(fā)組團隊管理;
4、負責帶領(lǐng)團隊完成輿情平臺的方案文檔撰寫、迭代開發(fā);
5、負責研發(fā)規(guī)范制定,研究行業(yè)前沿技術(shù);
6、參與產(chǎn)品規(guī)劃及設(shè)計討論。
任職要求:
1、本科五年工作經(jīng)驗及以上,有至少五年的大數(shù)據(jù)技術(shù)實踐經(jīng)驗,有NLP或AI相關(guān)經(jīng)驗;
2、有很強的架構(gòu)設(shè)計能力和良好的表達能力;
3、有一定的項目管理及團隊管理能力;
4、精通Hadoop、Spark生態(tài)圈中的常用組件原理及應(yīng)用;
6、理解媒體業(yè)務(wù),精通數(shù)據(jù)倉庫的規(guī)劃和設(shè)計;
5、精通掌握Java或Python編程,有性能調(diào)優(yōu)能力;
4、熟悉NLP算法原理及應(yīng)用;
6、對新生事物或者新技術(shù)有濃厚興趣,學習能力強。
大數(shù)據(jù)架構(gòu)師的工作職責描述 篇7
職責:
1. 負責大數(shù)據(jù)基礎(chǔ)平臺、海量數(shù)據(jù)存儲/處理分布式平臺、數(shù)據(jù)分析系統(tǒng)架構(gòu)設(shè)計和研發(fā);
2. 負責實時計算平臺基礎(chǔ)架構(gòu)設(shè)計、部署、監(jiān)控、優(yōu)化升級;
3. 制定項目/數(shù)據(jù)倉庫設(shè)計及實現(xiàn)規(guī)范,指導(dǎo)設(shè)計研發(fā)和部署;
4. 協(xié)助策略和算法團隊工作,保障數(shù)據(jù)挖掘建模和工程化;
5. 深入研究大數(shù)據(jù)相關(guān)技術(shù)和產(chǎn)品,跟進業(yè)界先進技術(shù);
任職要求:
1. 全日制本科及以上學歷,5年以上軟件和分布式系統(tǒng)研發(fā)經(jīng)驗,3年以上大數(shù)據(jù)系統(tǒng)架構(gòu)經(jīng)驗;
2. 精通Hadoop/HBase/Spark/Storm/Redis技術(shù)及其生態(tài)圈;
3. 具備良好的系統(tǒng)分析能力、故障診斷能力;
4 有大數(shù)據(jù)策略、算法、可視化經(jīng)驗優(yōu)先。
大數(shù)據(jù)架構(gòu)師的工作職責描述 篇8
職責:
1、正確理解業(yè)務(wù)需求,對需求進行工作量評估;
2、參與項目相關(guān)的需求、設(shè)計、投產(chǎn)手冊等文檔的編寫;
3、根據(jù)進度計劃,完成所承擔功能模塊的設(shè)計、開發(fā)、單元測試、聯(lián)調(diào)測試;
4、配合測試組修復(fù)代碼缺陷,確保功能實現(xiàn)與代碼質(zhì)量;
5、負責所承擔功能模塊投產(chǎn)、部署,及上線后的日常維護;
6、完成項目經(jīng)理或者架構(gòu)師安排的其他工作;
任職資格:
1、本科以上學歷,計算機相關(guān)專業(yè),兩年以上大數(shù)據(jù)開發(fā)經(jīng)驗;
2、熟悉Linux 環(huán)境,掌握shell或python;
3、熟練使用hadoop,hive,HBase,YARN,kafka,spark等大數(shù)據(jù)開發(fā)組件;
4、精通 ETL,數(shù)據(jù)倉庫的設(shè)計和開發(fā);
5、有大數(shù)據(jù)處理實戰(zhàn)經(jīng)驗,熟悉整個大數(shù)據(jù)的完整處理流程,包括數(shù)據(jù)的采集、清洗、存儲;
6、較強的動手能力和學習能力,良好的溝通能力、團隊協(xié)調(diào)能力;
7、具有銀行、金融行業(yè)從業(yè)背景者優(yōu)先。
大數(shù)據(jù)架構(gòu)師的工作職責描述 篇9
職責:
1、 負責大數(shù)據(jù)倉庫、數(shù)據(jù)集市的規(guī)劃及實現(xiàn),負責大數(shù)據(jù)中臺的設(shè)計和核心開發(fā)工作;
2、 負責數(shù)據(jù)基礎(chǔ)架構(gòu)和數(shù)據(jù)處理體系的升級和優(yōu)化,不斷提升系統(tǒng)的穩(wěn)定性和效率,為公司的業(yè)務(wù)提供大數(shù)據(jù)底層平臺的支持和保證;
3、 大數(shù)據(jù)平臺的數(shù)據(jù)采集、處理、存儲以及挖掘分析的架構(gòu)實現(xiàn);
4、 研究未來數(shù)據(jù)模型和計算框架的創(chuàng)新與落地,包括但不限于以下領(lǐng)域:大規(guī)模數(shù)據(jù)實時化、研發(fā)模式敏捷化、數(shù)據(jù)計算框架輕量化、數(shù)據(jù)模型組織方式業(yè)務(wù)化等方面,參與制定并實踐團隊的技術(shù)發(fā)展路線
任職資格:
1、 精通數(shù)據(jù)建模、數(shù)據(jù)標準管理、元數(shù)據(jù)管理、數(shù)據(jù)質(zhì)量管理;
2、 有作為技術(shù)負責人系統(tǒng)化解決問題的成功案例;有海量數(shù)據(jù)實踐經(jīng)驗優(yōu)先;
3、 熟悉目前正在發(fā)展的大數(shù)據(jù)分布式平臺前沿技術(shù)的應(yīng)用;包括但不僅僅限于:hadoop、flink、spark等;
4、 性格積極樂觀,誠信,能自我驅(qū)動,有較強的語言表達能力;具備強烈的進取心、求知欲及團隊合作精神;具有良好的溝通、團隊協(xié)作、計劃和創(chuàng)新的能力; 在數(shù)據(jù)業(yè)界有一定的影響力優(yōu)先,具有風控經(jīng)驗背景的人優(yōu)先;
5、 具備獨立的深度思考能力,給出結(jié)合實際情況的較為理想的技術(shù)解決方案。
大數(shù)據(jù)架構(gòu)師的工作職責描述 篇10
職責:
負責公司大數(shù)據(jù)產(chǎn)品架構(gòu)的設(shè)計與實現(xiàn);
配合大數(shù)據(jù)產(chǎn)品經(jīng)理完成產(chǎn)品的快速研發(fā)與交付;
負責大數(shù)據(jù)產(chǎn)品架構(gòu)的持續(xù)優(yōu)化設(shè)計;
負責大數(shù)據(jù)產(chǎn)品核心組件設(shè)計;
負責大數(shù)據(jù)相關(guān)數(shù)據(jù)架構(gòu)規(guī)劃、數(shù)據(jù)建模、數(shù)據(jù)庫設(shè)計以及大數(shù)據(jù)產(chǎn)品研發(fā)工作;
為應(yīng)用開發(fā)團隊提供技術(shù)支撐。
及時向上級反饋工作進度、遇到的問題或者對現(xiàn)有工作的建議等;
完成上級領(lǐng)導(dǎo)交辦的其它各項工作。
任職資格:
985/211本科及以上學歷,3年以上的大數(shù)據(jù)開發(fā)經(jīng)驗、
2年以上大數(shù)據(jù)架構(gòu)設(shè)計經(jīng)驗;
豐富的JAVA研發(fā)經(jīng)驗,精通JAVA,熟悉Python Scala等編程語言;具備深厚的分布式系統(tǒng)或數(shù)據(jù)庫系統(tǒng)的理論基礎(chǔ),熟悉分布式計算系統(tǒng)的工作機制,具有分布式文件系統(tǒng)、分布式數(shù)據(jù)庫系統(tǒng)、集群存儲系統(tǒng)等架構(gòu)設(shè)計經(jīng)驗;
熟悉整個大數(shù)據(jù)的完整處理流程(數(shù)據(jù)的采集、清洗、預(yù)處理、存儲、分析挖掘、機器學習和數(shù)據(jù)可視化);
精通各種大數(shù)據(jù)相關(guān)技術(shù)體系:Hadoop、Spark、Storm、ElasticSearch、Kafka;
有數(shù)據(jù)挖掘、機器學習相關(guān)應(yīng)用或研究背景;
溝通能力較好,積極主動意識較強,責任心較強。
具備優(yōu)秀的邏輯思維能力,對解決挑戰(zhàn)性問題充滿熱情,善于解決問題和分析問題;
良好的團隊合作精神,較強的溝通能力和學習能力 ;
大數(shù)據(jù)架構(gòu)師的工作職責描述 篇11
職責:
1、負責自然語音交互、IOT家電物聯(lián)控制、知識圖譜等相關(guān)模塊和系統(tǒng)的開發(fā);
2、負責掌握第三方接口的調(diào)用和功能實現(xiàn),持續(xù)優(yōu)化服務(wù)性能和容量,并保證產(chǎn)品的兼容性和執(zhí)行效率;
3、根據(jù)設(shè)計文檔和需求說明完成代碼編寫、調(diào)試、單元測試與維護,確保項目進度和質(zhì)量;
4、協(xié)助制定測試計劃,及時發(fā)現(xiàn)并修復(fù)BUG,實現(xiàn)服務(wù)端的性能優(yōu)化。
任職資格:
1、大學本科3年以上工作經(jīng)驗,計算機相關(guān)專業(yè);
2、熟悉軟件項目開發(fā)流程,具有良好編碼風格及文檔編寫能力;
3、熟悉Linux服務(wù)器相關(guān)技術(shù),能夠獨立完成服務(wù)器部署,具有相關(guān)經(jīng)驗;
4、熟悉Hadoop/Spark框架,JAVA基礎(chǔ)扎實;
5、熟練使用Mysql數(shù)據(jù)庫,了解MongoDB或neo4j等分布式數(shù)據(jù)庫;
6、熟悉SpringCloud,SSM,Docker,redis開發(fā)者優(yōu)先;
7、熟悉前端(包括但不限于Html5、css、Angularjs、ajax、jquery等)開發(fā)技術(shù)優(yōu)先;
8、了解Socket網(wǎng)絡(luò)編程、MQTT等,有相應(yīng)實踐經(jīng)驗者優(yōu)先;
9、有智能語音語義、知識圖譜服務(wù)端開發(fā)經(jīng)驗者優(yōu)先。
大數(shù)據(jù)架構(gòu)師的工作職責描述 篇12
職責:
1、負責DMP技術(shù)架構(gòu)設(shè)計與構(gòu)建,根據(jù)業(yè)務(wù)規(guī)劃及技術(shù)規(guī)劃制定應(yīng)用架構(gòu)方案;
2、負責設(shè)計構(gòu)建DMP數(shù)據(jù)采集、存儲及分析框架,設(shè)計數(shù)據(jù)處理的技術(shù)流程和規(guī)范;
3、負責核心功能的架構(gòu)與代碼模板編寫,開發(fā)與維護系統(tǒng)公用核心模塊;
4、負責基于大數(shù)據(jù)技術(shù)的海量數(shù)據(jù)的自動化分析處理和統(tǒng)計工作。
崗位要求:
1、計算機或相關(guān)專業(yè)本科以上學歷,三年以上的開發(fā)經(jīng)驗,二年以上大數(shù)據(jù)相關(guān)軟件架構(gòu)的實際經(jīng)驗;
2、精通大數(shù)據(jù)處理技術(shù),熟悉Hadoop/Storm技術(shù)體系,有Hadoop、Hive、Hbase項目經(jīng)驗;
3、具有較強的架構(gòu)能力,具有分布式計算、實時計算、數(shù)據(jù)倉庫、數(shù)據(jù)挖掘系統(tǒng)的架構(gòu)經(jīng)歷優(yōu)先;
4、對數(shù)據(jù)敏感,洞察力強,了解國內(nèi)外廣告發(fā)展趨勢;
5.、擅長系統(tǒng)分析與設(shè)計,精通常用的設(shè)計模式,擅長性能調(diào)優(yōu);
6、熟悉DMP/RTB技術(shù)原理,了解用戶的行為分析及建模;有RTB/DSP/SSP/EXCHANGE/DMP等廣告行業(yè)從業(yè)經(jīng)歷。
大數(shù)據(jù)架構(gòu)師的工作職責描述 篇13
職責:
1、負責大數(shù)據(jù)項目技術(shù)架構(gòu)評估與設(shè)計;
2、負責關(guān)鍵功能的開發(fā),技術(shù)難題的解決,以及輸出代碼的關(guān)鍵把控;
3、負責對使用關(guān)鍵技術(shù)的預(yù)研和選型,完成PoC;
4、指導(dǎo)工程師完成開發(fā)工作,并能分享技術(shù)經(jīng)驗。
任職要求:
1、3年以上相關(guān)工作經(jīng)驗,其中具有1年以上架構(gòu)設(shè)計經(jīng)驗
2、熟悉商業(yè)智能系統(tǒng)相關(guān)技術(shù),如 ETL、數(shù)據(jù)倉庫、OLAP開發(fā);
3、精通設(shè)計模式,熟悉面向服務(wù)架構(gòu)(SOA)以及其它常用軟件架構(gòu)思想,有SOA方案設(shè)計、開發(fā)實施的實際經(jīng)驗,要具備實際的服務(wù)規(guī)劃、服務(wù)粒度劃分經(jīng)驗;并且要善于設(shè)計可重用組件和可定制化產(chǎn)品。
4、相關(guān)技術(shù)棧:Java /Scala/Flume/Hive/Kafka/HBase/ Spark/Storm/Redis;
5、有扎實的計算機基礎(chǔ),熟悉Java等編程語言;
大數(shù)據(jù)架構(gòu)師的工作職責描述 篇14
職責:
1、負責規(guī)劃科技大數(shù)據(jù)平臺及科技數(shù)據(jù)入庫自動化的方案設(shè)計;
2、負責大數(shù)據(jù)平臺的開發(fā)和維護,以及對外服務(wù)接口的開發(fā);
3、負責大數(shù)據(jù)平臺的優(yōu)化和改進工作。
任職要求
1、計算機相關(guān)專業(yè)本科及以上學歷,5年以上開發(fā)經(jīng)驗,其中3年以上為互聯(lián)網(wǎng)、大數(shù)據(jù)相關(guān)的開發(fā)經(jīng)驗;
2、熟知Hadoop生態(tài)圈體系,精通Hadoop/Spark/Storm/Kafka中的一項或幾項,深刻理解MapReduce的運行原理和機制,有MPI經(jīng)驗者尚佳;
3、熟悉Elasticsearch、Redis、Hbased等相關(guān)數(shù)據(jù)庫的構(gòu)建和操作,尤其是數(shù)據(jù)庫集群的構(gòu)建和操作,熟悉Neo4j者尚佳;
4、具有機器學習相關(guān)項目經(jīng)驗者優(yōu)先。
大數(shù)據(jù)架構(gòu)師的工作職責描述 篇15
職責:
1、負責大數(shù)據(jù)基礎(chǔ)平臺的整體規(guī)劃和架構(gòu)設(shè)計,參與需求分析、技術(shù)決策以及詳細設(shè)計;
2、為現(xiàn)有大數(shù)據(jù)集群Hadoop、hive平臺提供性能調(diào)優(yōu)、架構(gòu)優(yōu)化重組,解決系統(tǒng)中的關(guān)鍵問題和技術(shù)難題;
3、把握基礎(chǔ)業(yè)務(wù)復(fù)雜系統(tǒng)的設(shè)計,確保系統(tǒng)的架構(gòu)質(zhì)量,編寫核心部分代碼;
4、持續(xù)挑戰(zhàn)新的技術(shù)方向,攻克大數(shù)據(jù)量,高并發(fā),穩(wěn)定性等各種技術(shù)難點。
任職資格:
1、計算機或相關(guān)專業(yè)本科及以上學歷;
2、5年以上hadoop的應(yīng)用開發(fā)經(jīng)驗,5年以上數(shù)據(jù)倉庫開發(fā)實踐經(jīng)驗,至少一個企業(yè)級數(shù)據(jù)倉庫項目開發(fā)經(jīng)驗或者大數(shù)據(jù)處理項目經(jīng)驗;
3、良好的編程開發(fā)能力,精通PHP及其他開發(fā)語言;
4、熟悉mysql等數(shù)據(jù)庫經(jīng)驗,具備優(yōu)秀的SQL編寫、調(diào)優(yōu)能力;
5、熟練掌握Linux常規(guī)命令與工具,精通shell, perl, python等腳本語言至少一種;
6、軟件基礎(chǔ)理論知識扎實,具有良好的數(shù)據(jù)結(jié)構(gòu)、算法功底;
7、對新技術(shù)敏感,學習能力強,樂于接受挑戰(zhàn),具有良好的團隊合作精神;
大數(shù)據(jù)架構(gòu)師的工作職責描述 篇16
職責:
負責公司大數(shù)據(jù)產(chǎn)品架構(gòu)的設(shè)計與實現(xiàn);
配合大數(shù)據(jù)產(chǎn)品經(jīng)理完成產(chǎn)品的快速研發(fā)與交付;
負責大數(shù)據(jù)產(chǎn)品架構(gòu)的持續(xù)優(yōu)化設(shè)計;
負責大數(shù)據(jù)產(chǎn)品核心組件設(shè)計;
負責大數(shù)據(jù)相關(guān)數(shù)據(jù)架構(gòu)規(guī)劃、數(shù)據(jù)建模、數(shù)據(jù)庫設(shè)計以及大數(shù)據(jù)產(chǎn)品研發(fā)工作;
為應(yīng)用開發(fā)團隊提供技術(shù)支撐。
任職要求:
本科及以上學歷,3年以上的大數(shù)據(jù)開發(fā)經(jīng)驗、
2年以上大數(shù)據(jù)架構(gòu)設(shè)計經(jīng)驗;
豐富的JAVA研發(fā)經(jīng)驗,精通JAVA,熟悉Python Scala等編程語言;具備深厚的分布式系統(tǒng)或數(shù)據(jù)庫系統(tǒng)的理論基礎(chǔ),熟悉分布式計算系統(tǒng)的工作機制,具有分布式文件系統(tǒng)、分布式數(shù)據(jù)庫系統(tǒng)、集群存儲系統(tǒng)等架構(gòu)設(shè)計經(jīng)驗;
熟悉整個大數(shù)據(jù)的完整處理流程(數(shù)據(jù)的采集、清洗、預(yù)處理、存儲、分析挖掘、機器學習和數(shù)據(jù)可視化);
精通各種大數(shù)據(jù)相關(guān)技術(shù)體系:Hadoop、Spark、Storm、ElasticSearch、Kafka;
有數(shù)據(jù)挖掘、機器學習相關(guān)應(yīng)用或研究背景;
溝通能力較好,積極主動意識較強,責任心較強。
大數(shù)據(jù)架構(gòu)師的工作職責描述 篇17
職責:
1、負責企業(yè)大數(shù)據(jù)平臺的基礎(chǔ)建設(shè)、管理及制定拓展規(guī)劃;
2、負責大數(shù)據(jù)平臺相關(guān)自動化服務(wù)工具的設(shè)計、開發(fā);
3、參與Hadoop、Hbase、Spark等核心平臺組件的開發(fā)、優(yōu)化;
4、對平臺特殊場景化的數(shù)據(jù)應(yīng)用制定相關(guān)實踐方案;
5、大數(shù)據(jù)團隊的搭建。
任職資格:
1、統(tǒng)招本科以上學歷,計算機等相關(guān)專業(yè),5年以上工作經(jīng)驗;
2、具有Hadoop等大規(guī)模集群管理經(jīng)驗、海量(PB)數(shù)據(jù)處理經(jīng)驗;
3、精通Hadoop、Hive、Hbase等離線平臺相關(guān)組件的原理機制;
4、了解或熟悉Storm/Spark/Redis/Kafka/MongoDB等分布式系統(tǒng);
5、熟悉高并發(fā)、分布式開發(fā)等相關(guān)知識,具有后端服務(wù)優(yōu)化相關(guān)經(jīng)驗;
6、熟悉爬蟲常用框架以及反爬技術(shù);
7、具有良好的溝通能力、分析問題與攻關(guān)問題的能力;
8、有責任心,工作積極,對新領(lǐng)域新技術(shù)有熱情。
大數(shù)據(jù)架構(gòu)師的工作職責描述 篇18
1、建設(shè)大數(shù)據(jù)平臺,主要技術(shù)為k8s, docker;
2、跟進開源社區(qū)的更新,閱讀文檔,驗證feature;
3、閱讀容器生態(tài)圈各組件的開源項目代碼,開發(fā)新功能;
4、持續(xù)提升平臺的性能和穩(wěn)定性。
大數(shù)據(jù)架構(gòu)師的工作職責描述 篇19
職責:
1、負責大數(shù)據(jù)平臺架構(gòu)的規(guī)劃與設(shè)計;
2、負責大數(shù)據(jù)平臺技術(shù)框架的選型與技術(shù)難點攻關(guān);
3、參與企業(yè)級大數(shù)據(jù)產(chǎn)品和應(yīng)用規(guī)劃;
4、研究跟進大數(shù)據(jù)架構(gòu)領(lǐng)域新技術(shù)并分享;
5、大數(shù)據(jù)處理和分析應(yīng)用平臺的設(shè)計指導(dǎo)。
任職資格:
1、 具備深厚的分布式系統(tǒng)或數(shù)據(jù)庫系統(tǒng)的理論基礎(chǔ),熟悉分布式計算系統(tǒng)的工作機制,具有分布式文件系統(tǒng)、分布式數(shù)據(jù)庫系統(tǒng)、集群存儲系統(tǒng)等架構(gòu)設(shè)計經(jīng)驗;
2、熟悉BI平臺架構(gòu)及相關(guān)項目標準,大數(shù)據(jù)解決方案包括Hadoop、Spark、Storm、機器學習等大數(shù)據(jù)平臺解決方案;
3、熟悉MySql/Postgresql/Oracle/MongoDB/Redis等主流數(shù)據(jù)數(shù)據(jù)庫;
4、 精通Linux/Unix環(huán)境,精通J java、scala、python、R中的一種或多種語言;
5、 具備優(yōu)秀的團隊意識和溝通能力,學習能力和主動性強,具有鉆研精神,充滿激情,樂于接受挑戰(zhàn);
6、大專及以上學歷,3年及以上工作經(jīng)驗。