大數(shù)據(jù)平臺架構(gòu)師崗位職責(zé)(精選12篇)
大數(shù)據(jù)平臺架構(gòu)師崗位職責(zé) 篇1
1、負(fù)責(zé)公司大數(shù)據(jù)處理框架研發(fā)工作,設(shè)計與開發(fā)分布式存儲、數(shù)據(jù)處理與分析架構(gòu)。
2、負(fù)責(zé)大數(shù)據(jù)平臺與產(chǎn)品和相關(guān)技術(shù)的追蹤及研究。
3、負(fù)責(zé)大數(shù)據(jù)的處理工作,以及業(yè)務(wù)數(shù)據(jù)提取、加載、轉(zhuǎn)換處理流程的開發(fā)和優(yōu)化。
4、利用大數(shù)據(jù)平臺工具對數(shù)據(jù)維護(hù)。
5、負(fù)責(zé)相關(guān)項(xiàng)目的技術(shù)支持和服務(wù)。
6、持續(xù)對系統(tǒng)的技術(shù)架構(gòu)進(jìn)行改進(jìn)和優(yōu)化。
大數(shù)據(jù)平臺架構(gòu)師崗位職責(zé) 篇2
1、建設(shè)大數(shù)據(jù)平臺,主要技術(shù)為k8s, docker;
2、跟進(jìn)開源社區(qū)的更新,閱讀文檔,驗(yàn)證feature;
3、閱讀容器生態(tài)圈各組件的開源項(xiàng)目代碼,開發(fā)新功能;
4、持續(xù)提升平臺的性能和穩(wěn)定性。
大數(shù)據(jù)平臺架構(gòu)師崗位職責(zé) 篇3
1. 負(fù)責(zé)數(shù)瀾大數(shù)據(jù)平臺的架構(gòu)設(shè)計和研發(fā),建立數(shù)據(jù)生態(tài)服務(wù),解決海量數(shù)據(jù)面臨的挑戰(zhàn);
2. 管理和優(yōu)化Hadoop、Spark等集群,計算作業(yè)的調(diào)優(yōu),保證集群和平臺的高效和穩(wěn)定;
3. 負(fù)責(zé)Hadoop、Spark、Flink的功能、性能和擴(kuò)展,解決并實(shí)現(xiàn)業(yè)務(wù)需求;
4. 負(fù)責(zé)大數(shù)據(jù)產(chǎn)品的自動化、離線與實(shí)時計算、即席計算、數(shù)據(jù)質(zhì)量、數(shù)據(jù)安全、機(jī)器學(xué)習(xí)等平臺的設(shè)計和開發(fā);
5. 調(diào)研和把握當(dāng)前的最新技術(shù),將其中的先進(jìn)技術(shù)引入到自己的平臺中,改善產(chǎn)品,提升競爭力;
大數(shù)據(jù)平臺架構(gòu)師崗位職責(zé) 篇4
1、負(fù)責(zé)大數(shù)據(jù)平臺資源規(guī)劃、權(quán)限控制、運(yùn)維架構(gòu)設(shè)計,為各產(chǎn)品業(yè)務(wù)提供穩(wěn)定、高效、安全的運(yùn)行環(huán)境;
2、負(fù)責(zé)實(shí)時,離線數(shù)據(jù)分析處理及實(shí)時平臺的建設(shè)和搭建
3、熟悉 Flink 流式計算引擎的使用以及源碼原理,并且有相關(guān)的流式處理平臺的經(jīng)驗(yàn)。
4、Java基礎(chǔ)扎實(shí),熟練掌握垃圾回收,網(wǎng)絡(luò),多線程編程,了解 python 或 scala
5、負(fù)責(zé)大數(shù)據(jù)平臺技術(shù)架構(gòu)、數(shù)據(jù)架構(gòu)的分析與設(shè)計;
大數(shù)據(jù)平臺架構(gòu)師崗位職責(zé) 篇5
1. 負(fù)責(zé)大數(shù)據(jù)項(xiàng)目整體架構(gòu)規(guī)劃,包括應(yīng)用架構(gòu)、技術(shù)架構(gòu)、物理架構(gòu)和數(shù)據(jù)架構(gòu)等;
2. 負(fù)責(zé)指導(dǎo)工程師進(jìn)行技術(shù)驗(yàn)證與實(shí)現(xiàn),核心技術(shù)問題的攻關(guān),解決項(xiàng)目開發(fā)過程中的技術(shù)難題;
3. 負(fù)責(zé)項(xiàng)目對外技術(shù)溝通,具有較強(qiáng)的溝通,表達(dá)和文檔撰寫能力;
4. 根據(jù)公司項(xiàng)目和業(yè)務(wù)發(fā)展特點(diǎn),負(fù)責(zé)研究相關(guān)大數(shù)據(jù)前沿技術(shù);
5. 推動技術(shù)能力的沉淀。
大數(shù)據(jù)平臺架構(gòu)師崗位職責(zé) 篇6
職責(zé):
1.負(fù)責(zé)過多個大數(shù)據(jù)項(xiàng)目的架構(gòu);
2.精通Hadoop、Spark, HBase等主流的大數(shù)據(jù)平臺、精通各組件優(yōu)化設(shè)計原理;
3.精通大數(shù)據(jù)實(shí)時流式處理的設(shè)計和應(yīng)用;
3.熟悉大數(shù)據(jù)平臺調(diào)優(yōu),具備大數(shù)據(jù)生產(chǎn)平臺調(diào)優(yōu)經(jīng)驗(yàn);
4.金融行業(yè),運(yùn)營商行業(yè)大數(shù)據(jù)架構(gòu)經(jīng)驗(yàn)更優(yōu);
5.研究大數(shù)據(jù)技術(shù)的最新發(fā)展,并引入到公司技術(shù)架構(gòu);
6.指導(dǎo)大數(shù)據(jù)工程師的日常工作,并培養(yǎng)技術(shù)骨干。
任職資格:
1.計算機(jī)相關(guān)專業(yè)本科或以上學(xué)歷;
2.具有5年以上大數(shù)據(jù)相關(guān)開發(fā)經(jīng)驗(yàn);
3.具有2年以上帶團(tuán)隊(duì)經(jīng)驗(yàn)
4.對Hadoop/Hive/Spark/HBase/ES等等大數(shù)據(jù)常用技術(shù)有深刻理解,能夠帶領(lǐng)團(tuán)隊(duì)進(jìn)行技術(shù)攻堅(jiān),完成中間件的實(shí)施、改造、調(diào)優(yōu);
5.精通海量數(shù)據(jù)和實(shí)時數(shù)據(jù)的分析處理,能對線上的數(shù)據(jù)處理性能問題做調(diào)優(yōu);
6.精通數(shù)據(jù)倉庫以及維度建模原理,有大型數(shù)據(jù)倉庫建設(shè)經(jīng)驗(yàn);
7.精通關(guān)系型數(shù)據(jù)庫和NoSQL數(shù)據(jù)庫的使用,熟悉相關(guān)理論;
8.溝通順暢,重點(diǎn)突出,高效。
大數(shù)據(jù)平臺架構(gòu)師崗位職責(zé) 篇7
職責(zé):
1、負(fù)責(zé)相關(guān)開源系統(tǒng)/組件的性能、穩(wěn)定性、可靠性等方面的深度優(yōu)化;
2、負(fù)責(zé)解決項(xiàng)目上線后生產(chǎn)環(huán)境的各種實(shí)際問題,保障大數(shù)據(jù)平臺在生產(chǎn)上的安全、平穩(wěn)運(yùn)行;
3、推動優(yōu)化跨部門的業(yè)務(wù)流程, 參與業(yè)務(wù)部門的技術(shù)方案設(shè)計、評審、指導(dǎo);
4、負(fù)責(zé)技術(shù)團(tuán)隊(duì)人員培訓(xùn)、人員成長指導(dǎo)。
5、應(yīng)項(xiàng)目要求本月辦公地址在錦江區(qū)金石路316號新希望中鼎國際辦公,月底項(xiàng)目結(jié)束后在總部公司辦公
任職要求:
1、熟悉linux、JVM底層原理,能作為技術(shù)擔(dān)當(dāng),解決核心技術(shù)問題;
2、3年以上大數(shù)據(jù)平臺項(xiàng)目架構(gòu)或開發(fā)經(jīng)驗(yàn),對大數(shù)據(jù)生態(tài)技術(shù)體系有全面了解,如Yarn、Spark、HBase、Hive、Elasticsearch、Kafka、PrestoDB、Phoenix等;
3、掌握git、maven、gradle、junit等工具和實(shí)踐, 注重文檔管理、注重工程規(guī)范優(yōu)先;
4、熟悉Java后臺開發(fā)體系,具備微服務(wù)架構(gòu)的項(xiàng)目實(shí)施經(jīng)驗(yàn),有Dubbo/Spring cloud微服務(wù)架構(gòu)設(shè)計經(jīng)驗(yàn)優(yōu)先;
5、性格開朗、善于溝通,有極強(qiáng)的技術(shù)敏感性和自我驅(qū)動學(xué)習(xí)能力,注重團(tuán)隊(duì)意識。
大數(shù)據(jù)平臺架構(gòu)師崗位職責(zé) 篇8
職責(zé):
1.參與公司數(shù)據(jù)平臺系統(tǒng)規(guī)劃和架構(gòu)工作,主導(dǎo)系統(tǒng)的架構(gòu)設(shè)計和項(xiàng)目實(shí)施,確保項(xiàng)目質(zhì)量和關(guān)鍵性能指標(biāo)達(dá)成;
2.統(tǒng)籌和推進(jìn)制造工廠內(nèi)部數(shù)據(jù)系統(tǒng)的構(gòu)建,搭建不同來源數(shù)據(jù)之間的邏輯關(guān)系,能夠?yàn)楣具\(yùn)營診斷、運(yùn)營效率提升提供數(shù)據(jù)支持;
3.負(fù)責(zé)數(shù)據(jù)系統(tǒng)需求對接、各信息化系統(tǒng)數(shù)據(jù)對接、軟件供應(yīng)商管理工作
5.根據(jù)現(xiàn)狀制定總體的數(shù)據(jù)治理方案及數(shù)據(jù)體系建立,包括數(shù)據(jù)采集、接入、分類、開發(fā)標(biāo)準(zhǔn)和規(guī)范,制定全鏈路數(shù)據(jù)治理方案;深入挖掘公司數(shù)據(jù)業(yè)務(wù),超強(qiáng)的數(shù)據(jù)業(yè)務(wù)感知力,挖掘數(shù)據(jù)價值,推動數(shù)據(jù)變現(xiàn)場景的落地,為決策及業(yè)務(wù)賦能;
6.定義不同的數(shù)據(jù)應(yīng)用場景,推動公司的數(shù)據(jù)可視化工作,提升公司數(shù)據(jù)分析效率和數(shù)據(jù)價值轉(zhuǎn)化。
任職要求:
1.本科以上學(xué)歷,8年以上軟件行業(yè)從業(yè)經(jīng)驗(yàn),5年以上大數(shù)據(jù)架構(gòu)設(shè)計經(jīng)驗(yàn),熟悉BI平臺、大數(shù)據(jù)系統(tǒng)相關(guān)技術(shù)架構(gòu)及技術(shù)標(biāo)準(zhǔn);
2.熟悉數(shù)據(jù)倉庫、熟悉數(shù)據(jù)集市,了解數(shù)據(jù)挖掘、數(shù)據(jù)抽取、數(shù)據(jù)清洗、數(shù)據(jù)建模相關(guān)技術(shù);
3.熟悉大數(shù)據(jù)相關(guān)技術(shù):Hadoop、Hive、Hbase、Storm、Flink、Spark、Kafka、RabbitMQ;
4.熟悉制造企業(yè)信息化系統(tǒng)及相關(guān)數(shù)據(jù)庫技術(shù);
5.具備大數(shù)據(jù)平臺、計算存儲平臺、可視化開發(fā)平臺經(jīng)驗(yàn),具有制造企業(yè)大數(shù)據(jù)系統(tǒng)項(xiàng)目開發(fā)或?qū)嵤┙?jīng)驗(yàn)優(yōu)先;
6.對數(shù)據(jù)敏感,具備優(yōu)秀的業(yè)務(wù)需求分析和報告展示能力,具備制造企業(yè)數(shù)據(jù)分析和數(shù)據(jù)洞察、大數(shù)據(jù)系統(tǒng)的架構(gòu)設(shè)計能力,了解主流的報表工具或新興的前端報表工具;
7.有較強(qiáng)的溝通和組織協(xié)調(diào)能力,具備結(jié)果導(dǎo)向思維,有相關(guān)項(xiàng)目管理經(jīng)驗(yàn)優(yōu)先。
大數(shù)據(jù)平臺架構(gòu)師崗位職責(zé) 篇9
職責(zé):
1. 負(fù)責(zé)大數(shù)據(jù)基礎(chǔ)和應(yīng)用平臺的整體規(guī)劃和架構(gòu)設(shè)計,參與需求分析,架構(gòu)設(shè)計,詳細(xì)設(shè)計以及技術(shù)選型決策
2. 參與數(shù)據(jù)挖掘和建模相關(guān)核心算法的代碼實(shí)現(xiàn)
3. 負(fù)責(zé)大數(shù)據(jù)算法平臺的技術(shù)把關(guān),性能調(diào)優(yōu),控制架構(gòu)質(zhì)量,解決項(xiàng)目技術(shù)難題;對研發(fā)項(xiàng)目和任務(wù)需求進(jìn)行評估和方案設(shè)計、拆分任務(wù)并指導(dǎo)工程師完成開發(fā)
4. 帶領(lǐng)團(tuán)隊(duì)提供并實(shí)現(xiàn)大數(shù)據(jù)算法平臺上各項(xiàng)數(shù)據(jù)接入、數(shù)據(jù)挖掘分析及數(shù)據(jù)可視化的架構(gòu)設(shè)計與能力,支持解決方案實(shí)施
5. 負(fù)責(zé)數(shù)據(jù)庫設(shè)計、應(yīng)用架構(gòu)設(shè)計、核心技術(shù)選型等工作
6. 協(xié)調(diào)解決開發(fā)中的技術(shù)問題、設(shè)計和監(jiān)控運(yùn)營指標(biāo),保障系統(tǒng)穩(wěn)定運(yùn)行
7. 培養(yǎng),指導(dǎo)有能力的員工,指導(dǎo)工程師進(jìn)行技術(shù)驗(yàn)證實(shí)現(xiàn),核心技術(shù)攻關(guān),解決開發(fā)過程中的技術(shù)難題
任職要求:
1. 熟悉大數(shù)據(jù)和數(shù)據(jù)倉庫的系統(tǒng)架構(gòu)設(shè)計方法
2. 熟練使用并理解HadoopSpark架構(gòu)及生態(tài)。(Hadoop,Hive,Hbase,Elasticsearch,Kafka,SparkFlink等)
3. 熟悉分布式系統(tǒng)架構(gòu),有分布式實(shí)時、離線和機(jī)器學(xué)習(xí)平臺的架構(gòu)和開發(fā)經(jīng)驗(yàn),具備海量數(shù)據(jù)清洗、分析處理及存儲的實(shí)踐經(jīng)驗(yàn)
4. 熟練使用JAVA,具有大規(guī)模分布式系統(tǒng)調(diào)優(yōu)經(jīng)驗(yàn)
5. 熟悉AI相關(guān)算法,熟悉機(jī)器學(xué)習(xí)、深度學(xué)習(xí)。熟悉AI學(xué)習(xí)開源框架(Tensorflow、PyTorch等)者優(yōu)先;
6. 具備良好的團(tuán)隊(duì)合作精神,對工作充滿激情。
7. 熟悉FusionInsight平臺開發(fā)經(jīng)驗(yàn)者優(yōu)先
大數(shù)據(jù)平臺架構(gòu)師崗位職責(zé) 篇10
職責(zé):
負(fù)責(zé)大數(shù)據(jù)平臺的規(guī)劃和搭建、完成大數(shù)據(jù)平臺的日常運(yùn)營工作,為數(shù)據(jù)分析和展現(xiàn)提供支持;
對系統(tǒng)框架相關(guān)技術(shù)和業(yè)務(wù)進(jìn)行培訓(xùn),并負(fù)責(zé)核心代碼編寫,指導(dǎo)團(tuán)隊(duì)開發(fā)及解決出現(xiàn)的系統(tǒng)問題;
參與基于大數(shù)據(jù)平臺的創(chuàng)新業(yè)務(wù)場景進(jìn)行數(shù)據(jù)產(chǎn)品的架構(gòu)設(shè)計,負(fù)責(zé)數(shù)據(jù)產(chǎn)品的研發(fā)交付;
負(fù)責(zé)處理大數(shù)據(jù)平臺的疑難問題,為數(shù)據(jù)團(tuán)隊(duì)提供可靠的技術(shù)支持;
負(fù)責(zé)數(shù)據(jù)質(zhì)量、穩(wěn)定性等數(shù)據(jù)管理,數(shù)據(jù)內(nèi)部共享融通的數(shù)據(jù)平臺,讓數(shù)據(jù)標(biāo)準(zhǔn)更規(guī)范、數(shù)據(jù)獲取更高效;
及時跟進(jìn)大數(shù)據(jù)領(lǐng)域新技術(shù)并分享,提升團(tuán)隊(duì)技術(shù)能力。
任職要求:
本科或以上學(xué)歷,5年以上數(shù)據(jù)系統(tǒng)建設(shè)經(jīng)驗(yàn),3年以上大數(shù)據(jù)架構(gòu)設(shè)計經(jīng)驗(yàn);
精通 java,python,scala 等一種大數(shù)據(jù)開發(fā)語言,熟悉Hadoop生態(tài)圈,包括但不限于hdfs,hive,spark, 有豐富的大數(shù)據(jù)項(xiàng)目的實(shí)踐經(jīng)驗(yàn);
具備創(chuàng)新精神,條理清晰,溝通表達(dá)和邏輯思維能力強(qiáng);
熟悉數(shù)據(jù)倉庫的設(shè)計和開發(fā),對數(shù)據(jù)架構(gòu)有深入的了解和具備相關(guān)的項(xiàng)目實(shí)踐經(jīng)驗(yàn)優(yōu)先;
對SQL on Hadoop 的開源查詢引擎(如Presto、 Apache Drill ) 原理有深入研究優(yōu)先;
有敏捷大數(shù)據(jù)和數(shù)據(jù)可視化實(shí)踐經(jīng)驗(yàn)優(yōu)先。
大數(shù)據(jù)平臺架構(gòu)師崗位職責(zé) 篇11
職責(zé):
1、大數(shù)據(jù)平臺架構(gòu)規(guī)劃與設(shè)計;
2、負(fù)責(zé)大數(shù)據(jù)平臺技術(shù)框架的選型與技術(shù)難點(diǎn)攻關(guān);
3、能夠獨(dú)立進(jìn)行行業(yè)大數(shù)據(jù)應(yīng)用的整體技術(shù)框架、業(yè)務(wù)框架和系統(tǒng)架構(gòu)設(shè)計和調(diào)優(yōu)等工作,根據(jù)系統(tǒng)的業(yè)務(wù)需求,能夠指導(dǎo)開發(fā)團(tuán)隊(duì)完成實(shí)施工作;
4、負(fù)責(zé)數(shù)據(jù)基礎(chǔ)架構(gòu)和數(shù)據(jù)處理體系的升級和優(yōu)化,不斷提升系統(tǒng)的穩(wěn)定性和效率,為相關(guān)的業(yè)務(wù)提供大數(shù)據(jù)底層平臺的支持和保證;
5、培養(yǎng)和建立大數(shù)據(jù)團(tuán)隊(duì),對團(tuán)隊(duì)進(jìn)行技術(shù)指導(dǎo)。
任職要求:
1、計算機(jī)相關(guān)專業(yè)的背景專業(yè)一類院校畢業(yè)本科、碩士學(xué)位,8年(碩士5年)以上工作經(jīng)驗(yàn)(至少擁有3年以上大數(shù)據(jù)項(xiàng)目或產(chǎn)品架構(gòu)經(jīng)驗(yàn));
2、精通Java,J2EE 相關(guān)技術(shù),精通常見開源框架的架構(gòu),精通關(guān)系數(shù)據(jù)庫系統(tǒng)(Oracle MySQL等)和noSQL數(shù)據(jù)存儲系統(tǒng)的原理和架構(gòu);
3、精通SQL和Mapreduce、Spark處理方法;
4、精通大數(shù)據(jù)系統(tǒng)架構(gòu),熟悉業(yè)界數(shù)據(jù)倉庫建模方法及新的建模方法的發(fā)展,有DW,BI架構(gòu)體系的專項(xiàng)建設(shè)經(jīng)驗(yàn);
5、對大數(shù)據(jù)體系有深入認(rèn)識,熟悉Kafka、Hadoop、Hive、HBase、Spark、Storm、greenplum、ES、Redis等大數(shù)據(jù)技術(shù),并能設(shè)計相關(guān)數(shù)據(jù)模型;
6、很強(qiáng)的學(xué)習(xí)、分析和解決問題能力,可以迅速掌握業(yè)務(wù)邏輯并轉(zhuǎn)化為技術(shù)方案,能獨(dú)立撰寫項(xiàng)目解決方案、項(xiàng)目技術(shù)文檔;
7、具有較強(qiáng)的內(nèi)外溝通能力,良好的團(tuán)隊(duì)意識和協(xié)作精神;
8、機(jī)器學(xué)習(xí)技術(shù)、數(shù)據(jù)挖掘、人工智能經(jīng)驗(yàn)豐富者優(yōu)先考慮;
9、 具有能源電力行業(yè)工作經(jīng)驗(yàn)者優(yōu)先。
大數(shù)據(jù)平臺架構(gòu)師崗位職責(zé) 篇12
職責(zé):
1. 規(guī)劃設(shè)計大數(shù)據(jù)平臺整體架構(gòu),規(guī)劃各種組件,并且指導(dǎo)技術(shù)團(tuán)隊(duì)完成相關(guān)系統(tǒng)驗(yàn)證、安裝、部署、配置;
2. 負(fù)責(zé)制定大數(shù)據(jù)平臺技術(shù)規(guī)范和接口規(guī)范,指導(dǎo)研發(fā)團(tuán)隊(duì)按照規(guī)范進(jìn)行系統(tǒng)開發(fā);
3. 配合商務(wù)人員完成售前技術(shù)支持工作;
4. 完成其他與數(shù)據(jù)應(yīng)用有關(guān)的技術(shù)工作;
任職要求:
1. 計算機(jī)相關(guān)專業(yè)本科學(xué)歷,5年以上工作經(jīng)驗(yàn);
2. 對大數(shù)據(jù)技術(shù)棧有非常深刻的了解;具備架構(gòu)設(shè)計的實(shí)際經(jīng)驗(yàn);
3. 對信息安全架構(gòu)設(shè)計及實(shí)施有一定的經(jīng)驗(yàn);
4. 熟悉Linux、Windows等操作系統(tǒng)的安裝配置;
5. 熟悉互聯(lián)網(wǎng)應(yīng)用的安裝配置;熟悉常見大數(shù)據(jù)技術(shù)棧組件的安裝配置;熟悉Visio等繪圖工具的使用;
6. 有衛(wèi)生信息化建設(shè)經(jīng)驗(yàn)者優(yōu)先;有容器安裝部署經(jīng)驗(yàn)者優(yōu)先。