大數(shù)據(jù)架構(gòu)師崗位的主要職責(zé)概述(精選28篇)
大數(shù)據(jù)架構(gòu)師崗位的主要職責(zé)概述 篇1
職責(zé):
1、負(fù)責(zé)大數(shù)據(jù)平臺及BI系統(tǒng)框架設(shè)計、規(guī)劃、技術(shù)選型,架構(gòu)設(shè)計并完成系統(tǒng)基礎(chǔ)服務(wù)的開發(fā);
2、負(fù)責(zé)海量埋點(diǎn)規(guī)則、SDK標(biāo)準(zhǔn)化、埋點(diǎn)數(shù)據(jù)采集、處理及存儲,業(yè)務(wù)數(shù)據(jù)分布存儲、流式/實(shí)時計算等應(yīng)用層架構(gòu)搭建及核心代碼實(shí)現(xiàn);
3、開發(fā)大數(shù)據(jù)平臺的核心代碼,項(xiàng)目敏捷開發(fā)流程管理,完成系統(tǒng)調(diào)試、集成與實(shí)施,對每個項(xiàng)目周期技術(shù)難題的解決,保證大數(shù)據(jù)產(chǎn)品的上線運(yùn)行;
4、負(fù)責(zé)大數(shù)據(jù)平臺的架構(gòu)優(yōu)化,代碼評審,并根據(jù)業(yè)務(wù)需求持續(xù)優(yōu)化數(shù)據(jù)架構(gòu),保證產(chǎn)品的可靠性、穩(wěn)定性;
5、指導(dǎo)開發(fā)人員完成數(shù)據(jù)模型規(guī)劃建設(shè),分析模型構(gòu)建及分析呈現(xiàn),分享技術(shù)經(jīng)驗(yàn);
6、有效制定各種突發(fā)性研發(fā)技術(shù)故障的應(yīng)對預(yù)案,有清晰的隱患意識;
7、深入研究大數(shù)據(jù)相關(guān)技術(shù)和產(chǎn)品,跟進(jìn)業(yè)界先進(jìn)技術(shù);
【任職要求】
1、統(tǒng)計學(xué)、應(yīng)用數(shù)學(xué)或計算機(jī)相關(guān)專業(yè)大學(xué)本科以上學(xué)歷;
2、熟悉互聯(lián)網(wǎng)移動端埋點(diǎn)方法(點(diǎn)擊和瀏覽等行為埋點(diǎn)),無埋點(diǎn)方案等,有埋點(diǎn)SDK獨(dú)立開發(fā)經(jīng)驗(yàn)者優(yōu)選;
3、熟悉Hadoop,MR/MapReduce,Hdfs,Hbase,Redis,Storm,Python,zookeeper,kafka,flinkHadoop,hive,mahout,flume,ElasticSearch,KafkaPython等,具備實(shí)際項(xiàng)目設(shè)計及開發(fā)經(jīng)驗(yàn);
4、熟悉數(shù)據(jù)采集、數(shù)據(jù)清洗、分析和建模工作相關(guān)技術(shù)細(xì)節(jié)及流程
5、熟悉Liunx/Unix操作系統(tǒng),能熟練使用shell/perl等腳本語言,熟練掌握java/python/go/C++中一種或多種編程語言
6、具備一定的算法能力,了解機(jī)器學(xué)習(xí)/深度學(xué)習(xí)算法工具使用,有主流大數(shù)據(jù)計算組件開發(fā)和使用經(jīng)驗(yàn)者優(yōu)先
7、熟悉大數(shù)據(jù)可視化工具Tableau/echarts
8、具有較強(qiáng)的執(zhí)行力,高度的責(zé)任感、很強(qiáng)的學(xué)習(xí)、溝通能力,能夠在高壓下高效工作;
大數(shù)據(jù)架構(gòu)師崗位的主要職責(zé)概述 篇2
職責(zé):
1. 負(fù)責(zé)產(chǎn)品級業(yè)務(wù)系統(tǒng)架構(gòu)(如業(yè)務(wù)數(shù)據(jù)對象識別,數(shù)據(jù)實(shí)體、數(shù)據(jù)屬性分析,數(shù)據(jù)標(biāo)準(zhǔn)、端到端數(shù)據(jù)流等)的設(shè)計與優(yōu)化。協(xié)助推動跨領(lǐng)域重大數(shù)據(jù)問題的分析、定位、解決方案設(shè)計,從架構(gòu)設(shè)計上保障系統(tǒng)高性能、高可用性、高安全性、高時效性、分布式擴(kuò)展性,并對系統(tǒng)質(zhì)量負(fù)責(zé)。
2.負(fù)責(zé)云數(shù)據(jù)平臺的架構(gòu)設(shè)計和數(shù)據(jù)處理體系的優(yōu)化,推動云數(shù)據(jù)平臺建設(shè)和持續(xù)升級,并制定云數(shù)據(jù)平臺調(diào)用約束和規(guī)范。
3. 結(jié)合行業(yè)應(yīng)用的需求負(fù)責(zé)數(shù)據(jù)流各環(huán)節(jié)上的方案選型,主導(dǎo)云數(shù)據(jù)平臺建設(shè),參與核心代碼編寫、審查;數(shù)據(jù)的統(tǒng)計邏輯回歸算法、實(shí)時交互分析;數(shù)據(jù)可視化方案等等的選型、部署、集成融合等等。
4. 對云數(shù)據(jù)平臺的關(guān)注業(yè)內(nèi)技術(shù)動態(tài),持續(xù)推動平臺技術(shù)架構(gòu)升級,以滿足公司不同階段的數(shù)據(jù)需求。
任職要求:
1. 熟悉云計算基礎(chǔ)平臺,包括 Linux(Ubuntu/CentOS)和 KVM、OpenStack/K8S 等基礎(chǔ)環(huán)境,熟悉控制、計算、存儲和網(wǎng)絡(luò);
2. 掌握大型分布式系統(tǒng)的技術(shù)棧,如:CDN、負(fù)載均衡、服務(wù)化/異步化、分布式緩存、NoSQL、數(shù)據(jù)庫垂直及水平擴(kuò)容;熟悉大數(shù)據(jù)應(yīng)用端到端的相關(guān)高性能產(chǎn)品。
3. 精通 Java,Python,Shell 編程語言,精通 SQL、NoSQL 等數(shù)據(jù)庫增刪改查的操作優(yōu)化;
4. PB 級別實(shí)戰(zhàn)數(shù)據(jù)平臺和生產(chǎn)環(huán)境的實(shí)施、開發(fā)和管理經(jīng)驗(yàn);
5. 熟悉 Docker 等容器的編排封裝,熟悉微服務(wù)的開發(fā)和日常調(diào)度;
6.計算機(jī)、軟件、電子信息及通信等相關(guān)專業(yè)本科以上學(xué)歷,5 年以上軟件工程開發(fā)經(jīng)驗(yàn),2 年以上大數(shù)據(jù)架構(gòu)師工作經(jīng)驗(yàn)。
大數(shù)據(jù)架構(gòu)師崗位的主要職責(zé)概述 篇3
職責(zé):
1、大數(shù)據(jù)平臺架構(gòu)規(guī)劃與設(shè)計;
2、負(fù)責(zé)大數(shù)據(jù)平臺技術(shù)框架的選型與技術(shù)難點(diǎn)攻關(guān);
3、能夠獨(dú)立進(jìn)行行業(yè)大數(shù)據(jù)應(yīng)用的整體技術(shù)框架、業(yè)務(wù)框架和系統(tǒng)架構(gòu)設(shè)計和調(diào)優(yōu)等工作,根據(jù)系統(tǒng)的業(yè)務(wù)需求,能夠指導(dǎo)開發(fā)團(tuán)隊完成實(shí)施工作;
4、負(fù)責(zé)數(shù)據(jù)基礎(chǔ)架構(gòu)和數(shù)據(jù)處理體系的升級和優(yōu)化,不斷提升系統(tǒng)的穩(wěn)定性和效率,為相關(guān)的業(yè)務(wù)提供大數(shù)據(jù)底層平臺的支持和保證;
5、培養(yǎng)和建立大數(shù)據(jù)團(tuán)隊,對團(tuán)隊進(jìn)行技術(shù)指導(dǎo)。
任職要求:
1、計算機(jī)相關(guān)專業(yè)的背景專業(yè)一類院校畢業(yè)本科、碩士學(xué)位,8年(碩士5年)以上工作經(jīng)驗(yàn)(至少擁有3年以上大數(shù)據(jù)項(xiàng)目或產(chǎn)品架構(gòu)經(jīng)驗(yàn));
2、精通Java,J2EE 相關(guān)技術(shù),精通常見開源框架的架構(gòu),精通關(guān)系數(shù)據(jù)庫系統(tǒng)(Oracle MySQL等)和noSQL數(shù)據(jù)存儲系統(tǒng)的原理和架構(gòu);
3、精通SQL和Mapreduce、Spark處理方法;
4、精通大數(shù)據(jù)系統(tǒng)架構(gòu),熟悉業(yè)界數(shù)據(jù)倉庫建模方法及新的建模方法的發(fā)展,有DW,BI架構(gòu)體系的專項(xiàng)建設(shè)經(jīng)驗(yàn);
5、對大數(shù)據(jù)體系有深入認(rèn)識,熟悉Kafka、Hadoop、Hive、HBase、Spark、Storm、greenplum、ES、Redis等大數(shù)據(jù)技術(shù),并能設(shè)計相關(guān)數(shù)據(jù)模型;
6、很強(qiáng)的學(xué)習(xí)、分析和解決問題能力,可以迅速掌握業(yè)務(wù)邏輯并轉(zhuǎn)化為技術(shù)方案,能獨(dú)立撰寫項(xiàng)目解決方案、項(xiàng)目技術(shù)文檔;
7、具有較強(qiáng)的內(nèi)外溝通能力,良好的團(tuán)隊意識和協(xié)作精神;
8、機(jī)器學(xué)習(xí)技術(shù)、數(shù)據(jù)挖掘、人工智能經(jīng)驗(yàn)豐富者優(yōu)先考慮;
9、 具有能源電力行業(yè)工作經(jīng)驗(yàn)者優(yōu)先。
大數(shù)據(jù)架構(gòu)師崗位的主要職責(zé)概述 篇4
職責(zé):
根據(jù)大數(shù)據(jù)業(yè)務(wù)需求,設(shè)計大數(shù)據(jù)方案及架構(gòu),實(shí)現(xiàn)相關(guān)功能;
搭建和維護(hù)大數(shù)據(jù)集群,保證集群規(guī)模持續(xù)、穩(wěn)定、高效平穩(wěn)運(yùn)行;
負(fù)責(zé)大數(shù)據(jù)業(yè)務(wù)的設(shè)計和指導(dǎo)具體開發(fā)工作;
負(fù)責(zé)公司產(chǎn)品研發(fā)過程中的數(shù)據(jù)及存儲設(shè)計;
針對數(shù)據(jù)分析工作,能夠完成和指導(dǎo)負(fù)責(zé)業(yè)務(wù)數(shù)據(jù)建模。
職位要求:
計算機(jī)、自動化或相關(guān)專業(yè)(如統(tǒng)計學(xué)、數(shù)學(xué))本科以上學(xué)歷,3年以上大數(shù)據(jù)處理相關(guān)工作經(jīng)驗(yàn);
精通大數(shù)據(jù)主流框架(如 Hadoop、hive、Spark等);
熟悉 MySQL、NoSQL(MongoDB、Redis)等主流數(shù)據(jù)庫,以及rabbit MQ等隊列技術(shù);
熟悉hadoop/spark生態(tài)的原理、特性且有實(shí)戰(zhàn)開發(fā)經(jīng)驗(yàn);
熟悉常用的數(shù)據(jù)挖掘算法優(yōu)先.
大數(shù)據(jù)架構(gòu)師崗位的主要職責(zé)概述 篇5
職責(zé):
1.參與公司數(shù)據(jù)平臺系統(tǒng)規(guī)劃和架構(gòu)工作,主導(dǎo)系統(tǒng)的架構(gòu)設(shè)計和項(xiàng)目實(shí)施,確保項(xiàng)目質(zhì)量和關(guān)鍵性能指標(biāo)達(dá)成;
2.統(tǒng)籌和推進(jìn)制造工廠內(nèi)部數(shù)據(jù)系統(tǒng)的構(gòu)建,搭建不同來源數(shù)據(jù)之間的邏輯關(guān)系,能夠?yàn)楣具\(yùn)營診斷、運(yùn)營效率提升提供數(shù)據(jù)支持;
3.負(fù)責(zé)數(shù)據(jù)系統(tǒng)需求對接、各信息化系統(tǒng)數(shù)據(jù)對接、軟件供應(yīng)商管理工作
5.根據(jù)現(xiàn)狀制定總體的數(shù)據(jù)治理方案及數(shù)據(jù)體系建立,包括數(shù)據(jù)采集、接入、分類、開發(fā)標(biāo)準(zhǔn)和規(guī)范,制定全鏈路數(shù)據(jù)治理方案;深入挖掘公司數(shù)據(jù)業(yè)務(wù),超強(qiáng)的數(shù)據(jù)業(yè)務(wù)感知力,挖掘數(shù)據(jù)價值,推動數(shù)據(jù)變現(xiàn)場景的落地,為決策及業(yè)務(wù)賦能;
6.定義不同的數(shù)據(jù)應(yīng)用場景,推動公司的數(shù)據(jù)可視化工作,提升公司數(shù)據(jù)分析效率和數(shù)據(jù)價值轉(zhuǎn)化。
任職要求:
1.本科以上學(xué)歷,8年以上軟件行業(yè)從業(yè)經(jīng)驗(yàn),5年以上大數(shù)據(jù)架構(gòu)設(shè)計經(jīng)驗(yàn),熟悉BI平臺、大數(shù)據(jù)系統(tǒng)相關(guān)技術(shù)架構(gòu)及技術(shù)標(biāo)準(zhǔn);
2.熟悉數(shù)據(jù)倉庫、熟悉數(shù)據(jù)集市,了解數(shù)據(jù)挖掘、數(shù)據(jù)抽取、數(shù)據(jù)清洗、數(shù)據(jù)建模相關(guān)技術(shù);
3.熟悉大數(shù)據(jù)相關(guān)技術(shù):Hadoop、Hive、Hbase、Storm、Flink、Spark、Kafka、RabbitMQ;
4.熟悉制造企業(yè)信息化系統(tǒng)及相關(guān)數(shù)據(jù)庫技術(shù);
5.具備大數(shù)據(jù)平臺、計算存儲平臺、可視化開發(fā)平臺經(jīng)驗(yàn),具有制造企業(yè)大數(shù)據(jù)系統(tǒng)項(xiàng)目開發(fā)或?qū)嵤┙?jīng)驗(yàn)優(yōu)先;
6.對數(shù)據(jù)敏感,具備優(yōu)秀的業(yè)務(wù)需求分析和報告展示能力,具備制造企業(yè)數(shù)據(jù)分析和數(shù)據(jù)洞察、大數(shù)據(jù)系統(tǒng)的架構(gòu)設(shè)計能力,了解主流的報表工具或新興的前端報表工具;
7.有較強(qiáng)的溝通和組織協(xié)調(diào)能力,具備結(jié)果導(dǎo)向思維,有相關(guān)項(xiàng)目管理經(jīng)驗(yàn)優(yōu)先。
大數(shù)據(jù)架構(gòu)師崗位的主要職責(zé)概述 篇6
職責(zé):
1.負(fù)責(zé)公司新業(yè)務(wù)方向平臺大數(shù)據(jù)基礎(chǔ)架構(gòu)的搭建及后期數(shù)據(jù)處理體系的升級和優(yōu)化,不斷提升系統(tǒng)的穩(wěn)定性和效率。為公司未來方向性產(chǎn)品提供大數(shù)據(jù)底層平臺的支持和保證。
2.負(fù)責(zé)制定大數(shù)據(jù)平臺調(diào)用約束和規(guī)范;
3.負(fù)責(zé)大數(shù)據(jù)方向技術(shù)難題的解決,以及代碼質(zhì)量的把控;
4.作為大數(shù)據(jù)開發(fā)團(tuán)隊的leader,負(fù)責(zé)大數(shù)據(jù)系統(tǒng)平臺開發(fā)團(tuán)隊建設(shè)與人才梯隊培養(yǎng),分享技術(shù)經(jīng)驗(yàn),撰寫相關(guān)技術(shù)文檔指導(dǎo)和培訓(xùn)工程師。
任職要求:
1.熱衷于大數(shù)據(jù)技術(shù),并能平衡大數(shù)據(jù)性能、穩(wěn)定性、擴(kuò)展性多重要素進(jìn)行設(shè)計和優(yōu)化;
2.熟悉服務(wù)器基本知識,能夠評估系統(tǒng)硬件性能瓶頸;
3.掌握Linux操作系統(tǒng)的配置,管理及優(yōu)化,能夠獨(dú)立排查及解決操作系統(tǒng)層的各類問題,并能提供解決問題的理論依據(jù);
4.精通Java服務(wù)器編程,熟悉JVM原理,對數(shù)據(jù)結(jié)構(gòu)和算法設(shè)計有較為深刻的理解;
5.精通elasticsearch、Redis、hadoop、Kafka、Zookeeper、Yarn、Hbase、Spark底層架構(gòu),熟悉原理、源碼、集群部署,包括參數(shù)優(yōu)化、Bug修復(fù),貢獻(xiàn)過代碼或提交過bug者優(yōu)先
6.具備數(shù)據(jù)中心資源管理、監(jiān)控、調(diào)度等系統(tǒng)研發(fā)經(jīng)驗(yàn)者優(yōu)先,具備分布式系統(tǒng)研發(fā)經(jīng)驗(yàn)者優(yōu)先;
7.具有應(yīng)用大數(shù)據(jù)技術(shù)處理的項(xiàng)目開發(fā)、維護(hù)超過兩年的經(jīng)驗(yàn)者優(yōu)先;
8.具有良好的文檔編寫能力,可進(jìn)行方案設(shè)計、架構(gòu)設(shè)計。
大數(shù)據(jù)架構(gòu)師崗位的主要職責(zé)概述 篇7
職責(zé)
1、參與打造數(shù)據(jù)中內(nèi)容的規(guī)劃、設(shè)計、開發(fā)和優(yōu)化工作,實(shí)現(xiàn)高質(zhì)量數(shù)據(jù)的互通與共享;
2、參與數(shù)據(jù)模型體系構(gòu)建及數(shù)據(jù)主題設(shè)計和開發(fā),搭建離線、實(shí)時數(shù)據(jù)公共層;
3、參與數(shù)據(jù)產(chǎn)品與應(yīng)用的數(shù)據(jù)研發(fā),發(fā)掘數(shù)據(jù)商業(yè)價值,打造極致體驗(yàn)的數(shù)據(jù)產(chǎn)品;
4、深入理解數(shù)據(jù)產(chǎn)品的使用場景,為業(yè)務(wù)方在可用性、成本上做更好的設(shè)計做參考;
5、團(tuán)隊成員的搭建與培養(yǎng),任務(wù)劃分,進(jìn)度監(jiān)控,代碼規(guī)范,質(zhì)量保證。
任職要求
1、熟悉數(shù)據(jù)倉庫建模理論,3年以上相關(guān)領(lǐng)域?qū)嵺`經(jīng)驗(yàn);
2、Hadoop、Hive、Hbase、Storm、Spark等技術(shù)框架;
3、精通Java、Python、Scala、go等開發(fā)語言中的1到2種;
4、熟練使用Python/Java/scala或其他語言進(jìn)行復(fù)雜業(yè)務(wù)邏輯的數(shù)據(jù)處理工作,具備海量數(shù)據(jù)處理以及性能優(yōu)化的能力;
5、對MySQL、Redis、HBase等數(shù)據(jù)庫有一定的了解和使用經(jīng)驗(yàn);
6、對olap,多維分析及kylin熟悉的更好;
7、思路清晰,具備良好的溝通能力和理解能力,較強(qiáng)的學(xué)習(xí)能力以及快速解決問題的能力;
8、對新技術(shù),新事物有很好的探索和求知欲;
9、熟悉常規(guī)的機(jī)器學(xué)習(xí)算法:降維(PCA、SVD)、SVM、邏輯回歸(LogisticsRegression)、決策樹(GBDT、RandomForest)、關(guān)聯(lián)規(guī)則(Apriori、FP-Growth)、聚類(K-Means)等優(yōu)先。
大數(shù)據(jù)架構(gòu)師崗位的主要職責(zé)概述 篇8
職責(zé):
1、對業(yè)務(wù)需求深入分析,從而進(jìn)行大數(shù)據(jù)平臺核心應(yīng)用的架構(gòu)設(shè)計、開發(fā)和技術(shù)支持;
2、規(guī)劃業(yè)務(wù)應(yīng)用系統(tǒng)和基礎(chǔ)平臺的技術(shù)架構(gòu),參與需求分析、建模、架構(gòu)設(shè)計、技術(shù)決策以及詳細(xì)設(shè)計;
3、把握復(fù)雜系統(tǒng)的設(shè)計,確保系統(tǒng)的架構(gòu)質(zhì)量,編寫核心部分代碼;
4、帶領(lǐng)團(tuán)隊攻克例如大數(shù)據(jù)量、高并發(fā)、高穩(wěn)定性等帶來的各種挑戰(zhàn)及技術(shù)難關(guān);
5、在大數(shù)據(jù)平臺建設(shè)路線圖指導(dǎo)下,進(jìn)行架構(gòu)實(shí)施和交付物投遞,同時確保研發(fā)質(zhì)量和方向的準(zhǔn)確性;
6、進(jìn)行團(tuán)隊技術(shù)的培訓(xùn)和梯隊建設(shè)崗位要求;
任職條件:
1、本科或以上學(xué)歷,計算機(jī)相關(guān)專業(yè),8年以上研發(fā)經(jīng)驗(yàn),3年以上大數(shù)據(jù)平臺相關(guān)工作經(jīng)驗(yàn);
2、精通Java開發(fā)技術(shù),熟悉Shell、Scala語言和PYTHON優(yōu)先;
3、編程基礎(chǔ)扎實(shí),熟悉I/O、多線程、集群等基礎(chǔ)框架和原理,熟悉分布式、緩存、消息等機(jī)制;
4、熟悉常用設(shè)計模式,代碼評審規(guī)則,單元測試,持續(xù)集成;
5、熟悉AWS云服務(wù)或阿里云服務(wù);
6、熟悉容器技術(shù)原理、生態(tài)系統(tǒng),熟悉Docker、Mesos、Kubernetes等容器系統(tǒng)、大規(guī)模容器資源調(diào)度系統(tǒng)、分布式應(yīng)用生命周期。
大數(shù)據(jù)架構(gòu)師崗位的主要職責(zé)概述 篇9
職責(zé):
1. 負(fù)責(zé)大數(shù)據(jù)基礎(chǔ)平臺、海量數(shù)據(jù)存儲/處理分布式平臺、數(shù)據(jù)分析系統(tǒng)架構(gòu)設(shè)計和研發(fā);
2. 負(fù)責(zé)實(shí)時計算平臺基礎(chǔ)架構(gòu)設(shè)計、部署、監(jiān)控、優(yōu)化升級;
3. 制定項(xiàng)目/數(shù)據(jù)倉庫設(shè)計及實(shí)現(xiàn)規(guī)范,指導(dǎo)設(shè)計研發(fā)和部署;
4. 協(xié)助策略和算法團(tuán)隊工作,保障數(shù)據(jù)挖掘建模和工程化;
5. 深入研究大數(shù)據(jù)相關(guān)技術(shù)和產(chǎn)品,跟進(jìn)業(yè)界先進(jìn)技術(shù)。
任職要求:
1. 全日制本科及以上學(xué)歷,5年以上軟件和分布式系統(tǒng)研發(fā)經(jīng)驗(yàn),3年以上大數(shù)據(jù)系統(tǒng)架構(gòu)經(jīng)驗(yàn);
2. 精通Hadoop/HBase/Spark/Storm/Redis技術(shù)及其生態(tài)圈;
3. 具備Java/C++/Scala等開發(fā)經(jīng)驗(yàn),熟悉數(shù)據(jù)挖掘和分析的策略與算法;
4. 具備良好的系統(tǒng)分析能力、故障診斷能力;
5. 有大數(shù)據(jù)策略、算法、可視化經(jīng)驗(yàn)優(yōu)先;
6、211/985 重點(diǎn)學(xué)校畢業(yè)優(yōu)先。
大數(shù)據(jù)架構(gòu)師崗位的主要職責(zé)概述 篇10
職責(zé):
1、負(fù)責(zé)大數(shù)據(jù)平臺架構(gòu)的規(guī)劃與設(shè)計;
2、負(fù)責(zé)大數(shù)據(jù)平臺技術(shù)框架的選型與技術(shù)難點(diǎn)攻關(guān);
3、參與企業(yè)級大數(shù)據(jù)產(chǎn)品和應(yīng)用規(guī)劃;
4、研究跟進(jìn)大數(shù)據(jù)架構(gòu)領(lǐng)域新技術(shù)并分享;
5、大數(shù)據(jù)處理和分析應(yīng)用平臺的設(shè)計指導(dǎo)。
任職資格:
1、 具備深厚的分布式系統(tǒng)或數(shù)據(jù)庫系統(tǒng)的理論基礎(chǔ),熟悉分布式計算系統(tǒng)的工作機(jī)制,具有分布式文件系統(tǒng)、分布式數(shù)據(jù)庫系統(tǒng)、集群存儲系統(tǒng)等架構(gòu)設(shè)計經(jīng)驗(yàn);
2、熟悉BI平臺架構(gòu)及相關(guān)項(xiàng)目標(biāo)準(zhǔn),大數(shù)據(jù)解決方案包括Hadoop、Spark、Storm、機(jī)器學(xué)習(xí)等大數(shù)據(jù)平臺解決方案;
3、熟悉MySql/Postgresql/Oracle/MongoDB/Redis等主流數(shù)據(jù)數(shù)據(jù)庫;
4、 精通Linux/Unix環(huán)境,精通J java、scala、python、R中的一種或多種語言;
5、 具備優(yōu)秀的團(tuán)隊意識和溝通能力,學(xué)習(xí)能力和主動性強(qiáng),具有鉆研精神,充滿激情,樂于接受挑戰(zhàn);
6、大專及以上學(xué)歷,3年及以上工作經(jīng)驗(yàn)。
大數(shù)據(jù)架構(gòu)師崗位的主要職責(zé)概述 篇11
職責(zé):
1、負(fù)責(zé)公司大數(shù)據(jù)底層框架的整體架構(gòu)設(shè)計,結(jié)合公司實(shí)際業(yè)務(wù)情況進(jìn)行技術(shù)選型及大數(shù)據(jù)戰(zhàn)略規(guī)劃;
2、負(fù)責(zé)公司項(xiàng)目的整體評估、設(shè)計、架構(gòu)及關(guān)鍵模塊的開發(fā);
3、負(fù)責(zé)架構(gòu)優(yōu)化,協(xié)助團(tuán)隊解決開發(fā)過程中遇到的技術(shù)難題;
4、負(fù)責(zé)新技術(shù)的調(diào)研和大數(shù)據(jù)相關(guān)開源組件的研究,并能在團(tuán)隊進(jìn)行推廣應(yīng)用;
5、參與數(shù)據(jù)分析、數(shù)據(jù)建模、項(xiàng)目核心模塊及核心框架的開發(fā);
6、負(fù)責(zé)大數(shù)據(jù)平臺的性能條有和問題診斷。
任職要求:
1、計算機(jī)相關(guān)專業(yè),本科及以上學(xué)歷,3-5年以上工作經(jīng)驗(yàn),2-3年大數(shù)據(jù)相關(guān)經(jīng)驗(yàn);
2、具有扎實(shí)的大數(shù)據(jù)和數(shù)據(jù)倉庫理論功底,負(fù)責(zé)過大數(shù)據(jù)平臺或數(shù)據(jù)倉庫設(shè)計;
3、對基于Hadoop的大數(shù)據(jù)體系有深入的認(rèn)識,具備相關(guān)產(chǎn)品(Hadoop、Hive、HBase、Spark、Storm、Flume、Kafka、Redis、ES等)項(xiàng)目應(yīng)用研發(fā)經(jīng)驗(yàn),有Hadoop集群搭建和管理經(jīng)驗(yàn),度過Hadoop和Spark源碼;
4、熟悉Linux和Python語言,了解Scala原理和底層技術(shù);
5、熟悉分布式系統(tǒng)的架構(gòu)及對其進(jìn)行設(shè)計和優(yōu)化,對海量數(shù)據(jù)的清晰、分析處理及存儲有相關(guān)的實(shí)戰(zhàn)經(jīng)驗(yàn);
6、算法基礎(chǔ)扎實(shí),熟悉常見的數(shù)據(jù)結(jié)構(gòu),深入理解分布式算法和以上提到的分布式系統(tǒng),
7、必須有一線coding的能力;
8、有統(tǒng)計學(xué)、數(shù)學(xué)知識,海量數(shù)據(jù)處理、分析和挖掘,大型互聯(lián)網(wǎng)公司從業(yè)經(jīng)歷著優(yōu)先。
大數(shù)據(jù)架構(gòu)師崗位的主要職責(zé)概述 篇12
職責(zé):
1.負(fù)責(zé)企業(yè)數(shù)據(jù)中心建設(shè),設(shè)計數(shù)據(jù)邏輯模型和物理模型,并完成相關(guān)開發(fā)
2.梳理公司各業(yè)務(wù)線常用的指標(biāo)和維度,統(tǒng)一指標(biāo)定義口徑
3.根據(jù)數(shù)據(jù)應(yīng)用開發(fā)和數(shù)據(jù)分析需求,設(shè)計數(shù)據(jù)倉庫信息層模型,提高數(shù)據(jù)開發(fā)的效率
4.負(fù)責(zé)數(shù)據(jù)模型的運(yùn)營和優(yōu)化,及時響應(yīng)業(yè)務(wù)邏輯變更,保證模型的數(shù)據(jù)質(zhì)量和穩(wěn)定性
5.負(fù)責(zé)公司數(shù)據(jù)標(biāo)簽體系的建設(shè),并推動標(biāo)簽體系在實(shí)際業(yè)務(wù)場景中落地
崗位要求:
1.5年以上DW/BI數(shù)據(jù)架構(gòu)設(shè)計、模型設(shè)計和性能調(diào)優(yōu)等相關(guān)經(jīng)驗(yàn)
2.有較強(qiáng)的數(shù)據(jù)分析能力,精通數(shù)據(jù)倉庫架構(gòu),熟悉Erwin或PowerDesigner建模工具
3.精通一種主流關(guān)系數(shù)據(jù)庫(如mysql等),熟悉Hive開發(fā)
4.有電商業(yè)務(wù)經(jīng)驗(yàn),元數(shù)據(jù)管理,數(shù)據(jù)質(zhì)量管理或標(biāo)簽體系搭建經(jīng)驗(yàn)者優(yōu)先
5.優(yōu)秀的協(xié)調(diào)溝通與團(tuán)隊協(xié)作能力,極強(qiáng)的責(zé)任心,能承受一定的工作壓力,認(rèn)同企業(yè)文化和團(tuán)隊價值
大數(shù)據(jù)架構(gòu)師崗位的主要職責(zé)概述 篇13
職責(zé):
1. 負(fù)責(zé)大數(shù)據(jù)基礎(chǔ)平臺、海量數(shù)據(jù)存儲/處理分布式平臺、數(shù)據(jù)分析系統(tǒng)架構(gòu)設(shè)計和研發(fā);
2. 負(fù)責(zé)實(shí)時計算平臺基礎(chǔ)架構(gòu)設(shè)計、部署、監(jiān)控、優(yōu)化升級;
3. 制定項(xiàng)目/數(shù)據(jù)倉庫設(shè)計及實(shí)現(xiàn)規(guī)范,指導(dǎo)設(shè)計研發(fā)和部署;
4. 協(xié)助策略和算法團(tuán)隊工作,保障數(shù)據(jù)挖掘建模和工程化;
5. 深入研究大數(shù)據(jù)相關(guān)技術(shù)和產(chǎn)品,跟進(jìn)業(yè)界先進(jìn)技術(shù);
任職要求:
1. 全日制本科及以上學(xué)歷,5年以上軟件和分布式系統(tǒng)研發(fā)經(jīng)驗(yàn),3年以上大數(shù)據(jù)系統(tǒng)架構(gòu)經(jīng)驗(yàn);
2. 精通Hadoop/HBase/Spark/Storm/Redis技術(shù)及其生態(tài)圈;
3. 具備良好的系統(tǒng)分析能力、故障診斷能力;
4 有大數(shù)據(jù)策略、算法、可視化經(jīng)驗(yàn)優(yōu)先。
大數(shù)據(jù)架構(gòu)師崗位的主要職責(zé)概述 篇14
職責(zé):
1. 負(fù)責(zé)大數(shù)據(jù)平臺的基礎(chǔ)技術(shù)規(guī)劃,編制相關(guān)規(guī)范文檔。
2. 負(fù)責(zé)大數(shù)據(jù)平臺的數(shù)據(jù)采集,處理,存儲以及挖掘分析的架構(gòu)實(shí)現(xiàn)。
3. 負(fù)責(zé)大數(shù)據(jù)平臺的實(shí)際規(guī)劃建設(shè),包括環(huán)境和框架的規(guī)劃搭建以及部分核心編碼工作。
4. 負(fù)責(zé)大數(shù)據(jù)相關(guān)技術(shù)發(fā)展方向的預(yù)研。
5. 參與業(yè)務(wù)需求調(diào)研,根據(jù)需求及行業(yè)特點(diǎn)設(shè)計大數(shù)據(jù)解決方案并跟進(jìn)具體實(shí)施項(xiàng)目。
6. 制定大數(shù)據(jù)平臺中數(shù)據(jù)質(zhì)量,業(yè)務(wù)質(zhì)量監(jiān)控及管理辦法。
崗位要求:
1. 全日制本科及以上學(xué)歷,5年以上工作經(jīng)驗(yàn),4年及以上大數(shù)據(jù)架構(gòu)設(shè)計經(jīng)驗(yàn),熟悉大數(shù)據(jù)解決方案,包括Hadoop平臺、Spark、storm、機(jī)器學(xué)習(xí)、深度學(xué)習(xí)等大數(shù)據(jù)解決方案。
2. 深刻理解大數(shù)據(jù)處理(流計算、分布式計算、分布式文件系統(tǒng)、分布式存儲等相關(guān)技術(shù))實(shí)現(xiàn)方法。有架構(gòu)和設(shè)計實(shí)踐經(jīng)驗(yàn)。
3. 精通大型數(shù)據(jù)庫Oracle、SqlServer等的開發(fā)。
4. 精通java,Python中的一種或多種語言。
5. 熟悉容器、虛擬化、微服務(wù)框架等相關(guān)技術(shù)。
6. 對數(shù)據(jù)敏感,有嚴(yán)謹(jǐn)?shù)墓ぷ魉悸罚己玫臏贤芰蛨F(tuán)隊合作精神。
7. 熟悉R,Python,SAS、SPSS等數(shù)據(jù)挖掘經(jīng)驗(yàn)者優(yōu)先。
8. 高寬展性,高性能,和分布式系統(tǒng)的實(shí)踐及運(yùn)維經(jīng)驗(yàn)者優(yōu)先。
9. 有大型數(shù)據(jù)倉庫實(shí)施、大數(shù)據(jù)平臺數(shù)據(jù)開發(fā)經(jīng)驗(yàn),熟悉運(yùn)營商業(yè)務(wù)者優(yōu)先。
大數(shù)據(jù)架構(gòu)師崗位的主要職責(zé)概述 篇15
1、建設(shè)大數(shù)據(jù)平臺,主要技術(shù)為k8s, docker;
2、跟進(jìn)開源社區(qū)的更新,閱讀文檔,驗(yàn)證feature;
3、閱讀容器生態(tài)圈各組件的開源項(xiàng)目代碼,開發(fā)新功能;
4、持續(xù)提升平臺的性能和穩(wěn)定性。
大數(shù)據(jù)架構(gòu)師崗位的主要職責(zé)概述 篇16
職責(zé):
1、負(fù)責(zé)公司的大數(shù)據(jù)處理框架的研發(fā)設(shè)計工作,梳理可實(shí)現(xiàn)方案和技術(shù)規(guī)范;
2、開發(fā)、完善公司大數(shù)據(jù)平臺;參與公司離線、實(shí)時大數(shù)據(jù)處理系統(tǒng)的設(shè)計、開發(fā)、測試及多個業(yè)務(wù)模塊的自動化集成;
3、負(fù)責(zé)業(yè)務(wù)平臺數(shù)據(jù)統(tǒng)計分析模塊的設(shè)計與規(guī)劃;
4、負(fù)責(zé)公司產(chǎn)品研發(fā)過程中的數(shù)據(jù)及存儲設(shè)計;
5、帶領(lǐng)和培養(yǎng)團(tuán)隊完成組織分解的目標(biāo);
任職要求:
1、統(tǒng)招本科及以上學(xué)歷,計算機(jī)、軟件工程相關(guān)專業(yè),至少8年以上工作經(jīng)驗(yàn),5年以上大數(shù)據(jù)開發(fā)經(jīng)驗(yàn);
2、熟悉Java、Hadoop、HDFS、Hive、HBase、Spark、Storm、Flume等相關(guān)技術(shù)的基礎(chǔ)架構(gòu)
3、熟悉數(shù)據(jù)倉庫,數(shù)據(jù)算法,分布式計算技術(shù)理論,具有大數(shù)據(jù)整體系統(tǒng)架構(gòu)設(shè)計經(jīng)驗(yàn);
4、熟悉Linux系統(tǒng),熟練使用shell/perl/python腳本處理問題;
5、對深度學(xué)習(xí)框架(Tensorflow)和機(jī)器學(xué)習(xí)(svm 隨機(jī)深林貝葉斯等)有一定了解的優(yōu)先;
6、能夠組織項(xiàng)目開發(fā)組協(xié)同工作,包括團(tuán)隊溝通、計劃、開發(fā)環(huán)境管理等
大數(shù)據(jù)架構(gòu)師崗位的主要職責(zé)概述 篇17
職責(zé):
1.負(fù)責(zé)公司大數(shù)據(jù)底層框架的整體架構(gòu)設(shè)計,結(jié)合公司實(shí)際業(yè)務(wù)情況進(jìn)行技術(shù)選型及大數(shù)據(jù)戰(zhàn)略規(guī)劃;
2.負(fù)責(zé)統(tǒng)一數(shù)據(jù)平臺項(xiàng)目的整體評估、設(shè)計、架構(gòu)及關(guān)鍵模塊的開發(fā),不斷提升系統(tǒng)的穩(wěn)定性和效率;
3.負(fù)責(zé)架構(gòu)優(yōu)化及系統(tǒng)關(guān)鍵模塊的設(shè)計開發(fā),協(xié)助團(tuán)隊解決開發(fā)過程中的技術(shù)難題;
4.建立良好的公司內(nèi)外的業(yè)界技術(shù)影響力;有效輔導(dǎo)團(tuán)隊,提升數(shù)據(jù)研發(fā)能力;
任職要求:
1.從事大數(shù)據(jù)項(xiàng)目相關(guān)開發(fā)和設(shè)計2年以上經(jīng)驗(yàn);有作為技術(shù)負(fù)責(zé)人系統(tǒng)化解決問題的成功案例;有海量數(shù)據(jù)實(shí)踐經(jīng)驗(yàn)優(yōu)先;
2.擁有一定的算法和數(shù)據(jù)結(jié)構(gòu)基礎(chǔ);有很強(qiáng)的數(shù)據(jù)設(shè)計抽象能力,善于從復(fù)雜的數(shù)據(jù)問題中找到關(guān)鍵路徑;
3.熟悉目前正在發(fā)展的大數(shù)據(jù)分布式平臺前沿技術(shù)的應(yīng)用;包括但不僅僅限于:hadoop、storm、spark、等;
4. 良好的邏輯思維能力,良好的業(yè)務(wù)解讀能力,懂電力或通信業(yè)務(wù)優(yōu)先;
5.具有鉆研精神,樂于接受挑戰(zhàn);
大數(shù)據(jù)架構(gòu)師崗位的主要職責(zé)概述 篇18
職責(zé):
1、負(fù)責(zé)自然語音交互、IOT家電物聯(lián)控制、知識圖譜等相關(guān)模塊和系統(tǒng)的開發(fā);
2、負(fù)責(zé)掌握第三方接口的調(diào)用和功能實(shí)現(xiàn),持續(xù)優(yōu)化服務(wù)性能和容量,并保證產(chǎn)品的兼容性和執(zhí)行效率;
3、根據(jù)設(shè)計文檔和需求說明完成代碼編寫、調(diào)試、單元測試與維護(hù),確保項(xiàng)目進(jìn)度和質(zhì)量;
4、協(xié)助制定測試計劃,及時發(fā)現(xiàn)并修復(fù)BUG,實(shí)現(xiàn)服務(wù)端的性能優(yōu)化。
任職資格:
1、大學(xué)本科3年以上工作經(jīng)驗(yàn),計算機(jī)相關(guān)專業(yè);
2、熟悉軟件項(xiàng)目開發(fā)流程,具有良好編碼風(fēng)格及文檔編寫能力;
3、熟悉Linux服務(wù)器相關(guān)技術(shù),能夠獨(dú)立完成服務(wù)器部署,具有相關(guān)經(jīng)驗(yàn);
4、熟悉Hadoop/Spark框架,JAVA基礎(chǔ)扎實(shí);
5、熟練使用Mysql數(shù)據(jù)庫,了解MongoDB或neo4j等分布式數(shù)據(jù)庫;
6、熟悉SpringCloud,SSM,Docker,redis開發(fā)者優(yōu)先;
7、熟悉前端(包括但不限于Html5、css、Angularjs、ajax、jquery等)開發(fā)技術(shù)優(yōu)先;
8、了解Socket網(wǎng)絡(luò)編程、MQTT等,有相應(yīng)實(shí)踐經(jīng)驗(yàn)者優(yōu)先;
9、有智能語音語義、知識圖譜服務(wù)端開發(fā)經(jīng)驗(yàn)者優(yōu)先。
大數(shù)據(jù)架構(gòu)師崗位的主要職責(zé)概述 篇19
職責(zé):
1、負(fù)責(zé)規(guī)劃科技大數(shù)據(jù)平臺及科技數(shù)據(jù)入庫自動化的方案設(shè)計;
2、負(fù)責(zé)大數(shù)據(jù)平臺的開發(fā)和維護(hù),以及對外服務(wù)接口的開發(fā);
3、負(fù)責(zé)大數(shù)據(jù)平臺的優(yōu)化和改進(jìn)工作。
任職要求
1、計算機(jī)相關(guān)專業(yè)本科及以上學(xué)歷,5年以上開發(fā)經(jīng)驗(yàn),其中3年以上為互聯(lián)網(wǎng)、大數(shù)據(jù)相關(guān)的開發(fā)經(jīng)驗(yàn);
2、熟知Hadoop生態(tài)圈體系,精通Hadoop/Spark/Storm/Kafka中的一項(xiàng)或幾項(xiàng),深刻理解MapReduce的運(yùn)行原理和機(jī)制,有MPI經(jīng)驗(yàn)者尚佳;
3、熟悉Elasticsearch、Redis、Hbased等相關(guān)數(shù)據(jù)庫的構(gòu)建和操作,尤其是數(shù)據(jù)庫集群的構(gòu)建和操作,熟悉Neo4j者尚佳;
4、具有機(jī)器學(xué)習(xí)相關(guān)項(xiàng)目經(jīng)驗(yàn)者優(yōu)先。
大數(shù)據(jù)架構(gòu)師崗位的主要職責(zé)概述 篇20
職責(zé):
1、從事電信行業(yè)大數(shù)據(jù)項(xiàng)目相關(guān)業(yè)務(wù)調(diào)研、產(chǎn)品標(biāo)準(zhǔn)建設(shè)、核心模型設(shè)計和優(yōu)化、系統(tǒng)測試等相關(guān)工作
2、與數(shù)據(jù)專業(yè)委員會一起研究數(shù)據(jù)建模方案和建模工具,負(fù)責(zé)產(chǎn)品線產(chǎn)品的數(shù)據(jù)架構(gòu)、數(shù)據(jù)模型設(shè)計
3、參與研究數(shù)據(jù)庫之間的數(shù)據(jù)轉(zhuǎn)換方式,參與項(xiàng)目中的數(shù)據(jù)移植工作,收集在項(xiàng)目中的數(shù)據(jù)移植經(jīng)驗(yàn),優(yōu)化產(chǎn)品的數(shù)據(jù)模型
4、負(fù)責(zé)培訓(xùn)本部門隊伍的數(shù)據(jù)模型基礎(chǔ)理論工作,建立數(shù)據(jù)模型團(tuán)隊
崗位要求:
1、統(tǒng)招本科學(xué)歷,3年以上主流數(shù)據(jù)上(DB2、Oracle、SQLServer、Mysql等)ETL設(shè)計、開發(fā)經(jīng)驗(yàn),具備大型數(shù)據(jù)倉庫邏輯模型和物理模型設(shè)計經(jīng)驗(yàn),精通SQL,有較好的SQL性能調(diào)優(yōu)經(jīng)驗(yàn);
2、擁有Python,R等數(shù)學(xué)建模工具的使用經(jīng)驗(yàn),并具備一定的數(shù)據(jù)處理和建模經(jīng)驗(yàn),可以輸出相應(yīng)的模型分析結(jié)果、模型比較、模型效率以及對模型的理論和判斷依據(jù)方法并對其進(jìn)行完整的解釋和說明;
3、熟悉統(tǒng)計學(xué)基本原理,做過實(shí)戰(zhàn)的數(shù)據(jù)建模項(xiàng)目;
4、有分布式數(shù)據(jù)倉庫建設(shè)相關(guān)經(jīng)驗(yàn)者優(yōu)先,具備電信行業(yè)數(shù)據(jù)倉庫建設(shè)相關(guān)經(jīng)驗(yàn)者優(yōu)先;
大數(shù)據(jù)架構(gòu)師崗位的主要職責(zé)概述 篇21
職責(zé):
1、負(fù)責(zé)spark, hadoop, flink等開發(fā)和優(yōu)化。
2、參與前期需求溝通和分析,以產(chǎn)品化開發(fā)的思維,完成需求分解和數(shù)據(jù)架構(gòu)設(shè)計。
3、與研發(fā)和數(shù)據(jù)科學(xué)家合作保證產(chǎn)品定義清晰,按時完成產(chǎn)品上線。
4、能夠洞察市場狀況,與各部門合作轉(zhuǎn)化為基于大數(shù)據(jù)挖掘的新策略或方案.
5、主動創(chuàng)造和發(fā)掘新的基于大數(shù)據(jù)挖掘產(chǎn)品商業(yè)模式.
任職要求:
1、全日制本科及以上學(xué)歷,計算機(jī)軟件相關(guān)專業(yè),5年以上開發(fā)經(jīng)驗(yàn),3年以上架構(gòu)經(jīng)驗(yàn)
2、精通hadoop/MapReduce/Spark/Hbase/Flink/Hive/R/Mahout等分布式數(shù)據(jù)存儲和分布式計算平臺原理,流式計算開發(fā),有開源二次開發(fā)經(jīng)驗(yàn)者優(yōu)先。
3、精通大數(shù)據(jù)挖掘、機(jī)器學(xué)習(xí).熟練掌握J(rèn)ava/Perl/Python至少一種編程語言。
4、具有數(shù)據(jù)挖掘和分析、機(jī)器學(xué)習(xí)等項(xiàng)目實(shí)施相關(guān)經(jīng)驗(yàn)者優(yōu)先;
5、良好的跨部門溝通合作能力,解決不同觀點(diǎn)能力并取得結(jié)果。具備敏銳的互聯(lián)網(wǎng)產(chǎn)品理解力,學(xué)習(xí)能力和邏輯思維能力強(qiáng);
6、較強(qiáng)的自我驅(qū)動力、推動和協(xié)調(diào)能力,強(qiáng)烈的責(zé)任心和團(tuán)隊合作精神;
大數(shù)據(jù)架構(gòu)師崗位的主要職責(zé)概述 篇22
職責(zé):
1、負(fù)責(zé)相關(guān)開源系統(tǒng)/組件的性能、穩(wěn)定性、可靠性等方面的深度優(yōu)化;
2、負(fù)責(zé)解決項(xiàng)目上線后生產(chǎn)環(huán)境的各種實(shí)際問題,保障大數(shù)據(jù)平臺在生產(chǎn)上的安全、平穩(wěn)運(yùn)行;
3、推動優(yōu)化跨部門的業(yè)務(wù)流程, 參與業(yè)務(wù)部門的技術(shù)方案設(shè)計、評審、指導(dǎo);
4、負(fù)責(zé)技術(shù)團(tuán)隊人員培訓(xùn)、人員成長指導(dǎo)。
5、應(yīng)項(xiàng)目要求本月辦公地址在錦江區(qū)金石路316號新希望中鼎國際辦公,月底項(xiàng)目結(jié)束后在總部公司辦公
任職要求:
1、熟悉linux、JVM底層原理,能作為技術(shù)擔(dān)當(dāng),解決核心技術(shù)問題;
2、3年以上大數(shù)據(jù)平臺項(xiàng)目架構(gòu)或開發(fā)經(jīng)驗(yàn),對大數(shù)據(jù)生態(tài)技術(shù)體系有全面了解,如Yarn、Spark、HBase、Hive、Elasticsearch、Kafka、PrestoDB、Phoenix等;
3、掌握git、maven、gradle、junit等工具和實(shí)踐, 注重文檔管理、注重工程規(guī)范優(yōu)先;
4、熟悉Java后臺開發(fā)體系,具備微服務(wù)架構(gòu)的項(xiàng)目實(shí)施經(jīng)驗(yàn),有Dubbo/Spring cloud微服務(wù)架構(gòu)設(shè)計經(jīng)驗(yàn)優(yōu)先;
5、性格開朗、善于溝通,有極強(qiáng)的技術(shù)敏感性和自我驅(qū)動學(xué)習(xí)能力,注重團(tuán)隊意識。
大數(shù)據(jù)架構(gòu)師崗位的主要職責(zé)概述 篇23
職責(zé):
負(fù)責(zé)大數(shù)據(jù)平臺架構(gòu)的規(guī)劃和設(shè)計,主導(dǎo)系統(tǒng)的架構(gòu)設(shè)計和核心模塊開發(fā),確保項(xiàng)目質(zhì)量和關(guān)鍵性能指標(biāo)達(dá)成;
負(fù)責(zé)大數(shù)據(jù)平臺技術(shù)框架的選型與技術(shù)難點(diǎn)攻關(guān),指導(dǎo)開發(fā)大數(shù)據(jù)平臺的開發(fā),保證大數(shù)據(jù)產(chǎn)品的上線運(yùn)行;
負(fù)責(zé)深入理解業(yè)務(wù)需求,對業(yè)務(wù)建模,設(shè)計系統(tǒng)架構(gòu),滿足業(yè)務(wù)需求;
負(fù)責(zé)協(xié)助策略和算法工作,保障數(shù)據(jù)挖掘建模和工程化;
負(fù)責(zé)根據(jù)業(yè)務(wù)需求整合優(yōu)化數(shù)據(jù)架構(gòu),保證產(chǎn)品的可靠性、穩(wěn)定性;
負(fù)責(zé)指導(dǎo)開發(fā)人員完成數(shù)據(jù)模型規(guī)劃建設(shè)、分析模型構(gòu)建及分析呈現(xiàn);
負(fù)責(zé)研發(fā)技術(shù)發(fā)展方向,新技術(shù)領(lǐng)域的探索,將新技術(shù)應(yīng)用到公司大數(shù)據(jù)平臺,提升公司效能
任職要求:
本科及以上學(xué)歷,擁有5年以上大數(shù)據(jù)平臺產(chǎn)品或分布式系統(tǒng)設(shè)計經(jīng)驗(yàn),6年以上的開發(fā)經(jīng)驗(yàn);
精通Hadoop,熟悉大數(shù)據(jù)生態(tài)技術(shù),如Storm、Spark、Scala、Flume、Kafka、Zookeeper、Yarn、Sqoop、CDH、Solr 、Kylin、Impala、Hive、Hbase、Kerberos、Sentry等,有大規(guī)模集群架構(gòu)、開發(fā)及運(yùn)維經(jīng)驗(yàn);
熟練掌握java/Scala語言,實(shí)現(xiàn)面向?qū)ο箝_發(fā)思想OOA,OOD,OOP;
熟悉linux操作系統(tǒng),熟練掌握腳本言語Shell/Perl/Python等編碼語言;
熟練掌握數(shù)據(jù)倉庫設(shè)計,開發(fā)工作。能夠根據(jù)業(yè)務(wù)設(shè)計并開發(fā)數(shù)據(jù)倉。
具備源碼級問題解決和集群優(yōu)化改造能力者優(yōu)先;
能快速的學(xué)習(xí)新的開源框架和知識體系,并應(yīng)用到現(xiàn)有架構(gòu)體系中;
邏輯清晰,快速的學(xué)習(xí)能力,良好的溝通能力、團(tuán)隊協(xié)調(diào)能力。
具備良好的團(tuán)隊合作精神,較強(qiáng)的溝通交流能力,具備良好的技術(shù)領(lǐng)導(dǎo)能力;
具備良好的文檔撰寫能力和技術(shù)團(tuán)隊管理能力
大數(shù)據(jù)架構(gòu)師崗位的主要職責(zé)概述 篇24
職責(zé):
1、負(fù)責(zé)規(guī)劃大數(shù)據(jù)平臺及應(yīng)用產(chǎn)品的需求和技術(shù)方案設(shè)計;
2、負(fù)責(zé)數(shù)據(jù)對接和對外服務(wù)設(shè)計、開發(fā)和維護(hù),并能保證質(zhì)量和性能;
3、負(fù)責(zé)基于大數(shù)據(jù)平臺的應(yīng)用設(shè)計、開發(fā)和維護(hù);
4、能從系統(tǒng)全局和各子系統(tǒng)的角度思考可能存在的問題,并提出改進(jìn)方案建議;
任職要求:
1、大學(xué)本科6年以上工作經(jīng)驗(yàn),計算機(jī)相關(guān)專業(yè)。
2、至少4年以上的Java開發(fā)經(jīng)驗(yàn),3年以上大數(shù)據(jù)應(yīng)用系統(tǒng)的開發(fā)和設(shè)計經(jīng)驗(yàn)。
3、熟悉Hadoop生態(tài)圈技術(shù)體系, 對離線計算、內(nèi)存計算和流式計算均有深刻理解, 如Hadoop、Storm、Spark三個中的任意二個, 能進(jìn)行平臺和組件優(yōu)化。
4、精通Hive、HBase倉庫設(shè)計,深刻理解MR運(yùn)行原理和機(jī)制,能進(jìn)行以提供高任務(wù)執(zhí)行效率的優(yōu)化。
5、精通Java開發(fā),熟悉JVM調(diào)優(yōu), 對GC有深刻理解。
6、熟悉Linux、Shell、Kafka、Oracle、Mysql、Redis等相關(guān)技術(shù), 能進(jìn)行hbase可靠性診斷和維護(hù)。
7、快速研究和學(xué)習(xí)技術(shù)能力。
大數(shù)據(jù)架構(gòu)師崗位的主要職責(zé)概述 篇25
職責(zé):
1、負(fù)責(zé)公司的大數(shù)據(jù)平臺的數(shù)倉架構(gòu)、系統(tǒng)架構(gòu)設(shè)計;
2、負(fù)責(zé)帶領(lǐng)團(tuán)隊完成輿情分析相關(guān)的挖掘方案設(shè)計;
3、負(fù)責(zé)大數(shù)據(jù)研發(fā)組團(tuán)隊管理;
4、負(fù)責(zé)帶領(lǐng)團(tuán)隊完成輿情平臺的方案文檔撰寫、迭代開發(fā);
5、負(fù)責(zé)研發(fā)規(guī)范制定,研究行業(yè)前沿技術(shù);
6、參與產(chǎn)品規(guī)劃及設(shè)計討論。
任職要求:
1、本科五年工作經(jīng)驗(yàn)及以上,有至少五年的大數(shù)據(jù)技術(shù)實(shí)踐經(jīng)驗(yàn),有NLP或AI相關(guān)經(jīng)驗(yàn);
2、有很強(qiáng)的架構(gòu)設(shè)計能力和良好的表達(dá)能力;
3、有一定的項(xiàng)目管理及團(tuán)隊管理能力;
4、精通Hadoop、Spark生態(tài)圈中的常用組件原理及應(yīng)用;
6、理解媒體業(yè)務(wù),精通數(shù)據(jù)倉庫的規(guī)劃和設(shè)計;
5、精通掌握J(rèn)ava或Python編程,有性能調(diào)優(yōu)能力;
4、熟悉NLP算法原理及應(yīng)用;
6、對新生事物或者新技術(shù)有濃厚興趣,學(xué)習(xí)能力強(qiáng)。
大數(shù)據(jù)架構(gòu)師崗位的主要職責(zé)概述 篇26
職責(zé):
1)負(fù)責(zé)公司軟件產(chǎn)品整體架構(gòu)的設(shè)計和關(guān)鍵功能實(shí)現(xiàn)
2)負(fù)責(zé)公司架構(gòu)長期看護(hù)以及優(yōu)化;
3)負(fù)責(zé)軟件部門各模組間的協(xié)調(diào)配合;
4)提高鞏固軟件代碼質(zhì)量;
5)負(fù)責(zé)大數(shù)據(jù)流式框架的設(shè)計、優(yōu)化及部署;
6)規(guī)劃研發(fā)部門員工的技術(shù)發(fā)展路線并提供必要的幫助和指導(dǎo)
任職資格:
1)本科及以上學(xué)歷,計算機(jī)相關(guān)專業(yè),5年以上工作經(jīng)驗(yàn);
2)頻繁換工作,比如一年一個公司,請繞路;
3)3年以上產(chǎn)品架構(gòu)經(jīng)驗(yàn),主導(dǎo)過產(chǎn)品的成功上線;
4)對底層設(shè)備通訊協(xié)議,B/S系統(tǒng),手機(jī)APP開發(fā)等都有一定的了解;
5)對各種主流語言C#\Java\Pathon有一定的了解
5)精通各種大數(shù)據(jù)架構(gòu),并深入研究過其中一種,有storm\kafka等流式實(shí)時處理經(jīng)驗(yàn)為佳
6)能夠承擔(dān)較強(qiáng)的工作壓力,有良好的自我驅(qū)動能力和責(zé)任感;
7)具備優(yōu)秀的邏輯思維能力、表達(dá)能力、溝通協(xié)調(diào)能力。
大數(shù)據(jù)架構(gòu)師崗位的主要職責(zé)概述 篇27
職責(zé):
1. 負(fù)責(zé)公司大數(shù)據(jù)平臺的設(shè)計和開發(fā),負(fù)責(zé)spark, hadoop, flink等云計算平臺的開發(fā)和優(yōu)化;制定數(shù)據(jù)架構(gòu)規(guī)范,進(jìn)行核心代碼編寫,指導(dǎo)團(tuán)隊落地;
2. 負(fù)責(zé)數(shù)據(jù)基礎(chǔ)架構(gòu)和數(shù)據(jù)處理體系的升級和優(yōu)化,技術(shù)難題攻關(guān),持續(xù)提升核心系統(tǒng)性能,保證系統(tǒng)的安全、穩(wěn)定、高效運(yùn)行
3. 設(shè)計并實(shí)現(xiàn)對BI分析、數(shù)據(jù)產(chǎn)品開發(fā)、算法開發(fā)的系統(tǒng)性支持
4. 研究未來數(shù)據(jù)模型和計算框架的創(chuàng)新與落地,包括但不限于以下領(lǐng)域:大規(guī)模數(shù)據(jù)實(shí)時化、研發(fā)模式敏捷化、數(shù)據(jù)計算框架輕量化、數(shù)據(jù)模型組織方式業(yè)務(wù)化等方面參與制定并實(shí)踐團(tuán)隊的技術(shù)發(fā)展路線
5. 建立良好的公司內(nèi)外的業(yè)界技術(shù)影響力;參與培養(yǎng)未來數(shù)據(jù)人才;有效輔導(dǎo)團(tuán)隊,提升數(shù)據(jù)研發(fā)能力
任職要求:
1. 有很強(qiáng)的數(shù)據(jù)設(shè)計抽象能力,善于從復(fù)雜的數(shù)據(jù)問題中找到關(guān)鍵路徑,能夠開發(fā)創(chuàng)新而實(shí)際的分析方法以解決復(fù)雜的商業(yè)問題
2. 有作為技術(shù)負(fù)責(zé)人系統(tǒng)化解決問題的成功案例;有海量數(shù)據(jù)建模實(shí)踐經(jīng)驗(yàn)優(yōu)先
3. 熟練掌握Hadoop、Spark、Flink、HBase的原理特性以及適用場景,精通流式計算開發(fā),有開源二次開發(fā)經(jīng)驗(yàn)者優(yōu)先,有NLP數(shù)據(jù)處理經(jīng)驗(yàn)者優(yōu)先
4. 性格積極樂觀,誠信,能自我驅(qū)動,有較強(qiáng)的語言表達(dá)能力;具備強(qiáng)烈的進(jìn)取心、求知欲及團(tuán)隊合作精神;具有良好的溝通、團(tuán)隊協(xié)作、計劃和創(chuàng)新的能力
5. 本科以上學(xué)歷,扎實(shí)的計算機(jī)專業(yè)基礎(chǔ),有5年以上大數(shù)據(jù)平臺開發(fā)經(jīng)驗(yàn);
大數(shù)據(jù)架構(gòu)師崗位的主要職責(zé)概述 篇28
職責(zé):
1、大數(shù)據(jù)平臺的規(guī)劃、設(shè)計、實(shí)施,并優(yōu)化數(shù)據(jù)庫;
2、對數(shù)據(jù)庫進(jìn)行管理,負(fù)責(zé)數(shù)據(jù)庫應(yīng)用系統(tǒng)的運(yùn)營及監(jiān)控;
3、對數(shù)據(jù)庫性能分析與調(diào)優(yōu),排錯,保證數(shù)據(jù)正確率;
4、配合其他部門進(jìn)行的數(shù)據(jù)處理、查詢,統(tǒng)計和分析工作;
5、完成公司下達(dá)的項(xiàng)目開發(fā)任務(wù)。
任職要求:
1、計算機(jī)及相關(guān)專業(yè)本科以上學(xué)歷,5年以上軟件開發(fā)從業(yè)經(jīng)驗(yàn),其中包括至少2年以上的大數(shù)據(jù)開發(fā)工作經(jīng)驗(yàn);
2、熟悉hive,hadoop/spark,hbase等大數(shù)據(jù)相關(guān)技術(shù)架構(gòu),有管理或優(yōu)化大型分布式集群經(jīng)驗(yàn);
3、熟悉linux基本命令,精通SQL腳本的編寫,有豐富的數(shù)據(jù)庫管理、運(yùn)維調(diào)優(yōu)經(jīng)驗(yàn);
4、熟悉C++、Java、C#等開發(fā)語言;
5、有互聯(lián)網(wǎng)電商行業(yè)大數(shù)據(jù)分析處理和大型數(shù)據(jù)倉庫的設(shè)計和實(shí)施經(jīng)驗(yàn);
6、有分布式系統(tǒng)分析及架構(gòu)設(shè)計經(jīng)驗(yàn)和大型計算集群的基礎(chǔ)設(shè)施開發(fā)維護(hù)經(jīng)驗(yàn);
7、快速處理系統(tǒng)突發(fā)事件的能力,較強(qiáng)的學(xué)習(xí)和創(chuàng)新能力;
8、良好的溝通能力和團(tuán)隊合作精神。