大數(shù)據(jù)運(yùn)維工程師的基本職責(zé)(通用14篇)
大數(shù)據(jù)運(yùn)維工程師的基本職責(zé) 篇1
職責(zé):
1.負(fù)責(zé)Hadoop、spark、hbase、oozie、hive等平臺(tái)運(yùn)營(yíng)和優(yōu)化工作,保障平臺(tái)服務(wù)運(yùn)行穩(wěn)定、高效。
2.負(fù)責(zé)大數(shù)據(jù)方案架構(gòu)及方案落地;
3.開(kāi)發(fā)Hadoop大數(shù)據(jù)管理平臺(tái)與監(jiān)控建設(shè);
3.負(fù)責(zé)hadoop平臺(tái)部署、維護(hù);生產(chǎn)問(wèn)題、告警、故障處理及服務(wù)器維護(hù)、日常值班;
4.負(fù)責(zé)集群網(wǎng)絡(luò)架構(gòu)、機(jī)器管理等。
任職資格:
1. 全日制本科以上學(xué)歷,三年以上后臺(tái)系統(tǒng)運(yùn)營(yíng)工作經(jīng)驗(yàn);
2. 熟悉hadoop原理,具有Hadoop平臺(tái)應(yīng)用及管理經(jīng)驗(yàn),熟悉hadoop、hive、spark、hbase、oozie、druid、kylin、flink等開(kāi)源項(xiàng)目及部署、維護(hù)、調(diào)優(yōu);
3. 熟悉linux操作系統(tǒng)及調(diào)優(yōu);熟悉sql編程,熟悉Shell/Python/Java/Perl語(yǔ)言的一種或多種,有開(kāi)發(fā)經(jīng)驗(yàn)優(yōu)先, 熟悉nagios,cacti,ganglia,zabbix,zenoss優(yōu)先;
4. 對(duì)大數(shù)據(jù)和自動(dòng)化運(yùn)維開(kāi)發(fā)有濃厚興趣,有大規(guī)模hadoop運(yùn)維經(jīng)驗(yàn)者優(yōu)先;有hadoop/hbase/spark/hive 開(kāi)發(fā)經(jīng)驗(yàn)者優(yōu)先。
大數(shù)據(jù)運(yùn)維工程師的基本職責(zé) 篇2
職責(zé):
1、負(fù)責(zé)Hadoop平臺(tái)搭建,運(yùn)維,管理,故障處理。
2、負(fù)責(zé)保障大數(shù)據(jù)平臺(tái)的高效運(yùn)轉(zhuǎn)、提升系統(tǒng)穩(wěn)定性和安全性。
3、對(duì)平臺(tái)的Hadoop,Hbase,Kafka,Hive等進(jìn)行優(yōu)化。
4、建立Hadoop集群管理和維護(hù)規(guī)范,包括版本管理和變更記錄等。
崗位要求:
1、有豐富的Hadoop生態(tài)系統(tǒng)的運(yùn)維經(jīng)驗(yàn),了解Hadoop、Storm、Spark、Kafka這些組件的原理,具備部署、實(shí)施、維護(hù)hadoop 及相關(guān)組件的能力;
2、至少精通 Perl/Python/Shell腳本語(yǔ)言中的一種;
3、掌握Linux操作系統(tǒng)的配置,管理、優(yōu)化以及各種常用命令,能夠獨(dú)立排查及解決操作系統(tǒng)層的各類問(wèn)題;
4、分析問(wèn)題能力優(yōu)秀,善于從各種系統(tǒng)、應(yīng)用日志中尋找出問(wèn)題的原因。
5、有獨(dú)立分析問(wèn)題和解決問(wèn)題的能力,能出差。
大數(shù)據(jù)運(yùn)維工程師的基本職責(zé) 篇3
職責(zé):
1、技術(shù)保障各底層支撐系統(tǒng)的可靠性與穩(wěn)定性;
2、負(fù)責(zé)車輛網(wǎng)平臺(tái)的運(yùn)行監(jiān)控的解決方案編制、實(shí)施與二次功能開(kāi)發(fā);
3、負(fù)責(zé)技術(shù)文檔手冊(cè)編寫(xiě),更新,經(jīng)驗(yàn)總結(jié)沉淀,培訓(xùn)分享;
4、負(fù)責(zé)對(duì)新技術(shù)和方案進(jìn)行調(diào)研,評(píng)估和引進(jìn),用技術(shù)去提升運(yùn)維生產(chǎn)效率
任職資格:
1、熟悉常見(jiàn)的應(yīng)用服務(wù)部署和調(diào)優(yōu)(Nginx、MySQL、Redis、MongoDB、ELK,Hadoop等),熟悉高可用集群、負(fù)載均衡集群的規(guī)劃與搭建;
2、熟練使用Linux、TCP/IP網(wǎng)絡(luò)協(xié)議棧,了解常用的Troubleshooting手段和常見(jiàn)性能指標(biāo)
3、具有車聯(lián)網(wǎng)平臺(tái)運(yùn)維的經(jīng)驗(yàn),精于容量規(guī)劃、架構(gòu)設(shè)計(jì)、性能優(yōu)化;
4、熟悉主流PaaS云產(chǎn)品的使用,具有運(yùn)維平臺(tái)開(kāi)發(fā)經(jīng)驗(yàn)者、參與過(guò)開(kāi)源產(chǎn)品的開(kāi)發(fā)者優(yōu)先;
5、優(yōu)秀的溝通能力,出色的學(xué)習(xí)與鉆研能力,良好的問(wèn)題分析與解決能力;
6、對(duì)行業(yè)技術(shù)敏感度高且細(xì)致,善于思考,樂(lè)于發(fā)現(xiàn),對(duì)解決具有挑戰(zhàn)性問(wèn)題充滿激情。
大數(shù)據(jù)運(yùn)維工程師的基本職責(zé) 篇4
職責(zé):
1、負(fù)責(zé)維護(hù)服務(wù)器的運(yùn)行,包括巡檢、故障排除、數(shù)據(jù)備份等業(yè)務(wù),保證服務(wù)器高質(zhì)量、高效率運(yùn)行狀態(tài);
2、負(fù)責(zé)服務(wù)器漏洞整改及補(bǔ)丁升級(jí);
3、負(fù)責(zé)hadoop運(yùn)維相關(guān)工作;
4、負(fù)責(zé)大數(shù)據(jù)平臺(tái)的日常部署、升級(jí)、擴(kuò)容、遷移;
5、負(fù)責(zé)高并發(fā),大存儲(chǔ)和實(shí)時(shí)流的Hadoop/spark大數(shù)據(jù)平臺(tái)規(guī)劃,運(yùn)維,監(jiān)控和優(yōu)化工作。
任職資格:
1、2年左右服務(wù)器運(yùn)維經(jīng)驗(yàn);
2、對(duì)linux基礎(chǔ)運(yùn)維命令熟悉,shell,python至少精通一種,如會(huì)scala語(yǔ)言可優(yōu)先考慮;
3、熟悉Linux的維護(hù)和管理,熟悉bat及Shell腳本開(kāi)發(fā),能看懂Python/Scala優(yōu)先;
4、做過(guò)大規(guī)模hadoop集群優(yōu)先;
5、大數(shù)據(jù)項(xiàng)目:包括不限于hadoop、hive、kafka、hbase、spark、Kudu、Impala等大數(shù)據(jù)生態(tài)的平臺(tái)搭建,監(jiān)控,運(yùn)維,調(diào)優(yōu)、生產(chǎn)環(huán)境hadoop集群trouble shooting 、hadoop版本升級(jí)管理及優(yōu)化支持。
大數(shù)據(jù)運(yùn)維工程師的基本職責(zé) 篇5
職責(zé):
1. 負(fù)責(zé)大數(shù)據(jù)平臺(tái)的穩(wěn)定性和性能優(yōu)化;
2. 負(fù)責(zé)大數(shù)據(jù)項(xiàng)目的運(yùn)維工作;
3. 針對(duì)業(yè)務(wù)需求制定統(tǒng)一的運(yùn)維解決方案;
4. 完善自動(dòng)監(jiān)控報(bào)警系統(tǒng),對(duì)業(yè)務(wù)層面關(guān)鍵指標(biāo)進(jìn)行監(jiān)控與報(bào)警通知;
任職要求:
1、熟練掌握hadoop平臺(tái)搭建、維護(hù),有平臺(tái)優(yōu)化經(jīng)驗(yàn);
2、熟悉HDFS、Hive、Spark、HBbase、Kafka、Flume等組件的原理,有閱讀源碼能力者優(yōu)先;
3、熟悉騰訊云產(chǎn)品,有騰訊云EMR使用經(jīng)驗(yàn)者優(yōu)先考慮;
4、熟練掌握java、python語(yǔ)言,熟練使用SQL,并有一定的優(yōu)化能力
大數(shù)據(jù)運(yùn)維工程師的基本職責(zé) 篇6
職責(zé):
1、 總部、分公司計(jì)算機(jī)、服務(wù)器、筆記本電腦、硬軟件、計(jì)算機(jī)網(wǎng)絡(luò)運(yùn)營(yíng)管理;
2、 公司整體硬件及網(wǎng)絡(luò)信息化管理規(guī)劃及相關(guān)制度、流程建設(shè)并組織實(shí)施;
3、 公司郵件、網(wǎng)站服務(wù)器管理、日常維護(hù);
4、 與硬件及網(wǎng)絡(luò)供應(yīng)商保持良好的合作關(guān)系,以確保系統(tǒng)問(wèn)題得到快速的支援;
5、 新員工入職郵箱、系統(tǒng)等權(quán)限開(kāi)通;
6、 領(lǐng)導(dǎo)交代的其他相關(guān)事宜。
任職資格:
1、大專以上學(xué)歷,計(jì)算機(jī)等相關(guān)專業(yè)畢業(yè),接受優(yōu)秀應(yīng)屆畢業(yè)生;
2、了解或者熟悉HELPDESK;熟悉基本網(wǎng)絡(luò)維護(hù)作業(yè),知悉基本布線規(guī)則;
3、扎實(shí)的計(jì)算機(jī)軟硬件基礎(chǔ)知識(shí);
4、服務(wù)意識(shí)強(qiáng)、辦事效率高、有責(zé)任心;
5、做事積極主動(dòng)、有一定溝通能力、較強(qiáng)的工作熱情、組織管理能力。
大數(shù)據(jù)運(yùn)維工程師的基本職責(zé) 篇7
職責(zé):
1.基礎(chǔ)應(yīng)用服務(wù)日常維護(hù)工作,保障業(yè)務(wù)穩(wěn)定可靠;
2.配合業(yè)務(wù)團(tuán)隊(duì)完成應(yīng)用部署,協(xié)助研發(fā)進(jìn)行故障排查;
3.對(duì)業(yè)務(wù)提供穩(wěn)定、安全、性能合格的運(yùn)行環(huán)境和專業(yè)技術(shù)支持;
4.自動(dòng)化運(yùn)維組件的規(guī)劃、設(shè)計(jì)和開(kāi)發(fā),提升運(yùn)維質(zhì)量和效率;
5.負(fù)責(zé)公司產(chǎn)品的版本控制、構(gòu)建和發(fā)布管理。
任職資格:
1.熟悉Linux系統(tǒng)管理,熟練掌握各公開(kāi)云平臺(tái)管理技術(shù),兩年以上互聯(lián)網(wǎng)行業(yè)實(shí)際工作經(jīng)驗(yàn);
2.精通Python和Shell等編程語(yǔ)言,熟練使用sed、awk、sort、uniq、grep等命令;
3.精通WEB及負(fù)載均衡相關(guān)技術(shù),如Apache/Nginx/LVS/haproxy等應(yīng)用服務(wù)的安裝/配置和維護(hù),具備對(duì)應(yīng)用系統(tǒng)的故障定位和處理能力;
4.精通各類數(shù)據(jù)庫(kù)相關(guān)技術(shù),如Mysql/Pgsql/Redis/Mongodb/Oracle/Ldap等服務(wù)的安裝配置及災(zāi)備維護(hù),有DBA相關(guān)經(jīng)驗(yàn)者優(yōu)先;
5.熟悉各類中間件的安裝配置及維護(hù);具備故障快速定位排查分析能力;
6.熟悉TCP/IP協(xié)議,路由交換的基本概念,能夠掌握網(wǎng)絡(luò)檢查工具的使用;
7.必須精通Git維護(hù)及操作;熟悉發(fā)布系統(tǒng)構(gòu)建部署如Jenkins(Hudson),Gerrit,Ansible等;
8.熟練掌握常見(jiàn)監(jiān)控軟件zabbix、Nagios等監(jiān)控軟件的使用;
9.有運(yùn)維自動(dòng)化、監(jiān)控系統(tǒng)、發(fā)布系統(tǒng)、運(yùn)營(yíng)支撐系統(tǒng)等開(kāi)發(fā)經(jīng)驗(yàn)者優(yōu)先;
10.具備良好的網(wǎng)絡(luò)安全意識(shí),熟悉各類軟硬件防火墻的配置及使用;有互聯(lián)網(wǎng)安全行業(yè)相關(guān)經(jīng)驗(yàn)者優(yōu)先。
大數(shù)據(jù)運(yùn)維工程師的基本職責(zé) 篇8
1、操作系統(tǒng)的安裝、配置與日常管理;
2、數(shù)據(jù)庫(kù)安裝、配置與日常管理;
3、Web服務(wù)器安裝、配置與日常管理;
4、應(yīng)用系統(tǒng)的日常管理。
大數(shù)據(jù)運(yùn)維工程師的基本職責(zé) 篇9
1、對(duì)服務(wù)器進(jìn)行日常維護(hù),確保各項(xiàng)服務(wù)連續(xù)正常運(yùn)行,無(wú)重大事故;
2、負(fù)責(zé)服務(wù)器存儲(chǔ)網(wǎng)絡(luò)等基礎(chǔ)平臺(tái)的技術(shù)維護(hù)和問(wèn)題處理 ;
3、負(fù)責(zé)執(zhí)行大客戶服務(wù)項(xiàng)目的定制化服務(wù)配置和硬件安裝等處理工作;
4、了解操作系統(tǒng)安裝與配置;
5、具備一定的網(wǎng)絡(luò)相關(guān)故障解決能力;
6、熟悉主流廠商PC服務(wù)器硬件安裝與配置;
7、Windows、Linux、VMware等日常管理、維護(hù);
8、負(fù)責(zé)服務(wù)器異常或故障的受理、跟蹤、解決以及統(tǒng)計(jì)分析;
大數(shù)據(jù)運(yùn)維工程師的基本職責(zé) 篇10
職責(zé):
1、負(fù)責(zé)和參與公司大數(shù)據(jù)基礎(chǔ)架構(gòu)平臺(tái)規(guī)劃,運(yùn)維,監(jiān)控和優(yōu)化工作,保障數(shù)據(jù)平臺(tái)服務(wù)的穩(wěn)定性和可用性;
2、研究大數(shù)據(jù)前沿技術(shù),改進(jìn)現(xiàn)有系統(tǒng)的服務(wù)和運(yùn)維架構(gòu),提升系統(tǒng)可靠性和可運(yùn)維性;
3、負(fù)責(zé)和參與自動(dòng)化運(yùn)維系統(tǒng)及平臺(tái)的建設(shè);
4、負(fù)責(zé)優(yōu)化部門(mén)運(yùn)維流程提升運(yùn)維效率。
任職要求:
1、統(tǒng)招本科及以上學(xué)歷,計(jì)算機(jī)相關(guān)專業(yè),2年以上互聯(lián)網(wǎng)運(yùn)維工作經(jīng)驗(yàn);
2、熟悉Linux操作系統(tǒng)及常見(jiàn)開(kāi)源軟件(Nginx,Tomcat,Zabbix等)的配置,管理及優(yōu)化,能夠獨(dú)立排查及解決操作系統(tǒng)層的各類問(wèn)題;
3、熟悉Hadoop/Kafka/Hbase/Spark/Elasticsearch/Hive的組件原理及運(yùn)維方式;
4、精通Python,shell,了解JAVA;有良好的系統(tǒng)性能優(yōu)化及故障排除能力;
5、具有很強(qiáng)的責(zé)任心、執(zhí)行力、服務(wù)意識(shí)、學(xué)習(xí)能力和抗壓能力;
6、具備較好的溝通能力、主動(dòng)性和團(tuán)隊(duì)合作精神。
大數(shù)據(jù)運(yùn)維工程師的基本職責(zé) 篇11
1、負(fù)責(zé)數(shù)據(jù)中心日常巡檢工作,并根據(jù)要求形成相關(guān)統(tǒng)計(jì)報(bào)告。
2、每周按照要求制作機(jī)房運(yùn)行參數(shù)等的統(tǒng)計(jì)分析。
3、能夠部署相關(guān)的操作系統(tǒng)(windows、linux)以及一些基本服務(wù),例如AD、DNS、DHCP、AAA、IIS、文件系統(tǒng)等。
4、能夠配置交換機(jī)的基礎(chǔ)配置(MSTP、RSTP、主從VLAN、動(dòng)態(tài)VLAN等基礎(chǔ)配置)
5、路由協(xié)議(靜態(tài)、RIP、ospf路由)。
6、了解防火墻的工作原理,能夠進(jìn)行簡(jiǎn)單的策略下發(fā)。
大數(shù)據(jù)運(yùn)維工程師的基本職責(zé) 篇12
職責(zé):
1、負(fù)責(zé)公司現(xiàn)有阿里云平臺(tái)的管理,包括:ECS\RDS\Redis等 ;
2、負(fù)責(zé)公司機(jī)房服務(wù)器的管理,維護(hù);
3、制定和改進(jìn)系統(tǒng)的監(jiān)控、備份方案,應(yīng)急響應(yīng),故障排查,確保系統(tǒng)運(yùn)行穩(wěn)定;
4、完成上級(jí)安排的其他工作。
任職要求:
1、本科以上學(xué)歷,一年以上工作經(jīng)驗(yàn);
2、熟悉CentOS和Ubuntu安裝配置優(yōu)化,熟悉shell腳本 ;
3、熟悉Linux系統(tǒng)常用服務(wù)器的部署,如tomcat、redis、nginx、LVS,haproxy ,mysql的安裝、配置、調(diào)優(yōu),熟悉常用監(jiān)控軟件;
4、熟悉SVN ,Git;
5、熟悉計(jì)算機(jī)軟件、硬件及周邊設(shè)備的維護(hù),能解決工作中出現(xiàn)的網(wǎng)絡(luò)問(wèn)題及突發(fā)情況,懂得相關(guān)網(wǎng)絡(luò)設(shè)備配置規(guī)劃;
6、熟悉使用阿里云相關(guān)云產(chǎn)品;;
7、工作認(rèn)真負(fù)責(zé),積極主動(dòng),善于思考,善于發(fā)現(xiàn)并解決問(wèn)題;
大數(shù)據(jù)運(yùn)維工程師的基本職責(zé) 篇13
職責(zé):
1、負(fù)責(zé)公司服務(wù)器維護(hù)保證業(yè)務(wù)穩(wěn)定.
2、負(fù)責(zé)日志分析、健康檢查、性能監(jiān)控等.
3、負(fù)責(zé)公司開(kāi)發(fā)相關(guān)賬號(hào)的權(quán)限控制以及維護(hù).
4、配合業(yè)務(wù)運(yùn)維、開(kāi)發(fā)、測(cè)試以及其他相關(guān)團(tuán)隊(duì)完成運(yùn)維相關(guān)工作.
技能要求:
1、熟悉自動(dòng)化運(yùn)維工具
2、熟悉Linux命令
3、熟悉阿里云常用產(chǎn)品的維護(hù)與優(yōu)化.
4、熟悉Docker原理并有使用經(jīng)驗(yàn)
5、有打造DevOps平臺(tái)的想法(將CI、CD、日常運(yùn)維、監(jiān)控告警、智能運(yùn)維打造一體化DevOps平臺(tái))
6、熟悉keepalived、nginx、php、java、redis等生產(chǎn)環(huán)境的部署應(yīng)用及調(diào)優(yōu)
7、有pc電腦以及企業(yè)網(wǎng)絡(luò)(交換機(jī),路由器,無(wú)線AP)維護(hù)經(jīng)驗(yàn)優(yōu)先
8、熟悉k8s,istio優(yōu)先
大數(shù)據(jù)運(yùn)維工程師的基本職責(zé) 篇14
1、負(fù)責(zé)計(jì)算機(jī)、局域網(wǎng)絡(luò)、以及機(jī)房設(shè)備維護(hù)工作;
2、負(fù)責(zé)辦公設(shè)備的日常維護(hù)及管理工作;
3、負(fù)責(zé)病毒的查殺,維護(hù)網(wǎng)絡(luò)系統(tǒng)安全;
4、負(fù)責(zé)設(shè)備資產(chǎn)及配置信息登記與更新;
任職資格:
1、大專及以上學(xué)歷,計(jì)算機(jī)相關(guān)專業(yè);
2、具有運(yùn)維管理、服務(wù)器網(wǎng)管工作經(jīng)驗(yàn);
3、具有較好的網(wǎng)絡(luò)基礎(chǔ)知識(shí),熟悉網(wǎng)絡(luò)搭建及常用設(shè)備的使用;
4、熟練使用主流電腦操作系統(tǒng),能夠處理常見(jiàn)的軟件問(wèn)題;
5、通過(guò)國(guó)家軟考初、中級(jí)優(yōu)先。