《大数据架构师岗位的工作职责【推荐30篇】》
大数据架构师岗位的工作职责(精选30篇)
大数据架构师岗位的工作职责 篇1
职责:
1、负责大数据平台技术框架的技术选型和搭建;
2、负责核心技术问题公关,建设高可靠性,扩展性及高性能大数据/数据应用平台;
3、负责规划数据挖掘的整体流程,负责大数据开发团队业务需求开发;
4、与其他团队密切配合,寻求数据层面的业务价值,利用数据分析结论推动产品优化;
5、研究和分享大数据架构领域新技术。
任职要求:
1、计算机相关专业全日制统招本科及以上;
2、5年以上工作经验,至少3年以上大数据项目相关工作经验,能够设计大型大数据系统的架构和技术方案;
3、精通Hadoop/Spark/Hbase/Hive等大数据技术,精通ETL技术;
4、熟悉数据挖掘,了解典型大数据算法和策略;
5、熟悉主流Java技术框架,精通关系型数据库及SQL语言,熟悉NoSQL/JSON/XML;
6、有较强的学习能力和问题解决能力,逻辑严密、思路清晰;
7、有数据仓库经验者优先,有金融行业项目经验者优先。
大数据架构师岗位的工作职责 篇2
职责:
1. 负责大数据基础和应用平台的整体规划和架构设计,参与需求分析,架构设计,详细设计以及技术选型决策
2. 参与数据挖掘和建模相关核心算法的代码实现
3. 负责大数据算法平台的技术把关,性能调优,控制架构质量,解决项目技术难题;对研发项目和任务需求进行评估和方案设计、拆分任务并指导工程师完成开发
4. 带领团队提供并实现大数据算法平台上各项数据接入、数据挖掘分析及数据可视化的架构设计与能力,支持解决方案实施
5. 负责数据库设计、应用架构设计、核心技术选型等工作
6. 协调解决开发中的技术问题、设计和监控运营指标,保障系统稳定运行
7. 培养,指导有能力的员工,指导工程师进行技术验证实现,核心技术攻关,解决开发过程中的技术难题
任职要求:
1. 熟悉大数据和数据仓库的系统架构设计方法
2. 熟练使用并理解HadoopSpark架构及生态。(Hadoop,Hive,Hbase,Elasticsearch,Kafka,SparkFlink等)
3. 熟悉分布式系统架构,有分布式实时、离线和机器学习平台的架构和开发经验,具备海量数据清洗、分析处理及存储的实践经验
4. 熟练使用JAVA,具有大规模分布式系统调优经验
5. 熟悉AI相关算法,熟悉机器学习、深度学习。熟悉AI学习开源框架(Tensorflow、PyTorch等)者优先;
6. 具备良好的团队合作精神,对工作充满激情。
7. 熟悉FusionInsight平台开发经验者优先
大数据架构师岗位的工作职责 篇3
职责:
1、负责spark, hadoop, flink等开发和优化。
2、参与前期需求沟通和分析,以产品化开发的思维,完成需求分解和数据架构设计。
3、与研发和数据科学家合作保证产品定义清晰,按时完成产品上线。
4、能够洞察市场状况,与各部门合作转化为基于大数据挖掘的新策略或方案.
5、主动创造和发掘新的基于大数据挖掘产品商业模式.
任职要求:
1、全日制本科及以上学历,计算机软件相关专业,5年以上开发经验,3年以上架构经验
2、精通hadoop/MapReduce/Spark/Hbase/Flink/Hive/R/Mahout等分布式数据存储和分布式计算平台原理,流式计算开发,有开源二次开发经验者优先。
3、精通大数据挖掘、机器学习.熟练掌握Java/Perl/Python至少一种编程语言。
4、具有数据挖掘和分析、机器学习等项目实施相关经验者优先;
5、良好的跨部门沟通合作能力,解决不同观点能力并取得结果。具备敏锐的互联网产品理解力,学习能力和逻辑思维能力强;
6、较强的自我驱动力、推动和协调能力,强烈的责任心和团队合作精神;
大数据架构师岗位的工作职责 篇4
职责:
1. 负责大数据基础平台、海量数据存储/处理分布式平台、数据分析系统架构设计和研发;
2. 负责实时计算平台基础架构设计、部署、监控、优化升级;
3. 制定项目/数据仓库设计及实现规范,指导设计研发和部署;
4. 协助策略和算法团队工作,保障数据挖掘建模和工程化;
5. 深入研究大数据相关技术和产品,跟进业界先进技术;
任职要求:
1. 全日制本科及以上学历,5年以上软件和分布式系统研发经验,3年以上大数据系统架构经验;
2. 精通Hadoop/HBase/Spark/Storm/Redis技术及其生态圈;
3. 具备良好的系统分析能力、故障诊断能力;
4 有大数据策略、算法、可视化经验优先。
大数据架构师岗位的工作职责 篇5
职责:
1、数据分析软件平台架构搭建
2、负责深度学习核心框架或高性能后台服务系统的架构设计工作,包括系统总体规划、架构设计、系统分析、软件实现、性能优化;
3、指导开发人员开发,并解决系统出现的问题,理解物业需求;
4、制定开发计划和控制开发进度,负责指导研发团队开展设计工作;
任职要求:
1、硕士以上,计算机或先关专业;
2、5年左右软件开发经验,含3年以上系统分析、设计经验,有大型软件项目大型软件项目;有中大型互联网企业数据库架构设计及管理经验,
3、 具备良好的组件级建模能力,熟悉HTTP、TCP等协议
4、熟练使用UML进行软件架构设计,至少精通EA,RATIONAL, VISIO等一种设计工具.
5、精通至少一种编程语言,熟悉 Linux 相关技术,能独立在上面进行开发、测试和部署
6、深入理解数据库、数据仓库、大数据、分布式体系架构和关键技术
大数据架构师岗位的工作职责 篇6
职责:
1、负责大数据平台架构的规划与设计;
2、负责大数据平台技术框架的选型与技术难点攻关;
3、参与企业级大数据产品和应用规划;
4、研究跟进大数据架构领域新技术并分享;
5、大数据处理和分析应用平台的设计指导。
任职资格:
1、 具备深厚的分布式系统或数据库系统的理论基础,熟悉分布式计算系统的工作机制,具有分布式文件系统、分布式数据库系统、集群存储系统等架构设计经验;
2、熟悉BI平台架构及相关项目标准,大数据解决方案包括Hadoop、Spark、Storm、机器学习等大数据平台解决方案;
3、熟悉MySql/Postgresql/Oracle/MongoDB/Redis等主流数据数据库;
4、 精通Linux/Unix环境,精通J java、scala、python、R中的一种或多种语言;
5、 具备优秀的团队意识和沟通能力,学习能力和主动性强,具有钻研精神,充满激情,乐于接受挑战;
6、大专及以上学历,3年及以上工作经验。
大数据架构师岗位的工作职责 篇7
职责:
1.负责数据仓库建设,基于数据驱动构建企业级数据模型,根据架构设计进行各层数据模型开发。
2.面向PB级别超大规模数据处理和查询需求,设计适合业务变化的合理的多维数据分析系统架构,满足多样性需求。
3.构建设计良好的数据流、调度系统、查询引擎、监控系统,保证系统稳定高效运行,以实现数据的最大价值。
4.指导团队成员开展数据仓库建设。
5.参与重点项目的评审,参与企业数据管理体系建设。
任职要求:
1.统招本科及以上学历。
2.从事数据仓库领域至少5年以上,熟悉数据仓库模型设计与ETL开发经验 ,掌握Kimball的维度建模设计方法,具备海量数据加工处理(ETL)相关经验 。
3.具有一定数据模型和数据架构基础,熟悉hadoop\hive和常用数据库。
4. 精通SQL,有一定的SQL性能调优经验,熟悉hive sql的开发。
5.具有管理团队开发经验,具备良好的组织能力、协调能力及项目管理能力。
6.具有较好的文字功底及语言表达能力,能够快速、准确地理解需求。
7.具有专研、快速学习和创新精神,具备独立分析问题和解决问题的能力。
8.具有责任心,时间观念强,工作独立性强,有良好的团队合作精神。
9.全日制普通本科毕业。
大数据架构师岗位的工作职责 篇8
职责:
1. 负责设计企业级大数据平台的整体架构,从技术层面制定清晰的大数据产品与系统技术架构,并负责实现关键技术和产品。
2. 负责设计具有创新价值的大数据底层平台、大数据上层应用系统等,带领团队完成有质变的技术解决方案。
3. 负责组织同事研究行内最前沿的技术发展方向,突破现有的技术难题。
4. 负责研究院对外项目合作协调与支持,编写项目建设方案及后期项目建设支持。
任职要求:
1. 硕士及以上学历,计算机相关专业。
2. JAVA基础扎实,不少于8年的一线开发经验,精通Spring boot/MyBatis/Restful API的开发与管理. 熟悉ReactJS/Angular/Vue之一前端开发技术,熟悉Maven或Ant.,熟悉Python语言开发加分。
3. 不少于4年大数据的直接研发经验,精通Hadoop/Spark系统,有hands-on的架构设计、性能调优、开发经验。有MongoDB、Kafka、Hbase/Cassandra/Storm/Hive 等系统的开发经验。
4. 掌握分布式系统原理,对分布式存储、流式计算、消息队列中的一项或多项有深入的理解和认识。
5. 熟悉分布式系统的监控、运维、故障恢复,高可用原理和设计理念。
6. 算法基础扎实,熟悉常见的数据结构,掌握大规模高并发访问、大数据开发等处理经验;熟练的Linux系统, 网络, 内存和存储等方面知识。
7. 必须要有千万级别的项目管理经验,包括但不限于前期需求沟通,建设方案编写,中期项目实施,进度汇报,后期项目维护。
大数据架构师岗位的工作职责 篇9
1、搭建基于Hadoop/Spark的数据挖掘体系和大数据分析系统架构;
2、研究大数据领域前沿数据挖掘技术,并引入相应技术在数据中心的使用;
3、进行大数据系统框架设计、模型算法开发;
4、负责大型数据挖掘项目方案制定、项目实施落地及优化等;
5、开展数据爬取、聚类分析、舆情分析、鱼骨图分析、定价策略等领域数据挖掘工作;
大数据架构师岗位的工作职责 篇10
职责:
1、负责规划科技大数据平台及科技数据入库自动化的方案设计;
2、负责大数据平台的开发和维护,以及对外服务接口的开发;
3、负责大数据平台的优化和改进工作。
任职要求
1、计算机相关专业本科及以上学历,5年以上开发经验,其中3年以上为互联网、大数据相关的开发经验;
2、熟知Hadoop生态圈体系,精通Hadoop/Spark/Storm/Kafka中的一项或几项,深刻理解MapReduce的运行原理和机制,有MPI经验者尚佳;
3、熟悉Elasticsearch、Redis、Hbased等相关数据库的构建和操作,尤其是数据库集群的构建和操作,熟悉Neo4j者尚佳;
4、具有机器学习相关项目经验者优先。
大数据架构师岗位的工作职责 篇11
职责:
根据大数据业务需求,设计大数据方案及架构,实现相关功能;
搭建和维护大数据集群,保证集群规模持续、稳定、高效平稳运行;
负责大数据业务的设计和指导具体开发工作;
负责公司产品研发过程中的数据及存储设计;
针对数据分析工作,能够完成和指导负责业务数据建模。
职位要求:
计算机、自动化或相关专业(如统计学、数学)本科以上学历,3年以上大数据处理相关工作经验;
精通大数据主流框架(如 Hadoop、hive、Spark等);
熟悉 MySQL、NoSQL(MongoDB、Redis)等主流数据库,以及rabbit MQ等队列技术;
熟悉hadoop/spark生态的原理、特性且有实战开发经验;
熟悉常用的数据挖掘算法优先.
大数据架构师岗位的工作职责 篇12
职责:
1、正确理解业务需求,对需求进行工作量评估;
2、参与项目相关的需求、设计、投产手册等文档的编写;
3、根据进度计划,完成所承担功能模块的设计、开发、单元测试、联调测试;
4、配合测试组修复代码缺陷,确保功能实现与代码质量;
5、负责所承担功能模块投产、部署,及上线后的日常维护;
6、完成项目经理或者架构师安排的其他工作;
任职资格:
1、本科以上学历,计算机相关专业,两年以上大数据开发经验;
2、熟悉Linux 环境,掌握shell或python;
3、熟练使用hadoop,hive,HBase,YARN,kafka,spark等大数据开发组件;
4、精通 ETL,数据仓库的设计和开发;
5、有大数据处理实战经验,熟悉整个大数据的完整处理流程,包括数据的采集、清洗、存储;
6、较强的动手能力和学习能力,良好的沟通能力、团队协调能力;
7、具有银行、金融行业从业背景者优先。
大数据架构师岗位的工作职责 篇13
职责:
1.负责整个大数据平台架构的设计和构建;
2.负责构建大数据平台的数据交换、任务调度等通用平台;
3.制定开发、测试、实施、维护的标准和规范,指导和培训工程师,不断提升团队能力。
4.参与系统需求分析、架构设计、技术选型、应用设计与开发以及测试与部署,负责编写核心部分代码。
5.持续挑战新的技术方向,攻克大数据量、高并发、高可用、可扩展等技术难点。
任职要求:
1.3年以上大数据架构经验,丰富的数据仓库、数据挖掘、机器学习项目经验
2.大规模数据处理的架构和设计实战经验
3.精通Spark、MR,熟练HDFS、Yarn、Hbase、Hive、MongoDB,熟悉Kafka、Redis、Storm、Mahout、Flume、ElasticSearch、GraphDB(NEO4J或其他)等,并具有丰富的大型数据平台工程经验
4.深刻理解大数据处理(流计算,分布式计算,分布式文件系统,分布式存储等)相关技术和实现方法
5.熟悉主数据、元数据、数据质量等企业数据管理相关的体系和方法,熟练Linux/Unix平台上的开发环境
6.本科或以上学历,计算机软件或相关专业,丰富的java开发经验和互联网背景优先。
7.具有比较强的问题分析和处理能力,有比较优秀的动手能力,热衷技术,精益求精
大数据架构师岗位的工作职责 篇14
职责:
1、负责公司大数据平台架构的技术选型和技术难点攻关工作;
2、依据行业数据现状和客户需求,完成行业大数据的特定技术方案设计与撰写;
3、负责研究跟进大数据架构领域新兴技术并在公司内部进行分享;
4、参与公司大数据项目的技术交流、解决方案定制以及项目的招投标工作;
5、参与公司大数据项目前期的架构设计工作;
任职要求:
1、计算机及相关专业本科以上,5年以上数据类项目(数据仓库、商务智能)实施经验,至少2年以上大数据架构设计和开发经验,至少主导过一个大数据平台项目架构设计;
2、精通大数据生态圈的技术,包括但不限于MapReduce、Spark、Hadoop、Kafka、Mongodb、Redis、Flume、Storm、Hbase、Hive,具备数据统计查询性能优化能力。熟悉星环大数据产品线及有过产品项目实施经验者优先;
3、优秀的方案撰写能力,思路清晰,逻辑思维强,能够根据业务需求设计合理的解决方案;
4、精通ORACLE、DB2、mySql等主流关系型数据库,熟悉数据仓库建设思路和数据分层架构思想;
5. 熟练掌握java、R、python等1-2门数据挖掘开发语言;
6. 熟悉云服务平台及微服务相关架构思想和技术路线,熟悉阿里云或腾讯云产品者优先;
7、有烟草或制造行业大数据解决方案售前经验者优先;
8、能适应售前支持和项目实施需要的短期出差;
大数据架构师岗位的工作职责 篇15
1.负责企业数据中心建设,设计数据逻辑模型和物理模型,并完成相关开发
2.梳理公司各业务线常用的指标和维度,统一指标定义口径
3.根据数据应用开发和数据分析需求,设计数据仓库信息层模型,提高数据开发的效率
4.负责数据模型的运营和优化,及时响应业务逻辑变更,保证模型的数据质量和稳定性
5.负责公司数据标签体系的建设,并推动标签体系在实际业务场景中落地
大数据架构师岗位的工作职责 篇16
职责
1、负责企业级大数据平台、数据云服务的设计与开发;
2、基于大数据生态圈,支持智慧交通等大数据场景应用实现;
3、负责公司大数据产品的设计、封装与落地;
4、负责学习大数据相关算法研究、实现与应用
任职要求
1、统招本科及以上学历;2年以上智慧城市建设或交通行业信息化相关工作经验,3年以上大数据架构设计、开发经验;
2、精通大数据生态圈的技术,包括但不限于MapReduce、Spark、Hadoop、Kafka、Mongodb、Redis、Flume、Storm、Hbase、Hive,具备源码级问题解决和集群优化改造能力;
3、熟悉常用编程语言,包括Java、Python、Scala等;
4、具有很强的技术研发和创新能力,能有效把握技术发展方向,有较强的执行能力、学习能力、沟通能力、适应能力,责任心强;
大数据架构师岗位的工作职责 篇17
1.深刻理解政府行业业务模式,构建政府行业的数据模型,制定公司大数据技术发展路线;
2.对接业务研究和技术部门,主动搜集和转化需求,组织数据中心业务开发,进行数据相关产品需求分析和设计;
3.搭建数据仓库,研发数据库管理系统,搜集、提取、处理业务积累的海量数据,开展数据分析和挖掘;
4.根据公司战略和发展需要,规划数据中心重点工作和任务;落实部门人员、事务管理,开展跨部门、跨地区协作,协助对外交流与合作。
大数据架构师岗位的工作职责 篇18
1.负责公司大数据底层框架的整体架构设计,结合公司实际业务情况进行技术选型及大数据战略规划;
2.负责统一数据平台项目的整体评估、设计、架构及关键模块的开发,不断提升系统的稳定性和效率;
3.负责架构优化及系统关键模块的设计开发,协助团队解决开发过程中的技术难题;
4.建立良好的公司内外的业界技术影响力;有效辅导团队,提升数据研发能力;
大数据架构师岗位的工作职责 篇19
职责:
1.能够带领技术人员基于hadoop平台进行海量数据应用系统开发;
2.负责结构化和非结构化数据的解析和清洗,海量数据查询和报表展现;
3.负责超大规模数据平台的搭建、维护和优化;
4.负责大数据采集、存储框架研究,参与在线或离线数据存储模型设计;
5.负责大数据平台新技术的开发使用和性能优化,测试。
任职资格:
1.计算机相关专业本科及以上学历;
2. 熟悉hadoop相关各种开源项目,比如HDFS/Hive/Hbase等有实际应用。(5年以上开发经验者优先);
3.两年以上熟练编写mapreduce代码经验,有三年以上网络日志分析、ETL经验。熟悉日志分析框架chukwa,flume,scribe者优先;
4.两年以上海量数据存储的安装部署、优化、二次开发经验,对大规模数据存储、传输、处理等有丰富的经验;
5.在数据挖掘、数据密集型处理、分布式计算、网格计算领域有深入理论基础;
6.具有较强的文档撰写能力,较强的团队精神和合作精神,对工作有热情,能承受压力。
大数据架构师岗位的工作职责 篇20
1、负责大数据平台的架构设计、核心代码开发等任务;根据项目要求编写相关技术文档;
2、负责大数据平台的架构评审,代码评审,上线评审;参与数据应用需求、设计、审核和评审;
3、负责核心模块研发,负责大数据平台的搭建,完成系统调试、集成与实施;
4、负责建立和维护大数据平台技术标准规范,指导开发人员编写代码;
大数据架构师岗位的工作职责 篇21
职责:
1. 规划设计大数据平台整体架构,规划各种组件,并且指导技术团队完成相关系统验证、安装、部署、配置;
2. 负责制定大数据平台技术规范和接口规范,指导研发团队按照规范进行系统开发;
3. 配合商务人员完成售前技术支持工作;
4. 完成其他与数据应用有关的技术工作;
任职要求:
1. 计算机相关专业本科学历,5年以上工作经验;
2. 对大数据技术栈有非常深刻的了解;具备架构设计的实际经验;
3. 对信息安全架构设计及实施有一定的经验;
4. 熟悉Linux、Windows等操作系统的安装配置;
5. 熟悉互联网应用的安装配置;熟悉常见大数据技术栈组件的安装配置;熟悉Visio等绘图工具的使用;
6. 有卫生信息化建设经验者优先;有容器安装部署经验者优先。
大数据架构师岗位的工作职责 篇22
职责:
1、负责相关开源系统/组件的性能、稳定性、可靠性等方面的深度优化;
2、负责解决项目上线后生产环境的各种实际问题,保障大数据平台在生产上的安全、平稳运行;
3、推动优化跨部门的业务流程, 参与业务部门的技术方案设计、评审、指导;
4、负责技术团队人员培训、人员成长指导。
5、应项目要求本月办公地址在锦江区金石路316号新希望中鼎国际办公,月底项目结束后在总部公司办公
任职要求:
1、熟悉linux、JVM底层原理,能作为技术担当,解决核心技术问题;
2、3年以上大数据平台项目架构或开发经验,对大数据生态技术体系有全面了解,如Yarn、Spark、HBase、Hive、Elasticsearch、Kafka、PrestoDB、Phoenix等;
3、掌握git、maven、gradle、junit等工具和实践, 注重文档管理、注重工程规范优先;
4、熟悉Java后台开发体系,具备微服务架构的项目实施经验,有Dubbo/Spring cloud微服务架构设计经验优先;
5、性格开朗、善于沟通,有极强的技术敏感性和自我驱动学习能力,注重团队意识。
大数据架构师岗位的工作职责 篇23
职责:
1、负责大数据项目技术架构评估与设计;
2、负责关键功能的开发,技术难题的解决,以及输出代码的关键把控;
3、负责对使用关键技术的预研和选型,完成PoC;
4、指导工程师完成开发工作,并能分享技术经验。
任职要求:
1、3年以上相关工作经验,其中具有1年以上架构设计经验
2、熟悉商业智能系统相关技术,如 ETL、数据仓库、OLAP开发;
3、精通设计模式,熟悉面向服务架构(SOA)以及其它常用软件架构思想,有SOA方案设计、开发实施的实际经验,要具备实际的服务规划、服务粒度划分经验;并且要善于设计可重用组件和可定制化产品。
4、相关技术栈:Java /Scala/Flume/Hive/Kafka/HBase/ Spark/Storm/Redis;
5、有扎实的计算机基础,熟悉Java等编程语言;
大数据架构师岗位的工作职责 篇24
职责:
1、负责大数据平台架构的评估、规划和设计 ;负责海量数据采集、处理及存储、应用方案的技术选型及架构实现;
2、开发大数据平台的核心代码,负责大数据平台的搭建,完成系统调试、集成与实施,技术难题的解决,保证大数据产品的上线运行 ;
3、根据业务需求持续优化数据架构,保证产品的可靠性、稳定性 ;
4、指导开发人员完成数据模型规划建设,分析模型构建及分析呈现 ,分享技术经验;
5、负责大数据平台的架构评审,代码评审,上线评审;参与数据应用需求、设计、审核和评审;
6、深入研究大数据相关技术和产品,跟进业界先进技术;
任职资格:
1.本科及以上学历,数学或计算机相关专业毕业,不少于5年的工作经验,具有扎实的计算机基础理论知识;
2.有3年以上Hadoop、Spark、Hbase平台性能调优经验;熟悉sparkstreaming等实时计算技术
3.熟悉hive、hbase、storm、mahout、flume、ElasticSearch、Spark、Kafka等,具备实际项目设计及开发经验;
4.熟悉sparkstreaming等相关的实时计算技术;
5.熟悉大规模数据挖掘、机器学习、自然语言处理、分布式计算中一项或多项技术,并具备多年的实际工作经验;
6.熟悉主流关系型数据库(Oracle、MySql)、NoSql数据库,熟悉pl/sql编程;精通Linux操作系统,熟练使用Java;熟悉常用框架.如Spring、MyBatis等;
7.具有较强的执行力,高度的责任感、很强的学习、沟通能力,能够在高压下高效工作;
大数据架构师岗位的工作职责 篇25
职责:
1.负责公司新业务方向平台大数据基础架构的搭建及后期数据处理体系的升级和优化,不断提升系统的稳定性和效率。为公司未来方向性产品提供大数据底层平台的支持和保证。
2.负责制定大数据平台调用约束和规范;
3.负责大数据方向技术难题的解决,以及代码质量的把控;
4.作为大数据开发团队的leader,负责大数据系统平台开发团队建设与人才梯队培养,分享技术经验,撰写相关技术文档指导和培训工程师。
任职要求:
1.热衷于大数据技术,并能平衡大数据性能、稳定性、扩展性多重要素进行设计和优化;
2.熟悉服务器基本知识,能够评估系统硬件性能瓶颈;
3.掌握Linux操作系统的配置,管理及优化,能够独立排查及解决操作系统层的各类问题,并能提供解决问题的理论依据;
4.精通Java服务器编程,熟悉JVM原理,对数据结构和算法设计有较为深刻的理解;
5.精通elasticsearch、Redis、hadoop、Kafka、Zookeeper、Yarn、Hbase、Spark底层架构,熟悉原理、源码、集群部署,包括参数优化、Bug修复,贡献过代码或提交过bug者优先
6.具备数据中心资源管理、监控、调度等系统研发经验者优先,具备分布式系统研发经验者优先;
7.具有应用大数据技术处理的项目开发、维护超过两年的经验者优先;
8.具有良好的文档编写能力,可进行方案设计、架构设计。
大数据架构师岗位的工作职责 篇26
职责:
负责公司大数据产品架构的设计与实现;
配合大数据产品经理完成产品的快速研发与交付;
负责大数据产品架构的持续优化设计;
负责大数据产品核心组件设计;
负责大数据相关数据架构规划、数据建模、数据库设计以及大数据产品研发工作;
为应用开发团队提供技术支撑。
任职要求:
本科及以上学历,3年以上的大数据开发经验、
2年以上大数据架构设计经验;
丰富的JAVA研发经验,精通JAVA,熟悉Python Scala等编程语言;具备深厚的分布式系统或数据库系统的理论基础,熟悉分布式计算系统的工作机制,具有分布式文件系统、分布式数据库系统、集群存储系统等架构设计经验;
熟悉整个大数据的完整处理流程(数据的采集、清洗、预处理、存储、分析挖掘、机器学习和数据可视化);
精通各种大数据相关技术体系:Hadoop、Spark、Storm、ElasticSearch、Kafka;
有数据挖掘、机器学习相关应用或研究背景;
沟通能力较好,积极主动意识较强,责任心较强。
大数据架构师岗位的工作职责 篇27
职责:
1、 负责大数据仓库、数据集市的规划及实现,负责大数据中台的设计和核心开发工作;
2、 负责数据基础架构和数据处理体系的升级和优化,不断提升系统的稳定性和效率,为公司的业务提供大数据底层平台的支持和保证;
3、 大数据平台的数据采集、处理、存储以及挖掘分析的架构实现;
4、 研究未来数据模型和计算框架的创新与落地,包括但不限于以下领域:大规模数据实时化、研发模式敏捷化、数据计算框架轻量化、数据模型组织方式业务化等方面,参与制定并实践团队的技术发展路线
任职资格:
1、 精通数据建模、数据标准管理、元数据管理、数据质量管理;
2、 有作为技术负责人系统化解决问题的成功案例;有海量数据实践经验优先;
3、 熟悉目前正在发展的大数据分布式平台前沿技术的应用;包括但不仅仅限于:hadoop、flink、spark等;
4、 性格积极乐观,诚信,能自我驱动,有较强的语言表达能力;具备强烈的进取心、求知欲及团队合作精神;具有良好的沟通、团队协作、计划和创新的能力; 在数据业界有一定的影响力优先,具有风控经验背景的人优先;
5、 具备独立的深度思考能力,给出结合实际情况的较为理想的技术解决方案。
大数据架构师岗位的工作职责 篇28
职责:
1、负责大数据基础平台、海量数据存储处理分布式平台、数据分析系统架构设计和研发;
2、负责实时计算平台基础架构设计、部署、监控、优化升级;
3、制定项目数据仓库设计及实现规范,指导设计研发和部署;
4、协助策略和算法团队工作,保障数据挖掘建模和工程化;
5、深入研究大数据相关技术和产品,跟进业界先进技术。
任职要求:
1、3年以上大数据系统架构经验;
2、精通Hadoop HBase Hive Spark Flink Kafka Redis技术及其生态圈;
3、具备Java Scala Python等开发经验,熟悉数据挖掘和分析的策略与算法;
4、精通数据抽取,海量数据传输,数据清洗的常用方法和工具。
5、具备良好的系统分析能力、故障诊断能力;
6、有大数据策略、算法、可视化经验优先;
7、有在华为云存储产品和大数据产品的开发使用经验优先。
大数据架构师岗位的工作职责 篇29
职责
1、负责大数据架构设计,包括定义数据的存储、集成(ETL)、应用,支撑业务运营和数据分析类需求实现;
2、制定数据治理领域的数据体系化管理措施,包括元数据设计、数据标准、数据质量、数据处理、数据安全等工作,确保数据可信与安全;
3、基于行业数据积累,满足业务的数据挖掘需求,实现从数据到资产的转变,根据目标行业建立具有前瞻性的数据模型;
4、对各产品的数据安全负责,主导制定和实施数据库系统安全策略,保证整体方案数据安全;
岗位要求
业务技能要求:
1、深入理解云化、数据仓库,在参与过的系统设计中,必须涉及这两项关键技术;
n2、精通或者熟悉Hadoop体系架构,以及HDFS/HBase/Hive/MapReduce/Spark等技术,了解体系架构各组件的优缺点,有直接的产品设计与开发、部署、调优的经验;
3、精通或熟悉常见RDBMS(Oracle / PostgreSQL / MySql)、NoSQL(Redis / Memcached/ MongoDB)、全文搜索引擎(Solr/ElasticSearch)的使用及开发,了解各数据库优缺点, 熟悉与架构设计相关的数据存储、性能调优等相关领域知识,有相关项目经验尤佳;
4、熟悉业界常用的数据采集、集成、数据存储、计算、数据模型、数据分析的技术方案,具有数据分析或数据挖掘相关经验者优先;
n5、熟悉数据治理相关流程,包括数据接入、数据处理、数据治理、数据组织、数据服务等。
专业知识要求:
1、具备数据治理的知识与体系方案,包含政策、组织、角色、流程、规范等,以及规划相应的支撑方案。了解业界的数据管理方法论;
2、具备数据用例设计和开发能力。能够基于业务相关数据进行业务需求分析和痛点识别,将业务需求转化为数据的需求,完成数据用例的设计和开发;
3、精通海量数据(日增量百亿)级别数据仓库、数据集市的构建流程。熟悉公安、政务、工业、交通、医疗等多行业业务者优先。
大数据架构师岗位的工作职责 篇30
职责:
1、对业务需求深入分析,从而进行大数据平台核心应用的架构设计、开发和技术支持;
2、规划业务应用系统和基础平台的技术架构,参与需求分析、建模、架构设计、技术决策以及详细设计;
3、把握复杂系统的设计,确保系统的架构质量,编写核心部分代码;
4、带领团队攻克例如大数据量、高并发、高稳定性等带来的各种挑战及技术难关;
5、在大数据平台建设路线图指导下,进行架构实施和交付物投递,同时确保研发质量和方向的准确性;
6、进行团队技术的培训和梯队建设岗位要求;
任职条件:
1、本科或以上学历,计算机相关专业,8年以上研发经验,3年以上大数据平台相关工作经验;
2、精通Java开发技术,熟悉Shell、Scala语言和PYTHON优先;
3、编程基础扎实,熟悉I/O、多线程、集群等基础框架和原理,熟悉分布式、缓存、消息等机制;
4、熟悉常用设计模式,代码评审规则,单元测试,持续集成;
5、熟悉AWS云服务或阿里云服务;
6、熟悉容器技术原理、生态系统,熟悉Docker、Mesos、Kubernetes等容器系统、大规模容器资源调度系统、分布式应用生命周期。