数据平台开发工程师(数据平台开发工程师职责)

网友投稿 258 2023-03-13

本篇文章给大家谈谈数据平台开发工程师,以及数据平台开发工程师职责对应的知识点,希望对各位有所帮助,不要忘了收藏本站喔。 今天给各位分享数据平台开发工程师的知识,其中也会对数据平台开发工程师职责进行解释,如果能碰巧解决你现在面临的问题,别忘了关注本站,现在开始吧!

本文目录一览:

大数据开发工程师是做什么

简单粗略来说就是用工具实现大数据分析后所需要得出的结果。简单理解,大数据开发就是制造软件的,只是与大数据相关而已,通常用到的就是与大数据相关的开发工具、环境等等。大数据开发其实分两种,第一类是编写一些Hadoop、Spark的应用程序,第二类是对大数据处理系统本身进行开发。第一类工作感觉更适用于data analyst这种职位吧,而且现在Hive Spark-SQL这种系统也提供SQL的接口。第二类工作的话通常才大公司里才有,一般他们都会搞自己的系统或者再对开源的做些二次开发。这种工作的话对理论和实践要求的都更深一些,也更有技术含量。

大数据开发工程师的基本职责-岗位职责

大数据开发工程师的基本职责-岗位职责

在学习、工作、生活中,很多情况下我们都会接触到岗位职责,明确岗位职责能让员工知晓和掌握岗位职责,能够最大化的进行劳动用工管理,科学的进行人力配置,做到人尽其才、人岗匹配。我们该怎么制定岗位职责呢?以下是我为大家整理的大数据开发工程师的基本职责-岗位职责,仅供参考,欢迎大家阅读。

大数据开发工程师的基本职责-岗位职责1

职责:

1、参与大数据平台搭建以及项目技术架构。

2、数据分析,挖掘,模型具体的产品化;

3、根据产品需求,分析编写和制定大数据相关解决方案

岗位要求:

1、计算机相关专业本科以上学历,编程基础扎实,有2年以上大数据开发经验

2、熟悉Hadoop生态和体系架构,熟悉Flink、Spark,Hive等常用开源工具

3、熟悉Flume,kakfa,scribe等日志收集体系

4、熟悉主流数据库(Oracle、postgresql、Mysql、Sql Server)中的1种及以上,有较好的SQL性能调优经验

5、有数据仓库ETL经验者优先

6、有用户行为日志采集、海量数据处理、数据建模方面经验者优先

7、有持续学习的能力;喜欢开源软件,乐于知识分享;对工作认真负责;可以独立承担较大工作压力

大数据开发工程师的基本职责-岗位职责2

职责:

1、数字货币领域数据统计分析,负责数字货币量化投资策略的设计、管理以及实际投资运作

2、与交易员对接,制定切实可行的的'策略测试计划,开展新策略模型的开发和验证

3、协助交易员进行交易、风险管理,并对实际交易结果进行量化的绩效分析,推动交易自动化

4、上级交办的其他工作

任职要求:

1、数学/计算机/金融专业毕业,有扎实的算法和机器学习的理论基础

2、有量化实盘交易经验,具备丰富的数学建模经验及较强的数据处理能力优先

3、对金融市场的价格波动有独特理解和深入的量化分析,具备一定对冲策略研究经验;

4、对数字货币领域感兴趣,结果导向;

5、有网页抓取和爬虫程序编写经验者优先。

大数据开发工程师的基本职责-岗位职责3

职责:

1、大数据日志分析系统的设计,选型和开发;

2、配合各业务给予数据支持,对产品和运营数据总结和优化;

3、处理用户海量数据,提取、分析、归纳用户属性,行为等信息,完成分析结果;

4、发现并指出数据异常情况,分析数据合理性;

5、公司大数据基础架构平台的运维,保障数据平台服务的稳定性和可用性;

6、大数据基础架构平台的监控、资源管理、数据流管理;

7、基于数据分析的可预测的云平台弹性扩展解决方案。

任职要求:

1、日志分析数据系统实际经验;

2、3年以上互联网行业研发经验,有使用Hadoop/hive/spark分析海量数据的能力;

3、掌握Hadoop、Flume,Kafka、Zookeeper、HBase、Spark的安装与调试;

4、熟悉大数据周边相关的数据库系统,关系型数据库和NoSQL。

5、掌握Linux操作系统的配置,管理及优化,能够独立排查及解决操作系统层的各类问题;

6、有良好的沟通能力,具备出色的规划、执行力,强烈的责任感,以及优秀的学习能力。

大数据开发工程师的基本职责-岗位职责4

职责:

1、负责数据分析、加工、清理、处理程序的开发;

2、负责数据相关平台的搭建、维护和优化;

3、负责基于Hadoop/Spark/Hive/kafka等分布式计算平台实现离线分析、实时分析的计算框架的开发;

岗位要求:

1、本科学历须211院校以上,硕士及以上学历不限院校,计算机软件及相关专业

2、熟悉Java和Scala语言、熟悉常用设计模式、具有代码重构意识;

3、熟练使用hadoop、hbase、Kafka、hive、spark、presto,熟悉底层框架和实现原理;

4、使用Spark Streaming和Spark SQL进行数据处理,并具有SPARK SQL优化经验;

5、需要有至少2年开发经验,有flink开发经验优先;

6、学习能力强,喜欢研究新技术,有团队观念,具备独立解决问题的能力。

大数据开发工程师的基本职责-岗位职责5

职责:

1、负责大数据平台的基础环境搭建与性能优化,完成平台的构建与维护、实时流计算平台、分布式调度、可视化报表等平台的架构与研发;

2、对各种开源框架进行深入的代码剖析和优化;

3、参与大数据技术方案评审;

4、指导初中级大数据工程师工作;

岗位要求:

1、计算机相关专业全日制专科及以上学历,具有3年或以上的分布式计算平台研发工作经验;

2。对大数据相关组件:Hadoop、Spark、Hbase、Hive、Flink、Kafka、Flume等架构与底层实现有深入理解,具备相应的定制和研发能力,尤其需要精通Flink框架;

3。具备构建稳定的大数据基础平台的能力,具备数据收集、数据清洗、数据仓库建设、实时流计算等系统研发经验;

4。对技术有热情,有不错的数据思维和敏感度,有一定的数据分析能力优先,对深度学习、机器学习有一定的了解优先;

5。工作有计划性,责任心和执行能力强,具备高度的责任心、诚信的工作作风、优秀沟通能力及团队精神。

;

大数据开发工程师有哪些岗位?

1、大数据开发工程师:开发数据平台开发工程师,建设数据平台开发工程师,测试和维护架构;负责公司大数据平台数据平台开发工程师的开发和维护数据平台开发工程师,负责大数据平台持续集成相关工具平台的架构设计与产品开发等。

2、数据分析师:收集数据平台开发工程师,处理和执行统计数据分析;运用工具,提取、分析、呈现数据,实现数据的商业意义,需要业务理解和工具应用能力。

3、数据挖掘工程师:数据建模、机器学习和算法实现;商业智能,用户体验分析,预测流失用户等;需要过硬的数学和统计学功底以外,对算法的代码实现也有很高的要求。

4、数据架构师:需求分析,平台选择,技术架构设计,应用设计和开发,测试和部署;高级算法设计与优化;数据相关系统设计与优化,需要平台级开发和架构设计能力。

5、数据库开发:设计,开发和实施基于客户需求的数据库系统,通过理想接口连接数据库和数据库工具,优化数据库系统的性能效率等。

6、数据库管理:数据库设计、数据迁移、数据库性能管理、数据安全管理,故障检修问题、数据备份、数据恢复等。

7、数据科学家:数据挖掘架构、模型标准、数据报告、数据分析方法;利用算法和模型提高数据处理效率、挖掘数据价值、实现从数据到知识的转换。

8、数据产品经理:把数据和业务结合起来做成数据产品;平台线提供基础平台和通用的数据工具,业务线提供更加贴近业务的分析框架和数据应用。 关于数据平台开发工程师和数据平台开发工程师职责的介绍到此就结束了,不知道你从中找到你需要的信息了吗 ?如果你还想了解更多这方面的信息,记得收藏关注本站。 数据平台开发工程师的介绍就聊到这里吧,感谢你花时间阅读本站内容,更多关于数据平台开发工程师职责、数据平台开发工程师的信息别忘了在本站进行查找喔。

版权声明:本文内容由网络用户投稿,版权归原作者所有,本站不拥有其著作权,亦不承担相应法律责任。如果您发现本站中有涉嫌抄袭或描述失实的内容,请联系我们jiasou666@gmail.com 处理,核实后本网站将在24小时内删除侵权内容。

上一篇:数据平台名称(数据平台是什么概念)
下一篇:大数据汇聚工具(大数据汇总工具)
相关文章

 发表评论

暂时没有评论,来抢沙发吧~