大数据项目总监

❶ 如何成为一名大数据工程师

大数据是眼下非常时髦的技术名词，与此同时自然也催生出了一些与大数据处理相关的职业，通过对数据的挖掘分析来影响企业的商业决策。

这群人在国外被叫做数据科学家（Data Scientist），这个头衔最早由D.J.Pati和Jeff Hammerbacher于2008年提出，他们后来分别成为了领英（LinkedIn）和Facebook数据科学团队的负责人。而数据科学家这个职位目前也已经在美国传统的电信、零售、金融、制造、物流、医疗、教育等行业里开始创造价值。

不过在国内，大数据的应用才刚刚萌芽，人才市场还不那么成熟，“你很难期望有一个全才来完成整个链条上的所有环节。更多公司会根据自己已有的资源和短板，招聘能和现有团队互补的人才。”领英（LinkedIn）中国商务分析及战略总监王昱尧对《第一财经周刊》说。

数据工程师是做什么的？于是每家公司对大数据工作的要求不尽相同：有的强调数据库编程、有的突出应用数学和统计学知识、有的则要求有咨询公司或投行相关的经验、有些是希望能找到懂得产品和市场的应用型人才。正因为如此，很多公司会针对自己的业务类型和团队分工，给这群与大数据打交道的人一些新的头衔和定义：数据挖掘工程师、大数据专家、数据研究员、用户分析专家等都是经常在国内公司里出现的Title，我们将其统称为“大数据工程师”。

由于国内的大数据工作还处在一个有待开发的阶段，因此能从其中挖掘出多少价值完全取决于工程师的个人能力。已经身处这个行业的专家给出了一些人才需求的大体框架，包括要有计算机编码能力、数学及统计学相关背景，当然如果能对一些特定领域或行业有比较深入的了解，对于其快速判断并抓准关键因素则更有帮助。

虽然对于一些大公司来说，拥有硕博学历的公司人是比较好的选择，不过阿里巴巴集团研究员薛贵荣强调，学历并不是最主要的因素，能有大规模处理数据的经验并且有喜欢在数据海洋中寻宝的好奇心会更适合这个工作。

除此之外，一个优秀的大数据工程师要具备一定的逻辑分析能力，并能迅速定位某个商业问题的关键属性和决定因素。“他得知道什么是相关的，哪个是重要的，使用什么样的数据是最有价值的，如何快速找到每个业务最核心的需求。”联合国网络大数据联合实验室数据科学家沈志勇说。学习能力能帮助大数据工程师快速适应不同的项目，并在短时间内成为这个领域的数据专家；沟通能力则能让他们的工作开展地更顺利，因为大数据工程师的工作主要分为两种方式：由市场部驱动和由数据分析部门驱动，前者需要常常向产品经理了解开发需求，后者则需要找运营部了解数据模型实际转化的情况。

你可以将以上这些要求看做是成为大数据工程师的努力方向，因为根据万宝瑞华管理合伙人颜莉萍（Nicole Yan）的观察，这是一个很大的人才缺口。目前国内的大数据应用多集中在互联网领域，有超过56%的企业在筹备发展大数据研究，“未来5年，94%的公司都会需要数据科学家。”颜莉萍（Nicole Yan）说。因此她也建议一些原本从事与数据工作相关的公司人可以考虑转型。

用阿里巴巴集团研究员薛贵荣的话来说，大数据工程师就是一群“玩数据”的人，玩出数据的商业价值，让数据变成生产力。大数据和传统数据的最大区别在于，它是在线的、实时的，规模海量且形式不规整，无章法可循，因此“会玩”这些数据的人就很重要。

沈志勇认为如果把大数据想象成一座不停累积的矿山，那么大数据工程师的工作就是，“第一步，定位并抽取信息所在的数据集，相当于探矿和采矿。第二步，把它变成直接可以做判断的信息，相当于冶炼。最后是应用，把数据可视化等。”

因此分析历史、预测未来、优化选择，这是大数据工程师在“玩数据”时最重要的三大任务。通过这三个工作方向，他们帮助企业做出更好的商业决策。

1.找出过去事件的特征

大数据工程师一个很重要的工作，就是通过分析数据来找出过去事件的特征。比如，腾讯的数据团队正在搭建一个数据仓库，把公司所有网络平台上数量庞大、不规整的数据信息进行梳理，总结出可供查询的特征，来支持公司各类业务对数据的需求，包括广告投放、游戏开发、社交网络等。

找出过去事件的特征，最大的作用是可以帮助企业更好地认识消费者。通过分析用户以往的行为轨迹，就能够了解这个人，并预测他的行为。“你可以知道他是什么样的人、他的年纪、兴趣爱好，是不是互联网付费用户、喜欢玩什么类型的游戏，平常喜欢在网上做什么事情。”腾讯云计算有限公司北京研发中心总经理郑立峰对《第一财经周刊》说。下一步到了业务层面，就可以针对各类人群推荐相关服务，比如手游，或是基于不同特征和需求衍生出新的业务模式，比如微信的电影票业务。

2.预测未来可能发生的事情

通过引入关键因素，大数据工程师可以预测未来的消费趋势。在阿里妈妈的营销平台上，工程师正试图通过引入气象数据来帮助淘宝卖家做生意。“比如今年夏天不热，很可能某些产品就没有去年畅销，除了空调、电扇，背心、游泳衣等都可能会受其影响。那么我们就会建立气象数据和销售数据之间的关系，找到与之相关的品类，提前警示卖家周转库存。”薛贵荣说。

在网络，沈志勇支持“网络预测”部分产品的模型研发，试图用大数据为更广泛的人群服务。已经上线的包括世界杯预测、高考预测、景点预测等。以网络景点预测为例，大数据工程师需要收集所有可能影响一段时间内景点人流量的关键因素进行预测，并为全国各个景点未来的拥挤度分级—在接下来的若干天时间里，它究竟是畅通、拥挤，还是一般拥挤？

3.找出最优化的结果

根据不同企业的业务性质，大数据工程师可以通过数据分析来达到不同的目的。

以腾讯来说，郑立峰认为能反映大数据工程师工作的最简单直接的例子就是选项测试（AB Test），即帮助产品经理在A、B两个备选方案中做出选择。在过去，决策者只能依据经验进行判断，但如今大数据工程师可以通过大范围地实时测试—比如，在社交网络产品的例子中，让一半用户看到A界面，另一半使用B界面，观察统计一段时间内的点击率和转化率，以此帮助市场部做出最终选择。

作为电商的阿里巴巴，则希望通过大数据锁定精准的人群，帮助卖家做更好的营销。“我们更期待的是你能找到这样一批人，比起现有的用户，这些人对产品更感兴趣。”薛贵荣说。一个淘宝的实例是，某人参卖家原来推广的目标人群是产妇，但工程师通过挖掘数据之间的关联性后发现，针对孕妇群体投放的营销转化率更高。

需要具备的能力

1.数学及统计学相关的背景

就我们采访过的BAT三家互联网大公司来说，对于大数据工程师的要求都是希望是统计学和数学背景的硕士或博士学历。沈志勇认为，缺乏理论背景的数据工作者，更容易进入一个技能上的危险区域（Danger Zone）—一堆数字，按照不同的数据模型和算法总能捯饬出一些结果来，但如果你不知道那代表什么，就并不是真正有意义的结果，并且那样的结果还容易误导你。“只有具备一定的理论知识，才能理解模型、复用模型甚至创新模型，来解决实际问题。”沈志勇说。

2.计算机编码能力

实际开发能力和大规模的数据处理能力是作为大数据工程师的一些必备要素。“因为许多数据的价值来自于挖掘的过程，你必须亲自动手才能发现金子的价值。”郑立峰说。

举例来说，现在人们在社交网络上所产生的许多记录都是非结构化的数据，如何从这些毫无头绪的文字、语音、图像甚至视频中攫取有意义的信息就需要大数据工程师亲自挖掘。即使在某些团队中，大数据工程师的职责以商业分析为主，但也要熟悉计算机处理大数据的方式。

3.对特定应用领域或行业的知识

在颜莉萍（Nicole Yan）看来，大数据工程师这个角色很重要的一点是，不能脱离市场，因为大数据只有和特定领域的应用结合起来才能产生价值。所以，在某个或多个垂直行业的经历能为应聘者积累对行业的认知，对于之后成为大数据工程师有很大帮助，因此这也是应聘这个岗位时较有说服力的加分项。

“他不能只是懂得数据，还要有商业头脑，不论对零售、医药、游戏还是旅游等行业，能就其中某些领域有一定的理解，最好还是与公司的业务方向一致的，”就此薛贵荣还打了个比方，“过去我们说一些奢侈品店员势利，看人一眼就知道买得起买不起，但这群人恰恰是有敏锐度的，我们认为他们是这个行业的专家。又比如对医疗行业了解的人，他在考虑医疗保险业务时，不仅会和人们医院看病的记录相关，也会考虑饮食数据，这些都是基于对该领域的了解。”

职业发展1.如何成为大数据工程师

由于目前大数据人才匮乏，对于公司来说，很难招聘到合适的人才—既要有高学历，同时最好还有大规模数据处理经验。因此很多企业会通过内部挖掘。

2014年8月，阿里巴巴举办了一个大数据竞赛，把天猫平台上的数据拿出来，去除敏感问题后，放到云计算平台上交予7000多支队伍进行比赛，比赛分为内部赛和外部赛。“通过这个方式来激励内部员工，同时也发现外部人才，让各行业的大数据工程师涌现出来。”

颜莉萍（Nicole Yan）建议，目前长期从事数据库管理、挖掘、编程工作的人，包括传统的量化分析师、Hadoop方面的工程师，以及任何在工作中需要通过数据来进行判断决策的管理者，比如某些领域的运营经理等，都可以尝试该职位，而各个领域的达人只要学会运用数据，也可以成为大数据工程师。

2.薪酬待遇

作为IT类职业中的“大熊猫”，大数据工程师的收入待遇可以说达到了同类的顶级。根据颜莉萍（Nicole Yan）的观察，国内IT、通讯、行业招聘中，有10%都是和大数据相关的，且比例还在上升。颜莉萍（Nicole Yan）表示，“大数据时代的到来很突然，在国内发展势头激进，而人才却非常有限，现在完全是供不应求的状况。”在美国，大数据工程师平均每年薪酬高达17.5万美元，而据了解，在国内顶尖互联网类公司，同一个级别大数据工程师的薪酬可能要比其他职位高20%至30%，且颇受企业重视。

3.职业发展路径

由于大数据人才数量较少，因此大多数公司的数据部门一般都是扁平化的层级模式，大致分为数据分析师、资深研究员、部门总监3个级别。大公司可能按照应用领域的维度来划分不同团队，而在小公司则需要身兼数职。有些特别强调大数据战略的互联网公司则会另设最高职位—如阿里巴巴的首席数据官。“这个职位的大部分人会往研究方向发展，成为重要数据战略人才。”颜莉萍（Nicole Yan）说。另一方面，大数据工程师对商业和产品的理解，并不亚于业务部门员工，因此也可转向产品部或市场部，乃至上升为公司的高级管理层。

❷ 大数据工程师未来职业规划

想了解数据分析工程师的职业规划或学习计划，由此来提升自己的技能和专业知识，我觉得最准确最有针对性一个方法就是查阅招聘岗位的工作要求，这样我们就可以有的放矢地好好专研自己的学习。我们看一下以下这条招聘要求：
1.负责大数据平台的规划、分析、设计工作，把握整体架构，进行相关技术方案文档的撰写；
2.负责大数据平台的部署、开发、维护工作；
3.与BI分析人员协作，完成面向业务目标的数据分析模型定义和算法实施工作；
4.承担相关技术领域的探索与储备。
任职要求：
1.大学本科以上学历，熟练掌握C/C++或者java；
2.熟悉各种常用数据结构及算法，对linux下的网络数据库开发有足够经验；
3.有2年以上C++实战经验者优先；
4.有大数据挖据方面经验和技能者优先；如hadoop、hbase、hive等；
5.善于与其他部门的成员沟通、协作。
还有一个招聘要求是：
岗位职责：
1、理解并挖掘用户需求，进行数据建模；
2、利用专业统计、分析工具从海量数据中总结规律、挖掘潜在价值，提供决策依据。
任职要求：
1、数学类、统计类、计算机类、人工智能类相关专业本科及以上学历，2年左右专职数据分析、挖掘经验，优秀的应届硕士也可；
2、良好的数据敏感性，善于从海量数据中提取有效信息进行分析挖掘和建模；
3、熟练掌握任一种分析工具，例SPSS、SAS、R语言、MatLab；
4、熟悉数据库技术，如oracle、SQL、MongoDB；
5、对于数学建模、数据挖掘、Hadoop大数据有经验者优先。
我想，你看到这，应该是对数据分析工程师有了非常明晰的看法，好好加油ba !

❸ 做大数据开发工程师有前途吗

1.如何成为大数据工程师
由于目前大数据人才匮乏，对于公司来说，很难招聘到合适的人才—既要有高学历，同时最好还有大规模数据处理经验。因此很多企业会通过内部挖掘。
2014年8月，阿里巴巴举办了一个大数据竞赛，把天猫平台上的数据拿出来，去除敏感问题后，放到云计算平台上交予7000多支队伍进行比赛，比赛分为内部赛和外部赛。“通过这个方式来激励内部员工，同时也发现外部人才，让各行业的大数据工程师涌现出来。”
目前长期从事数据库管理、挖掘、编程工作的人，包括传统的量化分析师、Hadoop方面的工程师，以及任何在工作中需要通过数据来进行判断决策的管理者，比如某些领域的运营经理等，都可以尝试该职位，而各个领域的达人只要学会运用数据，也可以成为大数据工程师。
2.薪酬待遇
作为IT类职业中的“大熊猫”，大数据工程师的收入待遇可以说达到了同类的顶级。国内IT、通讯、行业招聘中，有10%都是和大数据相关的，且比例还在上升。大数据时代的到来很突然，在国内发展势头激进，而人才却非常有限，现在完全是供不应求的状况。在美国，大数据工程师平均每年薪酬高达17.5万美元，而据了解，在国内顶尖互联网类公司，同一个级别大数据工程师的薪酬可能要比其他职位高20%至30%，且颇受企业重视。
3.职业发展路径
由于大数据人才数量较少，因此大多数公司的数据部门一般都是扁平化的层级模式，大致分为数据分析师、资深研究员、部门总监3个级别。大公司可能按照应用领域的维度来划分不同团队，而在小公司则需要身兼数职。有些特别强调大数据战略的互联网公司则会另设最高职位—如阿里巴巴的首席数据官。这个职位的大部分人会往研究方向发展，成为重要数据战略人才。另一方面，大数据工程师对商业和产品的理解，并不亚于业务部门员工，因此也可转向产品部或市场部，乃至上升为公司的高级管理层。

❹ 大数据工程师的职业发展前景如何

我们都知道，大数据现在是非常火热的，基本上是人尽皆知，很多人也都非常想加入这个行业，成为一名优秀合格的大数据工程师。从目前的情况来看，由于现今大市场环境下大数据人才匮乏，对于公司来说，很难招聘到合适的人才（既要有高学历，同时最好还有大规模数据处理经验），这也就为那些正在成为大数据工程师的朋友提供了一个很好的职业稀缺环境。那么大数据工程师的职业发展前景具体如何呢？
大数据工程师的前途还是很明朗的，成为大数据工程师如果有相关方面的经验的话还是比较简单的。目前长期从事数据库管理、挖掘、编程工作的人，包括传统的量化分析师方面的工程师，以及任何在工作中需要通过数据来进行判断决策的管理者，比如某些领域的运营经理等，都可以尝试该职位，而各个领域的达人只要学会运用数据，也可以成为大数据工程师。
大数据工程师在薪酬待遇也是很有优势的，可以说，大数据工程师在IT类职业中比较稀缺的，大数据工程师的收入待遇可以说达到了同类的顶级。根据颜莉萍的观察，国内IT、通讯、行业招聘中，有10％都是和大数据相关的，且比例还在上升。大数据时代的到来很突然，在国内发展势头激进，而人才却非常有限，现在完全是供不应求的状况。在美国，大数据工程师平均每年薪酬高达17.5万美元，而据了解，在国内顶尖互联网类公司，同一个级别大数据工程师的薪酬可能要比其他职位高很多。
在职业发展路径上，由于大数据人才数量较少，因此大多数公司的数据部门一般都是扁平化的层级模式，大致分为数据分析师、资深研究员、部门总监3个级别。大公司可能按照应用领域的维度来划分不同团队，而在小公司则需要身兼数职。这个职位的大部分人会往研究方向发展，成为重要数据战略人才。另一方面，大数据工程师对商业和产品的理解，并不亚于业务部门员工，因此也可转向产品部或市场部，乃至上升为公司的高级管理层。
关于大数据工程师的职业发展问题小编就为大家介绍这么多。可以看到，大数据工程师未来的发展前景还是非常美好的，并且薪资待遇也非常的好，这也是为什么这么多人争相加入到这一行业中的重要原因之一。如果大家心存志远的话，可以选择大数据工程师作为自己职业生涯的长远规划哦。

❺ 2021年大数据工程师好不好找工作

1、一线城市就业机会多
据报告显示，985、211高校在内的重点高校大学毕业生去往一线城市的比例很高，非重点大学毕业的大学生也有大部分毕业后去往一线城市。一线城市在科技产业、金融领域、互联网领域处于国家前端的优势。一线城市是国内优秀企业的集聚地，有非常多的大企业对人才的需求量大，就业机会多。
2、大数据工程师人才缺少
大数据人才稀少，大数据开发面临巨大人才缺口，目前各个领域都需要大数据技术来支持，而大数据人才缺口达130万，很多企业对大数据工程师求之不得。人才的培养需要理论教学和实践练习相结合，也就是需要时间，大数据培训机构应用而生。国内IT、通讯、行业招聘中，有10%都是和大数据相关的，且比例还在上升。大数据时代的到来很突然，在国内发展势头激进，而人才却非常有限，现在完全是供不应求的状况。
3、一线城市是高新科技的集聚地
科技的优势改变了世界，一线城市是高新科技的集聚地，集中了中国最顶尖的科研机构，高等院校，以及资深高科技企业，引领了中国科技发展的潮流，引领中国企业的发展潮流。由于大数据人才数量较少，因此一线城市大多数公司的数据部门一般都是扁平化的层级模式，大致分为数据分析师、资深研究员、部门总监3个级别。大数据战略的互联网公司则会另设最高职位—如阿里巴巴的首席数据官。大数据工程师对商业和产品的理解，并不亚于业务部门员工，因此也可转向产品部或市场部，乃至上升为公司的高级管理层。

❻ 大数据工程师要掌握什么

已经身处这个行业的专家给出了一些人才需求的大体框架，包括要有计算版机编码能力、数学权及统计学相关背景；学历并不是最主要的因素，能有大规模处理数据的经验并且有喜欢在数据海洋中寻宝的好奇心会更适合这个工作。

此外，一个优秀的大数据工程师要具备一定的逻辑分析能力，并能迅速定位某个商业问题的关键属性和决定因素。

大数据必备技能：

❼ 大数据的就业前景怎么样

未来十年大数据的发展前景都非常好，目前行业需求大，人才十分缺乏

1、市场需版求大

随着信息产业权的迅猛发展，行业人才需求量也在逐年扩大。据国内权威数据统计，未来五年，我国信息化人才总需求量高达1500万— 2000万人。以大数据分析为例，我国大数据人才需求以每年递增20%的速度增长，每年新增需求近百万。

2、人才紧缺

大数据人才需要一定的技术性，然而高校培养出来的人才和企业所需的人才严重不符，导致大数据人才奇缺，因此一个熟练的大数据技术工程师，特别受用人单位的重视。

3、待遇好

市场经济高速发展的今天，大数据行业以其超强的发展势头，成为目前最具前景的高薪行业之一，大数据分析、大叔就开发等大数据人才必将成为市场紧缺型人才，发展前景好，薪资水平也水涨船高。

❽ 学完大数据能找什么样的工作

我们知道大数据的火爆，知道大数据的就业前景好，但学习大数据能找什么工作呢？这个是很多学生的困惑。为学生提供了以下几个就业方向。

当前医疗行业、能源行业、通信行业、零售业、金融行业、体育行业等各行业都可以从其数据的采集、传输、存储、分析等各个环节产生巨大的经济价值，而提供大数据基础设施的企业、大数据软件技术服务的企业、行业大数据内容咨询服务的企业都将从大数据的广泛应用而得到迅速发展。
学习大数据可以从事很多工作，比如说：hadoop 研发工程师、大数据研发工程师、大数据分析工程师、数据库工程师、hadoop运维工程师、大数据运维工程师、java大数据工程师、spark工程师等等都是我们可以从事的工作岗位！不同的岗位，所具备的技术知识也是不一样的，需要从各个方向学习，逐个击破！
比如说：Hadoop开发工程师
你需要具备一下技术：
a. 基于hadoop、hive等构建数据分析平台，进行数据平台架构设计、开发分布式计算业务;
b. 应用大数据、数据挖掘、分析建模等技术，对海量数据进行挖掘，发现其潜在的关联规则;
c. 对hadoop、hive、hbase、Map/Rece相关产品进行预研、开发;
d. 通过Hadoop相关技术解决海量数据处理问题、大数据量的分析。
e. Hadoop相关业务脚本的性能优化与提升，不断提高系统运行效率;
数据工程师
职责：
a. 分析各类用户不断变化的行为;
b. 预测各类营销对用户的影响，定位精准市场投放;
c. 帮助实现自动化监控平台。
Hadoop运维工程师
你需要具备以下技术知识：
a. 平台大数据环境的部署维护和技术支持;
b. 应用故障的处理跟踪及统计汇总分析;
c. 应用安全，数据的日常备份和应急恢复;
数据挖掘分析师
你需要具备以下技术：
a.对优先考虑的账户进行统计分析，从而更大限度的成功化。
b.与主管或客户端沟通行动计划，并找出需要改进的地方。
c.执行战略数据分析和研究，以支持业务需求。
d.找准机会从而用复杂的统计建模提高生产率。
e.浏览数据来认准机会并提高业务成效。
f.指定业务流程，目标和战略的理解，以提供分析和解释。
g. 针对内部讨论的理解，在适当情况下获得业务需求和必要的分析。
正所谓，术业有专攻，即使同为大数据技术，也是有不一样的，主要还是看自己感兴趣的方向！

❾ 大数据工程师到底是什么

用阿里巴巴集团研究员薛贵荣的话来说，大数据工程师就是一群“玩数据”的人，内玩出数据容的商业价值，让数据变成生产力。大数据和传统数据的最大区别在于，它是在线的、实时的，规模海量且形式不规整，无章法可循，因此“会玩”这些数据的人就很重要。

沈志勇认为如果把大数据想象成一座不停累积的矿山，那么大数据工程师的工作就是，“第一步，定位并抽取信息所在的数据集，相当于探矿和采矿。第二步，把它变成直接可以做判断的信息，相当于冶炼。最后是应用，把数据可视化等。”

因此分析历史、预测未来、优化选择，这是大数据工程师在“玩数据”时最重要的三大任务。通过这三个工作方向，他们帮助企业做出更好的商业决策。