Ⅰ 大数据工程师到底是什么
用阿里巴巴集团研究员薛贵荣的话来说，大数据工程师就是一群“玩数据”的人，内玩出数据容的商业价值，让数据变成生产力。大数据和传统数据的最大区别在于，它是在线的、实时的，规模海量且形式不规整，无章法可循，因此“会玩”这些数据的人就很重要。
沈志勇认为如果把大数据想象成一座不停累积的矿山，那么大数据工程师的工作就是，“第一步，定位并抽取信息所在的数据集，相当于探矿和采矿。第二步，把它变成直接可以做判断的信息，相当于冶炼。最后是应用，把数据可视化等。”
因此分析历史、预测未来、优化选择，这是大数据工程师在“玩数据”时最重要的三大任务。通过这三个工作方向，他们帮助企业做出更好的商业决策。
Ⅱ 大数据时代 数据堪称第一生产力
大数据时代：数据堪称第一生产力
在大数据一统天下的时代，企业对大数据愈加依赖，数据的价值正在凸显，大数据时代下的数据堪称第一生产力，数据已经成为重要的战略资产。
数据是人类活动在网络空间的映射，蕴含人类生产、生活的规律，挖掘数据潜在价值，对国家治理、社会管理、企业决策和个人生活影响深远。世界经济论坛的报告认为大数据为新财富，价值堪比石油；商业版图由此被重新划定，通晓如何利用这些数据的企业将成为最强者。
人类进入大数据时代。随着互联网、移动互联网和物联网的广泛而深入地应用，人类活动的踪迹加快在网络空间的映射，网络浏览、行车轨迹、购物行为等等均留下数据记录。目前，全球数据呈现爆发式增长态势，人类社会迈入大数据时代；全球每18个月新增数据量是人类有史以来全部数据量的总和。大数据的核心是数据，与大小无关，为区别于大众思维中的“数据”、“海量数据”，业界发明“大数据”一词取而代之。
大数据在消费IT领域的作用更加明显。只要你用PC上网或手机浏览信息，你便在网络上处处留照了，性别、年龄、爱好、踪迹、信用等等便被大数据刻画的一览无余，恭喜你已经成为数字透明人了！可能你都不知道自己下一步要干什么，产品经销商借助搜索引擎、电子商务平台、旅游网站的数据根据你的浏览行为已经在为你张罗生日、餐饮、旅游、结婚、生子、购房、购车了，特价机票、婚纱、尿不湿、奶粉、海景房等广告已经为你编排好了。
大数据正在高速发展之中，作为第一生产力的数据，对于传统产业而言，不仅仅是产业升级的助推器，也是新兴产业孕育的催化剂。数据已成为与矿物和化学元素一样的原始材料，正在形成数据服务、数据探矿、数据化学、数据材料、数据制药等一系列战略性新兴产业，数据生产力效应开始显现。
Ⅲ 大数据的运用将成为未来竞争的基础
大数据的运用将成为未来竞争的基础
大数据的使用正成为领先企业在业绩方面超越其同行的一种重要方式。对于企业来说，大数据的运用将成为未来竞争和增长的基础。例如，我们估计，积极使用大数据的零售商具有将其经营利润提高60%以上的潜力。我们曾见过领先零售商（例如英国的Tesco）通过使用大数据从当地竞争对手处赢得市场份额；其他行业中也有很多例子，例如金融服务业及保险业。我们预计，各个部门中都会出现价值向领先的大数据使用者聚集、而落后者出现价值损失的趋势，这方面的证据日渐明显5.
具有前瞻性思维的领先者可以着手积极打造其组织的大数据能力。这一努力需要时间，但是，从长期看，开发利用大数据的卓越能力所产生的影响将会带来更强的竞争优势，因此，值得为此投资。反之亦然，在大数据的世界中，不能充分发展自己能力的竞争对手将会落后。
大数据还将有助于创造新的增长机会和全新的企业类别，例如，汇聚和分析新获取的行业数据流的企业。许多此类企业将成为位于大规模信息流中央的企业，可以在这里获取并分析有关产品和服务、买主和供应商以及消费者偏好和意图的数据。此类例证可能包括与购买众多产品和服务的大量消费者建立界面的企业、促成全球供应链的企业、处理数以百万计的交易的企业，或者提供消费者数字体验平台的企业。这些企业将成为把握大数据优势的企业。更多的企业将会发现自已拥有某种此类优势，这类企业的数量比人们一开始以为的更多。许多企业可以掌握由其产品和服务生成的宝贵的数据池。网络甚至可以将实体产品连接起来，使得这些产品能够报告自己的序列号、发货日期、使用次数，等等。
这些机会中有些将会产生新的价值来源，另外，有些将会导致价值在行业内出现重大转移。例如，那些汇聚数据并进行提高医疗卫生效率所必需的分析的诊所信息提供商，至2020年可以在价值100亿美元的市场中竞争。那些把握了创造价值所必需的数据的先行者可能收获最大的收益。从竞争力和获取价值的潜力的角度来看，所有企业都需要认真对待大数据。在多数行业中，站稳脚跟的竞争者与新进者将同样利用数据驱动的战略进行创新、竞争以及获取价值。事实上，在所考察的每一个部门中，我们都发现了此类抢占先机利用数据的例子。
Ⅳ 如何成为一名大数据工程师
大数据是眼下非常时髦的技术名词，与此同时自然也催生出了一些与大数据处理相关的职业，通过对数据的挖掘分析来影响企业的商业决策。
这群人在国外被叫做数据科学家（Data Scientist），这个头衔最早由D.J.Pati和Jeff Hammerbacher于2008年提出，他们后来分别成为了领英（LinkedIn）和Facebook数据科学团队的负责人。而数据科学家这个职位目前也已经在美国传统的电信、零售、金融、制造、物流、医疗、教育等行业里开始创造价值。
不过在国内，大数据的应用才刚刚萌芽，人才市场还不那么成熟，“你很难期望有一个全才来完成整个链条上的所有环节。更多公司会根据自己已有的资源和短板，招聘能和现有团队互补的人才。”领英（LinkedIn）中国商务分析及战略总监王昱尧对《第一财经周刊》说。
数据工程师是做什么的？于是每家公司对大数据工作的要求不尽相同：有的强调数据库编程、有的突出应用数学和统计学知识、有的则要求有咨询公司或投行相关的经验、有些是希望能找到懂得产品和市场的应用型人才。正因为如此，很多公司会针对自己的业务类型和团队分工，给这群与大数据打交道的人一些新的头衔和定义：数据挖掘工程师、大数据专家、数据研究员、用户分析专家等都是经常在国内公司里出现的Title，我们将其统称为“大数据工程师”。
由于国内的大数据工作还处在一个有待开发的阶段，因此能从其中挖掘出多少价值完全取决于工程师的个人能力。已经身处这个行业的专家给出了一些人才需求的大体框架，包括要有计算机编码能力、数学及统计学相关背景，当然如果能对一些特定领域或行业有比较深入的了解，对于其快速判断并抓准关键因素则更有帮助。
虽然对于一些大公司来说，拥有硕博学历的公司人是比较好的选择，不过阿里巴巴集团研究员薛贵荣强调，学历并不是最主要的因素，能有大规模处理数据的经验并且有喜欢在数据海洋中寻宝的好奇心会更适合这个工作。
除此之外，一个优秀的大数据工程师要具备一定的逻辑分析能力，并能迅速定位某个商业问题的关键属性和决定因素。“他得知道什么是相关的，哪个是重要的，使用什么样的数据是最有价值的，如何快速找到每个业务最核心的需求。”联合国网络大数据联合实验室数据科学家沈志勇说。学习能力能帮助大数据工程师快速适应不同的项目，并在短时间内成为这个领域的数据专家；沟通能力则能让他们的工作开展地更顺利，因为大数据工程师的工作主要分为两种方式：由市场部驱动和由数据分析部门驱动，前者需要常常向产品经理了解开发需求，后者则需要找运营部了解数据模型实际转化的情况。
你可以将以上这些要求看做是成为大数据工程师的努力方向，因为根据万宝瑞华管理合伙人颜莉萍（Nicole Yan）的观察，这是一个很大的人才缺口。目前国内的大数据应用多集中在互联网领域，有超过56%的企业在筹备发展大数据研究，“未来5年，94%的公司都会需要数据科学家。”颜莉萍（Nicole Yan）说。因此她也建议一些原本从事与数据工作相关的公司人可以考虑转型。
用阿里巴巴集团研究员薛贵荣的话来说，大数据工程师就是一群“玩数据”的人，玩出数据的商业价值，让数据变成生产力。大数据和传统数据的最大区别在于，它是在线的、实时的，规模海量且形式不规整，无章法可循，因此“会玩”这些数据的人就很重要。
沈志勇认为如果把大数据想象成一座不停累积的矿山，那么大数据工程师的工作就是，“第一步，定位并抽取信息所在的数据集，相当于探矿和采矿。第二步，把它变成直接可以做判断的信息，相当于冶炼。最后是应用，把数据可视化等。”
因此分析历史、预测未来、优化选择，这是大数据工程师在“玩数据”时最重要的三大任务。通过这三个工作方向，他们帮助企业做出更好的商业决策。
1.找出过去事件的特征
大数据工程师一个很重要的工作，就是通过分析数据来找出过去事件的特征。比如，腾讯的数据团队正在搭建一个数据仓库，把公司所有网络平台上数量庞大、不规整的数据信息进行梳理，总结出可供查询的特征，来支持公司各类业务对数据的需求，包括广告投放、游戏开发、社交网络等。
找出过去事件的特征，最大的作用是可以帮助企业更好地认识消费者。通过分析用户以往的行为轨迹，就能够了解这个人，并预测他的行为。“你可以知道他是什么样的人、他的年纪、兴趣爱好，是不是互联网付费用户、喜欢玩什么类型的游戏，平常喜欢在网上做什么事情。”腾讯云计算有限公司北京研发中心总经理郑立峰对《第一财经周刊》说。下一步到了业务层面，就可以针对各类人群推荐相关服务，比如手游，或是基于不同特征和需求衍生出新的业务模式，比如微信的电影票业务。
2.预测未来可能发生的事情
通过引入关键因素，大数据工程师可以预测未来的消费趋势。在阿里妈妈的营销平台上，工程师正试图通过引入气象数据来帮助淘宝卖家做生意。“比如今年夏天不热，很可能某些产品就没有去年畅销，除了空调、电扇，背心、游泳衣等都可能会受其影响。那么我们就会建立气象数据和销售数据之间的关系，找到与之相关的品类，提前警示卖家周转库存。”薛贵荣说。
在网络，沈志勇支持“网络预测”部分产品的模型研发，试图用大数据为更广泛的人群服务。已经上线的包括世界杯预测、高考预测、景点预测等。以网络景点预测为例，大数据工程师需要收集所有可能影响一段时间内景点人流量的关键因素进行预测，并为全国各个景点未来的拥挤度分级—在接下来的若干天时间里，它究竟是畅通、拥挤，还是一般拥挤？
3.找出最优化的结果
根据不同企业的业务性质，大数据工程师可以通过数据分析来达到不同的目的。
以腾讯来说，郑立峰认为能反映大数据工程师工作的最简单直接的例子就是选项测试（AB Test），即帮助产品经理在A、B两个备选方案中做出选择。在过去，决策者只能依据经验进行判断，但如今大数据工程师可以通过大范围地实时测试—比如，在社交网络产品的例子中，让一半用户看到A界面，另一半使用B界面，观察统计一段时间内的点击率和转化率，以此帮助市场部做出最终选择。
作为电商的阿里巴巴，则希望通过大数据锁定精准的人群，帮助卖家做更好的营销。“我们更期待的是你能找到这样一批人，比起现有的用户，这些人对产品更感兴趣。”薛贵荣说。一个淘宝的实例是，某人参卖家原来推广的目标人群是产妇，但工程师通过挖掘数据之间的关联性后发现，针对孕妇群体投放的营销转化率更高。
需要具备的能力
1.数学及统计学相关的背景
就我们采访过的BAT三家互联网大公司来说，对于大数据工程师的要求都是希望是统计学和数学背景的硕士或博士学历。沈志勇认为，缺乏理论背景的数据工作者，更容易进入一个技能上的危险区域（Danger Zone）—一堆数字，按照不同的数据模型和算法总能捯饬出一些结果来，但如果你不知道那代表什么，就并不是真正有意义的结果，并且那样的结果还容易误导你。“只有具备一定的理论知识，才能理解模型、复用模型甚至创新模型，来解决实际问题。”沈志勇说。
2.计算机编码能力
实际开发能力和大规模的数据处理能力是作为大数据工程师的一些必备要素。“因为许多数据的价值来自于挖掘的过程，你必须亲自动手才能发现金子的价值。”郑立峰说。
举例来说，现在人们在社交网络上所产生的许多记录都是非结构化的数据，如何从这些毫无头绪的文字、语音、图像甚至视频中攫取有意义的信息就需要大数据工程师亲自挖掘。即使在某些团队中，大数据工程师的职责以商业分析为主，但也要熟悉计算机处理大数据的方式。
3.对特定应用领域或行业的知识
在颜莉萍（Nicole Yan）看来，大数据工程师这个角色很重要的一点是，不能脱离市场，因为大数据只有和特定领域的应用结合起来才能产生价值。所以，在某个或多个垂直行业的经历能为应聘者积累对行业的认知，对于之后成为大数据工程师有很大帮助，因此这也是应聘这个岗位时较有说服力的加分项。
“他不能只是懂得数据，还要有商业头脑，不论对零售、医药、游戏还是旅游等行业，能就其中某些领域有一定的理解，最好还是与公司的业务方向一致的，”就此薛贵荣还打了个比方，“过去我们说一些奢侈品店员势利，看人一眼就知道买得起买不起，但这群人恰恰是有敏锐度的，我们认为他们是这个行业的专家。又比如对医疗行业了解的人，他在考虑医疗保险业务时，不仅会和人们医院看病的记录相关，也会考虑饮食数据，这些都是基于对该领域的了解。”
职业发展1.如何成为大数据工程师
由于目前大数据人才匮乏，对于公司来说，很难招聘到合适的人才—既要有高学历，同时最好还有大规模数据处理经验。因此很多企业会通过内部挖掘。
2014年8月，阿里巴巴举办了一个大数据竞赛，把天猫平台上的数据拿出来，去除敏感问题后，放到云计算平台上交予7000多支队伍进行比赛，比赛分为内部赛和外部赛。“通过这个方式来激励内部员工，同时也发现外部人才，让各行业的大数据工程师涌现出来。”
颜莉萍（Nicole Yan）建议，目前长期从事数据库管理、挖掘、编程工作的人，包括传统的量化分析师、Hadoop方面的工程师，以及任何在工作中需要通过数据来进行判断决策的管理者，比如某些领域的运营经理等，都可以尝试该职位，而各个领域的达人只要学会运用数据，也可以成为大数据工程师。
2.薪酬待遇
作为IT类职业中的“大熊猫”，大数据工程师的收入待遇可以说达到了同类的顶级。根据颜莉萍（Nicole Yan）的观察，国内IT、通讯、行业招聘中，有10%都是和大数据相关的，且比例还在上升。颜莉萍（Nicole Yan）表示，“大数据时代的到来很突然，在国内发展势头激进，而人才却非常有限，现在完全是供不应求的状况。”在美国，大数据工程师平均每年薪酬高达17.5万美元，而据了解，在国内顶尖互联网类公司，同一个级别大数据工程师的薪酬可能要比其他职位高20%至30%，且颇受企业重视。
3.职业发展路径
由于大数据人才数量较少，因此大多数公司的数据部门一般都是扁平化的层级模式，大致分为数据分析师、资深研究员、部门总监3个级别。大公司可能按照应用领域的维度来划分不同团队，而在小公司则需要身兼数职。有些特别强调大数据战略的互联网公司则会另设最高职位—如阿里巴巴的首席数据官。“这个职位的大部分人会往研究方向发展，成为重要数据战略人才。”颜莉萍（Nicole Yan）说。另一方面，大数据工程师对商业和产品的理解，并不亚于业务部门员工，因此也可转向产品部或市场部，乃至上升为公司的高级管理层。
Ⅳ 大数据重塑制造业
大数据重塑制造业
让企业见到效益的技术才能真正算得上成功。邬贺铨院士在首届数字中国建设峰会大数据分论坛上与大家分享了大数据与企业数字化转型的一系列生动故事：苏州协鑫公司专注光伏切片，利用阿里开发的ET大脑分析0.2毫米厚度硅片长期积累的数据，从上千个生产参数中找出60个关键参数，通过优化生产流程，良品率提升1%，实现每年上亿元利润；联想集团利用其全球数据中心掌握的数据，与宝钢合作建立钢铁销量预测系统，通过机器学习和图谱分析找出关联，预测钢铁市场需求，预测精度92.2%，库存周期缩短20%，客户采购资金节约上亿元。
众多传统制造企业利用大数据成功实现数字转型表明，随着“智能制造”快速普及，工业与互联网深度融合创新，工业大数据技术及应用将成为未来提升制造业生产力、竞争力、创新能力的关键要素。有专家提出，制造业的大数据规模超过其他行业，且未来10年工业大数据增速要快于消费大数据。
大数据在工业领域的应用，实现了工业从研发、设计、生产、运营到服务全过程智能化，提升生产效率，降低资源消耗，提高产品质量。同时，数据驱动制造业生态变革，汇聚协作企业、产品、用户等产业链上的资源，通过平台开放共享，基于数据实现制造资源优化配置；还能实现产品、生产和服务创新，产生一系列新模式和新业态。《2017中国工业大数据产业发展概要》显示，2016年中国工业大数据市场规模已达150亿元，2020年预计将达到822亿元，在行业应用中，预计到2020年工业大数据的占比将达到6.64%。
不过，当前我国绝大多数工业企业的大数据发展应用还处于起步阶段，对于为什么要用大数据、搜集哪些大数据、如何利用大数据仍然不明晰，滞后于消费互联网。工业场景的高度复杂使得工业大数据应用面临更多困难。诸如由于制造业作业场景非常复杂，不同行业所使用的设备和工艺差别很大，数据采集难度大；大规模的工业数据量对数据存储、传输提出了更高要求；企业上工业云意识薄弱造成数据孤岛，以及数据安全存在问题等。
下一步，工业大数据的核心目标将是围绕不断优化制造资源的配置效率，探索方法、路径与模式，实现更好的质量、更低的成本、更快的交付、更多的满意度，提高制造业全要素生产率。利用我国工业门类齐全、互联网和电子商务的比较优势，实现新工业革命时代的“换道超车”。
Ⅵ 大数据时代发展历程是什么
可按照时间点划分大数据的发展历程。