Ⅰ 大數據工程師到底是什麼
用阿里巴巴集團研究員薛貴榮的話來說，大數據工程師就是一群「玩數據」的人，內玩出數據容的商業價值，讓數據變成生產力。大數據和傳統數據的最大區別在於，它是在線的、實時的，規模海量且形式不規整，無章法可循，因此「會玩」這些數據的人就很重要。
沈志勇認為如果把大數據想像成一座不停累積的礦山，那麼大數據工程師的工作就是，「第一步，定位並抽取信息所在的數據集，相當於探礦和采礦。第二步，把它變成直接可以做判斷的信息，相當於冶煉。最後是應用，把數據可視化等。」
因此分析歷史、預測未來、優化選擇，這是大數據工程師在「玩數據」時最重要的三大任務。通過這三個工作方向，他們幫助企業做出更好的商業決策。
Ⅱ 大數據時代 數據堪稱第一生產力
大數據時代：數據堪稱第一生產力
在大數據一統天下的時代，企業對大數據愈加依賴，數據的價值正在凸顯，大數據時代下的數據堪稱第一生產力，數據已經成為重要的戰略資產。
數據是人類活動在網路空間的映射，蘊含人類生產、生活的規律，挖掘數據潛在價值，對國家治理、社會管理、企業決策和個人生活影響深遠。世界經濟論壇的報告認為大數據為新財富，價值堪比石油；商業版圖由此被重新劃定，通曉如何利用這些數據的企業將成為最強者。
人類進入大數據時代。隨著互聯網、移動互聯網和物聯網的廣泛而深入地應用，人類活動的蹤跡加快在網路空間的映射，網路瀏覽、行車軌跡、購物行為等等均留下數據記錄。目前，全球數據呈現爆發式增長態勢，人類社會邁入大數據時代；全球每18個月新增數據量是人類有史以來全部數據量的總和。大數據的核心是數據，與大小無關，為區別於大眾思維中的「數據」、「海量數據」，業界發明「大數據」一詞取而代之。
大數據在消費IT領域的作用更加明顯。只要你用PC上網或手機瀏覽信息，你便在網路上處處留照了，性別、年齡、愛好、蹤跡、信用等等便被大數據刻畫的一覽無余，恭喜你已經成為數字透明人了！可能你都不知道自己下一步要干什麼，產品經銷商藉助搜索引擎、電子商務平台、旅遊網站的數據根據你的瀏覽行為已經在為你張羅生日、餐飲、旅遊、結婚、生子、購房、購車了，特價機票、婚紗、尿不濕、奶粉、海景房等廣告已經為你編排好了。
大數據正在高速發展之中，作為第一生產力的數據，對於傳統產業而言，不僅僅是產業升級的助推器，也是新興產業孕育的催化劑。數據已成為與礦物和化學元素一樣的原始材料，正在形成數據服務、數據探礦、數據化學、數據材料、數據制葯等一系列戰略性新興產業，數據生產力效應開始顯現。
Ⅲ 大數據的運用將成為未來競爭的基礎
大數據的運用將成為未來競爭的基礎
大數據的使用正成為領先企業在業績方面超越其同行的一種重要方式。對於企業來說，大數據的運用將成為未來競爭和增長的基礎。例如，我們估計，積極使用大數據的零售商具有將其經營利潤提高60%以上的潛力。我們曾見過領先零售商（例如英國的Tesco）通過使用大數據從當地競爭對手處贏得市場份額；其他行業中也有很多例子，例如金融服務業及保險業。我們預計，各個部門中都會出現價值向領先的大數據使用者聚集、而落後者出現價值損失的趨勢，這方面的證據日漸明顯5.
具有前瞻性思維的領先者可以著手積極打造其組織的大數據能力。這一努力需要時間，但是，從長期看，開發利用大數據的卓越能力所產生的影響將會帶來更強的競爭優勢，因此，值得為此投資。反之亦然，在大數據的世界中，不能充分發展自己能力的競爭對手將會落後。
大數據還將有助於創造新的增長機會和全新的企業類別，例如，匯聚和分析新獲取的行業數據流的企業。許多此類企業將成為位於大規模信息流中央的企業，可以在這里獲取並分析有關產品和服務、買主和供應商以及消費者偏好和意圖的數據。此類例證可能包括與購買眾多產品和服務的大量消費者建立界面的企業、促成全球供應鏈的企業、處理數以百萬計的交易的企業，或者提供消費者數字體驗平台的企業。這些企業將成為把握大數據優勢的企業。更多的企業將會發現自已擁有某種此類優勢，這類企業的數量比人們一開始以為的更多。許多企業可以掌握由其產品和服務生成的寶貴的數據池。網路甚至可以將實體產品連接起來，使得這些產品能夠報告自己的序列號、發貨日期、使用次數，等等。
這些機會中有些將會產生新的價值來源，另外，有些將會導致價值在行業內出現重大轉移。例如，那些匯聚數據並進行提高醫療衛生效率所必需的分析的診所信息提供商，至2020年可以在價值100億美元的市場中競爭。那些把握了創造價值所必需的數據的先行者可能收獲最大的收益。從競爭力和獲取價值的潛力的角度來看，所有企業都需要認真對待大數據。在多數行業中，站穩腳跟的競爭者與新進者將同樣利用數據驅動的戰略進行創新、競爭以及獲取價值。事實上，在所考察的每一個部門中，我們都發現了此類搶佔先機利用數據的例子。
Ⅳ 如何成為一名大數據工程師
大數據是眼下非常時髦的技術名詞，與此同時自然也催生出了一些與大數據處理相關的職業，通過對數據的挖掘分析來影響企業的商業決策。
這群人在國外被叫做數據科學家（Data Scientist），這個頭銜最早由D.J.Pati和Jeff Hammerbacher於2008年提出，他們後來分別成為了領英（LinkedIn）和Facebook數據科學團隊的負責人。而數據科學家這個職位目前也已經在美國傳統的電信、零售、金融、製造、物流、醫療、教育等行業里開始創造價值。
不過在國內，大數據的應用才剛剛萌芽，人才市場還不那麼成熟，「你很難期望有一個全才來完成整個鏈條上的所有環節。更多公司會根據自己已有的資源和短板，招聘能和現有團隊互補的人才。」領英（LinkedIn）中國商務分析及戰略總監王昱堯對《第一財經周刊》說。
數據工程師是做什麼的？於是每家公司對大數據工作的要求不盡相同：有的強調資料庫編程、有的突出應用數學和統計學知識、有的則要求有咨詢公司或投行相關的經驗、有些是希望能找到懂得產品和市場的應用型人才。正因為如此，很多公司會針對自己的業務類型和團隊分工，給這群與大數據打交道的人一些新的頭銜和定義：數據挖掘工程師、大數據專家、數據研究員、用戶分析專家等都是經常在國內公司里出現的Title，我們將其統稱為「大數據工程師」。
由於國內的大數據工作還處在一個有待開發的階段，因此能從其中挖掘出多少價值完全取決於工程師的個人能力。已經身處這個行業的專家給出了一些人才需求的大體框架，包括要有計算機編碼能力、數學及統計學相關背景，當然如果能對一些特定領域或行業有比較深入的了解，對於其快速判斷並抓准關鍵因素則更有幫助。
雖然對於一些大公司來說，擁有碩博學歷的公司人是比較好的選擇，不過阿里巴巴集團研究員薛貴榮強調，學歷並不是最主要的因素，能有大規模處理數據的經驗並且有喜歡在數據海洋中尋寶的好奇心會更適合這個工作。
除此之外，一個優秀的大數據工程師要具備一定的邏輯分析能力，並能迅速定位某個商業問題的關鍵屬性和決定因素。「他得知道什麼是相關的，哪個是重要的，使用什麼樣的數據是最有價值的，如何快速找到每個業務最核心的需求。」聯合國網路大數據聯合實驗室數據科學家沈志勇說。學習能力能幫助大數據工程師快速適應不同的項目，並在短時間內成為這個領域的數據專家；溝通能力則能讓他們的工作開展地更順利，因為大數據工程師的工作主要分為兩種方式：由市場部驅動和由數據分析部門驅動，前者需要常常向產品經理了解開發需求，後者則需要找運營部了解數據模型實際轉化的情況。
你可以將以上這些要求看做是成為大數據工程師的努力方向，因為根據萬寶瑞華管理合夥人顏莉萍（Nicole Yan）的觀察，這是一個很大的人才缺口。目前國內的大數據應用多集中在互聯網領域，有超過56%的企業在籌備發展大數據研究，「未來5年，94%的公司都會需要數據科學家。」顏莉萍（Nicole Yan）說。因此她也建議一些原本從事與數據工作相關的公司人可以考慮轉型。
用阿里巴巴集團研究員薛貴榮的話來說，大數據工程師就是一群「玩數據」的人，玩出數據的商業價值，讓數據變成生產力。大數據和傳統數據的最大區別在於，它是在線的、實時的，規模海量且形式不規整，無章法可循，因此「會玩」這些數據的人就很重要。
沈志勇認為如果把大數據想像成一座不停累積的礦山，那麼大數據工程師的工作就是，「第一步，定位並抽取信息所在的數據集，相當於探礦和采礦。第二步，把它變成直接可以做判斷的信息，相當於冶煉。最後是應用，把數據可視化等。」
因此分析歷史、預測未來、優化選擇，這是大數據工程師在「玩數據」時最重要的三大任務。通過這三個工作方向，他們幫助企業做出更好的商業決策。
1.找出過去事件的特徵
大數據工程師一個很重要的工作，就是通過分析數據來找出過去事件的特徵。比如，騰訊的數據團隊正在搭建一個數據倉庫，把公司所有網路平台上數量龐大、不規整的數據信息進行梳理，總結出可供查詢的特徵，來支持公司各類業務對數據的需求，包括廣告投放、游戲開發、社交網路等。
找出過去事件的特徵，最大的作用是可以幫助企業更好地認識消費者。通過分析用戶以往的行為軌跡，就能夠了解這個人，並預測他的行為。「你可以知道他是什麼樣的人、他的年紀、興趣愛好，是不是互聯網付費用戶、喜歡玩什麼類型的游戲，平常喜歡在網上做什麼事情。」騰訊雲計算有限公司北京研發中心總經理鄭立峰對《第一財經周刊》說。下一步到了業務層面，就可以針對各類人群推薦相關服務，比如手游，或是基於不同特徵和需求衍生出新的業務模式，比如微信的電影票業務。
2.預測未來可能發生的事情
通過引入關鍵因素，大數據工程師可以預測未來的消費趨勢。在阿里媽媽的營銷平台上，工程師正試圖通過引入氣象數據來幫助淘寶賣家做生意。「比如今年夏天不熱，很可能某些產品就沒有去年暢銷，除了空調、電扇，背心、游泳衣等都可能會受其影響。那麼我們就會建立氣象數據和銷售數據之間的關系，找到與之相關的品類，提前警示賣家周轉庫存。」薛貴榮說。
在網路，沈志勇支持「網路預測」部分產品的模型研發，試圖用大數據為更廣泛的人群服務。已經上線的包括世界盃預測、高考預測、景點預測等。以網路景點預測為例，大數據工程師需要收集所有可能影響一段時間內景點人流量的關鍵因素進行預測，並為全國各個景點未來的擁擠度分級—在接下來的若干天時間里，它究竟是暢通、擁擠，還是一般擁擠？
3.找出最優化的結果
根據不同企業的業務性質，大數據工程師可以通過數據分析來達到不同的目的。
以騰訊來說，鄭立峰認為能反映大數據工程師工作的最簡單直接的例子就是選項測試（AB Test），即幫助產品經理在A、B兩個備選方案中做出選擇。在過去，決策者只能依據經驗進行判斷，但如今大數據工程師可以通過大范圍地實時測試—比如，在社交網路產品的例子中，讓一半用戶看到A界面，另一半使用B界面，觀察統計一段時間內的點擊率和轉化率，以此幫助市場部做出最終選擇。
作為電商的阿里巴巴，則希望通過大數據鎖定精準的人群，幫助賣家做更好的營銷。「我們更期待的是你能找到這樣一批人，比起現有的用戶，這些人對產品更感興趣。」薛貴榮說。一個淘寶的實例是，某人參賣家原來推廣的目標人群是產婦，但工程師通過挖掘數據之間的關聯性後發現，針對孕婦群體投放的營銷轉化率更高。
需要具備的能力
1.數學及統計學相關的背景
就我們采訪過的BAT三家互聯網大公司來說，對於大數據工程師的要求都是希望是統計學和數學背景的碩士或博士學歷。沈志勇認為，缺乏理論背景的數據工作者，更容易進入一個技能上的危險區域（Danger Zone）—一堆數字，按照不同的數據模型和演算法總能捯飭出一些結果來，但如果你不知道那代表什麼，就並不是真正有意義的結果，並且那樣的結果還容易誤導你。「只有具備一定的理論知識，才能理解模型、復用模型甚至創新模型，來解決實際問題。」沈志勇說。
2.計算機編碼能力
實際開發能力和大規模的數據處理能力是作為大數據工程師的一些必備要素。「因為許多數據的價值來自於挖掘的過程，你必須親自動手才能發現金子的價值。」鄭立峰說。
舉例來說，現在人們在社交網路上所產生的許多記錄都是非結構化的數據，如何從這些毫無頭緒的文字、語音、圖像甚至視頻中攫取有意義的信息就需要大數據工程師親自挖掘。即使在某些團隊中，大數據工程師的職責以商業分析為主，但也要熟悉計算機處理大數據的方式。
3.對特定應用領域或行業的知識
在顏莉萍（Nicole Yan）看來，大數據工程師這個角色很重要的一點是，不能脫離市場，因為大數據只有和特定領域的應用結合起來才能產生價值。所以，在某個或多個垂直行業的經歷能為應聘者積累對行業的認知，對於之後成為大數據工程師有很大幫助，因此這也是應聘這個崗位時較有說服力的加分項。
「他不能只是懂得數據，還要有商業頭腦，不論對零售、醫葯、游戲還是旅遊等行業，能就其中某些領域有一定的理解，最好還是與公司的業務方向一致的，」就此薛貴榮還打了個比方，「過去我們說一些奢侈品店員勢利，看人一眼就知道買得起買不起，但這群人恰恰是有敏銳度的，我們認為他們是這個行業的專家。又比如對醫療行業了解的人，他在考慮醫療保險業務時，不僅會和人們醫院看病的記錄相關，也會考慮飲食數據，這些都是基於對該領域的了解。」
職業發展1.如何成為大數據工程師
由於目前大數據人才匱乏，對於公司來說，很難招聘到合適的人才—既要有高學歷，同時最好還有大規模數據處理經驗。因此很多企業會通過內部挖掘。
2014年8月，阿里巴巴舉辦了一個大數據競賽，把天貓平台上的數據拿出來，去除敏感問題後，放到雲計算平台上交予7000多支隊伍進行比賽，比賽分為內部賽和外部賽。「通過這個方式來激勵內部員工，同時也發現外部人才，讓各行業的大數據工程師涌現出來。」
顏莉萍（Nicole Yan）建議，目前長期從事資料庫管理、挖掘、編程工作的人，包括傳統的量化分析師、Hadoop方面的工程師，以及任何在工作中需要通過數據來進行判斷決策的管理者，比如某些領域的運營經理等，都可以嘗試該職位，而各個領域的達人只要學會運用數據，也可以成為大數據工程師。
2.薪酬待遇
作為IT類職業中的「大熊貓」，大數據工程師的收入待遇可以說達到了同類的頂級。根據顏莉萍（Nicole Yan）的觀察，國內IT、通訊、行業招聘中，有10%都是和大數據相關的，且比例還在上升。顏莉萍（Nicole Yan）表示，「大數據時代的到來很突然，在國內發展勢頭激進，而人才卻非常有限，現在完全是供不應求的狀況。」在美國，大數據工程師平均每年薪酬高達17.5萬美元，而據了解，在國內頂尖互聯網類公司，同一個級別大數據工程師的薪酬可能要比其他職位高20%至30%，且頗受企業重視。
3.職業發展路徑
由於大數據人才數量較少，因此大多數公司的數據部門一般都是扁平化的層級模式，大致分為數據分析師、資深研究員、部門總監3個級別。大公司可能按照應用領域的維度來劃分不同團隊，而在小公司則需要身兼數職。有些特別強調大數據戰略的互聯網公司則會另設最高職位—如阿里巴巴的首席數據官。「這個職位的大部分人會往研究方向發展，成為重要數據戰略人才。」顏莉萍（Nicole Yan）說。另一方面，大數據工程師對商業和產品的理解，並不亞於業務部門員工，因此也可轉向產品部或市場部，乃至上升為公司的高級管理層。
Ⅳ 大數據重塑製造業
大數據重塑製造業
讓企業見到效益的技術才能真正算得上成功。鄔賀銓院士在首屆數字中國建設峰會大數據分論壇上與大家分享了大數據與企業數字化轉型的一系列生動故事：蘇州協鑫公司專注光伏切片，利用阿里開發的ET大腦分析0.2毫米厚度矽片長期積累的數據，從上千個生產參數中找出60個關鍵參數，通過優化生產流程，良品率提升1%，實現每年上億元利潤；聯想集團利用其全球數據中心掌握的數據，與寶鋼合作建立鋼鐵銷量預測系統，通過機器學習和圖譜分析找出關聯，預測鋼鐵市場需求，預測精度92.2%，庫存周期縮短20%，客戶采購資金節約上億元。
眾多傳統製造企業利用大數據成功實現數字轉型表明，隨著「智能製造」快速普及，工業與互聯網深度融合創新，工業大數據技術及應用將成為未來提升製造業生產力、競爭力、創新能力的關鍵要素。有專家提出，製造業的大數據規模超過其他行業，且未來10年工業大數據增速要快於消費大數據。
大數據在工業領域的應用，實現了工業從研發、設計、生產、運營到服務全過程智能化，提升生產效率，降低資源消耗，提高產品質量。同時，數據驅動製造業生態變革，匯聚協作企業、產品、用戶等產業鏈上的資源，通過平台開放共享，基於數據實現製造資源優化配置；還能實現產品、生產和服務創新，產生一系列新模式和新業態。《2017中國工業大數據產業發展概要》顯示，2016年中國工業大數據市場規模已達150億元，2020年預計將達到822億元，在行業應用中，預計到2020年工業大數據的佔比將達到6.64%。
不過，當前我國絕大多數工業企業的大數據發展應用還處於起步階段，對於為什麼要用大數據、搜集哪些大數據、如何利用大數據仍然不明晰，滯後於消費互聯網。工業場景的高度復雜使得工業大數據應用面臨更多困難。諸如由於製造業作業場景非常復雜，不同行業所使用的設備和工藝差別很大，數據採集難度大；大規模的工業數據量對數據存儲、傳輸提出了更高要求；企業上工業雲意識薄弱造成數據孤島，以及數據安全存在問題等。
下一步，工業大數據的核心目標將是圍繞不斷優化製造資源的配置效率，探索方法、路徑與模式，實現更好的質量、更低的成本、更快的交付、更多的滿意度，提高製造業全要素生產率。利用我國工業門類齊全、互聯網和電子商務的比較優勢，實現新工業革命時代的「換道超車」。
Ⅵ 大數據時代發展歷程是什麼
可按照時間點劃分大數據的發展歷程。