大數據分析統計建模

① 大數據分析一般用什麼工具分析

在大數據處理分析過程中常用的六大工具：

1、

Hadoop 是一個能夠對大量數據進行分布式處理的軟體框架。但是 Hadoop 是以一種可靠、高效、可伸縮的方式進行處理的。Hadoop 是可靠的，因為它假設計算元素和存儲會失敗，因此它維護多個工作數據副本，確保能夠針對失敗的節點重新分布處理。Hadoop 是高效的，因為它以並行的方式工作，通過並行處理加快處理速度。Hadoop 還是可伸縮的，能夠處理 PB 級數據。此外，Hadoop 依賴於社區伺服器，因此它的成本比較低，任何人都可以使用。

2、HPCC

HPCC，High Performance Computing and Communications(高性能計算與通信)的縮寫。1993年，由美國科學、工程、技術聯邦協調理事會向國會提交了「重大挑戰項目：高性能計算與 通信」的報告，也就是被稱為HPCC計劃的報告，即美國總統科學戰略項目，其目的是通過加強研究與開發解決一批重要的科學與技術挑戰問題。HPCC是美國 實施信息高速公路而上實施的計劃，該計劃的實施將耗資百億美元，其主要目標要達到：開發可擴展的計算系統及相關軟體，以支持太位級網路傳輸性能，開發千兆 比特網路技術，擴展研究和教育機構及網路連接能力。

3、Storm

Storm是自由的開源軟體，一個分布式的、容錯的實時計算系統。Storm可以非常可靠的處理龐大的數據流，用於處理Hadoop的批量數據。Storm很簡單，支持許多種編程語言，使用起來非常有趣。

4、Apache Drill

為了幫助企業用戶尋找更為有效、加快Hadoop數據查詢的方法，Apache軟體基金會近日發起了一項名為「Drill」的開源項目。Apache Drill 實現了 Google's Dremel.

據Hadoop廠商MapR Technologies公司產品經理Tomer Shiran介紹，「Drill」已經作為Apache孵化器項目來運作，將面向全球軟體工程師持續推廣。

5、RapidMiner

RapidMiner是世界領先的數據挖掘解決方案，在一個非常大的程度上有著先進技術。它數據挖掘任務涉及范圍廣泛，包括各種數據藝術，能簡化數據挖掘過程的設計和評價。

6、Pentaho BI

Pentaho BI 平台不同於傳統的BI 產品，它是一個以流程為中心的，面向解決方案(Solution)的框架。其目的在於將一系列企業級BI產品、開源軟體、API等等組件集成起來，方便商務智能應用的開發。它的出現，使得一系列的面向商務智能的獨立產品如Jfree、Quartz等等，能夠集成在一起，構成一項項復雜的、完整的商務智能解決方案。

② 大數據分析中，有哪些常見的大數據分析模型

很多朋友還沒有接觸過大數據分析方案，認為其僅僅算是個願景而非現實——畢竟能夠證明其可行性與實際效果的案例確實相對有限。但可以肯定的是，實時數據流中包含著大量重要價值，足以幫助企業及人員在未來的工作中達成更為理想的結果。那麼，那些領域需要實時的數據分析呢？

1、醫療衛生與生命科學

2、保險業

3、電信運營商

4、能源行業

5、電子商務

6、運輸行業

7、投機市場

8、執法領域

9、技術領域

常見數據分析模型有哪些呢？

1、行為事件分析：行為事件分析法具有強大的篩選、分組和聚合能力，邏輯清晰且使用簡單，已被廣泛應用。

2、漏斗分析模型：漏斗分析是一套流程分析，它能夠科學反映用戶行為狀態以及從起點到終點各階段用戶轉化率情況的重要分析模型。

3、留存分析模型留存分析是一種用來分析用戶參與情況/活躍程度的分析模型，考察進行初始化行為的用戶中，有多少人會進行後續行為。這是用來衡量產品對用戶價值高低的重要方法。

4、分布分析模型分布分析是用戶在特定指標下的頻次、總額等的歸類展現。

5、點擊分析模型即應用一種特殊亮度的顏色形式，顯示頁面或頁面組區域中不同元素點點擊密度的圖標。

6、用戶行為路徑分析模型用戶路徑分析，顧名思義，用戶在APP或網站中的訪問行為路徑。為了衡量網站優化的效果或營銷推廣的效果，以及了解用戶行為偏好，時常要對訪問路徑的轉換數據進行分析。

7、用戶分群分析模型用戶分群即用戶信息標簽化，通過用戶的歷史行為路徑、行為特徵、偏好等屬性，將具有相同屬性的用戶劃分為一個群體，並進行後續分析。

8、屬性分析模型根據用戶自身屬性對用戶進行分類與統計分析，比如查看用戶數量在注冊時間上的變化趨勢、省份等分布情況。

模型再多，選擇一種適合自己的就行，如何利益最大化才是我們追求的目標

③ 統計模型和大數據模型所使用的主要演算法有什麼異同

以每24小時作為一份時間（而非自然日），根據用戶的配置有兩種工作模式：帶狀模式中，用戶僅定義開始日期時，從開始日期（含）開始，每份時間1個分片地無限增加下去；環狀模式中，用戶定義了開始日期和結束日期時，以結束日期（含）和開始日期（含）之間的時間份數作為分片總數（分片數量固定），以類似取模的方式路由到這些分片里。

1. DBLE 啟動時，讀取用戶在 rule.xml 配置的 sBeginDate 來確定起始時間
2. 讀取用戶在 rule.xml 配置的 sPartionDay 來確定每個 MySQL 分片承載多少天內的數據
3. 讀取用戶在 rule.xml 配置的 dateFormat 來確定分片索引的日期格式
4. 在 DBLE 的運行過程中，用戶訪問使用這個演算法的表時，WHERE 子句中的分片索引值（字元串），會被提取出來嘗試轉換成 java 內部的時間類型
5. 然後求分片索引值與起始時間的差，除以 MySQL 分片承載的天數，確定所屬分片

1. DBLE 啟動時，讀取用戶在 rule.xml 配置的起始時間 sBeginDate、終止時間 sEndDate 和每個 MySQL 分片承載多少天數據 sPartionDay
2. 根據用戶設置，建立起以 sBeginDate 開始，每 sPartionDay 天一個分片，直到 sEndDate 為止的一個環，把分片串聯串聯起來
3. 讀取用戶在 rule.xml 配置的 defaultNode
4. 在 DBLE 的運行過程中，用戶訪問使用這個演算法的表時，WHERE 子句中的分片索引值（字元串），會被提取出來嘗試轉換成 Java 內部的日期類型
5. 然後求分片索引值與起始日期的差：如果分片索引值不早於 sBeginDate（哪怕晚於 sEndDate），就以 MySQL 分片承載的天數為模數，對分片索引值求模得到所屬分片；如果分片索引值早於 sBeginDate，就會被放到 defaultNode 分片上

與MyCat的類似分片演算法對比

中間件
DBLE
MyCat

分片演算法種類 date 分區演算法 按日期（天）分片
兩種中間件的取模範圍分片演算法使用上無差別

開發注意點
【分片索引】1. 必須是字元串，而且 java.text.SimpleDateFormat 能基於用戶指定的 dateFormat 來轉換成 java.util.Date
【分片索引】2. 提供帶狀模式和環狀模式兩種模式
【分片索引】3. 帶狀模式以 sBeginDate（含）起，以 86400000 毫秒（24 小時整）為一份，每 sPartionDay 份為一個分片，理論上分片數量可以無限增長，但是出現 sBeginDate 之前的數據而且沒有設定 defaultNode 的話，會路由失敗（如果有 defaultNode，則路由至 defaultNode）
【分片索引】4. 環狀模式以 86400000 毫秒（24 小時整）為一份，每 sPartionDay 份為一個分片，以 sBeginDate（含）到 sEndDate（含）的時間長度除以單個分片長度得到恆定的分片數量，但是出現 sBeginDate 之前的數據而且沒有設定 defaultNode 的話，會路由失敗（如果有 defaultNode，則路由至 defaultNode）
【分片索引】5. 無論哪種模式，分片索引欄位的格式化字元串 dateFormat 由用戶指定
【分片索引】6. 無論哪種模式，劃分不是以日歷時間為准，無法對應自然月和自然年，且會受閏秒問題影響

運維注意點
【擴容】1. 帶狀模式中，隨著 sBeginDate 之後的數據出現，分片數量的增加無需再平衡
【擴容】2. 帶狀模式沒有自動增添分片的能力，需要運維手工提前增加分片；如果路由策略計算出的分片並不存在時，會導致失敗
【擴容】3. 環狀模式中，如果新舊 [sBeginDate,sEndDate] 之間有重疊，需要進行部分數據遷移；如果新舊 [sBeginDate,sEndDate] 之間沒有重疊，需要數據再平衡

配置注意點
【配置項】1. 在 rule.xml 中，可配置項為 <propertyname="sBeginDate"> 、 <propertyname="sPartionDay"> 、 <propertyname="dateFormat"> 、 <propertyname="sEndDate"> 和 <propertyname="defaultNode">
【配置項】2.在 rule.xml 中配置 <propertyname="dateFormat">，符合 java.text.SimpleDateFormat 規范的字元串，用於告知 DBLE 如何解析sBeginDate和sEndDate

【配置項】3.在 rule.xml 中配置 <propertyname="sBeginDate">，必須是符合 dateFormat 的日期字元串

【配置項】4.在 rule.xml 中配置 <propertyname="sEndDate">，必須是符合 dateFormat 的日期字元串；配置了該項使用的是環狀模式，若沒有配置該項則使用的是帶狀模式

【配置項】5.在 rule.xml 中配置 <propertyname="sPartionDay">，非負整數，該分片策略以 86400000 毫秒（24 小時整）作為一份，而 sPartionDay 告訴 DBLE 把每多少份放在同一個分片

【配置項】6.在 rule.xml 中配置 <propertyname="defaultNode"> 標簽，非必須配置項，不配置該項的話，用戶的分片索引值沒落在 mapFile 定義

④ 大數據分析怎麼做最好

數據分析是基於商業目的，有目的的進行收集、整理、加工和分析數據，提煉有價信息的一個過程。

其過程概括起來主要包括：明確分析目的與框架、數據收集、數據處理、數據分析、數據展現和撰寫報告等6個階段。

一、明確分析目的與框架

一個分析項目，你的數據對象是誰？商業目的是什麼？要解決什麼業務問題？數據分析師對這些都要瞭然於心。

基於商業的理解，整理分析框架和分析思路。例如，減少新客戶的流失、優化活動效果、提高客戶響應率等等。不同的項目對數據的要求，使用的分析手段也是不一樣的。

二、數據收集

數據收集是按照確定的數據分析和框架內容，有目的的收集、整合相關數據的一個過程，它是數據分析的一個基礎。

三、數據處理

數據處理是指對收集到的數據進行加工、整理，以便開展數據分析，它是數據分析前必不可少的階段。這個過程是數據分析整個過程中最占據時間的，也在一定程度上取決於數據倉庫的搭建和數據質量的保證。

數據處理主要包括數據清洗、數據轉化等處理方法。

四、數據分析

數據分析是指通過分析手段、方法和技巧對准備好的數據進行探索、分析，從中發現因果關系、內部聯系和業務規律，為商業目提供決策參考。

到了這個階段，要能駕馭數據、開展數據分析，就要涉及到工具和方法的使用。其一要熟悉常規數據分析方法，最基本的要了解例如方差、回歸、因子、聚類、分類、時間序列等多元和數據分析方法的原理、使用范圍、優缺點和結果的解釋；其二是熟悉1+1種數據分析工具，Excel是最常見，一般的數據分析我們可以通過Excel完成，後而要熟悉一個專業的分析軟體，如數據分析工具SPSS/SAS/R/Matlab/Tableau/QlikView/大數據魔鏡（國產）等，便於進行一些專業的統計分析、數據建模等。

五、數據展現

一般情況下，數據分析的結果都是通過圖、表的方式來呈現，俗話說：字不如表，表不如圖。。藉助數據展現手段，能更直觀的讓數據分析師表述想要呈現的信息、觀點和建議。。

常用的圖表包括餅圖、折線圖、柱形圖/條形圖、散點圖、雷達圖等、金字塔圖、矩陣圖、漏斗圖、帕雷托圖等。

六、撰寫報告

最後階段，就是撰寫數據分析報告，這是對整個數據分析成果的一個呈現。通過分析報告，把數據分析的目的、過程、結果及方案完整呈現出來，以供商業目的提供參考。

一份好的數據分析報告，首先需要有一個好的分析框架，並且圖文並茂，層次明晰，能夠讓閱讀者一目瞭然。結構清晰、主次分明可以使閱讀者正確理解報告內容；圖文並茂，可以令數據更加生動活潑，提高視覺沖擊力，有助於閱讀者更形象、直觀地看清楚問題和結論，從而產生思考。

另外，數據分析報告需要有明確的結論、建議和解決方案，不僅僅是找出問題，後者是更重要的，否則稱不上好的分析，同時也失去了報告的意義，數據的初衷就是為解決一個商業目的才進行的分析，不能舍本求末。

⑤ 大數據分析領域有哪些分析模型

數據角度的模型一般指的是統計或數據挖掘、機器學習、人工智慧等類型的模型，是純粹從科學角度出發定義的。
1. 降維
在面對海量數據或大數據進行數據挖掘時，通常會面臨「維度災難」，原因是數據集的維度可以不斷增加直至無窮多，但計算機的處理能力和速度卻是有限的；另外，數據集的大量維度之間可能存在共線性的關系，這會直接導致學習模型的健壯性不夠，甚至很多時候演算法結果會失效。因此，我們需要降低維度數量並降低維度間共線性影響。
數據降維也被成為數據歸約或數據約減，其目的是減少參與數據計算和建模維度的數量。數據降維的思路有兩類：一類是基於特徵選擇的降維，一類是是基於維度轉換的降維。
2. 回歸
回歸是研究自變數x對因變數y影響的一種數據分析方法。最簡單的回歸模型是一元線性回歸（只包括一個自變數和一個因變數，且二者的關系可用一條直線近似表示），可以表示為Y=β0+β1x+ε，其中Y為因變數，x為自變數，β1為影響系數，β0為截距，ε為隨機誤差。
回歸分析按照自變數的個數分為一元回歸模型和多元回歸模型；按照影響是否線性分為線性回歸和非線性回歸。
3. 聚類
聚類是數據挖掘和計算中的基本任務，聚類是將大量數據集中具有「相似」特徵的數據點劃分為統一類別，並最終生成多個類的方法。聚類分析的基本思想是「物以類聚、人以群分」，因此大量的數據集中必然存在相似的數據點，基於這個假設就可以將數據區分出來，並發現每個數據集（分類）的特徵。
4. 分類
分類演算法通過對已知類別訓練集的計算和分析，從中發現類別規則，以此預測新數據的類別的一類演算法。分類演算法是解決分類問題的方法，是數據挖掘、機器學習和模式識別中一個重要的研究領域。
5. 關聯
關聯規則學習通過尋找最能夠解釋數據變數之間關系的規則，來找出大量多元數據集中有用的關聯規則，它是從大量數據中發現多種數據之間關系的一種方法，另外，它還可以基於時間序列對多種數據間的關系進行挖掘。關聯分析的典型案例是「啤酒和尿布」的捆綁銷售，即買了尿布的用戶還會一起買啤酒。
6. 時間序列
時間序列是用來研究數據隨時間變化趨勢而變化的一類演算法，它是一種常用的回歸預測方法。它的原理是事物的連續性，所謂連續性是指客觀事物的發展具有合乎規律的連續性，事物發展是按照它本身固有的規律進行的。在一定條件下，只要規律賴以發生作用的條件不產生質的變化，則事物的基本發展趨勢在未來就還會延續下去。
7. 異常檢測
大多數數據挖掘或數據工作中，異常值都會在數據的預處理過程中被認為是「噪音」而剔除，以避免其對總體數據評估和分析挖掘的影響。但某些情況下，如果數據工作的目標就是圍繞異常值，那麼這些異常值會成為數據工作的焦點。
數據集中的異常數據通常被成為異常點、離群點或孤立點等，典型特徵是這些數據的特徵或規則與大多數數據不一致，呈現出「異常」的特點，而檢測這些數據的方法被稱為異常檢測。
8. 協同過濾
協同過濾（Collaborative Filtering，CF)）是利用集體智慧的一個典型方法，常被用於分辨特定對象（通常是人）可能感興趣的項目（項目可能是商品、資訊、書籍、音樂、帖子等），這些感興趣的內容來源於其他類似人群的興趣和愛好，然後被作為推薦內容推薦給特定對象。
9. 主題模型
主題模型（Topic Model），是提煉出文字中隱含主題的一種建模方法。在統計學中，主題就是詞彙表或特定詞語的詞語概率分布模型。所謂主題，是文字（文章、話語、句子）所表達的中心思想或核心概念。
10. 路徑、漏斗、歸因模型
路徑分析、漏斗分析、歸因分析和熱力圖分析原本是網站數據分析的常用分析方法，但隨著認知計算、機器學習、深度學習等方法的應用，原本很難衡量的線下用戶行為正在被識別、分析、關聯、打通，使得這些方法也可以應用到線下客戶行為和轉化分析。

⑥ 大數據分析用什麼軟體數據分析軟體有哪些優缺點是什麼

用過OurwayBI參加數據可視化大賽

OurwayBI採用Node.js。速度非常快，利用基於時間序列的內存計算技版術，減少與資料庫的交互權，可大大提升效率。操作指引更易上手：OurwayBI為了讓用戶不進行任何培訓即可掌握常用操作，設置了操作指引，智能引導用戶逐步掌握基本操作及各項技巧。整個產品的UI進行了大量細節優化，以增加使用者的美觀要求與使用體驗等。

我的小微笑數據可視化作品

⑦ 如何進行大數據分析及處理

探碼科技大數據分析及處理過程

聚雲化雨的處理方式

• 聚雲：探碼科技全面覆蓋各類數據的處理應用。以數據為原料，通過網路數據採集、生產設備數據採集的方式將各種原始數據凝結成雲，為客戶打造強大的數據存儲庫；

• 化雨：利用模型演算法和人工智慧等技術對存儲的數據進行計算整合讓數據與演算法產生質變反應化雲為雨，讓真正有價值的數據流動起來；

• 開渠引流，潤物無聲：將落下「雨水」匯合成數據湖泊，對數據進行標注與處理根據行業需求開渠引流，將一條一條的數據支流匯合集成數據應用中，為行業用戶帶來價值，做到春風化雨，潤物無聲。

⑧ 如何進行大數據分析及處理

探碼科技大數據分析及處理過程

聚雲化雨的處理方式

• 聚雲：探碼科技全面覆蓋各類數據的處理應用。以數據為原料，通過網路數據採集、生產設備數據採集的方式將各種原始數據凝結成雲，為客戶打造強大的數據存儲庫；

• 化雨：利用模型演算法和人工智慧等技術對存儲的數據進行計算整合讓數據與演算法產生質變反應化雲為雨，讓真正有價值的數據流動起來；

• 開渠引流，潤物無聲：將落下「雨水」匯合成數據湖泊，對數據進行標注與處理根據行業需求開渠引流，將一條一條的數據支流匯合集成數據應用中，為行業用戶帶來價值，做到春風化雨，潤物無聲。