大數(shù)據(jù)離線實戰(zhàn)項目

項目名稱：新浪微博數(shù)據(jù)分析系統(tǒng)
日均數(shù)據(jù)體量：3GB+
硬件環(huán)境：Hadoop集群 50臺
軟件環(huán)境：MapReduce+HBase0.98.9+Storm0.9.6+Hadoop2.5.2+Kafka2.10+Zooke
eper3.4.5+CentOS-6.5-X86
項目描述：
此次項目我們需要處理微博產生的數(shù)據(jù)，通過對數(shù)據(jù)的處理得到所需的數(shù)據(jù)，微博擁有大量的用戶，大量的用戶潛在的價值是巨大，怎么挖掘這些潛在的寶藏就是我們項目最直接的目的，為了能夠實時的進行數(shù)據(jù)處理使用Storm流式計算系統(tǒng)，和HBase、Zookeeper、Kafka組成框架，對數(shù)據(jù)進行處理，當然這些都是建立在hadoop集群上實現(xiàn)的，底層的存儲還是HDFS。

大數(shù)據(jù)實時全真項目

項目名稱：網絡流量流向異常賬號統(tǒng)計項目
數(shù)據(jù)體量：每天1000億，每秒峰值100 000
硬件環(huán)境：Hadoop集群 600臺
軟件環(huán)境：Hadoop2.5.2+Hive1.2.1+MR+Oracle10g
項目描述：
運營商骨干網上采集現(xiàn)網流量流向信息，根據(jù)這些原始信息檢測賬號是否存在異常，如果多個終端使用同一個寬帶賬號，超過一定閾值則觸發(fā)報警機制，例如閾值為5時，同一個賬號同時連接的終端數(shù)量不能超過該值，如果超過則報警。

Spark階段項目

項目名稱：京東網上商城數(shù)據(jù)統(tǒng)計分析平臺
數(shù)據(jù)體量：5000W+/日
硬件環(huán)境：centos-6.5-x86 集群：spark standalone(Master-1,Worker-3)
軟件環(huán)境：hadoop,spark,hive,mysql,idea,navicat,kafka,flume
每日處理的數(shù)據(jù)量：3GB
項目描述：
基于京東網上商城數(shù)據(jù)統(tǒng)計分析平臺--該項目采用了目前大數(shù)據(jù)領域非常流行的技術——Spark。本項目使用了Spark技術生態(tài)棧中最常用的三個技術框架，Spark Core、Spark SQL和Spark Streaming，進行離線計算和實時計算業(yè)務模塊的開發(fā)。實現(xiàn)了包括:統(tǒng)計和分析UV、PV、登錄、留存、熱門商品離線統(tǒng)計、廣告流量實時統(tǒng)計3個業(yè)務模塊。